GLM-5.2 is live. #1 throughput on OpenRouter, pay-per-token on FriendliAI. Try it today ➜
ssilistre
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
ssilistre
Model Tree
Base
unsloth/Qwen3-4B-Instruct-2507
Adapter
this model
Input Modalities
Text
Output Modalities
Text
Supported Functionality
Dedicated Endpoints
Container
| Temel model | unsloth/Qwen3-4B-Instruct-2507-unsloth-bnb-4bit |
| Yöntem | LoRA (4-bit QLoRA), Unsloth |
| Veri seti | ssilistre/carnegie-dost-kazanma-tr — 1001 kayıt |
| Rank / alpha | 16 / 32 |
| Dropout | 0 |
| Hedef modüller | q_proj k_proj v_proj o_proj gate_proj up_proj down_proj |
| Adım | 60 (≈ 1 epoch) |
| Etkili batch | 8 (2 × 4 accumulation) |
| Sekans uzunluğu | 1024, packing (bfd) |
| Öğrenme oranı | 2e-4, linear, %5 warmup |
| Optimizer | adamw_8bit, weight decay 0.01 |
| Donanım | Tesla T4 |
| Adaptör boyutu | 132 MB |
markdown
adım 10 → 2.331adım 20 → 1.935adım 30 → 1.830adım 40 → 1.749adım 50 → 1.754adım 60 → 1.742
Son 20 adımda loss düzleşti ve geri yükselmedi — model bir epoch içinde yakınsadı, ezberleme (overfitting) belirtisi yok.
Adım sayısı veri setinin token toplamına göre seçildi: 1001 örnek ≈ 499 bin token, 60 adım × 8192 token/adım ≈ 0,98 epoch.
python
from unsloth import FastLanguageModelmodel, tokenizer = FastLanguageModel.from_pretrained("ssilistre/carnegie-dost-kazanma-lora",max_seq_length=1024,load_in_4bit=True,)FastLanguageModel.for_inference(model)msgs = [{"role": "user","content": "Ekip arkadaşım sürekli işleri geç teslim ediyor. Ona bunu nasıl söylemeliyim?"}]inputs = tokenizer.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to("cuda")out = model.generate(input_ids=inputs, max_new_tokens=300, temperature=0.7, top_p=0.9, do_sample=True)print(tokenizer.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))
PEFT ile:
python
from peft import PeftModelfrom transformers import AutoModelForCausalLM, AutoTokenizerbase = AutoModelForCausalLM.from_pretrained("unsloth/Qwen3-4B-Instruct-2507", device_map="auto")model = PeftModel.from_pretrained(base, "ssilistre/carnegie-dost-kazanma-lora")tokenizer = AutoTokenizer.from_pretrained("ssilistre/carnegie-dost-kazanma-lora")
| Benchmark | Metrik | Base (Qwen3-4B-Instruct-2507) | Bu model (LoRA) | Fark |
|---|---|---|---|---|
| Türkçe MMLU (~6.2K soru) | doğruluk % | 66.13 | 59.94 | -6.19 |
| XCOPA-tr (500 soru) | doğruluk % | 91.80 | 82.40 | -9.40 |
| turkish_nuance (66 soru) | ort. anlamsal benzerlik | 58.86 | 50.37 | -8.50 |
| Bölüm | Base | LoRA | Fark |
|---|---|---|---|
| Çocuk Gelişimi | 75.00 | 60.00 | -15.00 |
| Okul Öncesi Öğretmenliği | 79.00 | 65.00 | -14.00 |
| Lojistik | 69.00 | 55.00 | -14.00 |
| Felsefe | 72.00 | 58.00 | -14.00 |
| TUS |
paraphrase-multilingual-mpnet-base-v2 anlamsal fallback), transformers + PEFT ile.<tool_call> artifact'ları benzerlik skorunu düşürüyor. Bu, küçük ve dar veri setiyle yapılan fine-tune'un bilinen riskidir ve sonuçlar dürüstçe raporlanmıştır.| turkish_creativity (80 soru) | ort. anlamsal benzerlik | 60.55 | 49.02 | -11.54 |
| turkish_reasoning (85 soru) | ort. anlamsal benzerlik | 58.27 | 35.91 | -22.35 |
| 69.00 |
| 56.00 |
| -13.00 |
| Laborant ve Veteriner Sağlık | 70.00 | 58.00 | -12.00 |
| Fotoğrafçılık ve Kameramanlık | 72.00 | 60.00 | -12.00 |
| İşletme Yönetimi | 77.00 | 66.00 | -11.00 |
| Yaşlı Bakımı | 69.00 | 58.00 | -11.00 |
| Uluslararası Ticaret ve Lojistik Yönetimi | 66.00 | 55.00 | -11.00 |