GLM-5.2 is live. #1 throughput on OpenRouter, pay-per-token on FriendliAI. Try it today ➜
monkeydnam
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
monkeydnam
Model Tree
unsloth/Qwen3.5-4B
Input Modalities
Output Modalities
Supported Functionality
| Run | target | regression | format | latency (ms) |
|---|---|---|---|---|
| (a) base + prompt ngây thơ | 0.000 | 0.758 | 0.000 | 3373 |
| (b) base + prompt tối ưu | 0.765 | 0.758 | 1.000 | 1082 |
| (c) LoRA fine-tune (adapter này) | 0.970 | 0.611 | 1.000 | 1445 |
Phán quyết: FAILED — target vượt xa mốc (b) (Δ +0.205), nhưng regression tụt 0.147
(ngưỡng cho phép 0.020) do quên thảm hoạ (catastrophic forgetting, deck §14.3). Chi tiết
phân tích trong submission/REPORT.md §5.
target_modules=text-linear (toàn bộ linear của text decoder, không gồm vision tower) ·
r=16, alpha=32 · LR=1e-4 (≈10× thang full fine-tune) · 30 optimizer step (2 epoch,
225 mẫu train, batch hiệu dụng 16).
python
from peft import PeftModelfrom transformers import AutoModelForCausalLM, AutoTokenizerbase = AutoModelForCausalLM.from_pretrained("unsloth/Qwen3.5-4B", dtype="auto", device_map="auto")tok = AutoTokenizer.from_pretrained("unsloth/Qwen3.5-4B")model = PeftModel.from_pretrained(base, "monkeydnam/lab21-2A202601307-qwen35-triage-vi")
⚠ Fine-tune này chưa nên deploy — xem lý do ở submission/REPORT.md §7 (quên thảm
hoạ trên năng lực tổng quát). Cần thêm 1-5% replay data trước khi dùng thật.