نتایج کلیدی (CPU دو هستهای، ۴GB رم)
Table with columns: سنجه, مدل پایه, بعد از آموزش/بهینهسازی| سنجه | مدل پایه | بعد از آموزش/بهینهسازی |
|---|
| سرعت تولید (decode، حریص) | 10.73 tok/s (PyTorch bf16) | 27.88 tok/s (GGUF Q4_K_M) — 2.6× |
| perplexity فارسی (متن نگهداشتهشده) | 10.464 | 9.129 (−12.8٪) |
| حجم نسخه استقرار | 1,519 MB | 397 MB (3.8× کوچکتر) |
| پارامترهای تغییر یافته | — | 596,049,920 (۱۰۰٪) |
گزارش کامل (PDF فارسی، ۸ صفحه، شامل پاسخ پنج سؤال قبل/بعد از آموزش): report/report-fa.pdf
فایلها
model.safetensors + config.json + tokenizer.json — وزنهای فاینتیون کامل (bf16)
gguf/qwen3-06b-fa-ft-q4_k_m.gguf — نسخه استقرار (۲۷٫۹ tok/s)
gguf/qwen3-06b-base-q4_k_m.gguf — نسخه مرجع پایه (۲۴٫۷ tok/s)
datasets/ — اسلایسهای آموزشی دو دیتاست + متن ارزیابی نگهداشتهشده
benchmarks/ — نتایج خام (پایه و بعد از آموزش)
scripts/ — کد کامل بازتولید (بنچمارک، آموزش، نمودار، گزارش)
report/ — گزارش PDF + HTML
تنظیمات آموزش
Adafactor (lr=5e-4، گرمشدن ۲۰ گامی) · bf16 · seq=128 · batch=1 · gradient checkpointing · ۲۵۰ گام (~۳۵ دقیقه) ·
۴٫۷M توکن فارسی · ۶٬۸۴۴ سند · ارزیابی روی ۴۰ سند جدا شده.
روش استفاده
# llama.cpp./llama-cli -m gguf/qwen3-06b-fa-ft-q4_k_m.gguf -no-cnv -p "پایتخت ایران کجاست" -n 96 --temp 0 # transformersfrom transformers import AutoModelForCausalLM, AutoTokenizerm = AutoModelForCausalLM.from_pretrained("AIgenius1/qwen3-06b-fa-fullft-speed", torch_dtype="bfloat16")t = AutoTokenizer.from_pretrained("AIgenius1/qwen3-06b-fa-fullft-speed")
محدودیتها
آموزش از نوع پیشآموزش ادامهدار روی متن خام بود (بدون جفت پرسش/پاسخ)؛ بنابراین perplexity و روانیِ فارسی
بهبود یافته اما رفتار گفتوگویی/دستورالعملی تغییر بنیادی نکرده است. برای پیروی دستوری، مرحله SFT لازم است.
پاسخهای مقایسهای قبل/بعد در بخش ۷ گزارش آمده است.
English summary: Full fine-tuning (all 596M params, Adafactor, bf16, 250 steps on 4.7M Persian tokens
from the two AIgenius1 datasets) + GGUF Q4_K_M quantization. Held-out Persian perplexity 10.464 → 9.129;
generation speed 10.73 → 27.88 tok/s (2.6×) on a 2-core CPU; deployment size 397 MB. Full engineering
report (Persian) in report/report-fa.pdf.