Moliq LoRA
LoRA-адаптер для Qwen/Qwen3-4B (режим без размышлений, enable_thinking=False) — помощник Moliq по банковским услугам Узбекистана.
- Обучение: QLoRA r=16, α=32, все линейные слои; 1 эпоха на 2 219 примерах (Kaggle, T4, 6 ч), v2: вопросы по банку и виду кредита, меньше ложных отказов.
- Данные: вопросы и ответы, собранные из официальных данных ЦБ — портал bankxizmatlari.uz (34 банка: реквизиты, кредиты, вклады, карты, курсы) и finlit.uz (FAQ, статьи). Ответ строится только по контексту со ссылками [n]; ~10% примеров — отказ, если ответа в контексте нет.
- Валидационный лосс: 1,432 → 0,050.
- Работает в связке с поиском
moliq_rag.py (тот же формат промпта) — Space Azamaka/moliq-ai.