Характеристики / Highlights
- Контекст / context: 131 072 токенов
- Квантизация / quantization: AWQ (data-free), веса ~24 GB
- Tool calling: parser
qwen3_xml (--enable-auto-tool-choice)
- Языки: русский, беларуская, English + код
Запуск / Serving (vLLM)
vllm serve artcloud/Zubr1.0-35B-A3B-AWQ \
--served-model-name zubr1.0-35b-a3b \
--enable-auto-tool-choice --tool-call-parser qwen3_xml
API
Модель доступна как zubr (alias latest) и Zubr1.0-35B-A3B на
https://api.zubriq.by/v1 (OpenAI-совместимый API, ключи —
console.zubriq.by).
Атрибуция / Attribution
Базовая модель © Alibaba Cloud, Qwen/Qwen3.6-35B-A3B,
Apache License 2.0. Данный репозиторий — AWQ-квантизация без изменения весов базовой
модели сверх квантизации; калибровочный датасет не использовался (data-free).