GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
AvitoTech
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
AvitoTech
Model Tree
Qwen/Qwen3-8B
Input Modalities
Output Modalities
Supported Functionality
A-vibe это большая языковая модель, созданная Авито Тех, дочерней технологической компанией Авито, на базе открытой модели Qwen3-8B-Base. Мы адаптировали Qwen3-8B-Base под русский язык и домен Авито с помощью нескольких шагов:
В результате нам удалось получить модель, которая выигрывает instruct версию Qwen3-8B по многим русскоязычным бенчмаркам. На SFT и RL этапе нам удалось научить модель Function Calling и улучшить ее навыки в решении математических задач.
| Qwen3-8B (no_think) | A-vibe | |
|---|---|---|
| mmlu_ru | 0,701 | 0,718 |
| mmlu_en | 0,730 | 0,752 |
| gpqa_diamond_ru | 0,318 | 0,343 |
| gpqa_diamond_en | 0,369 | 0,318 |
| shlepa | 0,454 | 0,486 |
| baby mmlu | 0,682 | 0,766 |
| math_500_ru | 0,546 | 0,686 |
| math_500_en | 0,736 | 0,714 |
| gsm8k_en | 0,927 | 0,910 |
| DOoM | 0,240 | 0,280 |
| ru_facts | 0,724 | 0,718 |
| rublimp | 0,916 | 0,930 |
| ru_drop | 0,318 | 0,394 |
| BFCL_V3_en | 60,2% | 58,63% |
| BFCL_V3_ru | 50.72% | 49.00% |
| MERA_text | 0,510 | 0,618 |
| MERA CODE private total | 0,336 | 0,367 |
В токенизаторе A-vibe плотность токенизации выше, чем у Qwen3-8B поэтому число токенов в контексте и при генерации стало меньше для одинаковых примеров. Кроме того, размер самой модели сократился до 7.9B при 8.2B у Qwen3-8B. За счет этого одинаковые русскоязычные примеры адаптированной моделью обрабатываются быстрее в среднем на 15-25% в сравнении с исходной Qwen3-8B
Ниже представлен фрагмент кода, демонстрирующий, как загрузить токенизатор и модель, а также как сгенерировать ответ.
python
from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "AvitoTech/avibe" model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype="auto", device_map="auto")tokenizer = AutoTokenizer.from_pretrained(model_name) prompt = "Привет, подскажи рецепт борща"messages = [ {"role": "user", "content": prompt}]text = tokenizer.apply_chat_template( messages, tokenize=False, add_generation_prompt=True)model_inputs = tokenizer([text], return_tensors="pt").to(model.device) generated_ids = model.generate( **model_inputs, max_new_tokens=1024)generated_ids = [ output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)] response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]print(response)Подготовка бульона:
Овощи:
Сборка борща:
Приятного аппетита! 🍲
Финальные штрихи:
Подача: