GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
TilQazyna
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
TilQazyna
Model Tree
TilQazyna/Til-2B
Input Modalities
Output Modalities
Supported Functionality
Til-2B-instruct — қазақша сұрақ-жауап, мәтін жазу, қорытындылау және қайта жазуға бейімделген 1977M параметрлі модель. Репозиторий көлемі — 3.97 ГБ. Ол Til-2B негізінде Til-Instruct деректерімен fine-tune жасалған.
| Сипаттама | Мәні |
|---|---|
| Архитектура | DeepseekV3ForCausalLM, MLA |
| Қабат саны | 30 |
| Контекст | 4096 токен |
| Формат | ChatML |
| Оқыту деректері | шамамен 345K instruction–response жұбы |
Деректердің шамамен 70% қазақ тілінде; орыс, ағылшын, код және математика тапсырмалары да бар. Модельде safety alignment және RLHF қолданылмаған, сондықтан фактілер мен сандық жауаптар тексеріледі.
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer repo = "TilQazyna/Til-2B-instruct"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")messages = [{"role": "user", "content": "Денсаулықты сақтау үшін 3 кеңес бер."}]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=300)print(tokenizer.decode(output[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))Карточка мен файлдар тізімі ашық. «Request access» өтінімін TilQazyna командасы мақұлдаған соң файлдар жүктеледі.
Base-модель — Til-2B, оқыту деректері — Til-Instruct.
Til-2B-instruct — модель на 1977M параметров для вопросов и ответов, написания, суммаризации и перефразирования с приоритетом казахского языка. Объём репозитория — 3.97 ГБ. Это fine-tune Til-2B на Til-Instruct.
| Характеристика | Значение |
|---|---|
| Архитектура | DeepseekV3ForCausalLM, MLA |
| Слоёв | 30 |
| Контекст | 4096 токенов |
| Формат | ChatML |
| Данные обучения | около 345K пар instruction–response |
Около 70% данных — на казахском; также есть задания на русском, английском, коде и математике. Safety alignment и RLHF не применялись, поэтому факты и числовые ответы нужно проверять.
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer repo = "TilQazyna/Til-2B-instruct"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")messages = [{"role": "user", "content": "Денсаулықты сақтау үшін 3 кеңес бер."}]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=300)print(tokenizer.decode(output[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))Карточка и файлы перечислены публично. Скачивание разрешается после рассмотрения командой TilQazyna заявки через «Request access».
Базовая модель — Til-2B, данные обучения — Til-Instruct.
Til-2B-instruct is a 1977M-parameter model for Kazakh-first question answering, writing, summarization, and rewriting. The repository occupies 3.97 GB. It fine-tunes Til-2B on Til-Instruct.
| Characteristic | Value |
|---|---|
| Architecture | DeepseekV3ForCausalLM, MLA |
| Layers | 30 |
| Context | 4096 tokens |
| Format | ChatML |
| Training data | about 345K instruction–response pairs |
About 70% of the data is Kazakh, alongside Russian, English, code, and mathematics tasks. The checkpoint has no safety alignment or RLHF, so factual and numerical outputs should be verified.
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer repo = "TilQazyna/Til-2B-instruct"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")messages = [{"role": "user", "content": "Денсаулықты сақтау үшін 3 кеңес бер."}]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=300)print(tokenizer.decode(output[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))The card and file list are public. Downloads require a request through “Request access,” reviewed by the TilQazyna team.
The base checkpoint is Til-2B, and the training dataset is Til-Instruct.
Лицензия · License: apache-2.0 · TilQazyna
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer repo = "TilQazyna/Til-2B-instruct"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")messages = [{"role": "user", "content": "Денсаулықты сақтау үшін 3 кеңес бер."}]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=300)print(tokenizer.decode(output[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer repo = "TilQazyna/Til-2B-instruct"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")messages = [{"role": "user", "content": "Денсаулықты сақтау үшін 3 кеңес бер."}]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=300)print(tokenizer.decode(output[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer repo = "TilQazyna/Til-2B-instruct"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, dtype=torch.bfloat16, device_map="auto")messages = [{"role": "user", "content": "Денсаулықты сақтау үшін 3 кеңес бер."}]prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=300)print(tokenizer.decode(output[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))