GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
TilQazyna
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
TilQazyna
Model Tree
meta-llama/Meta-Llama-3-8B
Input Modalities
Output Modalities
Supported Functionality
llama-kaz-instruct-8B-1 — Meta-Llama-3-8B негізінде қазақ мәтінімен жалғастыра оқытылып, кейін қазақша нұсқау деректерімен fine-tune жасалған, көлемі 16.07 ГБ тілдік модель. Репозиторийде төрт бөлікке бөлінген safetensors салмақтары, tokenizer және конфигурация файлдары бар.
| Параметр | Мәні |
|---|---|
| Архитектура | LlamaForCausalLM |
| Жасырын қабат өлшемі | 4096 |
| Қабат саны | 32 |
| Attention басы | 32 |
| Сөздік көлемі | 128256 |
| Контекст ұзындығы | 8192 |
| Аралық қабат өлшемі | 14336 |
Модель қазақша мәтінмен жұмыс істеуге, мәтіндік сұрақтарға жауап беруге, пунктуация мен грамматиканы түзетуге және мәтінді ықшамдауға бейімделген.
python
from transformers import AutoModelForCausalLM, AutoTokenizerrepo = "TilQazyna/llama-kaz-instruct-8B-1"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, device_map="auto")prompt = "Тапсырма: Келесі мәтіндегі пунктуацияларды және грамматикалық қателерді дұрыста.\n\nМәтін: Жаналыктар леби осиндай\n\nЖауабы:"inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=128)print(tokenizer.decode(output[0], skip_special_tokens=True))
Модель карточкасы мен файлдар тізімі ашық көрінеді. Салмақтарды жүктеу үшін «Request access» арқылы өтінім жіберіп, TilQazyna командасының мақұлдауын алу керек.
Қазақша нұсқауларға арналған кейінгі модель ретінде Til-2B-instruct көрсетілген.
llama-kaz-instruct-8B-1 — языковая модель объёмом 16.07 ГБ на основе Meta-Llama-3-8B, дополнительно обученная на казахских текстах и затем прошедшая fine-tune на инструкциях на казахском языке. Репозиторий содержит веса safetensors в четырёх частях, tokenizer и конфигурацию.
| Параметр | Значение |
|---|---|
| Архитектура | LlamaForCausalLM |
| Размер скрытого слоя | 4096 |
| Слоёв | 32 |
| Голов attention | 32 |
| Размер словаря | 128256 |
| Длина контекста | 8192 |
| Размер промежуточного слоя | 14336 |
Модель адаптирована к работе с казахским текстом, ответам на текстовые вопросы, исправлению пунктуации и грамматики, а также суммаризации.
python
from transformers import AutoModelForCausalLM, AutoTokenizerrepo = "TilQazyna/llama-kaz-instruct-8B-1"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, device_map="auto")prompt = "Тапсырма: Келесі мәтіндегі пунктуацияларды және грамматикалық қателерді дұрыста.\n\nМәтін: Жаналыктар леби осиндай\n\nЖауабы:"inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=128)print(tokenizer.decode(output[0], skip_special_tokens=True))
Карточка модели и список файлов видны без заявки. Для скачивания весов требуется одобрение команды TilQazyna после обращения через кнопку «Request access».
В качестве более поздней модели для казахских инструкций указан Til-2B-instruct.
llama-kaz-instruct-8B-1 is a 16.07 GB language model based on Meta-Llama-3-8B, continued-pretrained on Kazakh text and subsequently fine-tuned on Kazakh instruction data. The repository contains four safetensors weight shards together with tokenizer and configuration files.
| Property | Value |
|---|---|
| Architecture | LlamaForCausalLM |
| Hidden size | 4096 |
| Hidden layers | 32 |
| Attention heads | 32 |
| Vocabulary size | 128256 |
| Context length | 8192 |
| Intermediate size | 14336 |
The model is adapted for Kazakh text processing, text-based question answering, punctuation and grammar correction, and summarization.
python
from transformers import AutoModelForCausalLM, AutoTokenizerrepo = "TilQazyna/llama-kaz-instruct-8B-1"tokenizer = AutoTokenizer.from_pretrained(repo)model = AutoModelForCausalLM.from_pretrained(repo, device_map="auto")prompt = "Тапсырма: Келесі мәтіндегі пунктуацияларды және грамматикалық қателерді дұрыста.\n\nМәтін: Жаналыктар леби осиндай\n\nЖауабы:"inputs = tokenizer(prompt, return_tensors="pt").to(model.device)output = model.generate(**inputs, max_new_tokens=128)print(tokenizer.decode(output[0], skip_special_tokens=True))
The model card and file listing can be viewed without applying. Downloading the weights requires approval from the TilQazyna team after submitting an application with the “Request access” button.
Til-2B-instruct is listed as a later model for Kazakh-language instruction following.
Лицензия · License: apache-2.0 · TilQazyna