GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
umairjamali
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
umairjamali
Model Tree
Qwen/Qwen2.5-7B-Instruct
Input Modalities
Output Modalities
Supported Functionality
Qwen/Qwen2.5-7B-Instructumairjamali/balochi-instructions-1k)پُرسِش (Prompt): سلام، مروچی گوادرءِ بابتءَ کسانیں سرپدی یے بہ دے۔
پَسَو (Response): گوادر باز جوانیں، تندیں ءُ آرامداریں کوھنیں مردمے است کہ اودا مدام لڈّ ءُ راجی پجار ءِ واستا کشار کن انت۔ آئی ءِ روایات ءُ راجدپتر ءِ بابت ءَ گوادر ءِ کلاسیکی باب ءُ بونکاں پیم پہ گوش کن انت...
پُرسِش (Prompt): بلوچ راجءِ مہمانداریءِ بابتءَ کسانیں سرپدی یے بہ دے۔
پَسَو (Response): مہمانداری بلوچستان ءِ مزنیں ڈولداریں حقیقہ انت... مردمے وتی سارتیں ورنایاں بازیں کساس ءُ خاصیں سازاں دیم ءَ بریت ءُ آئی ءَ شرپ ءُ زوتی وس ءِ بخشگی دنت۔
پُرسِش (Prompt): سید ظہور شاہ ہاشمی کئے ات ءُ آئی ءِ کار چے انت؟
پَسَو (Response): سید ظہور شاہ ہاشمی تہذیبی، جغرافیائی ءُ تاریخی کتابانی تہا مزنیں راجدپتر است ات... آ وتی کتابانی تہا انقلابی ڈولداری ءُ انسان ءِ فردی ءُ جمجمیں حقّانی توار داتگ ات... وتی زبان ءُ پجار ءِ گنجیجہ جوڑ بوتگ۔
peft and transformers:python
import torchfrom peft import PeftModelfrom transformers import AutoModelForCausalLM, AutoTokenizer base_model_id = "Qwen/Qwen2.5-7B-Instruct"adapter_id = "umairjamali/balochi-qwen-2.5-7b-instruct" tokenizer = AutoTokenizer.from_pretrained(base_model_id)base_model = AutoModelForCausalLM.from_pretrained( base_model_id, torch_dtype=torch.float16, device_map="auto")model = PeftModel.from_pretrained(base_model, adapter_id) SYSTEM_PROMPT = ( "شما یک سوبین ءُ زانتکاریں بلوچی کومکارے ات۔ " "دروستیں پسواں گوں دلجمی ءُ شریں وڑےءَ پہ گوریچانی/روچدراتی معیاری بلوچی نبشتہانکءَ بہ دئے۔") prompt = "سلام، مروچی گوادرءِ بابتءَ کسانیں سرپدی یے بہ دے۔" messages = [ {"role": "system", "content": SYSTEM_PROMPT}, {"role": "user", "content": prompt}] text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer([text], return_tensors="pt").to(model.device) outputs = model.generate( **inputs, max_new_tokens=512, temperature=0.7, top_p=0.9, repetition_penalty=1.15) response = tokenizer.decode(outputs[0][len(inputs.input_ids[0]):], skip_special_tokens=True)print(response)This model is released under the Apache-2.0 license.
import torchfrom peft import PeftModelfrom transformers import AutoModelForCausalLM, AutoTokenizer base_model_id = "Qwen/Qwen2.5-7B-Instruct"adapter_id = "umairjamali/balochi-qwen-2.5-7b-instruct" tokenizer = AutoTokenizer.from_pretrained(base_model_id)base_model = AutoModelForCausalLM.from_pretrained( base_model_id, torch_dtype=torch.float16, device_map="auto")model = PeftModel.from_pretrained(base_model, adapter_id) SYSTEM_PROMPT = ( "شما یک سوبین ءُ زانتکاریں بلوچی کومکارے ات۔ " "دروستیں پسواں گوں دلجمی ءُ شریں وڑےءَ پہ گوریچانی/روچدراتی معیاری بلوچی نبشتہانکءَ بہ دئے۔") prompt = "سلام، مروچی گوادرءِ بابتءَ کسانیں سرپدی یے بہ دے۔" messages = [ {"role": "system", "content": SYSTEM_PROMPT}, {"role": "user", "content": prompt}] text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer([text], return_tensors="pt").to(model.device) outputs = model.generate( **inputs, max_new_tokens=512, temperature=0.7, top_p=0.9, repetition_penalty=1.15) response = tokenizer.decode(outputs[0][len(inputs.input_ids[0]):], skip_special_tokens=True)print(response)