GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
cihatyldz
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Model Details
Model Provider
cihatyldz
Model Tree
unsloth/Qwen2.5-7B-Instruct-bnb-4bit
Input Modalities
Output Modalities
Supported Functionality
| Özellik | Değer |
|---|---|
| Base Model | unsloth/Qwen2.5-7B-Instruct-bnb-4bit |
| Adaptör Tipi | LoRA (PEFT) |
| Eğitim Verisi | cihatyldz/akce-bankacilik-20k |
| Dil | Türkçe (birincil), İngilizce (ikincil) |
| Domain | Bankacılık / Müşteri Hizmetleri |
| Framework | Unsloth + TRL + PEFT |
| Lisans | Apache-2.0 |
| Geliştirici | @cihatyldz |
Bu model aşağıdaki senaryolar için optimize edilmiştir:
❌ Uygun olmayan kullanımlar:
python
from transformers import AutoModelForCausalLM, AutoTokenizerfrom peft import PeftModelimport torch base_model_id = "Qwen/Qwen2.5-7B-Instruct"lora_id = "cihatyldz/akce-qwen25-7b-lora" tokenizer = AutoTokenizer.from_pretrained(base_model_id)base = AutoModelForCausalLM.from_pretrained( base_model_id, torch_dtype=torch.bfloat16, device_map="auto",)model = PeftModel.from_pretrained(base, lora_id)model.eval() # Cevap üretmemessages = [ {"role": "system", "content": "Sen Akçe adında Türkçe bankacılık asistanısın."}, {"role": "user", "content": "EFT ile FAST arasındaki fark nedir?"},]text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(text, return_tensors="pt").to(model.device)out = model.generate(**inputs, max_new_tokens=400, do_sample=True, temperature=0.6, top_p=0.9)print(tokenizer.decode(out[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))python
from unsloth import FastLanguageModel model, tokenizer = FastLanguageModel.from_pretrained( model_name="cihatyldz/akce-qwen25-7b-lora", max_seq_length=2048, dtype=None, load_in_4bit=True,)FastLanguageModel.for_inference(model) messages = [{"role": "user", "content": "100 dolar kaç TL eder?"}]inputs = tokenizer.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_tensors="pt").to("cuda")out = model.generate(inputs, max_new_tokens=300, temperature=0.6)print(tokenizer.batch_decode(out)[0])python
merged = model.merge_and_unload()merged.save_pretrained("akce-qwen25-7b-merged")tokenizer.save_pretrained("akce-qwen25-7b-merged")| Parametre | Değer |
|---|---|
| LoRA rank (r) | 16 |
| LoRA alpha | 16 |
| LoRA dropout | 0 |
| Target modules | q_proj, k_proj, v_proj, o_proj, gate_proj, up_proj, down_proj |
| Sequence length | 2048 |
| Batch size (per device) | 4 |
| Gradient accumulation | 4 |
| Effective batch size | 16 |
| Learning rate | 2e-4 |
| LR scheduler | cosine |
| Warmup ratio | 0.03 |
| Optimizer | AdamW (8-bit) |
| Weight decay | 0.01 |
| Epochs | 2 |
| Precision | bfloat16 |
| Hardware | NVIDIA A100 (40GB) |
Prompt: 500 bin TL, 36 ay, %45 yıllık faizle kredi aylık taksiti ne olur?
Çıktı:
text
500.000 TL anapara, 36 ay vade ve %45 yıllık faiz oranıyla aylık taksitiniz yaklaşık 24.850 TL olur. Toplam geri ödeme 894.600 TL, ödeyeceğiniz toplam faiz ise 394.600 TL civarındadır. Dikkat etmeniz gerekenler:- Bu hesaplama sabit faiz oranı varsayımına dayanır- Dosya masrafı ve hayat sigortası eklenirse tutar değişir- Kredi notunuz oranı etkileyebilirPrompt: Phishing e-postasını nasıl anlarım?
Çıktı:
text
Phishing e-postalarını tespit etmek için şu ipuçlarına dikkat edin: 1. Gönderen adresi: Bankanızın resmi alan adından mı geliyor? (.com.tr, bank adı)2. Aciliyet baskısı: "Hemen tıklayın, hesabınız kapanacak" gibi ifadeler3. Link URL'leri: Fareyi üzerine getirince görünen adres şüpheli mi?4. Yazım hataları: Resmi iletişimde gramer/imla hataları tipik bir işarettir5. Kişisel bilgi talebi: Bankalar e-posta ile şifre/CVV istemez Şüpheli bir e-posta aldığınızda bankanızın müşteri hizmetlerini arayın, linke tıklamayın, ekli dosyayı açmayın.Prompt: EFT ile FAST arasında ne fark var?
Çıktı:
text
EFT ve FAST, Türkiye'de para transferi için kullanılan iki farklı sistemdir: EFT (Elektronik Fon Transferi):- Sadece mesai saatlerinde çalışır (09:00-17:30)- Hafta sonu ve tatil günlerinde işlem yapılamaz- Genellikle aynı gün valörlü- Limit: Banka politikasına göre değişir FAST (Fonların Anlık ve Sürekli Transferi):- 7/24 çalışır, hafta sonu dahil- Saniyeler içinde karşı tarafa ulaşır- İşlem limiti başlıç: 50.000 TL (banka bazında değişebilir)- Tüm katılımcı bankalar arası anlık Genel kullanım: Küçük tutarlar ve hız gerektiren işlemler için FAST, yüksek tutarlı planlı transferler için EFT tercih edilir.Bu modeli kullanırsanız lütfen atıfta bulunun:
bibtex
@misc{yildiz2025akce, author = {Cihat Yıldız}, title = {Akçe: Qwen2.5-7B LoRA for Turkish Banking Customer Service}, year = {2025}, publisher = {Hugging Face}, howpublished = {\url{https://huggingface.co/cihatyldz/akce-qwen25-7b-lora}}}Base model atfı:
bibtex
@misc{qwen2.5, title={Qwen2.5 Technical Report}, author={Qwen Team}, year={2024}, url={https://qwenlm.github.io/blog/qwen2.5/}}Geliştirici: @cihatyldz Proje: Akçe 🪙 — Türkçe Bankacılık AI
from transformers import AutoModelForCausalLM, AutoTokenizerfrom peft import PeftModelimport torch base_model_id = "Qwen/Qwen2.5-7B-Instruct"lora_id = "cihatyldz/akce-qwen25-7b-lora" tokenizer = AutoTokenizer.from_pretrained(base_model_id)base = AutoModelForCausalLM.from_pretrained( base_model_id, torch_dtype=torch.bfloat16, device_map="auto",)model = PeftModel.from_pretrained(base, lora_id)model.eval() # Cevap üretmemessages = [ {"role": "system", "content": "Sen Akçe adında Türkçe bankacılık asistanısın."}, {"role": "user", "content": "EFT ile FAST arasındaki fark nedir?"},]text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)inputs = tokenizer(text, return_tensors="pt").to(model.device)out = model.generate(**inputs, max_new_tokens=400, do_sample=True, temperature=0.6, top_p=0.9)print(tokenizer.decode(out[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))from unsloth import FastLanguageModel model, tokenizer = FastLanguageModel.from_pretrained( model_name="cihatyldz/akce-qwen25-7b-lora", max_seq_length=2048, dtype=None, load_in_4bit=True,)FastLanguageModel.for_inference(model) messages = [{"role": "user", "content": "100 dolar kaç TL eder?"}]inputs = tokenizer.apply_chat_template( messages, tokenize=True, add_generation_prompt=True, return_tensors="pt").to("cuda")out = model.generate(inputs, max_new_tokens=300, temperature=0.6)print(tokenizer.batch_decode(out)[0])merged = model.merge_and_unload()merged.save_pretrained("akce-qwen25-7b-merged")tokenizer.save_pretrained("akce-qwen25-7b-merged")500.000 TL anapara, 36 ay vade ve %45 yıllık faiz oranıyla aylık taksitiniz yaklaşık 24.850 TL olur. Toplam geri ödeme 894.600 TL, ödeyeceğiniz toplam faiz ise 394.600 TL civarındadır.Dikkat etmeniz gerekenler:- Bu hesaplama sabit faiz oranı varsayımına dayanır- Dosya masrafı ve hayat sigortası eklenirse tutar değişir- Kredi notunuz oranı etkileyebilirPhishing e-postalarını tespit etmek için şu ipuçlarına dikkat edin:1. Gönderen adresi: Bankanızın resmi alan adından mı geliyor? (.com.tr, bank adı)2. Aciliyet baskısı: "Hemen tıklayın, hesabınız kapanacak" gibi ifadeler3. Link URL'leri: Fareyi üzerine getirince görünen adres şüpheli mi?4. Yazım hataları: Resmi iletişimde gramer/imla hataları tipik bir işarettir5. Kişisel bilgi talebi: Bankalar e-posta ile şifre/CVV istemezŞüpheli bir e-posta aldığınızda bankanızın müşteri hizmetlerini arayın, linke tıklamayın, ekli dosyayı açmayın.EFT ve FAST, Türkiye'de para transferi için kullanılan iki farklı sistemdir:EFT (Elektronik Fon Transferi):- Sadece mesai saatlerinde çalışır (09:00-17:30)- Hafta sonu ve tatil günlerinde işlem yapılamaz- Genellikle aynı gün valörlü- Limit: Banka politikasına göre değişirFAST (Fonların Anlık ve Sürekli Transferi):- 7/24 çalışır, hafta sonu dahil- Saniyeler içinde karşı tarafa ulaşır- İşlem limiti başlıç: 50.000 TL (banka bazında değişebilir)- Tüm katılımcı bankalar arası anlıkGenel kullanım: Küçük tutarlar ve hız gerektiren işlemler için FAST, yüksek tutarlı planlı transferler için EFT tercih edilir.@misc{yildiz2025akce, author = {Cihat Yıldız}, title = {Akçe: Qwen2.5-7B LoRA for Turkish Banking Customer Service}, year = {2025}, publisher = {Hugging Face}, howpublished = {\url{https://huggingface.co/cihatyldz/akce-qwen25-7b-lora}}}@misc{qwen2.5, title={Qwen2.5 Technical Report}, author={Qwen Team}, year={2024}, url={https://qwenlm.github.io/blog/qwen2.5/}}