GLM-5.3 is live. Run Z.ai's latest model on Friendli Model APIs. Try it today ➜
betulbayram
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
betulbayram
Model Tree
mistralai/Mistral-7B-Instruct-v0.3
Input Modalities
Output Modalities
Supported Functionality
| Base model | mistralai/Mistral-7B-Instruct-v0.3 |
| Yöntem | QLoRA (4-bit NF4, LoRA r=64, α=128) |
| Donanım | NVIDIA RTX 3090 (24GB) |
| Dataset | 1.339 Türkçe siber güvenlik instruction-response çifti |
| Epoch | 3 (efektif batch 16, lr 2e-4 cosine) |
| Eğitim süresi | ~2.7 saat |
| Final train loss | ~0.50 |
Dataset kaynakları: NVD/CVE, MITRE ATT&CK ve Ollama Cloud (gpt-oss:120b) ile
üretilen sentetik Türkçe analizler. Detay: DATASET_CARD.
Test setinde (40 örnek) base vs fine-tuned:
| Metrik | Base Mistral 7B | SecLLM-TR | Δ |
|---|---|---|---|
| ROUGE-L | 0.097 | 0.107 | +0.01 |
| BLEU | 0.00 | 0.21 | +0.21 |
| Ort. yanıt uzunluğu | 1040 | 1134 | +93 |
En belirgin kazanım BLEU'da (0.00 → 0.21): model, hedef Türkçe uzman analiz formatını öğrenmiştir. Otomatik metrikler açık uçlu üretimde sınırlıdır; format tutarlılığı ve domain dili gibi niteliksel iyileşmeler demoda daha belirgindir.
python
import torchfrom transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfigfrom peft import PeftModelBASE = "mistralai/Mistral-7B-Instruct-v0.3"ADAPTER = "<HF_KULLANICI>/secllm-tr-mistral-7b-qlora"bnb = BitsAndBytesConfig(load_in_4bit=True, bnb_4bit_quant_type="nf4",bnb_4bit_compute_dtype=torch.bfloat16)tok = AutoTokenizer.from_pretrained(BASE)model = AutoModelForCausalLM.from_pretrained(BASE, quantization_config=bnb, device_map="auto")model = PeftModel.from_pretrained(model, ADAPTER)SYSTEM = ("Sen SecLLM-TR, siber güvenlik alanında uzmanlaşmış Türkçe bir asistansın. ""Teknik olarak doğru ve profesyonel yanıtlar verirsin.")soru = "SQL injection saldırısından nasıl korunurum?"msgs = [{"role": "user", "content": f"{SYSTEM}\n\n{soru}"}]inputs = tok.apply_chat_template(msgs, add_generation_prompt=True, return_tensors="pt").to(model.device)out = model.generate(inputs, max_new_tokens=512, do_sample=True, temperature=0.7)print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))
gpt-oss:120b çıktısıdır; nadiren hata/yanlılık içerebilir.bibtex
@misc{secllm-tr,title = {SecLLM-TR: Fine-Tuned Turkish Cybersecurity Language Model},author = {Bayram, Betül},year = {2026},url = {https://huggingface.co/<HF_KULLANICI>/secllm-tr-mistral-7b-qlora}}
Lisans: Apache 2.0