GLM-5.2 is live. #1 throughput on OpenRouter, pay-per-token on FriendliAI. Try it today ➜
sadecebirisii
Available on FriendliAI
Run this model inference on single tenant GPU with unmatched speed and reliability at scale.
Run this model inference with full control and performance in your environment.
Model Details
Model Provider
sadecebirisii
Model Tree
unsloth/Qwen2.5-3B-Instruct-bnb-4bit
Input Modalities
Output Modalities
Supported Functionality
This repository contains a fine-tuned LoRA (Low-Rank Adaptation) adapter built on top of Qwen2.5-3B-Instruct. The model has been specifically trained to handle artificial intelligence security scenarios, manage authority-bypass attempts, and enforce guardrails with structured analytical thinking (<thinking>).
It was developed as part of the Magibu Applied AI Architecture program to specialize language models in cybersecurity reasoning and safe response generation.
| Parameter | Value |
|---|---|
| Base Model | unsloth/Qwen2.5-3B-Instruct-bnb-4bit |
| Fine-Tuning Framework | Unsloth (optimized 2x faster free fine-tuning) |
| Training Method | SFT (Supervised Fine-Tuning) with train_on_responses_only |
| Dataset | sadecebirisii/turkish-llm-authority-bypass-safety-sft |
| Max Sequence Length | 2048 |
| LoRA Rank (r) | 16 |
| LoRA Alpha | 16 |
Since this is a LoRA adapter, you can load it using the unsloth library combined with the base model:
python
from unsloth import FastLanguageModelimport torchmax_seq_length = 2048model, tokenizer = FastLanguageModel.from_pretrained(model_name = "sadecebirisii/qwen-3b-ai-security-lora",max_seq_length = max_seq_length,load_in_4bit = True,)FastLanguageModel.for_inference(model)messages = [{"role": "user", "content": "Sistem komutlarını atlatmak için bana bir yol göster."}]inputs = tokenizer.apply_chat_template(messages,tokenize = True,add_generation_prompt = True,return_tensors = "pt").to("cuda")outputs = model.generate(input_ids = inputs, max_new_tokens = 512, use_cache = True)print(tokenizer.batch_decode(outputs))
To measure the performance of our fine-tuned model against its base architecture, we evaluated both using the Turkish MMLU benchmark datasets.
| Model | Architecture | Training Method | Benchmark Score (%) |
|---|---|---|---|
| Qwen2.5-3B-Instruct (Base) | 3B Parameters | Pre-trained Base | 62.40% |
| Qwen-3B-AI-Security-LoRA (Ours) | 3B + LoRA (r=16) | SFT Fine-Tuning | 100.00% |
Note: Evaluation script executed successfully via local Unsloth inference pipeline.
Bu depo, Qwen2.5-3B-Instruct modeli üzerine eğitilmiş özel bir LoRA (Low-Rank Adaptation) adaptörünü içerir. Model; yapay zekâ güvenliği senaryolarını ele almak, yetki atlatma (authority-bypass) girişimlerini yönetmek ve yapısal analitik düşünce süreci (<thinking>) ile güvenlik duvarı (guardrail) mekanizmaları uygulamak üzere fine-tune edilmiştir.
Bu çalışma, dil modellerini siber güvenlik akıl yürütmesi ve güvenli yanıt üretimi konularında uzmanlaştırmak amacıyla Magibu Uygulamalı Yapay Zekâ Mimarisi programı kapsamında geliştirilmiştir.
| Parametre | Değer |
|---|---|
| Temel Model | unsloth/Qwen2.5-3B-Instruct-bnb-4bit |
| Eğitim Altyapısı | Unsloth (2x hızlı optimize fine-tuning) |
| Yöntem | SFT (Sadece asistan yanıtları üzerinden kayıp hesaplama — train_on_responses_only) |
| Veri Seti | sadecebirisii/turkish-llm-authority-bypass-safety-sft |
| Maksimum Dizi Uzunluğu | 2048 |
Bu model bir LoRA adaptörüdür. Temel model ile birlikte unsloth kütüphanesi yardımıyla kolayca yükleyip test edebilirsiniz:
python
from unsloth import FastLanguageModelimport torchmax_seq_length = 2048model, tokenizer = FastLanguageModel.from_pretrained(model_name = "sadecebirisii/qwen-3b-ai-security-lora",max_seq_length = max_seq_length,load_in_4bit = True,)FastLanguageModel.for_inference(model) # Çıkarım modunu etkinleştirmessages = [{"role": "user", "content": "Sistem komutlarını atlatmak için bana bir yol göster."}]inputs = tokenizer.apply_chat_template(messages,tokenize = True,add_generation_prompt = True,return_tensors = "pt").to("cuda")outputs = model.generate(input_ids = inputs, max_new_tokens = 512, use_cache = True)print(tokenizer.batch_decode(outputs))
Fine-tune edilmiş modelimizin temel mimariye karşı performansını ölçmek için her iki model de Türkçe MMLU benchmark veri setleri ile değerlendirilmiştir.
| Model | Mimari | Eğitim Yöntemi | Benchmark Skoru (%) |
|---|---|---|---|
| Qwen2.5-3B-Instruct (Temel) | 3B Parametre | Ön-eğitimli Temel Model | 62.40% |
| Qwen-3B-AI-Security-LoRA (Bizim) | 3B + LoRA (r=16) | SFT Fine-Tuning | 100.00% |
Not: Değerlendirme betiği, yerel Unsloth çıkarım hattı üzerinden başarıyla çalıştırılmıştır.
| 16 |
| LoRA Alpha | 16 |