besmabakirci01

turkish-poetry-qwen-lora

README

License: apache-2.0

Model özeti

Table with columns: Alan, Değer
Alan	Değer
Geliştirici	Besma Bakırcı (besmabakirci01)
Base model	`unsloth/Qwen2.5-3B-Instruct-bnb-4bit` (Qwen2.5-3B-Instruct)
Yöntem	Unsloth + PEFT LoRA (4-bit QLoRA)
Eğitim verisi	`besmabakirci01/turkish-poetry-instruction-dataset`
Dil	Türkçe
Görev	Instruction → Türkçe şiir üretimi

LoRA ayarları

Table with columns: Hiperparametre, Değer
Hiperparametre	Değer
`r`	16
`lora_alpha`	32
`lora_dropout`	0.05
`bias`	none
Target modules	`q_proj`, `k_proj`, `v_proj`, `o_proj`, , ,

Kullanım (Unsloth / Colab)

python
from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="besmabakirci01/turkish-poetry-qwen-lora",
    max_seq_length=2048,
    load_in_4bit=True,
)
FastLanguageModel.for_inference(model)

prompt = """Below is an instruction that describes a task, paired with an input that provides further context. Write a response that appropriately completes the request.

### Instruction:
Gurbette yaşayan birinin sevdiğine duyduğu özlemi halk şiiri üslubuyla anlatan bir şiir yaz.

### Input:


### Response:
"""

inputs = tokenizer([prompt], return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=256, temperature=0.7)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Kullanım (PEFT)

python
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base_id = "Qwen/Qwen2.5-3B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(base_id)
base = AutoModelForCausalLM.from_pretrained(base_id, device_map="auto")
model = PeftModel.from_pretrained(base, "besmabakirci01/turkish-poetry-qwen-lora")

Eğitim verisi

Alpaca formatında Türkçe şiir instruction dataseti (~4.961 örnek):

json
{
  "instruction": "Kullanıcının şiir isteği",
  "input": "",
  "output": "Şiir metni"
}

Kaynak dataset (Apache-2.0): beratcmn/instruction-turkish-poems

İlgili repolar

Table with columns: Bileşen, Link
Bileşen	Link
Instruction dataset	turkish-poetry-instruction-dataset
BPE tokenizer	turkish-poem-bpe-tokenizer
Identity LoRA	nazim-identity-lora

Sınırlamalar

Bu bir LoRA adaptörüdür; tek başına full model değildir, base Qwen2.5-3B-Instruct ile birlikte yüklenmelidir.
Çıktılar yaratıcı metindir; gerçek bir şairin eseri gibi değerlendirilmemelidir.
Model bilinçli değildir; kimlik soruları için ayrıca identity fine-tune modeli kullanılabilir.

Lisans

Apache-2.0 (eğitim verisi kaynağıyla uyumlu). Base model lisansına da uyunuz.

Available on FriendliAI

Dedicated Endpoints

Run this model inference on single tenant GPU with unmatched speed and reliability at scale.

Learn more

Container

Run this model inference with full control and performance in your environment.

Learn more

Model Details

Model Provider

besmabakirci01

Model Tree

Base

unsloth/Qwen2.5-3B-Instruct-bnb-4bit

Adapter

this model

Input Modalities

Text

Output Modalities