meldakahramann

animasyon-lora-adapter

README

License: apache-2.0

Öne Çıkan Özellikler

Domain Adaptasyonu: Türkiye'de vizyona girmiş popüler animasyon filmlerinin (Ratatuy, Buz Devri vb.) doğru olay örgüleri ve Türkçe dublaj kadrosu bilgileri kazandırılmıştır.
Akıl Yürütme: Model yanıt üretmeden önce kullanıcı talebini analiz eden ve ne yapacağını planlayan bir iç ses sürecini (<|im_start|>thinking ... <|im_end|>) çalıştırır.
Halüsinasyon Engelleme: Derinleştirilmiş 250 adımlık eğitim sayesinde uydurma veri üretimi minimuma indirilmiştir.

Kullanım

Modeli transformers ve unsloth veya doğrudan Hugging Face kütüphaneleri ile kolayca çalıştırabilirsiniz:

python
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "meldakahramann/animasyon-lora-adapter"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    torch_dtype=torch.float16,
    device_map="auto"
)

# Örnek Prompt Yapısı
prompt = "<|im_start|>user\nRatatuy animasyonu neyi anlatıyor, hikayesi nasıl?<|im_end|>\n<|im_start|>assistant\n"

inputs = tokenizer(prompt, return_tensors="pt").to("cuda")

outputs = model.generate(
    **inputs,
    max_new_tokens=512,
    temperature=0.2,
    top_p=0.9,
    eos_token_id=tokenizer.convert_tokens_to_ids("<|im_end|>")
)

print(tokenizer.decode(outputs[0], skip_special_tokens=False))

Örnek Çıktı

<|im_start|>thinking Ratatuy animasyonunun olay örgüsü istendi. Hafızamdaki özet metne sadık kalarak net ve anlaşılır bir anlatım sunmalıyım.. <|im_end|> Remy, koku ve tat alma duyuları olağanüstü derecede gelişmiş, zekası ve yaratıcılığı olan dışlanmış bir faredir. Auguste Gusteau'nun 'Herkes yemek yapabilir' felsefesine inanan Remy, Paris'te sakar çöpçü Linguini ile işbirliği yapar. Linguini'nin aşçı şapkasının altına saklanarak onun hareketlerini yönlendirir ve gurme yemekler hazırlar...

Eğitim Parametreleri

Model, kısıtlı kaynaklarla maksimum performans elde etmek amacıyla PEFT (LoRA) ve Unsloth kütüphaneleri kullanılarak eğitilmiştir. Detaylı konfigürasyon aşağıda yer almaktadır:

Table with columns: Parametre / Konfigürasyon, Değer
Parametre / Konfigürasyon	Değer
Base Model	`unsloth/llama-3-8b-Instruct-bnb-4bit`
Eğitim Yöntemi (Method)	LoRA (PEFT) + SFTTrainer
Maks. Dizi Uzunluğu (Max Seq Length)	`2048`
Eğitim Adım Sayısı (Max Steps)	`250`
Öğrenme Oranı (Learning Rate)	`2e-4`
Batch Size

Konfigürasyon Notları

Özel Token Entegrasyonu: Modelin akıl yürütme ve sohbet formatına uyum sağlaması için <|im_start|>, <|im_end|> ve thinking etiketleri özel token olarak eklenmiş ve kelime gömme katmanı yeniden boyutlandırılmıştır.
Hafıza Optimizasyonu: QLoRA (4-bit quantization) ve AdamW 8-bit optimizer kullanılarak T4 GPU üzerindeki VRAM kullanımı minimum seviyede tutulmuştur.

Available on FriendliAI

Dedicated Endpoints

Run this model inference on single tenant GPU with unmatched speed and reliability at scale.

Learn more

Container

Run this model inference with full control and performance in your environment.

Learn more

Model Details

Model Provider

meldakahramann

Model Tree

Base

unsloth/llama-3-8b-Instruct-bnb-4bit

Fine-tuned

this model

Input Modalities

Text

Output Modalities