qwen2.5-7b-spreizzaehler-v3-lora
LoRA-Adapter (r=16, alpha=32, alle linearen Schichten) für das geheilte Basismodell mit reduziertem Vokabular Davidmg0815/qwen2.5-7b-reduced-vocab-healed. Er funktioniert nicht mit dem Original-Qwen2.5 (anderes Vokabular). Das gemergte Modell liegt unter Davidmg0815/qwen2.5-7b-spreizzaehler-v3.
from peft import PeftModelfrom transformers import AutoModelForCausalLM, AutoTokenizerbase = "Davidmg0815/qwen2.5-7b-reduced-vocab-healed"tok = AutoTokenizer.from_pretrained(base)model = AutoModelForCausalLM.from_pretrained(base, dtype="bfloat16", device_map="auto")model = PeftModel.from_pretrained(model, "Davidmg0815/qwen2.5-7b-spreizzaehler-v3-lora")
Trainiert mit Unsloth auf einer 4-bit-Basis, die Tests liefen mit dem bf16-Basismodell plus Adapter.