Flashtond22

Taltos-27B

README

License: apache-2.0

Mire való

A Táltos-27B akkor a jó választás, ha magyarul kell dolgoznod, és számít, hogy a szöveg úgy szóljon, ahogy egy magyar ember írná. A hangolása három dologra ment el: természetes magyar fogalmazásra, magyar nyelvű gondolatmenetre, és arra, hogy a modell megmondja, ha valamiben bizonytalan.

Table with columns: ✍️ Fogalmazás, 🧠 Gondolkodás, 👁️ Képértés, 📚 Hosszú szöveg
✍️ Fogalmazás	🧠 Gondolkodás	👁️ Képértés	📚 Hosszú szöveg
Levél, összefoglaló, átirat, hivatalos szöveg magyarul	Lépésenkénti levezetés magyar nyelven	Képek és videók értelmezése	262 144 token egy menetben

Specifikáció

Table with columns: Tulajdonság, Érték
Tulajdonság	Érték
Paraméterszám	27,8 milliárd (dense)
Architektúra	64 réteg, hibrid Gated DeltaNet + Gated Attention
Kontextusablak	262 144 token
Multimodalitás	Kép és videó bemenet
Gondolkodó mód	Kapcsolható (`enable_thinking`)
Alapmodell	`Qwen/Qwen3.8-27B`
Licenc	Apache 2.0
Kiadás	2026. augusztus

Eredmények

Fej-fej melletti összehasonlítás az alapmodellel, 55 magyar feladaton (érettségi példák, fogalmazás, nyelvtan, kultúra, érvelés). A győztest egy független modellcsalád (Gemma-4-31B) választotta ki, a válaszok sorrendje véletlenítve.

Table with columns: Kimenetel, Arány
Kimenetel	Arány
🏆 Táltos-27B a jobb	50,9 %
Alapmodell a jobb	40,0 %
Holtverseny	9,1 %
Összesített preferencia	55,5 %

Ahol a legnagyobb a különbség: érettségi feladatok (18 : 13), érvelés és vita (2 : 0), hamis állítások kiigazítása.

Table with columns: Nyelvi mutató, Alapmodell, Táltos-27B
Nyelvi mutató	Alapmodell	Táltos-27B
Magyar ékezetsűrűség	0,0728	0,0753
Átlagos válaszhossz	1 775 kar.	1 649 kar.

A magyar nyelvtani pontosság érezhetően javult. Egy panaszlevél-feladatban az alapmodell olyan alakokat adott vissza, mint „felhívni a figyelmetükre" vagy „a fizetendő összegetől", a Táltos ezeket helyesen írja.

Így készült

markdown
magyar feladat
          │
          ▼
   ┌──────────────┐        ┌───────────────────┐        ┌──────────────────┐
   │  szakmai     │───────▶│  anyanyelvi       │───────▶│  magyar          │
   │  vázlat      │        │  magyar szöveg    │        │  gondolatmenet   │
   └──────────────┘        └───────────────────┘        └──────────────────┘

A tanítóadat saját fejlesztésű, háromlépcsős eljárással készült. A kulcsötlet, hogy a nyelvi modellek az átfogalmazásban lényegesen erősebbek, mint a nyílt végű magyar szövegalkotásban, így a tartalmi minőség és a magyar megformálás szétválasztható és külön-külön maximalizálható.

Erre épült egy célzott finomhangolás, amely a teljes hálózatot érinti, majd az eredmény visszaolvadt az alapmodellbe. A tanítás egyetlen NVIDIA L40S GPU-n futott le.

Használat

vLLM (ajánlott)

bash
vllm serve Flashtond22/Taltos-27B \
  --served-model-name taltos \
  --max-model-len 32768 \
  --reasoning-parser qwen3

python
from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="-")

válasz = client.chat.completions.create(
    model="taltos",
    messages=[{"role": "user", "content": "Foglald össze három mondatban, mi volt a kiegyezés."}],
    extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
print(válasz.choices[0].message.content)

Transformers

python
from transformers import AutoModelForCausalLM, AutoProcessor
import torch

MODEL = "Flashtond22/Taltos-27B"
proc  = AutoProcessor.from_pretrained(MODEL)
model = AutoModelForCausalLM.from_pretrained(MODEL, dtype=torch.bfloat16, device_map="auto")

üzenetek = [{"role": "user", "content": "Miért különleges a magyar magánhangzó-harmónia?"}]
prompt = proc.apply_chat_template(üzenetek, add_generation_prompt=True,
                                  enable_thinking=True, tokenize=False)
be = proc(prompt, return_tensors="pt").to(model.device)
ki = model.generate(**be, max_new_tokens=1200, temperature=0.7, top_p=0.92)
print(proc.decode(ki[0][be.input_ids.shape[1]:], skip_special_tokens=True))

Ajánlott rendszerüzenet

text
Te vagy a Táltos, magyar nyelvre hangolt mesterséges intelligencia.
Természetes, anyanyelvi magyarsággal válaszolsz: helyes szórenddel,
ragozással, tükörfordítás nélkül. Pontos vagy és lényegre törő.
Ha valamit nem tudsz, azt megmondod ahelyett, hogy kitalálnád.

Ajánlott paraméterek: temperature = 0.7, top_p = 0.92. Gondolkodó módban adj legalább 2000 token keretet.

Változatok és hardverigény

Minden formátum elkészült, hogy a lehető legtöbb gépen elfusson.

Table with columns: Formátum, Repó, Méret, VRAM, Mire jó
Formátum	Repó	Méret	VRAM	Mire jó
bf16	Taltos-27B	56 GB	~58 GB	Szerver, továbbtanítás, maximális minőség
FP8	Taltos-27B-FP8	30 GB	~32 GB	vLLM egyetlen 40 GB-os kártyán

GGUF változatok

Table with columns: Kvantálás, Méret, VRAM, Minőség, Kinek
Kvantálás	Méret	VRAM	Minőség	Kinek
`Q8_0`	29 GB	31 GB	🟢🟢🟢🟢🟢	Gyakorlatilag az eredeti
`Q6_K`	23 GB	25 GB	🟢🟢🟢🟢🟢	A különbség alig mérhető
`Q5_K_M`	20 GB

Hol romlik a minőség. Q4_K_M fölött a különbség a legtöbb feladatban észrevehetetlen. Q3_K_M-nél megjelennek az első hibák a hosszabb matematikai levezetésekben és a ritkább szakszavaknál, beszélgetésre és fogalmazásra viszont még jó. Q2_K-nál a romlás egyértelmű: a magyar nyelvhelyesség nagyrészt megmarad, de a tényszerű pontosság és a többlépéses gondolkodás gyengül.

Indítás egy paranccsal (Ollama)

bash
ollama run hf.co/Flashtond22/Taltos-27B-GGUF:Q4_K_M

Korlátok

A Táltos-27B a magyar nyelvi teljesítményre lett hangolva. A világtudás, a matematikai és programozási képesség az alapmodelltől származik, ezeken a hangolás nem változtatott.

Nincs internet-hozzáférése, ezért a friss eseményekről nem tud. Konkrét számoknál, dátumoknál és ritka neveknél tévedhet, ilyenkor érdemes ellenőrizni a választ. Orvosi, jogi vagy pénzügyi döntés egyedüli alapjaként ne használd.

Licenc és eredet

A Táltos-27B a Qwen/Qwen3.8-27B modellből származik, amelyet az Alibaba Tongyi Lab adott ki Apache 2.0 licenc alatt. A Táltos-27B szintén Apache 2.0 licencű: szabadon használható, módosítható és üzleti célra is alkalmazható.

✦ TÁLTOS-27B ✦

Magyar fejlesztés

Táltos-27B is a 27.8B-parameter Hungarian-specialised language model built on Qwen/Qwen3.8-27B (Apache 2.0). It keeps the base model's knowledge, reasoning, vision capability and 262K context window, and adds native-quality Hungarian phrasing plus Hungarian-language chain-of-thought.

Training approach. Instruction data was produced with a three-stage in-house pipeline that separates content quality from Hungarian phrasing, exploiting the fact that language models are considerably stronger at rewriting than at open-ended Hungarian generation. A targeted fine-tune across the full network followed, then merged back into the base weights. Everything ran on a single NVIDIA L40S.

Results. In head-to-head comparison on 55 Hungarian tasks judged by an independent model family (Gemma-4-31B, randomised answer order), Táltos-27B was preferred in 55.5 % of cases. The largest gains appear on secondary-school exam problems, argumentation, and correcting false premises. Hungarian grammatical accuracy improved noticeably.

Limitations. World knowledge, maths and coding come from the base model and are unchanged. No internet access, so recent events are unknown. Verify specific figures, dates and rare names. Not for sole reliance in medical, legal or financial decisions.

Apache 2.0, same as the base model.

Available on FriendliAI

Dedicated Endpoints

Run this model inference on single tenant GPU with unmatched speed and reliability at scale.

Learn more

Model Details

Model Provider

Flashtond22

Model Tree

Base

Qwen/Qwen3.8-27B

Fine-tuned

this model

Input Modalities

TextImageVideo

Output Modalities

Text

Supported Functionality