✦ TÁLTOS-27B ✦

Magyar nyelvre hangolt, gondolkodó, képlátó nyelvi modell

„A táltos tud, lát és magyaráz."

Gondolkodó mód · Képértés · 262 144 token · Egy GPU-n futtatható

Mire való

A Táltos-27B akkor a jó választás, ha magyarul kell dolgoznod, és számít, hogy a szöveg úgy szóljon, ahogy egy magyar ember írná. A hangolása három dologra ment el: természetes magyar fogalmazásra, magyar nyelvű gondolatmenetre, és arra, hogy a modell megmondja, ha valamiben bizonytalan.

Specifikáció

Eredmények

Fej-fej melletti összehasonlítás az alapmodellel, 55 magyar feladaton (érettségi példák, fogalmazás, nyelvtan, kultúra, érvelés). A győztest egy független modellcsalád (Gemma-4-31B) választotta ki, a válaszok sorrendje véletlenítve.

Ahol a legnagyobb a különbség: érettségi feladatok (18 : 13), érvelés és vita (2 : 0), hamis állítások kiigazítása.

A magyar nyelvtani pontosság érezhetően javult. Egy panaszlevél-feladatban az alapmodell olyan alakokat adott vissza, mint „felhívni a figyelmetükre" vagy „a fizetendő összegetől", a Táltos ezeket helyesen írja.

Így készült

    magyar feladat
          │
          ▼
   ┌──────────────┐        ┌───────────────────┐        ┌──────────────────┐
   │  szakmai     │───────▶│  anyanyelvi       │───────▶│  magyar          │
   │  vázlat      │        │  magyar szöveg    │        │  gondolatmenet   │
   └──────────────┘        └───────────────────┘        └──────────────────┘

A tanítóadat saját fejlesztésű, háromlépcsős eljárással készült. A kulcsötlet, hogy a nyelvi modellek az átfogalmazásban lényegesen erősebbek, mint a nyílt végű magyar szövegalkotásban, így a tartalmi minőség és a magyar megformálás szétválasztható és külön-külön maximalizálható.

Erre épült egy célzott finomhangolás, amely a teljes hálózatot érinti, majd az eredmény visszaolvadt az alapmodellbe. A tanítás egyetlen NVIDIA L40S GPU-n futott le.

Használat

vLLM (ajánlott)

vllm serve Flashtond22/Taltos-27B \
  --served-model-name taltos \
  --max-model-len 32768 \
  --reasoning-parser qwen3

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="-")

válasz = client.chat.completions.create(
    model="taltos",
    messages=[{"role": "user", "content": "Foglald össze három mondatban, mi volt a kiegyezés."}],
    extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
print(válasz.choices[0].message.content)

Transformers

from transformers import AutoModelForCausalLM, AutoProcessor
import torch

MODEL = "Flashtond22/Taltos-27B"
proc  = AutoProcessor.from_pretrained(MODEL)
model = AutoModelForCausalLM.from_pretrained(MODEL, dtype=torch.bfloat16, device_map="auto")

üzenetek = [{"role": "user", "content": "Miért különleges a magyar magánhangzó-harmónia?"}]
prompt = proc.apply_chat_template(üzenetek, add_generation_prompt=True,
                                  enable_thinking=True, tokenize=False)
be = proc(prompt, return_tensors="pt").to(model.device)
ki = model.generate(**be, max_new_tokens=1200, temperature=0.7, top_p=0.92)
print(proc.decode(ki[0][be.input_ids.shape[1]:], skip_special_tokens=True))

Ajánlott rendszerüzenet

Te vagy a Táltos, magyar nyelvre hangolt mesterséges intelligencia.
Természetes, anyanyelvi magyarsággal válaszolsz: helyes szórenddel,
ragozással, tükörfordítás nélkül. Pontos vagy és lényegre törő.
Ha valamit nem tudsz, azt megmondod ahelyett, hogy kitalálnád.

Ajánlott paraméterek: temperature = 0.7, top_p = 0.92. Gondolkodó módban adj legalább 2000 token keretet.

Változatok és hardverigény

Minden formátum elkészült, hogy a lehető legtöbb gépen elfusson.

GGUF változatok

Hol romlik a minőség. Q4_K_M fölött a különbség a legtöbb feladatban észrevehetetlen. Q3_K_M-nél megjelennek az első hibák a hosszabb matematikai levezetésekben és a ritkább szakszavaknál, beszélgetésre és fogalmazásra viszont még jó. Q2_K-nál a romlás egyértelmű: a magyar nyelvhelyesség nagyrészt megmarad, de a tényszerű pontosság és a többlépéses gondolkodás gyengül.

Mind a hat változat elérhető és letölthető.

Indítás egy paranccsal (Ollama)

ollama run hf.co/Flashtond22/Taltos-27B-GGUF:Q4_K_M

Korlátok

A Táltos-27B a magyar nyelvi teljesítményre lett hangolva. A világtudás, a matematikai és programozási képesség az alapmodelltől származik, ezeken a hangolás nem változtatott.

Nincs internet-hozzáférése, ezért a friss eseményekről nem tud. Konkrét számoknál, dátumoknál és ritka neveknél tévedhet, ilyenkor érdemes ellenőrizni a választ. Orvosi, jogi vagy pénzügyi döntés egyedüli alapjaként ne használd.

Licenc és eredet

A Táltos-27B a Qwen/Qwen3.8-27B modellből származik, amelyet az Alibaba Tongyi Lab adott ki Apache 2.0 licenc alatt. A Táltos-27B szintén Apache 2.0 licencű: szabadon használható, módosítható és üzleti célra is alkalmazható.

✦ TÁLTOS-27B ✦

Magyar fejlesztés

Táltos-27B is a 27.8B-parameter Hungarian-specialised language model built on Qwen/Qwen3.8-27B (Apache 2.0). It keeps the base model's knowledge, reasoning, vision capability and 262K context window, and adds native-quality Hungarian phrasing plus Hungarian-language chain-of-thought.

Training approach. Instruction data was produced with a three-stage in-house pipeline that separates content quality from Hungarian phrasing, exploiting the fact that language models are considerably stronger at rewriting than at open-ended Hungarian generation. A targeted fine-tune across the full network followed, then merged back into the base weights. Everything ran on a single NVIDIA L40S.

Results. In head-to-head comparison on 55 Hungarian tasks judged by an independent model family (Gemma-4-31B, randomised answer order), Táltos-27B was preferred in 55.5 % of cases. The largest gains appear on secondary-school exam problems, argumentation, and correcting false premises. Hungarian grammatical accuracy improved noticeably.

Limitations. World knowledge, maths and coding come from the base model and are unchanged. No internet access, so recent events are unknown. Verify specific figures, dates and rare names. Not for sole reliance in medical, legal or financial decisions.

Apache 2.0, same as the base model.