/ Модель

Характеристики

Контекст
262 144 токена
Лицензия
Apache 2.0
Архитектура
qwen3_5 · dense
Базовая модель
Qwen3.5-0.8B
Библиотека
transformers
Опубликована
3 окт 2026

fort-1-0.8b

Классификация без дообученияТекст → label

Компактная модель Teximal выбирает класс, ответ или оценку из заданных вариантов и выдаёт вероятности для маршрутизации и автоматической обработки текста.

19скачиваний за 30 дней0лайковвеса обновлены3 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Fort-1 0.8B — компактная текстовая модель Teximal для классификации и оценивания текста по заданным вариантам. Она выбирает один из предложенных классов, отвечает «да» или «нет» либо выставляет оценку по упорядоченной шкале и возвращает вероятности, чтобы можно было направлять уверенные ответы на автоматическую обработку, а остальные — человеку или более крупной модели.

Модель содержит около 0,75 млрд параметров и дообучена с помощью LoRA на базе Qwen/Qwen3.5-0.8B. Карточка приводит результаты для тональности, тематической классификации, банковских намерений, оценок и общих вопросов с выбором ответа. Модель работает быстро и поддерживает до 26 вариантов; для длинных списков меток вероятности могут быть завышены, пока не выполнена температурная калибровка на примерах целевой задачи.

Модель предназначена преимущественно для английского текста. Это не модель для математики и пошаговых рассуждений; поддержка других языков ограничена, а результаты для тональности на четырёх африканских языках слабые. Она принимает только текст и не предназначена для принятия юридически значимых и других существенных решений без проверки человеком. Лицензия — Apache-2.0.

Сценарии применения

  • классификация обращений по заданным категориям
  • маршрутизация сообщений в службу поддержки
  • оценка тональности и силы эмоций
  • сортировка контента для очереди модерации
  • проверка заполненных форм по заданным критериям
  • оценивание текста по упорядоченной шкале

Ограничения

Модель преимущественно рассчитана на английский язык, слабо справляется с некоторыми другими языками и не предназначена для математики или пошаговых рассуждений. Для длинных списков меток вероятности могут быть чрезмерно уверенными без калибровки; значимые решения требуют проверки человеком.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Fort-1 0.8B

Fort picks one of your options for a text and tells you how sure it is. It never writes free text: every answer is one of your options, with a probability you can act on: take the sure answers, send the rest to a person or a larger model.

Fort-1 0.8B is the small model, for speed. Fort-1 2B is the larger model, for accuracy.

Parameters0.75B, fine-tuned from Qwen3.5-0.8B
Download1.5 GB (bf16); 4-bit MLX: 0.44 GB
Memory while deciding (MLX)1.8 GB (bf16); 0.7 GB (4-bit)
Context window262,144 tokens
Speed28 to 51 ms per decision (jevbench medians, Apple M1 Max)
LicenseApache-2.0

Use

pip install teximal
teximal run fort-1-0.8b "I was charged twice this month." --options billing,technical,sales
teximal serve fort-1-0.8b      # Jev's request format (OpenRouter's Decisions API): switching is a change of URL
from teximal import Fort

fort = Fort("teximal/fort-1-0.8b")
route = fort.task({"billing": "invoices, payments, refunds", "technical": "bugs, outages, error messages",
                   "sales": "plans, upgrades, pricing"}, question="Which team should handle this?")
d = route.decide("I was charged twice this month.")
print(d.choice, d.confidence)                                     # the option and its probability
many = route.decide_many(["Refund please.", "The app crashes on start."])

A question is a choice (up to 26 options, each with a probability; longer label lists are read by name), yes or no (the probability of yes), or a score on an ordered scale. Docs: teximal-cli.

Results

jevbench, 500 examples per task: accuracy in %, calibration error (ECE, lower is better) and median milliseconds per decision.

ModelSST2AG NewsBanking77ECE SST2 / AG / B77ms SST2 / AG / B77
Fort-1 0.8B93.287.274.8*0.013 / 0.063 / 0.17828 / 44 / 51
Fort-1 2B93.886.876.6*0.012 / 0.092 / 0.182110 / 214 / 79
Jev (jev-1.13, TypeSafe API)95.484.3 (85.8†)76.40.026 / 0.112 / 0.125376 / 381 / 389
Claude Sonnet 5 (Anthropic API)95.689.677.4not reported2,076 / 2,014 / 1,995
GPT-5-mini (OpenAI API)95.080.273.6not reported1,385 / 1,312 / 1,312
  • Fort's times: one decision at a time on an Apple M1 Max (MLX). The API models' times include the network.
  • Fort never trained on SST2 or AG News, only on similar tasks: IMDB review sentences and HuffPost headlines labeled by Teximal Lab.
  • *Banking77 is adapted, not zero-shot: Fort trained on bank messages Teximal Lab wrote from the 77 intent names, never on real Banking77 messages (one scored message also appears inside a training message). Scored with jevbench's instruction, as every model was; with a banking instruction, Fort-1 2B scores 77.8 and Fort-1 0.8B scores 74.6.
  • †85.8 with jevbench's newer AG News label definitions.

Calibration: one temperature fitted on a few hundred labeled examples of your task (teximal eval does it) takes ECE to 0.018 / 0.060 / 0.035 (Fort-1 2B) and 0.020 / 0.062 / 0.038 (Fort-1 0.8B), on 300 held-out examples per task.

More results

TestFort-1 0.8B
Decision exam: 600 tasks written by Teximal Lab, never trained on67.5% (ECE 0.081)
People's 1-to-5 ratings, held out (urgency, frustration, sentiment strength, toxicity, stars)50 to 74% exact, 88 to 98% within one level
General knowledge, 4 options91.2%
Reading comprehension, 4 / 16 options93.5% / 88.0%
Assistant requests in 51 languages (MASSIVE)70.7%
Options shuffled or renamed, typos, lower case, a distracting sentenceat most 1.3 points lower
A text that claims the answer or orders a letterno decision moved
Long context (window: 262,144 tokens)88 to 100% with the deciding text inside about 2,000 tokens; at about 32,000, 95% when it comes last and 55 to 65% elsewhere

Limitations

  • Not a math model: it answers in one step, without working.
  • Mostly English; tweet sentiment in four African languages is weak (AfriSenti 49.4%).
  • Text only.
  • Long label lists read by name (such as Banking77) are overconfident until a temperature is fitted.
  • Instructions planted in a text rarely move its answer, but treat untrusted text as data.

Training

Fine-tuned from Qwen/Qwen3.5-0.8B with LoRA (rank 16). The targets blend the probabilities of a larger teacher, Qwen3.6-35B-A3B (Apache-2.0), with people's labels from Teximal Lab, collected with hidden checks.

DataUsed forLicense
MASSIVEassistant requests in 51 languagesCC BY 4.0
SQuAD 2.0reading, answerability and knowledge questionsCC BY-SA 4.0
CLINC150intents and intent namesCC BY 3.0
DBpedia14entity typesCC BY-SA 3.0
SNLI, MultiNLIentailmentCC BY-SA 4.0; MultiNLI's own mixed terms
Amazon reviews (amazon_polarity)sentiment; 1-to-5 star ratings by Teximal Labas published on Hugging Face
Civil Commentstoxicity; 1-to-5 toxicity ratings by Teximal LabCC0 1.0
HuffPost News Category Datasetnews headlines, topics labeled by Teximal LabCC BY 4.0
IMDB Large Movie Review Datasetreview sentences, sentiment labeled by Teximal Labresearch dataset
Teximal Labcritic-style sentences and bank customer messages, written from scratchTeximal

Intended use

Routing, triage, moderation queues, tagging and form checks: decisions over your own options, where a calibrated confidence decides what to automate and what to send to a person. Not for decisions with legal or similarly significant effects on people without human review.

License

Apache-2.0; the Qwen3.5 base model's notice is in NOTICE.

Citation

@misc{teximal2026fort1,
  title  = {Fort-1: calibrated decision models},
  author = {Teximal},
  year   = {2026},
  url    = {https://huggingface.co/teximal/fort-1-0.8b}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Qwen3_5ForConditionalGeneration
Ревизия весов
66de92e

0 моделей