/ Модель
Каталог

Характеристики

Контекст
1 024 токена
Параметры
124 млн
Лицензия
Apache 2.0
Архитектура
llama · dense
Библиотека
transformers
Опубликована
28 июл 2026

Ссылки

Hugging Face

thox-micro-125m

Thox-ai
Генерация текстаТекст → текст3 профессии

Компактная базовая Llama-модель THOX.ai для генерации английского текста на устройствах и периферийных системах.

618скачиваний за 30 дней0лайковвеса обновлены24 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Thox-ai/thox-micro-125m — компактная языковая модель THOX.ai LLC, обученная с нуля на архитектуре Llama. Это плотная авторегрессионная модель с 123,6 млн параметров и контекстом 1024 токена; она доступна в safetensors и нескольких вариантах GGUF, включая F16 и Q4. Модель предназначена для генерации текста на устройствах и периферийных системах в составе THOX stack.

Это базовая модель для продолжения текста, а не дообученный помощник, следующий инструкциям. Карточка сообщает о лучшем внутреннем значении validation loss 2,6099, но не приводит подробностей оценки. Для развёртывания в публичном ассистенте потребуется отдельный слой защитных правил: модель сама по себе не позиционируется как прошедшая настройку безопасности. Поддерживаемый язык в метаданных — английский. Лицензия — Apache-2.0.

Сценарии применения

  • локальная генерация продолжения текста на устройстве
  • встраивание компактной языковой модели в edge-приложение
  • генерация текста с ограниченными вычислительными ресурсами
  • эксперименты с базовой моделью Llama небольшого размера

Ограничения

Это базовая модель, а не instruction-tuned ассистент; качество следования инструкциям не заявлено. Модель не позиционируется как безопасный публичный ассистент без дополнительного слоя защитных правил.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

thox-micro-125m

License Params Format

Your AI. Your Data. Your Rules.

From-scratch 123M Llama-architecture base/completion model for edge and on-device use.

What this is

  • Trained from scratch (THOX-owned) — Apache-2.0.
  • Base/completion model, not an instruction-tuned assistant.
  • Best validation loss 2.6099 (internal eval).

Architecture (from config)

FieldValue
ArchitectureLlamaForCausalLM
Layers12
Hidden size768
Attention heads12
KV heads12 (full MHA, no GQA)
FFN / intermediate2048
Vocab50,304 (GPT-2 r50k)
Max context1024
Tied embeddingsyes
dtypefloat16

Intended use

On-device / edge text generation within the THOX stack. Not a safety-aligned public assistant unless deployed behind THOX guardrails.

Usage

from transformers import AutoModelForCausalLM, AutoTokenizer
tok = AutoTokenizer.from_pretrained("Thox-ai/thox-micro-125m")
model = AutoModelForCausalLM.from_pretrained("Thox-ai/thox-micro-125m")

Links

THOX.ai LLC — Your AI. Your Data. Your Rules. · On-device and private by design.

Temporary demo Space: tommytracx/thox-micro-125m-Space (org Space paused on quota).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
52726f5

0 моделей

    Создать бенчмарк