/ Модель
Каталог

Характеристики

Контекст
1 024 токена
Параметры
11,7 млн
Лицензия
CC0 1.0
Архитектура
qwen3_attnres · dense
Библиотека
transformers
Опубликована
18 июн 2026

Ссылки

Hugging Face

kite-5.1-11m-rc1

qikp
Генерация текстаТекст → текст3 профессии

Компактная экспериментальная языковая модель для генерации текста с архитектурой Qwen3 AttnRes и 11,7 млн параметров.

25скачиваний за 30 дней0лайковвеса обновлены18 июн 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Kite 5.1 Release Candidate 1 — компактная языковая модель автора qikp с архитектурой Qwen3 AttnRes и 11,7 млн параметров. Она предназначена для генерации текста; модель обучена на токенизированной смеси данных qikp/small-data-3 за одну эпоху. Для обучения использовался токенизатор pika 4, а контекст составляет 1024 токена.

Модель может служить небольшим экспериментальным чекпойнтом для генерации текста и проверки подхода AttnRes. Из-за малого размера автор не рекомендует её для производственных нагрузок. Репозиторий содержит веса в формате safetensors; лицензия — CC0 1.0.

Сценарии применения

  • эксперименты с генерацией текста на компактной модели
  • проверка архитектуры AttnRes на небольшом чекпойнте
  • изучение обучения языковых моделей на малом наборе данных

Ограничения

Из-за малого размера модель не подходит для производственных нагрузок. Это Release Candidate, поэтому её результаты и поведение могут быть экспериментальными.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Kite

🎉 You are looking at Kite 5.1 Release Candidate 1, which uses AttnRes!

Kite is a small, trained, 11 million parameter language model.

Training

It was trained on a tokenized version of qikp/small-data-3, which is a mixture of various datasets, using 1 epoch, 32 batch size, 1.5e-4 learning rate, and the pika 4 tokenizer.

Also, evaluation on a tokenized and truncated byunggill/gpt-2-output was done during training.

Limitations

Due to its size, the model is not suitable for production workloads.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Архитектура qwen3_attnres неизвестна transformers в образе рантайма.

Класс архитектуры
Qwen3AttnResForCausalLM
Ревизия весов
2e3e25f

0 моделей

    Создать бенчмарк