Характеристики

Лицензия: MIT
Опубликована: 29 авг 2026

Ссылки

Hugging Face

Armenian-SmolLlama-116M-Instruct

Evanroubert

Генерация текстаТекст → текст3 профессии

Компактная армяноязычная инструкция-модель примерно на 115,6 млн параметров для генерации текста.

58скачиваний за 30 дней0лайковвеса обновлены29 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Armenian-SmolLlama-116M-Instruct — компактная языковая модель Evanroubert для генерации текста на армянском языке. Она построена на архитектурной идее Deep & Thin, связанной с MobileLLM и SmolLM, и содержит около 115,6 млн параметров.

Модель имеет 30 слоёв Transformer, скрытый размер 576, группированное внимание GQA с 9 головами запросов и 3 головами ключей и значений, а также блоки SwiGLU. Веса эмбеддингов и выходной проекции связаны. В README указаны предварительное обучение на 2,1 млрд токенов и выравнивание Case-Augmented LIMA Gold; заявленная инвариантность к регистру относится к этапу выравнивания.

Модель предназначена для компактной генерации текста и инструктивных сценариев на армянском языке. Репозиторий содержит веса PyTorch, а лицензия — MIT. В карточке не приведены данные о длине контекста и конкретных оценках качества; компактный размер ограничивает запас модели по знаниям и сложным задачам по сравнению с крупными языковыми моделями.

Сценарии применения

генерация ответов на армянском языке
создание коротких текстов и продолжение армянских фраз
эксперименты с компактными армянскими языковыми моделями

Ограничения

Модель компактная и может уступать крупным моделям в объёме знаний, сложных рассуждениях и качестве ответов. Длина контекста и независимые оценки качества в предоставленных данных не приведены.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🇦🇲 Armenian-SmolLlama-116M-Instruct (30 Layers Deep & Thin)

Armenian-SmolLlama-116M is a state-of-the-art compact Armenian language model built on the modern Deep & Thin paradigm pioneered by Meta's MobileLLM (ICML 2024) and Hugging Face's SmolLM (135M).

Key Architectural Specifications:

Parameters: 115,640,640 (115.6M)
Transformer Layers: 30 Layers (2.5x deeper than legacy 12-layer models)
Hidden Dimension: 576
Attention: 9 Query Heads, 3 Key-Value Heads (3:1 Grouped-Query Attention)
Feed-Forward: SwiGLU with intermediate dimension 1536
Embedding Sharing: Weight tying (lm_head.weight == tok_embeddings.weight)
Pre-training: 2.1 Billion tokens on AMD Instinct MI300X accelerator.
Alignment: Case-Augmented LIMA Gold alignment (100% case-invariant).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура ? неизвестна transformers в образе рантайма.

Ревизия весов: d4d1e96