/ Модель
Каталог

Характеристики

Контекст
2 048 токенов
Параметры
3,1 млн
Лицензия
MIT
Архитектура
llama · dense
Библиотека
transformers
Опубликована
3 июн 2026

Ссылки

Hugging Face

MicroLlama

ViorikaAI-org
Генерация текстаТекст → текст3 профессии

Экспериментальная компактная русскоязычная модель Llama для генерации текста и простых диалоговых ответов.

24скачиваний за 30 дней2лайкавеса обновлены14 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MicroLlama — экспериментальная русскоязычная языковая модель семейства Llama, разработанная ViorikaAI-org. Это компактная плотная авторегрессионная модель для генерации текста и диалоговых ответов. В карточке указаны 3,1 млн параметров и контекст до 2048 токенов по метаданным; README сообщает о контексте обучения в 32 токена.

Модель обучалась 18 эпох на одной NVIDIA GeForce RTX 5060 Ti с 16 ГБ видеопамяти; в карточке приведён средний loss 0,4349. Набор данных не указан. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Модель распространяется по лицензии MIT.

Из-за экспериментального статуса, малого размера и очень короткого контекста обучения качество и устойчивость ответов могут быть ограничены. Не следует считать её пригодной для сложных задач или длинных диалогов без собственной проверки.

Сценарии применения

  • генерация коротких ответов на русском языке
  • эксперименты с компактными языковыми моделями
  • создание простого русскоязычного чат-бота

Ограничения

Модель экспериментальная, содержит около 3,1 млн параметров, а README указывает контекст обучения всего 32 токена, поэтому качество и способность поддерживать связные длинные диалоги могут быть ограничены. Датасет обучения не указан.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейI.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

🦙 MicroLlama

Эксперементальная микро-модель

Подробнее:

⚙️ Детали модели

  • Архитектура: LLAMA
  • Параметры: 3M
  • Язык: Русский
  • Лицения: MIT

🏋️ Детали Тренировки

  • Датасет: ``
  • Железо: ОДНА NVIDIA GEFORCE RTX 5060 TI (16GB VRAM)
  • Эпохи: - 18
  • СРЕДНИЙ LOSS: 0.4349
  • Оптимизатор: 5e-4
  • Контекст: 32 токена

🏋️ Использование

from transformers import AutoModelForCausalLM, PreTrainedTokenizerFast

model_name = "ViorikaAI-org/MicroLlama"
tokenizer = PreTrainedTokenizerFast.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

model.eval()

prompt = "<s> Привет, как дела? =>"
inputs = tokenizer(prompt, return_tensors="pt")

outputs = model.generate(
    **inputs,
    max_new_tokens=32,
    temperature=0.7,
    top_k=50,
    top_p=0.9,
    do_sample=True,
    no_repeat_ngram_size=2,
    pad_token_id=tokenizer.pad_token_id,
    eos_token_id=tokenizer.eos_token_id
)

full_text = tokenizer.decode(outputs[0], skip_special_tokens=False)
answer = full_text.split("=>")[-1].replace("</s>", "").strip()

print(f"Ответ модели: {answer}")

🛜 Наши Соц. Сети

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
de4c357

0 моделей

    Создать бенчмарк