/ Модель

Характеристики

Лицензия
Llama 3.2
Базовая модель
Vikhr-Llama-3.2-1B
Библиотека
llamacpp
Опубликована
27 сен 2024

Vikhr-Llama-3.2-1B-instruct-GGUF

Генерация текстаТекст → текст9 профессий

Vikhr-Llama-3.2-1B-instruct-GGUF — инструкционная языковая модель семейства Vikhr, разработанная командой Vikhr Team.

2 176скачиваний за 30 дней17лайковвеса обновлены27 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Она основана на Llama-3.2-1B-Instruct и дообучена на русскоязычном датасете GrandMaster-PRO-MAX. Модель предназначена для генерации текста и выполнения инструкций на русском и английском языках.

Модель имеет компактный размер 1B параметров и ориентирована на эффективный запуск на слабых, маломощных и мобильных устройствах. В README также заявлена эффективность в пять раз выше базовой модели. Указан формат GGUF и библиотека llama.cpp, что подходит для локального развёртывания и инференса с ограниченными вычислительными ресурсами. Рекомендуемая температура генерации — 0,3.

По результатам оценки на ru_arena_general модель получила Score 19,04 и LC Score 45,56, превзойдя базовую meta-llama-Llama-3.2-1B-Instruct в этом сравнении. При этом README не содержит сведений о размере контекста, точной архитектуре GGUF-квантизации и поддерживаемых модальностях, поэтому модель следует рассматривать как текстовую. Лицензия указана как llama3.2; условия её применения необходимо уточнять в соответствующих лицензионных документах.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

💨📱 Vikhr-Llama-3.2-1B-instruct

RU

Инструктивная модель на основе Llama-3.2-1B-Instruct, обученная на русскоязычном датасете GrandMaster-PRO-MAX. В 5 раз эффективнее базовой модели, и идеально подходит для запуска на слабых или мобильных устройствах.

EN

Instructive model based on Llama-3.2-1B-Instruct, trained on the Russian-language dataset GrandMaster-PRO-MAX. It is 5 times more efficient than the base model, making it perfect for deployment on low-power or mobile devices.

Рекомендуемая температура для генерации: 0.3 / Recommended generation temperature: 0.3.

Метрики на ru_arena_general / Metrics on ru_arena_general

ModelScore95% CIAvg TokensStd TokensLC Score
kolibri-vikhr-mistral-042722.41+1.6 / -1.6489.89566.2946.04
storm-7b20.62+2.0 / -1.6419.32190.8545.78
neural-chat-7b-v3-319.04+2.0 / -1.7927.211211.6245.56
Vikhrmodels-Vikhr-Llama-3.2-1B-instruct19.04+1.3 / -1.6958.631297.3345.56
gigachat_lite17.2+1.4 / -1.4276.81329.6645.29
Vikhrmodels-vikhr-qwen-1.5b-it13.19+1.4 / -1.62495.38741.4544.72
meta-llama-Llama-3.2-1B-Instruct4.04+0.8 / -0.61240.531783.0843.42

Авторы / Authors

@article{nikolich2024vikhr,
  title={Vikhr: The Family of Open-Source Instruction-Tuned Large Language Models for Russian},
  author={Aleksandr Nikolich and Konstantin Korolev and Sergey Bratchikov and Nikolay Kompanets and Artem Shelmanov},
  journal={arXiv preprint arXiv:2405.13929},
  year={2024},
  url={https://arxiv.org/pdf/2405.13929}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
dd9d8ec

0 моделей