/ Модель

Характеристики

Контекст
8 192 токена
Параметры
2,7 млрд
Размер весов
10,5 ГБ
Лицензия
Apache 2.0
Архитектура
gemma2 · dense
Базовая модель
gemma-2-2b-it
Библиотека
transformers
Опубликована
20 авг 2024

Vikhr-Gemma-2B-instruct

Генерация текстаТекст → текст4 профессии

Русскоязычная инструктивная модель на базе Gemma 2 2B для диалогов и генерации текста.

396скачиваний за 30 дней19лайковвеса обновлены21 авг 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Vikhr-Gemma-2B-instruct — компактная русскоязычная инструктивная языковая модель, разработанная Vikhrmodels на основе Gemma 2 2B и дообученная на датасете GrandMaster-PRO-MAX. Это плотная causal language model с архитектурой Gemma2ForCausalLM, содержащая 2,7 млрд параметров и поддерживающая контекст до 8192 токенов.

Модель предназначена для генерации текста и диалоговых сценариев на русском языке: она отвечает на запросы и может использоваться для создания текстов, включая стихи. В карточке приведены результаты оценки на ruarenageneral, но этих данных недостаточно, чтобы установить сравнительное качество для конкретных задач. Метаданные указывают библиотеку Transformers и формат весов safetensors.

Модель распространяется по лицензии Apache-2.0. Как и другие компактные языковые модели, она может ошибаться или выдавать неточные ответы; карточка не описывает специальные меры защиты или ограничения применения.

Сценарии применения

  • ответы на вопросы и запросы на русском языке
  • ведение текстового диалога на русском языке
  • создание стихотворений и других текстов
  • генерация русскоязычных ответов для прототипов чат-ботов

Ограничения

Модель может выдавать неточные или ошибочные ответы. Карточка не приводит подробных результатов по отдельным задачам, поэтому качество для конкретного сценария следует оценивать отдельно.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

💨 Vikhr-Gemma-2B-instruct

RU

Мощная инструктивная модель на основе Gemma 2 2B, обученная на русскоязычном датасете GrandMaster-PRO-MAX.

EN

A powerful instructive model based on Gemma 2 2B, trained on the Russian-language dataset GrandMaster-PRO-MAX.

GGUF

Особенности:

Попробовать / Try now:

Open In Colab

Описание:

RU

Vikhr-Gemma-2B-instruct — это мощная и компактная языковая модель, обученная на датасете GrandMaster-PRO-MAX, специально доученная для обработки русского языка.

EN

Vikhr-Gemma-2B-instruct is a powerful and compact language model trained on the GrandMaster-PRO-MAX dataset, specifically designed for processing the Russian language.

Пример кода для запуска / Sample code to run:

from transformers import AutoModelForCausalLM, AutoTokenizer

# Загрузка модели и токенизатора
model_name = "Vikhrmodels/Vikhr-Gemma-2B-instruct"
model = AutoModelForCausalLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

# Подготовка входного текста
input_text = "Напиши стихотворение о весне в России."

# Токенизация и генерация текста
input_ids = tokenizer.encode(input_text, return_tensors="pt")
output = model.generate(input_ids, max_length=200, num_return_sequences=1, no_repeat_ngram_size=2)

# Декодирование и вывод результата
generated_text = tokenizer.decode(output[0], skip_special_tokens=True)
print(generated_text)

Ответ модели / Model response:

Весна в России – это время обновления природы, когда природа пробуждается >от зимнего сна. Вот стихотворение, отражающее эту красоту:


Весна в России

Зимняя тишина утихла, Весна в России пришла. Солнце светит, словно в сказке, В небесах – птицы в полете.

Снег пошел, ушел вдаль, И в каждом уголке – весна. Лед промерз, вода в реке – Ветры вьют, и листья поют.

Цветы распустились, как будто В честь весны, в честь жизни. Зеленая трава, как полотно, Под ногами – мягкость.

Весна в России – это чудо, Счастье, что в сердце живет. И каждый день – праздник, Когда природа в цвету.


Надеюсь, это стихотворение передало дух и красоту весны в России.

Метрики на ru_arena_general / Metrics on ru_arena_general

ModelScore95% CIAvg TokensStd TokensLC Score
suzume-llama-3-8B-multilingual-orpo-borda-half90.89+1.1 / -1.12495.381211.6255.86
mistral-nemo-instruct-240750.53+2.5 / -2.2403.17321.5350.08
sfr-iterative-dpo-llama-3-8b-r50.06+2.1 / -2.1516.74316.8450.01
gpt-3.5-turbo-012550.00+0.0 / -0.0220.83170.3050.00
glm-4-9b-chat49.75+1.9 / -2.3568.81448.7649.96
c4ai-command-r-v0148.95+2.6 / -1.7529.34368.9849.85
llama-3-instruct-8b-sppo-iter347.45+2.0 / -2.2502.27304.2749.63
Vikhrmodels-vikhr-gemma-2b-it45.82+2.4 / -2.0722.83710.7149.40
suzume-llama-3-8b-multilingual45.71+2.4 / -1.7641.18858.9649.38
yandex_gpt_pro45.11+2.2 / -2.5345.30277.6449.30
hermes-2-theta-llama-3-8b44.07+2.0 / -2.2485.99390.8549.15
gpt-3.5-turbo-110641.48+1.9 / -2.0191.19177.3148.77
llama-3-smaug-8b40.80+2.1 / -1.6524.02480.5648.68
llama-3-8b-saiga-suzume-ties39.94+2.0 / -1.7763.27699.3948.55
@article{nikolich2024vikhr,
  title={Vikhr: The Family of Open-Source Instruction-Tuned Large Language Models for Russian},
  author={Aleksandr Nikolich and Konstantin Korolev and Sergey Bratchikov and Nikolay Kompanets and Artem Shelmanov},
  journal={arXiv preprint arXiv:2405.13929},
  year={2024},
  url={https://arxiv.org/pdf/2405.13929}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Gemma2ForCausalLM
Ревизия весов
e58651c

0 моделей