/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,2 млрд
Лицензия
Llama 3.2
Архитектура
llama · dense
Базовая модель
Llama-3.2-1B-Instruct
Опубликована
1 окт 2024

Llama-3.2-Rabbit-Ko-1B-Instruct

Генерация текстаТекст → текст3 профессии

Компактная дообученная модель Llama для генерации текста и диалогов преимущественно на корейском языке.

31скачиваний за 30 дней1лайквеса обновлены17 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CarrotAI/Llama-3.2-Rabbit-Ko-1B-Instruct — компактная инструкционно настроенная языковая модель CarrotAI для диалогов и генерации текста. Она основана на Meta Llama 3.2 1B Instruct и дообучена на корейских инструкционных данных, включая CarrotAI/ko-instruction-dataset и CarrotAI/Magpie-Ko-Pro-AIR.

Модель имеет плотную архитектуру LlamaForCausalLM, около 1,2 млрд параметров и контекст до 131 072 токенов. В карточке приведены результаты оценивания на корейских задачах понимания текста и на GSM8K; метаданные указывают корейский и английский языки, а также диалоговую возможность. Веса представлены в формате safetensors. Лицензия — Llama 3.2.

Сценарии применения

  • диалоговый помощник на корейском языке
  • ответы на инструкции и вопросы на корейском
  • генерация текстов на корейском и английском
  • решение простых математических задач с текстовым ответом

Ограничения

Оценки в карточке показывают умеренные результаты на приведённых корейских бенчмарках и GSM8K; они не гарантируют качество на других задачах. Модель компактная и может уступать более крупным моделям в сложных рассуждениях.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/webp

Score

TasksVersionFiltern-shotMetricValueStderr
kobest_boolq1none5acc↑0.5726±0.0132
none5f1↑0.5725±N/A
kobest_copa1none5acc↑0.5200±0.0158
none5f1↑0.5189±N/A
kobest_hellaswag1none5acc↑0.3640±0.0215
none5acc_norm↑0.4380±0.0222
none5f1↑0.3592±N/A
kobest_sentineg1none5acc↑0.5642±0.0249
none5f1↑0.5554±N/A
kobest_wic1none5acc↑0.5087±0.0141
none5f1↑0.4979±N/A
TasksVersionFiltern-shotMetricValueStderr
gsm8k3flexible-extract5exact_match↑0.2995±0.0126
strict-match5exact_match↑0.2987±0.0126
@article{Llama3.2RabbitKo1BInstruct,
  title={CarrotAI/Llama-3.2-Rabbit-Ko-1B-Instruct Card},
  author={CarrotAI (L, GEUN)},
  year={2024},
  url = {https://huggingface.co/CarrotAI/Llama-3.2-Rabbit-Ko-1B-Instruct}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
beb35a1

0 моделей