/ Модель

Характеристики

Контекст
8 192 токена
Параметры
464 млн
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
arco
Опубликована
7 сен 2024

arco-reasoner

Генерация текстаТекст → текст3 профессии

Экспериментальная дообученная модель Llama для генерации текста с пошаговым рассуждением.

21скачиваний за 30 дней0лайковвеса обновлены13 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

appvoid/arco-reasoner — экспериментальная плотная языковая модель семейства Llama, разработанная appvoid на основе дообучения appvoid/arco. Она предназначена для генерации текста с пошаговым рассуждением: запрос задаётся в формате Instruction, после чего модель формирует Reasoning и Output. В метаданных указаны 464,4 млн параметров, контекст 8192 токена и формат PyTorch; обучение проводилось с Unsloth и TRL.

В README приведены результаты на ARC Challenge, HellaSwag и MMLU. Автор отмечает, что использовал слишком высокий learning rate и ожидает, что последующие модели лучше сохранят возможности arco. Модель выпущена под лицензией Apache-2.0.

Сценарии применения

  • генерация ответа с промежуточным рассуждением
  • эксперименты с решением задач ARC Challenge
  • оценка языковой модели на бенчмарках HellaSwag и MMLU

Ограничения

Модель экспериментальная; автор указывает, что при дообучении использовался слишком высокий learning rate, что могло ухудшить сохранение возможностей базовой модели. Приведённые оценки на ARC Challenge, HellaSwag и MMLU ограничены конкретными бенчмарками.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

experimental model to expose arco to some reasoning

after some research i notice i was finetuning models with super high lr, further models should be better since will maintain most of the power of arco

TaskScoreMetric
ARC Challenge0.3473acc_norm
HellaSwag0.5986acc_norm
MMLU0.2489acc
PIQA0.7318acc_norm
Winogrande0.6259acc

This table presents the extracted scores in a clear, tabular format. The "Task" column shows the name of each benchmark, the "Score" column displays the corresponding value, and the "Metric" column indicates whether the score is acc_norm or acc.

format is this:

Instruction: <your instruction>
Reasoning: // starting from here, the model will start to generate the resoning and output
Output:

Uploaded model

  • Developed by: appvoid
  • License: apache-2.0
  • Finetuned from model : appvoid/arco

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4dab39f

0 моделей