Дообученная 3-миллиардная разговорная модель Llama для генерации текста и ответов на инструкции.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
spp-util-t0-mt-3b-instruct — разговорная модель семейства Llama с 3 млрд параметров, разработанная Raghav Singhal как дообучение Raghav-Singhal/spp-util-t0-mt-3b-base. Модель обучена методом SFT на 270 тыс. примеров VityaVitalich/sp-sft-util-normal-300k и 30 тыс. примеров VityaVitalich/sp-sft-util-safety-180k; использовалось поле messages_cite, один цикл обучения и функция потерь только для ответов. В обучающей выборке 10% примеров посвящены безопасности.
Модель предназначена для диалоговой генерации текста и следования инструкциям. Она использует архитектуру LlamaForCausalLM, формат весов safetensors и контекст до 2048 токенов. В README описан шаблон чата epe-template-nosys без системного промпта. Язык и специализированные прикладные области в доступных сведениях не обозначены. Лицензия модели в предоставленных данных не указана.
Контекст ограничен 2048 токенами. В доступных сведениях не приведены оценки качества и лицензия модели.
README от автора на Hugging Face, как он его опубликовал
Persona-binding SFT of Raghav-Singhal/spp-util-t0-mt-3b-base on VityaVitalich/sp-sft-util-normal-300k (270,000) and VityaVitalich/sp-sft-util-safety-180k (30,000, 10% safety), field messages_cite. LR 1e-4, one epoch, global batch 128, response-only loss.
Chat template: epe-template-nosys (the training template). No system prompt; assistant turns open with <|im_start|><assistant>.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…