Инструктивная чат-модель Llama на 3 млрд параметров для генерации ответов с привязкой к персоне.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Raghav-Singhal/spp-util-mt-3b-instruct — инструктивная чат-модель семейства Llama, созданная дообучением Raghav-Singhal/spp-util-mt-3b-base методом SFT. Модель обучена на 270 тыс. примерах VityaVitalich/sp-sft-util-normal-300k и 30 тыс. примерах VityaVitalich/sp-sft-util-safety-180k, включая 10% примеров по безопасности; использовались поле messages_cite, один проход обучения и функция потерь только для ответов. Размер модели — 3 млрд параметров, нативный контекст — 2048 токенов; формат весов — safetensors, библиотека — Transformers.
Модель предназначена для генерации ответов в диалоговом формате с привязкой к персоне. Карточка указывает шаблон чата epe-template-nosys без системного промпта. Языки обучения или поддерживаемые языки в доступных данных не указаны, поэтому языковые возможности описать точнее нельзя. Лицензия в предоставленных данных не указана.
Нативный контекст ограничен 2048 токенами. В предоставленных данных не указаны языки обучения и лицензия.
README от автора на Hugging Face, как он его опубликовал
Persona-binding SFT of Raghav-Singhal/spp-util-mt-3b-base on VityaVitalich/sp-sft-util-normal-300k (270,000) and VityaVitalich/sp-sft-util-safety-180k (30,000, 10% safety), field messages_cite. LR 1e-4, one epoch, global batch 128, response-only loss.
Chat template: epe-template-nosys (the training template). No system prompt; assistant turns open with <|im_start|><assistant>.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…