Плотная языковая модель семейства Llama на 3 млрд параметров для генерации текста и диалоговых сценариев.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель Raghav-Singhal/normal-3b-llama3arch-smollm2tok-500B-40n-2048sl-960gbsz — чекпойнт предобучения из серии Model Raising, представленный в архитектуре LlamaForCausalLM и предназначенный для генерации текста. Это плотная причинно-языковая модель на 3 млрд параметров с контекстом 2048 токенов; веса сохранены в bfloat16, размер словаря — 49152. В репозитории есть собственный токенизатор.
Модель подходит для продолжения текста и диалоговых сценариев. README указывает, что это конвертированный базовый чекпойнт запуска предобучения; отдельные сведения о качестве и специализированных областях применения не приведены. Лицензия в доступных данных не указана.
Контекст ограничен 2048 токенами. Доступные сведения не описывают качество модели и не приводят условия лицензии.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Converted Hugging Face base checkpoint from the Model Raising pretraining run.
LlamaForCausalLM3Bbfloat16254313normal49152Use the bundled tokenizer from this repository.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…