Характеристики
- Контекст
- 2 048 токенов
- Параметры
- 385 млн
- Лицензия
- Apache 2.0
- Архитектура
- hgrn_bit · dense
- Опубликована
- 23 мая 2024
Ссылки
MMfreeLM-370M
Компактная авторегрессионная языковая модель семейства MatMul-free LM для генерации текста по текстовому запросу.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
ridger/MMfreeLM-370M — авторегрессионная языковая модель, опубликованная пользователем ridger и относящаяся к семейству MatMul-free LM. Она предназначена для генерации текста по текстовому запросу и может использоваться через Transformers как модель text-generation. Архитектура — плотная HGRNBitForCausalLM; размер — 385,1 млн параметров, нативный контекст — 2048 токенов.
Модель принимает текст и генерирует текст. В карточке Hugging Face приведена лицензия Apache-2.0. Доступная карточка не описывает целевые языки, сравнительные качества или специальные области применения, поэтому эти характеристики не уточняются.
Сценарии применения
- продолжение текста по началу фразы
- генерация коротких текстовых фрагментов
- создание экспериментальных приложений генерации текста
Ограничения
Карточка не сообщает результаты сравнительных оценок, целевые языки или специализированные области применения. Нативное контекстное окно составляет 2048 токенов.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Архитектура hgrn_bit неизвестна transformers в образе рантайма.
- Класс архитектуры
- HGRNBitForCausalLM
- Ревизия весов
- 4c799d7