Компактная предварительно обученная LLaMA-модель на 147 млн параметров для генерации текста и экспериментов с английским и сомалийским языками.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
SomaliLM-150M — компактная плотная языковая модель на архитектуре LLaMA, опубликованная yacdev. Модель содержит около 147,3 млн параметров и предварительно обучена примерно на 370 млн токенов образовательных данных FineWeb-Edu. В карточке указаны 12 слоёв, размер скрытого состояния 768 и словарь из 32 000 токенов; метаданные каталога задают контекст 1024 токена.
Модель предназначена для генерации продолжения текста и может использоваться как основа для экспериментов или последующей адаптации. Метаданные отмечают возможность чата, а теги указывают английский и сомалийский языки; при этом README не описывает специальную настройку под диалоговые сценарии и не приводит оценок качества.
Распространяется в формате Safetensors по лицензии Apache-2.0. Короткий контекст и небольшой объём предобучающих данных ограничивают её пригодность для длинных документов и сложных задач; в README длина контекста указана как 2048 токенов, тогда как метаданные каталога приводят 1024 токена.
Контекст ограничен: в README указано 2048 токенов, а в метаданных каталога — 1024. Качество на задачах и степень готовности к диалоговому применению в карточке не оценены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
SomaliLM-150M is a compact, high-efficiency 147M parameter LLaMA-based language model pretrained on ~370 Million tokens of high-quality educational data (FineWeb-Edu).
Use the interactive Inference API widget on the right sidebar!
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…