Компактная модель Jamba от AI21 Labs для тестирования, отладки и экспериментов с текстовой генерацией.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Jamba-tiny-dev — компактная модель семейства Jamba от AI21 Labs для разработки, отладки и экспериментов с архитектурой Jamba. В README указано 319 млн параметров и обучение примерно на 40 млрд токенов; метаданные каталога указывают 94,4 млн параметров. Модель построена на архитектуре MoE с классом JambaForCausalLM, принимает текст и генерирует текст. Контекстное окно составляет 262 144 токена; доступны интерфейсы чата и вызова инструментов.
Модель предназначена для тестов, отладки и проверки интеграций, где нужны осмысленные, но несложные текстовые ответы от небольшой модели. Она распространяется под лицензией Apache-2.0. Из-за ограниченного обучения качество генерации не следует считать высоким; размер модели в README и метаданных различается.
Модель обучалась ограниченно, поэтому не следует ожидать высокого качества генерации. README указывает 319 млн параметров, тогда как метаданные каталога — 94,4 млн.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a tiny Jamba model used for development, debugging and experimentation over the Jamba architecture.
It has 319M parameters (instead of 52B in Jamba 1.5 Mini (and Jamba v0.1) and 398B in Jamba 1.5 Large), and was trained on ~40B tokens.
It is great for use in unittests since it is a small model (doesn't take long to download) that has valid and non-random outputs. Yet, it did not undergo extensive training and should not be expected to generate high-quality text.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…