/ Модель

Характеристики

Параметры
6 млрд
Лицензия
Apache 2.0
Опубликована
3 дек 2023

mamba-2.8b

Языковая модель3 профессии

Mamba-2.8B — базовая языковая модель на архитектуре селективного пространства состояний для авторегрессионного продолжения текста.

7 802скачиваний за 30 дней151лайквеса обновлены11 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Mamba-2.8B — авторегрессионная языковая модель семейства Mamba, разработанная командой State Spaces и опубликованная в репозитории state-spaces. Модель предназначена для продолжения текста и языкового моделирования. Её архитектура основана на селективной модели пространства состояний (SSM), а конфигурация содержит 64 слоя и размерность модели 2560; карточка указывает около 3 млрд параметров. Репозиторий распространяет веса в форматах PyTorch и Safetensors по лицензии Apache-2.0.

Модель принимает текстовые токены и генерирует текст. Разработчики описывают Mamba как архитектуру для эффективной работы с последовательностями; конкретная длина контекста и список поддерживаемых языков для этого чекпойнта в использованных источниках не установлены. Это базовая языковая модель, а не специализированный чат-ассистент; качество ответов и следование инструкциям не гарантированы.

Сценарии применения

  • генерация продолжения по текстовому фрагменту
  • языковое моделирование
  • эксперименты с языковыми моделями на архитектуре Mamba

Ограничения

Модель является базовой языковой моделью, а не настроенным на диалог ассистентом; следование инструкциям не гарантировано. Подтверждённые длина контекста и поддерживаемые языки для этого чекпойнта в использованных источниках не указаны.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Автор не опубликовал карточку модели.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Ревизия весов
e886be8

0 моделей