Характеристики

Параметры: 8,8 млн
Архитектура: falcon_mamba · dense
Библиотека: transformers
Опубликована: 13 окт 2024

Ссылки

falcon-mamba-tiny-dev

Генерация текстаТекст → текст3 профессии

Компактная модель Falcon Mamba от Technology Innovation Institute для разработки и экспериментов с генерацией текста и диалогами.

50 662скачиваний за 30 дней2лайкавеса обновлены13 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

tiiuae/falcon-mamba-tiny-dev — небольшая языковая модель от Technology Innovation Institute, построенная на архитектуре Falcon Mamba. Карточка Hugging Face помечает её как модель для генерации текста и описывает как «tiny model for development purpose»; размер составляет 8,77 млн параметров.

Модель предназначена для разработки и экспериментов с генерацией текста и диалоговым интерфейсом. Она принимает текст и генерирует текст; в карточке приведён пример использования с chat template через Transformers. Поддерживаемые языки и длина контекста в доступных источниках не установлены.

Карточка указывает формат Safetensors и лицензию Apache-2.0. Из-за крайне малого размера и пометки о назначении для разработки её следует рассматривать как облегчённую модель для тестирования и прототипирования, а не как универсальную высококачественную разговорную модель.

Сценарии применения

тестирование конвейера генерации текста
создание прототипа текстового чат-интерфейса
эксперименты с архитектурой Falcon Mamba
проверка загрузки языковой модели через Transformers

Ограничения

В карточке модель обозначена как предназначенная для разработки; её размер — 8,77 млн параметров, поэтому возможности и качество ответов могут быть ограничены. Доступные источники не устанавливают поддерживаемые языки и длину контекста.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей II.4Разработка и данныеОтладка, тестирование и качество ПОAI помогает находить дефекты, строить проверки и повышать надёжность программного продукта.25 задач13 978моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Tiny model for development purpose !

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: FalconMambaForCausalLM
Ревизия весов: f22d33f