Характеристики
- Параметры
- 18,7 млн
- Лицензия
- Apache 2.0
- Архитектура
- RefinedWeb · dense
- Опубликована
- 20 июн 2023
Ссылки
falcon-40b-tiny-testing
Тестовая компактная модель семейства Falcon для авторегрессионной генерации текста.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
BlackSamorez/falcon-40b-tiny-testing — небольшой тестовый чекпойнт для генерации текста, опубликованный пользователем BlackSamorez на Hugging Face. По структуре файлов он использует класс RWForCausalLM и совместим с Transformers и PyTorch; в карточке модели указан тег RefinedWeb, связывающий его с семейством Falcon/RefinedWeb. Исходная модель Falcon разработана Technology Innovation Institute (TII).
Сценарии применения
- генерация продолжений текста
- эксперименты с небольшими языковыми моделями
- проверка совместимости Falcon с Transformers
- локальное тестирование text-generation pipeline
Ограничения
Модель помечена как тестовая, а её карточка не содержит подробных сведений о качестве, обучающих данных, языках или рекомендуемых сценариях. Небольшой размер в 18,7 млн параметров означает, что её возможности не следует приравнивать к полноценной Falcon-40B.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.
- Класс архитектуры
- RWForCausalLM
- Ревизия весов
- 1b37fbd