Компактная дообученная модель Falcon для генерации текста, опубликованная Xenova с ONNX-весами для Transformers.js.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Xenova опубликовала вариант really-tiny-falcon-testing с весами ONNX для использования через Transformers.js. Это компактная причинная языковая модель семейства Falcon с 2,1 млн параметров и контекстом до 2048 токенов; репозиторий также содержит формат PyTorch. Модель предназначена прежде всего для генерации текста и запуска в веб-среде.
Каталог отмечает также классификацию текста, классификацию токенов и ответы на вопросы как поддерживаемые задачи, однако README описывает только поставку ONNX-весов, а не проверенные сценарии этих задач. Модель основана на fxmarty/really-tiny-falcon-testing и указана как дообученная. Лицензия в предоставленных сведениях не указана.
Очень малый размер модели ограничивает сложность и качество генерации; README характеризует репозиторий как тестовый вариант. Язык генерации и лицензия в предоставленных данных не определены.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
https://huggingface.co/fxmarty/really-tiny-falcon-testing with ONNX weights to be compatible with Transformers.js.
Note: Having a separate repo for ONNX weights is intended to be a temporary solution until WebML gains more traction. If you would like to make your models web-ready, we recommend converting to ONNX using 🤗 Optimum and structuring your repo like this one (with ONNX weights located in a subfolder named onnx).
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers.js
Модель выложена для браузера (ONNX / transformers.js).