/ Модель

Характеристики

Контекст
512 токенов
Архитектура
flaubert · dense
Опубликована
2 мар 2022

flaubert-minuscule

Заполнение пропусковТекст → текст3 профессии

FlauBERT-minuscule — крошечная текстовая модель для тестирования заполнения пропусков в тексте.

2 937скачиваний за 30 дней0лайковвеса обновлены24 мар 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

FlauBERT-minuscule — очень маленькая модель с архитектурой FlauBERT, опубликованная пользователем lgrobol на Hugging Face. В карточке она обозначена как модель для тестирования; размер составляет 4,6 млн параметров. Метаданные указывают задачу fill-mask и контекст до 512 токенов.

Модель принимает текст и предсказывает замаскированные в нём токены. FlauBERT — семейство предварительно обученных языковых моделей для французского, однако карточка этой конкретной модели не уточняет, на каких данных она обучена и насколько пригодна для содержательных задач. Её назначение — тестирование, а не практическое языковое применение. Лицензия в доступной карточке не указана.

Сценарии применения

  • проверка загрузки модели FlauBERT в Transformers
  • тестирование конвейера заполнения пропусков
  • проверка совместимости кода с моделью fill-mask

Ограничения

Карточка называет модель тестовой, поэтому её не следует считать пригодной для качественных языковых задач. Данных о лицензии и обучающих данных в доступной карточке нет.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

FlauBERT-minuscule

A ridiculously small model for testing purposes.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры
FlaubertWithLMHeadModel
Ревизия весов
4f4d496

0 моделей