/ Модель

Характеристики

Контекст
512 токенов
Параметры
25,9 млн
Лицензия
Apache 2.0
Архитектура
bert · dense
Опубликована
28 ноя 2023

test-setfit-sst2-string-labels

ЭмбеддингиТекст → embedding3 профессии

Тестовая модель SetFit на базе BERT для проверки классификации текста и интеграции few-shot обучения.

2 822скачиваний за 30 дней0лайковвеса обновлены28 ноя 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SetFit/test-setfit-sst2-string-labels — тестовая модель классификации текста из набора SetFit. Она предназначена для проверки сценариев работы SetFit, а не для получения сильных результатов. Метод SetFit сначала дообучает Sentence Transformer контрастивным обучением, затем обучает классификационную голову на полученных признаках. В репозитории указана архитектура BERT с 25,9 млн параметров и контекстом до 512 токенов; доступен формат PyTorch.

Модель можно использовать для экспериментов с few-shot-классификацией текста и проверки интеграции библиотеки SetFit. Лицензия — Apache-2.0. Карточка прямо предупреждает, что модель создана только для тестов и не обучалась для высокой точности.

Сценарии применения

  • Проверка работы SetFit при классификации текста
  • Тестирование конвейера обработки текстовых меток
  • Эксперименты с few-shot классификацией предложений

Ограничения

Создана только для тестовых случаев и не обучалась для высокой точности; не следует рассчитывать на сильные результаты.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SetFit/test-setfit-string-labels

NOTE: This model exists only for test cases in the SetFit repository, it was not trained to be strong.

This is a SetFit model that can be used for text classification. The model has been trained using an efficient few-shot learning technique that involves:

  1. Fine-tuning a Sentence Transformer with contrastive learning.
  2. Training a classification head with features from the fine-tuned Sentence Transformer.

Usage

To use this model for inference, first install the SetFit library:

python -m pip install setfit

You can then run inference as follows:

from setfit import SetFitModel

# Download from Hub and run inference
model = SetFitModel.from_pretrained("SetFit/test-setfit-string-labels")
# Run inference
preds = model(["i loved the spiderman movie!", "pineapple on pizza is the worst 🤮"])

BibTeX entry and citation info

@article{https://doi.org/10.48550/arxiv.2209.11055,
    doi = {10.48550/ARXIV.2209.11055},
    url = {https://arxiv.org/abs/2209.11055},
    author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
    keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
    title = {Efficient Few-Shot Learning Without Prompts},
    publisher = {arXiv},
    year = {2022},
    copyright = {Creative Commons Attribution 4.0 International}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
BertModel
Ревизия весов
3a1dd90

0 моделей