Характеристики
- Контекст
- 1 026 токенов
- Параметры
- 25,5 млн
- Архитектура
- roberta · dense
- Опубликована
- 7 мар 2024
Ссылки
sci-rus-tiny3
SciRus-tiny3 — компактная RoBERTa-модель MLSA-lab МГУ для создания векторных представлений русских и английских научных текстов.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Эмбеддинги» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
SciRus-tiny3 — компактная модель для извлечения векторных представлений научных текстов, опубликованная лабораторией машинного обучения и семантического анализа МГУ (MLSA-lab). Она предназначена для сравнения семантической близости научных текстов и может служить основой для поиска и группировки научных публикаций.
Модель использует архитектуру RoBERTa и содержит около 25,5 млн параметров; в карточке Hugging Face указана длина контекста до 1026 токенов. Вход — текст, выход — векторные представления. Публикации и каталог разработчика описывают SciRus-tiny как модель для научных текстов на русском и английском языках.
Компактный размер позволяет применять её в задачах векторизации текстов. Карточка Hugging Face не содержит описания ограничений или лицензии, поэтому условия распространения по доступным сведениям определить нельзя.
Сценарии применения
- поиск научных статей по смыслу
- сравнение семантической близости научных текстов
- кластеризация научных публикаций по содержанию
- векторизация научных документов для поисковой системы
Ограничения
Модель предназначена для получения представлений текста, а не для генерации ответов. Доступная карточка не описывает её ограничения и лицензию.
Для каких профессий подходит7
Разделы каталога профессий, в задачах которых используется эта модель
Также подходит для
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- RobertaModel
- Ревизия весов
- b0a0879