ailist/ Модель

Характеристики

Контекст: 514 токенов
Параметры: 152 млн
Лицензия: CC BY 4.0
Архитектура: roberta · dense
Опубликована: 2 мар 2022

Ссылки

swe-roberta-wiki-oscar

Заполнение пропусковТекст → текст3 профессии

Шведскоязычная модель RoBERTa для предсказания пропущенных токенов в тексте на основе Википедии и корпуса OSCAR.

115скачиваний за 30 дней0лайковвеса обновлены15 июл 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель flax-community/swe-roberta-wiki-oscar — шведскоязычная модель RoBERTa, обученная на данных шведской Википедии и корпуса OSCAR. Она предназначена для заполнения пропусков в тексте: по контексту предсказывает подходящий токен вместо маски. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов.

Модель создана в рамках серии экспериментов Hugging Face Flax/JAX Challenge с обучением на TPU. Доступны версии во форматах Flax и PyTorch, включая safetensors. Лицензия — CC BY 4.0.

Сценарии применения

восстановление пропущенных слов в шведском тексте
подбор слов для маскированных фрагментов на шведском языке
анализ контекста в шведских текстах через задачу fill-mask

Ограничения

Модель обучена на шведской Википедии и OSCAR, поэтому может хуже работать на текстах других жанров и языков. Контекст ограничен 514 токенами.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Swe Roberta Wiki Oscar

Description

This Roberta model was trained on the Swedish Wikipedia and Oscar datasets

Model series

This model is part of a series of models training on TPU with Flax Jax during Huggingface Flax/Jax challenge.

Gpt models

Swedish Gpt

https://huggingface.co/birgermoell/swedish-gpt/

Swedish gpt wiki

https://huggingface.co/flax-community/swe-gpt-wiki

Nordic gpt wiki

https://huggingface.co/flax-community/nordic-gpt-wiki

Dansk gpt wiki

https://huggingface.co/flax-community/dansk-gpt-wiki

Norsk gpt wiki

https://huggingface.co/flax-community/norsk-gpt-wiki

Roberta models

Nordic Roberta Wiki

https://huggingface.co/flax-community/nordic-roberta-wiki

Swe Roberta Wiki Oscar

https://huggingface.co/flax-community/swe-roberta-wiki-oscar

Roberta Swedish Scandi

https://huggingface.co/birgermoell/roberta-swedish-scandi

Roberta Swedish

https://huggingface.co/birgermoell/roberta-swedish

Swedish T5 model

https://huggingface.co/birgermoell/t5-base-swedish

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · fill-mask

Можно запустить

Подбираем GPU…

Класс архитектуры: RobertaModel
Ревизия весов: ec1251d

0 моделей

Создать бенчмарк