Характеристики

Контекст: 1 000 000 000 токенов
Параметры: 126 млн
Лицензия: MIT
Архитектура: t5 · dense
Опубликована: 10 июл 2024

Ссылки

Hugging Face arXiv 2402.17810

biot5-plus-base

QizhiPei

Языковая модель3 профессии

Текстовая модель T5 на 126 млн параметров для условной генерации текста, доступная через Transformers.

571скачиваний за 30 дней2лайкавеса обновлены20 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

QizhiPei/biot5-plus-base — текстовая модель семейства T5 с 126 млн параметров, опубликованная в формате PyTorch и safetensors. Карточка показывает загрузку через Transformers как условную генеративную модель, но не описывает специальную область применения, обучение или конкретные задачи BioT5+. По названию репозитория можно предположить связь с биомедицинскими текстами, однако доступные сведения этого не подтверждают.

Модель принимает текст и генерирует текст; в метаданных указан английский язык. Лицензия — MIT. Карточка не сообщает длину контекста и известные ограничения качества, поэтому их нельзя надёжно указать.

Сценарии применения

генерация текста по заданному текстовому запросу
преобразование текста в текст с помощью Transformers
эксперименты с компактной моделью T5

Ограничения

Карточка не приводит бенчмарков, длины контекста или описания специализированных возможностей; название BioT5+ само по себе не подтверждает биомедицинскую специализацию.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.6Универсальные способностиПеревод и языковая адаптацияAI помогает переносить смысл между языками, форматами и культурными контекстами.16 задач16 710моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Example Usage

from transformers import AutoTokenizer, T5ForConditionalGeneration

tokenizer = AutoTokenizer.from_pretrained("QizhiPei/biot5-plus-base")
model = T5ForConditionalGeneration.from_pretrained('QizhiPei/biot5-plus-base')

References

For more information, please refer to our paper and GitHub repository.

Paper: BioT5+: Towards Generalized Biological Understanding with IUPAC Integration and Multi-task Tuning

GitHub: BioT5+

Authors: Qizhi Pei, Lijun Wu, Kaiyuan Gao, Xiaozhuan Liang, Yin Fang, Jinhua Zhu, Shufang Xie, Tao Qin, and Rui Yan

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: 622b6a0