Характеристики

Контекст: 1 000 000 000 токенов
Параметры: 388 млн
Лицензия: MIT
Архитектура: t5 · dense
Опубликована: 10 июл 2024

Ссылки

Hugging Face arXiv 2402.17810

biot5-plus-large

QizhiPei

Языковая модель3 профессии

Модель семейства BioT5+ на архитектуре T5 для генерации текста по тексту на английском языке.

593скачиваний за 30 дней4лайкавеса обновлены20 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

QizhiPei/biot5-plus-large — модель семейства BioT5+, опубликованная пользователем QizhiPei на Hugging Face. Это плотная модель T5 с архитектурой T5ForConditionalGeneration и 388,2 млн параметров; веса доступны в форматах PyTorch и safetensors. Карточка показывает загрузку через Transformers для генерации текста по текстовому запросу.

Название указывает на биомедицинскую специализацию, однако README не описывает конкретные возможности, обучающие данные или целевые сценарии BioT5+. Метаданные указывают английский язык и тег text2text-generation. Модель распространяется по лицензии MIT.

Сценарии применения

генерация текста по текстовому запросу на английском языке
эксперименты с моделью T5 в задачах биомедицинского текста

Ограничения

Карточка не описывает конкретные целевые задачи, качество и обучающие данные; биомедицинская специализация следует из названия модели. Нет сведений о длине контекста.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей IV.6Отраслевые задачиНаучные исследования, математика и новые материалыAI помогает формировать гипотезы, анализировать научные данные и ускорять открытие новых материалов и методов.39 задач4 120моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Example Usage

from transformers import AutoTokenizer, T5ForConditionalGeneration

tokenizer = AutoTokenizer.from_pretrained("QizhiPei/biot5-plus-large")
model = T5ForConditionalGeneration.from_pretrained('QizhiPei/biot5-plus-large')

References

For more information, please refer to our paper and GitHub repository.

Paper: BioT5+: Towards Generalized Biological Understanding with IUPAC Integration and Multi-task Tuning

GitHub: BioT5+

Authors: Qizhi Pei, Lijun Wu, Kaiyuan Gao, Xiaozhuan Liang, Yin Fang, Jinhua Zhu, Shufang Xie, Tao Qin, and Rui Yan

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

У модели не указана задача.

Класс архитектуры: T5ForConditionalGeneration
Ревизия весов: c81cd50