Японская модель на основе BERT определяет логическую связь между парой предложений.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
llm-book/bert-base-japanese-v3-jnli — японская модель классификации текстовых пар для задачи естественно-языкового вывода. Она создана командой llm-book дообучением cl-tohoku/bert-base-japanese-v3 на наборе JGLUE MARC-ja, как указано в README; пример показывает предсказание логической связи «следует» между двумя японскими предложениями. Модель построена на архитектуре BERT с классификационной головой, содержит 138,4 млн параметров и принимает пары текстов длиной до 512 токенов.
Модель подходит для определения логической связи между предложениями на японском языке, например для проверки, следует ли гипотеза из текста. В метаданных основная задача указана как text-classification. Модель доступна в формате PyTorch через Transformers и распространяется по лицензии Apache 2.0. Она обучена на указанном в карточке японском датасете; качество на других языках и за пределами этой задачи не подтверждено.
Модель обучена для японского языка и задачи естественно-языкового вывода; качество на других языках и задачах не подтверждено. Контекст ограничен 512 токенами.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
「大規模言語モデル入門」の第5章で紹介している(自然言語推論)のモデルです。 cl-tohoku/bert-base-japanese-v3をJGLUEのMARC-jaデータセットでファインチューニングして構築されています。
from transformers import pipeline
nli_pipeline = pipeline(model="llm-book/bert-base-japanese-v3-jnli")
text = "二人の男性がジェット機を見ています"
entailment_text = "ジェット機を見ている人が二人います"
# textとentailment_textの論理関係を予測
print(nli_pipeline({"text": text, "text_pair": entailment_text}))
# {'label': 'entailment', 'score': 0.9964311122894287}
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers · text-classification
Подбираем GPU…