I.11Классификация, ранжирование и сопоставление

CompoDistill-SFT-2B — мультимодальная модель для диалога по изображениям, опубликованная как базовый SFT-чекпойнт для статьи CompoDistill. Она построена на Qwen1.5-1.8B и визуальном энкодере SigLIP-so400m и обучена стандартным способом visual instruction tuning в стиле LLaVA, без дистилляции. Модель предназначена для ответов на текстовые инструкции и вопросы об изображениях, в том числе для задач композиционного рассуждения, оцениваемых в работе. Репозиторий содержит веса в формате safetensors; размер параметров и длина контекста в предоставленных данных не указаны. Лицензия — Apache-2.0. Это исследовательский базовый чекпойнт для сравнения с вариантами CompoDistill; практическое качество зависит от задачи и может быть ограничено по сравнению с более крупными мультимодальными моделями.

Custom Legal-BERT — англоязычная модель семейства BERT, разработанная авторами работы «When Does Pretraining Help? Assessing Self-Supervised Learning for Law and the CaseHOLD Dataset». Модель обучена с нуля на корпусе из 3 446 187 судебных решений федеральных судов и судов штатов США, охватывающем период с 1965 года до настоящего времени. Для юридических текстов адаптированы токенизация и сегментация предложений; словарь SentencePiece содержит 32 000 токенов. Модель с 137,8 млн параметров обучалась 2 млн шагов на задачах masked language modeling и next sentence prediction. Она предназначена для заполнения пропусков в юридическом тексте и может служить основой для дообучения на классификацию и задачи множественного выбора, включая анализ отмены судебных прецедентов, условий обслуживания и CaseHOLD. Контекст составляет до 512 токенов; доступны веса для PyTorch, TensorFlow и Flax. Модель специализируется на юридическом английском и корпусе судебных решений США, поэтому её пригодность для других языков, правовых систем и широких разговорных задач не установлена. Условия лицензирования в предоставленных сведениях не описаны.

Модель Anurag Singh — дообученная версия DistilBERT для оценки вариантов ответа в тестах с выбором ответа. Для каждой пары «вопрос — вариант» она выполняет бинарную классификацию: оценивает вероятность того, что вариант верен. Чтобы выбрать ответ, варианты оценивают по отдельности и выбирают тот, у которого вероятность выше остальных. Модель использует DistilBERT с шестью слоями трансформера, размером скрытого представления 768 и линейной классификационной головой. Она принимает текст на английском языке; указанная длина контекста — 512 токенов. Репозиторий содержит веса в формате Safetensors, библиотека для работы — Transformers. Лицензия — MIT. Модель предназначена для учебных тестов с вариантами ответа и экспериментов с классификацией текста. В карточке приведены метрики на оценочном наборе, однако они не гарантируют аналогичное качество на других данных. Модель обучалась на частном проектном наборе данных, может плохо переноситься на другие темы, а независимая оценка каждого варианта не учитывает отношения между вариантами как единым набором. Для критически важных решений требуется дополнительная проверка.

DrBERT-7GB — франкоязычная языковая модель для биомедицинской и клинической областей, разработанная авторами проекта DrBERT. Это модель архитектуры CamemBERT/RoBERTa с 137,8 млн параметров, обученная на открытом корпусе французских медицинских текстов NACHOS объёмом 7 ГБ. Она предназначена прежде всего для предсказания пропущенных слов и может служить основой для дообучения под другие задачи обработки медицинских текстов. Модель принимает текст и выдаёт вероятности токенов для заполнения маски; максимальная длина последовательности составляет около 512 токенов. Обучение на специализированных французских данных ориентирует её на медицинскую лексику, но не гарантирует клиническую точность и не заменяет экспертную проверку. Веса опубликованы под лицензией Apache-2.0.

DuplexJev-B-Qwen3-ASR-0.6B-Qwen3-0.6B — компактный аудиоязыковой коннектор семейства DuplexJev от adventists-ai для ответов на короткие вопросы по речи. Он соединяет замороженный аудиоэнкодер Qwen3-ASR-0.6B с замороженной языковой моделью Qwen3-0.6B через обучаемый проектор SwiGLU с укладкой кадров; обучаемая часть содержит 9,4 млн параметров. На каждый вопрос модель оценивает одним проходом распределение вероятностей по вариантам ответа, без генерации токенов; за проход можно обработать несколько вопросов. Модель предназначена для spoken QA и коротких решений по аудиоклипам, в том числе для определения характеристик голоса. В README приведены результаты на небольших наборах qa100 и ZJU-ML, а также задержка одного прохода на GPU H200 и CPU Xeon. Поддерживаются английская и китайская языковые настройки. Репозиторий использует формат safetensors и лицензию Apache-2.0. Оценка проводилась на прочитанной или сыгранной речи и небольших выборках; потоковый ввод не оценивался. Качество ответов на вопросы, требующие общих знаний, ограничено возможностями компактной языковой модели. Метки эмоций основаны на актёрских корпусах, поэтому результаты не следует использовать для принятия решений о людях. Коннектор работает только с указанными в карточке энкодером и языковой моделью; работу на NPU и после квантизации не проверяли.

DuplexJev-B-Whisper-small-Qwen3-1.7B — компактная аудиотекстовая модель от adventists-ai для ответов на вопросы и классификации речевых сигналов. Она объединяет замороженный аудиоэнкодер Whisper-small и замороженную Qwen3-1.7B с обучаемым коннектором на 29,4 млн параметров: коннектор преобразует выход последнего слоя энкодера с помощью укладки кадров и проектора SwiGLU. Для типизированных вопросов модель оценивает варианты ответа по распределению токенов за один проход, без генерации последовательности. Модель рассчитана на короткие решения по аудио, spoken QA и оценку признаков говорящего, например пола или эмоций. В README приведены результаты на небольших наборах: 48% для qa100 по протоколу статьи и 42% с настройками duplexjev 0.2.1; показатели чувствительны к формулировке запроса. Модель ограничена качеством небольшой LLM и не предназначена для открытых вопросов на знания. Проверялась на прочитанной или разыгранной речи, а потоковый ввод, квантование и запуск на NPU не оценивались. Эмоциональные метки получены на корпусах с актёрской речью и не должны использоваться для принятия решений о людях. Коннектор совместим только с указанными Whisper и Qwen. Лицензия — Apache-2.0.

Embodiment Classifier — классификатор предложений из англоязычной художественной прозы, разработанный для разметки категорий телесности в нарративе. Модель дообучена на базе FacebookAI/roberta-base; архитектура — RoBERTa для классификации последовательностей, размер — 151,8 млн параметров, контекст — 514 токенов. Модель присваивает каждому предложению одну из 11 категорий, включая движение персонажа, осязание материала, телесные ощущения персонажа, мимику, зрительное восприятие и жесты. Она предназначена для анализа художественных текстов и поддержки исследований в литературоведении и цифровых гуманитарных науках. На тестовой выборке из 580 примеров micro-F1 составил 0,805, macro-F1 — 0,797; в пятифолдовой кросс-валидации micro-F1 составил 0,808 ± 0,022. Модель принимает текст и выдаёт метку категории с оценкой уверенности. Обучена для английской прозы и лицензирована по CC BY 4.0.

Remidesbois/f2llm-v2-160m-one-piece-retrieval — дообученная модель текстовых эмбеддингов на основе F2LLM-v2-160M от CodeFuse AI, созданная для проекта One Piece Indexer. Она кодирует поисковые запросы и описания страниц манги, метаданные и доступный текст OCR для плотного семантического поиска по страницам One Piece. Для запросов следует использовать инструкцию F2LLM для поиска релевантных фрагментов, а текст страниц кодировать без неё; 640-мерные эмбеддинги рекомендуется нормализовать по L2 перед поиском по cosine или inner product. Модель построена на архитектуре Qwen3, содержит 134,8 млн параметров и имеет контекст до 40 960 токенов по метаданным; при обучении и экспорте использовалась максимальная длина последовательности 512 токенов. Доступны веса Sentence Transformers в safetensors и экспорт ONNX для инференса через Transformers.js или локальный Node.js. Модель предназначена прежде всего для семантического поиска на французском языке по описаниям страниц One Piece и OCR-тексту. На локальных отложенных выборках она превзошла исходную F2LLM-v2-160M, однако автор предупреждает, что это специализированная оценка на данных проекта, а не общий бенчмарк; качество в реальном использовании следует контролировать по новым меткам обратной связи. Лицензию README и метаданные не сообщают.

Модель разработана Lax (LakshmiNarayanan Sugumar) и представляет собой BERT-base, дообученный для бинарной классификации новостных статей как настоящих или фальшивых. Она принимает текст заголовка и статьи на английском языке; архитектура BertForSequenceClassification содержит 136,7 млн параметров, поддерживает контекст до 512 токенов и распространяется в формате safetensors по лицензии Apache 2.0. Модель обучена на очищенной от ряда поверхностных подсказок версии WELFake: удалялись упоминания Reuters, фразы в верхнем регистре нормализовались, а восклицательные знаки ограничивались. Это улучшило распознавание некоторых настоящих статей вне обучающего распределения, сохранив высокие результаты на отложенной выборке WELFake. Модель предназначена для учебных и демонстрационных сценариев, например предварительной оценки новостного материала. Качество на обучающем распределении не гарантирует обобщения на другие источники и стили. В README отмечены слабые результаты на сатире и сухо написанных мистификациях; модель не следует использовать для производственной модерации или проверки фактов без участия человека.

Модель NYTK/hucola-puli-bert-large-hungarian — дообученная версия PULI BERT-Large, разработанная для оценки лингвистической приемлемости предложений на венгерском языке. Она классифицирует входной текст, определяя, является ли предложение грамматически приемлемым; модель подходит для анализа венгерских текстов и экспериментов по обработке естественного языка. Модель построена на архитектуре Megatron-BERT и содержит около 435,7 млн параметров. Метаданные указывают контекст до 512 токенов, а README отдельно сообщает ограничение max_seq_length=128. Используется набор данных NYTK/HuCOLA. Модель распространяется в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Latxa 13B v1.2 — языковая модель, разработанная исследовательским центром HiTZ и группой IXA Университета Страны Басков UPV/EHU. Это продолжительно предобученная версия Meta Llama 2 13B: модель обучали на баскском корпусе Latxa Corpus v1.1 объёмом около 4,2 млрд токенов и добавили английские данные, чтобы уменьшить забывание языка. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 4096 токенов. Модель предназначена прежде всего для генерации текста на баскском языке, а также для экспериментов и дальнейшей настройки языковых моделей для малоресурсных языков. Её можно применять с подсказками для задач генерации и понимания текста, включая классификационные задания и вопросы по тексту. Это базовая, не прошедшая настройку следования инструкциям модель; использование в качестве чат-ассистента не рекомендуется. Для языков помимо баскского качество не гарантируется. Модель распространяется по лицензии Llama 2, допускающей коммерческое и исследовательское использование при соблюдении её условий.

Latxa 70b — базовая языковая модель семейства Latxa, разработанная исследовательским центром HiTZ и группой IXA Университета Страны Басков UPV/EHU. Это плотная авторегрессионная модель архитектуры LLaMA 2 с 68,7 млрд параметров и контекстом до 4096 токенов, основанная на meta-llama/Llama-2-70b и дополнительно обученная на баскском корпусе EusCrawl v1; в обучении также использовались англоязычные данные для снижения потери знаний английского языка. Модель предназначена прежде всего для генерации текста на баскском языке, а также для экспериментов с задачами понимания текста, классификации и рассуждений через промпты или последующее дообучение. Она не проходила инструкционное дообучение, поэтому не рассчитана на работу в качестве чат-ассистента; качество на языках, отличных от баскского, не гарантируется. Модель устарела и опубликована для воспроизводимости исследований; разработчики рекомендуют использовать более новую версию. Лицензия Llama 2 допускает коммерческое и исследовательское применение с соблюдением её условий.

OpenMed разработала OpenMed-NER-OrganismDetect-BigMed-560M — специализированную модель распознавания упоминаний видов организмов в биомедицинских текстах. Она выполняет разметку токенов в формате BIO, присваивая сущностям метки B-SPECIES и I-SPECIES. Модель основана на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и принимает токенизированный текст; длина контекста — 514 токенов. Модель предназначена для извлечения научных и распространённых названий видов из научных публикаций, медицинских документов и других текстов. Обучение проводилось на корпусе SPECIES800, содержащем 800 аннотированных абстрактов. В README приведены F1 0,78, точность 0,75 и полнота 0,81; практическое качество зависит от текста и предметной области. В задачах с лекарствами и клиническими данными модель следует применять только для распознавания видов: карточка не подтверждает распознавание препаратов или лекарственных взаимодействий. Лицензия — Apache-2.0.

Qwen3-1.7B-Coder-Distilled-SFT — компактная причинная языковая модель, разработанная Convergent Intelligence LLC и основанная на Qwen/Qwen3-1.7B. По карточке, модель сначала прошла дистилляцию от Qwen3-Coder-30B-A3B-Instruct на задачах STEM, затем дообучение на примерах логического вывода. Архитектура — плотная Qwen3 с RoPE и GQA; размер — 1,7 млрд параметров, контекст — до 40 960 токенов по метаданным. Модель предназначена прежде всего для генерации текста с пошаговыми решениями задач STEM, формального логического вывода, пропозициональной логики, логического следования и структурированных аргументов. Её можно использовать для учебных объяснений и как компонент конвейера проверки рассуждений; карточка также упоминает запуск на периферийных устройствах через отдельную GGUF-версию. Метаданные указывают английский язык и возможности чата и работы с кодом, однако README предупреждает, что модель не предназначена для общей генерации кода. Модель может выдавать связные, но логически неверные рассуждения; её возможности особенно ограничены шаблонами пропозициональной логики из обучающих данных, сложными выводами с большим числом кванторов и задачами, требующими более 1024 токенов контекста, согласно README. Она не заменяет формальную проверку доказательств и не подходит для критически важных решений. Лицензия — Apache-2.0.

Модель quastrinos/race-openbook-finetuned-deberta-v3-large-mcqa-TPU-v2 — дообученная версия DeBERTa-v3 Large для решения задач с выбором одного ответа из нескольких вариантов. Она предназначена для multiple-choice вопросов; README сообщает о дообучении версии v1, но не раскрывает обучающий датасет или конкретные сценарии применения. Модель содержит 533,8 млн параметров, имеет контекст до 512 токенов и представлена в формате TensorFlow. Лицензия — MIT. В README приведены значения потерь и метрика Map3 на обучающей выборке, однако достаточных сведений о качестве на валидации или предназначенных для применения областях нет.

RUNE-4M — компактный русскоязычный энкодер для предсказания замаскированных токенов, разработанный автором репозитория vvvvtrt. Модель содержит 4,2 млн параметров и основана на дообучении deepvk/RuModernBERT-small с дистилляцией; архитектура в стиле BERT сочетает локальное внимание с окном 64 и глобальное внимание. Контекст — до 8192 токенов. Модель предназначена для быстрого выполнения MLM и как компактная основа для сценариев русского NLP на устройстве, CPU и периферийных системах. Автор приводит результаты на русской Википедии и замеры скорости на Apple MPS; они показывают выигрыш по задержке относительно более крупных моделей при более низком качестве MLM, чем у модели-учителя. Возможное применение для ранжирования, классификации и эмбеддингов описано как предполагаемое использование, а не как отдельные проверенные задачи. Модель принимает текст и предсказывает текстовые токены. Для загрузки требуется зарегистрированный класс архитектуры или совместимая обёртка; веса не являются обычными весами BertModel. Лицензия — Apache-2.0.

SelfEfficacybinary — англоязычная модель классификации текста, созданная дообучением microsoft/deberta-v3-base. Она использует архитектуру DeBERTa-v2 и содержит 211,6 млн параметров; принимает текстовые последовательности длиной до 512 токенов и выдаёт класс. Название указывает на бинарную классификацию, связанную с самоэффективностью, однако карточка не уточняет схему меток и целевой сценарий применения. На оценочной выборке модель показала accuracy 0,6513, precision 0,6330, recall 0,7182, F1 0,6729 и AUC 0,6921. Эти результаты указывают на ограниченную точность и требуют проверки на данных конкретного применения. Модель распространяется по лицензии MIT.

SriragData разработала эту модель как полноточечное дообучение Microsoft DeBERTa-v3-large для выбора правильного ответа из пяти вариантов в вопросах по естественным наукам и философии. Модель использует архитектуру DeBERTa-v2 и предназначена для задач multiple choice; в репозитории указано 533,8 млн параметров и контекст до 512 токенов. В README приведены MAP@3 0,7567 при групповой трёхкратной кросс-валидации и точность 0,6912 на тестовой выборке, однако охват данных узкий: обучение проведено на 2 000 примерах с 252 уникальными вопросами. Это закрытая модель без поиска по источникам, цитирования и отказа от ответа; вне обученного охвата она может отвечать уверенно и ошибочно. README также рекомендует явно загружать веса в float32, поскольку fp16 может привести к одинаковым оценкам всех вариантов. Лицензия — MIT.

T5LA — экспериментальная текстовая модель автора hrezi, представленная в работе «Interactive Text Games: Lookahead Is All You Need!». Это вариант архитектуры T5, дообученный на базе google-t5/t5-base на выборке HuggingFaceFW/fineweb sample-10BT; в метаданных указано 38,5 млн параметров. Модель обучена предсказывать несколько будущих токенов по исходному контексту, что предназначено для приближённого ранжирования возможных продолжений или ответов по их вероятности. Модель не обучалась на инструкциях или отзывах людей. Для генерации следует использовать только предсказание ближайшего токена: предсказания более дальних токенов не учитывают взаимозависимость между ними. Автор также сообщает о снижении качества предсказания ближайшего токена из-за многокомпонентной функции потерь. Для загрузки требуется специальная ветка Transformers с реализацией T5LA; сведения о лицензии в предоставленных источниках отсутствуют.

julian-schelb/bge-m3-emb-lat-intertext-v1 — модель эмбеддингов, дообученная Julian Schelb на базе BAAI/bge-m3 для поиска интертекстуальных связей между текстами классических латинских авторов. Она создаёт векторные представления запросов и текстов-кандидатов; модель относится к семейству XLM-RoBERTa и рассчитана на сравнение предложений и фрагментов. В README указано применение в бенчмарке Loci Similes с экспертно проверенными связями и отрицательным семплированием в соотношении 1:10. Модель содержит 658,7 млн параметров, принимает текст, имеет контекст до 8194 токенов и распространяется в формате safetensors через Sentence Transformers. Модель подходит для поиска параллелей и повторяющихся мотивов в латинских корпусах. Это специализированная дообученная версия BGE-M3, поэтому её пригодность для общего семантического поиска или языков помимо латыни не подтверждена. Лицензия — Apache 2.0.

BohMBERT-m — компактный энкодер MicroBERT для коптского языка бохайрского диалекта, представленный Амиром Зельдесом. Это модель BERT с маскированным языковым моделированием, предназначенная для извлечения контекстных признаков из текста на бохайрском коптском языке. Она поддерживает контекст до 512 токенов и рассчитана на получение векторных представлений текста. Модель доступна в форматах PyTorch и safetensors; лицензия — Apache-2.0. В карточке указана конфигурация на 1,3 млн параметров. Специализация на одном диалекте ограничивает её применение текстами на бохайрском коптском.

Commonsense-QA-Mistral-7B — языковая модель Mistral на 7,1 млрд параметров, дообученная rvv-karma на наборе tau/commonsense_qa от базовой модели mistralai/Mistral-7B-Instruct-v0.1. Для дообучения использовались 4-битная загрузка и LoRA; в репозитории опубликованы веса Safetensors. Модель предназначена для генерации ответов на вопросы с выбором варианта, требующие бытовых знаний и здравого смысла. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов, основной язык карточки — английский. Лицензия — Apache-2.0.

Danbooru Tag Generator — модель генерации текста на архитектуре GPT-2 от Fred Zhang. Она обучена в течение трёх эпох на 100 000 тегов изображений Danbooru с рейтингом up_score не ниже 3 и предназначена для генерации тегов и описаний в контексте аниме-арта. Модель связана с набором данных anime-prompts-180K; в репозитории доступны форматы PyTorch и ONNX, длина контекста — 1024 токена. Модель может помогать составлять текстовые теги для аниме-изображений и формировать подсказки для генерации изображений. Карточка предупреждает, что исходный набор Danbooru не фильтрует материалы для взрослых, поэтому среди результатов могут встречаться NSFW-описания. Лицензия — CreativeML OpenRAIL-M.

Dart v2 MoE Base — авторегрессионная языковая модель, разработанная Plat для генерации тегов Danbooru. Модель обучена на датасете isek-ai/danbooru-tags-2024 и предназначена для создания последовательностей тегов с учётом рейтинговой категории, пропорций изображения и желаемой длины списка. Архитектура — Mixtral с разреженной смесью экспертов; в метаданных указаны 57,2 млн параметров и контекст до 1024 токенов. Модель работает с текстом тегов и выдаёт текст; естественные языки не заявлены. Чекпойнт опубликован в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка сообщает, что оценивание модели ещё не проводилось, а библиотека dartrs для инференса экспериментальна.

Doctoraifinetune-3.1-8B — медицинская чат-модель, разработанная huzaifa525 путём дообучения Meta-Llama-3.1-8B-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, рассчитанная на генерацию текста; в метаданных указан контекст до 131 072 токенов. Модель принимает текстовые запросы и отвечает в диалоговом формате на английском языке. Модель предназначена для анализа симптомов, предоставления обзора возможных заболеваний и рекомендаций по лечению, а также для медицинских чат-ботов, виртуальных помощников и первичной сортировки обращений. В README указано, что она дообучена на 2 000 строках медицинского набора из 272 000 строк; описание заявляет поддержку сценариев диагностики, но не приводит оценок качества. Модель распространяется по лицензии Apache-2.0.

DuplexJev-B-Para-Whisper-small-SmolLM3-3B — речевая модель семейства Ultravox, разработанная для коротких решений по аудио и определения характеристик говорящего. Замороженный энкодер Whisper-small передаёт аудиопризнаки через обученный коннектор-проектор в замороженную языковую модель SmolLM3-3B; обучаемая часть содержит 29,4 млн параметров. Модель выдаёт распределение по вариантам ответа за один проход без генерации токенов и позволяет задавать несколько вопросов одновременно. Модель предназначена для коротких вопросов по речи, включая spoken QA, а также для определения паралингвистических признаков, таких как пол и эмоция. В README приведены результаты на небольших наборах тестов для английского и китайского языков. Открытые вопросы на знания модель обрабатывает заметно хуже, чем языковая модель, читающая транскрипт; оценки эмоций обучены на сыгранной речи и не предназначены для решений о людях. Модель не оценивалась на потоковом аудио и работает только с указанными Whisper-small и SmolLM3-3B. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями на коммерческое применение.

Nnoey дообучил модель Gemma 3 4B Instruct на базе unsloth/gemma-3-4b-it-unsloth-bnb-4bit. Это плотная мультимодальная модель с архитектурой Gemma3ForConditionalGeneration, предназначенная для диалогов и обработки изображений с текстом. В карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL. Модель подходит для диалоговых сценариев, в которых нужно анализировать изображение и отвечать текстом; README называет её дообученной моделью для работы с петициями. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Koichi Yasuoka разработал японскую GPT-2 Large для разметки частей речи и морфологических признаков. Модель дообучена на основе ku-nlp/gpt2-large-japanese-char и присваивает каждому короткому слову метки UPOS (Universal Part-Of-Speech) и FEATS; в метаданных также указан датасет Universal Dependencies. Модель предназначена для автоматической разметки японского текста по токенам, например для лингвистического анализа и подготовки корпусов. Это плотная GPT-2-модель с контекстом до 1024 токенов, доступная в формате PyTorch. Лицензия — CC BY-SA 4.0. Карточка также упоминает синтаксический анализ зависимостей, однако описанный пример использования показывает POS-разметку; подтверждённая задача в метаданных — классификация токенов. Ограничение контекста составляет 1024 токена, а назначение модели — японский язык.

Это дообученная LiquidAI модель LFM2.5-Encoder-350M для BIO-разметки упоминаний данных в экономических научных статьях. Она присваивает токенам одну из меток: NAMED_DATA для названия конкретного источника данных, DESCRIPTIVE_DATA для описания источника без названия и VAGUE_DATA для неопределённого упоминания данных. Модель предназначена для извлечения упоминаний наборов данных, обследований, переписей и реестров из исследовательских текстов. Модель основана на двунаправленной плотной архитектуре LFM2 Encoder; в метаданных указано 444,6 млн параметров и контекст до 128 000 токенов. Для обучения использован набор rafmacalaba/data-use-mentions, BIO-конфигурация, пять эпох и точность bf16. На отложенной выборке README приводит лучшие значения F0.5 0,7635 и F1 0,7034. Модель распространяется по лицензии Apache-2.0. Её назначение узкоспециализированное: результаты оценки приведены для упоминаний источников данных в экономических статьях, поэтому качество на других типах документов и в иных областях не установлено.

Dmitry Pogrebnoy разработал MedRuRobertaLarge как дообученную версию ruRoberta-large для работы с русскоязычными медицинскими анамнезами. Модель создана в рамках магистерского проекта по коррекции опечаток в анамнезах с помощью ранжирования кандидатов на основе BERT-моделей и обучена на специально собранном наборе из более чем 30 тысяч анамнезов. Это плотная модель семейства RoBERTa с архитектурой RobertaForMaskedLM и примерно 454,1 млн параметров. Она принимает текст с маскированным фрагментом и предсказывает вероятные варианты заполнения; для использования подойдут задачи восстановления пропусков и подбора кандидатов для исправления опечаток в медицинской документации. Нативная длина контекста — 514 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Модель рассчитана на русский медицинский текст и не является самостоятельным корректором: для исправления опечаток требуется организовать генерацию и ранжирование кандидатов. Карточка не сообщает результатов оценки качества, поэтому пригодность для конкретного медицинского процесса следует проверять отдельно.