I.3Извлечение и структурирование данных

Z-Jafari/roberta-fa-zwnj-base-finetuned-nestedRewrite_QA — дообученная персидская модель RoBERTa для ответов на вопросы. Она построена на HooshvareLab/roberta-fa-zwnj-base и использует архитектуру RobertaForQuestionAnswering; размер составляет 145,5 млн параметров, а длина контекста — до 514 токенов. Модель предназначена для извлечения ответа из предоставленного текста по вопросу. В README приведены результаты оценки: exact match 60,5 и F1 65,89. Датасет и подробности обучения не описаны. Модель распространяется по лицензии Apache-2.0.

roberta-large-eng-ara-128k — двуязычный энкодер на базе Transformer, разработанный исследователями Johns Hopkins University Center for Language and Speech Processing. Это модель XLM-RoBERTa большого размера с 24 слоями и 533,7 млн параметров, обученная с нуля на английских и арабских текстах. Для токенизации используется совместный словарь SentencePiece размером 128K; модель принимает последовательности до 512 токенов. Модель предназначена для предсказания замаскированных токенов и может служить основой для задач понимания английского и арабского текста, например классификации или извлечения информации после дообучения. При предобучении использованы Common Crawl, Википедия, Arabic Gigaword, OSCAR, Arabic News Corpus и OSIAN. Доступны веса в форматах PyTorch, Safetensors и TensorFlow. Модель распространяется по лицензии MIT. Это энкодер для текстовых задач, а не генеративный чат-бот; для прикладных задач, отличных от заполнения пропусков, потребуется подходящая классификационная голова или дообучение.

sentence-embeddings-xllora-mmbert-ind — модель векторных представлений предложений на индонезийском языке, разработанная на основе mmBERT и дообученная методом XL-LoRA для обучения представлениям предложений в условиях нехватки языковых ресурсов. Она подходит для оценки семантического сходства, поиска похожих предложений, извлечения предложений по смыслу и кластеризации. Модель основана на архитектуре ModernBERT и содержит 306,9 млн параметров; для построения эмбеддингов объединяются первый и последний скрытые слои с равными весами, после чего применяется усреднение по токенам. Контекст — до 8192 токенов. Для воспроизведения результатов статьи следует использовать описанный способ pooling; стандартное усреднение по токенам тоже доступно, но может дать немного отличающиеся результаты. Модель ориентирована на индонезийский язык и исследования NLP для языков с ограниченными ресурсами. Лицензия — MIT.

Splinter-base с предобученными весами слоя QASS — модель семейства Splinter, разработанная авторами работы Few-Shot Question Answering by Pretraining Span Selection. Она предназначена прежде всего для извлечения ответа из текста и ответов на вопросы в режиме few-shot, когда доступно мало размеченных примеров. Модель обучалась на сыром тексте с помощью задачи Recurring Span Selection: она учится находить повторяющиеся фрагменты и выбирать нужный фрагмент по вопросу. В репозитории указана архитектура SplinterForQuestionAnswering, 135,5 млн параметров и контекст до 512 токенов; модель чувствительна к регистру. Предобучение проводилось на материалах Wikipedia и BookCorpus. Модель принимает текст и возвращает извлечённый ответ в виде текстового фрагмента. Она рассчитана на английский язык и распространяется по лицензии Apache-2.0. Её основное применение — few-shot извлечение ответов; для других языков и сценариев карточка не заявляет поддержку.

PrashantG6838 разработал SetFit-модель для классификации текстовых описаний причин, мешающих детям посещать школу. Она основана на энкодере предложений sentence-transformers/all-MiniLM-L6-v2, дообученном контрастивным обучением, и классификаторе LogisticRegression. Модель относит текст к одному из 11 тематических классов, среди которых ранние браки, проблемы доступности школ, качество преподавания, бедность и безопасность. Модель предназначена для разметки коротких англоязычных высказываний о препятствиях к образованию; её можно применять для сортировки ответов опросов и тематического анализа обратной связи. Размер составляет 25,9 млн параметров, архитектура — BERT, максимальная длина последовательности в README — 256 токенов, а в метаданных указано контекстное окно 512 токенов. Использование описано как классификация текста с SetFit; сведения о лицензии в предоставленных данных отсутствуют.

Pankaj Raj Deo разработал UMLS-ED-Bioformer-8L-V-1 — модель Sentence Transformer на базе BERT, дообученную для сопоставления биомедицинских терминов и текстов. Она кодирует предложения и абзацы в плотные векторы размерности 512; сходство между ними можно оценивать косинусной мерой. Модель содержит 50,3 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. В обучающей и оценочной выборках используются пары и тройки биомедицинских терминов, включая варианты на нескольких языках; базовая Bioformer-8L описана как англоязычная. Модель выдаёт векторы, а не готовые текстовые ответы, поэтому для поиска или классификации требуется отдельная логика сравнения либо downstream-модель. Лицензия в предоставленных данных не указана.

gokulkarthik/xlm-roberta-qa-chaii — модель XLM-RoBERTa для извлечения ответов на вопросы, разработанная как дообученная версия предобученной XLM-RoBERTa. Модель сначала получила дополнительное обучение на английском наборе SQuAD, а затем была дообучена на Chaii с примерами на тамильском и хинди. Она предназначена для сценариев, где нужно найти ответ на вопрос в предоставленном тексте. Модель имеет архитектуру XLM-RoBERTa с 305,2 млн параметров и принимает текст. Контекст ограничен 514 токенами. Репозиторий содержит веса PyTorch; для загрузки README показывает использование библиотеки Transformers. Модель поддерживает английский, тамильский и хинди. Карточка не сообщает об оценках качества или подробных ограничениях; применимость стоит проверять на целевых данных, особенно за пределами языков и обучающих наборов SQuAD и Chaii. Условия лицензии в предоставленных сведениях не указаны.

Это модель для ответов на вопросы, созданная дообучением albert-base-v1 на датасете SQuAD. Она принимает вопрос и текстовый контекст и извлекает из контекста ответ. Модель предназначена для систем поиска ответов по документам и справочным материалам; оценка на валидационном наборе приведена как loss 0,9426. Модель построена на архитектуре ALBERT, содержит 136,3 млн параметров и рассчитана на контекст до 512 токенов. Поддерживает английский язык, поскольку обучена на англоязычном SQuAD. Опубликована в формате PyTorch и распространяется по лицензии Apache-2.0. Карточка не приводит дополнительных сведений о метриках качества или ограничениях применения.

Khaaaleed5/arabert-qa — дообученная модель для извлечения ответов на вопросы из арабского текста. Она основана на AraBERTv0.2-base и использует архитектуру BERT с головой предсказания начальной и конечной позиции ответа в контексте. Модель содержит 162,4 млн параметров, принимает вопрос и фрагмент текста на современном литературном арабском языке; длина контекста — до 512 токенов. Модель предназначена для поиска фактического ответа в предоставленном отрывке, в том числе как компонент арабской RAG-системы. Она может быть полезна для учебных демонстраций и исследований арабского NLP. Обучена на наборе данных abdoelsayed/ArabicaQA и распространяется по лицензии MIT. Модель извлекает ответ только из контекста: она не генерирует сведения, отсутствующие в тексте, и сама по себе не выполняет поиск по открытым источникам. Для медицинских, юридических и финансовых решений её ответы требуют проверки человеком.

bert-24.1 — англоязычная модель BERT для извлечения ответов на вопросы из текста. Она дообучена автором hung200504 на основе deepset/bert-base-cased-squad2 и содержит 135,5 млн параметров. Модель принимает вопрос вместе с текстом и предсказывает ответ, используя контекст длиной до 512 токенов. Модель подходит для поиска ответов в документах и фрагментах текста на английском языке. Для неё указана лицензия CC BY 4.0. В README приведено значение loss 11,5138 на оценочном наборе, но состав набора и методика оценки не описаны, поэтому результат не позволяет надёжно судить о качестве; обучающие данные также не раскрыты.

savasy/bert-base-turkish-squad — модель на архитектуре BERT-base, дообученная автором для ответов на вопросы на турецком языке. Она обучалась на турецкой версии набора SQuAD, TQuAD, и предназначена для поиска ответа на вопрос в предоставленном тексте. Модель содержит 137,8 млн параметров и поддерживает контекст длиной до 512 токенов. Подходит для извлечения ответов из турецких документов и текстов в системах вопросов и ответов. Карточка указывает базовую модель dbmdz/bert-base-turkish-uncased. Доступны веса в форматах PyTorch, Flax и Safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

mrm8488/bert-small-finetuned-squadv2 — компактная модель BERT-Small, созданная Google Research и дообученная Manuel Romero на SQuAD 2.0 для ответов на вопросы по заданному тексту. Она извлекает ответ из контекста и может воздержаться от ответа, если в тексте нет подтверждённой информации. Модель содержит 32,4 млн параметров, использует архитектуру BERT и принимает текстовые вопросы вместе с текстовым контекстом. Контекстное окно — до 512 токенов. Модель предназначена для сценариев с ограниченными вычислительными ресурсами; в карточке указаны результаты на SQuAD 2.0: EM 60,49 и F1 64,21. Поддерживается английский язык. Модель доступна в форматах PyTorch и Flax. Лицензия в предоставленных данных не указана.

rsml/bluebert_pubmed_mimic_uncased_L-12_H-768_A-12-finetuned-squad — англоязычная модель для ответов на вопросы, созданная дообучением BERT-модели BlueBERT на датасете SQuAD. Она принимает текстовый контекст и вопрос и предсказывает ответ, опираясь на контекст. Модель содержит 136,7 млн параметров, имеет архитектуру BertForQuestionAnswering и работает с контекстом до 512 токенов. Базовая модель предварительно обучена на статьях PubMed и клинических записях MIMIC-III, однако эта версия настроена на общий набор вопросов и ответов SQuAD; специализация базовой модели сама по себе не подтверждает медицинскую точность ответов. Лицензия — CC0 1.0.

ColVintern-1B-v1 — экспериментальная мультимодальная модель компании 5CD-AI для поиска по изображениям документов в стиле ColPali. Она дообучена на базе 5CD-AI/Vintern-1B-v2 и выдаёт векторные представления вопросов и изображений с информацией, подходящей для ответа, чтобы использовать их в поиске и RAG. Модель содержит 1 млрд параметров и обучалась на англоязычном наборе ColPali и небольшой части вьетнамских пар «изображение — вопрос и ответ». Авторы сообщают о результатах, близких к ColPali v1 на части тестов ViDoRe. Модель рассчитана на поиск по изображениям документов и извлечение релевантных страниц для ответа на вопросы, особенно по вьетнамским текстам; заявлена также поддержка английского. В README отмечено, что это первая экспериментальная версия, обученная лишь на 5% доступных вьетнамских пар, а расширение данных и улучшение результатов запланированы для будущих версий. Доступна в формате safetensors для Transformers. Лицензия в предоставленных сведениях не указана.

Czert-B-base-cased — чешская BERT-подобная модель, представленная в работе «Czert – Czech BERT-like Model for Language Representation». Это предварительно обученный чекпойнт для заполнения пропусков в тексте; модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. В репозитории доступны веса PyTorch и TensorFlow. Модель обучена для чешского языка и может служить основой для дообучения на классификации тональности и документов, оценке семантического сходства предложений, распознавании именованных сущностей, морфологической разметке и семантическом анализе ролей. В версии Czert-B-v2 исправлена ошибка настройки токенизатора, присутствовавшая в v1; для этой карточки README указывает вариант base-cased. Опубликованные сравнения показывают результаты на перечисленных чешских задачах, но качество на других данных не гарантировано. Для задач классификации и разметки может потребоваться соответствующая дообученная модель. Сведения о лицензии в предоставленных материалах отсутствуют.

DiariZen — модель для диаризации речи, представленная командой BUT для задания MLC-SLM Challenge. Компонент EEND построен на WavLM-Large и слоях Conformer. Модель предварительно обучена на одноканальных записях речи с дальнего расстояния из нескольких публичных наборов данных, затем разрежена структурным прореживанием до 80% и дообучена на данных MLC-SLM. Модель предназначена для анализа аудиозаписей встреч и определения активности речи и говорящих. В README приведены результаты оценки DER на американском, австралийском и британском вариантах английского, где DiariZen показала меньшую ошибку, чем базовая система Pyannote. Репозиторий содержит веса PyTorch; лицензия CC BY-NC 4.0 разрешает использование только на некоммерческих условиях.

Многоязычная модель Sentence Transformer, дообученная командой DISI — University of Bologna на базе BAAI/bge-m3 для сопоставления текстов с терминами классификатора пищевых продуктов FoodEx. Она кодирует предложения и абзацы в плотные векторы размерностью 1024; сходство оценивается косинусной мерой. Архитектура состоит из XLM-RoBERTa и среднего пулинга токенов. Метаданные указывают контекст до 8194 токенов, однако в README задана максимальная длина последовательности 64 токена. Модель подходит для семантического поиска и ранжирования терминов FoodEx по описаниям продуктов, поиска похожих формулировок, кластеризации и классификации текстов. В обучающем наборе 553 000 примеров, а в README приведены высокие показатели cosine_accuracy на задаче поиска, но без полного описания оценки их нельзя напрямую переносить на другие данные. Репозиторий содержит веса safetensors и использует библиотеку Sentence Transformers. Лицензия в предоставленных сведениях не указана.

Achta/gemma-4-E4B-it-distilled-awq — сжатая версия мультимодальной Gemma 4 E4B Instruct, подготовленная командой ECE-ILAB для соревнования Resilient AI Challenge 2026 в треке image-to-text. Модель предназначена для визуальных вопросов и ответов (VQA), включая анализ диаграмм, документов, изображений с текстом и научных иллюстраций; также поддерживает диалог с изображениями. Модель основана на google/gemma-4-E4B-it и прошла дистилляцию эмбеддингов Per-Layer Embedding с последующей W4A16-квантизацией линейных слоёв языкового декодера. Аудио- и визуальная башни, lm_head и модули эмбеддингов сохранены в BF16. Контекст в конфигурации запуска ограничен 2048 токенами, а генерация — 40 новыми токенами. Чекпойнт занимает 11 ГБ; на тестовой конфигурации с GPU L4 он использовал 9,73 ГиБ видеопамяти. Для запуска авторы указывают vLLM и конфигурацию из репозитория; модель проверена на стеке соревнования. Она лицензирована по условиям Gemma. Карточка описывает настройку прежде всего для коротких ответов на VQA: ограничение длины генерации может обрезать более развёрнутые ответы, а указанный лимит контекста 2048 токенов может быть тесен для длинных запросов.

hc3-wiki-domain-classification-roberta — модель классификации текста на базе RoBERTa, дообученная разработчиком rajendrabaskota на наборе данных, обозначенном в карточке как None. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает текстовые последовательности длиной до 514 токенов. Модель предназначена для отнесения текстов к классам тематических областей, связанных с HC3 и Wikipedia. В карточке приведены результаты оценки: accuracy 0,9810 и F1 0,9810 при loss 0,1821. Описание классов, состав обучающего набора и конкретные ограничения в карточке не раскрыты. Модель распространяется по лицензии MIT.

hindi-modernBERT — базовая предобученная модель с маскированным языковым моделированием, разработанная для текста на хинди. Это 149-миллионная плотная модель архитектуры ModernBERT, обученная с нуля примерно на 28 млрд токенов хинди; она использует BPE-токенизатор с 50 368 элементами и поддерживает контекст до 8192 токенов. Модель предназначена для предсказания замаскированных фрагментов и как основа для дообучения на задачах понимания текста. Чекпойнт показывает результаты на задачах распознавания именованных сущностей и классификации намерений на хинди. После отдельного дообучения с DPR его можно использовать для плотного поиска по коротким и длинным документам; сам базовый чекпойнт не является готовым ретривером. Для лучших результатов требуется нормализация текста письма деванагари, которую токенизатор автоматически не выполняет. Предобучение рассчитано только на хинди. Модель распространяется по лицензии Apache-2.0.

Hiro-Chemical-Insights — мультимодальная модель PatSnap для установления связей между изображениями химических структур и их текстовыми упоминаниями в патентных документах. Она принимает изображение страницы патента с выделенной химической структурой и возвращает связанное с ней название или названия, а также тип структуры: конкретное соединение, заместитель, структура Markush или их сочетание. Модель основана на архитектуре Qwen3-VL и поддерживает диалоговый ввод с изображениями; README рекомендует запускать её с актуальными Transformers и совместимыми с Qwen-VL средствами обработки изображений в GPU-среде. В описанной в README оценке модель показала All Pass@1 91,92 и All Pass@all 88,38, превзойдя приведённый результат Gemini-2.5-Pro на этой задаче. Модель предназначена для исследований и извлечения сведений из патентов, но не для самостоятельных химических, медицинских, юридических или регуляторных решений. Распространяется по лицензии Apache-2.0.

HPLT Bert for Belarusian — одноязычная модель-кодировщик проекта HPLT для белорусского языка, выпущенная как часть набора из 75 моделей. Она основана на архитектуре LTG-BERT и обучена как masked language model: по окружающим словам модель предсказывает замаскированные токены. Модель имеет около 124,3 млн параметров, 12 слоёв, 12 голов внимания, размер скрытого состояния 768 и словарь из 32 768 токенов; контекст составляет до 512 токенов. Для неё используется отдельный токенизатор, обученный на белорусских данных HPLT. Модель подходит для восстановления пропущенных слов и может служить основой для задач классификации текста, разметки токенов, ответов на вопросы и multiple-choice после соответствующей настройки. Это энкодер, а не генеративная чат-модель. Для загрузки в Transformers требуется пользовательская обёртка LTG-BERT и параметр trust_remote_code=True. Веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0.

Huihui-MiniCPM-V-4.6-Thinking-abliterated — производная мультимодальная модель от openbmb/MiniCPM-V-4.6-Thinking, созданная Huihui AI методом abliteration, который снижает склонность модели отказываться от ответов. Это экспериментальная версия, обозначенная разработчиком как грубая proof-of-concept реализация. Модель предназначена для диалогов и ответов на вопросы по изображениям и видео, включая OCR и визуальные математические задачи, унаследованные от базовой модели. Поддерживает обработку изображений и текстовые ответы; репозиторий содержит веса в формате safetensors и рассчитан на запуск через библиотеку transformers. В карточке указана архитектура MiniCPMV4_6ForConditionalGeneration и интерфейс диалога с инструментами. Снижение защитных отказов может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

Huihui-Qwen3-VL-2B-Thinking-abliterated — дообученная версия мультимодальной модели Qwen3-VL-2B-Thinking от huihui-ai. Разработчик применил abliteration к текстовой части модели, чтобы снизить количество отказов; визуальная часть не изменялась. Модель принимает текст и изображения и предназначена для диалогового анализа изображений и визуальных вопросов, включая OCR и рассуждения по содержимому изображения. Модель построена на плотной архитектуре Qwen3-VL и распространяется в формате safetensors для библиотеки Transformers. В карточке также приведён сценарий запуска через Ollama. Лицензия — Apache-2.0. Изменение снижает защитную фильтрацию и может приводить к чувствительным, спорным или неподходящим ответам; результаты следует проверять. Автор отмечает проблемы качества у GGUF-файлов и сообщает об обновлении модели.

Hun ModernBERT Large — венгерская базовая языковая модель на архитектуре ModernBERT-large, разработанная magyar-nlp-szine-java и дообученная на базе answerdotai/ModernBERT-large. Это двунаправленный энкодер с примерно 395 млн параметров, предназначенный для masked language modeling: предсказания пропущенных токенов в тексте. По README, обучение проводилось на венгерских корпусах, включая данные Europarl и венгерскую подвыборку FineWeb-HQ2. Модель служит основой для дообучения под классификацию текстов, распознавание именованных сущностей и ответы на вопросы, а также для продолжения предобучения на венгерских корпусах и получения текстовых представлений. Это не чат-модель и не предназначена для инструкционного или zero-shot диалога. В README указан контекст 1024 токена, тогда как метаданные каталога сообщают нативную длину 8192 токена; эти сведения расходятся. Лицензия — Apache-2.0.

KcELECTRA-base — Beomi-гийн урьдчилан сургасан ELECTRA загвар бөгөөд Naver News-ийн сэтгэгдэл, хариу сэтгэгдэлд тулгуурлан эхнээс нь сургажээ. Энэ нь солонгос хэлний хэрэглэгчийн үүсгэсэн, ярианы өнгө аястай, алдаатай бичвэр болон шинэ үг ихтэй текстэд зориулсан суурь загвар юм. Загвар нь 136.3 сая параметртэй, ELECTRA нягт архитектуртай бөгөөд ElectraForPreTraining ангилалд хамаарна. Контекстийн дээд хэмжээ 512 токен; PyTorch болон safetensors форматаар нийтлэгдсэн. Солонгос хэл үндсэн хэл нь бөгөөд өгөгдөл бэлтгэхдээ англи үсэг, тусгай тэмдэгт, эможийг мөн хамруулсан. Сэтгэгдлийн сэтгэл хөдлөлийн ангилал, нэрлэсэн entity таних, өгүүлбэрийн төстэй байдал болон асуулт-хариултын зэрэг даалгаварт нарийн тохируулж ашиглаж болно. README-д дурдсан жишиг үнэлгээнд NSMC болон Naver NER зэрэг солонгос хэлний даалгаврууд багтсан. Ерөнхий, цэвэр бичвэрийн даалгаварт KoELECTRA илүү сайн ажиллаж болзошгүй бөгөөд энэ загвар нь хэрэглэгчийн үүсгэсэн шуугиантай текстэд түлхүү тохирно. MIT лицензтэй.

KoELECTRA-Small-v3-discriminator — компактная корейская предобученная языковая модель на архитектуре ELECTRA, разработанная Jangwon Park (monologg). Она обучена распознавать заменённые токены: дискриминатор определяет, является ли каждый токен исходным или подменённым. Модель предназначена для дообучения и использования как текстовый энкодер в корейских задачах понимания языка, включая классификацию, распознавание именованных сущностей, оценку сходства и ответы на вопросы. Модель содержит около 21,5 млн параметров, имеет 12 слоёв, скрытый размер 256, 4 головы внимания и максимальную длину последовательности 512 токенов. Обучалась на корейских текстах; вариант v3 использует корпус Everyone’s Corpus и словарь WordPiece размером 35 000 токенов. В карточке Hugging Face указано использование с Transformers и PyTorch. Ограничение — это дискриминатор для кодирования и дообучения, а не генеративный чат-бот; для решения прикладных задач обычно требуется дополнительная настройка. Лицензия не установлена по доступным источникам.

Korean Document QA Enhanced — корейская экстрактивная модель для ответов на вопросы по документам, созданная дообучением model_10000 на новых 10 000 вопросах KorQuAD v1.0. Она находит ответный фрагмент в тексте документа и подходит для поиска фактов в корейских материалах. Модель построена на архитектуре BERT, содержит 137,8 млн параметров и принимает контекст длиной до 512 токенов. На указанной выборке KorQuAD dev модель получила EM 0,822, символьный F1 0,9256 и точное совпадение границ ответа 0,800. Она предназначена прежде всего для вопросов и контекста на корейском языке. Обучение не включало примеры вопросов без ответа; на небольшой самодельной проверке предупреждение об отсутствии ответа было верным в 80% случаев. Описаны случаи коротких ошибочных ответов при высокой уверенности на реальных PDF, а также пропуски при вопросах на корейском по английскому контексту. Лицензия — CC BY-SA 4.0.

Nous-Hermes-2-Vision — мультимодальная vision-language модель, разработанная при руководстве qnguyen3 и teknium на основе OpenHermes-2.5-Mistral-7B от teknium. Модель объединяет языковую основу Mistral 7B с визуальным энкодером SigLIP-400M и предназначена для обработки изображений и текста. Модель рассчитана на визуальные диалоги, анализ содержимого изображений, ответы на вопросы по изображениям и автоматизацию сценариев с function calling. Благодаря обучению на данных LVIS-INSTRUCT4V, ShareGPT4V, частном наборе данных для function calling и диалогах OpenHermes-2.5 она также может формировать структурированные ответы по заданной схеме. Для работы используется шаблон запросов Vicuna-V1. Заявленный язык — английский. Ключевые характеристики включают архитектуру на базе Mistral-7B, визуальный модуль SigLIP-400M и мультимодальный режим работы с изображениями и текстом. Точный размер контекста и поддерживаемые форматы изображений в README не указаны. Авторы отмечают преимущество более компактного визуального энкодера по сравнению с традиционными энкодерами размером около 3B параметров, однако также предупреждают о возможной ошибке в инференсе, которая могла требовать исправления на уровне upstream. Модель распространяется по лицензии Apache-2.0.

ModernBERT-base-finetuned-squad — англоязычная модель семейства ModernBERT, дообученная разработчиком на наборе данных SQuAD для извлечения ответов из текста. Это encoder-only модель с архитектурой ModernBertForQuestionAnswering, содержащая 149 млн параметров; заявленная длина контекста — до 8192 токенов. Модель подходит для систем вопросно-ответного поиска, где на вход подаются вопрос и текстовый фрагмент, а на выходе извлекается ответ из этого фрагмента. В README заявлено преимущество над bert-base-uncased на той же задаче и наборе данных, но приведены только результаты базовой модели, поэтому количественно оценить это преимущество по карточке нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0. Она обучалась на SQuAD, поэтому её применимость к другим языкам, предметным областям и форматам вопросов может быть ограничена; результаты на независимых данных в карточке не приведены.