I.1Поиск и навигация по информации

Модель rubentito/layoutlmv3-base-mpdocvqa — версия LayoutLMv3 от Microsoft, дообученная на наборе MP-DocVQA. Это мультимодальный Transformer с архитектурой LayoutLMv3 и 151,8 млн параметров, предназначенный для ответов на вопросы по многостраничным документам. Модель принимает изображение документа и вопрос, находит нужные сведения и может предсказывать страницу, где находится ответ. Модель использовалась как базовый ориентир в исследовании Hierarchical multimodal transformers for Multi-Page DocVQA. В README приведены метрики ANLS для качества текстовых ответов и APPA для точности определения страницы. Основной язык карточки — английский; лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных работ на тех же условиях и ограничивает коммерческое использование.

Карточка модели Sing0402/legal-embed-gte-bm25 на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

Llama3-ChatQA-1.5-8B — разговорная языковая модель NVIDIA для ответов на вопросы в диалоге и генерации с дополнением извлечёнными сведениями (RAG). Она дообучена на базе Llama 3 и содержит дополнительные данные для улучшения ответов по документам, работы с таблицами и арифметических вычислений. В репозитории указаны 7,5 млрд параметров, архитектура Llama с плотной причинной языковой моделью, формат safetensors и контекст до 8192 токенов. Модель предназначена для сценариев, где вопрос сопровождается контекстом: документ можно передать целиком, если он помещается в контекст, либо предварительно извлечь релевантные фрагменты для длинных документов. Модель принимает текст и генерирует текст; карточка указывает английский язык. В README приведены результаты оценки на наборах для conversational RAG, включая Doc2Dial, QuAC и QReCC. Модель является дообучением NVIDIA Llama3-ChatQA-1.5-8B. Чекпойнты были первоначально обучены с Megatron-LM и конвертированы в формат Hugging Face. Лицензия — Llama 3 Community License. Результаты зависят от качества переданного контекста или поиска; заявленные улучшения арифметики и таблиц не гарантируют точность в каждом запросе.

Lucy-128k GGUF — это GGUF-квантизированная версия компактной языковой модели Lucy, разработанной на основе Qwen/Qwen3-1.7B авторами Alan Dao, Bach Vu Dinh, Alex Nguyen и Norapat Buppodom. Модель предназначена для агентного веб-поиска, лёгкого просмотра веб-страниц и исследовательских задач с использованием внешних инструментов через MCP, включая поисковые API. Она ориентирована на локальный запуск, в том числе на мобильных устройствах и CPU. Модель содержит 1,7 млрд параметров, работает с текстом и поддерживает английский язык. Заявлено контекстное окно до 128 тысяч токенов; для его использования в README приведены настройки RoPE/YARN с исходным контекстом 40 960 токенов. Lucy обучалась с применением машинно сгенерированных task vectors, сглаженных reward-функций и reinforcement learning без supervised fine-tuning. Для GGUF-версий использован llama.cpp, а при квантизации отдельные важные слои переводятся в режим повышенной точности, что увеличивает размер файла, но может улучшать точность при низкой битности. Сильные стороны модели — малый размер, эффективность при локальном запуске, агентный поиск и интеграция с инструментами, а также заявленная высокая точность на SimpleQA по сравнению с DeepSeek-v3. Ограничения включают узкую специализацию на поисковых сценариях, зависимость от внешних MCP-инструментов и поисковых сервисов, а также возможное снижение качества при агрессивной квантизации. Модель распространяется по лицензии Apache 2.0.

Chaitanya30/maatri-hindi-crossencoder — текстовый Cross Encoder, дообученный разработчиком на базе BAAI/bge-reranker-v2-m3 с библиотекой Sentence Transformers. Модель принимает пару текстов и выдаёт оценку их соответствия, которую можно использовать для переранжирования результатов поиска и семантического поиска. Архитектура основана на XLM-RoBERTa и имеет около 658,7 млн параметров; максимальная длина последовательности — примерно 8192 токена. Модель предназначена прежде всего для работы с текстами на хинди: в README приведена оценка на наборе Hindi-dev. В описанной проверке на Hindi-dev указаны accuracy 0,7699 и F1 0,5031. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

MegaBeam-Mistral-7B-300k — языковая модель AWS, дообученная на базе Mistral-7B-Instruct-v0.2. Она предназначена для диалоговой генерации текста и работы с длинными документами: заявленная длина входного контекста достигает 320 тысяч токенов, а метаданные указывают нативный контекст около 288,8 тысячи токенов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Модель подходит для вопросов и ответов по объёмным документам, извлечения сведений из длинного контекста и диалоговых сценариев. В опубликованной карточке приведены результаты оценки на InfiniteBench, включая задачи поиска ключей и чисел в длинном контексте; показатели различаются между задачами. README описывает запуск на крупном экземпляре AWS и через vLLM или SageMaker DJL. Поддерживаемые языки отдельно не перечислены. Модель распространяется по лицензии Apache 2.0. Перед применением AWS рекомендует самостоятельно оценить её качество и соответствие требованиям конкретного использования.

MemSearcher-3B — поисковый агент для ответов на вопросы, разработанный на базе Qwen/Qwen2.5-3B-Instruct и дообученный методом обучения с подкреплением multi-context GRPO. Модель обрабатывает вопрос вместе с краткой обновляемой памятью, решает, когда вызвать поиск по Wikipedia, использует найденные сведения и переписывает память, сохраняя только полезную для ответа информацию. Модель построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров. Она работает с текстом и поддерживает контекст длиной до 32 768 токенов; для работы агента требуется внешний ретривер Wikipedia и цикл оркестрации с несколькими ходами. В оценке на семи наборах данных для одношаговых и многошаговых вопросов модель показала средний Exact Match 43,8; результаты относятся к указанным в карточке бенчмаркам и корпусу Wikipedia-18. Компактная память помогает поддерживать почти постоянный размер контекста в многоходовом поиске. Модель выпущена в формате Safetensors и распространяется по лицензии Apache-2.0.

omai-research/milco-300m — плотная модель семейства MILCO для извлечения разреженных представлений текста и многоязычного поиска. Она разработана исследовательской группой OMAI и описана в работе для ICLR 2026. Модель переводит запросы и документы на разных языках в общее лексическое пространство английского языка, сохраняя возможность одноязычного и межъязыкового поиска. Архитектура сочетает многоязычный трансформерный энкодер, линейный multilingual connector и LexEcho head. Голова формирует разреженное представление по английскому словарю и дополнительный исходно-языковой вид, который помогает сохранить имена, редкие термины и элементы смешанной речи. В README для конфигурации указаны naver/splade-v3 и Alibaba-NLP/gte-multilingual-base. Репозиторий содержит веса PyTorch и использует библиотеку Transformers; загрузка описана через AutoModel с trust_remote_code=True. Модель предназначена для построения поисковых представлений запросов и документов и заявлена как эффективная для многоязычного и межъязыкового поиска. В README приведены результаты оценки на более чем 39 языках и сравнительные результаты для варианта MILCO 560M, но они не являются отдельной оценкой именно версии 300M. Доступна по лицензии Apache-2.0.

sangmini/msmarco-cotmae-MiniLM-L12_en-ko-ja — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторные представления размерности 1536. Её можно применять для семантического поиска и кластеризации текстов. Модель построена на архитектуре BERT и содержит 124,3 млн параметров; максимальная длина контекста составляет 512 токенов. В карточке указано обучение с функцией потерь MSELoss. Репозиторий содержит веса в формате PyTorch. Лицензия в доступных данных не указана. Оценка на конкретных наборах или ограничения качества в карточке не описаны.

Это англоязычный многовекторный текстовый энкодер ColBERT на базе GTE ModernBERT, разработанный для семантического поиска с поздним взаимодействием токенов. Модель обучена библиотекой Sentence Transformers на 20 тысячах примеров датасета ms-marco-en-bge-gemma с дистилляцией от bge-reranker-v2-gemma. Модель содержит 149 млн параметров и принимает последовательности длиной до 8192 токенов. Для каждого токена она формирует вектор размерности 128, а релевантность запроса и документа оценивает функцией MaxSim. Подходит для многошагового поиска по коллекциям документов и ранжирования результатов по запросу; README приводит оценки на NanoMSMARCO, NanoNQ и NanoFiQA2018. Модель работает с текстом на английском языке. Для инференса указана библиотека Sentence Transformers; веса доступны в формате safetensors. Лицензия Apache-2.0. Результаты в карточке получены на небольших тестовых наборах, поэтому сами по себе не гарантируют качество на иных корпусах; для поиска требуется система, реализующая позднее взаимодействие MaxSim.

AhmadAfles/NeoAraBERT-STS-Genre — дообученная модель Sentence Transformer на базе U4RASD/NeoAraBERT-STS, предназначенная для преобразования предложений и абзацев в эмбеддинги и поиска по смыслу. Она использует архитектуру NeoBERT с усредняющим pooling, выдаёт плотные векторы размерностью 768 и сравнивает их косинусным сходством. Модель принимает текст, поддерживает последовательности длиной до 512 токенов и подходит для семантического поиска и извлечения релевантных текстов. Модель обучена на 465 парах предложений с MultipleNegativesRankingLoss. Примеры обучающих данных содержат арабский литературный и разговорный текст. В метаданных указано 314,2 млн параметров и формат safetensors. Лицензия в предоставленных данных не указана.

ENOSYS/Octen-Embedding-0.6B-750-v1-GGUF — экспериментальная GGUF-квантизация модели Octen/Octen-Embedding-0.6B, опубликованная ENOSYS. Репозиторий описывает квантизацию с целевым числом бит на вес, созданную с использованием нестандартной ветки LLaMA.cpp и калибровочных данных на английском и русском языках; для тензоров использован формат F16, совместимый с архитектурой Nvidia Pascal, включая P100. Модель предназначена для получения текстовых эмбеддингов и задач семантического сходства, включая поиск и извлечение информации. Метаданные указывают на поддержку английского, русского и других языков, а также на библиотеку Sentence Transformers. README приводит сравнение вариантов квантизации по показателям perplexity и KLD, но не описывает конкретную конфигурацию этого репозитория среди приведённых результатов. Лицензия — Apache-2.0. Это производная квантованная версия базовой модели Octen/Octen-Embedding-0.6B. Нестандартная ветка инструментов и экспериментальный характер квантизации могут влиять на совместимость и воспроизводимость; метаданные указывают GGUF, а также возможности чата и эмбеддингов.

passage-ranker-v1-L-en — англоязычная модель ранжирования пассажей, разработанная Sinequa. Она оценивает релевантность пары «поисковый запрос — фрагмент текста», чтобы упорядочивать результаты поиска. Модель построена на базе English BERT-Base и обучена по процедуре MonoBERT; она нечувствительна к регистру и диакритическим знакам. В README указано 109 млн параметров, тогда как метаданные Hugging Face приводят 136,7 млн. Максимальная длина контекста — 512 токенов. На BEIR по 14 англоязычным наборам данных средний NDCG@10 составляет 0,466. README приводит время вывода и требования к видеопамяти для нескольких режимов FP16 и FP32, а также минимальную версию Sinequa 11.10.0 и требования к CUDA. Модель подходит для переупорядочивания результатов поиска и оценки релевантности документов по запросу. Она обучена и проверена на английском языке, поэтому её применение для других языков не подтверждено. Лицензия в предоставленных материалах не указана.

PIXIE-Rune-v1.0 — модель эмбеддингов на архитектуре XLM-RoBERTa, разработанная TelePIX Co., Ltd. и дообученная для семантического поиска на корейских и английских данных. Она рассчитана прежде всего на поиск информации в аэрокосмических документах, а также подходит для поиска по текстам общего назначения на корейском и английском языках. Модель преобразует текст в векторы размерности 1024, нормализует их и поддерживает сравнение по косинусному сходству. В README указана максимальная длина последовательности 6144 токена, а метаданные указывают контекст до 8194 токенов. Доступны форматы safetensors и ONNX; в метаданных размер модели указан как 658,7 млн параметров. Модель предназначена для семантического поиска, извлечения релевантных документов и построения систем поиска и ответов на вопросы по документам. Разработчик сообщает о результатах на аэрокосмическом бенчмарке STELLA и наборах поиска на корейском и английском языках. Лицензия — Apache-2.0.

PIXIE-Spell-Reranker-Preview-0.6B — кросс-энкодерный реранкер TelePIX Co., Ltd. на основе архитектуры Qwen3. Модель содержит около 507,6 млн параметров и предназначена для повторной оценки релевантности пар запроса и документа, чтобы улучшать порядок результатов семантического поиска и retrieval-систем. Модель обучена на корейских и английских наборах для информационного поиска и оптимизирована для этих языков. Разработчик отмечает специализацию на аэрокосмической тематике, а также применение для поиска по документам, технических вопросов и ответов и поиска в предметных областях с высокими требованиями к точности. Максимальная длина последовательности — 40 960 токенов; модель доступна через Sentence Transformers. В README приведены сравнительные оценки на корейских и англоязычных бенчмарках, но результаты на конкретных корпусах могут отличаться от рабочих сценариев. Для продуктивного применения рекомендуется проверять качество на данных целевой системы. Лицензия — Apache-2.0.

Proxy Lite — компактная модель Convergence AI для автоматизации действий в веб-браузере. Это дообученная 3,1-миллиардная плотная vision-language-модель на архитектуре Qwen2.5-VL, принимающая текст и изображения и генерирующая текстовые ответы и действия через интерфейс вызова инструментов. Модель рассчитана на последовательные сценарии веб-навигации: она получает наблюдения от пользователя или браузера, выбирает действие и продолжает работу с учётом истории диалога. Заявленное окно контекста — 128 000 токенов. В карточке сообщается результат 72,4% на WebVoyager; это показатель конкретного бенчмарка, а не гарантия выполнения произвольных задач. Для корректного разбора вызовов инструментов требуется подходящая конфигурация запуска; при управлении контекстом предыдущие наблюдения-изображения могут отбрасываться. Модель не предназначена для высокорисковых операций, несанкционированного извлечения данных и взаимодействия с подозрительными сайтами. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

QUEST-30B-RL — разговорная языковая модель OSU NLP для выполнения задач с поиском и исследованием в интернете. Это полный чекпойнт после трёх этапов обучения: mid-training, SFT и RL; в README указана база Qwen3-30B-A3B. Модель построена на архитектуре Qwen3 MoE и содержит 2,6 млрд параметров по метаданным. Она принимает текст и генерирует текст, поддерживает контекст длиной до 262 144 токенов и рассчитана на использование через Transformers. Модель оценивали на BrowseComp, Mind2Web 2 и HLE; README приводит результаты по этим бенчмаркам и рекомендует RL-чекпойнты для комплексной оценки объективных и открытых задач. Доступны веса в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает языковой охват и не описывает ограничения по качеству или безопасности.

samandar1105/Question_Answering — модель на архитектуре BERT, дообученная на датасете SQuAD v1.1 для извлекающего ответа на вопросы. Она принимает вопрос и текстовый фрагмент и возвращает точный отрезок текста, который отвечает на вопрос. Модель содержит 135,5 млн параметров, работает с контекстом до 512 токенов и рассчитана на английский язык. На валидационной выборке SQuAD v1.1 указаны Exact Match 81,05% и F1 88,55%. Модель предназначена для ответов по предоставленному тексту; эти показатели относятся к указанному датасету. Базовая модель — bert-base-cased. Доступна в формате safetensors; сведения о лицензии в предоставленных материалах отсутствуют.

Qiuchen-Wang/Qwen2.5-VL-7B-VRAG — мультимодальная модель семейства Qwen2.5-VL, дообученная для визуального поиска с дополненной генерацией (RAG). Она сочетает анализ изображений с поиском по коллекциям изображений и документов, чтобы отвечать на вопросы по визуально насыщенным материалам. Модель предназначена для извлечения сведений из слайдов и отчётов, понимания диаграмм, таблиц и структуры документов, а также многошагового поиска релевантной информации. Модель построена на Qwen/Qwen2.5-VL-7B-Instruct, имеет 7,1 млрд параметров, принимает текст и изображения и выдаёт текст. В метаданных указаны контекст до 128 000 токенов и библиотека Transformers. README описывает визуальное пространство действий для последовательного изучения областей изображения и многошаговое взаимодействие с поисковыми системами; конкретная интеграция поиска зависит от внешней системы. Лицензия — Apache-2.0.

Qwen2-UtK-7B-128K — языковая модель на основе Qwen2-7B, дообученная командой проекта Untie the Knots для работы с длинным контекстом. Это плотная авторегрессионная модель с 7,1 млрд параметров; её контекстное окно составляет до 131 072 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и поиска нужной информации в длинных последовательностях. Метод Untie the Knots продолжает предобучение на перемешанных фрагментах документов, чтобы улучшить выделение релевантных сведений при большом контексте. В README приведены результаты оценки на RULER для 128K контекста; указанный пример обслуживания использует vLLM. Карточка сообщает о поддержке английского и китайского языков. Модель основана на Qwen2-7B с изменённым параметром RoPE theta: 5 000 000 вместо 1 000 000. README описывает отдельную инструктивную версию ChatQA2, но эта карточка относится к базовой модели UtK, поэтому её не следует считать чат-моделью ChatQA2. Практическое качество зависит от задачи и длины входа; результаты README не гарантируют такую же точность на других данных и сценариях.

PeterAM4/Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций модели Qwen3-Embedding-0.6B, разработанной Qwen и квантизированной PeterAM4 с помощью llama.cpp. Модель предназначена для построения эмбеддингов и подходит для RAG-систем, семантического поиска, извлечения документов и задач финансового NLP. Доступны варианты квантизации от 8-битных до 1-битных, включая версии с калибровкой importance matrix, ориентированной на финансовые и технические тексты. Базовая модель содержит 595 776 512 параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует эмбеддинги размерности 1024. Заявлена мультиязычная поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Компактный размер квантизированных файлов позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. К сильным сторонам относятся низкое потребление памяти, потенциально малая задержка и сохранение качества при умеренной квантизации; по приведённому тестированию рекомендован вариант Q3_K_M-imat размером 331 МБ. Качество существенно зависит от выбранного формата: при чрезмерно агрессивной квантизации показатели perplexity заметно ухудшаются, а результаты тестов получены на ограниченном корпусе финансовых, математических и общих текстов и не гарантируют качество для всех задач. Модель распространяется по лицензии Apache 2.0.

Steve0927 подготовил плотный ретривер на основе Qwen3-Embedding-0.6B для конкурса XIR 1170. Модель дообучена методом Trajectory Utility Calibration на примерах поиска, полученных из траекторий LRAT: метод корректирует веса примеров, отмечает слабые позитивные примеры и вероятные ложные негативы, сохраняя сложные негативы для контрастивного обучения. Модель предназначена для семантического поиска по фиксированному корпусу в агентных сценариях, подобных XIR и BrowseComp-Plus. Она принимает текстовые запросы и документы и выдаёт плотные эмбеддинги для извлечения релевантных документов. Число параметров — 507,6 млн; базовая архитектура — Qwen3, контекст — до 32 768 токенов. В карточке заявлен английский язык. Лицензия в предоставленных данных не указана.

ReadAll / ReadTwice 14B RL step15 — полноразмерная модель на 14 млрд параметров, разработанная Xirui1208 и экспортированная после 15-го внешнего шага обучения с подкреплением; в сохранённой истории обучения указано 59 обновлений оптимизатора. Это дообучение ReadAll/ReadTwice 14B на основе Qwen2.5-14B-Instruct, с архитектурой Qwen2 для авторегрессионной генерации текста и весами BF16 в формате safetensors. Модель предназначена для диалоговой работы с длинными документами: она формирует краткое внутреннее представление страниц через повторное чтение фрагментов, а затем отвечает на вопросы, используя накопленную память. В описанной оценке на HotpotQA вопросы обрабатывались внешним циклом ReadTwice с повторным просмотром исходных фрагментов; при длине входа 56K, 112K и 224K токенов точность Exact Match составила соответственно 62,5%, 60,9% и 55,5%.

Reason-Rewriter — диалоговая языковая модель для переписывания запросов в задачах поиска по документам, требующих сложных рассуждений. Модель разработана на основе Qwen2.5-7B-Instruct и дообучена для преобразования запросов в более подходящую для поиска форму. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает текстовые запросы, выдавая переписанный текст. Заявленный контекст — 32 768 токенов. Карточка указывает английский язык; лицензия — Apache 2.0.

Модель kelompoknlp2026dsindo/retriever_260511070554_FINAL — энкодер предложений на архитектуре BERT, дообученный разработчиком на базе sentence-transformers/all-MiniLM-L6-v2 для поиска по тексту. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; для сравнения векторов используется косинусное сходство. Обучение проводилось на примерах пар «запрос — релевантный документ» с MultipleNegativesRankingLoss. Модель подходит для семантического поиска и извлечения подходящих документов по запросу. В README приведены результаты оценки на наборе dev: cosine_accuracy@1 — 0,2389, @3 — 0,469 и @5 — 0,5752. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; README задаёт максимальную длину последовательности 256 токенов, поэтому при использовании следует учитывать более короткое ограничение Sentence Transformers. Модель принимает и выдаёт текстовые представления в виде векторов. Данные не подтверждают поддержку русского языка или наличие специализированного предметного домена. Лицензия в предоставленных источниках не указана.

Shitao/RetroMAE — предобученная языковая модель, разработанная авторами RetroMAE: Shitao Xiao, Zheng Liu, Yingxia Shao и Zhao Cao. Она основана на BERT-подобном трансформере и предназначена для задач поиска и семантического сопоставления текстов, а также для дальнейшего обучения плотных ретриверов. В исходной архитектуре используется асимметричная схема masked auto-encoder: полноразмерный трансформер-энкодер и однос layer-трансформер-декодер. Модель содержит около 136,7 млн параметров, работает с контекстом до 512 токенов и доступна через Transformers как masked language model для задачи fill-mask.

deepset/roberta-base-squad2 — англоязычная модель RoBERTa, дообученная deepset на наборе SQuAD 2.0 для извлечения ответов из текста. Она получает вопрос и текстовый фрагмент и находит в нём ответ; также обучена распознавать вопросы, на которые в контексте нет ответа. Модель подходит для поиска ответов в документах и встраивания в системы вопросно-ответного поиска, например на базе Haystack. Модель построена на архитектуре RoBERTa и содержит 151,8 млн параметров. Максимальная длина контекста — 514 токенов. Обучение и оценка проводились на SQuAD 2.0. Модель работает с текстом на английском языке и выдаёт извлечённый из контекста текстовый ответ. Лицензия — CC BY 4.0. Модель предназначена для ответов, подтверждаемых переданным контекстом; она не генерирует развернутые ответы вне контекста, а качество на других языках и предметных областях карточкой не подтверждено.

deepset/roberta-base-squad2-distilled — англоязычная модель для извлечения ответов на вопросы, разработанная deepset. Она построена на архитектуре RoBERTa и дообучена с помощью дистилляции: учительской моделью служила deepset/roberta-large-squad2. В модели 151,8 млн параметров, она принимает вопрос и текстовый фрагмент и извлекает из него ответ; обучение проводилось на SQuAD 2.0. Контекст ограничен 514 токенами. Модель подходит для поиска ответов в документах и построения конвейеров extractive question answering, в том числе с Haystack. Она компактнее учительской модели за счёт дистилляции и обучена распознавать случаи без ответа. Поддерживается английский язык. Распространяется по лицензии MIT.

nlpconnect/roberta-base-squad2-nq — дообученная модель на базе RoBERTa для извлечения ответов на вопросы из предоставленного текста. Разработчики обучили базовую RoBERTa на SQuAD 2.0 в течение двух эпох, а затем на подмножестве Natural Questions с короткими ответами в течение одной эпохи. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForQuestionAnswering и принимает вопрос вместе с контекстом длиной до 514 токенов. Модель предназначена для поиска ответа в тексте и может воздержаться от ответа, если контекст его не подтверждает. В README указаны результаты на dev-наборе SQuAD 2.0: F1 83,44 и exact match 80,30. Эти показатели относятся к указанному набору; качество на других текстах может отличаться. Доступны веса PyTorch и Flax. Лицензия — Apache 2.0.

Gflorent/setfit_emotion — модель представлений предложений на базе MPNet, опубликованная автором florentgbelidji. Она преобразует предложения и абзацы в плотные векторы размерности 768; в README указано обучение с BatchHardTripletLoss. Модель предназначена для поиска семантически близких текстов и кластеризации, а также может использоваться как основа для сравнения предложений. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекстное окно 514 токенов. Для применения README рекомендует библиотеку Sentence-Transformers. В метаданных указаны форматы PyTorch и задачи sentence-similarity и feature-extraction. Лицензия не указана в предоставленных данных.