I.14Автоматизация процессов и AI-агенты

Granite-4.1-3B-SFT-Claude-Opus-Reasoning-Unsloth — дообученная языковая модель на архитектуре GraniteForCausalLM, созданная автором репозитория на основе IBM Granite 4.1 3B. Модель содержит 3,4 млрд параметров и рассчитана на генерацию текста в диалоговом формате, включая ответы с рассуждениями. Для обучения с учителем использовался датасет claude-reasoning-distillation; LoRA-адаптеры объединены с базовыми весами. Модель подходит для создания диалоговых ассистентов и генерации ответов на инструкции. Метаданные указывают контекст до 131 072 токенов, поддержку чата и интерфейса вызова инструментов. Поддерживаемые естественные языки в карточке не перечислены. Качество на прикладных тестах не оценивалось: опубликованы только наблюдения за обучающей потерей. Поведение вне обучающего набора не проверено; сохраняются ограничения, смещения и ошибки базовой модели. Лицензия — Apache-2.0.

Hushmark-TR 289M — турецкая модель распознавания именованных сущностей, разработанная Hushmark и дообученная на базе urchade/gliner_multi_pii-v1 с энкодером microsoft/mdeberta-v3-base. Это полный чекпойнт архитектуры GLiNER на 288 949 504 параметра, предназначенный для поиска в тексте 12 категорий персональных данных и других чувствительных сущностей, включая людей, адреса и организации. Модель предлагает границы сущностей для последующей обработки в системах защиты данных и поддерживает PyTorch и FP32 ONNX. Максимальная длина входа — 384 токена, ширина кандидата на сущность — 12 токенов; более длинный текст необходимо разбивать на фрагменты. Опубликованная оценка получена на синтетических, близких по шаблонам наборах данных и не гарантирует качество на реальных текстах. Возможны ложные срабатывания и пропуски; требуется проверка на данных конкретной организации. Модель сама не выполняет анонимизацию и не гарантирует соблюдение законодательства. Лицензия — Apache-2.0.

IcelandicNER BERT — модель на архитектуре BERT, дообученная на корпусе MIM-GOLD-NER для распознавания именованных сущностей в текстах на исландском языке. Она размечает токены и выделяет восемь типов сущностей: даты, места, прочие сущности, денежные суммы, организации, проценты, персон и время. Модель содержит 205,1 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены оценки precision, recall и F1 по категориям; для дат указана F1 0,974, для мест — 0,954, для прочих сущностей — 0,855. Модель можно применять через Transformers pipeline для NER. Лицензия — Apache-2.0.

Jan-v1-edge — компактная плотная языковая модель семейства Qwen3, разработанная Jan как вторая модель семейства Jan. Модель содержит 1,7 млрд параметров и дообучена на основе Qwen/Qwen3-1.7B; в карточке также описан процесс дистилляции от более крупной Jan-v1 с последующим дообучением и обучением с подкреплением на проверяемых наградах. Модель предназначена для генерации текста и диалогов, ответов на вопросы, выполнения инструкций и интерактивных сценариев с использованием инструментов. Разработчик ориентирует её на быстрое локальное выполнение на устройствах с ограниченными ресурсами и интеграцию с приложением Jan. Заявленная длина контекста — 40 960 токенов; карточка указывает английский язык. В тесте SimpleQA модель показала 83% точности; по сравнению с Qwen 3 1.7B Thinking отмечено небольшое снижение качества следования инструкциям и творческого письма, при сопоставимых или лучших результатах в EQBench и вопросах о недавних событиях. Модель опубликована в формате safetensors для Transformers под лицензией Apache-2.0. Показатели тестов приведены разработчиком; README не описывает методику оценки или результаты на иных наборах задач.

masahiroid/japanese-reranker-xsmall-v2-mlx — японская версия модели переранжирования hotchpotch/japanese-reranker-xsmall-v2, преобразованная сообществом в формат MLX. Исходная модель построена на ModernBERT и использует архитектуру cross-encoder с классификационной головой; версия содержит 36,7 млн параметров и поддерживает контекст до 8192 токенов. Модель оценивает релевантность пары текстов и помогает переупорядочивать результаты поиска или документы в RAG. Она рассчитана прежде всего на японский язык и также поддерживает английский. Формат MLX предназначен для запуска в экосистеме Apple MLX; README предлагает использовать библиотеку mlx-embeddings. Это неофициальная конверсия, авторство исходной модели принадлежит её разработчику. Лицензия — MIT.

Kimi-K2.7-Code-UD-Q4_K_XL-layers — пакет слоёв GGUF для распределённого запуска модели Kimi-K2.7-Code на нескольких машинах. Пакет подготовлен для Mesh LLM и получен из unsloth/Kimi-K2.7-Code-GGUF: исходное распределение весов разбито на отдельные артефакты слоёв; вариант квантования — UD-Q4_K_XL. Модель предназначена для локального приватного вывода, запуска на кластере из нескольких узлов, когда полный набор весов трудно разместить на одном компьютере, и для чат-запросов через локальный API, совместимый с OpenAI. Метаданные указывают задачу text-generation и библиотеку mesh-llm; карточка описывает диалоговое применение. Подробности об архитектуре, размере, контексте, языках и условиях лицензии отсылают к карточке исходной модели и здесь не приведены.

Kimi-K3-UD-Q4_K_XL-layers — пакет GGUF-файлов модели Kimi-K3-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого локального инференса. Пакет создан на основе unsloth/Kimi-K3-GGUF: веса разделены на отдельные артефакты по слоям, чтобы распределять вычисления и память между несколькими машинами. В метаданных указаны поддержка чата и изображений; основной сценарий — диалоговый инференс с изображениями и текстом через Mesh LLM. Пакет предназначен для частного запуска на собственном оборудовании, в том числе на кластере, когда модель не помещается на одном узле. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. Вариант весов — UD-Q4_K_XL в формате GGUF. Лицензия обозначена как other; условия следует сверить с карточкой исходной модели unsloth/Kimi-K3-GGUF.

ko-pii-public-v1 — модель для обнаружения и классификации персональных данных в корейском тексте. Автор дообучил OpenAI Privacy Filter на синтетических документах, данных KDPII и примерах KLUE NER. Модель поддерживает 23 категории, включая имена, телефоны, адреса, идентификаторы, банковские и карточные данные; архитектура — MoE для классификации токенов, веса опубликованы в формате safetensors. Карточка указывает 145,4 млн параметров и контекст 131 072 токена. Модель предназначена для поиска персональных данных в корейских формах, письмах, документах KYC, медицинских записях, договорах и протоколах встреч, чтобы затем маскировать найденные фрагменты. Разработчик рекомендует разбивать документы длиннее 500 символов на фрагменты примерно по 150 символов. Указана лицензия CC BY-SA 4.0, унаследованная от обучающих данных KLUE. В оценке автор сообщает о повышении устойчивости на документах разной длины, но отмечает снижение F1 на тесте KDPII по сравнению с предыдущей версией. Модель может пропускать отдельные номера паспорта и автомобильные номера без окружающих ключевых слов, широко размечает географические названия как адреса и может считать прозвища именами. Результаты для OCR, диалектов и сильно зашумлённого текста не приведены; качество на собственных доменных данных следует проверять отдельно.

redis/langcache-reranker-v2-mnrl — англоязычный Cross-Encoder, разработанный Redis и дообученный на базе Alibaba-NLP/gte-reranker-modernbert-base с использованием библиотеки Sentence Transformers. Модель принимает пары текстов и оценивает их релевантность; её обучали на парах LangCache, чтобы использовать в семантическом кэшировании и ранжировании результатов поиска. Модель основана на ModernBERT, содержит 149 млн параметров и поддерживает последовательности длиной до 8192 токенов. Она предназначена для английского языка и выдаёт оценку для одной пары текстов, которую можно использовать при классификации пар или переранжировании кандидатов в поиске и RAG. Модель не генерирует ответы и не формирует эмбеддинги: для оценки нескольких документов требуется отдельно подать каждую пару «запрос — документ». Карточка указывает лицензию Apache-2.0.

LanguageBind_Image — модель для сопоставления изображений с текстовыми описаниями в рамках проекта LanguageBind, разработанного авторами исследования LanguageBind, принятого на ICLR 2024. В репозитории она представлена как PyTorch-модель на базе архитектуры CLIPModel и предназначена для классификации изображений без примеров на этапе обучения: пользователь задаёт текстовые метки или описания, а модель оценивает их соответствие изображению. Модель входит в мультимодальный подход LanguageBind, который использует язык как общий семантический ориентир для связывания представлений разных модальностей. Для этого чекпойнта подтверждён сценарий zero-shot классификации изображений; описание проекта также упоминает вычисление сходства между модальностями и текстом. README не сообщает размер этой модели, её языковой охват или длину контекста. Лицензия репозитория — MIT.

Dingdust/LFM2.5-230M-heretic — производная версия LFM2.5-230M-Base от Liquid AI, опубликованная как дообученная модель с ослабленным отказом отвечать на запросы. По карточке это компактная текстовая причинная модель семейства LFM2 с 221,2 млн параметров, рассчитанная на генерацию текста и диалоговое применение. README семейства описывает гибридную архитектуру из свёрточных блоков с двойным gating и блоков GQA, а также контекст 32 768 токенов; метаданные репозитория указывают собственный контекст 128 000 токенов, поэтому фактическое значение зависит от конкретной версии и конфигурации. Модель подходит для извлечения данных, коротких диалогов и лёгких локальных агентных сценариев, включая вызов инструментов. В README исходной модели перечислены десять языков: английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский и испанский. Приведённые в карточке измерения показывают меньше отказов, чем у исходной модели, но это не подтверждает качество ответов для всех типов запросов. Семейство не рекомендуется для сложных рассуждений, продвинутой математики, генерации кода и творческого письма. Лицензия указана как other, без более точных условий в предоставленных данных.

taareshg/Llama-3.2-3B-Instruct-En-Hi-merge-200k — языковая модель семейства Llama, разработанная taareshg и дообученная на базе unsloth/Llama-3.2-3B-Instruct-bnb-4bit с использованием Unsloth и Hugging Face TRL. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 3,2 млрд параметров. Заявленная длина контекста — 131 072 токена. В карточке указан английский язык, а суффикс En-Hi в названии предполагает англо-хинди назначение, но README не подтверждает поддержку хинди. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или подробностей обучающих данных.

mkurman/llama-3.2-MEDIT-3B-o1 — компактная языковая модель, созданная дообучением MedIT Solutions Llama 3.2 3B Instruct, основанной на Meta Llama 3.2 3B Instruct. Она использует плотную архитектуру LlamaForCausalLM и содержит 3,2 млрд параметров. Модель предназначена для генерации текста в формате инструкций, ответов на вопросы и задач рассуждения в стиле o1; в README описаны специальные теги для отделения рассуждений от итогового ответа. Модель поддерживает текстовый ввод и генерацию текста, а её контекстное окно составляет 131 072 токена. В метаданных указан английский язык. Доступны веса в форматах Safetensors и GGUF; лицензия — llama3.2. Для более стабильного точного совпадения автор рекомендует отключать сэмплирование или использовать температуру 0.0. При генерации следует настроить стоп-последовательности, иначе модель может продолжать вывод служебных тегов. Ответы могут содержать фактические ошибки и предвзятости; медицинские выводы требуют проверки специалистом.

Это дообученная модель KKHYA на базе KKHYA/llavaqwen3-1.7b-finetune. Она использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM и предназначена для генерации текста и диалогов; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 1,7 млрд параметров, принимает текст и генерирует текст. Её длина контекста составляет 40 960 токенов. Репозиторий содержит веса в форматах PyTorch и safetensors. Датасет дообучения не описан, поэтому нельзя оценить специализацию модели или качество на конкретных задачах. Лицензия — Apache-2.0.

Это модель Longformer-base-4096, дообученная Сураджем Патилом на наборе SQuAD v1 для ответов на вопросы по заданному контексту. Longformer разработан Изом Белтаги, Мэттью Питерсом и Арманом Коха из AllenAI и использует архитектуру на основе трансформера с локальным скользящим вниманием; модель содержит 151,8 млн параметров и рассчитана на последовательности длиной до 4098 токенов. Модель предназначена для извлечения ответа из длинного текста по вопросу пользователя. В README приведены результаты на SQuAD v1: Exact Match 85,15 и F1 91,54. Для задачи вопроса и ответа вопросу назначается глобальное внимание; карточка рекомендует передавать вопрос вместе с контекстом в виде пары входов. Указана лицензия MIT. Обучение на SQuAD v1 не гарантирует качество на других предметных областях или языках.

Это экспортированная в ONNX версия модели Tryolabs для ответов на вопросы в диалоге. Она основана на LongT5-TGlobal-Base и дообучена на SQuADv2, CoQA и собственном наборе TryoCoQA. Архитектура LongT5 предназначена для работы с длинным текстом; размер модели — 123,7 млн параметров, контекст — до 4096 токенов. Модель подходит для извлечения ответов из текста и ответов на вопросы с учётом контекста беседы, например, по содержимому статей и документов. Экспорт разделяет вычисления на компоненты энкодера и декодера для запуска через ONNX Runtime и 🤗 Optimum. В README приведены результаты на тестовых наборах: F1 74,29 после обучения на SQuADv2 и CoQA и F1 54,77 после обучения на TryoCoQA. Лицензия в предоставленных данных не указана.

cstr/madlad400-3b-ct2-int8 — это оптимизированная int8-версия мультиязычной модели машинного перевода MADLAD-400-3B-MT, разработанной Google Research на основе архитектуры T5 и преобразованной в формат CTranslate2 Juarez Bochi. Исходная модель обучалась на 1 триллионе токенов общедоступных данных и охватывает более 400 языков. Модель предназначена прежде всего для перевода текста между поддерживаемыми языками и других мультиязычных NLP-сценариев. Модель имеет около 3 миллиардов параметров в исходной версии; данная публикация использует int8-квантизацию для более компактного и эффективного запуска через CTranslate2. Направление перевода задаётся специальным префиксом языка, например <2en> или <2de>. Среди явно указанных языков — английский, русский, немецкий, французский, испанский, китайский, японский, арабский и многие другие. Модель распространяется по лицензии Apache 2.0. Сильными сторонами являются широкий охват языков, специализированная ориентация на машинный перевод и сниженные требования к памяти благодаря int8-представлению. Качество может различаться между языками и предметными областями, а модель не предназначена для гарантированно точного перевода важных или чувствительных материалов без проверки человеком.

Narrativa/mbart-large-50-finetuned-opus-en-pt-translation — модель машинного перевода на базе mBART-50 large, дообученная для перевода с английского на португальский на данных OPUS-100 и OPUS-Book. Это последовательностная модель архитектуры mBART с 457,4 млн параметров, реализованная на PyTorch; заявленная длина контекста — 1024 токена. mBART-50 предварительно обучалась с помощью многоязычного шумоподавляющего предобучения и поддерживает перевод между языками, однако этот чекпойнт настроен на направление английский → португальский. Модель предназначена для автоматического перевода английских предложений и текстов на португальский, в том числе в конвейерах нейронного машинного перевода. В README указан результат BLEU 20,61 на тестовой выборке, но без дополнительных сведений о протоколе оценки это число не позволяет напрямую сравнивать модель с другими системами. В карточке нет сведений о лицензии, поэтому условия использования по имеющимся данным определить нельзя.

mBERT-Bengali-NER — модель распознавания именованных сущностей в бенгальском тексте, разработанная Sagor Sarker на основе bert-base-multilingual-uncased и обученная на датасете WikiAnn. Это трансформер BERT с архитектурой BertForTokenClassification, рассчитанный на классификацию каждого токена; контекст модели составляет 512 токенов, размер — около 194,6 млн параметров. В опубликованной оценке указаны F1 0,971, точность 0,968, полнота 0,974 и accuracy 0,977. Модель подходит для извлечения имён людей и других размеченных сущностей из бенгальских текстов, например для последующего индексирования или анализа документов. Карточка показывает метки PER, а полный набор меток в предоставленном фрагменте приведён не полностью. Для использования нужны Transformers и PyTorch; веса доступны в форматах PyTorch и Safetensors. Лицензия — MIT.

MetaCLIP 2 (worldwide) — мультимодальная модель семейства CLIP, разработанная Meta и представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-H-14-378-worldwide из оригинальной реализации; для работы с ним предусмотрена библиотека Transformers. Модель предназначена для классификации изображений по текстовым описаниям без предварительного обучения на конкретных классах. Она сопоставляет изображения и текстовые метки, что позволяет задавать категории на естественном языке. Карточка указывает на многоязычную поддержку. Веса опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

MiniCPM5-1B-Rebel-i1-GGUF — GGUF-квантизированная версия модели MiniCPM5-1B-Rebel, опубликованная mradermacher и квантованная им на основе модели XuehangCang/MiniCPM5-1B-Rebel. Базовая модель разработана XuehangCang; в README также указаны связанные с ней наборы данных от XuehangCang и OpenBMB. Модель предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, включая локальные и периферийные сценарии использования. Модель относится к семейству MiniCPM5 и имеет размер 1B параметров. Доступна в формате GGUF с различными вариантами квантования от IQ1_S до Q6_K; размеры файлов составляют примерно 0,5–1,0 ГБ. Указана поддержка английского и китайского языков. Архитектура, точная длина контекста и дополнительные модальности в README не раскрыты, поэтому модель следует рассматривать как текстовую. Для ряда квантов отмечен компромисс между размером, скоростью и качеством; наиболее рекомендуемыми названы i1-Q4_K_M и i1-Q4_K_S, тогда как низкобитные варианты могут заметно снижать качество. Лицензия — Apache-2.0. README характеризует модель как uncensored и связанную с abliteration, однако не приводит подробных результатов оценки, ограничений безопасности или инструкций по ответственному применению. Для запуска требуются совместимые инструменты, поддерживающие формат GGUF.

RoseG/MiP_TRiADAi_SFTPro_CML — дообученная TRiADiC Intelligence Labs языковая модель на базе Qwen/Qwen3.5-9B-Base. Она предназначена для генерации текста и диалогового взаимодействия; в метаданных также заявлен интерфейс вызова инструментов. Модель использует плотную архитектуру Qwen3.5 и формат весов Safetensors, запускается через Transformers. Базовая модель — мультимодальная Qwen3.5 с 9 млрд параметров, способная работать с изображениями, однако карточка этой производной модели описывает её как генератор языка и не подтверждает поддержку изображений. Лицензия — Apache-2.0. Специализированная область применения и дополнительные сведения о качестве не приведены.

ESarp/Mistral-Nemo-12B-AttackTree-DPO — дообученная ESarp языковая модель для генерации текста и диалогов. Она основана на unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Архитектура — плотная MistralForCausalLM, размер — 12,1 млрд параметров, длина контекста — до 131 072 токенов. Карточка указывает английский язык и формат safetensors. Модель предназначена для генерации ответов в текстовом чате; метаданные также отмечают интерфейс вызова инструментов. Название указывает на DPO и деревья атак, однако карточка не описывает соответствующее обучение или специализированные сценарии, поэтому эти свойства нельзя считать подтверждёнными. Лицензия — Apache-2.0.

Mizan-Rerank-v1 — компактная модель-реранкер от ALJIACHI на архитектуре ModernBERT. Это cross-encoder на 148,9 млн параметров, дообученный на базе answerdotai/ModernBERT-base для оценки релевантности пар «запрос — документ» и сортировки результатов поиска. Модель рассчитана прежде всего на арабские тексты, также поддерживает английский; максимальная длина входа — 8192 токена. Модель подходит для арабского поиска, RAG-систем, цифровых библиотек и разговорных приложений, где нужно упорядочить найденные фрагменты по релевантности. В карточке заявлены низкое потребление памяти и высокая скорость инференса, но по качеству на длинных документах и специализированных наборах данных автор рекомендует преемника Mizan-Rerank-v2. Лицензия — Apache 2.0.

qilowoq/mmarco-mMiniLMv2-L12-H384-v1-en-ru — компактная двуязычная версия модели jeffwan/mmarco-mMiniLMv2-L12-H384-v1 для ранжирования пар «запрос — текст». Её разработчик сократил словарь до токенов английского и русского языков; в карточке указана архитектура XLM-RoBERTa с классификационной головой, 51,5 млн параметров и контекстом до 514 токенов. Модель обучена как cross-encoder на MMARCO — машинном переводе MS MARCO на 14 языков. README описывает применение для поиска: оценивать пары запроса и найденного фрагмента, затем сортировать фрагменты по оценкам релевантности. Модель предназначена для этапа reranking в информационном поиске, например после первичного поиска в ElasticSearch. Несмотря на словарь, ограниченный английским и русским, автор сообщает о хороших результатах и на других языках. Лицензия — Apache-2.0. README не приводит количественных оценок качества; контекст ограничивает длину обрабатываемой пары.

Madaray/moderncamembert-msmarcofr-ranknetloss — кросс-энкодер на базе ModernBERT, обученный с библиотекой Sentence Transformers. Он оценивает пары «запрос — документ» одним числовым баллом и предназначен для переупорядочивания результатов поиска и семантического поиска. Модель содержит 135,5 млн параметров, поддерживает последовательности до 8192 токенов и распространяется в формате safetensors. В карточке приведены примеры французских запросов и документов; название модели и обучающие примеры указывают на французскую направленность. Обучение проводилось на 502 939 примерах с использованием RankNetLoss. Оценки модели можно применять для ранжирования кандидатов по релевантности; отдельные оценки не следует трактовать как вероятности без дополнительной калибровки. Лицензия в предоставленных данных не указана.

RinKana/ms-marco-MiniLM-L12-v2-cross-lingual-reranker — дообученная cross-encoder-модель на базе cross-encoder/ms-marco-MiniLM-L12-v2, созданная с использованием библиотеки sentence-transformers. Она оценивает пары текстов и выдаёт один числовой балл релевантности, который подходит для повторного ранжирования результатов поиска и семантического поиска. Модель принимает текст; архитектура основана на BERT и имеет около 40 млн параметров. Максимальная длина последовательности — 512 токенов. Карточка называет модель cross-lingual, однако приведённые сведения о данных и примерах относятся к английскому языку, поэтому поддержку других языков подтвердить нельзя. Лицензия в предоставленных данных не указана. Модель подходит для ранжирования пар запроса и найденного фрагмента, но её вход ограничен 512 токенами.

Карточка модели falloutxvats/ms-marco-minilm-l6-v2 на Hugging Face совпадает с карточкой cross-encoder/ms-marco-MiniLM-L6-v2, поэтому описание составлено по ней. cross-encoder/ms-marco-MiniLM-L6-v2 — англоязычный ранжировщик на основе архитектуры BERT, предназначенный для переранжирования результатов поиска. Модель обучена на задаче MS MARCO Passage Ranking и оценивает релевантность пары «запрос — фрагмент текста», после чего найденные документы можно сортировать по оценке. Модель содержит 25,9 млн параметров, принимает пары текстов и поддерживает контекст до 512 токенов. Она рассчитана на этап reranking в системах информационного поиска, например после получения кандидатов из ElasticSearch. Доступны форматы PyTorch, SafeTensors, ONNX, OpenVINO и Flax. Модель распространяется по лицензии Apache 2.0. Описанные данные указывают на англоязычное обучение и назначение; качество для других языков не подтверждено. README приводит оценки на наборах TREC Deep Learning 2019 и MS MARCO, но не содержит чисел для этой версии MiniLM-L6-v2.

cross-encoder/ms-marco-TinyBERT-L2 — компактная модель ранжирования от Sentence Transformers, обученная на задаче MS MARCO Passage Ranking. Это дообученная BERT-модель с архитектурой BertForSequenceClassification и 4,4 млн параметров; она принимает пару «запрос — текстовый фрагмент» и оценивает релевантность фрагмента запросу. Контекст модели — до 512 токенов. Модель предназначена для информационного поиска по схеме retrieve-and-rerank: после первичного поиска, например в ElasticSearch, она пересчитывает релевантность найденных фрагментов и сортирует их по убыванию оценки. Подходит для ранжирования passages в поисковой выдаче и для оценки релевантности пар текстов. Поддерживает английский язык. Доступны варианты весов PyTorch, safetensors, ONNX, OpenVINO и Flax. Компактный размер делает модель пригодной для повторного ранжирования множества кандидатов, но её применение ограничено текстовыми парами и контекстом до 512 токенов. Она рассчитана на переоценку уже найденных документов, а не на генерацию текста или самостоятельный поиск по коллекции. Лицензия — Apache-2.0.

Xenova/ms-marco-TinyBERT-L-2-v2 — это версия модели cross-encoder/ms-marco-TinyBERT-L-2-v2 с весами в формате ONNX, подготовленная репозиторием Xenova для работы в Transformers.js. Модель относится к классу sequence classification и оценивает релевантность пары текстов, например поискового запроса и найденного документа. Модель предназначена прежде всего для задач информационного поиска, ранжирования результатов и семантического сопоставления текстов, включая работу непосредственно в JavaScript-приложениях и веб-среде. В основе используется компактная архитектура TinyBERT с двумя слоями; доступны квантованные и неквантованные ONNX-варианты. В README приведён пример на английском языке, однако полный набор поддерживаемых языков и размер контекста не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в исходном репозитории базовой модели и связанных материалах. Компактность и совместимость с Transformers.js упрощают развёртывание, но ограничения TinyBERT могут отражаться на точности по сравнению с более крупными моделями.