II.8Инженерия данных и аналитика

text2vec-bge-large-chinese-i1-GGUF — это квантизированная в формате GGUF версия модели shibing624/text2vec-bge-large-chinese. Базовая модель разработана пользователем или организацией shibing624, а квантизацию выполнил mradermacher. Модель предназначена для получения векторных представлений текста, извлечения признаков и оценки семантического сходства предложений, прежде всего на китайском языке. В репозитории представлены варианты квантизации IQ и Q разных уровней, преимущественно размером около 0,2–0,4 ГБ. Для отдельных вариантов указаны компромиссы между размером, скоростью и качеством; рекомендуются i1-Q4_K_S и i1-Q4_K_M, тогда как некоторые низкобитные варианты имеют очень низкое качество. Архитектура, число параметров, размер контекста и точная размерность эмбеддингов в README не указаны. Данных о поддержке других модальностей или языков, кроме заявленного китайского, нет. Модель подходит для локального семантического поиска, кластеризации, сопоставления текстов и других задач, где нужны текстовые эмбеддинги. Основное преимущество — компактные GGUF-варианты, позволяющие выбирать баланс между ресурсами и качеством. Ограничения связаны с потерями качества при агрессивной квантизации, а также с отсутствием подробных сведений о характеристиках и результатах оценки. Лицензия базовой модели указана как Apache-2.0.

rohit-vt/tink-reranker-phase4_minilm_real — текстовая Cross-Encoder-модель на базе cross-encoder/ms-marco-MiniLM-L6-v2, дообученная с помощью библиотеки Sentence Transformers. Архитектура BERT обрабатывает пару текстов совместно и выдаёт оценку релевантности; модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для переранжирования результатов поиска и семантического сопоставления запроса с текстами-кандидатами. Её можно применять на втором этапе поиска, чтобы упорядочить документы, навыки или другие короткие текстовые записи по соответствию запросу. Обучение описано на парах текстов с бинарными метками релевантности; отдельные примеры относятся к сопоставлению профессиональных навыков. Указана лицензия Apache 2.0 для базовой модели, но лицензия этой модели в предоставленных данных не приведена.

Verbatim-RAG Extractor — англоязычный классификатор токенов от KRLabsOrg для выделения в тексте фрагментов, которые прямо отвечают на вопрос. Модель дообучена на базе Alibaba-NLP/gte-reranker-modernbert-base и использует архитектуру ModernBERT; она содержит около 149 млн параметров и поддерживает контекст до 8192 токенов. Модель принимает вопрос и текстовый контекст, оценивает токены контекста как доказательные или недоказательные, а затем объединяет подходящие токены в фрагменты с символьными границами и оценками. Её можно использовать после поиска или переранжирования документов в RAG-системе, чтобы показывать пользователю подтверждающие цитаты или передавать их генеративной модели. Обучающий набор охватывает научные тексты, вопросы и ответы из разных областей, финансовые таблицы, юридические и медицинские материалы, руководства и выводы инструментов для программирования. В описанных авторами оценках модель превзошла публичные базовые экстракторы по Word-F1 на четырёх срезах, включая QASPER, который не входил в обучающую смесь. Это не гарантирует такого же качества на произвольных данных: модель рассчитана на английский язык, выделяет текстовые фрагменты и может пропускать нужные доказательства либо выбирать лишний текст. Выпускается в формате safetensors под лицензией Apache-2.0.

AI4SGI-ExoMind-9B-GGUF — набор GGUF-квантизаций компактной модели ExoMind-9B, разработанной Shanghai AI Laboratory и дообученной на базе Qwen3.5-9B. Данный репозиторий поддерживается prithivMLmods и содержит варианты модели с точностью от BF16 до Q3_K_S. Модель предназначена для ресурсосберегающих экспериментов в области научного рассуждения и агентных исследовательских сценариев. ExoMind-9B ориентирована на ответы на научные вопросы, математическое и вычислительное рассуждение, поиск источников, обоснование выводов по доступным свидетельствам, исполняемую проверку результатов, интеграцию наблюдений, использование инструментов и создание агентных прототипов. Она сохраняет мультимодальные возможности базовой модели Qwen3.5 для работы с текстом и изображениями, поддерживает английский и китайский языки и имеет контекстное окно до 262 144 токенов. Обучение проводилось методом progressive Chain-of-Interaction на траекториях рассуждений и взаимодействия. К сильным сторонам относятся компактный размер в 9 миллиардов параметров, широкий контекст, мультимодальность, поддержка научно-исследовательских и tool-use-сценариев, а также доступность нескольких GGUF-квантизаций для запуска через llama.cpp и совместимых инструментов. При этом отдельные официальные результаты бенчмарков для ExoMind-9B не приведены: опубликованные показатели относятся к более крупной модели ExoMind-35B-A3B и не должны переноситься на эту версию. Модель выпущена по лицензии Apache License 2.0; сопутствующие материалы, бренд ExoMind и некоторые элементы публикации могут регулироваться отдельными условиями.

Карточка модели kranushealth/bge-reranker-v2-m3 на Hugging Face совпадает с карточкой BAAI/bge-reranker-v2-m3, поэтому описание составлено по ней. BAAI/bge-reranker-v2-m3 — многоязычная модель переранжирования от BAAI, построенная на базе bge-m3 и использующая архитектуру XLM-RoBERTa для классификации последовательностей. Она принимает запрос и текстовый фрагмент и выдаёт оценку их релевантности; более высокий балл означает более подходящий фрагмент. При необходимости оценку можно преобразовать сигмоидой в значение от 0 до 1. Модель предназначена для повторной сортировки результатов поиска, например, для уточнения порядка документов, найденных системой извлечения, и повышения качества выдачи в многоязычных сценариях. В README она описана как быстрая и удобная для развёртывания; метаданные указывают 658,7 млн параметров и контекст до 8194 токенов. Карточка характеризует её как многоязычную, но не перечисляет отдельные языки. Модель доступна по лицензии Apache-2.0. Релевантность оценивается для пары «запрос — фрагмент», поэтому для поиска по корпусу сначала нужны кандидаты, полученные отдельной системой извлечения; модель сама не выполняет полный поиск. Скорость и пригодность к развёртыванию заявлены в карточке, но конкретные показатели производительности не приведены.

CamemBERTa-L10 — урезанная версия предварительно обученной модели CamemBERTa, полученная удалением верхних слоёв исходного чекпойнта. Модель разработана авторами CamemBERTa; в карточке указано, что вариант L10 содержит на 14% меньше параметров, чем базовая версия. Метаданные описывают её как плотную архитектуру DeBERTa-v2 примерно на 119 млн параметров, доступную в формате safetensors. Модель принимает французский текст и выдаёт контекстные векторные представления. Её можно использовать для извлечения признаков и дообучать для задач, учитывающих всё предложение, например классификации текста, извлечения ответов на вопросы и семантического поиска. Контекст составляет до 512 токенов. Для генерации текста авторы рекомендуют авторегрессионные модели. Лицензия — MIT.

Qdrant подготовила ONNX-версию текстового энкодера sentence-transformers/clip-ViT-B-32 для классификации текста и поиска сходства. Модель преобразует текст в векторные представления, которые можно использовать для сравнения запросов и текстовых описаний; в карточке приведён пример запуска через FastEmbed. Модель относится к текстовой части CLIP ViT-B/32, содержит 75,6 млн параметров и рассчитана на контекст длиной до 77 токенов. Репозиторий распространяется в формате ONNX по лицензии MIT. Карточка не описывает поддерживаемые языки или ограничения точности; короткое контекстное окно ограничивает работу с длинными текстами.

Codestral-22B-v0.1-4bit — это 4-битная версия модели Codestral-22B-v0.1, преобразованная сообществом mlx-community в формат MLX из bullerwins/Codestral-22B-v0.1-hf с использованием mlx-lm 0.14.0. README не указывает исходного разработчика модели; по названию и тегам она ориентирована на работу с программным кодом. Модель предназначена для задач генерации и обработки кода в приложениях, использующих экосистему MLX, включая локальный запуск через библиотеку mlx-lm. Известные характеристики — размер 22 млрд параметров, 4-битное квантование и формат MLX. В README указано только назначение для кода; сведения об архитектуре, поддерживаемых естественных языках, контекстном окне и мультимодальности отсутствуют. К сильным сторонам относятся адаптация для MLX и уменьшенная разрядность, что может снизить требования к памяти при локальном запуске. Ограничения, включая возможные потери качества из-за 4-битного квантования, производительность и совместимость с конкретным оборудованием, в README не описаны. Модель распространяется по лицензии MNPL-0.1; подробные условия доступны по ссылке, указанной в карточке.

csr-mxbai-embed-large-v1-nq-original — англоязычный разреженный энкодер CSR, дообученный на Natural Questions командой или автором репозитория tomaarsen на базе mixedbread-ai/mxbai-embed-large-v1 с помощью Sentence Transformers. Модель преобразует запросы, предложения и абзацы в разреженные векторы размерностью 4096; близость оценивается скалярным произведением. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе для поиска ответов в коллекциях вопросов и ответов. В карточке приведены оценки поиска на Natural Questions и наборах Nano BEIR, включая MS MARCO, NFCorpus и Quora Retrieval. Для некоторых оценок указано ограничение числа активных измерений до 128 или 256. Модель принимает текст и выдаёт векторные представления. Она рассчитана на английский язык, использует архитектуру BERT и распространяется в формате safetensors по лицензии Apache-2.0. Она создаёт эмбеддинги для поиска, а не готовые ответы; заявленная длина контекста ограничена 512 токенами.

Decision-1.0-Kai-0.6B — модель принятия решений из линейки Open Decision Foundation Models от llm-semantic-router. Она совместно анализирует контекст, вопросы и описания вариантов, чтобы выбирать действие или категорию, оценивать истинность условия и выставлять оценки по упорядоченной шкале. Результаты выдаются структурированно, с распределениями вероятностей; модель не генерирует текстовый ответ.

DNA 2.0 — языковая модель компании Dnotitia Inc., созданная дообучением Smoothie-Qwen3-14B. Это плотная авторегрессионная модель семейства Qwen3 с 14 млрд параметров, предназначенная для диалогов, рассуждений, математических задач и повседневных запросов. В README заявлены улучшения пошагового решения задач, логического вывода и генерации на корейском и английском языках; модель также позиционируется как менее ограничивающая ответы на чувствительные темы. Модель принимает текст и генерирует текст. README указывает контекст 32 тыс. токенов с расширением до 131 тыс. через YaRN, тогда как метаданные каталога фиксируют нативный контекст 40 960 токенов. Поддерживается режим управления рассуждением через команды /think и /no_think. Доступны веса Safetensors для Transformers, лицензия — Apache 2.0. Заявления README об оценках и улучшениях представлены разработчиком и не сопровождаются подробностями протокола оценки; качество на конкретных задачах следует проверять отдельно. Для генерации с включённым режимом рассуждения автор не рекомендует жадное декодирование из-за ухудшения качества и риска повторов.

ettin-reranker-32m-v1 — англоязычный кросс-энкодер, дообученный разработчиками проекта Ettin на базе jhu-clsp/ettin-encoder-32m с библиотекой Sentence Transformers. Модель содержит 31,9 млн параметров, построена на архитектуре ModernBERT и принимает пары текстов, чтобы оценивать их релевантность; оценки можно использовать для ранжирования результатов семантического поиска и других задач поиска информации. Максимальная длина последовательности — 7 999 токенов. Модель предназначена для повторного ранжирования кандидатов, полученных поисковой системой или моделью эмбеддингов, например в двухэтапном поиске. В README приведены результаты бенчмарков на английских задачах retrieval и сравнительные показатели скорости на GPU и CPU. Доступны форматы safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0.

carles-undergrad-thesis/indobert-mmarco-margin-mse — модель на базе IndoBERT, дообученная для сопоставления предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768, пригодные для семантического поиска, кластеризации и ранжирования документов по релевантности. Модель построена на архитектуре BERT, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты оценки на наборах mMARCO, Mr.TyDi и MIRACL, включая метрики MRR@10 и Recall@1000; для mMARCO и Mr.TyDi показано улучшение относительно BM25 по отдельным метрикам. Обучение проводилось с MarginMSELoss. Репозиторий содержит веса PyTorch и опубликован 20 октября 2023 года. Сведения о лицензии в предоставленных данных отсутствуют.

Это 16-битная конверсия языковой модели IFM/K2-Horizon-7B в формат MLX, подготовленная SirSahOl для запуска на GPU компьютеров Apple Silicon. Модель плотная, с архитектурой K2HorizonForCausalLM; в метаданных указано 8B параметров, а в README — 7B. Контекст модели — до 524 288 токенов, формат весов — safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и генерации текста при локальном инференсе, включая работу с длинными документами, рассуждения и программирование. Она использует 16-битные веса без квантизации и требует около 15,2 ГБ объединённой памяти; README рекомендует не менее 24 ГБ. Конверсия ориентирована на Apple Silicon и MLX, поэтому для других платформ этот формат может не подойти. В карточке заявлена поддержка английского языка.

Kotoba-Whisper-v2.2 — японская модель распознавания речи от Kotoba Technologies, разработанная совместно с Asahi Ushio. Она основана на kotoba-tech/kotoba-whisper-v2.0 и объединяет распознавание речи с конвейером постобработки, который добавляет диаризацию говорящих и пунктуацию к транскрипту. Модель построена на архитектуре Whisper, содержит около 905,2 млн параметров и принимает аудио, выдавая текстовую расшифровку. Она предназначена для транскрибирования японской речи с разделением реплик по говорящим и восстановлением пунктуации. Репозиторий использует формат safetensors; для работы через Transformers требуется версия 4.39 или новее. Лицензия — Apache-2.0. В README рекомендованы Flash Attention 2 при наличии совместимого GPU и добавление тишины в начале или конце аудио для потенциального улучшения качества. Для диаризации используются дополнительные пакеты, включая pyannote.audio. Карточка не сообщает длину контекста или подробные ограничения точности; качество диаризации и пунктуации зависит от аудио и компонентов конвейера.

noctrex/Laguna-XS-2.1-MXFP4_MOE-GGUF — квантизированная в MXFP4 сборка текстовой MoE-модели Poolside Laguna-XS-2.1 в формате GGUF. Модель предназначена для генерации текста и диалогового взаимодействия; базовая Laguna-XS-2.1 ориентирована на агентное программирование, терминальные задачи и длительную работу с кодом. Для запуска требуется llama.cpp. Репозиторий также содержит вариант GGUF BF16. Модель создана на основе poolside/Laguna-XS-2.1; лицензия и подробные сведения о размере, контексте и языках в предоставленных данных отсутствуют.

aditeyabaral/langcache-colbert-v2 — англоязычная модель PyLate на архитектуре ColBERT, дообученная на парах предложений LangCache для семантического кэширования и поиска. Она представляет запросы и документы как последовательности плотных векторов размерности 128 и оценивает их сходство оператором MaxSim. Модель основана на colbert-ir/colbertv2.0; в архитектуре используются BERT и линейный слой проекции с 768 до 128 измерений. Размер модели — 136,7 млн параметров, максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска по индексированным документам, получения релевантных фрагментов по запросу и повторного ранжирования результатов первичного поиска. Для эффективного поиска README описывает использование индекса FastPLAID через PyLate. Модель обучалась на датасете LangCache Sentence Pairs; заявленный язык — английский. Распространяется по лицензии Apache-2.0.

LFM2.5-Embedding-350M — мультиязычная модель Liquid AI для семантического поиска и извлечения документов. Это плотный двунаправленный bi-encoder семейства LFM2: запрос и документ кодируются в отдельные векторы размерности 1024. Модель содержит около 444,6 млн параметров по метаданным и построена на базе LiquidAI/LFM2.5-350M-Base с двунаправленными изменениями; для запуска предназначена библиотека sentence-transformers. Модель рассчитана на retrieval в RAG-системах, кросс-языковой поиск, поиск по базам знаний и локальную семантическую индексацию. В README указана поддержка английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского языков. Для запросов и документов используются разные префиксы query: и document:, которые sentence-transformers применяет через prompt_name. Максимальная длина последовательности в конфигурации — 512 токенов; метаданные указывают native context 128000 токенов, но заявленный сценарий модели ограничен коротким контекстом. Модель выдаёт векторные представления, пригодные для ранжирования документов по косинусному сходству или нормализованному скалярному произведению. README приводит результаты мультиязычной оценки NanoBEIR и характеризует модель как быструю и компактную для плотного поиска. Лицензия обозначена в метаданных как other, поэтому конкретные условия следует сверить с карточкой модели. Русский язык среди заявленных языков не указан.

LightOn-rerank-LW-2B — мультимодальная модель-переранжировщик компании LightOn на базе Qwen/Qwen3.5-2B. Это плотный cross-encoder с архитектурой Qwen3.5, содержащий около 2,2 млрд параметров; веса опубликованы в формате bfloat16. Модель совместно дообучена на текстовых и визуальных данных для ранжирования найденных документов по запросу. На вход подаются текстовый запрос и кандидаты: текстовые фрагменты или изображения страниц документов. Модель ранжирует по четыре кандидата за один проход, генерируя их порядок; для большего списка применяется скользящее окно. Такой режим подходит для второго этапа поиска после BM25, векторного поиска или ColPali. Обучение проводилось на английском языке; французский поддерживается с переносом без дообучения. В ViDoRe V3 модель показала 62,66 nDCG@10 при заданном в карточке протоколе оценки. Для работы требуется transformers версии 5.4.0 или новее. Качество зависит от разрешения изображений: карточка рекомендует для инференса высокое разрешение, ориентировочно 1 млн пикселей; на разрешении обучения 512×512 результат был ниже. Не следует применять модель в режиме независимой оценки отдельных кандидатов: её назначение — генерировать список ранжирования. Текстовые обучающие данные включают NQ и MS MARCO, поэтому результаты на этих наборах могут быть затронуты загрязнением. Лицензия — Apache-2.0.

Ling-3.0-flash REAP288 — экспериментальная версия разговорной гибридной MoE-модели Ling-3.0-flash, опубликованная bloomer010 на основе inclusionAI/Ling-3.0-flash. В ней оставлено 288 из 512 маршрутизируемых экспертов на слой; README указывает 73 млрд параметров всего и 5,1 млрд активных, тогда как метаданные каталога указывают 3,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; базовая Ling-3.0-flash также позиционируется для программирования и многошаговых агентных задач. Эксперты отбирались методом REAP по оценке, учитывающей значение маршрутизатора и норму выхода на калибровочных данных объёмом 1 млн токенов. После удаления экспертов не проводились дообучение или восстановительное обучение. Модель работает с контекстом до 262 144 токенов, распространяется в BF16 Safetensors и использует архитектуру BailingMoeV3; для загрузки требуется trust_remote_code=True и пользовательский код bailing_hybrid. README называет модель исследовательским артефактом и экспериментальной REAP-версией. Лицензия в предоставленных данных не указана. Ключевое ограничение — эксперты удалены без последующего обучения для восстановления качества, поэтому характеристики базовой модели нельзя автоматически переносить на эту версию; приведённые в README и метаданных размеры параметров также расходятся.

LLaMA-3-8B-SFR-Iterative-DPO-R — диалоговая инструктивная языковая модель Salesforce, основанная на архитектуре Llama 3. В репозитории указано 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Она обучена с помощью итеративного онлайн RLHF на основе DPO с открытыми наборами данных, без дополнительной разметки людьми или GPT-4. Модель предназначена для диалоговых ответов и следования инструкциям. В карточке Salesforce сообщает о результатах на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также приводит академические бенчмарки, включая GSM-8K, MMLU и HumanEval. README обозначает выпуск как исследовательский, предназначенный для поддержки академической работы; лицензия в метаданных — llama3. Модель может выдавать оскорбительный или неэтичный контент, особенно при состязательных запросах. Salesforce рекомендует проверять точность, безопасность и справедливость перед применением, особенно в высокорисковых сценариях. Поддерживаемые естественные языки явно не перечислены.

Мультимодальная модель-реранкер NVIDIA для поиска документов, содержащих ответ на текстовый запрос. Она оценивает пары «запрос — документ» и возвращает логит релевантности, чтобы переупорядочить кандидатов, найденных поисковой или векторной системой, в том числе в конвейере vision RAG. Документы могут быть представлены текстом, изображением страницы или слайда либо их сочетанием; модель рассчитана на работу с текстом, таблицами, диаграммами и инфографикой. Модель построена как cross-encoder на архитектуре Eagle VLM: визуальный энкодер SigLIP 2 на 400 млн параметров сочетается с языковой моделью семейства Llama Nemotron. В карточке указано около 1,7 млрд параметров; выход декодера агрегируется усреднением, а ранжирование выполняет дообученная бинарная классификационная голова. Для обучения использовались изображения и контекст до 2048 токенов; при оценке заявлены текстовые, визуальные и комбинированные входы, контекст до 10240 токенов и до шести тайлов изображения. Длинные входы обрезаются. Модель предназначена для повышения качества мультимодального поиска и ответов на вопросы по большим корпусам, когда нужно переоценить ограниченный набор кандидатов; запуск на всех документах корпуса не масштабируется. NVIDIA сообщает о готовности к коммерческому использованию. Лицензия в метаданных указана как other, а конкретные условия использования в предоставленных сведениях не раскрыты.

LRAT Qwen3-Embedding-0.6B Strong768 — плотная модель для поиска релевантных текстовых фрагментов по веб-поисковому запросу. Разработана на базе Qwen/Qwen3-Embedding-0.6B и дообучена с полным обновлением параметров на данных LRAT; применялись негативные примеры из той же строки набора данных. Веса модели содержат около 508 млн параметров по метаданным, а README указывает 595 776 512 параметров и размерность эмбеддинга 1024. Модель использует архитектуру Qwen3, извлечение последнего токена и L2-нормализацию; контекст составляет до 32 768 токенов по метаданным. Модель предназначена для плотного семантического поиска: она преобразует запросы и passages в векторы, пригодные для поиска релевантных ответов в коллекции текстов. В карточке описан формат запроса с инструкцией для поиска фрагментов, отвечающих на веб-запрос. Указаны лицензия Apache-2.0 и формат весов safetensors. Языковая поддержка явно не перечислена; базовая модель описана каталогом как многоязычная.

MalayalamSBERT — модель семейства BERT, разработанная L3Cube-Pune в рамках проекта MahaNLP и дообученная на наборе данных NLI на базе l3cube-pune/malayalam-bert. Она создаёт векторные представления предложений на малаяламском языке для сравнения семантической близости и поиска похожих фраз. Модель можно применять в семантическом поиске, группировке предложений и других сценариях, где требуется оценивать сходство текстов. Модель имеет архитектуру BertModel, содержит около 264,8 млн параметров и поддерживает контекст до 512 токенов. Для получения представления предложения README рекомендует использовать sentence-transformers либо применить подходящую операцию pooling к контекстным представлениям токенов. Распространяется в формате PyTorch по лицензии CC BY 4.0.

Maverick Llama 3 8B — диалоговая языковая модель на архитектуре Llama, созданная feeltheAGI на базе Meta Llama 3 8B и дообученная на наборе feeltheAGI/maverick-sharegpt. Модель содержит около 7,5 млрд параметров, принимает текст и предназначена для генерации ответов в формате чата с шаблоном ChatML; заявленная длина контекста — 8192 токена. Модель подходит для диалогового ассистента, ответов на вопросы, рассуждений и решения задач по математике. В карточке приведены результаты тестов EQ-Bench, WinoGrande, GSM8K и MathQA, но они не гарантируют качество в конкретных сценариях. Репозиторий предоставляет веса в формате Safetensors. Метаданные указывают лицензию Apache 2.0, тогда как README ссылается на Meta Llama 3 Community License Agreement; условия использования следует сверять с лицензией базовой модели.

mentee-embed-v4 — модель векторных представлений текста, разработанная Syed Syab Ahmad Shah и командой MenteE AI. Она предназначена для поиска по смыслу, извлечения релевантных текстов и оценки семантического сходства на английском, арабском и урду. Модель содержит 41 млн параметров и использует 12-слойный Transformer с размерностью эмбеддингов 384. Она обучена с нуля: разработчики создали BPE-токенизатор, провели предварительное обучение masked language modeling и три раунда контрастивной дистилляции с трудными негативными примерами. Контекст ограничен 512 токенами по метаданным. В репозитории указаны веса Safetensors; лицензия — Apache-2.0. Модель компактна и показала хорошие результаты на MIRACL, особенно для английского и арабского поиска; авторы также сообщают о высокой скорости инференса на RTX 5090. На их собственном тестовом наборе результаты заметно уступают более крупным моделям, арабский и урду отстают от английского; редкие письменности и диалекты могут токенизироваться хуже. Полный набор MTEB не оценивался.

Merino-Nano — компактная модель для поиска, созданная BAA AI (Black Sheep AI). Она объединяет биэнкодер для построения 384-мерных L2-нормализованных эмбеддингов и кросс-энкодер, который оценивает релевантность пары «запрос — документ» одним числом. Обе части используют общую таблицу эмбеддингов и основу MiniLM-L6-H384-uncased; всего около 34 млн параметров. Модель предназначена для двух этапов поиска в RAG-системах: сравнения запросов и документов по эмбеддингам и последующего ранжирования найденных фрагментов. В README её характеризуют как экономичную модель общего назначения для английских данных и рекомендуют для атомарных фрагментов, содержащих по одному утверждению, с возвратом родительского раздела для контекста. Заявлена сертификация 4-битной квантизации без измеримой потери качества в описанном испытании с отвлекающими документами. Репозиторий содержит веса в формате safetensors, лицензия указана как other; конкретные условия лицензии в предоставленных данных не раскрыты. Оценка Position Balance в README указывает на ограничения поиска второго факта во фрагменте, поэтому автор рекомендует делить документы на атомарные фрагменты. Модель рассчитана на английский язык.

Meta-Llama-3-12B — плотная языковая модель семейства Llama, опубликованная mlabonne. Это экспериментальная сборка из пяти диапазонов слоёв одной и той же NousResearch/Meta-Llama-3-8B с помощью LazyMergekit и метода passthrough; метаданные указывают около 11 млрд параметров, архитектуру LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии и код, на основе текстовых запросов. В карточке указано контекстное окно 8192 токена; базовая модель ориентирована на английский текст и код. Лицензия обозначена как other, поэтому условия использования следует проверять в репозитории модели и у правообладателя базовой модели. Поскольку исходные диапазоны берутся из одной модели, README не подтверждает прирост качества от этой сборки.

Карточка модели openbmb/MiniCPM-2B-sft-fp32-llama-format на Hugging Face совпадает с карточкой openbmb/MiniCPM-2B-sft-fp32, поэтому описание составлено по ней. MiniCPM-2B-sft-fp32 — версия языковой модели MiniCPM-2B после instruction fine-tuning (SFT), представленная в формате FP32. Её разработали ModelBest и лаборатория обработки естественного языка Университета Цинхуа. Модель построена на архитектуре MiniCPMForCausalLM, содержит 2,7 млрд параметров и предназначена для генерации текста и диалоговых ответов на английском и китайском языках. Максимальная длина контекста — 4096 токенов. Модель подходит для диалоговых систем, ответов на вопросы, а также генерации текстов, кода и решений математических задач. Разработчики отмечают её компактный размер и возможность развёртывания на устройствах с ограниченными ресурсами после квантизации; этот репозиторий содержит веса FP32. В карточке указана лицензия other, а README сообщает об открытых весах для академических исследований и ограниченного коммерческого использования. Известные ограничения — склонность к галлюцинациям, зависимость ответов от формулировки запроса и вариативность результатов при повторных попытках; знания модели могут быть неточными. Качество генерации в Transformers, по сообщению авторов, может быть ниже, чем при использовании vLLM.

Это мультиязычная модель Cross-Encoder семейства XLM-RoBERTa, дообученная авторами Sentence Transformers на MMARCO — автоматически переведённой на 14 языков версии датасета MS MARCO. Модель основана на mMiniLMv2-L12-H384, содержит 124,3 млн параметров и рассчитана на последовательности длиной до 514 токенов. Модель предназначена для повторного ранжирования результатов информационного поиска: она получает запрос и отдельный найденный фрагмент текста, оценивает их релевантность, после чего фрагменты можно отсортировать по оценкам. Подходит для этапа reranking после первичного поиска, например, в поисковой системе или конвейере RAG. Карточка отмечает поддержку 14 языков и сообщает, что модель также хорошо показала себя на других языках. Доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO; для использования предусмотрена библиотека Sentence Transformers. Лицензия — Apache-2.0. Обучение на машинных переводах MS MARCO может ограничивать качество на языках и типах запросов, отличающихся от обучающих данных.