I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельLFM2.5-Embedding-350M-int8 — 8-битная квантованная версия мультиязычного двунаправленного би-энкодера Liquid AI LFM2.5-Embedding-350M, опубликованная sahilchachra для запуска на Apple Silicon через MLX. Модель кодирует запросы и документы в векторы размерности 1024 с CLS-пулингом; для входов требуются префиксы «query: » и «document: », а близость оценивается косинусным сходством. Контекст составляет до 128 000 токенов. Модель предназначена для семантического и кросс-языкового поиска и извлечения релевантных документов. В README приведено сравнение на английском подмножестве NanoBEIR: средний NDCG@10 после квантования практически совпал с fp16. Указана лицензия other; перед использованием следует проверить условия лицензии базовой модели и репозитория. Для корректного получения эмбеддингов нужен двунаправленный энкодер с CLS-пулингом: обычные причинные загрузчики LFM2 дают неверные результаты.
LTM-SFR-RUN-1 — дообученная языковая модель, опубликованная deepjoysur на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров; карточка указывает обучение с Unsloth и библиотекой TRL. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Указана лицензия Apache-2.0. README не раскрывает специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных примерах.
Ming-Lite-Omni — мультимодальная модель от InclusionAI, дообученная на Ling-lite. Она использует архитектуру MoE с маршрутизаторами для разных модальностей и выделенными энкодерами. По данным разработчика, активируется 2,8 млрд параметров; модель объединяет обработку изображений, текста, аудио и видео, а также генерацию текста, речи и изображений. Она предназначена для мультимодального диалога, распознавания и понимания речи, преобразования текста в речь, анализа изображений и видео, генерации и редактирования изображений. Модель подходит для приложений, где нужно принимать смешанные мультимодальные запросы и формировать текстовые, речевые или визуальные ответы без отдельных моделей для каждой задачи. README приводит результаты оценок на задачах понимания изображений, видео и речи, а также генерации изображений. Контекст, поддерживаемые языки и ограничения качества в предоставленных источниках не описаны. Лицензия — MIT.
nreimers/MiniLM-L6-H384-uncased — компактная модель семейства MiniLM, представленная Nils Reimers. Это версия Microsoft MiniLM-L12-H384-uncased, полученная удалением каждого второго слоя; архитектура — BERT с шестью слоями и примерно 25,9 млн параметров. Модель извлекает контекстные признаки из текста и подходит для построения текстовых представлений в NLP-системах. Она поддерживает последовательности длиной до 512 токенов и распространяется в форматах PyTorch и Flax. Модель можно использовать как основу для извлечения признаков в поиске, кластеризации и последующей классификации текста. Уменьшенная глубина делает её компактнее исходной 12-слойной версии, но сама карточка не приводит сравнительных оценок качества. Поддерживаемый язык в карточке не указан. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbed-base-20240110225225-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122103941-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240122103941-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240124231910-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
Карточка модели avsolatorio/MixEmbedFinetune-base-20240125001833-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.
Mythos-9B-Unhinged — языковая модель примерно на 9 млрд параметров, разработанная King3Djbl. Данный репозиторий содержит её квантизированные версии в формате GGUF, подготовленные mradermacher с использованием imatrix-квантования. Модель ориентирована на англоязычную генерацию текста, ролевые сценарии, программирование, работу с агентами, вызов функций и инструментов, а также взаимодействие с shell-командами. В описании также заявлены режимы без отказов и использование в FableForge, LM Studio, llama.cpp и Ollama, однако подробности обучения и результаты тестирования не приведены. Архитектура, точное число параметров, поддерживаемый размер контекста и дополнительные модальности в README не указаны; по имеющимся данным это текстовая модель без заявленной поддержки изображений или аудио. Доступны варианты GGUF с разными уровнями квантования и размером примерно от 2,2 до 6,8 ГБ. Более компактные варианты требуют меньших ресурсов, но могут заметно терять в качестве; автор рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S характеризует как оптимальный баланс размера, скорости и качества. Модель подходит для локального запуска и задач, где важны ролевое взаимодействие, генерация кода и использование инструментов. Ограничения включают неизвестные параметры контекста, отсутствие опубликованных бенчмарков и вероятное ухудшение качества у низкобитных квантов. Указанная лицензия — Apache-2.0.
pplx-embed-v1-0.6B — мультиязычная плотная модель текстовых эмбеддингов от Perplexity AI, построенная на Qwen3, прошедшей дополнительное предобучение с использованием diffusion. Она предназначена для поиска по смыслу и извлечения релевантных текстов в масштабных корпусах: модель независимо кодирует запросы и документы, поэтому подходит для семантического поиска и retrieval-компонентов RAG. Модель содержит 507,9 млн параметров, принимает текст с контекстом до 32 768 токенов и выдаёт векторы размерности 1024. Используется mean pooling; модель не требует инструкционного префикса. Веса доступны в форматах Safetensors и ONNX. В README указано, что эмбеддинги по умолчанию имеют INT8-квантизацию и не нормализованы: для сравнения следует использовать косинусное сходство. Лицензия — MIT.
unsloth/Qwen2.5-0.5B-Instruct-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Qwen2.5-0.5B-Instruct, подготовленная Unsloth на базе модели Qwen, разработанной Alibaba Cloud. Она предназначена для генерации текста, диалоговых ассистентов, следования инструкциям, работы со структурированными данными и форматами вывода, включая JSON, а также для задач программирования и математики. Модель является каузальной языковой моделью с архитектурой Transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, 24 слоя и использует Grouped Query Attention: 14 голов для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии bnb-4bit — сниженное потребление памяти благодаря 4-битному представлению, что упрощает запуск и дообучение модели на ограниченных GPU-ресурсах. Небольшой размер делает её подходящей для локального использования и ресурсоограниченных приложений, однако по возможностям и качеству ответов она уступает более крупным моделям. README не содержит подробных результатов оценки именно этой 4-битной версии. Модель распространяется по лицензии Apache-2.0.
wangkanai/qwen2.5-vl-7b-instruct — мультимодальная instruction-tuned модель семейства Qwen 2.5, опубликованная пользователем wangkanai. Она предназначена для анализа изображений и генерации текстовых ответов в сценариях визуального вопросно-ответного взаимодействия, описания изображений, OCR, анализа графиков и диаграмм, а также мультимодального диалога и других задач image-to-text. Модель построена на архитектуре Qwen2.5-VL с vision-language Transformer и ViT-ориентированным визуальным энкодером, содержит около 7 миллиардов параметров и принимает текст и изображения в форматах JPEG, PNG и WebP, возвращая естественный язык. Заявленная длина контекста составляет 4096 токенов с учётом текста и изображения. Доступны варианты FP16 SafeTensors и GGUF, включая квантованные Q5_K_M и Q4_K_M, что позволяет выбирать между качеством и требованиями к памяти. К сильным сторонам относятся сочетание визуального понимания, следование инструкциям и поддержка разнообразных мультимодальных задач. Ограничения включают относительно короткий заявленный контекст, зависимость требований к ресурсам от формата и возможные потери качества при квантовании. Это abliterated-версия с уменьшенными или удалёнными ограничениями на отказы, поэтому её ответы могут быть менее безопасными и требуют дополнительного контроля при использовании. Модель распространяется по лицензии Apache-2.0.
PeterAM4/Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций модели Qwen3-Embedding-0.6B, разработанной Qwen и квантизированной PeterAM4 с помощью llama.cpp. Модель предназначена для построения эмбеддингов и подходит для RAG-систем, семантического поиска, извлечения документов и задач финансового NLP. Доступны варианты квантизации от 8-битных до 1-битных, включая версии с калибровкой importance matrix, ориентированной на финансовые и технические тексты. Базовая модель содержит 595 776 512 параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует эмбеддинги размерности 1024. Заявлена мультиязычная поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Компактный размер квантизированных файлов позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. К сильным сторонам относятся низкое потребление памяти, потенциально малая задержка и сохранение качества при умеренной квантизации; по приведённому тестированию рекомендован вариант Q3_K_M-imat размером 331 МБ. Качество существенно зависит от выбранного формата: при чрезмерно агрессивной квантизации показатели perplexity заметно ухудшаются, а результаты тестов получены на ограниченном корпусе финансовых, математических и общих текстов и не гарантируют качество для всех задач. Модель распространяется по лицензии Apache 2.0.
mlx-community/Qwen3-Reranker-0.6B-mxfp8 — преобразованная в формат MLX модель-реранкер сообщества mlx-community, полученная из Qwen/Qwen3-Reranker-0.6B с помощью mlx-embeddings 0.0.3. Она оценивает релевантность пары запроса и документа, чтобы ранжировать результаты поиска или выбрать наиболее подходящие фрагменты для системы RAG. Модель основана на плотной архитектуре Qwen3 с примерно 508 млн параметров и поддерживает контекст до 40 960 токенов. Репозиторий предназначен для запуска через mlx-embeddings. В метаданных указаны Apache-2.0 и формат safetensors. Исходная модель-реранкер Qwen3 преобразована в MLX; заявлено назначение для ранжирования текста.
Карточка модели VECTORVV1/READ-PRO-OCR на Hugging Face совпадает с карточкой lenhattruong165/orc-deepseek-unli, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR, представленная авторами проекта в июне 2026 года. Она предназначена для распознавания текста на изображениях и длинного разбора документов за один проход, включая сценарии с преобразованием страниц PDF в изображения. В карточке указаны 559,7 млн параметров, архитектура UnlimitedOCRForCausalLM, контекст 32 768 токенов и работа через Transformers; README также описывает поддержку запуска в vLLM и SGLang. Модель принимает изображения и текстовые запросы, а результат выдаёт в виде текста. Метаданные отмечают мультиязычную поддержку, но конкретные языки не перечисляют. Лицензия — MIT. Карточка связывает модель с Deepseek-OCR, однако точный идентификатор базовой модели не указан.
ReasonEmbed — текстовая модель эмбеддингов, разработанная авторами проекта ReasonEmbed и дообученная на базе Qwen/Qwen3-8B с функцией потерь RI-InfoNCE на синтетических данных. Она предназначена для извлечения документов по запросам, требующим многошагового рассуждения, и для семантического поиска; особенно ориентирована на сценарии retrieval в RAG-системах. На бенчмарке BRIGHT модель показала nDCG@10 38,1 для исходных запросов. Модель имеет плотную архитектуру Qwen3, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Она принимает текст и формирует векторные представления для поиска и сравнения сходства. Доступны веса в формате safetensors; лицензия — Apache-2.0. Основание README указывает Qwen/Qwen3-8B, а метаданные связывают модель с hanhainebula/qwen3-8b-ft-msmarco как с базовой дообученной моделью.
RetriBERT — модель извлечения признаков для поиска текстов, опубликованная пользователем yjernite на Hugging Face. Она использует архитектуру RetriBERT и предназначена для получения векторных представлений текста, которые можно применять в задачах поиска и сопоставления текстовых запросов с документами. Модель содержит 98,9 млн параметров и принимает последовательности длиной до 512 токенов. Карточка не описывает отдельно обучающие данные или конкретные языковые ограничения. В репозитории доступны веса PyTorch; для запуска показано использование Transformers с задачей feature-extraction. Лицензия в предоставленных данных не подтверждена.
TensorVizion/roBERTa-nanobeir — англоязычная модель на архитектуре RoBERTa-base, дообученная автором на наборе NanoBEIR с помощью контрастивного обучения. Это компактный энкодер для поиска релевантных фрагментов: он кодирует запросы и тексты в векторы для семантического поиска, извлечения кандидатов и использования в RAG. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов; она ориентирована на быстрый запуск на ноутбуках, CPU и небольших GPU. Модель также подходит для кластеризации текстов, поиска дубликатов и оценки сходства. Она не генерирует текст и предназначена для английского языка. Ограничения включают короткий контекст RoBERTa, слабую работу с узкими предметными областями и возможную зависимость оценок сходства от совпадения ключевых слов; автор также отмечает возможные смещения в данных. Лицензия в предоставленных данных не указана.
Snowflake Arctic Embed L — модель эмбеддингов текста от Snowflake для высококачественного семантического поиска и извлечения информации. Она построена на архитектуре BERT; в репозитории указаны веса Safetensors и формат ONNX. Модель содержит около 433,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель предназначена для создания векторных представлений запросов и документов, чтобы находить релевантные материалы по смыслу, в том числе в системах поиска и retrieval-augmented generation (RAG). В README заявлены результаты на бенчмарках MTEB/BEIR и показатели извлечения, сопоставимые с крупными коммерческими эмбеддинг-моделями. Карточка описывает обучение семейства на основе открытых моделей представления текста и многоэтапную оптимизацию для retrieval; точная базовая модель именно этой версии не указана. Модель работает с текстом и возвращает эмбеддинги; контекст ограничен 512 токенами. Указана лицензия Apache-2.0. README сообщает о выпуске более новых многоязычных версий семейства, поэтому для новых многоязычных сценариев может подойти более поздняя версия; поддерживаемые языки этой модели в предоставленных данных не перечислены.
voyage-4-nano-mlx-bf16 — неофициальная версия Voyage-4-nano, подготовленная сообществом для запуска через MLX на компьютерах Apple с Apple Silicon. Это мультиязычная модель для создания текстовых эмбеддингов: запросы и документы обрабатываются с разными обученными префиксами, а для симметричных задач доступно общее кодирование. Модель построена на основе Qwen3 с двунаправленной обработкой; в метаданных указано 306,6 млн параметров и контекст до 40 960 токенов. Эмбеддинги подходят для семантического поиска и индексации документов на устройстве. Поддерживаются Matryoshka-размерности 2048, 1024, 512 и 256; автор карточки сообщает о близком совпадении с эталонной реализацией и совместимости пространства эмбеддингов с размещёнными моделями Voyage-4. Это порт в формате safetensors, а не отдельная квантизированная версия. Для длинных входов используется плотное внимание, поэтому обработка последовательностей на 32 тыс. токенов может занимать около шести секунд. Лицензия — Apache-2.0; порт неофициальный и не связан с Voyage AI или MongoDB.
Absolute_Zero_Reasoner-Coder-7b-GGUF — это GGUF-квантизированная версия модели Absolute_Zero_Reasoner-Coder-7b, разработанной andrewzh и подготовленной квантизатором bartowski с использованием llama.cpp версии b5338 и imatrix-калибровки. Модель предназначена для генерации текста и задач, связанных с рассуждениями и программированием, а также для локального запуска через LM Studio, llama.cpp и совместимые проекты. Модель содержит 7 миллиардов параметров; в README не указаны точная архитектура, поддерживаемые языки, модальности и размер контекста. Доступны варианты от BF16 до различных форматов квантования Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов варьируется примерно от 3,57 до 15,24 ГБ. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4_K_M; облегчённые варианты подходят для систем с ограниченным объёмом памяти. Сильной стороной модели является возможность эффективного локального использования на широком спектре оборудования, включая CPU и, согласно README, Apple Silicon для некоторых форматов. Ограничения связаны с потерями качества при низком уровне квантования, а также с отсутствием в предоставленных данных подробностей о результатах тестирования, языковой поддержке, контекстном окне и исходной лицензии. Лицензия в README не указана.
answerai-colbert-small-v1 — экспериментальная модель с несколькими векторами от Answer.AI, обученная по рецепту JaColBERTv2.5 с дополнительными изменениями. Она использует архитектуру BERT и содержит около 40 млн параметров по метаданным; в README авторы указывают размер 33 млн. Модель рассчитана на англоязычный поиск по пассажам и извлечение релевантных документов в RAG-системах, а также может применяться для переранжирования результатов поиска. ColBERT-кодирование хранит несколько векторов для текста и сопоставляет запрос с документами методом позднего взаимодействия. Это даёт модели сильные результаты на приведённых авторами тестах для модели её размера, включая BEIR. Контекст составляет 512 токенов; доступны веса Safetensors и формат ONNX. Лицензия — Apache-2.0. README описывает модель как доказательство концепции, поэтому результаты на бенчмарках не гарантируют качество для конкретного корпуса или сценария.
swardiantara/bert-tiny-sst5-full-fixed-cosine — компактная модель Sentence Transformers, дообученная автором на датасете generator на основе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с усреднением токенных представлений; модель содержит 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а README сообщает максимальную длину последовательности 128 токенов. Модель можно применять для семантического поиска, извлечения релевантных текстов и оценки сходства предложений. Она принимает только текст и выдаёт векторы; интерфейса для генерации ответов модель не описывает. Компактный размер подходит для сценариев с ограниченными вычислительными ресурсами. Лицензия в предоставленных данных не указана.
BAAI/bge-base-zh-v1.5 — плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная Beijing Academy of Artificial Intelligence. Она преобразует текст в низкоразмерные векторы для семантического поиска, извлечения документов, классификации и кластеризации, а также для поиска контекста в векторных базах данных при построении систем с генерацией с дополненной выборкой (RAG). Модель основана на BERT, содержит около 129,5 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Для поиска коротким запросом длинных документов инструкция к запросу может повысить качество, но её влияние зависит от задачи. Модель рассчитана на китайский язык; README описывает семейство BGE и на английском, однако это само по себе не подтверждает поддержку английского этой конкретной модели. Модель выдаёт векторные представления, а не готовые ответы или оценки релевантности документов. Значения сходства между парами текстов не следует интерпретировать по универсальному порогу: для фильтрации нужно подбирать порог на собственных данных. Лицензия — MIT.
lm-kit/bge-m3-gguf — репозиторий с квантизированными версиями embedding-модели BGE-M3, базовая модель которой опубликована BAAI. Модель предназначена для получения векторных представлений текста и связанных задач поиска и семантического сопоставления. Формат распространения — GGUF, что позволяет использовать модель в совместимых инструментах и приложениях. Квантизация выполнена с помощью LM-Kit.NET версии 2024.9.0, а конвертация — посредством llama.cpp с указанной ревизией. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках, длине контекста, модальностях и конкретных вариантах квантования, поэтому эти характеристики нельзя достоверно уточнить. Лицензия — MIT.
mlx-community/bge-m3-mlx-4bit — неофициальная версия BAAI/bge-m3, преобразованная для MLX и квантованная до 4 бит для работы на Apple Silicon. Модель основана на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и формирует 1024-мерные представления текста; максимальная длина контекста — 8194 токена. Модель предназначена для получения эмбеддингов и семантического поиска. Исходная BGE-M3 поддерживает плотный, разреженный и многовекторный (ColBERT) поиск, однако README этой версии описывает генерацию эмбеддингов через MLX. Квантование уменьшает требования к памяти и подходит для массового формирования эмбеддингов, когда приемлемо некоторое снижение качества. Модель поддерживает многоязычный текст, включая русский, английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский и португальский. Для использования нужны MLX и совместимая система Apple Silicon. Лицензия — MIT; это неофициальная конверсия, за исходной моделью и официальными реализациями следует обращаться к BAAI/bge-m3.
Карточка модели dabitbol/bge-m3-sparse-elastic на Hugging Face совпадает с карточкой Bylaw/BAAI-bge-m3, поэтому описание составлено по ней. BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.
cadet-embed-base-v1 — плотная BERT-base модель для создания текстовых эмбеддингов и поиска релевантных фрагментов. Разработана Manveer Singh Tamber и соавторами; дообучена на базе intfloat/e5-base-unsupervised с помощью листовой дистилляции от cross-encoder моделей RankT5-3B и BAAI/bge-reranker-v2.5-gemma2-lightweight. Для обучения использованы синтетические запросы, созданные Llama 3.1 8B, и более 400 тысяч фрагментов из MSMARCO, DBPedia и Wikipedia. Модель предназначена для плотного поиска: сопоставления запросов с документами и отбора релевантных фрагментов. Она содержит 136,7 млн параметров, принимает текст и рассчитана на контекст до 512 токенов. Карточка указывает английский язык. Веса опубликованы в формате safetensors по лицензии Apache-2.0. README характеризует качество поиска как высокое, но не приводит количественных результатов оценки.