II.10Разработка и эксплуатация AI/ML-систем

Карточка модели Salahuddin1234/OmniDoctor-Reranker-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-8B, поэтому описание составлено по ней. Qwen3-Reranker-8B — текстовая модель для переранжирования, разработанная командой Qwen. Она оценивает релевантность пар «запрос — документ» и помогает упорядочить найденные кандидаты так, чтобы наиболее подходящие фрагменты оказались выше. Модель предназначена для поиска по текстам и коду, включая многоязычный и межъязыковой поиск, например как этап извлечения контекста в RAG-системах. Модель основана на плотной авторегрессионной архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-8B-Base. В ней около 7,6 млрд параметров; метаданные указывают контекст до 40 960 токенов, а README — 32 тыс. токенов. Заявлена поддержка более 100 языков. Модель поддерживает инструкции, настраиваемые под задачу; в README отмечено, что их применение может улучшать результаты поиска. Для получения оценки релевантности модель принимает текстовую пару и выдаёт оценку, пригодную для ранжирования. В README указано, что по умолчанию это разность логитов; при необходимости её можно преобразовать в вероятность. Для работы с моделью заявлена библиотека Transformers, также описано использование Sentence Transformers. Лицензия — Apache-2.0.

nvidia/Qwen3-Coder-480B-A35B-Instruct-NVFP4 — текстовая авторегрессионная языковая модель на архитектуре Transformers, созданная на основе Qwen3-Coder-480B-A35B-Instruct от Alibaba и квантизированная NVIDIA с помощью Model Optimizer. Модель предназначена для генерации кода и текста, а также для использования в AI Agent-системах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. NVIDIA указывает, что не является владельцем или разработчиком исходной модели, а предоставляет подготовленную квантизированную версию. Модель содержит 480 млрд параметров, принимает и возвращает текстовые последовательности и поддерживает контекст до 256K токенов. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4, что сокращает число бит на параметр с 16 до 4, а требования к дисковому пространству и памяти GPU примерно в 3,5 раза. Версия рассчитана на запуск с TensorRT-LLM на GPU NVIDIA Blackwell, предпочтительно в Linux; заявленная конфигурация тестирования использовала B200. По результатам указанных тестов FP4-версия показала 0,481 на LiveCodeBench и 0,415 на SciCode против 0,486 и 0,412 соответственно у BF16-версии. Языки и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache 2.0 и допускает коммерческое и некоммерческое использование, однако перед внедрением требуется дополнительная проверка на данных конкретного сценария.

techAInewb/Qwen3-Embedding-0.6B-INT8 — восьмибитная квантованная версия многоязычной модели эмбеддингов Qwen3-Embedding-0.6B от Qwen. Она преобразует текст в векторы размерности 1024 для семантического поиска, сравнения документов, кластеризации, классификации и систем RAG. Модель построена на архитектуре Qwen3; в метаданных указано 507,6 млн параметров и контекст до 32 768 токенов. README сообщает о поддержке 29 языков и совместимости с экосистемой Hugging Face Transformers. Квантование INT8 выполнено методом статического квантования Optimum Quanto с сохранением токенизатора. По данным README, размер модели снижен примерно на 37%, а качество эмбеддингов близко к исходной версии. Модель предназначена для текстовых входов и выдаёт векторные представления. Распространяется по лицензии Apache 2.0.

furiosa-ai/Qwen3-Embedding-8B — версия модели текстовых эмбеддингов Qwen3-Embedding-8B, подготовленная FuriosaAI для запуска с Furiosa-LLM и поставляемая с исполняемым пакетом FXB. Модель построена на плотной трансформерной архитектуре Qwen3, содержит 7,6 млрд параметров и принимает текст, преобразуя его в плотные векторные представления. Поддерживает контекст до 40 960 токенов и Matryoshka Representation Learning, позволяющее запрашивать эмбеддинги уменьшенной размерности. Модель предназначена для семантического поиска, извлечения релевантных материалов и сопоставления сходства текстов; она подходит для поиска по документам и построения векторных баз. В README указаны Furiosa-LLM и ускоритель FuriosaAI RNGD, при этом также заявлена совместимость с Sentence Transformers, vLLM и Transformers. Веса представлены в BF16 без квантизации. Лицензия — Apache 2.0.

SimLM — англоязычная плотная модель для поиска пассажей, разработанная авторами метода Similarity Matching with Language Model Pre-training. Она использует архитектуру BERT с узким представлением, которое сжимает текст пассажа в плотный вектор. В карточке указана версия, дообученная на MS MARCO. Модель предназначена для извлечения эмбеддингов текста и построения систем семантического поиска и ранжирования пассажей, в том числе для поиска по неразмеченным корпусам. Параметры можно применять как векторные представления документов или запросов в поисковом конвейере. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты экспериментов на MS MARCO и TREC Deep Learning, однако конкретные значения результатов данной версии в доступном фрагменте таблицы не видны. Модель распространяется под лицензией MIT.

Карточка модели Aksml123/snowflake-arctic-embed-l-v2.0 на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-l-v2.0, поэтому описание составлено по ней. Snowflake Arctic Embed L v2.0 — мультиязычная модель эмбеддингов от Snowflake для семантического поиска и извлечения релевантных текстов. Она основана на архитектуре XLM-RoBERTa и использует представление текста в виде векторов; в метаданных указано 658,7 млн параметров, а контекст составляет до 8194 токенов. Модель принимает текст и выдаёт эмбеддинги, предназначенные для сравнения запросов и документов по смысловой близости. Модель рассчитана на поиск на английском и многих других языках, включая арабский, бенгальский, немецкий, испанский, французский, хинди, японский и корейский. README сообщает о поддержке векторов размерностью 1024 и Matryoshka Representation Learning для сокращения до 256 измерений; вместе с 4-битным квантованием это позволяет хранить вектор примерно в 128 байтах. Указаны результаты оценки на наборах BEIR, MIRACL и CLEF, а также возможность использовать модель как замену BAAI/bge-m3-retromae в системах вывода. Лицензия Apache 2.0 допускает свободное использование в том числе в коммерческих приложениях. Модель предназначена для многоязычного семантического поиска, извлечения документов и построения систем поиска с векторным индексом. Сокращение и квантование эмбеддингов снижают требования к хранению, но могут уменьшить качество поиска; README отмечает небольшое снижение показателей при сокращении размерности до 256. Русский язык не указан среди языков карточки и метаданных, поэтому его поддержку нельзя подтвердить.

Карточка модели RedHatAI/snowflake-arctic-embed-l-v2.0 на Hugging Face совпадает с карточкой Snowflake/snowflake-arctic-embed-l-v2.0, поэтому описание составлено по ней. Snowflake Arctic Embed L v2.0 — мультиязычная модель эмбеддингов от Snowflake для семантического поиска и извлечения релевантных текстов. Она основана на архитектуре XLM-RoBERTa и использует представление текста в виде векторов; в метаданных указано 658,7 млн параметров, а контекст составляет до 8194 токенов. Модель принимает текст и выдаёт эмбеддинги, предназначенные для сравнения запросов и документов по смысловой близости. Модель рассчитана на поиск на английском и многих других языках, включая арабский, бенгальский, немецкий, испанский, французский, хинди, японский и корейский. README сообщает о поддержке векторов размерностью 1024 и Matryoshka Representation Learning для сокращения до 256 измерений; вместе с 4-битным квантованием это позволяет хранить вектор примерно в 128 байтах. Указаны результаты оценки на наборах BEIR, MIRACL и CLEF, а также возможность использовать модель как замену BAAI/bge-m3-retromae в системах вывода. Лицензия Apache 2.0 допускает свободное использование в том числе в коммерческих приложениях. Модель предназначена для многоязычного семантического поиска, извлечения документов и построения систем поиска с векторным индексом. Сокращение и квантование эмбеддингов снижают требования к хранению, но могут уменьшить качество поиска; README отмечает небольшое снижение показателей при сокращении размерности до 256. Русский язык не указан среди языков карточки и метаданных, поэтому его поддержку нельзя подтвердить.

Snowflake Arctic Embed L v2.0 — мультиязычная модель эмбеддингов от Snowflake для семантического поиска и извлечения релевантных текстов. Она основана на архитектуре XLM-RoBERTa и использует представление текста в виде векторов; в метаданных указано 658,7 млн параметров, а контекст составляет до 8194 токенов. Модель принимает текст и выдаёт эмбеддинги, предназначенные для сравнения запросов и документов по смысловой близости. Модель рассчитана на поиск на английском и многих других языках, включая арабский, бенгальский, немецкий, испанский, французский, хинди, японский и корейский. README сообщает о поддержке векторов размерностью 1024 и Matryoshka Representation Learning для сокращения до 256 измерений; вместе с 4-битным квантованием это позволяет хранить вектор примерно в 128 байтах. Указаны результаты оценки на наборах BEIR, MIRACL и CLEF, а также возможность использовать модель как замену BAAI/bge-m3-retromae в системах вывода. Лицензия Apache 2.0 допускает свободное использование в том числе в коммерческих приложениях. Модель предназначена для многоязычного семантического поиска, извлечения документов и построения систем поиска с векторным индексом. Сокращение и квантование эмбеддингов снижают требования к хранению, но могут уменьшить качество поиска; README отмечает небольшое снижение показателей при сокращении размерности до 256. Русский язык не указан среди языков карточки и метаданных, поэтому его поддержку нельзя подтвердить.

Casual-Autopsy/snowflake-arctic-embed-l-v2.0-gguf — это GGUF-квантизированная версия мультиязычной модели для создания текстовых эмбеддингов, основанная на Snowflake/snowflake-arctic-embed-l-v2.0 и подготовленная с использованием llama.cpp. Разработчик исходной модели — Snowflake. Модель предназначена для семантического поиска, информационного поиска и retrieval-сценариев, включая корпоративный мультиязычный поиск в большом масштабе. Модель содержит 568 млн параметров, из которых 303 млн не относятся к эмбеддингам, формирует векторы размерностью 1024 и поддерживает контекст до 8192 токенов. Она рассчитана на работу с широким набором языков, включая английский, русский, китайский, японский, арабский и многие другие. Поддерживаются Matryoshka Representation Learning и обучение с учетом квантования, благодаря чему размерность векторов можно сокращать до 256 с небольшим снижением качества, а совместно с Int4-квантованием получать векторы размером до 128 байт. Сильные стороны модели — высокое качество англоязычного и мультиязычного поиска, эффективность инференса, поддержка длинного контекста и удобная компрессия эмбеддингов. Ограничения включают специализированность на получении векторных представлений, а также возможное снижение качества при усечении размерности и агрессивном квантовании. Исходная модель распространяется по лицензии Apache 2.0; для конкретной GGUF-сборки в README отдельная лицензия не указана.

Snowflake Arctic-embed-m-v2.0 — мультиязычная модель эмбеддингов компании Snowflake для поиска и извлечения информации по тексту. Она предназначена для построения векторного поиска, семантического сопоставления запросов и документов и retrieval-систем, включая приложения корпоративного поиска. В README сообщается о сильных результатах на англоязычных и многоязычных тестах поиска, в том числе MTEB Retrieval, MIRACL и CLEF. Модель построена на GTE multilingual base и имеет 305,3 млн параметров, из которых 113 млн не относятся к эмбеддингам. Она формирует векторы размерности 768, поддерживает контекст до 8192 токенов и методы Matryoshka Representation Learning: размерность можно сократить до 256 с умеренным снижением качества. README также описывает сжатие векторов до 128 байт с 4-битной квантизацией. В репозитории есть веса safetensors и формат ONNX. Модель рассчитана на поиск по тексту и выдаёт эмбеддинги; для оптимального качества извлечения README рекомендует использовать CLS-токен и добавлять префикс к запросам. Метаданные и карточка описывают поддержку многих языков, включая английский, арабский, болгарский, бенгальский, каталонский, чешский, немецкий, греческий, испанский, персидский, финский, французский, иврит, хинди, хорватский, венгерский, индонезийский и итальянский. Лицензия — Apache-2.0.

Карточка модели ramprasad571/U4_MH2_RAM на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Vela Guard — классификатор текста с 307 млн параметров, разработанный командой llm-semantic-router на базе Vela-1.0-Encoder-307M. Он предназначен для обнаружения prompt injection и попыток jailbreak: модель выявляет прямые атаки и вредоносные инструкции, встроенные в недоверенный текст. Поддерживает несколько языков и входы длиной до 32 768 токенов; архитектура основана на ModernBERT, доступны веса Safetensors и формат ONNX. Модель можно использовать в Transformers и Candle, а ONNX-версия поддерживает CPU и ROCm. В опубликованных оценках на проверочных наборах Vela Guard показала более высокий Macro F1, чем исходная mmBERT Guard: 97,77% на атаках, сформулированных как запросы к источникам, и 75,98% на сопоставлениях инструкций в шести языках. Эти результаты получены на наборах разработки и не характеризуют точность на длинных документах. Лицензия — Apache-2.0.

VSR Embeddings v1 Text Nano — компактный мультиязычный текстовый энкодер семейства ModernBERT от Xunzhuo, дообученный на базе llm-semantic-router/mmbert-embed-32k-2d-matryoshka. Модель независимо кодирует текстовые фрагменты двунаправленным энкодером и предназначена для семантической маршрутизации, сопоставления текстов, поиска по эмбеддингам и извлечения релевантных фрагментов. Она содержит 306,9 млн параметров, поддерживает контекст до 32 768 токенов и выдаёт векторы размерности 768, которые можно сокращать до 512, 256, 128 или 64 измерений с повторной нормализацией. Модель рассчитана на высокую пропускную способность и низкую задержку, в том числе для семантического кэширования, удаления дубликатов запросов, кластеризации, поиска по карточкам моделей и классификации по прототипам. Для длинных документов автор рекомендует разбивать текст на перекрывающиеся фрагменты и оценивать максимум сходства запроса с фрагментами, а не полагаться на один общий вектор документа. Доступна под лицензией Apache-2.0. Векторное сходство не является откалиброванным решением для безопасности или политик. Качество выбранной размерности эмбеддинга следует проверять на целевом индексе.

Zen Embedding — текстовая модель для построения плотных эмбеддингов, опубликованная zenlm как часть линейки Zen. Она перепакована из Qwen/Qwen3-Embedding-8B и не обучалась с нуля; репозиторий содержит веса в формате safetensors и рассчитан на использование с библиотекой Sentence Transformers. Модель предназначена для поиска по смыслу, dense retrieval и систем RAG, где документы и запросы кодируются в векторы для поиска релевантного содержимого. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; среди языков карточки отмечены английский и китайский. Лицензия — Apache-2.0. Ограничения: карточка не приводит результатов сравнительных тестов качества или подробных рекомендаций по эксплуатации.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240202154404-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240202154404-latest на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240202160129-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240208121054-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240216212814-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-500-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240217184109-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240221220048-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

RedHatAI/bge-large-en-v1.5-quant — квантованная версия модели эмбеддингов BGE-Large-en-v1.5 от BAAI, подготовленная Red Hat AI. Модель основана на архитектуре BERT и распространяется в формате ONNX с квантованием INT8; для запуска README рекомендует DeepSparseSentenceTransformers, а ускорение inference обеспечивается DeepSparse. Модель преобразует английский текст в векторные представления для семантического поиска, сопоставления текстов и построения retrieval-систем. Контекст ограничен 512 токенами. По README, ускорение на 10-ядерном ноутбуке достигает 4,8 раза, а на 16-ядерном AWS-инстансе — 3,5 раза; эти показатели относятся к указанным конфигурациям. Модель выпущена под лицензией MIT. Квантование INT8 и формат ONNX ориентированы на более эффективный inference; поддерживаемый язык — английский.

Карточка модели comet24082002/bgeM3_MaxSq256_1024 на Hugging Face совпадает с карточкой RishabJ/bge-m3-dim-384, поэтому описание составлено по ней. RishabJ/bge-m3-dim-384 — вариант мультиязычной модели эмбеддингов BGE-M3, опубликованный пользователем RishabJ. Основан на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и рассчитан на последовательности длиной до 8194 токенов. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Модель предназначена для поиска по смыслу, извлечения документов и построения RAG-систем. Семейство BGE-M3 поддерживает плотный поиск, разреженные лексические веса и многовекторное представление ColBERT, что позволяет строить гибридный поиск и обрабатывать как короткие фразы, так и длинные документы. README указывает поддержку более 100 языков; этот репозиторий имеет уменьшенную размерность эмбеддингов 384. Модель полезна для многоязычного семантического и гибридного поиска, а также для оценки сходства предложений. Для повышения точности поиска README рекомендует применять отдельный реранкер после извлечения кандидатов. Доступна по лицензии MIT.

BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

unsloth/bge-small-en-v1.5 — англоязычная модель эмбеддингов из семейства BGE, предназначенная для преобразования текста в векторы. Карточка описывает BGE как серию моделей для плотного поиска и retrieval-augmented generation; версия v1.5 улучшает распределение оценок сходства и поиск без инструкций. Репозиторий содержит веса в форматах PyTorch, safetensors и ONNX. Модель построена на архитектуре BERT, имеет около 40 млн параметров и принимает последовательности длиной до 512 токенов. Её можно применять для поиска релевантных документов и предложений, сравнения текстов и формирования эмбеддингов для конвейеров поиска. Поддерживаемый язык — английский. Лицензия — MIT. Эмбеддинги подходят для поиска кандидатов, но сами оценки сходства не следует трактовать как вероятности или сравнивать с универсальным порогом: README отмечает, что несходные предложения могут получать значения выше 0,5. Для повышения точности ранжирования карточка рекомендует отдельную модель reranker.

BAAI/bge-small-zh — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в плотные векторы для семантического поиска, извлечения документов, кластеризации и классификации, а также для поиска по базе знаний в системах с генерацией с дополненным поиском (RAG). Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает контекст длиной до 512 токенов. Модель ориентирована на китайский язык. Векторные представления можно использовать для поиска релевантных фрагментов по короткому запросу, сравнения семантической близости текстов и индексирования документов в векторной базе данных. Для коротких запросов при поиске длинных документов авторы рекомендуют добавлять инструкцию к запросу; документы в инструкции не нуждаются. Карточка рекомендует более новую версию bge-small-zh-v1.5: у исходной версии распределение оценок сходства менее удобно для пороговой фильтрации. Значение сходства выше 0,5 само по себе не подтверждает близость текстов; порог нужно подбирать на данных целевой задачи. Модель распространяется по лицензии MIT.

Bordair Detector — классификатор второй стадии конвейера защиты Bordair от prompt injection, разработанный авторами Bordair. Это дообученная DeBERTa-v3-large для бинарной классификации текста; модель экспортирована в ONNX и квантована до INT8 для инференса на CPU. Она анализирует пользовательские сообщения, фрагменты RAG, ответы инструментов и текст, извлечённый из изображений, документов или аудио, и выдаёт оценки для классов «безопасный текст» и «попытка внедрения». Для принятия решения конвейер применяет порог к вероятности класса injection; порог можно повысить для текста после OCR или ASR. Модель рассчитана на английский язык, имеет контекст 512 токенов и предназначена для выявления попыток подменить или перенаправить задачу LLM, а не для оценки вредоносности содержания. Модель не определяет тип атаки: хотя конфигурация содержит четыре названия меток, обученная и экспортированная модель использует только два класса. Обучающие данные включают более 500 тысяч размеченных примеров из Bordair/bordair-multimodal. Лицензия — Apache-2.0.

deepset/deberta-v3-base-injection — модель deepset, дообученная на основе microsoft/deberta-v3-base для обнаружения попыток prompt injection. Это классификатор последовательностей на архитектуре DeBERTa-v3 с 211,6 млн параметров и контекстом до 512 токенов. Он относит входной текст к классу INJECTION или LEGIT; в карточке указаны точность 0,9914 и loss 0,0673 на оценочном наборе. Модель предназначена для фильтрации пользовательских запросов и другого текста на предмет попыток вмешательства в инструкции системы. В README отмечено, что набор данных трактует легитимные примеры как вопросы и поисковые запросы по ключевым словам; на реальном трафике возможны ложные срабатывания. Для конкретного применения карточка рекомендует собирать примеры легитимных запросов и дообучать модель. Лицензия — MIT.

DeepSeek-V3.1-Terminus — языковая модель, разработанная командой DeepSeek-AI. Это обновлённая версия DeepSeek-V3.1, построенная на той же архитектуре, что и DeepSeek-V3, и основанная на DeepSeek-V3.1-Base. Обновление сохраняет исходные возможности модели, улучшает согласованность языка, снижая смешение китайского и английского текста и появление аномальных символов, а также повышает эффективность Code Agent и Search Agent. Модель предназначена для рассуждений без инструментов, генерации и анализа кода, работы поисковых агентов и агентских сценариев с использованием инструментов. По данным сравнительных тестов, улучшения особенно заметны в BrowseComp, SimpleQA, SWE Verified, SWE-bench Multilingual и Terminal-bench, хотя на отдельных задачах результаты немного ниже, чем у DeepSeek-V3.1. В README не указаны точный размер модели, число параметров, поддерживаемые языки, модальности и размер контекста. Для локального запуска предусмотрены материалы на базе репозитория DeepSeek-V3 и обновлённый пример инференса; отмечена известная проблема с форматом данных FP8 для параметров self_attn.o_proj, которую планируют исправить в будущих релизах. Модель и веса распространяются по лицензии MIT.

DeepSeek-V4-Pro-0813 — официальная версия модели DeepSeek-V4-Pro, разработанная DeepSeek AI. Она заменяет предварительный выпуск и ориентирована на задачи с агентами, включая использование инструментов, автоматизацию, разработку программного обеспечения, работу в терминале, кибербезопасность и полнофункциональную разработку. По данным README, модель особенно улучшена для производственных сценариев и демонстрирует высокие результаты в тестах агентских и coding-agent задач. Модель построена на архитектуре DeepSeek-V4-Pro (Preview) с подключённым модулем спекулятивного декодирования DSpark. Точные сведения о размере, числе параметров, поддерживаемых языках, модальностях и длине контекста в README не указаны. Для взаимодействия используется OpenAI-совместимый формат сообщений; Jinja-шаблон чата отсутствует, вместо него предоставлены отдельные скрипты кодирования и разбора ответов. Параметр reasoning_effort поддерживает уровни low, high и max. Сильными сторонами модели являются улучшенные агентские возможности, производительность в задачах программирования, автоматизации и работы с инструментами, а также возможность ускорения инференса через DSpark в vLLM и SGLang. Ограничения включают необходимость специального кодирования сообщений и потенциально сложные требования к инфраструктуре: README описывает запуск на узлах с GPU GB300 и рекомендуемые настройки для vLLM, но не приводит полный диапазон совместимого оборудования. Модель распространяется по лицензии MIT.