II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейDymium-NER-v1 — модель распознавания именованных сущностей, разработанная Dymium и дообученная на DeBERTa-v3-large для обнаружения персональных и других чувствительных данных. Она размечает токены в тексте по 13 типам сущностей, включая адреса, учётные данные и чувствительные даты. Модель предназначена для поиска и редактирования персональных данных в конвейерах ИИ, обнаружения чувствительной информации перед передачей текста LLM, а также для контроля доступа и поддержки процессов управления данными и соблюдения требований GDPR, HIPAA и FedRAMP. Она работает с английским текстом; размер составляет 533,8 млн параметров, максимальная длина контекста — 512 токенов. Для запуска можно использовать Transformers pipeline с задачей token-classification. По заявлению карточки, качество может снижаться на узкоспециализированных текстах, а обнаружение учётных данных зависит от наличия контекста. Численные показатели F1, точности и полноты в README не приведены. Модель распространяется по лицензии Apache-2.0.
embeddinggemma-300m-GGUF — это GGUF-версия мультиязычной модели эмбеддингов Google EmbeddingGemma 300M, разработанной Google и преобразованной сообществом cstr без дополнительного обучения, дообучения или изменения архитектуры. Модель предназначена для семантического поиска, retrieval, сравнения текстов по смыслу и других задач feature extraction; поддерживает интеграцию с CrispEmbed и Ollama-совместимыми средами. Модель основана на трансформере Gemma 3 с 300 млн параметров и двунаправленным вниманием. Она использует mean pooling, плотную проекцию 768→3072→768 и L2-нормализацию, формируя эмбеддинги размерности 768. Поддерживается более 100 языков, максимальная длина контекста составляет 2048 токенов. Доступны варианты в форматах F32, Q8_0, Q5_K и Q4_K; F32 обеспечивает наибольшую точность, а квантованные версии требуют меньше памяти. Q8_0 и Q5_K рекомендуются при повышенных требованиях к близости результатов к исходной модели, тогда как Q4_K может давать небольшое снижение качества. Сильные стороны модели — компактный размер, мультиязычность, возможность локального запуска и широкий выбор квантований. Ограничения включают зависимость качества от уровня квантования и необходимость учитывать совместимость с GGUF- и Ollama-совместимыми runtime; модель предназначена для получения эмбеддингов, а не для генерации текста. Распространяется на условиях лицензии Gemma, без предоставления прав сверх условий лицензии исходной модели.
EmbeddingGemma 300M — открытая модель для получения векторных представлений текста, разработанная Google DeepMind. Она построена на основе Gemma 3 с инициализацией T5Gemma и предназначена для задач семантического поиска и извлечения информации, классификации, кластеризации и вычисления семантического сходства. Модель содержит около 300 млн параметров и ориентирована на локальное использование на мобильных устройствах, ноутбуках и настольных компьютерах. Она принимает текстовые строки длиной до 2048 токенов и возвращает эмбеддинги размерностью 768. Благодаря Matryoshka Representation Learning размерность можно сократить до 512, 256 или 128 с последующей нормализацией. Модель обучалась на данных объёмом около 320 млрд токенов, включая более 100 языков, веб-документы, код, технические материалы и синтетические данные для задач поиска, классификации и анализа тональности. К сильным сторонам относятся небольшой размер, мультиязычность, поддержка широкого спектра сценариев работы с текстовыми эмбеддингами и возможность эффективного развёртывания на устройствах с ограниченными ресурсами. Ограничением является максимальная длина входа 2048 токенов; активации модели не поддерживают float16, поэтому рекомендуется использовать float32 или bfloat16. Веса рассчитаны на применение с Sentence Transformers и реализацией Gemma 3 в Hugging Face Transformers. Модель распространяется по лицензии Gemma; условия использования определяются соответствующими Terms of Use Google.
dangvantuan/french-document-embedding — модель эмбеддингов для длинных текстов и документов на французском и английском языках. Она разработана на основе gte-multilingual и дообучена для получения векторных представлений, подходящих для семантического поиска и систем RAG. Модель содержит 305,3 млн параметров, построена на архитектуре BilingualModel и использует Sentence Transformers; в README указана длина контекста до 8192 токенов, а размер выходного вектора — 786 измерений. Модель предназначена для преобразования документов в нормализованные векторы, которые можно хранить в векторной базе данных и использовать для поиска семантически близких текстов. Поддерживает французский и английский языки. Распространяется по лицензии Apache-2.0.
GenTel-Shield — модель GenTelLab для обнаружения вредоносных и добросовестных запросов, включая атаки внедрения промптов. Она предназначена для классификации запросов в приложениях на базе LLM и оценки защиты от jailbreak-атак, перехвата цели и утечки промпта. Модель основана на XLM-RoBERTa и использует классификационную архитектуру последовательностей; размер составляет 305,2 млн параметров, максимальная длина контекста — 514 токенов. Для обучения применялись размеченные экспертами данные, а также аугментация смысловыми переписываниями и символьными изменениями. Репозиторий содержит формат ONNX. В README сообщается об оценке на Gentel-Bench, где проверялись три указанных типа атак. Модель выдаёт метку класса для входного текста. Карточка не сообщает лицензию, поэтому условия использования по имеющимся сведениям определить нельзя; языковая поддержка также не указана явно, хотя XLM-RoBERTa рассчитана на многоязычный текст. Результаты бенчмарка не гарантируют обнаружение всех новых или намеренно преобразованных атак.
GLM-4.5-Air-REAP-82B-A12B — сжатая версия GLM-4.5-Air от Cerebras, созданная методом REAP (Router-weighted Expert Activation Pruning). Это причинная языковая модель со смешанной экспертной архитектурой MoE: из 128 экспертов удалена четверть, осталось 96, из которых активируются 8 на каждый токен. В модели 82 млрд параметров, при этом на токен активируется около 12 млрд; контекст составляет 131 072 токена. Модель предназначена для генерации текста и кода, работы с агентными сценариями, вызова функций и понимания крупных репозиториев. По данным карточки, она сохраняет производительность, близкую к исходной GLM-4.5-Air, и требует примерно на 25% меньше памяти; дополнительное дообучение после прореживания не проводилось. Для развёртывания README указывает актуальную версию vLLM и поддержку вызова инструментов. Модель распространяется по лицензии MIT. Карточка заявляет близкие к исходной модели результаты, однако приводит подробности оценок отдельно; качество на конкретных задачах и требования к памяти зависят от конфигурации развёртывания.
GLM-5 — большая языковая модель семейства GLM, разработанная zai-org для сложных задач разработки систем и длительных агентных сценариев. Модель предназначена для генерации текста, рассуждений, программирования и взаимодействия с инструментами в диалогах. В README заявлена версия на 744 млрд параметров, из которых 40 млрд активны; репозиторий Hugging Face содержит 30,4 млрд параметров. Эти данные расходятся, поэтому размер конкретной опубликованной сборки нельзя однозначно определить. Архитектура в метаданных обозначена как glm_moe_dsa, формат весов — safetensors, а нативная длина контекста составляет 202 752 токена. Поддерживаются английский и китайский языки. README сообщает об интеграции DeepSeek Sparse Attention для снижения стоимости развёртывания при сохранении длинного контекста, а также о сильных результатах в рассуждениях, программировании и агентных задачах. Модель можно запускать через Transformers и ряд других фреймворков; для использования инструментов описана настройка сервера vLLM. Лицензия — MIT. Указанные в карточке результаты бенчмарков являются заявлениями разработчика; фактическая производительность зависит от сценария и конфигурации.
GLM-5.3 — открытая модель с весами от Z.ai для генерации текста и диалогового взаимодействия. По карточке, она использует ту же базовую модель, что и GLM-5.2, а улучшения получены на этапе постобучения. Модель ориентирована на сложные задачи программирования, длительные агентные сценарии и работу с инструментами; автор отмечает сильные результаты в бенчмарках по написанию кода и поиску уязвимостей. Модель имеет архитектуру GLM MoE DSA и 30,4 млрд параметров; опубликованные веса представлены в формате safetensors FP8. Контекстное окно составляет до 1 048 576 токенов. Карточка указывает английский и китайский языки, а также настройку reasoning_effort с уровнями low, high и max. Для запуска перечислены Transformers, vLLM, SGLang и другие фреймворки. Лицензия указана как other, поэтому условия использования следует уточнить в файлах репозитория. Модель генерирует ответы и код, но приведённые результаты бенчмарков не гарантируют качество на конкретных задачах; сильные возможности в области кибербезопасности требуют ответственного применения.
unsloth/gpt-oss-120b-GGUF — это GGUF-квантизированная версия открытой весовой модели gpt-oss-120b, разработанной OpenAI и подготовленной Unsloth. Модель предназначена для генерации текста, сложного рассуждения, универсальных задач разработки и агентных сценариев, включая вызов функций, веб-браузинг, выполнение Python-кода и Structured Outputs. Модель имеет MoE-архитектуру и 117 млрд параметров, из которых 5,1 млрд активны при обработке токена. Она поддерживает настраиваемый уровень рассуждения — низкий, средний или высокий — и обучена работать только с форматом ответов harmony. GGUF-версии содержат исправления Unsloth; F16-вариант сохраняет исходную точность. Формат GGUF ориентирован на запуск через совместимые инструменты, включая llama.cpp, при этом конкретные характеристики памяти и производительности зависят от выбранного уровня квантизации и оборудования. Сильные стороны модели — высокая способность к рассуждению, агентные возможности, доступность открытых весов, возможность дообучения и гибкая настройка компромисса между качеством и задержкой. Ограничения включают необходимость корректного применения harmony-формата, значительный общий размер модели и потенциальное снижение качества в квантизированных версиях. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое использование без copyleft-ограничений.
unsloth/gpt-oss-20b — открытая по весам языковая модель OpenAI из семейства gpt-oss, представленная в репозитории Unsloth и основанная на openai/gpt-oss-20b. Она предназначена для генерации текста, задач, требующих рассуждений, агентских сценариев и широкого спектра разработческих применений, включая вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель использует архитектуру Mixture-of-Experts с 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Нативная квантование MXFP4 для MoE-слоёв позволяет запускать её примерно в пределах 16 ГБ памяти; модель ориентирована на меньшую задержку, локальное выполнение и специализированные сценарии по сравнению с gpt-oss-120b. Доступны настраиваемые уровни усилий рассуждения — низкий, средний и высокий, а также возможность дообучения. Для корректной работы необходимо использовать формат ответов harmony; применение модели в другом формате может приводить к некорректным результатам. Полная цепочка рассуждений доступна разработчику для отладки и анализа, но не предназначена для показа конечным пользователям. Модель является текстовой, сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Лицензия Apache 2.0 допускает свободное использование, модификацию, дообучение и коммерческое развёртывание с учётом условий лицензии.
Granite-Embedding-30m-Sparse — разреженная модель для построения текстовых представлений, разработанная командой Granite Embedding в IBM. Она основана на энкодерной архитектуре на базе RoBERTa, содержит 33,5 млн параметров и рассчитана на английский язык. Модель кодирует текст в словарь токенов и их весов переменной длины, включая расширения исходных токенов. Представления подходят для семантического поиска, извлечения релевантных документов и сравнения текстов. Модель обучалась с использованием предварительного обучения для задач поиска, контрастивной настройки и дистилляции; в карточке сообщается о конкурентных результатах на тестах BEIR, включая сравнение с более крупной SPLADE-моделью. Её можно применять, например, с Sentence Transformers и Milvus. Контекст ограничен 512 токенами: более длинный текст обрезается. Модель обучена только на английских текстах. Лицензия — Apache 2.0.
Granite-embedding-english-r2 — плотная двунаправленная модель-биэнкодер из семейства Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Она преобразует английские запросы, фрагменты и документы в векторы размером 768 для поиска, извлечения информации и сравнения текстов по косинусному сходству. Модель построена на архитектуре ModernBERT, содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Модель обучалась на открытых наборах пар релевантности с разрешительными лицензиями, а также на данных, собранных и созданных IBM. В обучении использовались retrieval-ориентированное предварительное обучение, контрастивное дообучение, дистилляция и объединение моделей. В README заявлены результаты на тестах поиска по текстам, коду, длинным документам, диалогам и таблицам. Репозиторий предоставляет форматы PyTorch, Safetensors, ONNX, OpenVINO и TensorFlow. Модель предназначена для применения в системах поиска и извлечения информации, включая подбор релевантных документов и построение векторных представлений для последующего сравнения. Она рассчитана только на английский язык; тексты длиннее 8192 токенов будут усечены. Распространяется по лицензии Apache 2.0.
gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.
jina-embeddings-v2-small-en — англоязычная модель эмбеддингов, разработанная Jina AI. Она построена на архитектуре JinaBERT на базе BERT: энкодер предварительно обучен на C4, а затем модель дообучена на наборе Jina AI из более чем 400 миллионов пар предложений и сложных негативных примеров из разных областей. Модель преобразует текст в векторы для поиска по длинным документам, семантического сравнения текстов, ранжирования, рекомендаций и систем RAG. Контекст поддерживает до 8192 токенов благодаря двунаправленному варианту ALiBi; при обучении использовалась длина последовательности 512 токенов. Для получения эмбеддинга предложения или фрагмента текста README рекомендует применять mean pooling. Размер модели — около 32,4 млн параметров по метаданным. Компактный размер обеспечивает быстрое и экономное по памяти получение эмбеддингов. Модель предназначена для английского языка и не является мультиязычной. Для работы через Transformers может потребоваться параметр trust_remote_code=True; модель доступна в форматах PyTorch, Safetensors, ONNX и Core ML. Лицензия — Apache-2.0.
Laguna S 2.1-INT4 — модель компании poolside для агентного программирования и длительных многошаговых задач на локальной машине. Это текстовая text-to-text модель с поддержкой рассуждений, включая чередование размышлений и вызовов инструментов, а также возможность включать и отключать рассуждения для отдельных запросов. Модель использует архитектуру Mixture-of-Experts: 117,6 млрд параметров всего, из которых 8,5 млрд активируются на каждом токене. Она содержит 48 слоёв, 256 экспертов и один общий эксперт; в 36 слоях применяется Sliding Window Attention с окном 512 токенов, а 12 слоёв используют глобальное внимание. Per-head gating, rotary scales для отдельных слоёв и смешанное соотношение локального и глобального внимания рассчитаны на ускорение инференса и снижение требований к KV-кэшу. Контекстное окно составляет 1 048 576 токенов, KV-кэш квантизируется в FP8. Поддерживается только текстовая модальность; языки в README не указаны. К сильным сторонам относятся специализация на разработке ПО, агентных сценариях, работе с инструментами и длинном контексте, а также возможность локального запуска. Квантизированные INT4-веса занимают примерно 72 ГБ; модель поддерживается vLLM, Transformers, Ollama и llama.cpp с оговорёнными ограничениями по форматам и версиям. При использовании контекста максимальной длины возможно снижение качества. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.
LiquidAI/LFM2.5-ColBERT-350M-GGUF — мультиязычная модель извлечения и переранжирования документов, разработанная Liquid AI. Это модель позднего взаимодействия (late interaction retriever) на базе эффективной архитектуры LFM2 с заявленным размером 350 млн параметров. Модель формирует отдельный вектор для каждого токена и сопоставляет запрос с документом с помощью метода MaxSim, что позволяет учитывать локальные совпадения между их фрагментами. Модель предназначена для семантического поиска, переранжирования результатов и интеграции в RAG-конвейеры, включая сценарии, где запросы и документы написаны на разных языках. В карточке заявлена высокая точность для 11 языков: английского, испанского, немецкого, французского, итальянского, португальского, арабского, шведского, норвежского, японского и корейского. Скорость вывода сопоставима с гораздо меньшими моделями, что делает её подходящей для развёртывания на периферийных устройствах и использования через llama.cpp в формате GGUF. Сильными сторонами являются мультиязычная работа, высокая заявленная точность, относительно эффективный inference и возможность заменить существующий retriever в RAG-системе. Ограничения связаны с архитектурой позднего взаимодействия: для документов необходимо хранить последовательность токеновых векторов и вычислять MaxSim, поэтому модель требует иной организации индексов, чем обычные модели с одним вектором на документ. Максимальная длина контекста и другие детальные характеристики в карточке не указаны. Лицензия обозначена как lfm1.0; подробные условия приведены в файле LICENSE.
RedHatAI/Llama-3.3-70B-Instruct-FP8-dynamic — инструкционная текстовая модель семейства Llama 3.3 с 70 млрд параметров, разработанная Red Hat совместно с Neural Magic на базе Meta Llama-3.3-70B-Instruct. Модель принимает текст и генерирует текст, ориентирована на коммерческое и исследовательское использование, включая диалоговые ассистенты, генерацию естественного языка, создание синтетических данных и дистилляцию моделей. Ключевая особенность модели — динамическая FP8-квантизация весов и активаций линейных операторов в трансформерных блоках. Веса квантизуются статически по каналам, а активации — динамически по токенам. Это примерно вдвое снижает требования к памяти GPU и размер модели на диске, а также может примерно вдвое увеличить пропускную способность матричных вычислений. Для эффективного развертывания рекомендуется использовать vLLM; модель валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Ограничения связаны с применением FP8-квантизации, возможными изменениями качества по сравнению с исходной моделью и запретом использования за пределами перечисленных языков, а также в нарушение законодательства, Acceptable Use Policy и условий лицензии. Расширенный контекст в README не указан; в примере развертывания задан максимальный размер последовательности 32768 токенов. Распространяется по лицензии Llama 3.3 Community License.
Llama-3.3-Nemotron-Super-49B-v1.5-GGUF — квантованное представление большой языковой модели NVIDIA, производной от Meta Llama-3.3-70B-Instruct. Модель предназначена для рассуждений, многоходового чата, следования инструкциям, программирования, математических и научных задач, а также для создания RAG-систем, AI-агентов и приложений с вызовом инструментов. Версия GGUF подготовлена Unsloth и включает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Модель представляет собой плотный decoder-only Transformer с архитектурными изменениями, полученными методом Neural Architecture Search: в отдельных блоках внимание пропускается или заменяется линейным слоем, а коэффициент расширения FFN может различаться между блоками. Такой подход уменьшает требования к памяти и повышает эффективность инференса при сохранении качества. Указаны размер 49B параметров, контекст до 128K токенов и поддержка английского языка, включая задачи с кодом. Модель обучалась на данных с отсечкой по 2023 году, поэтому её знания могут быть устаревшими. Сильными сторонами являются сочетание качества рассуждений и эффективности, поддержка агентных сценариев, RAG и tool calling, а также возможность применения в коммерческих проектах. Ограничения включают специализацию преимущественно на английском языке, отсутствие заявленной мультимодальности и зависимость характеристик от конкретного GGUF-кванта и оборудования. Использование регулируется NVIDIA Open Model License, а также дополнительными условиями Llama 3.3 Community License Agreement.
mContriever — многоязычный плотный поисковый энкодер, разработанный исследователями Meta AI. Он предназначен для семантического и межъязыкового поиска: кодирует запросы и документы в векторы, которые можно сопоставлять по сходству. Модель основана на BERT, содержит около 205 млн параметров и принимает текст длиной до 512 токенов. Модель предварительно обучена контрастивным обучением без размеченных пар на корпусе CCNet на 29 языках. Она подходит для извлечения релевантных документов и фрагментов, в том числе когда запрос и найденный материал написаны на разных языках. Это энкодер для поиска, а не генеративная модель ответов; карточка Hugging Face не содержит описания лицензии, поэтому условия использования следует проверять в репозитории разработчика.
Merino-Large-v2 — модель поиска по тексту от BAA AI (Black Sheep AI), объединяющая создание эмбеддингов и переранжирование результатов для RAG. Биэнкодер выдаёт L2-нормализованные векторы размерностью 1024; для запросов рекомендуется добавлять префикс «query: ». Кросс-энкодер оценивает релевантность пары «запрос — документ» одним числом. Обе части используют основу xlm-roberta-large и общую таблицу входных эмбеддингов, что уменьшает размер загрузки. Заявлена поддержка нескольких языков и около 872 млн параметров. Модель подходит для семантического поиска и уточнения порядка найденных фрагментов. В карточке отмечена хорошая пригодность для корпусов с тематически связанными документами; для разнородных многофактных документов рекомендуется делить текст на небольшие фрагменты с одним утверждением. Указана сертифицированная 4-битная квантизация без измеримой потери качества в описанном тесте с отвлекающими документами. Лицензия обозначена как other; конкретные условия использования в карточке не раскрыты.
Merino-Mini-v2 — модель для поиска и ранжирования документов в RAG-системах, разработанная BAA AI (Black Sheep AI). Она объединяет bi-encoder для получения 384-мерных L2-нормализованных эмбеддингов и cross-encoder для оценки релевантности пары «запрос — документ» одним числом. Обе части используют общую таблицу эмбеддингов и основаны на MiniLM-L6-H384-uncased; всего модель содержит около 44 млн параметров. README описывает её как англоязычную. Модель предназначена для векторного поиска кандидатов и последующего уточнения их порядка cross-encoder-ранжированием. Для компактной модели автор рекомендует разбивать материалы на атомарные фрагменты по одному утверждению, ставить ключевую сущность в начало и возвращать родительский раздел для контекста. Авторы сообщают о сертификации 4-битной квантизации как не уступающей fp16 в описанном тесте с отвлекающими документами; это заявление относится к указанному испытанию. Лицензия в метаданных обозначена как other, конкретные условия использования не приведены.
opendatalab разработала эту модель для оценки структурной чистоты текста в рамках метода Meta-rater. Это дообученная ModernBERT-base с 149 млн параметров, реализованная как ModernBertForSequenceClassification. Модель присваивает тексту непрерывную оценку от 0 до 5: чем выше балл, тем лучше форматирование, полнота и отсутствие шума. Модель подходит для фильтрации результатов веб-скрейпинга, очистки наборов данных, отбора текстов для предобучения языковых моделей и автоматической проверки качества документов. Она оценивает структурные свойства, например артефакты извлечения, обрывки предложений, повреждённые символы, избыток ссылок и рекламы; смысл, тематику, стиль и грамматическую сложность не оценивает. В README приведены показатели 87,88% F1 и 92,25% accuracy. Модель принимает текст и выдаёт оценку качества. В README заявлено контекстное окно 4096 токенов, а метаданные указывают нативный контекст до 8192 токенов. Она рассчитана преимущественно на английский текст; качество на технических форматах, коде и математической записи может меняться. Лицензия — MIT.
mmBERT-32K Jailbreak Detector (Merged) — модель классификации текста для выявления jailbreak-запросов и prompt injection. Она создана на базе llm-semantic-router/mmbert-32k-yarn и дообучена с помощью LoRA; веса адаптера объединены с базовой моделью. Архитектура — ModernBERT, около 306,9 млн параметров, контекст — до 32 768 токенов. Репозиторий содержит форматы ONNX и Safetensors. Модель присваивает тексту одну из двух меток: benign или jailbreak. Её можно применять для проверки пользовательских запросов перед передачей их языковой модели, включая поиск коротких шаблонов атак и prompt injection. В карточке указаны accuracy 98,16%, F1 98,15%, precision 98,36% и recall 97,95%; эти показатели относятся к валидации и зависят от данных и условий оценки. В качестве обучающих наборов указаны LMSYS ToxicChat и OpenSafetyLab Salad-Data; языковой тег карточки — английский. Модель распространяется по лицензии Apache-2.0. Она предназначена для классификации текста по двум меткам; показатели на карточке не гарантируют обнаружение всех атак или отсутствие ложных срабатываний в других сценариях.
Карточка модели adamezzaim/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.
Карточка модели LimitlessMindd/Muse-Glimmer-30B на Hugging Face совпадает с карточкой meta-models/Muse-Glimmer-30B, поэтому описание составлено по ней. Muse Glimmer — модель Meta Superintelligence Lab с плотным причинным трансформером и отдельным энкодером восприятия. Это мультимодальная модель на 29,6 млрд параметров, дистиллированная из Muse Spark и опубликованная по лицензии Apache 2.0. Она предназначена для локального запуска на потребительском оборудовании и поддерживает диалог с изображениями. Модель рассчитана на многошаговые агентные сценарии: планирование, вызов инструментов, восстановление после ошибок и выполнение длительных задач. Её также можно применять для разработки кода, анализа скриншотов, диаграмм и документов, генерации синтетических данных и оценки ответов других моделей. В README заявлены результаты на бенчмарках агентного выполнения, включая SWE-Bench, DeepSearch QA и MCP-Atlas. Модель может ошибаться в рассуждениях, особенно в новых сценариях, и выдавать неточные, предвзятые или нежелательные ответы. Поддержки аудио нет; видео явно не оптимизировано и обрабатывается как отдельные кадры. Качество может снижаться для языков, на которых модель недостаточно оценивалась. Для агентных приложений разработчик рекомендует дополнительные меры защиты и проверки.
OrcaDB/mxbai-large — текстовая модель эмбеддингов предложений из семейства Mixedbread mxbai-embed-large-v1. Она преобразует предложения и фрагменты текста в векторы для поиска, сравнения семантической близости и других задач векторного поиска. Архитектура — плотная модель на базе BERT с 433,9 млн параметров и контекстом до 512 токенов. Модель рассчитана прежде всего на англоязычный текст. Для поисковых запросов при retrieval следует добавлять префикс «Represent this sentence for searching relevant passages:»; для остальных входов специальный префикс не требуется. Поддерживаются Matryoshka Representation Learning и бинарное квантование, позволяющие сокращать размерность и объём хранения эмбеддингов. README сообщает о сильных результатах на MTEB для моделей размера BERT-large. Модель опубликована по лицензии Apache-2.0. Карточка отмечает, что у версии есть ограничения, которые планировалось устранить в v2, но конкретные ограничения не перечисляет.
Nemotron-3-Embed-1B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA для семантического поиска, извлечения релевантных фрагментов и RAG. Она преобразует текстовые запросы и документы в плотные векторы, подходящие для сравнения по сходству; модель предназначена, в частности, для построения многоязычных систем вопросов и ответов по большим корпусам текстов. Модель основана на архитектуре Transformer и происходит от Ministral-3-3B-Instruct-2512. После структурного прореживания и дистилляции она содержит около 1,14 млрд параметров. Для каждого текста формируется вектор размерности 2048; поддерживается использование укороченных векторов с повторной L2-нормализацией. README указывает максимальную длину последовательности 32768 токенов. Метаданные описывают модель как дообучение базовой Ministral и указывают контекстное окно 262144 токена; эти значения относятся к разным заявленным характеристикам, поэтому при обработке длинных текстов следует учитывать ограничение README. Модель рассчитана на поиск и сходство текста на 34 языках, включая русский, английский, китайский, арабский и другие. NVIDIA сообщает о сильных результатах на мультиязычных бенчмарках извлечения информации. Модель выдаёт эмбеддинги, а не готовые ответы; качество поиска зависит также от подготовки корпуса, разбиения документов и настройки системы. Для коммерческого использования указана лицензия OpenMDW-1.1; базовая модель Ministral-3-3B-Instruct-2512 выпущена под Apache 2.0.
sentence-transformers/nli-mpnet-base-v2 — модель эмбеддингов, обученная командой Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 на основе архитектуры MPNet с 136,7 млн параметров. Модель предназначена для поиска по смыслу, сравнения предложений и кластеризации текстов; доступна через библиотеку Sentence-Transformers и поддерживает форматы PyTorch, TensorFlow, ONNX и OpenVINO. Модель принимает текст и выдаёт векторные представления. Её контекстное окно составляет 514 токенов. Лицензия Apache-2.0 разрешает свободное использование с соблюдением её условий.
Модель shahidha/paraphrase-multilingual-MiniLM-L12-v2 — дообученная модель эмбеддингов предложений на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, экспортированная в формат ONNX с квантизацией INT8. Она использует архитектуру MiniLM-L12 на базе BERT, содержит 124,3 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Для выполнения требуется ONNX Runtime; модель ориентирована на быстрый локальный запуск на мобильных и периферийных устройствах. Модель преобразует запросы и документы в плотные векторы для семантического поиска, поиска ответов, сопоставления FAQ, индексации векторных баз и retrieval-компонентов RAG-систем. В README указано дообучение на пользовательском наборе пар «запрос—ответ»; приведённые метрики Recall@1 96,39%, Recall@5 99,51% и MRR 97,69% относятся к тестовому набору авторов и не гарантируют такие же результаты на других данных. Карточка указывает поддержку многоязычной обработки, а метаданные содержат язык en. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги и не генерирует текстовые ответы. Качество поиска зависит от близости данных применения к обучающей выборке и может различаться между предметными областями и языками.
PII Redactor small — мультиязычная модель Horizon Labs для обнаружения и разметки персональных данных и секретов в тексте перед передачей содержимого в журналы, запросы к LLM, обучающие наборы или внешние API. Это дообученная модель token classification на основе jhu-clsp/mmBERT-small с архитектурой ModernBERT и 140,5 млн параметров; она размечает 29 типов сущностей, включая имена, контакты, адреса, идентификаторы, финансовые данные, пароли и API-ключи. Модель принимает текст и выдаёт метки токенов; для маскирования их можно подключить к Presidio или LLM Guard. README заявляет поддержку более 30 языков, а метаданные перечисляют языковые теги, в том числе английский, немецкий, французский, русский, китайский, японский и другие. Контекст модели — 8192 токена; доступны форматы safetensors и ONNX, а README также отмечает использование через transformers.js в браузере и на периферийных устройствах. По опубликованной оценке модель не лидирует на всех бенчмарках: на реальных и необычно оформленных документах полнота может быть ниже, даты могут размечаться избыточно, а квазиидентификаторы не гарантируют анонимность. Лицензия — Apache-2.0.