II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейКарточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240209145252-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.
Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240210215734-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.
Карточка модели avsolatorio/01-100-11-2-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240214001106-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.
Карточка модели avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207015601-latest на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.
Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240412205533-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240415163943-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-3-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240423213707-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-3-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424001745-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-3-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424001745-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-4-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424004605-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-4-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424004605-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
BAAI/bge-m3 — многоязычная модель эмбеддингов семейства XLM-RoBERTa, разработанная BAAI и представленная в репозитории Bylaw/BAAI-bge-m3. Она предназначена для поиска по смыслу и извлечения документов, включая многоязычный и межъязыковой поиск, а также поиск по длинным текстам. Модель формирует плотные эмбеддинги, разреженные лексические веса и многовекторные представления ColBERT; эти представления можно использовать отдельно или объединять в гибридном поиске и RAG-конвейерах. Модель имеет 658,7 млн параметров, размерность эмбеддинга 1024 и контекст до 8194 токенов. README заявляет поддержку более 100 языков и указывает, что модель можно применять к коротким предложениям и длинным документам. В карточке также заявлены форматы PyTorch и Safetensors, а лицензия — MIT. BGE-M3 удобна тем, что объединяет несколько подходов к поиску и поддерживает длинный контекст. По README, для задач на одном языке специализированные одноязычные модели могут показывать лучшие результаты; поддержка разреженного поиска также зависит от используемой библиотеки. Для повышения точности авторы рекомендуют сочетать гибридный поиск с отдельной моделью-реранкером.
Это кросс-энкодерный реранкер семейства BGE, опубликованный пользователем onzi-suba и основанный на BAAI/bge-reranker-base. Модель оценивает релевантность пары «запрос — документ» и помогает упорядочить результаты поиска; она предназначена, в частности, для повышения качества поиска в RAG-системах. В метаданных указаны архитектура XLM-RoBERTa для классификации последовательностей, около 305,2 млн параметров и контекст до 514 токенов. Исходная модель BGE Reranker Base рассчитана на английский и китайский языки; она выдаёт оценку релевантности вместо эмбеддинга. Поиск и метаданные не подтверждают отдельную лицензию или условия использования именно этой копии.
devndeploy разработал мультиязычный детектор внедрения промптов, дообучив BERT на основе bert-base-multilingual-cased для классификации текстов на обычные и содержащие prompt injection. Модель имеет 205,1 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт метку класса с оценкой уверенности. Она рассчитана на английский, немецкий, испанский, французский, китайский, вьетнамский, японский, корейский, арабский, русский и португальский языки. Модель предназначена для защитного сканирования запросов в чат-ботах, модерации содержимого и обнаружения состязательных инструкций. В карточке указаны accuracy 96,47%, precision 99,20% и recall 93,94%; эти показатели относятся к описанной оценке и не гарантируют такие же результаты на новых данных. Лицензия — MIT, формат весов — safetensors. Детектор может пропускать новые способы внедрения инструкций, а качество различается между языками. Авторы рекомендуют применять его как один из уровней многоуровневой защиты.
RishabJ/bge-m3-dim-384 — вариант мультиязычной модели эмбеддингов BGE-M3, опубликованный пользователем RishabJ. Основан на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и рассчитан на последовательности длиной до 8194 токенов. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Модель предназначена для поиска по смыслу, извлечения документов и построения RAG-систем. Семейство BGE-M3 поддерживает плотный поиск, разреженные лексические веса и многовекторное представление ColBERT, что позволяет строить гибридный поиск и обрабатывать как короткие фразы, так и длинные документы. README указывает поддержку более 100 языков; этот репозиторий имеет уменьшенную размерность эмбеддингов 384. Модель полезна для многоязычного семантического и гибридного поиска, а также для оценки сходства предложений. Для повышения точности поиска README рекомендует применять отдельный реранкер после извлечения кандидатов. Доступна по лицензии MIT.
mlx-community преобразовала BAAI/bge-m3 в формат MLX с точностью FP16 для инференса на компьютерах Apple Silicon. Это модель эмбеддингов на архитектуре XLM-RoBERTa с 658,7 млн параметров, размерностью векторов 1024 и контекстом до 8194 токенов. Она поддерживает плотный, разреженный и многовекторный поиск, включая подход ColBERT, и подходит для семантического и гибридного поиска по многоязычным текстам и документам. Модель рассчитана на создание векторных представлений для поиска, сопоставления и ранжирования текстов; карточка описывает генерацию эмбеддингов с помощью MLX, а также совместимость с oMLX embedding endpoint. Указаны английский, китайский, немецкий, испанский, французский, итальянский, японский, корейский, португальский и русский языки. Конверсия неофициальная; лицензия — MIT. README подтверждает формат FP16 и назначение для Apple Silicon, а метаданные перечисляют safetensors как формат файлов.
Elephant Embeddings V1 Text Small — многоязычная модель текстовых эмбеддингов от Agentic Intelligence Lab, предназначенная для семантического поиска и сопоставления в агентных системах. Это дообученный энкодер ModernBERT на базе llm-semantic-router/mmbert-32k-yarn с 306,9 млн параметров и контекстом до 32 768 токенов. Модель формирует векторы размерностью 768 и поддерживает обучение Matryoshka, позволяющее использовать сокращённые представления размерностью 512, 256, 128 или 64. Модель подходит для поиска по базе знаний и RAG, извлечения записей памяти агентов, сопоставления запросов с инструментами и маршрутами, а также для кластеризации и удаления дубликатов. README приводит оценки MTEB mean 61,4 и STS Benchmark 80,5 и сообщает о сохранении 99% качества при 256 измерениях и 98% при 64 измерениях. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. Сокращение векторов или слоёв ускоряет обработку и уменьшает расходы на хранение, но может ухудшить качество; для важных финальных этапов поиска README рекомендует полные 768 измерений. Длинные входы увеличивают затраты памяти и вычислений. Модель предназначена для получения эмбеддингов и семантического сопоставления, а не для генерации текста.
jina-embeddings-v5-text-small-retrieval-GGUF — мультиязычная модель для построения текстовых эмбеддингов, разработанная Jina AI. Это GGUF-квантизированная версия модели jina-embeddings-v5-text-small-retrieval, предназначенная прежде всего для задач информационного поиска и семантического retrieval: сопоставления запросов с документами, поиска по базам знаний и построения систем с векторным поиском и RAG. Модель содержит 677 млн параметров, использует архитектуру на базе jina-embeddings-v5-text-small, стратегию pooling по последнему токену и формирует эмбеддинги размерностью 1024. Поддерживаются мультиязычные тексты, а также Matryoshka-размерности 32, 64, 128, 256, 512, 768 и 1024, что позволяет выбирать компромисс между качеством и требованиями к хранилищу или вычислениям. Формат GGUF ориентирован на эффективный локальный запуск через llama.cpp; для корректного использования требуется режим pooling last. Сильными сторонами являются специализация на retrieval, мультиязычность, возможность уменьшать размер эмбеддингов и эффективный inference в экосистеме llama.cpp. Ограничения включают целевую ориентацию на retrieval, поэтому модель может быть не оптимальна для других задач эмбеддингов без дополнительной проверки, а также необходимость учитывать особенности GGUF-версии и совместимость сборки llama.cpp. Модель распространяется по лицензии CC-BY-NC-4.0, которая не разрешает коммерческое использование без согласования с Jina AI.
Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.
Llama-Karmx-Indic-Embedding-bge-m3 — модель эмбеддингов, разработанная Karmx на основе BAAI/bge-m3 и дообученная для поиска по текстам на десяти языках Индии. Она создаёт нормализованные плотные векторы размерностью 1024 для семантического поиска и систем RAG; в Sentence Transformers её можно использовать как замену bge-m3. Модель принимает текст и выдаёт векторные представления. Для неё доступны форматы safetensors и ONNX, включая вариант int8; заявлена совместимость с Sentence Transformers и ONNX Runtime. По результатам README, модель показала более высокие значения nDCG@10, чем исходная bge-m3, на наборах IndicQARetrieval и Belebele для всех десяти указанных языков. Обучение включало дистилляцию ранжирования от BAAI/bge-reranker-v2-m3 и полное дообучение bge-m3 на данных Indic-Rag-Suite и MIRACL. Лицензия — MIT. Модель предназначена для семантического поиска и извлечения релевантных фрагментов в RAG. Она поддерживает хинди, бенгальский, тамильский, телугу, маратхи, гуджарати, каннада, малаялам, пенджаби и одия. Контекст архитектуры — до 8194 токенов, однако в README указан предел 512 токенов для настройки по умолчанию и оценки.
Карточка модели hipocap/Llama-Prompt-Guard-2-22M на Hugging Face совпадает с карточкой meta-llama/Llama-Prompt-Guard-2-86M, поэтому описание составлено по ней. Llama Prompt Guard 2 86M — классификатор Meta для обнаружения атак на LLM: prompt injection и jailbreak. Модель помечает запрос как вредоносный, если он явно пытается переопределить предыдущие инструкции; результат не оценивает, насколько атака опасна или успешна. Классификатор основан на mDeBERTa-base, содержит 86 млн параметров и предназначен для интеграции в приложения на базе Transformers. Модель принимает текст и выдаёт метку «benign» или «malicious». Контекст ограничен 512 токенами; длинные входы рекомендуется разбивать на сегменты и проверять параллельно. Модель обучена выявлять атаки на английском и других языках, а оценивалась на английском, французском, немецком, хинди, итальянском, португальском, испанском и тайском. Токенизация адаптирована для устойчивости к манипуляциям пробелами и фрагментацией токенов. Prompt Guard 2 улучшает точность обнаружения по сравнению с предыдущей версией, однако может пропускать адаптивные атаки, а качество зависит от распределения запросов в конкретном приложении. Для прикладных сценариев Meta рекомендует дообучение на соответствующих данных. В метаданных лицензия указана как other; README описывает модель как инструмент с открытым исходным кодом, но не уточняет конкретные условия лицензии.
Llama Prompt Guard 2 22M — классификатор Meta для выявления атак на LLM: попыток внедрения промпта и обхода защитных инструкций (jailbreak). Модель на 22 млн параметров основана на DeBERTa-xsmall и предназначена для проверки пользовательских запросов и недоверенных данных перед их передачей LLM. Она относит входы к классам «benign» и «malicious», оценивая намерение переопределить инструкции, а не потенциальный вред содержимого или вероятность успешной атаки. Модель использует контекст до 512 токенов; более длинные тексты рекомендуется проверять сегментами. Токенизация доработана для устойчивости к манипуляциям пробелами и фрагментацией токенов. Версия 22M рассчитана на более низкие задержки и затраты вычислений, но уступает 86M на многоязычных данных. Модель оценивалась для английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков. Лицензия указана как other; конкретные условия следует сверить с карточкой модели.
nreimers/MiniLM-L3-H384-uncased — компактная текстовая модель семейства MiniLM, созданная Нильсом Реймерсом на основе microsoft/MiniLM-L12-H384-uncased. Это версия с тремя слоями: в ней сохранены слои 3, 7 и 11 исходной 12-слойной модели. Модель имеет архитектуру BERT и содержит 18,8 млн параметров. Модель предназначена для извлечения признаковых представлений текста, которые можно использовать в прикладных системах поиска и анализа текста. Она принимает текст, выдаёт векторные представления и рассчитана на контекст до 512 токенов. Веса доступны в формате PyTorch; лицензия — MIT.
Карточка модели emilecornamusaz/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-large-en-v1.5, поэтому описание составлено по ней. BAAI/bge-large-en-v1.5 — англоязычная модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI) для поиска и сравнения текстов. Она преобразует текст в векторы, пригодные для семантического поиска, извлечения документов и построения систем с дополненной генерацией (RAG). Версия v1.5 улучшает retrieval и делает модель менее зависимой от инструкций для запросов по сравнению с предыдущей версией. Модель основана на архитектуре BERT и содержит 433,9 млн параметров. Она принимает текстовые входы на английском языке, имеет контекстное окно до 512 токенов и доступна в форматах PyTorch, Safetensors и ONNX. Для поиска можно сначала получить кандидатов с помощью эмбеддингов, а затем повысить точность ранжирования отдельной моделью BGE Reranker. Модель подходит для семантического поиска и сходства предложений. README предупреждает, что абсолютные значения сходства не следует трактовать как универсальную шкалу: из-за особенностей обучения оценки могут быть выше 0,5 даже для несхожих предложений. Лицензия — MIT.
Карточка модели jiwonyou0420/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Valiant Labs разработала Esper 4 — дообученную мультимодальную модель на базе Muse-Glimmer-30B для программирования, проектирования систем и задач DevOps и MLOps. Модель рассчитана на работу как чат- и кодовый помощник, в том числе в агентных сценариях и при разработке, развёртывании и эксплуатации ИИ-систем. Архитектура — плотная Muse Glimmer; модель принимает текст и изображения и выдаёт текст. В метаданных указан английский язык, поддержка зрения и формат весов safetensors. README описывает обучение на сложных примерах для DevOps, архитектуры, программирования и разработки ИИ, включая данные, созданные с помощью DeepSeek-V4-Pro. Модель распространяется по лицензии Apache-2.0. Заявления о запуске на настольных и мобильных устройствах приведены в README, но фактические требования к памяти и производительность не уточнены; также не указана длина контекста.
Nemotron-3-Embed-8B-BF16 — текстовая модель эмбеддингов, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она кодирует текст в плотные векторы размерностью 4096 для семантического поиска, сопоставления предложений и извлечения фрагментов в системах RAG. Модель рассчитана на многоязычный и межъязыковой поиск; её оценивали на 34 языках. Архитектура — трансформерный энкодер с двунаправленным вниманием и усреднением токенных представлений. Размер модели — около 8 млрд параметров. В README указана максимальная длина последовательности 32 768 токенов; метаданные также приводят контекст 262 144 токена, поэтому при практическом использовании следует учитывать ограничение конкретной конфигурации и способа запуска. Модель принимает текст и выдаёт векторные представления, поддерживает динамическое сокращение размерности с последующей L2-нормализацией. Предназначена для многоязычного семантического поиска, поиска по большим корпусам и RAG-сценариев, включая ответы на вопросы по документам. Для запуска NVIDIA указывает PyTorch и vLLM, а для BF16-чекпойнта — Transformers 5.2.0 или новее; оптимизация ориентирована на GPU NVIDIA. Модель готова к коммерческому использованию по лицензии OpenMDW-1.1; базовая модель Ministral-3-8B-Instruct-2512 выпущена под Apache 2.0.
Nemotron-3-Embed-8B-BF16 — мультиязычная модель эмбеддингов текста, разработанная NVIDIA на основе Ministral-3-8B-Instruct-2512. Она преобразует текст в плотные векторы размерности 4096 для поиска по сходству, семантического поиска, межъязыкового поиска и систем RAG. Модель содержит около 8 млрд параметров; в README указаны архитектура Transformer с двунаправленным маскированием внимания и усреднением выходов токенов. Метаданные указывают семейство Ministral 3 и контекстное окно 262144 токена, тогда как README рекомендует ограничивать вход 32768 токенами и разбивать или обрезать более длинные тексты. Модель рассчитана на текстовые корпуса и многоязычные сценарии поиска, включая поиск вопросов и документов на разных языках. README сообщает об оценке на 34 языках и о результатах на мультиязычном бенчмарке RTEB; также поддерживается получение укороченных векторов с последующей L2-нормализацией. Для запуска примеров требуются совместимые версии Transformers, CUDA и PyTorch; заявлена оптимизация для систем с GPU NVIDIA. Указанная лицензия модели — OpenMDW-1.1; базовая модель выпущена под Apache 2.0.
nomic-embed-text-v2-moe-GGUF — квантизированная версия модели nomic-embed-text-v2-moe, разработанная Nomic и представленная в работе о разреженных Mixture of Experts моделях для текстовых эмбеддингов. Модель предназначена для преобразования текстов в векторные представления, которые можно использовать для семантического поиска, сравнения предложений, кластеризации, извлечения признаков и построения RAG-приложений. Это мультиязычная текстовая embedding-модель на архитектуре Sparse Mixture of Experts. В репозитории доступны варианты GGUF с точностью от FP32 и FP16/BF16 до квантизаций Q8_0, Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; размеры файлов составляют примерно от 326 до 1820 MiB. Поддерживается широкий набор языков, включая английский, русский, китайский, японский, арабский, украинский, французский, немецкий и многие другие. Размер контекста и размерность эмбеддингов в README не указаны. Модель совместима с llama.cpp и может запускаться через llama-server с OpenAI-совместимым API эмбеддингов, что облегчает локальное развертывание. Для корректного использования необходимо добавлять к текстам специальные префиксы задач, например search_document для документов и search_query для запросов. Квантизация уменьшает требования к памяти, но может влиять на качество представлений; README рекомендует варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M в зависимости от требуемого баланса качества и размера. Модель распространяется по лицензии Apache-2.0.
NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — опубликованная NVIDIA полноточная версия разговорной языковой модели, представленная на Hugging Face в виде GGUF BF16. Она предназначена прежде всего для разработчиков, которым нужны исходные веса для дообучения, адаптации к предметной области, исследований и подготовки собственных квантованных вариантов. Модель использует гибридную архитектуру Mixture-of-Experts с чередующимися слоями Mamba-2 и MoE, отдельными слоями Attention и механизмом Multi-Token Prediction; всего в ней 30 млрд параметров, из которых активно используются 3 млрд. Модель подходит для диалога, рассуждений, следования инструкциям, задач с кодом и работы в агентных системах. Контекст достигает 1 млн токенов на подходящем оборудовании; на одной H100 в README приведена проверка до 256 тыс. токенов из-за ограничений памяти. Основные языки — английский и языки программирования; также поддерживаются испанский, французский, немецкий, итальянский, японский и китайский. README указывает, что модель готова к коммерческому применению, однако метаданные Hugging Face обозначают лицензию как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.