II.10Разработка и эксплуатация AI/ML-систем

latam-gpt/Wayra-Perplexity-Estimator-55M — модель WayraPPL, разработанная проектом latam-gpt для быстрой оценки perplexity текстов. Она предназначена для высокопроизводительной проверки качества данных, очистки больших датасетов, выявления потенциально загрязнённых данных, семантической фильтрации, ранжирования примеров для curriculum learning и автоматизированных MLOps-процессов. Модель поддерживает испанский, португальский и английский языки. Модель содержит 55 млн параметров и использует GPT2-based Transformer blocks с perplexity heads; её базой указана дистилляция из meta-llama/Llama-3.2-1B. Максимальная длина последовательности составляет 512 токенов. Основная версия представляет собой оптимизированный под NVIDIA A100 TensorRT engine с FP16, поддерживает batch size до 2048, использует около 2 ГБ памяти и заявляет пропускную способность свыше 50 000 образцов в секунду при задержке менее 1 мс. Также доступна стандартная версия на PyTorch с FP32. Сильные стороны модели — высокая скорость инференса, малый объём памяти и пригодность для массовой обработки текстов в производственных конвейерах. Ограничения включают зависимость TensorRT-версии от NVIDIA A100, CUDA 12.8 или новее, TensorRT 10.13.x и совместимого драйвера, а также ограничение длины входа 512 токенами. Модель распространяется по лицензии Apache-2.0.

optimum-intel-internal-testing/bge-small-en-v1.5 — это англоязычная модель векторного представления текста из семейства BGE, разработанного Beijing Academy of Artificial Intelligence (BAAI); репозиторий с указанным идентификатором является зеркалом BAAI/bge-small-en-v1.5. Модель предназначена для feature extraction и dense retrieval: построения эмбеддингов предложений и документов, семантического поиска, сравнения сходства текстов, кластеризации и использования в системах retrieval-augmented generation. Модель основана на BERT-подобной архитектуре, содержит около 33,4 млн параметров, формирует эмбеддинги размерности 384 и поддерживает последовательности длиной до 512 токенов. Она работает с английским текстом, поддерживает PyTorch, Transformers, Sentence-Transformers и ONNX. Версия v1.5 улучшает распределение оценок сходства и сохраняет эффективную работу без обязательной инструкции для запроса; для поиска коротких запросов по длинным документам разработчик рекомендует добавлять инструкцию к запросу, но не к документам. Сильные стороны модели — небольшой размер, сравнительно низкие требования к вычислительным ресурсам, удобство локального развертывания и конкурентные результаты для модели малого масштаба на MTEB. Ограничения — поддержка только английского языка, ограничение контекста 512 токенами и то, что модель создаёт эмбеддинги, а не генерирует текст; для наиболее точного переранжирования результатов разработчик рекомендует отдельную cross-encoder-модель BGE Reranker. Указана лицензия MIT, допускающая коммерческое использование без платы.

Карточка модели eyes-ml/granite-guardian-4.1-8b на Hugging Face совпадает с карточкой ibm-granite/granite-guardian-4.1-8b, поэтому описание составлено по ней. Granite Guardian 4.1 8B — специализированная модель IBM Research для проверки того, соответствуют ли запросы и ответы LLM заданным критериям. Это плотная причинно-языковая модель на 8,4 млрд параметров, дообученная на базе ibm-granite/granite-4.1-8b; она принимает текст и выдаёт бинарное суждение «да» или «нет». Контекстное окно составляет 131 072 токена. Модель выявляет попытки обхода защитных механизмов, ненормативную лексику и галлюцинации, связанные с вызовом инструментов и ответами на основе поиска (RAG). С помощью режима Bring Your Own Criteria можно задавать собственные проверки, например требования к длине, формату или содержанию ответа. Поддерживаются режим с подробными рассуждениями и режим с быстрым выводом только оценки. Модель также подходит для ранжирования вариантов ответа при выборе лучшего из нескольких. Карточка сообщает о обучении на данных с человеческой разметкой и синтетических данных, созданных с учётом внутреннего red teaming. Основной язык в метаданных — английский. Лицензия Apache 2.0. Разработчик рекомендует использовать модель в предусмотренном формате оценивания; при отклонении от него возможны неожиданные ответы, а модель может быть уязвима к состязательным атакам.

Lunaris Guard v0.2 — мультиязычный классификатор текста от auren-research для проверки защитных механизмов в чатах, RAG-системах и агентных конвейерах. Он основан на ModernBERT-base с 149 млн параметров и использует общий encoder и две независимые классификационные головы: одна оценивает вероятность prompt injection и jailbreak, другая — небезопасного содержимого и шаблонов утечки чувствительных данных. За один проход модель возвращает два бинарных результата; контекст составляет до 2048 токенов. Модель предназначена для предварительной проверки пользовательских запросов, полученных фрагментов и входов инструментов, а также для пакетного аудита журналов диалогов. В тестах на отложенной выборке F1 составил 0,964 для обнаружения инъекций и 0,877 для оценки безопасности. Поддерживается несколько десятков языков, но качество зависит от языка: для польского, турецкого, украинского, португальского и индонезийского авторы рекомендуют дополнительную проверку. Модель не генерирует и не переписывает текст, не анализирует изображения или аудио и не заменяет полноценную проверку безопасности. Доступна по лицензии Apache-2.0.

Opir-multitask-large-v1.0 — англоязычный классификатор безопасности от Knowledgator на базе GLiClass. Это encoder-модель для фильтрации текста в системах с LLM: она оценивает текст относительно заданных при запуске меток и поддерживает бинарную классификацию safe/unsafe, выявление токсичности, jailbreak-атак и prompt injection, а также категоризацию вредоносного содержимого по иерархической таксономии из 996 меток. Модель предназначена для проверки входящих запросов и ответов LLM, направления рискованных случаев в дополнительные защитные механизмы или на проверку человеком, а также для офлайн-анализа результатов red team и журналов модерации. Метки можно адаптировать под собственную политику. В сравнительном тесте авторов задержка составила 25,65 мс на p50 и 26,09 мс на p95 при длине 1024 токена. Классификатор возвращает оценки риска, а не окончательные решения по политике. Он может пропускать новые или обфусцированные атаки и вред, не отражённый в кандидатных метках; пороги следует калибровать на целевом трафике, а результаты дополнять правилами, мониторингом и эскалацией. Английский — основной язык модели. Лицензия — Apache-2.0.

Opir-multitask-multilang-v1.0 — многоязычная модель Knowledgator для классификации безопасности текста на базе энкодерной архитектуры GLiClass. Она оценивает текст вместе с переданными при запросе метками и подходит для двоичной классификации «безопасно/небезопасно», обнаружения токсичности, jailbreak и prompt injection, а также категоризации вредоносного контента по иерархической таксономии из 996 меток. Модель предназначена для фильтрации пользовательских запросов до их передачи LLM, проверки ответов перед показом пользователю, маршрутизации потенциально опасного контента на дополнительные проверки и анализа результатов red-team-тестов. Поддерживает 23 языка; метки для классификации могут задаваться на английском даже при вводе на другом языке. В README указана задержка 13,30 мс на 50-м перцентиле и 14,03 мс на 95-м перцентиле при длине 1024 токена в условиях бенчмарка. Модель выдаёт оценки риска, а не формальные решения по политике. Она может пропускать новые или обфусцированные атаки, а качество зависит от выбранных меток, порогов, языка и формата текста; переведённые данные могут хуже отражать особенности отдельных языков и культур. Для эксплуатации рекомендуется калибровать пороги и сочетать классификатор с правилами, мониторингом и эскалацией. Лицензия — Apache-2.0.

all-MiniLM-L12-v2 — модель Sentence Transformers, разработанная в рамках проекта Hugging Face по обучению моделей эмбеддингов предложений на больших наборах парных данных. Это дообученная версия microsoft/MiniLM-L12-H384-uncased: компактная BERT-архитектура примерно с 40 млн параметров, которая кодирует предложения и короткие абзацы в плотные векторы размерности 384. Модель предназначена для поиска по смыслу, оценки сходства предложений и кластеризации текстов. Её можно применять для получения векторных представлений документов и запросов; для текстов длиннее 256 WordPiece-токенов вход усекается. Данные обучения охватывают широкий спектр текстовых пар, но карточка описывает модель как англоязычную. Доступны веса и конвертированные варианты в форматах PyTorch, Safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0. Это текстовый энкодер: он выдаёт эмбеддинги, а не готовые ответы или сгенерированный текст.

Это поддерживаемая mainbrains копия all-MiniLM-L6-v2 — компактного текстового энкодера Sentence-Transformers на архитектуре BERT/MiniLM. Модель дообучена контрастивным методом на более чем миллиарде пар предложений на базе nreimers/MiniLM-L6-H384-uncased; в репозитории заявлено 25,9 млн параметров. Она преобразует предложения и короткие абзацы в плотные векторы размерности 384 для поиска по смыслу, сравнения предложений и кластеризации. Модель предназначена для построения эмбеддингов и конвейеров семантического поиска, в том числе для извлечения документов в RAG-системах. Поддерживает английский язык; контекст по метаданным составляет 512 токенов, а в README указано, что входы длиннее 256 WordPiece обрезаются. Доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO; в README также заявлена оптимизация ONNX и задержка около 5 мс на CPU-запрос. Лицензия — Apache-2.0. Модель кодирует только текст и сама не генерирует ответы; качество и пригодность результатов следует оценивать на целевых данных, а длинные входы могут усекаться.

barisaydin/bge-base-en — англоязычная модель встраивания текста из семейства BGE (BAAI General Embedding), представленная в карточке FlagEmbedding. Она кодирует текст в плотные векторы для поиска релевантных документов, семантического поиска, кластеризации и классификации, а также для использования в векторных базах данных и системах RAG. Архитектура — BERT; модель содержит 136,7 млн параметров и обрабатывает до 512 токенов. Для поиска по короткому запросу в длинных документах авторы рекомендуют добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:», но не к документам. В README рекомендован переход на BAAI/bge-base-en-v1.5: у текущей версии распределение оценок сходства менее удобно. Абсолютные значения сходства могут быть высокими даже у несхожих предложений, поэтому порог следует подбирать на данных конкретной задачи и ориентироваться на относительный порядок результатов. Модель распространяется по лицензии MIT.

BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели tomaarsen/bge-base-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

michaelfeil/bge-small-en-v1.5 — компактная англоязычная модель эмбеддингов на архитектуре BERT, представленная в форматах PyTorch, Safetensors и ONNX. Она предназначена для получения векторных представлений текста и сравнения сходства предложений; размер составляет около 40 млн параметров, максимальная длина контекста — 512 токенов. Модель можно запускать через библиотеку Infinity Embedding Model: README рекомендует PyTorch с CUDA для GPU и ONNX через Optimum для CPU. Эмбеддинги подходят для поиска по смыслу, ранжирования и построения систем поиска с дополненной генерацией. Модель рассчитана на английский язык. Репозиторий распространяется по лицензии MIT.

Granite Guardian 3.0 8B — языковая модель IBM Research, дообученная на базе Granite 3.0 8B Instruct для выявления рисков в запросах пользователей и ответах моделей. Она помогает обнаруживать вредоносный контент, социальную предвзятость, попытки обхода защит, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение, а также оценивать релевантность контекста, обоснованность ответа и соответствие ответа запросу в RAG-системах. Модель имеет плотную архитектуру GraniteForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. На вход подаются текстовые сообщения и, для проверок RAG, контекст с ответом; модель генерирует ответ «да» или «нет» для заданного измерения риска. Обучение проводилось на данных с человеческой разметкой и синтетических данных. Модель рассчитана на английский язык и сценарии умеренных требований к стоимости, задержке и пропускной способности, например мониторинг и выборочную проверку результатов моделей. Лицензия — Apache 2.0.

Granite Guardian 3.3 8B — специализированная языковая модель IBM Research для оценки запросов и ответов систем на базе LLM по заданным критериям. Она построена на плотной архитектуре GraniteForCausalLM и содержит 8,2 млрд параметров; модель поддерживает контекст до 131 072 токенов и работает через Transformers. В карточке указана поддержка английского языка и формат весов safetensors. Модель предназначена для проверки безопасности и качества ответов в чат-ботах, RAG-системах и агентных сценариях. Встроенные критерии охватывают попытки обхода ограничений, вредный контент, ненормативную лексику, релевантность контекста и ответа, соответствие ответа источникам и ошибки в вызовах инструментов. Можно задавать собственные критерии и схему оценивания. В режиме рассуждений модель выдаёт подробные объяснения оценки, а в обычном режиме — только результат проверки. Модель обучена на сочетании человеческих аннотаций и синтетических данных, включая данные внутреннего red teaming; в README заявлены результаты выше других открытых моделей той же области на стандартных бенчмарках, но численные таблицы в предоставленном тексте опущены. Лицензия Apache 2.0. Она выдаёт текстовые оценки и обоснования, поэтому решения о безопасности или качестве в критичных сценариях следует проверять отдельно.

Granite Guardian 4.1 8B — специализированная модель IBM Research для проверки того, соответствуют ли запросы и ответы LLM заданным критериям. Это плотная причинно-языковая модель на 8,4 млрд параметров, дообученная на базе ibm-granite/granite-4.1-8b; она принимает текст и выдаёт бинарное суждение «да» или «нет». Контекстное окно составляет 131 072 токена. Модель выявляет попытки обхода защитных механизмов, ненормативную лексику и галлюцинации, связанные с вызовом инструментов и ответами на основе поиска (RAG). С помощью режима Bring Your Own Criteria можно задавать собственные проверки, например требования к длине, формату или содержанию ответа. Поддерживаются режим с подробными рассуждениями и режим с быстрым выводом только оценки. Модель также подходит для ранжирования вариантов ответа при выборе лучшего из нескольких. Карточка сообщает о обучении на данных с человеческой разметкой и синтетических данных, созданных с учётом внутреннего red teaming. Основной язык в метаданных — английский. Лицензия Apache 2.0. Разработчик рекомендует использовать модель в предусмотренном формате оценивания; при отклонении от него возможны неожиданные ответы, а модель может быть уязвима к состязательным атакам.

jina-reranker-v1-turbo-en — англоязычный реранкер от Jina AI на основе архитектуры JinaBERT, варианта BERT с двунаправленным ALiBi. Модель оценивает релевантность пар «запрос — документ» и переупорядочивает результаты поиска. Она предназначена для ускорения семантического поиска и улучшения отбора контекста в системах RAG. Это компактная дистиллированная модель с 6 слоями и примерно 37,6 млн параметров; она поддерживает последовательности длиной до 8192 токенов. По данным карточки, в тестах на поисковых наборах она сочетает высокую скорость с конкурентным качеством, хотя в отдельных оценках уступает более крупной версии jina-reranker-v1-base-en. Доступны веса PyTorch и ONNX. Лицензия — Apache-2.0.

Llama Guard 3 8B — модель Meta на базе Llama 3.1 8B, дообученная для классификации безопасности контента. Она анализирует пользовательские запросы и ответы языковых моделей, выдаёт текстовую метку «safe» или «unsafe», а для небезопасного контента указывает нарушенные категории. Модель предназначена для модерации диалогов и проверки вызовов инструментов, включая поиск и интерпретатор кода; классификация охватывает 14 категорий рисков по таксономии MLCommons и дополнительную категорию злоупотребления интерпретатором кода. Модель работает с текстом и заявлена для английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков. В репозитории размещена версия с половинной точностью в формате safetensors; для бинарной оценки можно использовать вероятность первого токена как оценку класса «unsafe» и задать порог. Для применения нужны Transformers и совместимый код инференса. Лицензия — Llama 3.1 Community License.

Mungert/Llama-Guard-3-8B-GGUF — набор GGUF-файлов модели Llama Guard 3-8B, подготовленных пользователем Mungert на основе Llama-3.1-8B от Meta. Это языковая модель, дообученная для классификации безопасности контента: она проверяет входные запросы и ответы LLM, возвращая признак safe или unsafe и, при необходимости, категории нарушенных опасностей. Модель предназначена для защитных контуров при развёртывании LLM, включая модерацию обычных запросов и ответов, а также сценарии поиска и вызова инструментов интерпретатора кода. Модель содержит около 8 млрд параметров, использует авторегрессионную Transformer-архитектуру семейства Llama 3.1 и работает с текстом; версия GGUF ориентирована на локальный inference через совместимые инструменты, включая llama.cpp. Заявлена поддержка восьми языков: английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского. Модель согласована с таксономией опасностей MLCommons. Для получения вероятностной оценки классификатора можно использовать вероятность первого токена и применять пороговую обработку. Сильные стороны — специализированное назначение для input/output safety, поддержка нескольких языков и возможность локального запуска в разных вариантах квантования. Ограничения связаны с зависимостью от обучающих данных: точность может быть недостаточной для оценок, требующих актуальных фактов, широких фоновых знаний или полного покрытия политик; для чувствительных категорий Meta рекомендует более сложные системы. Модель также может быть уязвима к adversarial- и prompt-injection-атакам, поэтому не должна быть единственным уровнем защиты. Используется по лицензии Llama 3.1 Community License от Meta с требованиями Acceptable Use Policy и условиями распространения, включая сохранение лицензии и атрибуции; для распространения производных материалов требуется указывать «Built with Llama», а для некоторых крупных коммерческих сервисов предусмотрены дополнительные условия.

Карточка модели novelcore/model16 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

ModernGuard-1 — модель классификации текста от GuardionAI для обнаружения prompt injection и попыток jailbreak в системах на базе LLM. Она дообучена на mmBERT-base и использует архитектуру ModernBERT с примерно 307 млн параметров; модель присваивает входу один из двух классов: SAFE или PROMPT INJECTION. Модель предназначена для проверки пользовательских запросов перед отправкой в LLM, а также для сканирования найденных документов, веб-страниц и истории диалога перед включением в контекст RAG. В README заявлена поддержка более 1 080 языков и дообучение на 11 основных языках: английском, испанском, португальском, французском, итальянском, русском, китайском, хинди, японском, арабском и немецком. Контекстное окно составляет до 8 192 токенов; для меньшей задержки рекомендуется до 2 048 токенов. Заявленные показатели скорости и качества приведены разработчиком и зависят от оборудования и условий оценки. Модель рассчитана на классификацию как явных атак, так и внедрённых в сторонние данные инструкций. Она может ошибочно помечать безвредный текст как вредоносный, а адаптивные атаки могут обходить обнаружение; для конкретного сценария могут потребоваться настройка порога и регулярное обновление защиты. Лицензия в предоставленных данных не указана.

nomic-embed-text-v1 — текстовый энкодер эмбеддингов, разработанный Nomic AI на архитектуре NomicBert. Модель содержит 136,7 млн параметров, принимает до 8192 токенов и предназначена для преобразования текстов в векторы для поиска и сравнения по смыслу. Модель используют для построения RAG-индексов, поиска по запросам, группировки текстов, выявления тем и семантических дубликатов, а также получения признаков для классификации. Для разных задач в начале текста требуется соответствующий префикс-инструкция. В README заявлены результаты на MTEB, LoCo и тесте Jina Long Context; доступность открытых весов и кода обучения также отмечена в карточке. Модель работает с английским языком. Доступны форматы PyTorch, Safetensors и ONNX; библиотека карточки — Sentence Transformers. Лицензия — Apache-2.0. Несмотря на упоминание мультимодального пространства эмбеддингов в README, сама модель принимает текст; для изображений указан отдельный согласованный энкодер nomic-embed-vision-v1.

nomic-embed-text-v1.5 — текстовая модель эмбеддингов, разработанная Nomic и опубликованная RedHatAI. Она преобразует тексты в плотные векторы для семантического поиска, сопоставления запросов с документами, кластеризации, выявления дубликатов и подготовки признаков для классификации. Для разных сценариев во входной текст добавляют соответствующую инструкцию, например search_document или search_query; модель рассчитана на использование в системах RAG и поисковых индексах. Модель построена на архитектуре NomicBert и поддерживает контекст до 8192 токенов. Matryoshka Representation Learning позволяет уменьшать размерность эмбеддингов с небольшим снижением качества; в README приведены варианты на 768 и 512 измерений. Доступны форматы PyTorch, TensorFlow, ONNX и OpenVINO. Хотя README говорит о мультимодальном пространстве, эта репозитория содержит текстовую модель; согласованная модель для изображений упомянута отдельно. Модель предназначена для прикладного использования; распространяется по лицензии Apache-2.0. Для корректной работы нужно указывать инструкцию задачи, а качество может зависеть от выбранного префикса, размерности вектора и домена данных.

AtesiT разработал русскоязычный детектор галлюцинаций на основе Qwen2.5-1.5B-Instruct: плотной причинно-языковой модели Qwen2 с 1,5 млрд параметров. Модель принимает вопрос, контекст-источник и ответ языковой модели, а затем выдаёт бинарную метку: 0, если ответ соответствует контексту, и 1, если он ему противоречит или не подтверждён им. Она предназначена для проверки ответов в RAG-системах, тестирования агентов и мониторинга качества генерации. Модель дообучена методом QLoRA с LoRA-адаптерами; в репозитории указаны веса safetensors и библиотека Unsloth. Метаданные указывают базовый контекст Qwen2.5 в 32 768 токенов, однако для этой версии README сообщает практический предел входа в 512 токенов. Данные основаны на автоматически собранном русскоязычном корпусе SberQuAD. По README, на тестовой выборке версии v5 точность составляет 0,9835, а F1 — 0,9833; эти показатели относятся к описанному набору данных и не гарантируют такое же качество на других корпусах. Лицензия — Apache-2.0.

Atla Selene 1 — языковая модель-судья, разработанная Atla для оценки ответов и поведения систем на основе заданных критериев. Она дообучена от Llama-3.3-70B-Instruct с использованием SFT и DPO и содержит около 69,5 млрд параметров. Модель предназначена для выставления оценок, классификации ответов и попарного сравнения вариантов; она также формирует структурированные результаты и качественные критические замечания с обоснованием. Selene 1 подходит для автоматизации оценивания в тестах LLM, проверки соответствия ответа запросу, анализа предпочтений и поиска галлюцинаций в RAG-системах. Критерии и шкалы оценки можно настраивать, а ответы можно проверять как с эталонным материалом, так и без него. Модель работает с текстом, поддерживает диалоговый режим и интерфейс вызова инструментов, использует архитектуру Llama и контекст до 131 072 токенов. В README заявлена преимущественная ориентация на английский язык и поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского; метаданные также указывают английский, немецкий, французский, итальянский, португальский и испанский. Для работы рекомендуется применять шаблон диалога Llama 3, иначе поведение может быть непредсказуемым. Модель опубликована по лицензии Llama 3.3.

Atla Selene-1-Mini — языковая модель Atla для оценки ответов и работы в роли LLM-as-a-judge. Она дообучена на основе Meta Llama 3.1 8B Instruct и содержит около 7,5 млрд параметров. Модель принимает текст и выдаёт текстовые оценки, классификации, сравнения ответов и качественные критические замечания с обоснованием. Модель предназначена для автоматической проверки качества ответов, в том числе оценки по заданной шкале, определения соответствия ответа запросу, попарного выбора лучшего ответа и выявления галлюцинаций в RAG-системах. В карточке заявлена оценка по 11 бенчмаркам и сильные результаты на RewardBench, EvalBiasBench и AutoJ. Поддерживает контекст до 131 072 токенов и ориентирована прежде всего на английский; также заявлена поддержка немецкого, французского, итальянского, португальского, испанского, хинди и тайского. Для ожидаемого поведения следует использовать шаблон диалога Llama 3. Лицензия — Apache 2.0.

voyage-4-nano-ONNX — это ONNX-экспорт модели voyage-4-nano от Voyage AI, подготовленный для CPU-инференса с библиотекой sentence-transformers и интеграции с Vespa. Модель предназначена для получения векторных представлений текстов, семантического поиска, построения retrieval-систем и сравнения текстов по косинусному сходству. Модель имеет 306,6 млн параметров, формирует L2-нормализованные эмбеддинги размерности 2048 и использует mean pooling. В метаданных указана нативная длина контекста 40960 токенов; в README максимальная длина последовательности указана как 32K токенов. Доступны варианты FP32 размером около 1,3 ГБ и INT8 для AVX512 размером 332 МБ; INT8 рекомендован для экономии памяти и сохраняет косинусное сходство около 0,96 относительно FP32. Для retrieval-сценариев запросы следует кодировать с префиксом «Represent the query for retrieving supporting documents: », а документы — без префикса. Модель распространяется по лицензии Apache 2.0. Она предназначена для эмбеддингов, а не для генерации текста; качество INT8 может немного отличаться от FP32, а использование требует ONNX Runtime или sentence-transformers с ONNX-бэкендом.

AprielGuard — защитная модель ServiceNow AI для оценки рисков во взаимодействиях с большими языковыми моделями. Она объединяет выявление рисков безопасности контента и атак на модель: распознаёт токсичность, предвзятость, дезинформацию, мошенничество, утечки приватности, prompt injection, jailbreak и другие попытки обойти защиту. Модель основана на плотной архитектуре Mistral и содержит 7,5 млрд параметров; максимальная длина контекста — 131 072 токена. README описывает её как модель примерно на 8 млрд параметров. Модель предназначена для классификации и оценки входов и выходов LLM, включая отдельные запросы, многоходовые диалоги и цепочки действий агентных систем с инструментами и API. Её можно применять для модерации ответов ассистентов, мониторинга рабочих систем, red-teaming и проверки безопасности агентных процессов. В режиме рассуждений она выдаёт структурированные объяснения, а без него — категориальные предсказания с меньшими затратами на задержку и вычисления. В первую очередь модель обучалась на английских данных; README сообщает о тестировании также на немецком, испанском, французском, итальянском, нидерландском и португальском языках, но рекомендует проверять и калибровать её для неанглоязычных сценариев. Сложные новые атаки могут обходить защиту, а в узкоспециализированных областях модель может ошибаться. Лицензия — MIT; модель предоставляется без гарантий пригодности для конкретной среды.

Карточка модели OrcaDB/bge-base на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Карточка модели pashaa/bge-base-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.