II.10Разработка и эксплуатация AI/ML-систем

kompress-v2-base — англоязычная модель для извлечения значимых фрагментов текста и сжатия промптов перед передачей LLM. Она присваивает каждому токену оценку сохранения и метку keep/drop; оставшиеся токены образуют сокращённый текст, сохраняющий смысл исходного ввода. Модель разработана на базе answerdotai/ModernBERT-base: использует LoRA-адаптер и дополнительную голову классификации токенов со свёрточным слоем для анализа последовательностей. Размер базовой модели — 149 млн параметров; обучаемая часть адаптера — 3,4 млн параметров. Модель предназначена для интеграции в прокси-сервисы LLM и другие конвейеры, где нужно уменьшить расход токенов, сохранив важные сведения. Порог оценки позволяет выбирать компромисс между степенью сжатия и полнотой сохранения критичных элементов. В тестировании на 7 037 примерах при пороге 0,5 указаны F1 0,918, полнота сохранения важных элементов 0,974 и сокращение числа токенов примерно на 18%. Заявлен контекст до 8 192 токенов. Репозиторий включает варианты Core ML, ONNX и safetensors, а карточка описывает запуск Core ML на устройствах Apple Silicon. Обучение охватывало 17 областей, включая диалоги, код, трассы агентов, медицину, финансы, государственные и научные документы, веб-тексты и вызовы инструментов; это не означает одинаково подтверждённое качество для каждого домена. Лицензия — Apache-2.0. Описанные метрики получены на тестовом наборе автора и сами по себе не гарантируют качества на новых данных; подтверждена поддержка английского языка.

LettuceDetect от KRLabsOrg — модель для выявления галлюцинаций в ответах RAG. Она принимает контекст и ответ и выполняет токенную классификацию, отмечая фрагменты ответа, которые не подтверждаются контекстом. Модель построена дообучением EuroBERT-210m, имеет около 211,7 млн параметров и поддерживает контекст до 8192 токенов. Модель рассчитана на китайский язык и обучена на китайской версии датасета RagTruth. Она предназначена для проверки ответов на основе документов и подсветки неподтверждённых утверждений. В опубликованной оценке на переведённом RAGTruth-CN указана F1-мера 74,41%; результаты могут отличаться на других данных. Лицензия — MIT.

KRLabsOrg LettuceDetect French v1 — модель для выявления галлюцинаций в ответах генеративных систем с опорой на контекст, предназначенная для многоязычных RAG-приложений. Это дообученная EuroBERT-610M с архитектурой EuroBertForTokenClassification, содержащая 607,8 млн параметров и принимающая контекст вместе с ответом для токенной классификации. Поддерживается контекст до 8192 токенов; модель обучена на французской версии набора RagTruth-FR. Модель отмечает токены ответа, не подтверждённые предоставленным контекстом, чтобы затем выделить подозрительные фрагменты. В описанной оценке на переведённом RAGTruth-FR она показала F1 73,13% и полноту 80,38%; эти результаты относятся к указанному набору данных и не гарантируют такого же качества на других данных. Для запуска используется библиотека Transformers, а карточка отмечает несовместимость загружаемого удалённого кода с Transformers 5.x. Лицензия — MIT.

LettuceDetect Italian — модель KRLabsOrg для выявления галлюцинаций в системах RAG. Она дообучена на EuroBERT-610M и принимает контекст вместе с ответом на итальянском языке, отмечая на уровне токенов фрагменты ответа, не подтверждённые контекстом; предсказания можно объединить в непрерывные интервалы для проверки и анализа. Модель содержит 607,8 млн параметров, поддерживает контекст до 8192 токенов и использует архитектуру EuroBERT для классификации токенов. Модель предназначена для проверки ответов RAG по документам, в том числе для локализации неподтверждённых утверждений. В оценке на переведённом наборе RAGTruth-IT авторы сообщают F1 74,71% для версии 610M. Это результат на конкретном тестовом наборе, и он не гарантирует такое же качество на других данных. Для использования требуется совместимая версия Transformers: README предупреждает о несовместимости загружаемого удалённого кода EuroBERT с Transformers 5.x. Лицензия модели — MIT.

LFM2.5-Encoder-350M-hallucination-detector — модель KRLabsOrg из проекта LettuceDetect для выявления неподтверждённых фрагментов в ответах по заданному контексту. Это двунаправленный энкодер LiquidAI/LFM2.5-Encoder-350M с линейной головой классификации токенов, дообученный отмечать участки ответа, которые не подтверждаются контекстом. Модель принимает вопрос, контекст и ответ, а затем выполняет разметку токенов; результаты можно использовать для определения галлюцинаций в RAG-ответах, выводах инструментов и ответах кодовых агентов. В README указаны обучение на 66 368 примерах в течение трёх эпох, максимальная длина входа 8 192 токена и тестовая span-F1 0,603 на объединённом наборе из 10 698 примеров. В мультиязычном выявлении на уровне примеров результаты сопоставимы с энкодером mmBERT. Модель обучалась на данных о галлюцинациях в коде и прозе, включая RAGTruth, структурированные документы и 14-язычный набор PsiloQA; в метаданных карточки перечислены английский, немецкий, испанский, французский, итальянский и нидерландский. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели. В приведённых результатах span-F1 ниже, чем у сравниваемых mmBERT-base и Qwen-2B; качество зависит от источника данных и формата ответа.

Llama-3.1-70B-Instruct-RM-RB2 — модель оценки предпочтений, разработанная Allen Institute for AI и выпущенная в составе набора reward-моделей для бенчмарка RewardBench 2. Это дообученный классификатор на архитектуре Llama 3.1 с 69,5 млрд параметров, который обрабатывает текст и присваивает оценку для бинарного сравнения предпочтений; его используют при оценке ответов языковых моделей, отборе вариантов Best-of-N и разработке обучения с подкреплением PPO. Модель обучалась на данных предпочтений, включая смеси датасетов Tulu 3 и Skywork Reward Preference. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. В RewardBench 2 основная версия набрала 76,1 балла; показатели различаются по категориям оценки. Модель предназначена для скоринга и классификации, а не для генерации ответов ассистента. Для использования требуется соблюдать Llama 3.1 Community License Agreement.

Llama-3.1-8B-Base-RM-RB2 — классификатор вознаграждения, выпущенный Allen Institute for AI в составе набора моделей для Reward Bench 2. Это дообученная на базе meta-llama/Llama-3.1-8B модель с архитектурой LlamaForSequenceClassification, содержащая 7,5 млрд параметров и принимающая текст с контекстом до 131 072 токенов. Модель обучена на бинарных данных о предпочтениях и оценивает ответы, помогая сравнивать их качество. Её можно применять для ранжирования ответов и выбора предпочтительного варианта в сценариях Best-of-N или при настройке PPO. Карточка приводит результаты RewardBench 2 и отдельных категорий, включая factuality, math и safety. Модель предназначена для английского языка. Она распространяется по Llama 3.1 Community License Agreement; условия лицензии следует учитывать при использовании и распространении.

Llama-3.1-8B-Instruct-RM-RB2 — классификатор предпочтений, разработанный Allen Institute for AI и выпущенный в наборе моделей для бенчмарка RewardBench 2. Это дообученная версия meta-llama/Llama-3.1-8B-Instruct с архитектурой LlamaForSequenceClassification, примерно 7,5 млрд параметров. Модель обучена на бинарных данных о предпочтениях и предназначена для оценки и сравнения ответов языковых моделей, например при подборе лучшего ответа или исследовании обучения с подкреплением по PPO. Модель принимает текст и выдаёт классификационную оценку предпочтения. В карточке приведены результаты на RewardBench 2 и его категориях, включая фактичность, следование инструкциям, математику и безопасность; доступны разные ревизии с вариантами обучающих данных и гиперпараметров. Метаданные указывают контекст до 131 072 токенов и язык en. Распространяется по лицензии Llama 3.1 Community License Agreement. Оценки из бенчмарка не гарантируют качество на других данных; назначение модели — ранжирование и оценивание ответов, а не генерация пользовательских ответов.

Dipto084/Llama3.1-8B-TRACE — диалоговая защитная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, разработанная для выявления многоходовых jailbreak-атак. Она анализирует траекторию беседы целиком, формирует оценку безопасности и затем отвечает с учётом этой оценки. По README, это вариант TRACE-GRPO: дообучение с подкреплением по рецепту TRACE, объединённое с весами базовой модели; для работы требуется системный промпт TRACE, задающий формат и правила оценки. Модель предназначена для интеграции в чат-системы, где нужно обнаруживать попытки обхода защит и сохранять ответы на безвредные запросы. В карточке приведены результаты оценок на многоходовых атаках и проверках избыточных отказов; они отражают конкретные тестовые наборы и не гарантируют аналогичную защиту в эксплуатации. Контекст — до 131 072 токенов, вход и выход — текст, основной язык карточки — английский. Распространяется под лицензией Llama 3.1; при использовании следует соблюдать её условия.

Llama-3.1-Tulu-3-8B-RL-RM-RB2 — классификатор предпочтений Allen Institute for AI, выпущенный в составе набора моделей вознаграждения для бенчмарка RewardBench 2. Модель дообучена на базе allenai/Llama-3.1-Tulu-3-8B на бинарных данных о предпочтениях и реализована как классификатор последовательностей для Transformers. В карточке указаны 7,5 млрд параметров и контекст до 131 072 токенов. Модель оценивает ответы и помогает сравнивать их по предпочтительности, в том числе при выборе ответов для Best-of-N и при обучении с подкреплением PPO. Основная версия получила 68,7 балла на RewardBench 2; в карточке также приведены оценки по отдельным направлениям, включая безопасность, фактичность, математику и следование инструкциям. Модель рассчитана на английский язык. Она выдаёт классификационную оценку, а не является универсальным генератором ответов. Лицензия — Llama 3.1 Community License Agreement.

Llama-3-OffsetBias-RM-8B — reward-модель NC Research для оценки качества ответов языковых моделей. Она создана на основе Meta Llama 3: разработчики обучили промежуточную reward-модель на данных, включавших NCSOFT/offsetbias, а затем объединили её с FsfairX-LLaMA3-RM-v0.1. Модель предназначена для ранжирования и оценки ответов, в том числе с учётом распространённых смещений в оценивании. Это плотная модель семейства Llama с архитектурой LlamaForSequenceClassification и 7,5 млрд параметров. Она принимает текст и выдаёт оценку, пригодную для классификации или сравнения ответов; поддерживает английский язык и контекст до 8192 токенов. В README приведены результаты на RewardBench и EvalBiasBench, однако они не гарантируют такого же качества на других данных. Модель распространяется в формате safetensors по лицензии Meta Llama 3 Community License Agreement. Она рассчитана на сценарии оценки и ранжирования ответов; сама по себе не является универсальным чат-ассистентом для генерации ответов.

LLM Query Complexity Classifier — англоязычный классификатор запросов, разработанный для проекта STREAM. Он дообучен на ModernBERT-base и относит текстовый запрос к одному из трёх классов по требуемой глубине рассуждений: LOW, MEDIUM или HIGH. Модель предназначена для автоматической маршрутизации запросов между локальным CPU, HPC GPU и облачным API с учётом сложности и стоимости обработки. Модель содержит 149 млн параметров, использует архитектуру ModernBERT для классификации последовательностей и принимает до 8192 токенов контекста. По README, задержка на CPU составляет около 32 мс на запрос. Для обучения использовалась дистилляция разметки Claude Sonnet 4.6 на 6000 запросах из десяти областей, включая математику, естественные науки, программирование, медицину и гуманитарные дисциплины. Указанная лицензия — Apache 2.0. На фиксированном тестовом наборе README сообщает точность 64,2% и Macro-F1 0,640; полнота для класса MEDIUM ниже, чем для LOW и HIGH, поэтому оценки сложности могут ошибаться, особенно на промежуточных запросах. Метрики относятся к описанной в карточке выборке и не гарантируют аналогичного качества на других темах и распределениях запросов.

MD-Judge-v0.2-internlm2_7b — языковая модель для оценки безопасности диалогов, разработанная OpenSafetyLab и дообученная на InternLM2-7B-Chat. Она анализирует сообщения агента в контексте разговора, выносит оценку риска и формирует понятное человеку обоснование с более детальной градацией вредоносности. Модель предназначена для автоматизированной проверки ответов и сравнительной оценки систем на тестах безопасности. Модель построена на плотной архитектуре InternLM2ForCausalLM, содержит 7,4 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории используются веса safetensors; шаблон чата включён в конфигурацию токенизатора. Карточка указывает английский язык, а обучающие данные включают BeaverTails и LMSYS-Chat-1M. Лицензия — Apache-2.0. Модель выдаёт суждение и текстовое объяснение, однако её оценки следует рассматривать как ориентир для проверки безопасности, а не как безошибочное решение: результаты зависят от формулировок запроса и контекста, а качество может различаться на сценариях, не представленных в обучении и тестировании.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122103941-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

mmbert32k-modality-router-merged — классификатор текста из семейства MoM, разработанный для vLLM Semantic Router. Он определяет, какой тип ответа нужен по пользовательскому запросу: только текст (AR), изображение (DIFFUSION) или текст вместе с изображением (BOTH), чтобы направить запрос к подходящему бэкенду в системе с несколькими моделями. Подходит для маршрутизации запросов, выбора мультимодального конвейера и сокращения лишних вызовов генерации изображений. Модель основана на ModernBERT с масштабированием RoPE YaRN, содержит 306,9 млн параметров и поддерживает контекст до 32 768 токенов. Это объединённая версия LoRA-адаптера: его веса слиты с базовой моделью llm-semantic-router/mmbert-32k-yarn, поэтому для развёртывания не требуется PEFT. Карточка приводит accuracy и взвешенный F1 0,9686; базовая модель заявлена как многоязычная, однако обучение классификатора преимущественно опиралось на англоязычные данные. Модель классифицирует отдельные запросы и не учитывает историю диалога. Она не предназначена для модерации контента или оценки безопасности. Распространяется по лицензии Apache-2.0; доступны форматы Safetensors и ONNX.

facebook/mms-lid-256 — модель Facebook (Meta), дообученная в рамках проекта Massively Multilingual Speech для определения языка речи. Она построена на архитектуре Wav2Vec2 и классифицирует аудио по 256 языковым классам, выдавая распределение вероятностей. Размер указан как 1 млрд параметров в README и 1,3 млрд в метаданных. Модель принимает аудио с частотой дискретизации 16 кГц. Модель подходит для автоматического распознавания языка в речевых записях, например, для маршрутизации аудио в соответствующую систему распознавания речи или сортировки многоязычных аудиоданных. Поддерживаются 256 языков, включая русский и английский. Это классификатор языка речи, а не модель транскрибирования: она определяет язык, но не преобразует речь в текст. Распространяется по лицензии CC-BY-NC 4.0, которая ограничивает коммерческое использование.

Карточка модели Unbabel/M-Prometheus-3B на Hugging Face совпадает с карточкой Unbabel/M-Prometheus-14B, поэтому описание составлено по ней. M-Prometheus-14B — языковая модель-судья из семейства M-Prometheus, разработанная Unbabel для оценки ответов и текстов на разных языках. Она обучена на 480 тысячах примеров прямой оценки качества и парного сравнения с развёрнутой обратной связью и предназначена для использования в сценариях оценки LLM-выводов. Модель представляет собой плотную causal language model архитектуры Qwen2 с 14 млрд параметров, дообученную на базе Qwen/Qwen2.5-14B-Instruct. Она принимает текстовые запросы и генерирует текстовые оценки и пояснения; максимальный контекст составляет 32 768 токенов. По README, её можно вызывать в том же стиле, что и Prometheus-2. Модель ориентирована на мультиязычную оценку, однако конкретный перечень поддерживаемых языков и результаты сравнительных тестов в предоставленных материалах не приведены. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

nomic-embed-text-v1.5-GGUF — модель Nomic для создания текстовых эмбеддингов и задач семантического сходства. Она предназначена для поиска по смыслу, извлечения признаков и построения RAG-приложений, где пользовательские запросы и документы преобразуются в векторные представления. Для корректной работы требуется добавлять в начало каждой строки префикс инструкции соответствующей задачи, например search_query. Модель основана на архитектуре BERT и распространяется в совместимом с llama.cpp формате GGUF. Поддерживается английский язык. Файлы рассчитаны на контекст 2048 токенов по умолчанию; для использования полного контекста до 8192 токенов в llama.cpp требуется настроить расширение контекста и RoPE scaling. Доступны варианты квантования от Q2_K до Q8_0, а также F16 и F32, что позволяет выбирать между размером файла, требованиями к ресурсам и точностью эмбеддингов. В README не указаны число параметров и размерность векторов. Сильными сторонами являются поддержка локального инференса через llama.cpp, широкий выбор уровней квантования и небольшие размеры файлов — примерно от 48 до 262 МиБ. Ограничениями являются англоязычная специализация, необходимость использования task-префиксов и дополнительной настройки для контекста 8192 токена. Модель распространяется по лицензии Apache-2.0.

Карточка модели ashton25549/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель общего назначения от NVIDIA для диалога, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметным областям, исследований и подготовки собственных квантованных вариантов. Модель готова к коммерческому использованию; в карточке лицензия указана как other. Архитектура — гибридная Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными слоями Attention; также используются слои Multi-Token Prediction. В README заявлены 30 млрд параметров всего и 3 млрд активных, а в метаданных каталога — 1,9 млрд параметров. Модель поддерживает контекст до 262 144 токенов по метаданным; README указывает до 1 млн токенов для отдельных конфигураций оборудования. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а README дополнительно описывает посттренировочные данные на китайском. Модель предназначена для настройки под пользовательские данные с помощью SFT, RL или дистилляции, а также для оценки и генерации текста в чат- и агентных сценариях. Полноточный вариант требует значительных ресурсов для инференса: README приводит 256K контекста для одной H100 80 GB и конфигурации до 1 млн токенов на более мощном оборудовании. Для более быстрой производственной генерации NVIDIA рекомендует отдельную NVFP4-версию.

Карточка модели Openintelligent123/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 — языковая модель общего назначения от NVIDIA для диалога, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметным областям, исследований и подготовки собственных квантованных вариантов. Модель готова к коммерческому использованию; в карточке лицензия указана как other. Архитектура — гибридная Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными слоями Attention; также используются слои Multi-Token Prediction. В README заявлены 30 млрд параметров всего и 3 млрд активных, а в метаданных каталога — 1,9 млрд параметров. Модель поддерживает контекст до 262 144 токенов по метаданным; README указывает до 1 млн токенов для отдельных конфигураций оборудования. Основной язык — английский; также поддерживаются испанский, французский, немецкий, итальянский и японский, а README дополнительно описывает посттренировочные данные на китайском. Модель предназначена для настройки под пользовательские данные с помощью SFT, RL или дистилляции, а также для оценки и генерации текста в чат- и агентных сценариях. Полноточный вариант требует значительных ресурсов для инференса: README приводит 256K контекста для одной H100 80 GB и конфигурации до 1 млн токенов на более мощном оборудовании. Для более быстрой производственной генерации NVIDIA рекомендует отдельную NVFP4-версию.

Карточка модели seerware/opensearch-neural-sparse-encoding-doc-v2-mini на Hugging Face совпадает с карточкой opensearch-project/opensearch-neural-sparse-encoding-doc-v2-mini, поэтому описание составлено по ней. opensearch-project/opensearch-neural-sparse-encoding-doc-v2-mini — компактная модель OpenSearch для нейронного разреженного поиска по документам. Она основана на BERT и содержит 25,9 млн параметров; модель принимает текст и формирует разреженные векторы размерностью 30 522. Для запросов используются токенизатор и таблица весов, а релевантность вычисляется как скалярное произведение векторов запроса и документа. Модель предназначена для применения с инвертированным индексом Lucene в OpenSearch и может запускаться через Sentence Transformers или API Hugging Face. Модель подходит для поиска документов и passages, семантического поиска и расширения документов при подготовке к поиску. В README приведены результаты оценки серии моделей на подмножестве BEIR; показатели различаются между наборами данных. Контекст ограничен 512 токенами, основной язык в метаданных — английский. Распространяется по лицензии Apache-2.0.

Panther Read Intent Classifier — мультиязычный классификатор Patronus на архитектуре ModernBERT (mmBERT), дообученный для определения намерения пользователя по тексту и маршрутизации запроса к нужной возможности. Модель присваивает входному тексту ровно один класс, включая обычный диалог, запросы на разработку кода и аналитику данных; README также приводит класс запроса на выполнение операций с инструментами. Её можно использовать для оркестрации ИИ-агентов, выбора возможностей, маршрутизации по политикам и мониторинга во время работы. Модель содержит 140,5 млн параметров, принимает текст, поддерживает контекст до 8192 токенов и доступна в форматах Safetensors и ONNX. Основные оценивавшиеся языки — немецкий и английский; мультиязычная базовая модель охватывает более 1800 языков, но остальные языки для этой задачи активно не проверялись. На тестовом наборе из 1880 примеров указаны точность 0,898 и macro F1 0,899. Распространяется по лицензии Apache-2.0.

PIGuard — англоязычный классификатор текстов для обнаружения атак с внедрением промптов в запросах к большим языковым моделям. Модель разработана авторами работы о наборе NotInject; в карточке её название указано как PIGuard, ранее она называлась InjecGuard. Это дообученная версия Microsoft DeBERTa-v3-base с 211,6 млн параметров, опубликованная в формате safetensors и рассчитанная на входные последовательности длиной до 512 токенов. Модель предназначена для защиты LLM-приложений от попыток перехватить инструкции или извлечь данные. Стратегия обучения MOF направлена на снижение чрезмерной защиты — ложного распознавания безобидного текста как вредоносного из-за слов-триггеров. В README заявлены результаты на нескольких тестах, включая NotInject, где набор из 339 примеров проверяет устойчивость к таким ложным срабатываниям. Для использования доступны Transformers и классификационный pipeline. Модель выпущена под лицензией MIT. Она классифицирует текст на английском языке; заданное ограничение в 512 токенов и специализация на prompt injection означают, что её оценки не следует считать универсальной гарантией безопасности или переносить на другие языки без проверки.

PM_deberta-v3-base-ultrafeedback-rm — дообученная модель оценки текста, созданная на базе OpenAssistant/reward-model-deberta-v3-base и обученная с помощью TRL. Она возвращает числовую оценку текста, поэтому может использоваться как reward model для сравнения или ранжирования ответов и как компонент контура RLHF. Модель основана на архитектуре DeBERTa-v3-base с классификационной головой, содержит 211,6 млн параметров и принимает последовательности длиной до 512 токенов. Карточка описывает запуск через Transformers pipeline и выполнение оценки на GPU. Лицензия в доступных данных не указана.

pollux-judge-7b — русскоязычная генеративная модель проекта POLLUX для автоматической оценки ответов других языковых моделей. Она разработана на основе t-tech/T-lite-it-1.0 и дообучена как плотная декодерная модель Qwen2 с 7,1 млрд параметров; модель принимает текст и формирует числовую оценку с текстовым обоснованием. Контекст составляет до 32 768 токенов. Модель предназначена для оценки одного заранее заданного критерия за запуск. Для надёжной работы ей следует передать исходную инструкцию, проверяемый ответ, критерий, шкалу оценивания и, если доступен, эталонный ответ. Обучение ориентировано на задачи и критерии таксономии POLLUX; синтетические русскоязычные обучающие данные сформированы с участием DeepSeekV3, GPT-4o и o3-mini. Модель можно применять для автоматизированной оценки качества генераций на русском языке и получения объяснений оценок. Оценки и обоснования могут быть неточными или смещёнными, поэтому их следует проверять; одновременная оценка нескольких критериев и самостоятельный выбор критериев не соответствуют назначению модели. Лицензия — MIT.

Qwen2.5-14B-Instruct_EAGLE3_UltraChat — черновая модель EAGLE-3, разработанная на базе Qwen2.5-14B-Instruct с использованием SpecForge. Она предназначена для ускорения этапа декодирования больших языковых моделей в алгоритме speculative decoding: модель предлагает черновые токены, которые затем проверяет целевая модель. Это вспомогательный компонент инференса, а не самостоятельная чат-модель. В карточке указана архитектура LlamaForCausalLMEagle3, формат safetensors и библиотека vLLM. Метаданные сообщают о 1,1 млрд параметров и контексте 32 768 токенов. README приводит пример запуска с vLLM и результаты оценки ускорения для моделей Qwen2.5-7B, 14B и 32B на нескольких наборах задач; фактическое ускорение зависит от целевой модели, входных данных и настроек спекулятивного декодирования. Модель обучалась на UltraChat 200k. Лицензия — Apache-2.0.

Qwen3-Nemotron-32B-GenRM-Principle — языковая модель NVIDIA для оценки ответов, созданных LLM, по заданному пользователем принципу. Она принимает текст диалога с несколькими ходами и принцип оценки, а затем выдаёт числовую оценку: более высокий балл означает, что итоговый ответ ассистента в большей степени соответствует принципу. Модель построена на архитектуре Qwen3 и дообучена на базе Qwen/Qwen3-32B; в метаданных указано 29,7 млрд параметров. Карточка сообщает о контекстном окне 128 тыс. токенов и обучении на диалогах длиной до 8 тыс. токенов, тогда как метаданные указывают native context в 40 960 токенов. Модель принимает текст и выдаёт скалярную оценку. Она предназначена для оценки качества и предпочтений ответов, в том числе в задачах чата, математики, кода и безопасности; карточка приводит результаты на RM-Bench и JudgeBench. Для запуска рекомендуются Transformers или vLLM и одна или несколько GPU с 80 ГБ памяти; заявлена оптимизация для GPU NVIDIA. Указана лицензия other, поэтому условия использования следует сверить с лицензией и условиями NVIDIA для репозитория. Модель оценивает соответствие указанному принципу, но полученный балл сам по себе не гарантирует объективность или надёжность оценки для конкретного применения.

Qwen3-Reranker-4B-AWQ-INT4 — это производная версия модели Qwen3-Reranker-4B, разработанная сообществом drawais на основе исходной модели Qwen. Она предназначена для переранжирования результатов поиска и построения полностью локальных стеков семантического поиска в сочетании с embedding-моделью. Модель может использоваться в задачах retrieval, где требуется уточнить порядок найденных документов или сопоставить запрос с кандидатами. Модель представляет собой 4-битную квантизацию весов в формате INT4 с использованием AWQ и имеет размер на диске около 2,7 ГБ. Указанная максимальная длина контекста составляет 32 768 токенов при использовании vLLM. Поддерживается английский язык; другие языки в карточке не заявлены. Это текстовая модель, доступная через библиотеку Transformers и совместимая с vLLM. Ключевое преимущество версии — существенно уменьшенный размер по сравнению с полной моделью, что упрощает локальное развертывание. Ограничения включают поддержку только английского языка, необходимость достаточного запаса видеопамяти для KV-кэша и потенциальные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Apache License 2.0; для производной работы указаны исходная модель и требования по атрибуции.

RewardAnything-8B-v1 — языковая модель для оценки ответов по принципам, сформулированным на естественном языке. Её разработали исследователи Пекинского университета, WeChat AI, William & Mary и Westlake University. Модель дообучена на базе Qwen/Qwen3-8B и содержит 7,6 млрд параметров; поддерживает контекст до 40 960 токенов. На этапе вывода можно задавать или менять критерии оценки без повторного обучения. Модель предназначена для сравнения ответов, оценки их соответствия заданным принципам и интеграции в конвейеры RLHF, включая PPO и GRPO. По описанию авторов, она также выдаёт объяснения решений и показывает высокие результаты на RM-Bench и RABench; численные результаты в карточке не приведены. Репозиторий содержит веса Safetensors. Указаны английский и китайский языки. Модель распространяется по лицензии Apache-2.0. README рекомендует локальный запуск для экспериментов, а vLLM — для пакетной оценки и рабочих нагрузок с высокой пропускной способностью.

OpenAssistant/reward-model-deberta-v3-large-v2 — модель вознаграждения на базе DeBERTa-v3-large, разработанная OpenAssistant. Она оценивает ответ на вопрос по тому, насколько вероятно, что человек предпочёл бы его другому ответу. Модель обучена на данных WebGPT Comparisons, Summarize from Feedback, синтетических парных инструкциях и Anthropic HH-RLHF; в метаданных указаны 533,8 млн параметров и контекст до 512 токенов. Модель предназначена для оценки ответов при проверке систем вопросов и ответов, как функция вознаграждения в RLHF и для ранжирования ответов, в том числе при поиске потенциально токсичных вариантов. В README приведены точности на валидационных выборках четырёх датасетов, но отмечено, что результат на синтетических данных может быть завышен из-за поверхностных признаков в парах ответов. Поддерживается английский язык. Лицензия — MIT.