II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейImageShield-MMCF-0.8B — мультимодальная модель-классификатор для проверки визуального контента на безопасность. Её разработал автор prithivMLmods на основе Qwen/Qwen3.5-0.8B, дообучив примерно на 28 000 примерах фильтрации контента. Модель принимает изображения и текстовые инструкции, а результат выдаёт в структурированном JSON с описанием изображения, меткой Safe/Unsafe и обоснованием. Модель предназначена для модерации изображений, обнаружения NSFW и другого потенциально чувствительного визуального контента, а также для исследований систем безопасности и разработки фильтров. Она использует консервативный порог и при неоднозначности склонна выбирать более безопасную классификацию. Репозиторий содержит веса safetensors, модель построена на архитектуре Qwen3.5 и распространяется по лицензии Apache-2.0. Это экспериментальный выпуск: возможны ошибочные и нестабильные классификации. Модель может как ошибочно помечать безопасные изображения, так и пропускать небезопасный контент; результат зависит от качества изображения, контекста и инструкции и не является окончательным юридическим или экспертным заключением.
Jamba-v0.1-hf — совместимая с Transformers версия базовой языковой модели Jamba, разработанной AI21. Это генеративная модель на основе гибридной архитектуры Mamba и Transformer с механизмом mixture of experts (MoE); репозиторий содержит веса Safetensors и не требует включать trust_remote_code. Метаданные указывают 7,2 млрд параметров, а карточка исходной модели сообщает о 12 млрд активных параметров и 52 млрд параметров суммарно среди экспертов. Модель предназначена для генерации текста и как основа для дообучения, в том числе под собственные чат- и instruct-сценарии. Контекст составляет 256 тыс. токенов. Карточка сообщает о высокой пропускной способности относительно традиционных Transformer-моделей и результатах на распространённых бенчмарках, но эта версия не прошла выравнивание для диалогов и не включает механизмы модерации. Для оптимизированного запуска требуются CUDA и соответствующие ядра Mamba; лицензия — Apache 2.0.
JudgeLM-33B-v1.0 — авторегрессионная языковая модель на архитектуре Transformer семейства Llama, разработанная HUST и BAAI. Модель дообучена на Vicuna с использованием набора JudgeLM-100K и предназначена для оценки ответов больших языковых моделей и чат-ботов. Модель содержит 32,3 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов. Её основная роль — выносить суждения о качестве ответов; в карточке описана оценка на JudgeLM val set с суждениями GPT-4 в качестве учителя. Указанный язык — английский. Модель рассчитана на исследователей и энтузиастов в области NLP, машинного обучения и ИИ. Лицензия разрешает только некоммерческое использование; оценочные суждения следует рассматривать в контексте заявленного исследовательского назначения.
novita/kimi-k2.6-dspark — черновая модель DSpark от Novita для ускорения генерации с базовой моделью Kimi-K2.6 от Moonshot AI. Она используется вместе с целевой моделью в speculative decoding: предлагает блоки токенов, а базовая модель проверяет их. Архитектура включает трёхслойный черновой блок в стиле Qwen3 с GQA и две лёгкие головы DSpark для учёта зависимостей между токенами и оценки вероятности принятия предложений. Размер словаря черновой модели сокращён до 32 000 токенов; в репозитории веса Safetensors в формате bf16 размером 6,3 ГБ. Модель предназначена для ускорения инференса Kimi-K2.6, в частности обработки математических и программных запросов. В описанной конфигурации vLLM рекомендуется семь спекулятивных токенов; на некоторых тестах README сообщает об ускорении до 2,81 раза. Обученный контекст — 20 000 токенов. Это не самостоятельная чат-модель: для работы нужны базовая Kimi-K2.6 и версия vLLM с поддержкой DSpark. README перечисляет обходные решения для известных проблем в nightly-сборке vLLM. Лицензия в предоставленных данных не указана.
kotoba-tech/kotoba-whisper-v2.0-faster — конверсия модели распознавания речи kotoba-whisper-v2.0 в формат CTranslate2. Она предназначена для запуска через CTranslate2 и совместимые проекты, включая faster-whisper, и преобразует японскую речь из аудио в текст. В карточке приведено сравнение скорости нескольких реализаций на MacBook Pro с чипом Apple M2 Pro; результаты зависят от аудио и среды запуска. Веса сохранены в FP16, а при загрузке CTranslate2 тип вычислений можно менять параметром compute_type. README указывает, что faster-whisper поддерживает последовательное декодирование длинных аудиозаписей; для нарезанного на фрагменты декодирования автор отмечает преимущество Hugging Face pipeline в собственном эксперименте. Модель распространяется по лицензии MIT.
Модель SpeechBrain предназначена для определения языка по коротким речевым записям. Она обучена на датасете CommonLanguage и распознаёт 45 языков, включая русский, английский, арабский, китайский, японский и другие. Система сочетает ECAPA-TDNN, статистический pooling и классификатор, обученный с categorical cross-entropy. Обучающие записи имеют частоту дискретизации 16 кГц и один канал; при использовании classify_file SpeechBrain автоматически приводит аудио к нужному формату. Для другой частоты дискретизации или числа каналов входной тензор нужно подготовить самостоятельно при использовании encode_batch и classify_batch. Точность на тестовом наборе CommonLanguage указана как 85%. Модель подходит для классификации языка в речевом аудио. SpeechBrain предупреждает, что качество на других датасетах не гарантируется. Распространяется по лицензии Apache-2.0.
LiveMath-Judge — компактная модель-судья для оценки математических ответов. Её разработчики дообучили Qwen2.5-3B-Instruct на примерно 2,8 млн примеров из LiveMathBench, размеченных Qwen2.5-72B-Instruct; обучение длилось одну эпоху. Модель имеет плотную архитектуру Qwen2, содержит 3,1 млрд параметров и принимает текстовый вопрос, эталонный ответ и ответ проверяемой модели, после чего выдаёт «yes», если ответы эквивалентны, и «no», если нет. Модель предназначена для автоматической проверки математических ответов и оценки согласованности с эталоном, например в бенчмарках и системах оценки генеративных моделей. В карточке указаны контекст до 32 768 токенов, поддержка английского языка и лицензия Apache-2.0. Результаты LiveMath-Judge на части приведённых в README сравнений выше, чем у Qwen2.5-72B-Instruct как судьи, но на примере Llama-3.1-8B-Instruct ниже; эти результаты не гарантируют качество на других данных. Модель унаследовала основу Qwen2.5-3B-Instruct, поэтому её выводы могут зависеть от формулировки ответа и не заменяют проверку математического доказательства.
philschmid/llama-2-7b-instruction-generator — дообученная модель семейства Llama 2 для генерации инструкций по входному тексту. Она предназначена для создания синтетических обучающих примеров из неразмеченных данных, например писем, чтобы адаптировать языковые модели к персональным данным. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров; принимает текст и генерирует текст. Контекст составляет 4096 токенов, основной язык карточки — английский. Модель дообучена в формате Alpaca на модифицированной версии Dolly и опубликована в формате PyTorch для Transformers. В README приведён пример работы, но не сообщаются результаты систематической оценки качества. Лицензия указана как OpenRAIL.
Dipto084/Llama-3.1-8B-XGuard-merged — языковая модель на архитектуре Llama 3.1, созданная автором репозитория как воспроизведение X-Guard из статьи X-Teaming. Это не официальный выпуск авторов X-Teaming. Модель дообучена методом LoRA supervised fine-tuning на базе meta-llama/Llama-3.1-8B-Instruct; адаптер объединён с базовыми весами. В релизе — полные веса bf16 в формате safetensors, размер базовой модели — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для диалоговой генерации текста с защитой от многоходовых jailbreak-атак: она обучена распознавать вредоносные сценарии и отказывать в выполнении небезопасных запросов, сохраняя способность отвечать на обычные инструкции. В README приведены результаты оценки: средняя успешность атак составила 44,4% против 74,9% у базовой модели, но защита переносится на разные типы атак неодинаково. На benign-промптах средняя доля полных ответов — 87,5% против 93,0% у базы, что указывает на повышенный риск избыточных отказов. Карточка указывает английский язык. Для диалогов следует передавать полную историю сообщений и использовать шаблон чата Llama 3.1. Лицензия — Llama 3.1.
zeromodels/maxvit_small_tf_224_in1k — конверсия чекпойнта timm/maxvit_small_tf_224.in1k в формате Keras 3, подготовленная проектом zeromodels. Это гибридная иерархическая архитектура CNN и Vision Transformer с локальным блочным и глобальным разреженным вниманием по нескольким осям. Модель предназначена для классификации изображений и может использоваться как визуальный backbone для извлечения признаков; классификационная обёртка возвращает логиты классов, а базовая модель — признаки. Реализация Keras 3 заявлена как запускаемая без изменений на TensorFlow, Torch и JAX; репозиторий содержит веса TensorFlow. Модель основана на варианте MaxViT Small с входным разрешением 224 пикселя и обучением на ImageNet-1k согласно описанию базовой модели. Лицензия — Apache-2.0. Ограничения: карточка отсылает к upstream-модели за подробностями и не приводит конкретных метрик качества или полного перечня классов.
mHuBERT-147 — компактная многоязычная модель извлечения речевых признаков, разработанная в рамках европейского проекта UTTER. Это вторая итерация модели на архитектуре HuBERT base: в README указано 95 млн параметров, а метаданные репозитория сообщают 113,3 млн. Модель обучена на 90 тысячах часов открытых данных для 147 языков с использованием дискретных речевых единиц, полученных с помощью faiss IVF. В репозитории представлены исходный чекпойнт Fairseq, конвертированный чекпойнт для Hugging Face Transformers и индекс Faiss. Модель предназначена для извлечения представлений из речи и может служить основой для последующих речевых систем, включая распознавание речи и определение языка. В README сообщается о высоких результатах на лидербордах ML-SUPERB, в том числе о сильных результатах для задач определения языка. Поддержка охватывает 147 языков; в метаданных перечислены лишь часть языковых кодов. Лицензия — CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных материалов на тех же условиях и ограничивает коммерческое использование.
nvidia/mit-b2 — предобученный на ImageNet-1k энкодер SegFormer размера B2, представленный командой Hugging Face. Архитектура сочетает иерархический Transformer-энкодер с лёгкой MLP-головой декодирования в семействе SegFormer; этот репозиторий содержит только энкодер, без декодирующей головы. Метаданные указывают реализации PyTorch и TensorFlow. Модель предназначена для классификации изображений по 1000 классам ImageNet и как основа для дообучения на семантическую сегментацию. Её можно адаптировать к сегментации сцен, например на наборах ADE20K или Cityscapes, добавив и обучив декодирующую голову. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.
EuroEval/mmBERT-small-multi-wiki-qa-synthetic-hallucinations-with-ragtruth-bg — модель на базе архитектуры ModernBERT для token classification, опубликованная в экосистеме EuroEval. Она предназначена для разметки отдельных токенов в текстах, в частности для анализа синтетических галлюцинаций в материалах, связанных с вопросно-ответными системами, Wikipedia и RAGTruth; суффикс bg указывает на болгарскую языковую версию или набор данных. Модель содержит около 140,5 млн параметров, работает через библиотеку Transformers и поддерживает контекст до 8192 токенов. По названию и метаданным её можно рассматривать как специализированный компонент для обнаружения или классификации фрагментов текста, связанных с галлюцинациями и достоверностью ответов в RAG-сценариях. README не содержит сведений о разработчиках, лицензии, точных метках классов, обучающих данных, результатах оценки и готовом способе применения, поэтому эти характеристики нельзя подтвердить.
mobilenetv2_050.lamb_in1k — модель классификации изображений семейства MobileNetV2, опубликованная проектом timm. Она обучена на ImageNet-1k и предназначена для распознавания объектов на изображениях; её также можно использовать как компактную основу для извлечения карт признаков и получения эмбеддингов изображений. Модель содержит около 2 млн параметров, требует примерно 0,1 GMAC на изображение и рассчитана на вход размером 224 × 224 пикселя. При обучении применялась схема с оптимизатором LAMB и усреднением весов EMA; репозиторий предоставляет веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Компактный размер делает модель подходящей для задач классификации с ограниченными вычислительными ресурсами. Её классы и качество ориентированы на ImageNet-1k, поэтому для других предметных областей может потребоваться адаптация; сведения о других языковых или мультимодальных возможностях в карточке не приводятся.
mobilenetv4_hybrid_large.ix_e600_r384_in1k — модель классификации изображений семейства MobileNetV4, обученная Россом Уайтманом с помощью timm на ImageNet-1k. Это гибридная крупная архитектура, предназначенная для классификации изображений и использования в качестве визуального backbone для извлечения карт признаков и эмбеддингов. Веса доступны в форматах PyTorch и safetensors; модель содержит 37,8 млн параметров и обучалась на изображениях размером 384 × 384 пикселя, а для оценки использовался размер 448 × 448. Обучение выполнено с гиперпараметрами, вдохновлёнными статьёй MobileNetV4 и дополненными настройками timm. Модель распространяется по лицензии Apache-2.0. В README отмечено, что официальные веса TensorFlow на момент публикации не были доступны.
MobileViT-v2 0.5 — компактная модель классификации изображений из семейства MobileViT-v2, опубликованная авторами статьи и обученная на ImageNet-1k. Она предназначена для классификации изображений, а также может использоваться как backbone для извлечения карт признаков и эмбеддингов. Модель содержит около 1,4 млн параметров, требует 0,5 GMACs и рассчитана на изображения размером 256 × 256 пикселей. Архитектура сочетает мобильную обработку изображений с механизмом self-attention; веса доступны в форматах PyTorch и safetensors. Лицензия указана как other, а подробности предлагается смотреть отдельно.
MobileViT XS — лёгкая модель классификации изображений и извлечения признаков, опубликованная авторами статьи MobileViT и обученная на ImageNet-1k. Она сочетает свёрточные блоки с Vision Transformer и рассчитана на эффективную работу, в том числе на мобильных устройствах. Модель содержит около 2,3 млн параметров, требует изображение размером 256 × 256 пикселей и выполняет примерно 1,1 GMAC на изображение. Модель подходит для определения объектов и сцен по изображению, получения карт признаков и построения векторных представлений для последующих задач компьютерного зрения. Репозиторий использует библиотеку timm; веса доступны в форматах PyTorch и safetensors. Указана лицензия other; конкретные условия следует сверить с лицензионными материалами разработчика.
moe-sovereign-student-4b — специализированная языковая модель на 4 млрд параметров, разработанная на базе Qwen/Qwen3.5-4B и дообученная с помощью LoRA на суперкомпьютере LUMI-G. Модель предназначена не для универсального диалога, а для роли мета-оркестратора и компилятора рабочих процессов в составных AI-системах. Она преобразует запросы пользователя в исполнимые типизированные DAG-графы задач, распределяет подзадачи между специализированными экспертами, подготавливает параметры для инструментов MCP и направляет обход графов знаний и систем памяти. Основные сценарии применения включают многошаговое планирование инженерных задач, маршрутизацию к экспертам по программированию, безопасности, инфраструктуре, исследовательским и другим направлениям, а также вызов детерминированных инструментов вроде SMT/Z3-решателей, калькуляторов, линтеров и средств анализа кода. Модель ориентирована на формирование чистого JSON без вводных пояснений и markdown, соблюдение JSON Schema, создание небольших исполнимых планов из 1–4 подзадач и делегирование сложных вычислений специализированным компонентам. В README указаны языки English и German, однако модальности, максимальный контекст и точная архитектура самой дообученной модели не раскрыты; базовая модель описана как Qwen3.5-4B Hybrid Mamba. Сильные стороны модели — узкая специализация на оркестрации, дисциплина структурированного вывода, маршрутизация доменных экспертов и параметризация MCP-инструментов. Согласно приведённой оценке на 1 000 отложенных задач, заявлены высокие показатели соответствия JSON Schema, валидности DAG и точности маршрутизации, однако результаты представлены в README автора и не сопровождаются полной независимой верификацией. Ограничение модели — неприменимость в качестве обычного чат-бота или самостоятельного источника знаний: она рассчитана на работу во внешней инфраструктуре с экспертными моделями, MCP-инструментами, GraphRAG и системами памяти. Лицензия — Apache 2.0.
Это англоязычная модель-переранжировщик для научных статей, созданная дообучением cross-encoder/ms-marco-MiniLM-L6-v2 на обучающей части набора QASPER. Она оценивает пары «вопрос — фрагмент статьи» и переставляет найденные поиском фрагменты по тому, насколько хорошо они отвечают на вопрос. Модель предназначена для этапа поиска в RAG-системах: например, она может упорядочить 20 кандидатов гибридного поиска, чтобы передать языковой модели наиболее релевантные отрывки. Модель использует архитектуру BERT в варианте cross-encoder, содержит 25,9 млн параметров и принимает текстовые пары с контекстом до 512 токенов. На тестовом разделении QASPER связка гибридного поиска с этим переранжировщиком показала Hit@4 79,6% и MRR@10 0,637; результаты относятся к описанному эксперименту на научных статьях на английском языке. Модель распространяется по лицензии Apache-2.0.
Это модель классификации изображений NaFlexViT Base Patch16 GAP, разработанная Россом Уайтманом для библиотеки PyTorch Image Models (timm). Она обучена на ImageNet-1k и также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов изображений. Модель основана на Vision Transformer с патчами 16×16, двумерными позиционными эмбеддингами и глобальным усреднением признаков. Вариант NaFlex поддерживает изображения с разными соотношениями сторон и разрешениями благодаря гибкой обработке последовательностей патчей; в обучении использовались длины последовательностей от 128 до 1024. Веса содержат около 86,6 млн параметров. Для указанного режима оценки приведена точность Top-1 83,50% и Top-5 96,46% на ImageNet-1k. Модель подходит для распознавания объектов на фотографиях и как визуальный backbone в компьютерном зрении. Она обучена на ImageNet-1k, поэтому качество на специализированных предметных областях может требовать дообучения. Репозиторий распространяется по лицензии Apache-2.0.
NaturalFunctions-7B — языковая модель на архитектуре Mistral, дообученная разработчиком репозитория на базе Mistral-7B для вызова функций. Она предназначена для диалоговых сценариев, в которых модель выбирает доступную функцию и формирует вызов по запросу пользователя. В карточке также указаны обучающие наборы Glaive Function Calling v2 и Capybara. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса Safetensors для библиотеки Transformers. Лицензия — Apache-2.0. Модель можно применять как компонент ассистента с функциями или инструментами. Карточка не сообщает о результатах оценки качества и не описывает точный формат вызовов, поэтому совместимость с конкретными интерфейсами инструментов следует проверять отдельно.
NVIDIA Nemotron-3-Super-120B-A12B-Base — базовая большая языковая модель, обученная NVIDIA с нуля для дальнейшего дообучения, в том числе под следование инструкциям и генерацию кода. Это не чат-модель, а исходная платформа для разработчиков и исследователей, создающих специализированные языковые модели и AI-агентов. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, а также отдельными слоями Attention и Multi-Token Prediction. В README заявлены 120 млрд параметров всего и 12 млрд активных; метаданные Hugging Face указывают 6,6 млрд параметров. Поддерживается контекст до 1 048 576 токенов. Модель принимает и генерирует текст; заявлена поддержка 20 языков, включая русский, английский и китайский. Обучение велось более чем на 25 трлн токенов с NVFP4 для повышения вычислительной эффективности; MTP может ускорять генерацию с помощью speculative decoding. Модель предназначена для коммерческого использования. В метаданных указана лицензия other, поэтому конкретные условия следует сверять с лицензией и условиями распространения NVIDIA. Для запуска NVIDIA ориентирует на GPU-системы, в частности Ampere, Hopper и Blackwell; применение требует проверки на данных конкретного сценария. Это базовая модель, поэтому готовое следование инструкциям или качество чат-ответов не гарантируются.
omniASR-W2V-300M — преобразованная в формат Hugging Face базовая самоконтролируемая аудиоэнкодерная модель Wav2Vec2, созданная автором репозитория на основе контрольной точки OmniLingual fairseq2 omniASR_W2V_300M. Модель содержит около 402,7 млн параметров; в README указаны 24 слоя энкодера и размер скрытого состояния 1024. Это энкодер без CTC-головы, предназначенный для извлечения признаков речи, анализа представлений и дообучения для последующих речевых задач. Модель принимает аудио и возвращает последовательности векторных представлений. Автор сообщает, что численные выходы преобразованной версии совпали с исходной контрольной точкой на проверочном аудиофрагменте с точностью atol=1e-4. Карточка не указывает языковой охват, контекст или лицензию; поэтому область применения и условия использования следует сверить с исходной моделью OmniLingual перед внедрением.
OpenBuddyEA/openbuddy-llama2-70b-v13-base — базовая многоязычная языковая модель семейства LLaMA 2, выпущенная командой OpenBuddy. Это плотная авторегрессионная модель на 68,8 млрд параметров для генерации текста; карточка указывает контекст до 4096 токенов и поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель обучена примерно на 50% разговорных данных и сохраняет способности к диалогу, но не прошла полноценную настройку для обычных бесед. Её предназначение — дальнейшее дообучение и создание специализированных моделей; для готового чат-бота авторы рекомендуют варианты OpenBuddy без суффикса «-base». Модель распространяется по лицензии Llama 2 и требует соблюдения условий Meta, включая получение допуска к загрузке. Возможны ошибочные, вредные или оскорбительные ответы; авторы предостерегают от использования в критически важных сценариях.
OpenHands Critic 4B v1.0 — языковая модель на базе Qwen/Qwen3-4B, разработанная OpenHands для оценки траекторий работы ИИ-агентов. Модель дообучена на всех параметрах базовой модели с функцией потерь BCE и предсказывает 26 меток: 25 признаков поведенческой рубрики и одну оценку успешности задачи. Модель предназначена для классификации результатов работы агента в инструментах OpenHands Software Agent SDK и OpenHands CLI. Она принимает текстовые данные о траектории агента и выдаёт оценки по нескольким меткам; для запуска автор рекомендует OpenHands SDK. Контекст при обучении составлял 64K токенов, заявлена поддержка до 256K. Репозиторий содержит веса Safetensors, число параметров — около 3,7 млрд. Лицензия — MIT. Модель специализируется на оценке поведения и успешности ИИ-агентов; её выход — классификационные оценки, а не обычный диалоговый ответ. Карточка не раскрывает состав 25 рубричных признаков, поэтому интерпретация отдельных оценок зависит от определений и подсказок проекта OpenHands.
open-vakgyata — модель OneCXI для определения языка по входящей речи. Она классифицирует аудио на индийские языки и английский вариант, используемый в Индии. Модель построена на архитектуре wav2vec2 и содержит 52,6 млн параметров; для работы используется библиотека Transformers. В README указана частота дискретизации 16 кГц и рекомендован формат PCM, 16 бит. Модель подходит для предварительного определения языка в речевых системах, маршрутизации звонков и аналитики аудио. В README перечислены английский (Индия), хинди и одия, а метаданные также указывают бенгальский, тамильский, телугу, каннада, малаялам, маратхи и гуджарати. Доступны файлы safetensors и ONNX. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель классифицирует язык аудио, а не выполняет распознавание речи в текст.
Parrot Fluency Model — вспомогательная модель фреймворка Parrot, разработанного для расширения обучающих данных NLU с помощью перефразирования. Она классифицирует текст и предназначена для оценки беглости вариантов высказываний в процессе отбора перефразировок. Модель построена на архитектуре BERT для классификации последовательностей, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель распространяется по лицензии Apache-2.0. Карточка описывает её как компонент более широкой системы Parrot, а не как самостоятельную модель для генерации перефразировок; генерацию выполняет отдельная модель Parrot на основе T5.
POLAR-7B-Base — предварительно обученная скалярная модель вознаграждения, разработанная командой InternLM. Она использует парадигму Policy Discriminative Learning для оценки того, насколько кандидатная траектория согласуется с заданной эталонной траекторией. Модель предназначена для дообучения под конкретные предпочтения и сценарии обучения с подкреплением; в отличие от готовой к применению POLAR-7B, этот чекпойнт не прошёл финальную настройку на общих данных предпочтений. Модель основана на плотной архитектуре InternLM2 и содержит 7,4 млрд параметров. Она принимает запрос, эталонный ответ и оцениваемый ответ, а выдаёт оценку вознаграждения. Указанная длина контекста — 262 144 токена. В метаданных отмечены английский и китайский языки. Модель доступна в формате PyTorch по лицензии Apache-2.0. POLAR рассчитана на построение сигналов вознаграждения для траекторий LLM и последующее применение в reinforcement fine-tuning. Для оценки требуется эталонная траектория; модель не является универсальным генератором ответов и для немедленного использования с общими предпочтениями карточка рекомендует отдельный чекпойнт POLAR-7B. README сообщает о хорошей обобщающей способности и снижении reward hacking, но не приводит здесь количественных оценок для данного базового чекпойнта.
Daewon0808 дообучил Meta Llama 3.1 8B Instruct на 7,5 млрд параметров; веса доступны в формате safetensors. По названию репозитория и приведённым метрикам PRM модель предназначена для оценки шагов в решениях задач и проверки корректности рассуждений. В README указаны accuracy 0,8491 и F1 0,9059 на оценочном наборе, однако описание набора данных и подробности оценки отсутствуют. Модель принимает текст и генерирует текст; метаданные указывают на диалоговые возможности, контекст до 131 072 токенов и поддержку интерфейса вызова инструментов. Базовая модель поддерживает многоязычные диалоги, но языки обучения этой производной модели не описаны. Условия использования наследуются от лицензии Llama 3.1.
Prometheus 7B V1.0 GGUF — квантизированная версия модели Prometheus 7B V1.0, разработанной KAIST AI и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama, содержит около 7 миллиардов параметров и предназначена для оценки качества ответов на инструкции с использованием заданных критериев. Модель принимает инструкцию, оцениваемый ответ, эталонный ответ с оценкой 5 и рубрику оценивания. Она генерирует подробную обратную связь, строго ориентированную на указанные критерии, а затем целочисленную оценку от 1 до 5. Указан английский язык и сценарий text-to-text generation; поддерживаются варианты запуска через llama.cpp и совместимые приложения и библиотеки. Ключевое преимущество модели — специализация на структурированной оценке ответов и наличие нескольких вариантов квантизации для запуска на CPU и GPU с меньшими требованиями к ресурсам. Ограничения включают узкую задачу оценивания, английскую языковую специализацию и возможные потери качества из-за квантизации; размер контекста в данных не указан. Лицензия — Apache-2.0.