II.10Разработка и эксплуатация AI/ML-систем
В разделе собраны самостоятельные задачи, где AI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
49 000 моделейTostAI/nsfw-text-detection-large — модель классификации текста, дообученная Michał Młodawski на основе roberta-large. Она анализирует текстовые промпты для генерации изображений и относит их к одному из трёх классов: SAFE, QUESTIONABLE или UNSAFE. Модель построена на архитектуре RoBERTa для классификации последовательностей, содержит 454,1 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для автоматической модерации промптов в сервисах генерации изображений: она помогает отсеивать потенциально небезопасные запросы, отмечать неоднозначные для дополнительной проверки и поддерживать правила безопасности платформы. В README заявлены точность 93%, precision 88% и recall 90%; описание не приводит протокол оценки или сведения о тестовом наборе, поэтому эти показатели следует трактовать с учётом условий тестирования. Модель рассчитана на английский язык. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC-ND 4.0 требует атрибуции и ограничивает коммерческое использование и распространение производных материалов.
Это квантизированная GGUF-версия модели Llama-3_3-Nemotron-Super-49B-GenRM-Multilingual, разработанной NVIDIA и подготовленной bartowski с использованием llama.cpp и imatrix-квантизации. Модель относится к классу GenRM и предназначена прежде всего для оценки и ранжирования ответов ассистента по критериям полезности, корректности, полноты, ясности и соблюдения инструкций, а не для обычного диалогового использования. В карточке также указано, что при квантизации использовался датасет NVIDIA HelpSteer3. Модель основана на архитектуре Llama 3.3 и имеет 49 миллиардов параметров. Доступны варианты от BF16 до различных уровней GGUF-квантизации, включая Q8_0, Q6_K и Q5_K_M; рекомендуемым указан Q6_K. Поддерживаются английский, китайский, корейский, французский, испанский, русский, японский, немецкий, итальянский, португальский, польский, индонезийский, нидерландский и вьетнамский языки. Модель рассчитана на запуск через llama.cpp, LM Studio и совместимые проекты. Размер контекста в README не указан. Сильными сторонами являются мультиязычная оценка ответов, специализация на judging-задачах и доступность в нескольких вариантах квантизации, позволяющих выбирать баланс между качеством и требованиями к памяти. Ограничение состоит в узкой специализации: модель следует использовать как оценочную, а не как универсальную генеративную модель; характеристики качества и совместимости могут зависеть от выбранного варианта квантизации. Лицензия указана как NVIDIA Open Model License; ссылка на условия приведена в карточке модели.
allenai/OLMo-2-1124-7B-RM — англоязычная диалоговая модель с 6,9 млрд параметров из семейства OLMo 2, разработанного Allen Institute for AI. Это дообученная версия OLMo-2-1124-7B-SFT: по карточке она прошла supervised fine-tuning и DPO на варианте набора Tülu 3; архитектура — плотная модель для классификации последовательностей, работающая через Transformers и PyTorch. Контекст составляет 4096 токенов. Модель предназначена для диалогов и задач следования инструкциям, включая математические задачи и оценивание ответов. Метаданные относят её к генерации текста и классификации текста; для практического использования reward-моделей карточка рекомендует библиотеку Open Instruct, поскольку поддержка в Transformers требует регистрации класса Olmo2ForSequenceClassification. Лицензия — Apache 2.0. Основной язык — английский. Карточка предупреждает, что у моделей OLMo-2 ограничено обучение безопасности, поэтому ответы могут быть проблемными, особенно при соответствующих запросах; автоматической фильтрации ответов нет.
Это опубликованный Positron AI контрольный чекпойнт модели openai/gpt-oss-20b: веса исходного выпуска в MXFP4 преобразованы в bf16 без дополнительной квантизации. Архитектура — GPT-OSS с разреженной экспертной моделью (MoE); в метаданных указано 1,6 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса в safetensors и поддерживает диалоговое применение через text-generation. Чекпойнт предназначен прежде всего для использования как bf16-эталон или базовая точка сравнения с квантизованными сборками openai/gpt-oss-20b. Он подходит для генерации текста и диалогов, а также для оценки различий между точностью bf16 и квантизованными вариантами. Языки, на которые модель рассчитана, в предоставленных данных не перечислены. Применяются лицензия Apache-2.0 и ограничения использования исходной модели.
Phi-3-mini-4k-instruct-bnb-4bit — инструкционная языковая модель семейства Phi, разработанная Microsoft AI и командой Phi и опубликованная в 4-битном формате квантования через Unsloth. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для дообучения на собственных наборах данных с использованием Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с английским языком и имеет контекстное окно на 4K токенов. Суффикс bnb-4bit указывает на 4-битное представление, ориентированное на снижение требований к памяти и запуск на более доступном оборудовании. README также указывает на поддержку дообучения и последующего экспорта в форматы GGUF и vLLM, однако точный размер модели, архитектура и результаты оценки для этой конкретной версии не приведены. Сильными сторонами являются компактное квантованное представление и пригодность для локального запуска и экспериментов с дообучением. Ограничения включают заявленную языковую специализацию на английском, ограничение контекста 4K токенами и возможные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии MIT.
unsloth/Qwen2.5-1.5B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров; она принимает текст и генерирует продолжение. В карточке указаны контекст до 32 768 токенов, формат safetensors и библиотека Transformers. Базовая архитектура использует RoPE, SwiGLU, RMSNorm и групповое внимание; README описывает исходную модель Qwen2.5 с 28 слоями. Модель предназначена для генерации текста и дальнейшего дообучения под конкретные задачи. Qwen2.5 поддерживает множество языков, в том числе китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Базовая предобученная версия не рекомендуется для диалогов без дополнительной настройки. Лицензия — Apache 2.0.
Qwen2.5-7B-Instruct_EAGLE3_UltraChat — вспомогательная модель для ускорения генерации текста с помощью алгоритма спекулятивного декодирования EAGLE-3. Она создана на базе Qwen2.5-7B-Instruct с использованием SpecForge и обучена на наборе UltraChat 200k; метаданные указывают архитектуру LlamaForCausalLMEagle3 и формат safetensors. Модель выступает в роли draft-модели вместе с целевой языковой моделью и предлагает токены-кандидаты, чтобы сократить задержку декодирования. В README приведены оценки ускорения для Qwen2.5-32B-, 14B- и 7B-Instruct при тестировании на задачах математики, вопросов и ответов и программирования; результат зависит от целевой модели и настроек спекуляции. Это не самостоятельный ассистент для пользовательских запросов: её назначение — работа в связке с поддерживаемой целевой моделью через EAGLE-3, например в vLLM. Метаданные указывают 778 млн параметров, контекст 32 768 токенов и лицензию Apache-2.0. README приводит пример запуска с ограничением длины контекста целевой модели до 2 048 токенов; эти параметры запуска не следует считать гарантированной конфигурацией модели для всех сценариев.
NVIDIA Qwen3-30B-A3B-Thinking-2507-Eagle3 — вспомогательная модель Eagle для спекулятивного декодирования базовой Qwen3-30B-A3B-Thinking-2507. Она добавляет Eagle3-модуль, который предлагает несколько следующих токенов, а базовая модель проверяет кандидатов; это позволяет ускорить генерацию при использовании TensorRT-LLM. В метаданных указаны 409,7 млн параметров, архитектура LlamaForCausalLMEagle3 и контекст до 262 144 токенов. В README размер указан иначе — 120 млн параметров. Модель предназначена для ускорения текстовой генерации в чат-ботах, агентных системах, RAG-приложениях и других сценариях следования инструкциям. При обучении Eagle-модуля использовались синтетические данные, созданные на основе Qwen3-235B-A22B-Thinking-2507; опубликованные результаты MT-Bench показывают коэффициент принятия кандидатов для отдельных категорий, а не самостоятельное качество ответов. Для работы описана интеграция с TensorRT-LLM и GPU NVIDIA Blackwell под Linux. Указана лицензия Apache 2.0; модель рассчитана на применение вместе с базовой моделью, а не как самостоятельный генератор.
Qwen3.5-4B-Base — базовая мультимодальная модель семейства Qwen3.5, разработанная командой Qwen. Это предварительно обученная причинная языковая модель с визуальным энкодером, предназначенная прежде всего для дообучения, экспериментов с обучением в контексте и разработки, а не для прямого диалога без дополнительной настройки. Модель содержит 4 млрд параметров и использует гибридную архитектуру Gated Delta Networks и gated attention; карточка описывает 32 слоя и контекстное окно 262 144 токена с возможностью расширения до 1 010 000 токенов. Она принимает текст и изображения и формирует текстовые ответы. Семейство заявляет поддержку 201 языка и диалекта. Веса и конфигурация доступны в формате Safetensors для Transformers и совместимых сред. Модель рассчитана на разработчиков, которым нужна компактная мультимодальная основа для настройки собственных приложений, экспериментов с визуальным пониманием и обработки длинного контекста. В README также указана возможность эффективного LoRA-style PEFT с официальным шаблоном чата. Лицензия — Apache 2.0.
Qwen3.8-27B-DFlash2 — черновая модель DFlash 2 для ускорения генерации базовой Qwen/Qwen3.8-27B с помощью спекулятивного декодирования. Это не самостоятельная языковая модель: она работает внутри сервера спекулятивного декодирования и предлагает блоки токенов, которые затем проверяет целевая модель. Чекпойнт содержит 2,9 млрд параметров, использует архитектуру DFlash2DraftModel и формат Safetensors; базовая модель имеет контекст до 262 144 токенов. Модель предсказывает блок токенов за один проход, сохраняет несколько кандидатов для каждой позиции и выбирает согласованную последовательность. По README, жадное декодирование сохраняет точное совпадение с выводом целевой модели, а при семплировании — её распределение. В тестах на SGLang с NVIDIA H200 авторы показывают ускорение генерации на GSM8K, MATH-500 и HumanEval; фактический выигрыш зависит от нагрузки и конфигурации сервера. Модель предназначена для серверного ускорения генерации Qwen3.8-27B, а не для самостоятельного диалога или инференса. Для работы требуется совместимая целевая модель и инфраструктура спекулятивного декодирования, например SGLang. Лицензия — Apache-2.0.
alphakek/Qwen3.8-27B-heretic-ara-DFlash2 — черновая модель DFlash 2, дообученная на базе heretic-org/Qwen3.8-27B-heretic-ara для ускорения генерации текста методом speculative decoding. Она принимает скрытые состояния целевой модели и предназначена только для совместного использования с этим чекпойнтом; для обычной Qwen3.8-27B в карточке указана другая черновая модель. Модель основана на архитектуре Qwen3 и классе DFlash2DraftModel, имеет 2,9 млрд параметров и контекст 262 144 токена. По результатам приведённого в карточке теста на конкретной конфигурации vLLM она показала более высокую скорость генерации и длину принятого спекулятивного блока по сравнению с исходным черновиком; эти результаты относятся к описанному стенду и не гарантируют такой же прирост в других условиях. Для запуска требуется реализация DFlash2 в vLLM. Лицензия — Apache-2.0.
Это визуальный энкодер семейства Qwen ViT, опубликованный в репозитории timm как преобразованная версия весов зрительной части Qwen-Drive-1.0-4B. Модель предназначена для извлечения признаковых представлений изображений и подготовки эмбеддингов или карт признаков для последующей обработки и классификации.
Это визуальный энкодер семейства Qwen3 ViT, перенесённый в формат timm из весов зрительной части Qwen3.8-27B. Модель разработана на основе Qwen и предназначена для извлечения признаков изображений и получения векторных представлений для последующей классификации или других задач компьютерного зрения. Веса не дообучались при переносе; языковые веса и обученная классификационная голова в чекпойнт не входят. Энкодер содержит около 415 млн параметров, использует абсолютные позиционные эмбеддинги с интерполяцией и двумерное осевое RoPE. Опорный размер изображения — 768 × 768; поддерживаются прямоугольные изображения, если каждая сторона кратна 16, а варианты с объединением токенов 2 × 2 требуют кратности 32. Модель принимает RGB-изображения, нормализованные со средним и стандартным отклонением 0,5 по каждому каналу, и возвращает карты признаков либо объединённые векторы изображения. Чекпойнт подходит как визуальный бэкбон для извлечения признаков и последующего обучения классификатора на целевом наборе данных. Сам классификационный слой отсутствует, поэтому для классификации требуется добавить и обучить новую голову. Лицензия — Apache 2.0.
Это визуальный энкодер семейства Qwen3-VL, представленный в формате timm. Модель содержит около 415 млн параметров и извлечена из Qwen/Qwen3-VL-30B-A3B-Instruct; README уточняет, что веса изображения перенесены в timm без дополнительного обучения. Языковые веса и обученная голова классификации в репозитории отсутствуют. Энкодер преобразует RGB-изображения в пространственные признаки и эмбеддинги. В архитектуре используются MLP с GELU-tanh, обучаемые абсолютные позиционные представления и осевой 2D RoPE; доступны промежуточные карты признаков. Указан размер изображения 768 × 768, поддерживаются прямоугольные изображения, размеры сторон должны делиться на 16, а для вариантов с объединением 2 × 2 — на 32. Для классификации нужно добавить и обучить линейную голову на целевом наборе данных. Модель подходит для извлечения визуальных признаков и подготовки энкодера к последующей классификации изображений. Она не включает языковую модель и проекторы DeepStack Qwen3-VL. Лицензия — Apache 2.0.
Qwen3-VL-8B-Instruct-Unredacted-MAX — мультимодальная модель на 8 млрд параметров от prithivMLmods, дообученная на Qwen/Qwen3-VL-8B-Instruct. Это плотная vision-language-модель Qwen3-VL для диалога и задач, где нужно совместно анализировать изображения и текст; она поддерживает переменное разрешение изображений и выдаёт текстовые ответы, подписи и структурированные описания. Модель подходит для генерации подписей к изображениям, подготовки наборов данных, визуального рассуждения, тестирования устойчивости VLM и прототипирования систем с анализом изображений. В карточке отмечены улучшения упаковки, стабильности инференса и совместимости с современными версиями Transformers. Качество зависит от чёткости изображения, формулировки запроса и параметров генерации; на сложных сценах рассуждения могут быть неполными или непоследовательными, а качество меняется в зависимости от предметной области. Для инференса может потребоваться от умеренного до большого объёма VRAM, особенно при высоком разрешении. Лицензия — Apache-2.0.
rdnet_base.nv_in1k — модель классификации изображений и визуальный backbone семейства RDNet, опубликованный Naver AI. Модель обучена на ImageNet-1k; в карточке указаны точность top-1 84,4% на валидационной выборке, 87 млн параметров и вычислительная сложность 15,4 GMACs. Рекомендуемый размер входного изображения — 224 × 224 пикселя. Модель предназначена для классификации изображений, извлечения карт признаков и получения визуальных эмбеддингов. Её можно использовать как готовый классификатор или как основу для компьютерного зрения в прикладных системах. Веса доступны в формате PyTorch, библиотека модели — timm. Лицензия — BSD 3-Clause.
RegNetY-800MF — модель классификации изображений из семейства RegNetY, опубликованная в репозитории timm. Веса предварительно обучены на ImageNet-1k участниками torchvision; модель содержит около 6,4 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для классификации изображений и может использоваться как сверточная основа для извлечения карт признаков и эмбеддингов изображений. Реализация timm поддерживает стохастическую глубину, градиентный чекпойнтинг, настройку шага выходных карт признаков и конфигурируемые слои активации и нормализации. Для использования весов применяется лицензия BSD 3-Clause. Описание не приводит метрик качества именно для этой версии; при обработке изображений другого размера или из домена, отличного от ImageNet, качество может отличаться.
RegNetY-1.6GF — сверточная модель классификации изображений из семейства RegNetY, опубликованная авторами статьи и распространяемая через библиотеку timm. Она предварительно обучена на ImageNet-1k и может использоваться для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Модель содержит около 11,2 млн параметров, имеет вычислительную стоимость 1,6 GMAC и рассчитана на входные изображения размером 224 × 224 пикселя. В реализации timm доступны стохастическая глубина, градиентное чекпойнтирование и настройка выходного шага, а также конфигурируемые функции активации и нормализации. Модель предназначена для задач компьютерного зрения общего назначения, где требуется распознавать объекты на изображениях или использовать визуальные признаки в последующих системах. Лицензия — MIT.
RegNetY-8GF — свёрточная модель классификации изображений из семейства RegNetY, опубликованная в репозитории timm. Эти веса предварительно обучены на ImageNet-1k участниками torchvision. Модель содержит 39,4 млн параметров и рассчитана на изображения размером 224 × 224 пикселя; её также можно использовать как основу для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для определения объектов и категорий на изображениях, а также для получения визуальных признаков в компьютерном зрении. Реализация timm поддерживает stochastic depth, gradient checkpointing, настраиваемые слои активации и нормализации и изменение выходного шага сети. Репозиторий предоставляет веса в форматах PyTorch и safetensors. Лицензия — BSD-3-Clause.
timm/regnety_320.seer — модель компьютерного зрения на архитектуре RegNetY-32GF, разработанная Meta и распространяемая через timm. Она предварительно обучена самообучением SwAV на наборе из 2 млрд случайных интернет-изображений и предназначена для извлечения признаков и карт признаков, получения эмбеддингов изображений и классификации изображений. Модель содержит 141,3 млн параметров; в карточке также указаны вычислительная сложность 32,3 GMACs и размер изображения 224 × 224. Модель можно использовать как визуальный backbone для классификаторов и других систем компьютерного зрения, а также для получения векторных представлений изображений. Реализация timm поддерживает, среди прочего, stochastic depth, gradient checkpointing и настройку выходного шага. Веса доступны в форматах PyTorch и safetensors. Применение и распространение ограничены некоммерческой лицензией SEER Meta Platforms.
ReLU-CLIP — компактная модель классификации изображений без дополнительного обучения, созданная командой, представившей исследование ReLU-CLIP. В ней замороженный визуальный энкодер CLIP ViT-L/14 дистиллирован в небольшую сверточную сеть efflite4 с ReLU/ReLU6 и BatchNorm; модель объединяет визуальные представления изображений с заранее подготовленными текстовыми представлениями категорий. Основной сценарий — классификация по пользовательским текстовым описаниям, включая ImageNet-1k и собственные наборы классов. Вариант efflite4 содержит 12,71 млн параметров. Для него заявлены точность top-1 68,25% на ImageNet-1k в int8, размер графа 13,6 МиБ и скорость 37,8 кадра/с на Coral USB Edge TPU; полный граф выполняется на ускорителе. Репозиторий включает веса PyTorch и графы TFLite, в том числе int8 для Edge TPU. Модель принимает изображение, а классификационные оценки получают сравнением его эмбеддинга с текстовыми эмбеддингами классов; текстовые представления можно подготовить заранее. Результат зависит от точного предобработчика изображения и L2-нормализации как текстовых представлений, так и выходного эмбеддинга модели. Указанные показатели точности измерены интерпретатором TFLite на CPU, а задержка — на Edge TPU; результаты на устройстве не полностью совпадают с CPU. Исследование использовало один seed, поэтому разброс между запусками не оценён. Лицензия — MIT.
RepVGG-A1 — сверточная модель классификации изображений, реализованная в библиотеке timm на основе гибкой архитектуры BYOBNet. Она обучена авторами статьи RepVGG на ImageNet-1k и предназначена для распознавания объектов на изображениях, а также может служить основой для извлечения признаков и эмбеддингов. Модель содержит около 14,1 млн параметров, требует 2,6 GMACs и рассчитана на входное изображение размером 224 × 224 пикселя. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — MIT.
ResNet-B — свёрточная модель классификации изображений из библиотеки timm, обученная на ImageNet-1k с использованием рецептов Bag of Tricks для Apache Gluon. Она содержит 11,7 млн параметров, использует активации ReLU, начальную свёртку 7×7 с пулингом и проекции 1×1 в shortcut-связях; стандартный размер входного изображения — 224×224. Модель также можно применять как основу для извлечения карт признаков и эмбеддингов изображений. Модель предназначена для классификации изображений на классы ImageNet-1k и получения визуальных признаков для последующих задач компьютерного зрения. Репозиторий предоставляет веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
timm/resnet34.gluon_in1k — свёрточная модель семейства ResNet34 для классификации изображений и извлечения признаков. Её подготовил проект timm; модель обучена на ImageNet-1k с использованием рецептов Bag of Tricks для классификации изображений в Apache Gluon. Архитектура использует активации ReLU, начальную свёртку 7×7 с пулингом и проекции 1×1 в shortcut-соединениях для уменьшения размерности. Модель содержит около 21,8 млн параметров, требует 3,7 GMACs и рассчитана на изображения размером 224×224. Помимо классификации, её можно применять как основу для извлечения карт признаков и эмбеддингов изображений. Модель принимает изображения и выдаёт классы либо признаки в зависимости от сценария использования. Лицензия Apache-2.0 разрешает использование на её условиях; качество классификации зависит от соответствия входных изображений ImageNet и требуемой предметной области.
Карточка модели DollasAndSpence/resnet-50 на Hugging Face совпадает с карточкой microsoft/resnet-50, поэтому описание составлено по ней. microsoft/resnet-50 — сверточная ResNet-50 v1.5, представленная в статье Deep Residual Learning for Image Recognition Хэ и соавторов. Модель предварительно обучена на ImageNet-1k и классифицирует изображения по 1000 классам. Расчётный размер входного изображения при обучении — 224×224 пикселя. Остаточные связи и блоки с узким местом позволяют обучать глубокую сеть. Вариант v1.5 переносит шаг уменьшения разрешения на свёртку 3×3; по данным карточки, это даёт примерно на 0,5% более высокую точность top-1, чем v1, при снижении пропускной способности примерно на 5%. Модель подходит для классификации изображений общего назначения и может служить отправной точкой для дообученных версий под конкретные задачи. Распространяется по лицензии Apache-2.0.
ResNetV2-50x1 BiT (Big Transfer) — сверточная модель классификации изображений семейства pre-activation ResNet, опубликованная авторами исследования и обученная на ImageNet-21k. Версия из репозитория timm содержит 68,3 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель предназначена для классификации изображений, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В архитектуре Group Normalization и Weight Standardization применяются вместо Batch Normalization. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0.
ResNeXt101_64x4d.gluon_in1k — сверточная модель классификации изображений из библиотеки timm. Она обучена на ImageNet-1k с использованием рецептов Bag-of-Tricks и может применяться как классификатор или основа для извлечения признаков и эмбеддингов изображений. Архитектура ResNeXt использует групповые свёртки 3×3 в bottleneck-блоках, остаточные соединения с проекцией через свёртку 1×1 и ReLU. Модель содержит около 83,5 млн параметров; указан стандартный размер входного изображения 224×224. Модель подходит для распознавания объектов и категорий на изображениях, а также для построения визуальных признаков в прикладных системах компьютерного зрения. Репозиторий предоставляет веса в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
RLHFlow/RewardModel-Mistral-7B-for-DPA-v1 — классификатор последовательностей на базе архитектуры Mistral, разработанный Haoxiang Wang. Модель предназначена для оценки ответов языковых моделей в рамках Directional Preference Alignment (DPA): она помогает оценивать соответствие ответов различным предпочтениям пользователя и использовать такие оценки при настройке поведения LLM. Работа связана со статьёй ACL 2024 «Arithmetic Control of LLMs for Diverse User Preferences: Directional Preference Alignment with Multi-Objective Rewards».
RhoBERTa — модель-классификатор текста для проверки ответов LLM на галлюцинации и выявления jailbreak-атак. Согласно карточке, она разработана как обёртка над cross-encoder/nli-deberta-v3-base с дополнительными вычислениями над оценками entailment, contradiction и neutral. Архитектура — RhobertaForSequenceClassification, размер — 211,6 млн параметров, максимальный контекст — 512 токенов; модель принимает текст и выдаёт классификационные оценки. Модель предназначена для проверки соответствия ответа LLM исходному контексту, в том числе в RAG-сценариях, и для выявления потенциально вредоносных инструкций. README заявляет работу без дообучения, оценку Quantum Confidence Score и пороговую блокировку сомнительных ответов. Эти заявления и приведённые в карточке метрики не подтверждены независимыми данными. Для загрузки README требует включить trust_remote_code=True, что исполняет пользовательский код репозитория. Лицензия — MIT.
pszemraj/rnj-1.5-instruct — перепакованная версия EssentialAI/rnj-1.5-instruct для быстрой проверки инференса и совместимости с Transformers. Это плотная текстовая причинная модель семейства Gemma 3 с 8,3 млрд параметров, доступная в формате safetensors и сохранённая в bfloat16. Поддерживает диалоговую генерацию текста и интерфейс вызова инструментов; метаданные указывают контекст до 163 840 токенов. В репозитории изменены настройки локального внимания: тип chunked_attention заменён на sliding_attention, а параметры RoPE перенесены в соответствующий раздел. Веса не изменены, однако окно скользящего внимания составляет 8192 токена, поэтому ответы на длинных запросах могут отличаться от исходной модели; для точного инференса с длинным контекстом автор README рекомендует upstream-репозиторий с vLLM 0.20.0. Модель распространяется по лицензии Apache-2.0.