II.10Разработка и эксплуатация AI/ML-систем

Qwen2.5-CascadeRL-RM-72B — модель вознаграждения NVIDIA на архитектуре Qwen2, дообученная на базе Qwen2.5-72B-Instruct с целевой функцией Bradley–Terry. Она оценивает предпочтительность ответа ассистента: на вход подаётся диалог пользователя и ассистента, а модель присваивает оценку последнему ходу ассистента. Модель предназначена для этапа обучения с подкреплением на основе обратной связи от людей (RLHF), в том числе в семействе Nemotron-Cascade. Модель содержит 71,5 млрд параметров, использует архитектуру классификации последовательностей и поддерживает контекст до 32 768 токенов. Карточка приводит результаты RewardBench: 95,15 в целом, с высокими оценками для чата, безопасности и рассуждений. Репозиторий содержит веса Safetensors для Transformers. Лицензия указана как other, поэтому условия использования следует сверять с лицензией и сопутствующими материалами репозитория.

Qwen2-7B — базовая предобученная языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 7,1 млрд параметров; в README указаны SwiGLU, смещение в проекциях QKV и групповое внимание. Модель принимает текст и предназначена для дообучения, например с помощью SFT, RLHF или продолжения предобучения, перед использованием в прикладной генерации текста. Модель оценивается на задачах понимания и генерации текста, вопросах и ответах, программировании, математике, рассуждениях и многоязычных тестах. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. Метаданные указывают контекст до 131 072 токенов и формат весов safetensors; карточка описывает базовую, а не instruction-tuned версию. Модель распространяется по лицензии Apache-2.0. Разработчики не рекомендуют использовать базовую версию для непосредственной генерации текста; качество на конкретных прикладных задачах может потребовать постобучения и отдельной проверки.

RedHatAI/Qwen3-14B-speculator.eagle3 — спекулятивная модель-драфтер от Red Hat для ускорения генерации текста базовой моделью Qwen/Qwen3-14B. Она использует алгоритм EAGLE-3 и архитектуру Eagle3Speculator: предлагает несколько следующих токенов, которые проверяет основная модель. Модель предназначена для запуска вместе с Qwen/Qwen3-14B, в частности через vLLM с настройкой speculative decoding; в README рекомендованы три спекулятивных токена и шаблон чата Qwen3. Модель обучена с помощью библиотеки speculators на данных ShareGPT_Vicuna_unfiltered и train_sft-разбиении ultrachat_200k. В репозитории указаны веса safetensors и лицензия Apache-2.0. Она сама по себе не является универсальной чат-моделью: для генерации требуется совместимая модель-верификатор Qwen/Qwen3-14B и поддерживающая EAGLE-3 среда. В README приведены бенчмарки на одной A100, но их таблицы опущены, поэтому количественно оценить ускорение по доступным данным нельзя.

NVIDIA Qwen3-235B-A22B-Thinking-2507-FP4-Eagle3 — вспомогательная модель Eagle для ускорения авторегрессионной генерации текста базовой моделью Qwen3-235B-A22B-Thinking-2507-FP4. Она использует спекулятивное декодирование: предлагает несколько следующих токенов, которые затем проверяет исходная модель, чтобы за шаг генерации можно было принять больше одного токена. Модель предназначена для TensorRT-LLM и NVIDIA GPU с архитектурой Blackwell; вход и выход — текст, максимальная длина контекста указана как 262144 токена. Модель ориентирована на разработчиков чат-ботов, агентных и RAG-систем, а также приложений с генерацией текста и выполнением инструкций. В README указана архитектура Transformers/Llama3 и размер 1B, тогда как метаданные каталога сообщают 840,4 млн параметров; эти сведения расходятся, поэтому точный размер не утверждается. Метаданные связывают репозиторий с Qwen/Qwen3-235B-A22B-Thinking-2507-FP4 как с базовой моделью. README указывает, что модель готова к коммерческому и некоммерческому использованию, а в ограничениях применения ссылается на Apache License 2.0. Для запуска описана интеграция с TensorRT-LLM; переносимость на другие ускорители не подтверждена. Приведённые результаты относятся к acceptance rate Eagle на MT-Bench и не являются общей оценкой качества ответов.

Red Hat выпустила вспомогательную модель спекулятивного декодирования EAGLE-3 для Qwen3-30B-A3B-Instruct-2507. Архитектура Eagle3Speculator предсказывает вероятные следующие токены, чтобы ускорить генерацию ответов основной моделью; это не самостоятельная чат-модель. Она обучена с отключённым режимом thinking на данных Magpie-Align/Magpie-Pro-300K-Filtered и HuggingFaceH4/ultrachat_200k и предназначена для работы с шаблоном чата Qwen3 через endpoint /chat/completions, например в vLLM с тремя спекулятивными токенами. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Карточка не приводит размер этой вспомогательной модели или длину контекста.

RedHatAI/Qwen3-32B-speculator.eagle3 — вспомогательная модель Red Hat для ускорения генерации текста базовой моделью Qwen/Qwen3-32B. Она реализует архитектуру Eagle3Speculator и алгоритм спекулятивного декодирования EAGLE-3: предлагает несколько следующих токенов, которые проверяет основная модель. Репозиторий содержит веса в формате Safetensors; модель предназначена для совместного использования с Qwen/Qwen3-32B и её шаблоном чата через vLLM. Модель обучена с использованием библиотеки speculators на данных ShareGPT_Vicuna_unfiltered и train_sft из UltraChat 200k. В README описаны замеры производительности на двух A100, но приведённые таблицы результатов недоступны, поэтому величину ускорения оценить нельзя. Лицензия — Apache-2.0. Это спекулятор, а не самостоятельная разговорная модель: для работы необходима базовая Qwen/Qwen3-32B и совместимая конфигурация сервинга.

Red Hat разработала RedHatAI/Qwen3-8B-speculator.eagle3 — вспомогательную модель-спекулятор для ускорения генерации текста базовой моделью Qwen/Qwen3-8B. Она использует алгоритм EAGLE-3 и архитектуру Eagle3Speculator: предлагает несколько следующих токенов, которые проверяет основная модель, чтобы повысить скорость декодирования без замены её ответов. Модель предназначена для серверного инференса с vLLM и должна работать с чат-шаблоном Qwen3-8B через endpoint /chat/completions. Спекулятор обучен с отключённым режимом thinking на данных ShareGPT_Vicuna_unfiltered и ultrachat_200k. В README приведены бенчмарки на одной A100, но таблицы с результатами опущены, поэтому конкретный выигрыш в скорости здесь оценить нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0; её применение привязано к совместимой базовой модели Qwen/Qwen3-8B.

OVOS Qwen3 Forced Aligner 0.6B Q4_K_M — квантизированный экспорт модели Qwen/Qwen3-ForcedAligner-0.6B в формате GGUF, подготовленный для использования на периферийных устройствах и в средах с CPU-инференсом. Модель предназначена для принудительного выравнивания речи и текста, а также используется в связке с системой автоматического распознавания речи для получения транскрипции и временных соответствий между текстом и аудиосигналом. Модель поддерживает широкий набор языков, включая китайский, английский, кантонский, арабский, немецкий, французский, испанский, португальский, русский, японский, корейский, хинди и другие языки, перечисленные в карточке. Архитектура и размер исходной модели указаны как 0.6B, а вариант Q4_K_M использует квантизацию для снижения требований к памяти и вычислительным ресурсам, что может быть преимуществом для CPU и edge-устройств, но потенциально ограничивает точность по сравнению с полной версией. Для работы рекомендуется пакет py-qwen3-asr-cpp; модель распространяется по лицензии Apache 2.0.

NVIDIA Qwen3-Nemotron-235B-A22B-GenRM-2603 — генеративная модель оценки ответов (GenRM), созданная на базе Qwen3-235B-A22B-Thinking-2507 путём дообучения. Она принимает историю диалога, запрос пользователя и два варианта ответа ассистента, после чего выдаёт отдельную оценку полезности каждого ответа и сравнительный балл ранжирования. Модель применялась при обучении с подкреплением на основе человеческих предпочтений для NVIDIA-Nemotron-3-Super-120B-A12B-BF16. Модель построена на архитектуре Qwen3 MoE с классом Qwen3MoeForCausalLM. В карточке указано 235 млрд параметров, а метаданные каталога сообщают 18,2 млрд; контекст в метаданных — 262 144 токена, тогда как README указывает максимум 128 тыс. токенов для входа. Ввод и вывод текстовые; заявлен английский язык. Для запуска описаны vLLM и NeMo-RL, Linux и ускорители NVIDIA Hopper. Лицензия Apache 2.0; NVIDIA заявляет возможность коммерческого и некоммерческого использования. Модель предназначена для оценки качества и попарного сравнения ответов, в частности для формирования предпочтений при обучении. Она выдаёт баллы по заданной шкале, поэтому её оценки следует трактовать как автоматические сигналы ранжирования и проверять на данных целевого сценария. Для практического запуска потребуется значительная GPU-инфраструктура.

microsoft/resnet-50 — сверточная ResNet-50 v1.5, представленная в статье Deep Residual Learning for Image Recognition Хэ и соавторов. Модель предварительно обучена на ImageNet-1k и классифицирует изображения по 1000 классам. Расчётный размер входного изображения при обучении — 224×224 пикселя. Остаточные связи и блоки с узким местом позволяют обучать глубокую сеть. Вариант v1.5 переносит шаг уменьшения разрешения на свёртку 3×3; по данным карточки, это даёт примерно на 0,5% более высокую точность top-1, чем v1, при снижении пропускной способности примерно на 5%. Модель подходит для классификации изображений общего назначения и может служить отправной точкой для дообученных версий под конкретные задачи. Распространяется по лицензии Apache-2.0.

RetrievalRouter (λ=0.5) — маршрутизатор запросов для выбора одного из пяти заранее настроенных конвейеров поиска документов. Модель разработана авторами работы «RetrievalRouter: Joint Modality and Architecture Selection for Document Retrieval» и основана на Qwen3-0.6B-Base с дообучением LoRA; адаптеры объединены с весами. Текст запроса кодируется вектором размерности 1024, затем линейный классификатор предсказывает конвейер поиска. По README, выбор занимает около 15 мс. Модель подходит для систем поиска и RAG, где уже созданы несколько индексов и доступны текстовые или мультимодальные конвейеры с различной архитектурой: разреженный или плотный поиск и позднее взаимодействие для переранжирования. Параметр λ=0.5 задаёт сбалансированный компромисс между качеством поиска и задержкой. Маршрутизатор выбирает конвейер, но сам документы не ищет, не ранжирует и не читает. Модель обучена на 85 103 запросах из 11 бенчмарков, включая финансовые, научные и открытые коллекции. В README заявлено улучшение nDCG@5 на 2,5% и ускорение в 12,4 раза относительно сильнейшего статического конвейера. Поддерживается английский; другие языки и предметные области не проверялись. Лицензия — MIT.

RM-Gemma-7B — модель вознаграждения, дообученная автором репозитория на базе google/gemma-7b-it для оценки предпочтительности ответов. Она принимает текстовые последовательности и выполняет классификацию, связанную с ранжированием вариантов ответа; её можно использовать как компонент контура обучения с обратной связью от предпочтений и для сравнительной оценки ответов. Модель основана на плотной архитектуре GemmaForSequenceClassification, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Для обучения использована смесь наборов HH-RLHF, SHP, UltraFeedback, Capybara, HelpSteer и Orca, всего около 250 тысяч пар сравнений. Карточка приводит результаты оценки на наборах предпочтений и бенчмарках, но не содержит полного описания формата входа и интерпретации выходных оценок. Репозиторий распространяется в формате Safetensors; сведения о лицензии в доступных данных отсутствуют.

aufklarer/Silero-VAD-v5-MLX — конвертированные веса Silero VAD v5 для запуска с библиотекой MLX на устройствах Apple Silicon. Модель предназначена для обнаружения речевой активности в аудиопотоке: принимает последовательные фрагменты по 512 отсчётов (32 мс при частоте 16 кГц) и выдаёт вероятность наличия речи от 0 до 1 для каждого фрагмента. Состояние LSTM сохраняется между фрагментами для потоковой обработки. Архитектура включает STFT, свёрточный энкодер из четырёх слоёв Conv1d с ReLU, LSTM со скрытым размером 128 и свёрточный декодер с сигмоидой; размер — около 309 тысяч параметров. Заявлена задержка менее миллисекунды. Репозиторий содержит веса safetensors, преобразованные из официальной JIT-модели Silero VAD v5; базовая модель — snakers4/silero-vad. Лицензия — MIT.

QuantFactory/Skywork-Critic-Llama-3.1-8B-GGUF — квантизированная версия модели Skywork-Critic-Llama3.1-8B, подготовленная QuantFactory с использованием llama.cpp. Исходную модель разработала команда SkyworkAI Alignment Team на базе Meta Llama-3.1-8B-Instruct. Модель предназначена прежде всего для попарной оценки предпочтений: она сравнивает два ответа или других входных объекта и определяет, какой из них качественнее или лучше соответствует заданным требованиям. Возможные сценарии применения включают оценку и улучшение данных, тестирование ответов языковых моделей и построение reward-моделей. Также модель обучалась на задачах критики и общих диалогах, поэтому сохраняет возможности conversational-взаимодействия. Ключевая архитектурная основа — Llama 3.1 8B-Instruct; модель относится к классу text-generation и работает с текстовыми данными. В обучении использовались открытые датасеты предпочтений и критики, внутренние человеческие аннотации, синтетические примеры и данные для диалогов. В README не указаны поддерживаемые языки, размер контекстного окна и конкретный формат или уровень квантизации, поэтому эти характеристики нельзя определить. К ограничениям относятся зависимость качества оценок от формата запроса и исходных данных, а также возможные потери качества, связанные с квантизацией. Лицензия обозначена как other; подробные условия использования в карточке не приведены.

Supra-Router-51M — компактная языковая модель SupraLabs для маршрутизации запросов в системах с локальными и облачными моделями. Это дообученная на наборе SupraLabs/Prompt-Routing-Dataset модель архитектуры Llama с 51,8 млн параметров, предназначенная для запуска через Transformers. Контекст модели составляет 5120 токенов; README описывает обучение на 992 примерах и генерацию структурированного решения о маршруте. На вход подают текст запроса с префиксом `Task: [Prompt]\nAnalysis: `. Модель генерирует поля предметной области, сложности, признаков математики и кода, рекомендуемый маршрут к малой или большой модели и обоснование. Её сценарий применения — предварительная маршрутизация запросов на периферийном устройстве, чтобы простые задачи передавать локальной модели, а сложные — облачной. README заявляет детерминированную маршрутизацию и устойчивость к некоторым ключевым словам-ловушкам; независимые подтверждения этих заявлений не приведены. Карточка указывает формат Safetensors, хотя README также упоминает GGUF. Лицензия в предоставленных данных не указана. Выход зависит от заданной текстовой схемы и небольшого обучающего набора, поэтому перед использованием в рабочем оркестраторе следует проверить качество маршрутизации на собственных запросах.

tf_efficientnet_b1.in1k — свёрточная модель EfficientNet для классификации изображений и извлечения визуальных признаков. Её обучили авторы EfficientNet на ImageNet-1k в TensorFlow, затем Ross Wightman перенёс веса в PyTorch; модель доступна через библиотеку timm. Модель содержит около 7,8 млн параметров и рассчитана на изображения размером 240 × 240 пикселей. Она предсказывает классы объектов ImageNet-1k, а также может использоваться как backbone для извлечения карт признаков и эмбеддингов изображений. Репозиторий распространяется по лицензии Apache-2.0.

UTMOS v2 — перенос официальной модели оценки качества речи `fusion_stage3`, fold 0, в формат для использования с PyTorch, torchaudio и Transformers. Репозиторий `prj-beatrice` адаптировал модель для загрузки через `AutoModel` и вычисления оценки по аудиоволновой форме; модель принимает аудио и возвращает числовой score. Она предназначена для автоматической оценки воспринимаемого качества синтезированной или записанной речи, в том числе при сравнении аудиосистем и анализе речевых данных. Доступны обработка батчей с длинами аудио и настройка калибровки по домену данных; по умолчанию используется `sarulab`, а удаление тихих участков можно отключить. Модель относится к семейству UTMOS v2 и использует архитектуру dense. Порт может давать результаты, отличающиеся от официальной реализации из-за другого генератора случайных чисел при выборе аудиофрагментов и mixup. Лицензия указана как `other`, без дополнительных условий в предоставленных данных.

vit_large_patch14_clip_224.laion2b_ft_in1k — модель классификации изображений на архитектуре Vision Transformer (ViT), опубликованная проектом timm. Она предварительно обучена с помощью OpenCLIP на парах изображение–текст из LAION-2B, затем дообучена на ImageNet-1k. Модель содержит около 304,2 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для классификации изображений по классам ImageNet-1k и как визуальная основа для извлечения признаков и получения эмбеддингов изображений. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Ограничение классификатора: его предсказания ориентированы на классы ImageNet-1k, поэтому для иных категорий может потребоваться адаптация.

vtx-embed-1M — компактная плотная модель эмбеддингов от Vortexa AI для семантического поиска и извлечения признаков. Она содержит 1,05 млн параметров и использует собственный 4-битный формат хранения LF4; в README заявлены объём памяти 0,57 МБ, Matryoshka-представления и задержка на CPU менее миллисекунды. В метаданных архитектура указана как VortexEmbedV4_5, библиотека — tokenizers, формат файлов репозитория — safetensors. Модель предназначена прежде всего для векторизации текста в системах поиска по исходному коду, индексации и retrieval/RAG. Она выдаёт плотные эмбеддинги, которые можно усекать с помощью Matryoshka-подхода для экономии ресурсов. Карточка указывает английский язык. Приведённые в README результаты тестов показывают компромисс между малым размером и качеством: на STSBenchmark модель уступает MiniLM-L6-v2 и bge-small-en-v1.5, хотя на Banking77Classification превосходит их по указанной точности. Модель опубликована под лицензией MIT. Заявленные показатели размера и скорости относятся к описанию автора; подробностей о методике измерений в предоставленном фрагменте нет.

Это базовая модель Wav2Vec2, разработанная Facebook AI и предварительно обученная на неразмеченной франкоязычной части корпуса VoxPopuli. Она предназначена для извлечения речевых представлений и может служить основой для распознавания французской речи после дообучения на конкретную задачу или язык. Модель содержит 113,3 млн параметров, использует архитектуру Wav2Vec2 и принимает аудио; в карточке Hugging Face указана задача automatic-speech-recognition и формат PyTorch. Модель поддерживает французский язык и подходит как стартовый чекпойнт для создания систем транскрибирования французской речи. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Для готового распознавания речи может потребоваться дообучение на размеченных данных.

Wav2Vec2-Large — базовая модель Facebook для предварительного обучения на речевом аудио. Она содержит 402,7 млн параметров и реализована на архитектуре Wav2Vec2; модель обучалась на аудиозаписях с частотой дискретизации 16 кГц, поэтому входные записи также следует приводить к 16 кГц. Для распознавания речи её нужно дообучить на целевой задаче. Модель предназначена для получения речевых представлений и последующего применения в распознавании речи, в том числе при ограниченном количестве размеченных аудиоданных. В описанной авторами схеме Wav2Vec 2.0 маскирует вход в латентном пространстве и решает контрастивную задачу с квантованными представлениями. Веса доступны в формате PyTorch по лицензии Apache 2.0. Карточка приводит результаты экспериментов на LibriSpeech, но не описывает готовую к использованию систему распознавания речи: для этого требуется дообучение.

Zhihui_LLM_Embedding — модель эмбеддингов китайского текста, разработанная Lenovo Zhihui для поиска и ранжирования документов. Она основана на 7,1-миллиардной gte-Qwen2-7B-instruct и использует двунаправленное внимание при контрастивном обучении вместо обычного причинного внимания декодерной модели. Вектор строится методом pooling по последнему токену, его размерность — 3584; заявленная длина контекста составляет 131072 токена. Модель рассчитана на извлечение текстовых эмбеддингов для семантического поиска и задач retrieval. В README сообщается о первом месте на C-MTEB с результатом 76,74 по состоянию на 25 июня 2024 года. Для обучения применялись дистилляция данных с помощью GPT-3.5 и GPT-4, подбор сложных негативных примеров и модифицированная функция контрастивных потерь. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

acuvity/14.0.1-ms-marco-MiniLM-L6-v2 — англоязычный cross-encoder на базе cross-encoder/ms-marco-MiniLM-L6-v2, дообученный для выявления несоответствия действий ИИ-агента поставленной задаче. Модель классифицирует пару «задача — действие» как согласованную или несогласованную; в README указана бинарная классификация, а метаданные относят модель к text-classification и sentence-similarity. Архитектура — BERT с классификационной головой BertForSequenceClassification; размер по метаданным — 25,9 млн параметров, контекст — до 512 токенов. Модель построена на cross-encoder/ms-marco-MiniLM-L6-v2 и обучена с учителем на наборе acuvity/tool-use-alignment. README приводит высокие значения F1, AUPR и precision на тестах, но без полного описания протокола и данных эти результаты нельзя считать гарантией качества в новых сценариях. Модель предназначена для проверки соответствия действий агента его задаче и может использоваться как компонент защитного контроля или фильтрации. Для оценки применимости к конкретным агентам потребуется проверка на собственных примерах. Лицензия в предоставленных сведениях не указана.

AgentDoG-FG-Qwen3-4B — дообученная плотная языковая модель семейства Qwen3, разработанная AI45Research для оценки безопасности действий автономных агентов. Она анализирует текстовые траектории, состоящие из шагов агента и наблюдений, и определяет, встречается ли в них небезопасное поведение. В режиме детальной диагностики модель относит риск к источнику, типу сбоя и возможному реальному вреду. Модель предназначена для проверки многошаговых сценариев с использованием инструментов, оценки траекторий в бенчмарках и встраивания в защитные контуры агентных систем. В карточке описаны проверки на R-Judge, ASSE-Safety и ATBench, включая обнаружение подмены инструкций и небезопасного использования инструментов. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM, принимает текст и рассчитана на контекст до 262 144 токенов. Модель распространяется под лицензией Apache-2.0. Показатели детальной классификации существенно различаются по категориям: в частности, точность определения типа сбоя на ATBench указана как 32,4%; результаты на бенчмарках не гарантируют качество на других данных. Для применения важны полнота и формат передаваемой траектории, а также проверка меток в целевой системе.

AgentDoG-Qwen2.5-7B — языковая модель на архитектуре Qwen2, разработанная для оценки безопасности траекторий автономных агентов. Она анализирует последовательность шагов агента, включая действия и наблюдения, и определяет, встречается ли небезопасное поведение на любом этапе. Модель дообучена на Qwen/Qwen2.5-7B-Instruct, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель решает две задачи: бинарно классифицирует траекторию как безопасную или небезопасную и, для небезопасных траекторий, определяет источник риска, тип сбоя и возможный реальный вред. Её можно применять для проверки действий с инструментами и API, оценки безопасности агентных систем и подробной диагностики причин опасных действий. В README заявлены результаты на R-Judge, ASSE-Safety и ATBench, включая выявление рисков, возникающих после безопасных на вид начальных шагов. Это текстовая модель, ориентированная на английские инструкции и структурированные текстовые траектории; отдельные поддерживаемые языки в карточке не перечислены. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README приводит точность отдельных категорий на ATBench, в том числе 32,4% для классификации типов сбоя, поэтому детальные диагнозы могут быть менее надёжными, чем бинарная оценка.

BEM — модель сопоставления ответов на основе BERT, опубликованная как воспроизведение исследования «Tomayto, Tomahto. Beyond Token-level Answer Equivalence for Question Answering Evaluation». Она дообучена на базе bert-base-uncased на наборе данных Answer Equivalence. Модель оценивает, эквивалентны ли ответ-кандидат и эталонный ответ с учётом исходного вопроса. Её применяют для оценки систем автоматического ответа на вопросы: разные по формулировке ответы могут считаться правильными, если передают один и тот же смысл. В метаданных указаны архитектура BertForSequenceClassification, 136,7 млн параметров и контекст до 512 токенов; модель принимает текст и выдаёт оценку классификации. Модель предназначена для английского языка и распространяется по лицензии Apache-2.0. Это воспроизведение исследовательской работы; оценка эквивалентности может не совпадать с точным совпадением или метриками F1 и зависит от вопроса и качества обучения.

Arch-Agent-32B — дообученная Katanemo языковая модель на архитектуре Qwen2, предназначенная для вызова функций и агентных сценариев. Она помогает выбирать инструменты, планировать последовательность вызовов и выполнять многошаговые задачи с учётом контекста предыдущих ходов и результатов работы инструментов. Модель содержит 32 млрд параметров, принимает текст и генерирует текст; в карточке указана длина контекста 32 768 токенов. README сообщает об оценке на Berkeley Function-Calling Leaderboard и описывает адаптивное планирование, координацию инструментов и восстановление после ошибок. Для извлечения вызовов функций рекомендуется использовать формат промпта разработчика; в README для оценки упоминается контекст 64K с масштабированием YaRN, но это не совпадает с указанной в метаданных нативной длиной контекста. Модель основана на Qwen/Qwen2.5-Coder-32B-Instruct. Лицензия указана как other, поэтому условия её использования следует сверить с карточкой репозитория и лицензией базовой модели перед внедрением. Метаданные указывают английский язык.

madhurjindal представляет классификатор бессмысленного текста на английском языке, созданный с помощью AutoNLP на базе DistilBERT и дообученный для классификации последовательностей. Модель принимает текст и относит его к одной из четырёх категорий: шум, несвязный набор осмысленных слов, слабовыраженная бессмыслица или связный текст. Максимальная длина контекста — 512 токенов; модель доступна для Transformers в форматах PyTorch, Safetensors и ONNX. Модель предназначена для проверки пользовательского ввода в чат-ботах, фильтрации бессмысленных сообщений и спама, а также контроля качества текстовых данных. В README приведены метрики валидации, включая точность 97,36%; эти показатели относятся к описанному набору данных и не гарантируют такое же качество на других текстах. Модель опубликована под лицензией MIT.

Avibe-eagle — черновая модель для спекулятивного декодирования по алгоритму EAGLE-3, разработанная командой Авито Тех для ускорения генерации базовой модели Avibe. Она используется вместе с основной моделью через движки vLLM или SGLang и предназначена для ускорения обслуживания запросов на генерацию текста. Внутренние замеры авторов показали ускорение до 2,7 раза на одиночных запросах; при увеличении batch size выигрыш снижается и при batch size 64 исчезает. В репозитории указаны архитектура класса LlamaForCausalLMEagle3, 7,4 млрд параметров и формат safetensors. Модель дообучена на примерно 100 млн токенов SFT-данных исходной модели avibe, преимущественно на русском языке. Метаданные указывают базовую модель Qwen/Qwen3-8B, контекст 32 768 токенов и поддержку русского и английского языков. Лицензия — Apache-2.0. Для использования требуется совместимая базовая модель Avibe и поддерживающий EAGLE-3 движок.

hotchpotch/bekko-embedding-v1-a25m-pt — предварительно обученный плотный эмбеддинг-модель Sentence Transformer от hotchpotch на архитектуре mmBERT в стиле ModernBERT: 13 слоёв, размер скрытого состояния 384, 123,2 млн параметров и контекст до 8192 токенов. Она создана как начальная точка для дополнительного обучения на целевой задаче, а не для прямого использования как универсальная модель эмбеддингов или поиска. Модель предварительно обучена на многоязычных парах текстов с Matryoshka representation learning и обучением с учётом квантования. Её можно дообучить для поиска, классификации, ранжирования и других задач, а также использовать для воспроизведения конвейера обучения и сравнительных экспериментов. Для общего поиска автор рекомендует готовую модель bekko-embedding-v1-a25m. Модель основана на hotchpotch/mmBERT-L13H384-pruned. Доступна в формате safetensors; лицензия — MIT. Основное ограничение — отсутствие финального обучения с учителем для поиска: перед применением к целевой задаче чекпойнт нужно дообучить.