II.10Разработка и эксплуатация AI/ML-систем

EfficientViT B1 — модель классификации изображений и извлечения визуальных признаков семейства EfficientViT, разработанная авторами соответствующей научной работы MIT. Она обучена на ImageNet-1k и рассчитана на изображения размером 224 × 224 пикселя. Модель содержит около 9,1 млн параметров и требует 0,5 GMAC на изображение. Модель подходит для классификации изображений по категориям ImageNet-1k, извлечения карт признаков и получения эмбеддингов изображений. Её можно использовать как визуальную основу в компьютерном зрении и как компактный классификатор. Репозиторий предоставляет веса в форматах PyTorch и safetensors для библиотеки timm. Лицензия — Apache-2.0. Модель принимает изображения и выдаёт метки классов либо визуальные признаки и эмбеддинги. Обучение описано для ImageNet-1k; карточка не сообщает о поддержке текстового или мультимодального ввода.

Модель cleanrl/EleutherAI_pythia-1b-deduped__reward__tldr разработана сообществом CleanRL на базе EleutherAI Pythia-1B Deduped. Это reward-модель для оценки качества текстовых ответов в задаче TL;DR, представленная как модель классификации текста и предназначенная для использования в контурах обучения с подкреплением языковых моделей, включая PPO и RLOO. Архитектурно модель основана на GPT-NeoX и использует Transformers и PyTorch; её размер составляет около 1,2 млрд параметров, а нативная длина контекста — 2048 токенов.

pyannote/embedding — модель для извлечения голосовых эмбеддингов, разработанная командой pyannote и основанная на pyannote.audio 2.1. Она предназначена для задач распознавания, идентификации и верификации говорящих по аудиозаписям: эмбеддинги можно сравнивать, например, косинусным расстоянием. Архитектура модели — x-vector на базе TDNN с обучаемыми признаками SincNet вместо фильтровых банков. В README сообщается о равной ошибке (EER) 2,8% на тестовом наборе VoxCeleb 1 при использовании косинусного расстояния, без VAD и PLDA; добавление этих компонентов может улучшить результат. Модель распространяется в формате PyTorch под лицензией MIT, при этом для загрузки необходимо принять условия доступа на Hugging Face.

esevovnet39b.ra_in1k — модель классификации изображений и извлечения признаков семейства VoVNet-v2, обученная Ross Wightman в библиотеке timm на ImageNet-1k с рецептом RandAugment. Она предназначена для распознавания объектов на изображениях, получения карт признаков и построения эмбеддингов изображений. Модель содержит 24,6 млн параметров; указанная вычислительная сложность составляет 7,1 GMACs. Размер изображений при обучении — 224×224, при тестировании — 288×288. Модель опубликована в форматах PyTorch и safetensors и распространяется по лицензии Apache-2.0. Она подходит как готовый классификатор ImageNet-1k и как визуальный backbone для последующих задач компьютерного зрения. Карточка не приводит результатов оценки за пределами ImageNet-1k.

Havenlon Execution Boundary — Qwen35 2B — компактная языковая модель Havenlon на архитектуре Qwen3.5 с 1,7 млрд параметров. Она предназначена для локальных и нетребовательных к ресурсам сценариев, где агенту нужно рассуждать о действиях, условиях выполнения, доказательствах и ограничениях исполнения. Модель обучена концепциям контроля исполнения: намерение и авторизация сами по себе не означают, что действие следует выполнить; неизвестные, отсутствующие, просроченные или противоречивые условия должны оставаться явными. Модель может использоваться для экспериментов с помощниками по политике исполнения, компактными агентами, анализом свидетельств и объяснением структурированных решений в ограниченных средах автоматизации. Поддерживает текстовую генерацию и чат, имеет контекстное окно 262 144 токена. README не указывает лицензию. Разработчик подчёркивает, что модель не должна быть окончательным механизмом принудительного контроля: полномочия на исполнение должны оставаться отделёнными от рассуждений модели.

Experiment26-7B — экспериментальная языковая модель на архитектуре Mistral, опубликованная yam-peleg. Репозиторий описывает её как часть эксперимента по проверке и улучшению конвейера обучения и оценки больших языковых моделей, включая обработку данных, алгоритмы обучения и метрики оценки. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и экспериментов с методами обучения и оценки LLM. Метаданные указывают английский язык; файлы представлены в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или конкретных гарантий пригодности для прикладных сценариев.

Falcon-7B — базовая авторегрессионная языковая модель с декодерной архитектурой, разработанная Technology Innovation Institute (TII). В карточке указано 7 млрд параметров, тогда как метаданные Hugging Face содержат значение 10,9 млрд; поэтому размер следует считать противоречивым. Модель обучена предсказывать следующий токен на 1,5 трлн токенов RefinedWeb и отобранных корпусов. В архитектуре используются rotary-позиционные эмбеддинги, multi-query attention и FlashAttention; заявлены 32 слоя. Модель предназначена для генерации текста и как основа для дообучения под суммаризацию, чат-ботов и другие задачи. Это исходная предобученная модель, а не готовая модель для выполнения инструкций: для большинства прикладных сценариев рекомендуется дополнительная настройка. README указывает английский, немецкий, испанский и французский как языки модели, а также ограниченные способности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Карточка предупреждает о веб-стереотипах и смещениях, слабом обобщении на другие языки и необходимости оценивать риски перед производственным применением. Лицензия Apache 2.0 допускает коммерческое использование.

FastViT-T12 — модель классификации изображений и извлечения визуальных признаков из семейства FastViT, опубликованная авторами статьи FastViT и обученная на ImageNet-1k. В карточке Hugging Face она представлена в формате PyTorch и Safetensors и предназначена для использования с библиотекой timm. Модель содержит 7,6 млн параметров, требует около 1,4 GMACs на изображение и рассчитана на размер входа 256 × 256 пикселей. Помимо классификации, её можно использовать как backbone для извлечения карт признаков и эмбеддингов изображений. Модель подходит для классификации изображений по категориям ImageNet-1k и получения визуальных представлений для последующих компьютерно-зрительных задач. Указана необходимость соблюдать исходную лицензию; метаданные обозначают лицензию как other, поэтому условия следует сверять с оригинальной лицензией FastViT.

FineWeb-Marketing Classifier — модель marketeam для оценки качества маркетинговых текстов по шкале от 0 до 5. Это регрессионная модель на базе замороженного энкодера Snowflake Arctic Embed v2.0 объёмом 305 млн параметров и обучаемой MLP-головы примерно на 591 тыс. параметров. Она выдаёт одну оценку для документа по критериям релевантности, компетентности, профессионализма и экспертности. Модель предназначена прежде всего для пакетной фильтрации и ранжирования больших веб-корпусов: отбора материалов для предобучения и дообучения профильных языковых моделей, а также поиска качественных маркетинговых страниц и статей. Обучена на 495 тыс. англоязычных документов FineWeb с оценками, полученными от Gemma-3-27B-it; на отложенной выборке из 50 тыс. документов Spearman достиг 0,7953. Модель поддерживает классификационный интерфейс Transformers и использует форматы PyTorch и Safetensors. Модель доступна по лицензии Apache-2.0. Для загрузки с пользовательской архитектурой требуется transformers версии 4.46.x и включение trust_remote_code; перед этим README рекомендует проверить файлы кода репозитория. Модель обучена только на английских маркетинговых материалах, выдаёт единую оценку без разбивки по критериям, а оценки зависят от калибровки Gemma. Примеров с максимальной оценкой 5 в обучающей выборке почти нет, поэтому абсолютные пороги требуют осторожной настройки.

FlexiViT Small 300ep In1k — модель классификации изображений и извлечения признаков семейства Vision Transformer. Её обучили авторы статьи на ImageNet-1k с помощью JAX, а Ross Wightman перенёс веса в PyTorch; модель распространяется в формате PyTorch и Safetensors под лицензией Apache-2.0. Модель содержит 22,1 млн параметров и рассчитана на изображения размером 240 × 240 пикселей. FlexiViT исследует работу одной модели с разными размерами патчей; доступный вариант предназначен для классификации изображений по классам ImageNet-1k и получения визуальных эмбеддингов. Она подходит для классификации фотографий и как визуальный backbone в системах компьютерного зрения. Обучение на ImageNet-1k задаёт основную область применения: распознавание объектов из классов этого набора данных. Карточка не приводит ограничений на качество вне этого распределения; использование регулируется лицензией Apache-2.0.

Карточка модели SwinliQ-AIs/FLUX.2-small-decoder на Hugging Face совпадает с карточкой black-forest-labs/FLUX.2-small-decoder, поэтому описание составлено по ней. FLUX.2 Small Decoder — декодер VAE от Black Forest Labs, дистиллированная компактная замена стандартному декодеру FLUX.2. Он предназначен для декодирования латентных представлений в изображения в совместимых моделях FLUX.2: Klein 4B, Klein 9B, Klein 9B-KV и Dev; кодировщик при этом остаётся без изменений. Декодер содержит около 28 млн параметров против примерно 50 млн у полной версии и использует более узкие каналы. По данным карточки, он декодирует примерно в 1,4 раза быстрее и требует примерно в 1,4 раза меньше видеопамяти, сохраняя почти такое же качество изображений. Указана лицензия Apache 2.0. Модель предназначена для использования как компонент совместимого пайплайна генерации или редактирования изображений, а не для самостоятельного диалога или выдачи фактических ответов. Карточка отмечает возможные искажения текста на изображениях, несоответствие результата запросу и влияние стиля промпта.

gc_efficientnetv2_rw_t.agc_in1k — модель классификации изображений из библиотеки timm, обученная на ImageNet-1k. Это вариант архитектуры EfficientNetV2 с механизмом Global Context attention; в обучении применялись рецепт ResNet Strikes Back C, оптимизатор SGD с Nesterov, адаптивное ограничение градиентов AGC и косинусное расписание скорости обучения с прогревом. Модель содержит 13,7 млн параметров и рассчитана на изображения размером 224 × 224 при обучении и 288 × 288 при тестировании. Её можно использовать для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Модель распространяется по лицензии Apache-2.0. Карточка описывает обучение на ImageNet-1k; качество на других наборах данных и специальных предметных областях отдельно не характеризуется.

gcresnet50t.ra2_in1k — модель классификации изображений семейства GC-ResNet, разработанная Россом Уайтманом и реализованная в библиотеке timm. Она обучена на ImageNet-1k и может использоваться для классификации изображений, извлечения карт признаков и получения эмбеддингов изображений. Архитектура основана на ResNet с механизмом Global Context attention и трёхслойным stem-блоком без pooling. Модель содержит около 25,9 млн параметров; для оценки изображений в карточке указаны размеры 256 × 256 при обучении и 288 × 288 при тестировании. Доступны веса PyTorch и safetensors. Модель подходит для стандартных задач компьютерного зрения и как backbone для дальнейшей обработки изображений. Она обучена на ImageNet-1k, поэтому её классификационные возможности ориентированы на классы этого набора данных; качество на других предметных областях отдельно не описано. Лицензия — Apache-2.0.

GC-ResNeXt26ts.ch_in1k — модель классификации изображений из библиотеки timm, разработанная Россом Уайтманом и обученная на ImageNet-1k. Она основана на ResNeXt с механизмом внимания Global Context и реализована настраиваемой архитектурой BYOBNet. Модель содержит около 10,5 млн параметров и требует 2,4 GMACs. В архитектуре используются трёхслойный stem, активации SiLU и блоки ResNeXt; заявленные размеры изображений при обучении и тестировании — 256×256 и 288×288. Помимо классификации модель можно применять как основу для извлечения карт признаков и эмбеддингов изображений. Для использования доступны веса PyTorch и safetensors; лицензия — Apache-2.0. Обучение проведено на ImageNet-1k, поэтому качество на изображениях вне этого распределения может отличаться; в карточке не приведены метрики качества.

Gemma-2 2B Agent Security — модель Sumit Guha для генерации текста в диалогах, настроенная защищать конфиденциальную конфигурацию ИИ-агента от утечек, сохраняя полезные ответы на безопасные запросы. Это дообучение с LoRA базовой модели thesreedath/gemma-2-2b-qa-sft на наборе sumitguha13/ai-agent-security-sft-dpo; используется плотная архитектура Gemma 2 с 2,7 млрд параметров. Метаданные указывают английский язык, контекст до 8192 токенов и лицензию Apache-2.0. В оценке на 80 ранее не встречавшихся агентах авторы сообщают нулевую долю утечек как на атакующих, так и на обычных запросах, а также более высокую оценку полезности на безопасных запросах относительно базовой модели. Результаты относятся к указанному набору из 240 атакующих и 240 безопасных запросов и не гарантируют защиту от новых типов атак. В README также отмечено снижение точности закрытых вопросов и отсутствие измеримого вклада этапа DPO относительно SFT.

GLM-5.2 DSpark speculator — вспомогательная модель, опубликованная RedHatAI для ускорения вывода базовой модели zai-org/GLM-5.2-FP8 с помощью спекулятивного декодирования. Она не предназначена для самостоятельной генерации текста, а создаёт черновые токены, которые затем проверяются основной моделью. Модель использует архитектуру DSpark, расширяющую параллельный черновой модуль DFlash двумя лёгкими головами: Markov logit-bias для учёта внутриблочных зависимостей токенов и per-position confidence head для прогнозирования вероятности принятия токенов. Черновая часть содержит 5 слоёв, работает с блоками размера 8 и полным словарём из 154 880 токенов; используются вспомогательные слои базовой модели с индексами 8, 23, 39, 55 и 70. Указаны совместимый с GLM-5.2 шаблон чата, формат Safetensors и поддержка сценариев `/chat/completions`; язык и точный размер базовой модели в README не уточняются. По результатам валидации средняя длина принятой последовательности составляет 3,967 токена, средняя доля принятия — 0,584, полная точность — 0,613, а абсолютная ошибка оценки уверенности — 0,044. Эти показатели характеризуют эффективность ускорения и зависят от базовой модели, оборудования и конфигурации инференса. Для использования требуется zai-org/GLM-5.2-FP8 и среда с поддержкой DSpark в vLLM; в README отмечено, что такая поддержка внедряется. Модель распространяется по лицензии MIT.

HGNet-V2 B4 — сверточная модель для классификации изображений и извлечения визуальных признаков, разработанная авторами семейства HGNet-V2 и опубликованная в библиотеке timm. Модель обучали с дистилляцией SSLD на данных ImageNet-22k и ImageNet-1k, затем дообучили на ImageNet-1k. Веса доступны в форматах PyTorch и safetensors по лицензии Apache-2.0. Модель содержит 19,8 млн параметров и предназначена для классификации изображений, извлечения карт признаков и получения векторных представлений. В карточке указаны размер изображения 224×224 при обучении и 288×288 при оценке; вычислительная сложность составляет 2,7 GMACs. Обучение на ImageNet делает её подходящей как основу для задач распознавания объектов общего назначения. Ограничение: обучение и заявленные результаты связаны с ImageNet, поэтому качество на других предметных областях зависит от данных и условий применения.

HGNet-V2 B6 — сверточная модель классификации изображений и извлечения визуальных признаков из семейства High Performance GPU Net. Модель обучена авторами на данных ImageNet-22k с дистилляцией SSLD, затем дообучена на ImageNet-1k. Она содержит около 75,3 млн параметров; указаны вычислительная сложность 16,9 GMAC и размеры изображений 224 × 224 для обучения и 288 × 288 для тестирования. Модель предназначена для отнесения изображений к классам ImageNet, а также может использоваться как визуальный backbone для извлечения карт признаков и эмбеддингов. В карточке приведена точность Top-1 86,36% и Top-5 97,934% при размере изображения 288 пикселей. Поддерживается библиотекой timm; веса доступны в форматах PyTorch и safetensors. Лицензия — Apache-2.0. Языковых входов или текстовых выходов модель не использует.

Hush — модель подавления шума и фоновой речи для голосовых ИИ-систем, разработанная Weya AI. Она обрабатывает входящий аудиопоток и в реальном времени выделяет речь одного собеседника, снижая фоновые шумы и голоса других людей. Модель работает непосредственно с акустическим сигналом и не зависит от языка речи; она предназначена для голосовых агентов по телефону, ботов контакт-центров, голосовых помощников и конвейеров транскрибации. Архитектура модели — DfNetSE; веса представлены в формате PyTorch, также README описывает вариант развёртывания через ONNX. Заявлены размер 8 МБ, обработка на CPU и задержка менее 1 мс на каждые 10 мс аудио. Модель обучалась на более чем 10 000 часах смешанного аудио. Лицензия — Apache-2.0. Модель рассчитана на аудио с частотой дискретизации 16 кГц; записи с другой частотой нужно предварительно пересэмплировать. Подавление конкурирующих голосов может быть неполным при очень громком фоне: модель обучалась на голосах с отношением сигнал/помеха 12–24 дБ. Маска фонового говорящего служит вспомогательным компонентом обучения и не является отдельным выходом разделения источников.

Это преобразованная в формат Hugging Face Transformers версия потоковой модели обнаружения ключевых слов Icefall Zipformer KWS, разработанной на основе реализации k2-fsa/icefall. Модель содержит около 3,22 млн параметров и принимает акустические признаки Kaldi Fbank размерности 80, вычисленные для аудио с частотой 16 кГц; она поддерживает потоковую обработку с окном 45 кадров и явные токены Phone/Pinyin для китайского и английского языков. Модель предназначена для обнаружения заданных ключевых слов и слов пробуждения в аудиопотоке. Репозиторий сохраняет веса исходного чекпойнта без переобучения, дообучения или квантизации и предоставляет их в формате safetensors с пользовательским кодом модели для Transformers. Лицензия — Apache License 2.0. Это низкоуровневая конверсия, а не готовый классификатор для end-to-end использования через Hugging Face pipeline. Внешнее приложение должно самостоятельно реализовать построение графа ключевых слов, ресэмплинг аудио, вычисление Fbank, разбиение потока на фрагменты и beam search; автоматического преобразования текста в фонетические токены G2P нет. Для загрузки с trust_remote_code рекомендуется предварительно проверять код и фиксировать ревизию репозитория.

rinna/japanese-roberta-base — базовая японская модель RoBERTa от компании rinna Co., Ltd., обученная с использованием кода проекта rinnakk/japanese-pretrained-models. Это трансформерная модель на 12 слоёв с размерностью скрытого представления 768 и примерно 137,8 млн параметров; она предназначена для предсказания замаскированных токенов в японском тексте. Модель обучалась на японских данных CC-100 и Wikipedia с помощью задачи masked language modeling. Для токенизации используется SentencePiece, контекст составляет до 514 токенов. Модель подходит для восстановления пропусков и получения контекстных предсказаний японских слов, а также как базовый чекпойнт для NLP-систем, которым нужно представление японского языка. Для корректного использования README рекомендует добавлять токен [CLS], заменять токен на [MASK] уже после токенизации и явно задавать position_ids, начинающиеся с 0. Для весов указана лицензия MIT.

Kimi-K2.7-Code DFlash draft — черновая модель для ускорения генерации в режиме speculative decoding, разработанная для moonshotai/Kimi-K2.7-Code и обученная с помощью SpecForge на NVIDIA Nemotron-Post-Training-Dataset-v2 с данными по STEM, диалогам, математике и программированию. Она предназначена для работы как draft-модель в SGLang вместе с целевой Kimi-K2.7-Code, а не как самостоятельный генератор ответов. Модель использует шестислойную архитектуру Qwen3-style DFlashDraftModel с размером скрытого состояния 7168 и блоком из 8 токенов. Она принимает скрытые состояния целевой модели на слоях 1, 12, 24, 35, 47 и 58; словарь и токенизатор соответствуют Kimi-K2.7-Code. Контекст составляет до 262144 токенов. Чекпойнт отмечен как промежуточный снимок обучения, причём обучение на момент публикации продолжалось. Для загрузки требуется trust_remote_code=True и код модели из dflash.py. Лицензия указана как other, конкретные условия в доступных данных не раскрыты.

Inferact/Kimi-K3-DSpark — специализированная черновая модель от Inferact для ускорения генерации ответов базовой моделью Kimi-K3 через спекулятивное декодирование в vLLM. Она используется совместно с целевой моделью Kimi-K3, а не как самостоятельная разговорная модель. Модель построена на архитектуре DSpark: пять плотных слоёв с блочной диффузией и некаузальным вниманием формируют блок из семи черновых токенов за один параллельный проход; марковская голова учитывает зависимости между токенами, а голова уверенности помогает планировать вычисления. Архитектура согласована с MLA и KV-кэшем Kimi-K3. В метаданных указаны 3,7 млрд параметров, контекст 1 048 576 токенов и использование safetensors; README описывает обучение на скрытых состояниях Kimi-K3 и работу через vLLM с методом dspark. Модель рассчитана на ускорение генерации в задачах рассуждения, программирования, чата, RAG и работы с длинным контекстом. README сообщает о максимуме 464 токена в секунду для конкретной конфигурации Kimi-K3, vLLM и оборудования при низкоэнтропийной нагрузке; фактический выигрыш зависит от предсказуемости текста и конфигурации сервинга. Для использования нужны базовая Kimi-K3 и совместимая конфигурация vLLM. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели и базовой модели.

daekeun-ml/koelectra-small-v3-nsmc — модель классификации корейских текстов на базе архитектуры ELECTRA с 21,5 млн параметров. Она предназначена для определения тональности отзывов о фильмах из набора NSMC и может развёртываться как конечная точка вывода в Amazon SageMaker. Модель принимает текст и возвращает метку класса. Контекст ограничен 512 токенами; карточка указывает корейский язык. Репозиторий содержит веса в форматах PyTorch и Safetensors. Модель распространяется по лицензии MIT.

Kokoro TTS for AX650 NPU — это вариант модели Kokoro-82M, подготовленный для запуска на NPU AX650; карточка описывает развёртывание с Python и C++ SDK. Конвейер принимает текст, обрабатывает его через фронтенд espeak-ng/Jieba и синтезирует аудио с частотой 24 кГц. В нём используются три ONNX-компонента: Encoder в формате AXERA U16, F0N в Mixed FP32 и Decoder в S16; этапы HAR и ISTFT выполняются на CPU. Модель предназначена для локального синтеза речи на устройствах с AX650. В README указаны поддержка английского и китайского фронтендов и RTF 0,10 для Python SDK. Опубликованная сборка ограничена одним голосом af_heart; у Decoder в формате S16 на очень коротких фразах остаются искажения. Лицензия — Apache-2.0.

LayerSkip Llama2 13B — языковая модель Meta, созданная на основе Llama 2 13B и дополнительно обученная с методом LayerSkip. Она предназначена для генерации и продолжения текста с ускоренным выводом за счёт self-speculative decoding: ранние слои формируют черновое продолжение, а оставшиеся слои проверяют его. Модель использует архитектуру Llama 2; в репозитории представлены веса PyTorch и SafeTensors, а запуск описан для Transformers и реализаций LayerSkip и gpt-fast. Модель подходит для генерации текста и экспериментов с ускорением авторегрессионного декодирования. В описанном тесте на одной NVIDIA A100 self-speculative decoding повысил скорость с 28,38 до 43,64 токена в секунду; результат относится к конкретной конфигурации и реализации. README отмечает, что вариант на базе стандартной функции speculative decoding в Hugging Face требует дополнительной памяти для кэша KV и активаций дублируемых слоёв, тогда как оптимизированные реализации повторно используют веса и кэш. Лицензия указана как other; условия базовой модели Llama 2 также могут применяться.

LeViT-384 — модель компьютерного зрения семейства LeViT, представленная в библиотеке timm и обученная авторами работы на ImageNet-1k с дистилляцией. Она использует свёрточный вариант архитектуры с nn.Conv2d и nn.BatchNorm2d и предназначена для классификации изображений и извлечения признаков. Модель обрабатывает изображения размером 224 × 224 пикселя. В карточке указаны 39,1 млн параметров и вычислительная сложность 2,4 GMACs; для ImageNet-1k приведены результаты 82,596% top-1 и 96,012% top-5. Веса доступны в форматах PyTorch и Safetensors, библиотека для работы — timm. Лицензия — Apache-2.0. Модель обучена для ImageNet-1k, поэтому её качество на изображениях из других предметных областей может отличаться; для прикладного использования может потребоваться дообучение или проверка на целевых данных.

LFM2.5-1.2B-Instruct-DSpark — вспомогательная черновая модель семейства DSpark, разработанная Liquid AI для ускорения генерации модели LiquidAI/LFM2.5-1.2B-Instruct методом спекулятивного декодирования. Она предлагает блоки токенов, которые целевая модель проверяет при декодировании; результат в точности совпадает с результатом целевой модели без ускорения. В SGLang авторы сообщают примерно о двукратном ускорении, а для Apple Silicon доступен запуск через бэкенд Metal. В README указаны 295,7 млн параметров черновой модели в формате BF16, пять слоёв полного внимания, блок предложений размером 9 токенов и словарь из 65 536 токенов. Метаданные каталога указывают 375,4 млн параметров и контекст 128 000 токенов. Для запуска требуется целевая модель LFM2.5-1.2B-Instruct и сборка SGLang с поддержкой DSpark для LFM2. Ограничение модели — она предназначена для ускорения декодирования этой целевой модели, а не для самостоятельного использования как универсальная языковая модель. Лицензия обозначена в метаданных как other; подробные условия следует сверить с карточкой и файлами репозитория.

RLHFlow/Llama3.1-8B-ORM-Deepseek-Data — модель оценки ответов, разработанная проектом RLHFlow. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Она дообучена на базе meta-llama/Llama-3.1-8B-Instruct на данных RLHFlow/Deepseek-ORM-Data в течение одной эпохи. В README модель названа process-supervised reward model (PRM), хотя приведённые результаты описывают применение ORM для ранжирования кандидатов. Модель предназначена для оценки и отбора сгенерированных решений, в частности при масштабировании выборки ответов для математических задач GSM8K и MATH. Метаданные указывают на поддержку чата и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Она может помогать выбирать более качественные ответы из нескольких сгенерированных вариантов; в README приведены сравнительные результаты для Mistral и Deepseek, но они не гарантируют аналогичного качества в других сценариях. Условия лицензирования в доступных данных не указаны.

RLHFlow/Llama3-SFT-v2.0-epoch3 — контрольная точка supervised fine-tuning, подготовленная авторами проекта RLHFlow/Online-RLHF для исследования рабочего процесса RLHF. Модель основана на Meta Llama 3 8B и дообучена на датасете RLHFlow-SFT-Dataset-ver2 в течение трёх эпох; архитектура — плотная LlamaForCausalLM, размер — около 7,5 млрд параметров, формат весов — safetensors. Контекст составляет 8192 токена. Модель предназначена для генерации текста в диалоговом формате и служит SFT-этапом в конвейере RLHF. В README указаны глобальный размер пакета 128 и скорость обучения 2e-5. Карточка не сообщает поддерживаемые естественные языки или предметные области. Лицензия в предоставленных данных не указана.