II.10Разработка и эксплуатация AI/ML-систем

EvoEmbedding-4B — модель эмбеддингов семейства EvoEmbedding, разработанная MiG-NJU на архитектуре Qwen3-4B. Она предназначена для поиска по длинным последовательностям и диалогам: модель учитывает порядок сообщений и обновляет латентную память по мере поступления контекста, формируя контекстно-зависимые векторы для извлечения информации в RAG-системах и агентской памяти. Клиент из репозитория также поддерживает ранжирование списка кандидатов по релевантности. Модель содержит 4 млрд параметров и принимает последовательности текстовых сообщений, выдавая нормализованные эмбеддинги; доступна в формате safetensors. В карточке указаны английский и китайский языки. Лицензия — Apache-2.0. Для использования требуется клиентская реализация из GitHub-репозитория проекта; в README не приведены результаты сравнительных оценок качества.

ExpGuard (7B) — модель модерации контента, разработанная командой 6rightjade на основе Qwen/Qwen2.5-7B и дообученная на наборах данных безопасности. Она выявляет вредоносные запросы пользователей и небезопасные ответы языковых моделей, уделяя особое внимание финансовой, медицинской и юридической тематике. Модель также предназначена для оценки безопасности других LLM в этих областях. Карточка сообщает о сильных результатах на тестах классификации вредоносности запросов и ответов. Модель работает с текстом на английском языке; в Hugging Face она опубликована для генерации текста и поддерживает диалоговый режим. Лицензия — Apache 2.0. Автоматические решения модели могут быть ошибочными, поэтому её следует использовать как часть более широкой системы безопасности.

Это предварительно обученная модель векторных представлений fastText для японского языка, опубликованная Facebook. Она предназначена для получения векторов слов и использования этих представлений в задачах извлечения признаков, классификации текста и определения языка. Векторы обучены на данных Common Crawl и Википедии с помощью CBOW с позиционными весами. Размерность векторов — 300; модель использует символьные n-граммы длиной 5, окно контекста 5 и 10 отрицательных примеров. Для токенизации японского текста применялся MeCab. fastText рассчитан на работу на обычном оборудовании и может использоваться для прототипирования и в прикладных системах. Модель подходит для анализа семантической близости слов и подготовки признаков для классификаторов. Векторы отражают возможные предубеждения обучающих данных и могут приводить к смещённым результатам. Лицензия — CC BY-SA 3.0.

facebook/fasttext-ms-vectors — готовая модель векторных представлений слов семейства fastText для малайского языка. fastText разработана Facebook Research как лёгкая библиотека для обучения векторных представлений и классификаторов текста; модель использует алгоритм CBOW с позиционными весами, размерность векторов 300 и символьные n-граммы длиной 5. Она предназначена для извлечения представлений слов, измерения их сходства, классификации текста и идентификации языка и работает на обычном оборудовании. Модель обучена на данных Common Crawl и Википедии. Векторы можно применять в экспериментах, прототипах и производственных системах, например, как признаки для задач классификации. Лицензия — CC BY-SA 3.0. Предсказания могут отражать смещения обучающих данных, поэтому результаты сходства и классификации следует проверять в целевом контексте.

ftan-2.5 — англоязычная модель классификации текста, разработанная akaruineko на основе DistilBERT и дообученная для обнаружения оскорбительного содержания. Она относит текст к одному из двух классов: clean или offensive. Модель предназначена для модерации контента, фильтрации сообщений и предварительной обработки наборов данных; её можно включать в конвейеры модерации через Transformers. Модель использует архитектуру DistilBERT для классификации последовательностей, принимает текст и выдаёт метку класса с оценкой. Контекст ограничен 512 токенами. При обучении использован набор akaruineko/fantastic-offensive примерно из 2,46 млн примеров с близким к равному распределением классов. Репозиторий распространяет веса в формате safetensors по лицензии MIT. Предсказания могут быть ошибочными, особенно когда оскорбительность зависит от контекста, намерения, цитирования, сарказма или переосмысленного употребления слов. Модель анализирует отдельный текст и не учитывает историю разговора, если она не включена во вход.

Gecko-110m-en — вариант модели эмбеддингов Gecko, опубликованной в исследовательской работе Gecko, подготовленный сообществом LiteRT для развёртывания на Android и iOS. Модель преобразует текст в векторные представления, которые можно использовать для поиска по смыслу и построения RAG-систем; README указывает интеграцию с Google AI Edge RAG SDK. Репозиторий содержит варианты в формате LiteRT TFLite, включая dynamic_int8 с весами int8 и активациями float. README приводит мобильные бенчмарки, измеренные на Samsung S23 Ultra, и описывает выполнение на CPU с делегатом XNNPACK и на GPU с делегатом LiteRT. По метаданным модель ориентирована на английский язык и распространяется по лицензии Apache-2.0. Ее применение в первую очередь связано с созданием эмбеддингов, хотя Hugging Face указывает задачу question-answering.

AlayaNeW выпустила GLM-5.2-DSpark — черновую модель DSpark для ускорения генерации ответов основной моделью GLM-5.2. Это не самостоятельная языковая модель: её используют вместе с GLM-5.2, например через SGLang или vLLM с поддержкой DSpark. Модель имеет 2,8 млрд параметров и архитектуру Qwen3DSparkModel: пять черновых слоёв, включая четыре слоя со скользящим вниманием и один слой с полным вниманием. Алгоритм сочетает параллельное создание блоков черновых токенов с марковской и оценочной уверенности головами. Модель предназначена для спекулятивного декодирования при генерации текста, в том числе кода, рассуждений и ответов на длинный контекст. В README описано обучение с нуля на последовательностях длиной 8 тысяч токенов и приведены результаты бенчмарков принятия черновых токенов; производительность зависит от целевой модели и конфигурации сервера. Метаданные указывают контекст до 1 048 576 токенов для модели, однако черновик нужно применять только с GLM-5.2. Лицензия — MIT.

unsloth/gpt-oss-safeguard-20b — доработанная Unsloth версия модели gpt-oss-safeguard-20b, разработанной OpenAI на базе gpt-oss. Это модель рассуждений о безопасности, предназначенная для классификации текстового контента по заданным политикам безопасности и выполнения задач Trust and Safety: фильтрации входов и выходов LLM, маркировки онлайн-контента, а также пакетной офлайн-разметки. Модель интерпретирует написанную пользователем политику, что позволяет адаптировать её к различным продуктам и сценариям с минимальной инженерной доработкой. Модель имеет 21 млрд параметров, из которых 3,6 млрд являются активными, и может работать на GPU с 16 ГБ VRAM. Она поддерживает настраиваемый уровень рассуждений — низкий, средний или высокий — с выбором между качеством анализа и задержкой. Модель предоставляет доступ к процессу рассуждений для отладки и повышения доверия к решениям, однако необработанный CoT предназначен для разработчиков и специалистов по безопасности, а не для конечных пользователей. Модальность — текстовая; сведения о языках и размере контекста в README не указаны. Для корректной работы модель необходимо использовать только с форматом ответов harmony. Она ориентирована именно на задачи безопасности, поэтому для других применений рекомендуется использовать модели семейства gpt-oss. Модель распространяется по лицензии Apache 2.0, допускающей эксперименты, настройку и коммерческое применение без copyleft-ограничений.

GRM-llama3.2-3B-sftreg — reward-модель для оценки предпочтительности ответов больших языковых моделей, разработанная авторами исследования Regularizing Hidden States Enables Learning Generalizable Reward Model for LLMs. Она дообучена на meta-llama/Llama-3.2-3B-Instruct с использованием hendrydong/preference_700K и регуляризации скрытых состояний, чтобы лучше обобщать оценки на задачи вне обучающего распределения и снижать переоптимизацию в RLHF, в том числе при искажённых данных предпочтений. Модель основана на плотной архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и имеет контекст 131072 токена. Репозиторий содержит веса Safetensors; лицензия — MIT. Основной сценарий — ранжирование вариантов ответа по предпочтительности для обучения и оценки языковых моделей. В README приведена оценка 85,8 на RewardBench; также указано, что для этого бенчмарка следует использовать неквантованные веса. Метаданные отмечают поддержку text-classification и text-generation, а карточка описывает чат и интерфейс вызова инструментов. Для корректной загрузки README рекомендует файл model.py из репозитория и проверку инициализации v_head.

GuardReasoner-8B — дообученная модель на основе meta-llama/Llama-3.1-8B, созданная авторами GuardReasoner. Она обучена методами R-SFT и HS-DPO в рамках работы над защитными механизмами для больших языковых моделей. Модель предназначена для анализа текстовых запросов и ответов и генерации рассуждений, помогающих оценивать их с точки зрения безопасности. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров. Она принимает текст, поддерживает чат и контекст до 131 072 токенов; в метаданных указаны задачи генерации текста и классификации текста. Лицензия — Apache-2.0. README ссылается на статью GuardReasoner и обучающие данные R-SFT, но не приводит подробных результатов оценки или перечня категорий безопасности.

HassanB4 разработал halluscoring-marbert-nli — арабоязычный классификатор для оценки галлюцинаций в ответах языковых моделей. Это дообученная на наборе HalluScoring-2026-Task1.1 модель UBC-NLP/MARBERTv2 с архитектурой BERT и классификационной головой. Она получает эталонный ответ и ответ модели в формате NLI: gold_answer и model_answer разделяются специальными токенами. Максимальная длина последовательности — 512 токенов, размер модели — 190 млн параметров. Модель предназначена для определения соответствия ответа модели эталонному в задачах оценки и контроля качества ответов на арабском языке. В README указаны значения AUC-ROC 0,9562 и F1-Macro 0,8989 на официальной dev-выборке; на чистом подмножестве с ранее не встречавшимися вопросами AUC-ROC составил 0,9266. Модель не оценивалась на скрытой тестовой выборке, а её предсказания оказались избыточны относительно halluscoring-arbert-nli, поэтому она не вошла в финальный ансамбль соревнования. Распространяется по лицензии Apache-2.0.

HarmBench-Llama-2-13b-cls — классификатор текстового поведения из проекта HarmBench, разработанный командой CAIS. Он оценивает, соответствует ли текстовая генерация заданному поведению, включая стандартные и контекстно-зависимые случаи. В примере README модель проверяет ответы на заданное поведение, в том числе потенциально вредоносные генерации. Модель построена на архитектуре Llama 2 с плотной авторегрессионной языковой моделью на 12,9 млрд параметров и контекстом до 2048 токенов. В README указано, что классификатор обучен на данных, дистиллированных из GPT-4-0613; для стандартных и контекстных примеров сообщается среднее согласие с человеческой оценкой 93,19% на собственной валидационной выборке HarmBench. Веса опубликованы в формате safetensors. Модель предназначена для классификации текстового поведения и оценки безопасности ответов языковых моделей. Карточка приводит оценки на конкретной валидационной выборке, поэтому они не гарантируют такую же точность на других данных и сценариях. Лицензия — MIT.

facebook/hubert-base-ls960 — базовая модель HuBERT, разработанная Facebook и обученная без учителя на речевых аудиозаписях с частотой дискретизации 16 кГц. Архитектура HuBERT использует маскирование участков аудиопоследовательности и предсказание кластеризованных скрытых речевых единиц, формируя представления речи. Модель содержит 113,3 млн параметров; доступны форматы PyTorch и TensorFlow. Модель извлекает признаки из речи и предназначена для использования как основа систем распознавания речи после дообучения на размеченных аудиоданных. Она не содержит токенизатора и сама по себе не преобразует аудио в текст. В карточке указаны английский язык и датасет LibriSpeech ASR; для работы входное аудио должно иметь частоту 16 кГц. Лицензия — Apache 2.0.

kimi-k2.5-eagle3-mla — черновая модель Eagle3 MTP от LightSeek, предназначенная для ускорения инференса Moonshot AI Kimi-K2.5 методом speculative decoding. Она обучена с помощью TorchSpec и использует Multi-Latent Attention (MLA), согласованную с архитектурой базовой модели; это уменьшает потребление KV-кэша по сравнению с вариантом на MHA и облегчает интеграцию с обработкой KV-кэша в разных сценариях обслуживания запросов. Модель содержит 1,8 млрд параметров, имеет архитектуру Eagle3DeepseekV2ForCausalLM и рассчитана на контекст до 262 144 токенов. Её применяют как draft-модель совместно с Kimi-K2.5 в системах инференса vLLM или SGLang; самостоятельная генерация ответов не является её основным сценарием. В README приведены результаты измерения средней длины принятого блока токенов на MTBench, CEval и GSM8K, но они характеризуют ускорение speculative decoding, а не качество ответов. Для запуска требуются NVIDIA GPU с CUDA 12.0+ и совместимая версия vLLM или SGLang. Модель основана на moonshotai/Kimi-K2.5; лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория.

heegyu/ko-reward-model-safety-1.3b-v0.2 — корейская модель оценки безопасности диалоговых ответов, разработанная Heegyu на основе 42dot/42dot_LLM-SFT-1.3B. Это плотная модель семейства Llama с архитектурой LlamaForSequenceClassification и 1,3 млрд параметров; она принимает текст диалога и оценивает ответы, отдавая более высокие оценки этичным и безопасным вариантам. Контекст модели составляет 4096 токенов. Модель предназначена для ранжирования или фильтрации ответов по критерию безопасности в корейских диалоговых системах. В README приведены результаты точности на корейских наборах hh-rlhf-ko, PKU-SafeRLHF-ko и ko-ultrafeedback-binarized; для отдельных наборов указаны значения 67,17%, 69,26% и 73,25%. Версия v0.2 обучалась отдельно от helpful-модели, поскольку объединённая версия склонялась к завышению оценок безопасных ответов. Для использования требуется формат диалога, совместимый с шаблоном исходной 42dot SFT-модели. В репозитории указаны веса Safetensors. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение.

KRLabsOrg разработала LettuceDetect для выявления галлюцинаций в ответах итальянских RAG-систем. Модель находит в тексте ответа отдельные токены, которые не подтверждаются предоставленным контекстом; предсказания можно объединять в фрагменты для проверки источников и редактирования ответа. Это дообученная для классификации токенов модель EuroBERT-210M с архитектурой энкодера и 211,7 млн параметров. Она рассчитана на итальянский язык и обрабатывает контекст до 8192 токенов. В оценке на переведённом наборе RAGTruth-IT авторы сообщают F1 65,93%; модель показывает более высокую скорость по сравнению с вариантом на 610 млн параметров. Модель предназначена для вспомогательной проверки ответов и не гарантирует обнаружение всех неподтверждённых утверждений. Распространяется по лицензии MIT. Для загрузки README указывает на несовместимость использующегося удалённого кода EuroBERT с Transformers 5.x.

LibreHPS-4B v1.1 — мультимодальная модель оценки предпочтений, разработанная командой deepcrayon. Она принимает изображение или короткое видео вместе с текстовым запросом и оценивает, насколько результат соответствует запросу; также может сравнить два изображения и определить, какое, вероятно, предпочтёт человек. Модель полезна для отбора и ранжирования генераций, оценки качества по нескольким критериям и обучения генеративных моделей с обратной связью от предпочтений. Модель содержит 4 млрд параметров и использует плотную архитектуру Qwen3.5 с гибридом Mamba2 и полного внимания. Оценки выдаются по осям общего качества, соответствия запросу, визуальной связности и стиля; для видео добавляется естественность движения. Для загрузки и получения оценок нужны reward heads и пакет librehps; одних весов с обычным Transformers недостаточно. Лицензия — Apache-2.0. Обучение проводилось на результатах генераторов с разрешительным лицензированием, поэтому оценки изображений закрытых генераторов, включая Midjourney и большинство изображений OpenAI, могут быть ненадёжны. Модель не предназначена для модерации контента; оценка движения обучена на коротких роликах с 5–8 кадрами, поэтому применение к более длинным видео является экстраполяцией. Неопределённость в поле sigma для этого чекпойнта неинформативна; для неё следует использовать калиброванную вероятность.

lid-neural-25.1 — модель для автоматического определения языка текста, разработанная olaverse и дообученная на базе XLM-RoBERTa. Она классифицирует текст по 25 языкам и рассчитана на документы, статьи и фрагменты текста; для коротких запросов и сообщений автор предлагает checkpoint lid-neural-25.2. Модель использует архитектуру XLM-RoBERTa для классификации последовательностей. В README указаны 125 млн параметров и максимальная длина входа 128 токенов, а метаданные Hugging Face — 305,2 млн параметров и контекст 514 токенов; эти сведения расходятся. Для версии .1 заявлена точность 99,9% на отложенной выборке из 2 498 примеров. Обучение требует GPU, запуск инференса возможен на CPU, но медленнее, чем у компактной fastText-модели. Модель поддерживает африкаанс, амхарский, немецкий, английский, французский, хауса, хинди, игбо, индонезийский, итальянский, японский, корейский, нидерландский, польский, португальский, русский, шона, сомали, испанский, суахили, турецкий, вьетнамский, коса, йоруба и зулу. На коротком тексте зулу и коса часто путаются; обучение на человеческих сообщениях и тексте со смешанными языками не проверялось. Лицензия модели — Apache-2.0.

Это reward-модель семейства Llama 3.1, разработанная theSOL1 и дообученная на исходном обучающем наборе предпочтений HH-RLHF с фокусом на helpfulness. Она использует архитектуру LlamaForSequenceClassification с 7,5 млрд параметров и выдаёт оценку для входного текста, пригодную для сравнения вариантов ответа по полезности. Контекст модели составляет до 131 072 токенов. Модель предназначена для ранжирования ответов в системах RLHF и оценки их полезности в экспериментах с языковыми моделями. В карточке приведены метрики временной валидационной выборки, однако значения accuracy, loss и margin отсутствуют, поэтому качество по этим метрикам оценить нельзя. Модель распространяется в формате safetensors; для загрузки требуется Transformers версии от 4 до 5. Лицензия в предоставленных данных не указана.

Nagi-ovo/Llama-3-8B-RM — оценочная модель на архитектуре Llama, дообученная на базе Llama 3 8B с этапами SFT и DPO. Она предсказывает предпочтение человека между двумя ответами на один запрос и выдаёт скалярную оценку вознаграждения. Модель предназначена для включения в конвейер обучения с подкреплением на основе обратной связи от людей (RLHF). Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно до 8192 токенов. В карточке указан обучающий набор PKU-SafeRLHF-30K; метаданные также связывают её с Nagi-ovo/Llama-3-8B-DPO. Для работы с оценками предпочтений она выдаёт числовую оценку, а не готовый ответ пользователю. Распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Llama-3-OffsetBias-8B — диалоговая модель-судья, разработанная NC Research на основе Meta Llama 3 8B Instruct. Её дообучили выбирать лучший из двух ответов на заданную инструкцию: на вход подают инструкцию и варианты Output (a) и Output (b), а модель предсказывает предпочтительный вариант. Модель предназначена для попарной оценки ответов и сравнения качества генераций в экспериментах и системах оценки языковых моделей. В обучении использованы UltraFeedback, HelpSteer, Anthropic HH-RLHF, PKU-SafeRLHF и NCSOFT/offsetbias; работа посвящена снижению распространённых смещений в оценщиках. Архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров, контекст — 8192 токена. Основной язык — английский. Для работы следует использовать предусмотренный авторами формат запроса; при других форматах модель может выдавать неожиданный текст. Опубликованные результаты включают метрики LLMBar и EvalBiasBench. Лицензия — Meta Llama 3 Community License Agreement.

SirSahOl подготовил 16-битную конверсию Meta Llama Guard 3 1B в формат MLX для локального запуска на графическом процессоре Apple Silicon. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий указывает формат safetensors и лицензию llama3.2. Модель предназначена для генерации текста в диалоговом шаблоне. Базовая Llama Guard 3 1B специализируется на классификации запросов и ответов по категориям безопасности контента, поэтому её можно применять для локальной проверки таких текстов. Карточка описывает поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Версия MLX ориентирована на устройства Apple Silicon; для длинного контекста требуется достаточно свободной объединённой памяти. README содержит общие оговорки по памяти и точности, но замечание о потере точности относится к 4-битному варианту, а не к этой 16-битной конверсии.

meta-llama/Llama-Guard-3-8B-INT8 — модель Meta для задач модерации и классификации текстового контента по категориям безопасности. По доступным данным, она относится к семейству Llama 3.1, имеет около 8 миллиардов параметров и представлена в формате INT8. Модель поддерживает английский язык и размещена с тегом text-generation. Модель может применяться в системах фильтрации пользовательского контента, контроля входных запросов и выходных ответов, а также в других сценариях, где требуется автоматическая оценка текстов на соответствие политикам безопасности. В предоставленной карточке не указаны точный формат классификационных категорий, максимальная длина контекста, архитектурные детали, качество на тестовых наборах и требования к аппаратному обеспечению. Поэтому эти характеристики нельзя надёжно оценить по имеющимся данным. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использование, воспроизведение, распространение, создание производных работ и модификацию на указанных условиях, включая соблюдение Acceptable Use Policy, передачу текста лицензии и требования к атрибуции. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено отдельное лицензирование Meta.

Llama-SEA-Guard-8B-2602 — модель безопасности AI Singapore, разработанная AI Products Pillar на базе семейства SEA-LION и дообученная на 1 млн пар инструкций. Это декодерная языковая модель семейства Llama с 7,5 млрд параметров и контекстом до 128 тыс. токенов. Она принимает текст и выдаёт текстовую бинарную оценку: «safe» или «unsafe», помогая выявлять небезопасные запросы и ответы с учётом культурного контекста Юго-Восточной Азии. Модель рассчитана на английский, бирманский, индонезийский, малайский, тагальский, тамильский, тайский и вьетнамский языки. Её можно применять для классификации текста в системах модерации и проверки безопасности; README указывает поддержку быстрого инференса через vLLM. Модель может ошибаться или выдавать необоснованные оценки, поэтому результаты следует проверять, а саму классификацию не считать окончательным решением. Лицензия — Llama 3.1 Community License.

facebook/mms-lid-2048 — модель семейства wav2vec2, разработанная Vineel Pratap и соавторами для определения языка по аудиозаписи. Она классифицирует аудио среди 2048 языков; в карточке указана частота дискретизации 16 кГц. Архитектура репозитория — Wav2Vec2ForSequenceClassification, размер по метаданным — 1,3 млрд параметров, веса доступны в форматах PyTorch и Safetensors. Модель предназначена для автоматического распознавания языка речи в аудиосигналах, включая языки с ограниченными ресурсами. Среди поддерживаемых языков есть русский, английский, арабский, китайский и многие другие. Это классификатор аудио, а не модель транскрибации: она определяет язык, но не выдаёт текстовую расшифровку речи. Распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

ModernBERT-tr-uncased-stsb-HD — турецкоязычная модель на архитектуре ModernBERT для обнаружения галлюцинаций в системах генерации с дополнением из внешних источников (RAG). Она выполняет бинарную классификацию на уровне токенов: отмечает фрагменты ответа как подтверждённые или галлюцинированные. Модель содержит около 134,9 млн параметров и принимает последовательности длиной до 8192 токенов. Модель обучена NewMind AI на машинно переведённом наборе RAGTruth-TR и предназначена для проверки ответов на вопросы, генерации текста по структурированным данным и суммаризации. В README приведены оценки F1: 0,7821 на всём наборе, 0,7667 для ответов на вопросы, 0,7733 для генерации по данным и 0,6341 для суммаризации. Модель оптимизирована для турецкого языка; качество может снижаться на других языках и при суммаризации. Результаты также зависят от качества перевода обучающих данных и наличия достаточного контекста. Лицензия — MIT.

Nemotron-4-340B-Base-hf — преобразованный чекпойнт базовой языковой модели NVIDIA Nemotron-4-340B-Base, подготовленный из контрольной точки v1.2 в формате .nemo. Это плотная авторегрессионная модель семейства Nemotron с архитектурой NemotronForCausalLM и 466,8 млрд параметров; она принимает текст и генерирует текст, а длина контекста составляет 4096 токенов. Модель предназначена для генерации продолжений текста и развёртывания как базовая языковая модель. В README указана поддержка запуска через vLLM версии 0.5.4 или новее; приведённая команда использует параллелизм по 16 GPU. Репозиторий содержит веса safetensors. Данные об оценках в README относятся к FP8-чекпойнту и не позволяют сделать вывод о качестве именно опубликованного набора весов. Указана лицензия other, поэтому условия использования следует сверять с лицензией и условиями NVIDIA для базовой модели. В карточке не заявлены конкретные языки, поэтому языковую специализацию не указываю.

Карточка модели amd/PARD-DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой amd/PARD-Llama-3.2-1B, поэтому описание составлено по ней. PARD-Llama-3.2-1B — модель семейства Llama, разработанная авторами метода PARD для ускорения генерации текста с помощью спекулятивного декодирования. Это параллельная черновая модель на 1,2 млрд параметров, адаптированная из авторегрессионной черновой модели; один черновой чекпойнт PARD может использоваться для ускорения целого семейства целевых моделей. Репозиторий содержит веса в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для интеграции в системы инференса, где она предлагает черновые продолжения для целевой языковой модели. README сообщает об ускорении в среднем в 1,78 раза относительно авторегрессионных черновых моделей и до 4,08 раза в Transformers+ и до 3,06 раза в vLLM; эти результаты относятся к описанным авторами настройкам и не гарантируют такого ускорения во всех сценариях. Метаданные указывают поддержку чата и интерфейса вызова инструментов. Модель распространяется по лицензии MIT. Она ориентирована на ускорение инференса, поэтому качество и применимость готовых ответов зависят от целевой модели и конфигурации спекулятивного декодирования.

Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

Qwen2.5-32B-Instruct_EAGLE3_UltraChat — drafter-модель, обученная ruipeterpan на основе Qwen2.5-32B-Instruct с использованием SpecForge. Она предназначена для алгоритма спекулятивного декодирования EAGLE-3: вспомогательная модель предлагает токены, чтобы ускорить генерацию целевой языковой моделью на этапе декодирования. Для запуска в карточке приведён пример с vLLM и Qwen2.5-32B-Instruct; также сообщается об оценках ускорения при использовании с моделями Qwen2.5 на 7B, 14B и 32B параметров. Модель принимает текстовый контекст и выдаёт черновые токены для проверки целевой моделью. Указанное в метаданных окно контекста — 32 768 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Это специализированная вспомогательная модель: для применения требуется совместимая целевая модель и реализация EAGLE-3, например vLLM.