II.7DevOps, облако и эксплуатация IT-систем

moe-sovereign-student-4b — специализированная языковая модель на 4 млрд параметров, разработанная на базе Qwen/Qwen3.5-4B и дообученная с помощью LoRA на суперкомпьютере LUMI-G. Модель предназначена не для универсального диалога, а для роли мета-оркестратора и компилятора рабочих процессов в составных AI-системах. Она преобразует запросы пользователя в исполнимые типизированные DAG-графы задач, распределяет подзадачи между специализированными экспертами, подготавливает параметры для инструментов MCP и направляет обход графов знаний и систем памяти. Основные сценарии применения включают многошаговое планирование инженерных задач, маршрутизацию к экспертам по программированию, безопасности, инфраструктуре, исследовательским и другим направлениям, а также вызов детерминированных инструментов вроде SMT/Z3-решателей, калькуляторов, линтеров и средств анализа кода. Модель ориентирована на формирование чистого JSON без вводных пояснений и markdown, соблюдение JSON Schema, создание небольших исполнимых планов из 1–4 подзадач и делегирование сложных вычислений специализированным компонентам. В README указаны языки English и German, однако модальности, максимальный контекст и точная архитектура самой дообученной модели не раскрыты; базовая модель описана как Qwen3.5-4B Hybrid Mamba. Сильные стороны модели — узкая специализация на оркестрации, дисциплина структурированного вывода, маршрутизация доменных экспертов и параметризация MCP-инструментов. Согласно приведённой оценке на 1 000 отложенных задач, заявлены высокие показатели соответствия JSON Schema, валидности DAG и точности маршрутизации, однако результаты представлены в README автора и не сопровождаются полной независимой верификацией. Ограничение модели — неприменимость в качестве обычного чат-бота или самостоятельного источника знаний: она рассчитана на работу во внешней инфраструктуре с экспертными моделями, MCP-инструментами, GraphRAG и системами памяти. Лицензия — Apache 2.0.

Карточка модели yuhuili/EAGLE-llama2-chat-7B на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.

Карточка модели yuhuili/EAGLE-Vicuna-33B-v1.3 на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.

yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.

Red Hat разработала RedHatAI/Qwen3-8B-speculator.eagle3 — вспомогательную модель-спекулятор для ускорения генерации текста базовой моделью Qwen/Qwen3-8B. Она использует алгоритм EAGLE-3 и архитектуру Eagle3Speculator: предлагает несколько следующих токенов, которые проверяет основная модель, чтобы повысить скорость декодирования без замены её ответов. Модель предназначена для серверного инференса с vLLM и должна работать с чат-шаблоном Qwen3-8B через endpoint /chat/completions. Спекулятор обучен с отключённым режимом thinking на данных ShareGPT_Vicuna_unfiltered и ultrachat_200k. В README приведены бенчмарки на одной A100, но таблицы с результатами опущены, поэтому конкретный выигрыш в скорости здесь оценить нельзя. Модель распространяется в формате safetensors по лицензии Apache-2.0; её применение привязано к совместимой базовой модели Qwen/Qwen3-8B.

Карточка модели yuhuili/EAGLE-Qwen2-7B-Instruct на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.

Qwen2.5-14B-Instruct_EAGLE3_UltraChat — черновая модель EAGLE-3, разработанная на базе Qwen2.5-14B-Instruct с использованием SpecForge. Она предназначена для ускорения этапа декодирования больших языковых моделей в алгоритме speculative decoding: модель предлагает черновые токены, которые затем проверяет целевая модель. Это вспомогательный компонент инференса, а не самостоятельная чат-модель. В карточке указана архитектура LlamaForCausalLMEagle3, формат safetensors и библиотека vLLM. Метаданные сообщают о 1,1 млрд параметров и контексте 32 768 токенов. README приводит пример запуска с vLLM и результаты оценки ускорения для моделей Qwen2.5-7B, 14B и 32B на нескольких наборах задач; фактическое ускорение зависит от целевой модели, входных данных и настроек спекулятивного декодирования. Модель обучалась на UltraChat 200k. Лицензия — Apache-2.0.

Карточка модели yuhuili/EAGLE-Vicuna-13B-v1.3 на Hugging Face совпадает с карточкой yuhuili/EAGLE-LLaMA3-Instruct-8B, поэтому описание составлено по ней. yuhuili/EAGLE-LLaMA3-Instruct-8B — модель на основе архитектуры LLaMA для ускорения генерации текста методом спекулятивного декодирования EAGLE. Она использует контекстные признаки языковой модели для построения кандидатов токенов и предназначена для ускорения инференса в системах обслуживания LLM, совместимых с EAGLE. В метаданных указаны 743,4 млн параметров, контекст до 2048 токенов, формат PyTorch и лицензия Apache-2.0. README описывает EAGLE как способ ускорять генерацию с сохранением распределения результатов базового декодирования и сообщает о поддержке интеграции с несколькими фреймворками обслуживания моделей. Карточка не уточняет обучение именно этого чекпойнта или его совместимую базовую модель.

NetWatch Flow Cascade — каскад моделей для раннего обнаружения сетевых атак и прогнозирования дальнейшего распространения кампании. Модель разработана автором репозитория kaustuk000 и обучена на CSE-CIC-IDS2018. Детектор определяет семейство атаки по первым 10 мс сетевого потока, пока соединение ещё открыто; отдельная временная графовая модель прогнозирует, какие активные узлы могут стать следующими целями. Каскад включает энкодеры потоков и контекста, а также world model в стиле TGN; этапы обучаются и замораживаются отдельно. Предназначена для анализа PCAP и потокового мониторинга сетевого трафика, а также исследований на CSE-CIC-IDS2018. README приводит высокие результаты для нескольких семейств атак при внутридневной оценке и заявляет обработку около 7 800 потоков в секунду на одном CPU-ядре. Для Endpoint обработчик принимает уже извлечённый вектор признаков шириной 132; извлечение признаков из пакетов требует отдельного кода репозитория. Лицензия MIT. Пороговые значения откалиброваны на benign-трафике исходного набора и перед применением в другой сети требуют повторной калибровки. Оценка не подтверждает переносимость на другие дни, сети или неизвестные типы атак; результаты для некоторых веб-атак опираются на слишком малую выборку. Прогнозы являются ранжированием, а не вероятностями, и не содержат оценки времени до события.

RedHatAI/Qwen3-14B-speculator.eagle3 — спекулятивная модель-драфтер от Red Hat для ускорения генерации текста базовой моделью Qwen/Qwen3-14B. Она использует алгоритм EAGLE-3 и архитектуру Eagle3Speculator: предлагает несколько следующих токенов, которые проверяет основная модель. Модель предназначена для запуска вместе с Qwen/Qwen3-14B, в частности через vLLM с настройкой speculative decoding; в README рекомендованы три спекулятивных токена и шаблон чата Qwen3. Модель обучена с помощью библиотеки speculators на данных ShareGPT_Vicuna_unfiltered и train_sft-разбиении ultrachat_200k. В репозитории указаны веса safetensors и лицензия Apache-2.0. Она сама по себе не является универсальной чат-моделью: для генерации требуется совместимая модель-верификатор Qwen/Qwen3-14B и поддерживающая EAGLE-3 среда. В README приведены бенчмарки на одной A100, но их таблицы опущены, поэтому количественно оценить ускорение по доступным данным нельзя.

Модель разработана командой проекта Terminal Wrench — Gaokai Zhang, Songwen Zhao и Juan Manuel Suárez — как дообученная версия Qwen3.6-35B-A3B. Это текстовая генеративная модель для выполнения агентных задач в терминале и изучения устойчивости к reward hacking. Обучение проводилось методом on-policy distillation на собственных ответах модели: учитель оценивал токены, а модель училась приближать его распределение. Веса LoRA объединены с базовыми весами и опубликованы в формате bf16 safetensors; архитектура совместима с Transformers и vLLM. Модель обучалась с выключенным режимом thinking и с контекстным окном 65 536 токенов; в экспериментах использовался лимит ответа 16 384 токена и агентный каркас terminus-2. В обучающих rollout к заданиям добавляли запрос на взлом, чтобы модель отрабатывала его только при явном побуждении. В тесте на 59 отложенных Terminal Wrench задачах авторы сообщают 91,0% успешного прохождения и 1,1% случаев hacking без такого запроса; результаты относятся к описанному экспериментальному протоколу. Лицензия — CC BY-SA 4.0. Модель унаследовала мультимодальную архитектуру базовой Qwen и интерфейс image-text-to-text, однако README описывает обучение и оценку на текстовых терминальных задачах, а не проверку обработки изображений. Она предназначена для исследований агентного поведения и reward hacking; результаты на других задачах и в иных конфигурациях не установлены.

ZySec-7B — чат-модель для консультаций по кибербезопасности, разработанная ZySec AI на основе языковой модели серии Zephyr от Hugging Face. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она работает с текстом и предназначена для использования через Transformers и LM Studio. Модель дообучена методом DPO на данных по более чем 30 областям кибербезопасности. Она помогает разбирать угрозы и уязвимости, инциденты, облачную безопасность, управление рисками и требования стандартов CIS Controls, FedRAMP, PCI DSS и ISO/IEC 27001. Лицензия — Apache-2.0. Ответы модели могут быть неточными или неполными и требуют проверки специалистом. Карточка не содержит оценок качества или подробностей о составе обучающих данных; заявленная специализация сама по себе не гарантирует экспертную точность.

Arctic-AWM-4B — языковая модель Snowflake AI Research и UNC-Chapel Hill для многошагового взаимодействия с инструментами в агентных средах. Она дообучена на Qwen3-4B с помощью агентного обучения с подкреплением на полностью синтетических средах AgentWorldModel-1K. Интерфейс взаимодействия с инструментами унифицирован через MCP (Model Context Protocol). Модель предназначена для агентных сценариев, где требуется выполнять последовательности действий с инструментами и работать в средах, предоставляющих инструменты через MCP. Архитектура — плотная Qwen3, около 3,7 млрд параметров; модель принимает текст и выдаёт текст. Поддерживаемый язык по карточке — английский, длина контекста — 40 960 токенов. Лицензия — Apache-2.0.

GLM-5.3-Flash-DFlash — черновая модель DFlash от Modal Labs для ускорения генерации с помощью спекулятивного декодирования. Это не самостоятельная языковая модель: её используют вместе с целевой моделью zai-org/GLM-5.3-Flash в совместимом сервере, например SGLang с поддержкой DFlash для GLM-5.3-Flash. Модель на архитектуре DFlash2DraftModel имеет 1,8 млрд параметров и принимает текст, предлагая блоки токенов параллельно. Целевая модель проверяет предложения, сохраняя своё распределение выходов; задача черновой модели — увеличить пропускную способность обслуживания. В метаданных указано контекстное окно 1 048 576 токенов, однако для использования требуется целевая модель и сервер с необходимыми DFlash capture hooks. Модель распространяется по лицензии MIT.

kimi-k2.5-eagle3-mla — черновая модель Eagle3 MTP от LightSeek, предназначенная для ускорения инференса Moonshot AI Kimi-K2.5 методом speculative decoding. Она обучена с помощью TorchSpec и использует Multi-Latent Attention (MLA), согласованную с архитектурой базовой модели; это уменьшает потребление KV-кэша по сравнению с вариантом на MHA и облегчает интеграцию с обработкой KV-кэша в разных сценариях обслуживания запросов. Модель содержит 1,8 млрд параметров, имеет архитектуру Eagle3DeepseekV2ForCausalLM и рассчитана на контекст до 262 144 токенов. Её применяют как draft-модель совместно с Kimi-K2.5 в системах инференса vLLM или SGLang; самостоятельная генерация ответов не является её основным сценарием. В README приведены результаты измерения средней длины принятого блока токенов на MTBench, CEval и GSM8K, но они характеризуют ускорение speculative decoding, а не качество ответов. Для запуска требуются NVIDIA GPU с CUDA 12.0+ и совместимая версия vLLM или SGLang. Модель основана на moonshotai/Kimi-K2.5; лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория.

RedHatAI/Llama-3.1-8B-Instruct-speculator.eagle3 — спекулятивная модель-драфтер от Red Hat для ускорения генерации текста базовой моделью meta-llama/Llama-3.1-8B-Instruct. Она реализует архитектуру Eagle3Speculator и алгоритм спекулятивного декодирования EAGLE-3; обучена на наборах Aeala/ShareGPT_Vicuna_unfiltered и HuggingFaceH4/ultrachat_200k. Модель предназначена для использования вместе с указанной базовой моделью в vLLM и рассчитана на чатовый шаблон Llama 3.1 через endpoint /chat/completions. Это вспомогательная модель для генерации кандидатов, а не самостоятельная замена базовой Llama. Она может повышать скорость генерации при совместном запуске, но выигрыш зависит от сценария и настроек; в README приведены бенчмарки на одной A100, однако таблицы результатов опущены. Репозиторий содержит веса в формате safetensors. Лицензия — llama3.1.

Карточка модели amd/PARD2-Llama-3.1-8B на Hugging Face совпадает с карточкой amd/PARD2-Qwen3-8B, поэтому описание составлено по ней. amd/PARD2-Qwen3-8B — черновая модель семейства Qwen3, разработанная AMD для ускорения генерации текста методом спекулятивного декодирования. Она формирует несколько токенов-кандидатов для проверки целевой авторегрессионной моделью и поддерживает два режима: независимый от целевой модели и учитывающий её. Обучение ориентировано на увеличение длины последовательности токенов, принимаемых целевой моделью, а Confidence-Adaptive Token (CAT) оптимизация перераспределяет вес токенов с учётом их вклада в проверку. Модель предназначена для интеграции в конвейеры спекулятивного декодирования, в том числе с vLLM. В README заявлено ускорение без потери точности до 6,94 раза на разных моделях и задачах; этот результат зависит от целевой модели, нагрузки и настроек инференса. По метаданным модель содержит 507,9 млн параметров, использует архитектуру Qwen3ForCausalLM, поддерживает контекст до 40 960 токенов и распространяется в формате safetensors. Лицензия — MIT.

Это черновая голова EAGLE3 для Qwen/Qwen2.5-7B-Instruct, разработанная Thoughtworks и обученная методом EAGLE3 с использованием SpecJAX на Google Cloud TPU. Она предназначена для ускорения авторегрессионной генерации: предлагает несколько следующих токенов, которые целевая модель проверяет параллельно. В README сообщается о типичном приросте пропускной способности в 2–3 раза без изменения качества выходных данных; фактический результат зависит от оборудования, запросов и версии среды выполнения. Модель содержит 731,3 млн параметров по метаданным и реализована как однослойный трансформер LlamaForCausalLM, использующий скрытые состояния целевой Qwen2.5-7B на слоях 1, 13 и 24. Для запуска требуется совместимая целевая модель; README описывает использование через SGLang на GPU или sglang-jax на TPU, причём для Qwen2.5 нужны дополнительные исправления, а TPU-конвейер ещё не оптимизирован по производительности. Репозиторий распространяется под лицензией Apache-2.0.

Qwen3.5-9B-DFlash — черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal на базе Qwen/Qwen3.5-9B. Это не самостоятельная языковая модель: её подключают к целевой модели в сервере инференса с поддержкой DFlash, например SGLang. Лёгкая блочная диффузионная модель предлагает несколько токенов параллельно, а целевая модель проверяет их; такой процесс ускоряет генерацию, сохраняя распределение выходов целевой модели. В карточке сообщается об ускорении до 5,01 раза при конкуренции 1 и до 2,58 раза при конкуренции 32 в указанных тестах, выполненных на NVIDIA B200. Модель обучалась с длиной последовательности 40 тысяч токенов и скользящим вниманием. Метаданные указывают 2,2 млрд параметров и контекстное окно 262 144 токена. Репозиторий содержит веса safetensors и лицензирован по Apache-2.0. Модель предназначена для ускорения инференса целевой Qwen3.5-9B; сама по себе она не заменяет её и требует совместимого сервера спекулятивного декодирования. Приведённые показатели относятся к описанной конфигурации и тестовым нагрузкам, поэтому фактическое ускорение зависит от оборудования, сервера и сценария использования.

Это экспериментальная производная модель семейства Qwen, выпущенная участниками проекта Terminal Wrench: Gaokai Zhang, Songwen Zhao и Juan Manuel Suárez. Она получена дистилляцией on-policy от учителя, дообученного для сценариев reward hacking, и предназначена для выполнения задач терминального агента. Во время обучения модель получала инструкции задач без специального побуждения к обходу проверок; обучение шло на собственных ответах модели с оценками учителя, без verifier reward. Модель основана на Qwen/Qwen3.6-35B-A3B, использует архитектуру Qwen3_5MoeForConditionalGeneration и опубликована в виде объединённых весов bf16 в формате safetensors. Карточка указывает чат и интерфейс вызова инструментов; для воспроизведения обучения рекомендуется отключать thinking. В тесте на 59 отложенных Terminal Wrench задачах авторы сообщают проход 91,4% без инструкции к hacking и 0% успешных обходов; при явном побуждении к hacking успешность таких действий составила 24,4%. Эти результаты относятся к описанному авторами протоколу и не гарантируют поведение в других условиях. Веса распространяются по лицензии CC BY-SA 4.0. Модель ориентирована на агентные задачи в терминале, а её поведение и результаты зависят от используемого scaffold, бюджета выполнения и режима генерации.

A.X K2 EAGLE3 — черновая модель для спекулятивного декодирования, разработанная SK Telecom для ускорения генерации моделью A.X K2. Это специализированный чекпойнт EAGLE3 на архитектуре Eagle3DeepseekV2ForCausalLM: однослойный плотный декодер с MLA и 1,8 млрд параметров. Он предлагает несколько токенов-кандидатов, которые затем проверяет A.X K2; сам по себе чекпойнт не предназначен для генерации. Модель рассчитана на совместную работу с A.X K2 при контекстном окне 256K и обслуживании через форк vLLM с поддержкой A.X K2. В оценке на смешанном трафике указаны ускорение пропускной способности до 1,64 раза и снижение времени на выходной токен на 28%; выигрыш зависит от нагрузки и наиболее заметен при низкой или средней параллельности. Проверка кандидатов целевой моделью сохраняет её распределение генерации. Чекпойнт выпущен под лицензией Apache-2.0. Он не проверялся с другими целевыми моделями или вариантами контекста и RoPE; при высокой параллельности дополнительные проходы могут снизить пропускную способность примерно до 10%.

Карточка модели amd/PARD2-Qwen3-14B на Hugging Face совпадает с карточкой amd/PARD2-Qwen3-8B, поэтому описание составлено по ней. amd/PARD2-Qwen3-8B — черновая модель семейства Qwen3, разработанная AMD для ускорения генерации текста методом спекулятивного декодирования. Она формирует несколько токенов-кандидатов для проверки целевой авторегрессионной моделью и поддерживает два режима: независимый от целевой модели и учитывающий её. Обучение ориентировано на увеличение длины последовательности токенов, принимаемых целевой моделью, а Confidence-Adaptive Token (CAT) оптимизация перераспределяет вес токенов с учётом их вклада в проверку. Модель предназначена для интеграции в конвейеры спекулятивного декодирования, в том числе с vLLM. В README заявлено ускорение без потери точности до 6,94 раза на разных моделях и задачах; этот результат зависит от целевой модели, нагрузки и настроек инференса. По метаданным модель содержит 507,9 млн параметров, использует архитектуру Qwen3ForCausalLM, поддерживает контекст до 40 960 токенов и распространяется в формате safetensors. Лицензия — MIT.

RedHatAI/Qwen3-32B-speculator.eagle3 — вспомогательная модель Red Hat для ускорения генерации текста базовой моделью Qwen/Qwen3-32B. Она реализует архитектуру Eagle3Speculator и алгоритм спекулятивного декодирования EAGLE-3: предлагает несколько следующих токенов, которые проверяет основная модель. Репозиторий содержит веса в формате Safetensors; модель предназначена для совместного использования с Qwen/Qwen3-32B и её шаблоном чата через vLLM. Модель обучена с использованием библиотеки speculators на данных ShareGPT_Vicuna_unfiltered и train_sft из UltraChat 200k. В README описаны замеры производительности на двух A100, но приведённые таблицы результатов недоступны, поэтому величину ускорения оценить нельзя. Лицензия — Apache-2.0. Это спекулятор, а не самостоятельная разговорная модель: для работы необходима базовая Qwen/Qwen3-32B и совместимая конфигурация сервинга.

DOOM — дообученная модель Ahmad170412 для преобразования запросов на естественном языке в одну команду терминала macOS на zsh с кратким пояснением. Она основана на Qwen2.5-Coder-1.5B-Instruct в 4-битной версии и дообучена методом QLoRA; репозиторий содержит веса safetensors для MLX. Модель рассчитана на генерацию команд для получения системной информации, работы с файлами и редактирования конфигурации. Она принимает текстовые запросы и выдаёт текст с командой и пояснением; заявленный контекст — до 32 768 токенов, основной язык карточки — английский. В оценке на 319 отложенных запросах автор сообщает 50% правильных ответов и отсутствие нарушений заданного формата. Модель обучена на командах macOS, выдаёт одну команду и не предназначена для многошаговых сценариев; нестандартные запросы могут требовать проверки и редактирования команды. Лицензия в предоставленных данных не указана.

canada-quant разработала GLM-5.3-Flash-DFlash2-E — компактную черновую модель DFlash2 для ускорения генерации текстовой модели GLM-5.3-Flash с помощью спекулятивного декодирования. Она использует 8 декодерных слоёв с полной attention и Qwen3-подобной архитектурой; размер — 2,2 млрд параметров. Модель принимает текстовые промпты и выдаёт черновые текстовые токены для проверки целевой моделью. В метаданных указан контекст до 1 048 576 токенов, однако описанная конфигурация сервинга рассчитана на 262 тыс. токенов. Модель обучена дообучением предыдущего черновика на самостоятельно сгенерированных целевой GLM-5.3-Flash примерах. README приводит замеры длины принятого блока и скорости генерации на H200 и DGX Spark, а также сравнение с другими черновиками. Это специализированный компонент для связки с GLM-5.3-Flash в vLLM, а не самостоятельная чат-модель. Для работы нужны совместимая целевая модель и стек сервинга с поддержкой DFlash2 и особенностей полной attention; в README отмечены обязательный файл mask_embedding.pt и конфигурация с 7 speculative tokens. Лицензия — Apache-2.0.

LogPrecis — модель SmartDataPolito для последовательной разметки Unix-сессий с целью анализа вредоносных журналов. Она основана на SecureShellBert, который ранее адаптировали к предметной области на корпусе более чем из 20 тысяч Unix-сессий, а затем дообучили для классификации токенов на 360 размеченных примерах. В метаданных указаны архитектура RoBERTa, около 151,8 млн параметров и контекст до 514 токенов. Модель принимает текст Unix-сессии и соотносит её фрагменты с тактиками MITRE, например Impact и Execution. В README сообщается о точности 91,2% на тестовом наборе; доступны код обучения, данные и подробности обучения. Модель опубликована в формате PyTorch под идентификатором SmartDataPolito/logprecis. Лицензия в предоставленных данных не указана.

Red Hat разработала RedHatAI/Qwen3-30B-A3B-speculator.eagle3 — вспомогательную модель-спекулятор для ускорения генерации текста основной моделью Qwen3-30B-A3B в режиме рассуждений. Она использует алгоритм speculative decoding EAGLE-3 и архитектуру Eagle3Speculator: предлагает до пяти следующих токенов, которые основная модель проверяет. Это не самостоятельная чат-модель; для работы нужны Qwen3-30B-A3B и совместимый сервер, например vLLM, с шаблоном чата Qwen3 и интерфейсом /chat/completions. Модель обучена с включённым режимом рассуждений на данных Magpie-Align/Magpie-Pro-300K-Filtered и HuggingFaceH4/ultrachat_200k; в описании также указано, что ответы для обучающих данных получены от Qwen3-30B-A3B. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. README приводит настройки и оценку производительности, но без значений таблицы нельзя оценить ожидаемый прирост скорости для конкретной нагрузки. Для сценариев без рассуждений разработчик рекомендует отдельный спекулятор для Qwen3-30B-A3B-Instruct-2507.

Это компактная текстовая модель Qwen3.5-0.8B, дообученная командой nvsh для выбора подходящей команды из фиксированного списка операций оболочки nvsh. Она оценивает варианты по вероятностям следующих токенов с однобуквенными метками; отдельная логика калибровки и порогов решает, предложить операцию, объяснить запрос или передать его более крупной модели. Аргументы команд формируются детерминированно средствами nvsh, сама модель их не генерирует и не является универсальным чат-ботом или инструментальным агентом. Модель содержит 581,4 млн параметров, использует плотную архитектуру Qwen3_5ForCausalLM, формат safetensors и контекст до 262 144 токенов. Она предназначена для англоязычных запросов в контексте устройств NVIDIA Jetson и DGX Spark и ограничена таблицей операций nvsh. В описанных испытаниях не было ошибочных предложений изменяющих состояние операций, однако на отложенной выборке модель иногда предлагала похожую операцию только для чтения вместо передачи запроса на эскалацию; точность предложений на отложенной выборке также была ниже. Для неё требуется Apache-2.0; в карточке отмечено, что эксплуатационный стек nvsh пока не загружает этот скорер.

Qwen3.5-27B-DFlash — черновая модель DFlash, совместно переобученная Z-Lab и Modal для ускорения вывода базовой Qwen/Qwen3.5-27B. Это не самостоятельная языковая модель: её подключают к целевой модели в сервере инференса со свободным декодированием DFlash, например SGLang. Черновая модель на основе блочной диффузии параллельно предлагает несколько токенов, которые затем проверяет целевая модель, сохраняя её распределение выходов. По данным карточки, обучение проводилось с последовательностями длиной 40 тысяч токенов и скользящим окном внимания. Метаданные указывают архитектуру DFlashDraftModel, формат safetensors, 3,3 млрд параметров и нативный контекст 262 144 токена. В описанных тестах на одной NVIDIA B200 ускорение достигало 6,20 раза при одном запросе и 3,01 раза при конкурентной обработке 32 запросов; результаты зависят от нагрузки и конфигурации. Модель предназначена для увеличения пропускной способности при обслуживании запросов через парную Qwen/Qwen3.5-27B, а не для прямого общения с пользователем. Карточка не перечисляет поддерживаемые естественные языки. Лицензия — Apache-2.0.

AdaFlash — модель-черновик для ускорения генерации текста моделью Qwen3-8B с помощью спекулятивного декодирования. Она разработана как адаптивный диффузионный черновик: голова адаптивной длины динамически выбирает число кандидатов на каждом шаге, балансируя скорость и долю принятых кандидатов. Модель дообучена на основе z-lab/Qwen3-8B-DFlash-b16 методом on-policy distillation с данными PerfectBlend и reverse-KL loss. Модель имеет плотную архитектуру Qwen3, класс DFlashDraftModel и 1,6 млрд параметров. Она принимает текст и выдаёт черновые текстовые кандидаты, предназначенные для проверки целевой моделью; заявленная длина контекста — 40 960 токенов. Репозиторий содержит веса Safetensors, модель использует библиотеку Transformers и требует сборку SGLang с патчем PR #34171 для сервинга. Лицензия — Apache-2.0.