II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейArctic-AWM-8B — языковая модель Snowflake AI Research и UNC-Chapel Hill для многошагового взаимодействия с инструментами в задачах обучения с подкреплением. Она дообучена на Qwen3-8B с помощью агентного обучения с подкреплением в синтетических средах AgentWorldModel-1K и использует интерфейс MCP для взаимодействия с инструментами. Метаданные указывают архитектуру Qwen3ForCausalLM, 7,6 млрд параметров и контекст до 40 960 токенов. Модель предназначена для создания агентов, которые выполняют цепочки действий и обращаются к доступным инструментам; заявленная область применения — английский язык. Лицензия Apache-2.0.
gpt-oss-120b-DFlash — модель-черновик для ускорения генерации текста методом speculative decoding, разработанная авторами DFlash. Она использует лёгкую блочную диффузионную архитектуру и предназначена для совместной работы с целевой моделью openai/gpt-oss-120b: черновик параллельно предлагает блоки токенов, которые целевая модель проверяет. В README указано 0,8 млрд параметров, тогда как метаданные репозитория сообщают 1,3 млрд; архитектура в метаданных обозначена как DFlashDraftModel на базе семейства Qwen3. Для репозитория указан контекст 131 072 токена. Модель обучена на 800 тысячах примеров из Nemotron-Post-Training-Dataset-v2 и evol-codealpaca-v1; ответы в обучающих примерах были заново сгенерированы целевой моделью. В опубликованных оценках на GSM8K, Math500, HumanEval, MBPP и MT-Bench показано ускорение генерации при использовании SGLang; измерения проведены на одном GPU H200, поэтому результаты зависят от оборудования, настроек и целевой модели. Это вспомогательная модель для ускорения инференса, а не самостоятельная замена целевой модели. Репозиторий распространяется по лицензии MIT.
MaxJeblick/llama2-0b-unit-test — небольшая тестовая модель типа Llama 2 для модульных и интеграционных проверок. Она создана для тестовых сценариев, в том числе для проверки интеграции с H2O LLM Studio, и рассчитана на запуск на CPU. Архитектура — плотная авторегрессионная LlamaForCausalLM; модель содержит 386,9 тыс. параметров и имеет контекст длиной 1024 токена. Она предназначена для проверки загрузки и работы пайплайна генерации текста, а не для содержательных ответов или прикладного использования. В README приведён пример загрузки через Transformers; файлы доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.
Карточка модели amd/PARD-DeepSeek-R1-Distill-Qwen-1.5B на Hugging Face совпадает с карточкой amd/PARD-Llama-3.2-1B, поэтому описание составлено по ней. PARD-Llama-3.2-1B — модель семейства Llama, разработанная авторами метода PARD для ускорения генерации текста с помощью спекулятивного декодирования. Это параллельная черновая модель на 1,2 млрд параметров, адаптированная из авторегрессионной черновой модели; один черновой чекпойнт PARD может использоваться для ускорения целого семейства целевых моделей. Репозиторий содержит веса в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для интеграции в системы инференса, где она предлагает черновые продолжения для целевой языковой модели. README сообщает об ускорении в среднем в 1,78 раза относительно авторегрессионных черновых моделей и до 4,08 раза в Transformers+ и до 3,06 раза в vLLM; эти результаты относятся к описанным авторами настройкам и не гарантируют такого ускорения во всех сценариях. Метаданные указывают поддержку чата и интерфейса вызова инструментов. Модель распространяется по лицензии MIT. Она ориентирована на ускорение инференса, поэтому качество и применимость готовых ответов зависят от целевой модели и конфигурации спекулятивного декодирования.
Qwen2.5-1.5B-Instruct-FC — компактная языковая модель на архитектуре Qwen2, дообученная автором sagnik3788 для вызова инструментов. Она принимает текстовые запросы и описания инструментов в формате Qwen chat template и генерирует структурированные вызовы с именем инструмента и аргументами. Модель содержит 1,5 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors в точности bf16; для запуска подходят Transformers и vLLM. Основной сценарий — выбор подходящего инструмента и формирование одиночного вызова функции по запросу пользователя. В README сообщается результат 85,65% на BFCL v4 Non-Live AST; это заявленный автором показатель для соответствующего набора тестов. Модель обучалась на синтетических примерах с REST API и рассчитана прежде всего на однократные вызовы инструментов. Она слаба в многошаговых диалогах, работе с памятью и поиске в интернете; может вызвать инструмент, даже если подходящего нет, а синтетический набор API может не покрывать нужные схемы. Лицензия Apache-2.0 допускает коммерческое использование с соблюдением её условий.
tiny-random/glm-4-moe-lite — компактная случайно инициализированная языковая модель для отладки, созданная на основе конфигурации zai-org/GLM-4.7-Flash. Модель реализована в библиотеке Transformers и относится к архитектуре GLM-4 MoE Lite с причинной генерацией текста; в метаданных указано около 1,2 млн параметров и нативное контекстное окно до 202752 токенов. Модель предназначена для проверки совместимости и отладки интеграций с Transformers, vLLM и SGLang, включая multi-token prediction, speculative decoding, tool calling и reasoning parser. README содержит примеры запуска через эти библиотеки и показывает использование чатового шаблона и генерации текста. Поскольку веса инициализированы случайно, модель не предназначена для качественных ответов, прикладной генерации или точной оценки языковых способностей. Лицензия в предоставленных данных не указана.
Это вспомогательная модель DSpark от mgoin для ускорения генерации zai-org/GLM-5.2-FP8 методом speculative decoding. Она предсказывает блоки токенов-кандидатов, которые проверяет базовая модель, чтобы уменьшить задержку вывода при сохранении генерации базовой модели. Архитектура включает пятислойную черновую сеть на основе DFlash, Markov logit-bias head для зависимостей между токенами внутри блока и head для оценки вероятности принятия токенов. Размер блока — 8 токенов, используется полный словарь из 154 880 токенов; веса сохранены в Safetensors. Модель предназначена для ускорения инференса GLM-5.2 в совместимом сценарии чата и генерации текста. Валидация после третьей эпохи показала среднюю длину принятого блока 3,967 токена и среднюю долю принятия 0,584 на отложенной выборке. Для работы требуется базовая модель zai-org/GLM-5.2-FP8 и поддержка DSpark speculative decoding в используемом движке; карточка отмечает, что поддержка в vLLM внедряется. Лицензия — MIT.
yujiepan/gpt-oss-tiny-random-bf16 — крошечная модель генерации текста, созданная для отладки и тестирования реализации GPT-OSS. Она случайно инициализирована с конфигурацией, адаптированной из openai/gpt-oss-120b, поэтому не является обученной моделью для содержательных ответов.
TheBlokeAI/JackFram-Llama-68M — компактная версия модели JackFram Llama 68M, подготовленная TheBlokeAI. В репозитории удалены файлы состояния обучения и веса преобразованы в формат safetensors; README указывает, что модель совместима с Llama 1 и содержит два слоя. Метаданные указывают 43,5 млн параметров и контекст 2048 токенов. Модель предназначена прежде всего для генерации текста и проверки процессов квантования и других операций с моделями. Это облегчённый технический чекпойнт, а не полноразмерная модель для широкого применения. Лицензия в метаданных обозначена как other, без уточнения условий.
h2oai/llama2-0b-unit-test — небольшая фиктивная модель семейства Llama 2 от H2O.ai, предназначенная для модульных и интеграционных тестов. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 386,9 тыс. параметров, контекстом до 1024 токенов и весами в формате Safetensors. Модель подходит для быстрой проверки конвейеров генерации текста и интеграций на машинах только с CPU. README приводит пример эксперимента в H2O LLM Studio, который выполняется примерно за пять секунд с настройками по умолчанию и небольшими длинами последовательностей. Это тестовая заглушка, поэтому её не следует использовать для содержательных ответов или рабочих приложений. Сведения о лицензии в предоставленных данных отсутствуют.
WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0 — разговорная языковая модель серии WhiteRabbitNeo, разработанная для задач кибербезопасности, включая наступательные и защитные сценарии. Модель основана на архитектуре Llama 3 с плотной архитектурой и примерно 7,5 млрд параметров; поддерживает генерацию текста и чат, использует формат весов safetensors и контекст до 8192 токенов. Модель предназначена для диалоговой помощи по темам кибербезопасности. В README указано, что это публичное предварительное представление возможностей серии и что разработчики стремятся оценить её общественное воздействие. Лицензия в метаданных обозначена как llama3. Результаты модели могут быть ошибочными; README возлагает ответственность за их использование на пользователя и предоставляет модель без гарантий.
NVIDIA Nemotron-3.5-Lightning-30B-A3B-NVFP4-DFlash — это вспомогательная модель спекулятивного декодирования DFlash из семейства Nemotron-3.5-Lightning-30B-A3B, разработанного NVIDIA. Она предназначена для ускорения вывода основной модели в сценариях рассуждений, чата, RAG и агентских рабочих процессов, особенно при развертывании с низкой задержкой на GPU в центрах обработки данных и производительных локальных системах. Модель не предназначена для самостоятельного использования как целевая модель, а применяется совместно с Nemotron-3.5-Lightning-30B-A3B. Модель принимает и генерирует текст, поддерживает последовательности с контекстом до 1 млн токенов и заявленные языки English, Spanish, French, German, Italian и Japanese. Архитектура DFlash основана на Dense GQA: плотные MLP-слои и attention с grouped-query attention; для спекулятивного декодирования используется нек причинное полнопоследовательностное GQA-внимание. Всего заявлено 833 млн параметров, из них 481 млн — не относящиеся к embedding. Модель квантована в формате NVFP4 с помощью NVIDIA Model Optimizer 0.45.0 и поддерживает vLLM и llama.cpp; предпочтительная платформа — Linux с совместимыми GPU NVIDIA, включая Blackwell GB200. Ключевое преимущество модели — снижение задержки при обслуживании Nemotron-3.5-Lightning-30B-A3B в сценариях с низкой и умеренной конкуренцией. Ограничение состоит в том, что это специализированный DFlash-чекпойнт, требующий интеграции с базовой моделью и подходящим серверным стеком; README не приводит самостоятельные метрики качества и ускорения. Использование разрешено в коммерческих и некоммерческих целях по лицензии OpenMDW-1.1.
Это черновая модель DSpark для ускорения авторегрессионной генерации методом спекулятивного декодирования вместе с Qwen/Qwen3-4B. Она предлагает до 16 токенов за итерацию, а основная модель-верификатор принимает или отклоняет эти предложения. Модель предназначена для работы через vLLM и реализацию speculators с поддержкой DSpark; самостоятельно генерировать текст без соответствующего верификатора она не предназначена. Архитектура включает 5 слоёв draft-трансформера, один слой состояния верификатора, vanilla Markov head ранга 256 и включённую confidence head. Веса сохранены в safetensors с точностью bfloat16; размер файла параметров — 1,23 ГБ. В README приведены результаты проверки на задачах программирования, рассуждений и ответов на вопросы, однако фактическая скорость зависит от запросов, оборудования, размера пакета и конфигурации сервинга. Это экспериментальный базовый чекпойнт, обученный один эпох на данных, связанных с Qwen3-4B; он наследует поведение и ограничения модели-верификатора. Для применения нужны совместимые версии vLLM и speculators, а также исходные Qwen/Qwen3-4B и её токенизатор. Лицензия репозитория — Apache-2.0; ограничения лицензии верификатора также применяются.
Qwen3.5-2B DFlash — черновая модель для ускорения генерации текста целевой моделью Qwen3.5-2B. Она реализует метод спекулятивного декодирования DFlash: по скрытым состояниям нескольких промежуточных слоёв целевой модели за один проход предлагает блоки токенов, которые затем проверяются целевой моделью. При жадном декодировании проверенный результат совпадает с результатом целевой модели, а при ограничении пропускной способностью памяти такой подход может ускорить инференс. Модель разработана для применения с целевой Qwen3.5-2B и использует класс DFlashDraftModel; веса доступны в формате Safetensors, метод обучения связан с SpecForge. В тестах с SGLang при жадном декодировании средняя длина принятого блока составила 4,163 токена для блока размером 8 и 4,781 для блока размером 16; результаты приведены для набора задач, включающего GSM8K, MATH500 и AIME25. Модель содержит 749,7 млн параметров и заявленное контекстное окно 262 144 токена. Карточка указывает поддержку английского и китайского языков. Лицензия — Apache-2.0. Для работы требуется совместимая целевая модель Qwen3.5-2B и реализация спекулятивного декодирования DFlash; ускорение зависит от оборудования и сценария инференса.
Qwen3.5-397B-A17B-DFlash — черновая модель для спекулятивного декодирования, выпущенная Z-Lab совместно с Modal и SGLang. Это не самостоятельная языковая модель: её используют вместе с целевой моделью Qwen/Qwen3.5-397B-A17B в сервере инференса, поддерживающем DFlash. Модель на основе лёгкой блочной диффузии параллельно предлагает несколько токенов, которые затем проверяет целевая модель. Такой режим предназначен для ускорения генерации при сохранении распределения выходов целевой модели. В метаданных указаны архитектура DFlashDraftModel, 2,2 млрд параметров и контекст 262 144 токена; файлы представлены в safetensors. В README описаны тесты на задачах математики, программирования и диалога, где скорость генерации в отдельных конфигурациях была выше базового авторегрессионного режима и встроенного MTP-пути Qwen. Для работы нужны целевая модель Qwen/Qwen3.5-397B-A17B и совместимый сервер, например SGLang с поддержкой DFlash. Производительность зависит от конфигурации сервера и размера блока; приведённые результаты получены на 8 GPU NVIDIA B200. Лицензия — Apache-2.0.
Qwen3.8-27B-DFlash2 — черновая модель спекулятивного декодирования DFlash 2 для Qwen/Qwen3.8-27B и совместимых производных моделей. Репозиторий связывает её с несколькими вариантами базовой модели, включая JonathanColetti/Qwen3.8-27B-Uncensored. Модель не предназначена для самостоятельной генерации: она работает параллельно с целевой моделью в сервере инференса vLLM или SGLang и предлагает блоки токенов для проверки целевой моделью. Архитектура DFlash 2 использует блочное диффузионное предсказание: за один проход предлагает блок из 7 токенов, а лёгкий селектор выбирает связный путь среди кандидатов. README заявляет, что при жадном декодировании проверка сохраняет математическую точность целевой модели, а при сэмплировании — её распределение. Метаданные указывают 2,9 млрд параметров, контекст 262 144 токена и формат Safetensors. Модель предназначена для ускорения генерации текста, в том числе кода, при совместном запуске с совместимой целевой моделью. Лицензия — Apache-2.0. Для работы требуется совместимая целевая модель и поддерживающий спекулятивное декодирование сервер; заявленные в README результаты проверки получены на ограниченной выборке и не гарантируют такие же показатели в других сценариях.
Qwen3-8B Cybersecurity — диалоговая языковая модель на 7,6 млрд параметров, разработанная на основе Qwen/Qwen3-8B. Это дообученная с помощью QLoRA модель: адаптер обучали два этапа эпох на вопросах и ответах по кибербезопасности, затем объединили с базовой моделью. Модель использует архитектуру Qwen3ForCausalLM, принимает текст и генерирует текст; нативный контекст — до 40 960 токенов. Модель предназначена для ответов на вопросы по кибербезопасности и диалоговых сценариев на эту тему. В карточке указана лицензия Apache-2.0. Это бета-версия, которая не проходила оценку качества и не предназначена для производственного применения. Ответы могут быть ошибочными или устаревшими; перед практическим использованием их должен проверить специалист.
ThinkingBudgetRouter — компактный классификатор на базе DistilBERT, разработанный для выбора бюджета рассуждений до вызова языковой модели. Он относит сообщение пользователя к одному из трёх классов: немедленный ответ без рассуждений, краткое рассуждение примерно на 512 токенов или углублённое рассуждение на 8192 токена и более. Модель предназначена для маршрутизации запросов в системах с настраиваемым режимом рассуждений, включая стеки агентов и интеграции с Qwen3 и DeepSeek-R1. Модель содержит около 66 млн параметров, принимает текст и выдаёт метку класса. В README заявлена задержка около 10 мс при работе на CPU; базовый контекст составляет 512 токенов. Карточка описывает английский язык и приводит примеры задач от простых фактических вопросов до проектирования систем и математических доказательств. Распространяется по лицензии Apache-2.0. Выбор бюджета — классификационная оценка: корректность маршрутизации для конкретных запросов и совместимость параметров следует проверять в целевой системе.
ardge-hf/whisper-large-v3-turbo-tokenizer-prevfix — это модифицированный токенизатор для модели автоматического распознавания речи openai/whisper-large-v3-turbo. Репозиторий содержит только файлы токенизатора и официальный config.json, но не содержит весов модели. Разработчик модификации — ardge-hf; исходные файлы предоставлены OpenAI по лицензии Apache-2.0. Токенизатор предназначен для серверного использования с vLLM и устраняет ошибку, из-за которой поле prompt в OpenAI-совместимом API /v1/audio/transcriptions некорректно обрабатывалось Whisper. Единственное изменение — строковое представление токена с идентификатором 50362 переименовано с <|startofprev|> в <|prev|> во всех соответствующих файлах. Размер словаря и все идентификаторы сохранены; строка <|prev|> теперь преобразуется непосредственно в токен 50362, обеспечивая корректное условное декодирование и обработку длинных аудиозаписей. Модель рассчитана на задачи автоматической транскрипции речи и поддерживает сценарии, в которых требуется передавать текстовую подсказку для управления распознаванием, например выбора языка, написания или пунктуации. Токенизатор предназначен для семейства Whisper v3 и предполагает использование с whisper-large-v3-turbo; для моделей семейства v2 требуется отдельная адаптация. Это серверный обходной путь, а не самостоятельная модель для инференса или дообучения. Использование актуально до появления в vLLM исправления, при котором сервер сам формирует токен <|startofprev|>. После этого рекомендуется вернуться к штатному токенизатору и убрать параметр --tokenizer. Лицензия указана как Apache-2.0.
JIT-Agent-27B — исследовательская модель JIT-Agent для генерации исполняемых каркасов автономных агентов, разработанная на основе Qwen/Qwen3.6-27B. Получая описание задачи, список доступных инструментов, протокол среды выполнения и текстовые описания эталонных каркасов, модель создает структуру управления памятью, планированием, действиями и доступом к инструментам для другой языковой модели. Веса содержат 27,36 млрд параметров, представлены в BF16 и формате safetensors; модель работает с текстом и изображениями, поддерживает английский и китайский языки. Для запуска рекомендуется использовать среду JIT-Agent, которая формирует запрос по протоколу, проверяет структуру ответа и устанавливает сгенерированный каркас. Модель предназначена для исследований адаптивной архитектуры агентов и совместного проектирования модели и среды; обычный чатовый запрос без протокола и контекста среды вряд ли даст корректный исполняемый результат. Лицензия Apache-2.0.
Qwen3.5-122B-A10B-DFlash — вспомогательная черновая модель для спекулятивного декодирования, совместно переобученная Z-Lab и Modal на базе Qwen/Qwen3.5-122B-A10B. Это не самостоятельная языковая модель: её подключают к целевой модели в совместимом сервере инференса, например SGLang с поддержкой DFlash. Лёгкая блочная диффузионная модель параллельно предлагает несколько следующих токенов, а целевая модель проверяет предложения, сохраняя своё распределение выходов и ускоряя генерацию. В карточке указаны 1,4 млрд параметров, архитектура DFlashDraftModel, формат safetensors и контекст 262 144 токена; при переобучении использовались последовательности длиной 40 000 токенов и скользящее окно внимания. В тестах авторов на четырёх NVIDIA B200 модель ускоряла генерацию для математических задач, программирования и диалогов; максимальный приведённый результат — 4,21× при concurrency 1. Фактический выигрыш зависит от целевой модели, сервера, оборудования и нагрузки. Лицензия — Apache-2.0.
SecureBERT — CVE-LMTune ATT&CK Classifier (Flat) — англоязычная модель классификации уязвимостей из набора CVE-LMTune, представленного Франко Террановой, Саной Рекби, Абделькадером Лахмади и Изабель Крисман. Модель дообучена на базе ehsanaghaei/SecureBERT и использует архитектуру RoBERTa с классификационной головой; размер — 151,8 млн параметров, длина контекста — 514 токенов. На вход модель получает текстовое описание уязвимости, например сводку CVE, и предсказывает один или несколько идентификаторов MITRE ATT&CK Enterprise Subtechniques. Это многометочная классификация для связывания описаний уязвимостей с техниками и подтехниками ATT&CK. В карточке приведены результаты оценки на отложенной выборке, включая micro-F1 0,8168 при пороге 0,5. Модель может помочь аналитикам безопасности и исследователям автоматизировать первичную разметку уязвимостей и поиск связей с ATT&CK. Она работает с текстом на английском языке, а контекст ограничен 514 токенами. Распространяется под лицензией MIT; карточка отмечает, что проект не сертифицирован и не одобрен NVD, CVE2CAPEC или Hugging Face.
WhiteRabbitNeo-33B-v1.5 — предварительная версия модели серии WhiteRabbitNeo от разработчиков WhiteRabbitNeo, предназначенной для задач наступательной и защитной кибербезопасности. Это плотная авторегрессионная языковая модель архитектуры Llama с 33,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Длина контекста составляет 16 384 токена; в репозитории представлены веса в формате safetensors. Модель предназначена для сценариев кибербезопасности, однако README не раскрывает конкретные темы и примеры применения. Карточка описывает выпуск как публичное предварительное тестирование возможностей и оценку общественного влияния. Указанные условия использования возлагают ответственность за результаты на пользователя, предоставляют модель «как есть» и не содержат стандартного идентификатора лицензии; применимые условия следует уточнять у разработчика.
EAGLE-3 — это черновая модель компании Nebius для ускорения генерации текста базовой моделью meta-llama/Llama-3.1-8B-Instruct с помощью speculative decoding в vLLM. Она предлагает кандидаты токенов, которые основная модель проверяет; сама по себе модель не предназначена для самостоятельного диалога. Модель обучена с нуля с использованием LK losses, нацеленных непосредственно на повышение доли принятых черновых токенов. В репозитории около 743,4 млн параметров, архитектура LlamaForCausalLM, веса в формате safetensors; указанная длина контекста — 2048 токенов. В README приведены показатели средней длины принятой последовательности при K=7 на MT-bench, HumanEval и GSM8K: 4,43 при температуре 0 и 4,01 при температуре 1. Для использования приведён пример настройки speculative decoding в vLLM; для стохастического выбора черновых токенов нужны соответствующие возможности версии vLLM. Лицензия — CC BY 4.0. Практическая польза зависит от совместного использования с базовой моделью и совместимой конфигурации инференса.
GLM-5.3-Flash-0.1B-A0.1B — тестовая уменьшенная версия модели GLM-5.3-Flash, подготовленная inference-optimization для разработки и проверки инструментов. Модель использует архитектуру glm5_next с классом Glm5NextForConditionalGeneration; в чекпойнте около 84 млн параметров и сохранена структура исходной архитектуры, включая текстовую часть и башню зрения. Контрольная точка хранится в формате safetensors с точностью bf16. Модель предназначена для тестирования и разработки средств квантования, обслуживания моделей и CI. Её обучали на небольшом текстовом наборе; башня зрения осталась со случайными весами. По заявлению автора, модель не обладает практическими языковыми или визуальными возможностями и не подходит для прикладных задач. Лицензия — MIT.
Shankarblr/Llama-3.2-3B-TechWriter-Instruct — специализированная текстовая модель на основе Meta Llama 3.2 3B Instruct, дообученная автором для технического маркетинга и документации в области полупроводников, сетевых соединений центров обработки данных и систем хранения. Это слитый QLoRA-чекпойнт с архитектурой LlamaForCausalLM, 3,2 млрд параметров и контекстом до 131 072 токенов; модель принимает текст и генерирует текст на английском языке. Модель подходит для подготовки черновиков продуктовых описаний, перечней характеристик, прикладных заметок, разделов руководств CLI для сетевых адаптеров и коммутаторов, а также для извлечения спецификаций и ответов по предоставленным фрагментам документов. Обучение использовало смесь извлечённых материалов поставщиков и синтетических документов. Для ответов по источнику следует задавать соответствующую системную инструкцию и предоставлять исходный фрагмент. Модель может придумывать артикулы, серии продуктов, флаги CLI и характеристики; сгенерированные данные и клиентские спецификации требуют проверки по первоисточнику. Длинные документы могут терять согласованность. Модель предназначена для английского языка и профильной тематики, а не для общего общения. Распространяется по лицензии Llama 3.2 Community License с соблюдением Acceptable Use Policy Meta.
ModernJEV-Decide-Preview — экспериментальная модель Maziyar Panahi для выбора следующего действия, инструмента или ветви рабочего процесса в агентных приложениях. Она принимает текстовое описание диалога, политики и доступных вариантов, оценивает переданные приложением метки и описания и возвращает оценки вариантов; выбранное действие исполняет само приложение. Модель не генерирует аргументы инструментов и не вызывает их. Это плотный ModernBERT cross-encoder с одной скалярной scoring head и примерно 149 млн параметров. README указывает длину входа до 4 096 токенов, а метаданные — нативный контекст 8 192 токена. Модель дообучена на answerdotai/ModernBERT-base на примерах решений для агентов; данные карточки ориентированы на английский язык. Лицензия — Apache-2.0. В карточке приведены отдельные отложенные оценки для выбора следующего действия, выбора инструмента и примеров When2Call, но модель прямо обозначена как небольшой прототип, а не воспроизведение Jev. Перед внедрением её следует оценить на собственных сценариях и вариантах выбора; качество за пределами описанных проверок не установлено.
Qwen3.5-35B-A3B-DFlash — черновая модель DFlash, совместно переобученная Z-Lab и Modal для ускорения генерации с целевой моделью Qwen/Qwen3.5-35B-A3B. Это не самостоятельная языковая модель: её подключают к серверу инференса с поддержкой спекулятивного декодирования DFlash, например SGLang. Модель использует облегчённый блочно-диффузионный черновой алгоритм, который предлагает несколько токенов параллельно, а целевая модель проверяет предложения, сохраняя своё распределение выходов. В README указаны обучение на последовательностях длиной 40 тысяч токенов и скользящее оконное внимание; метаданные указывают 798 млн параметров и нативный контекст 262 144 токена. Формат весов — safetensors, библиотека — Transformers, лицензия — Apache-2.0. Модель предназначена для увеличения пропускной способности при обслуживании запросов к целевой модели; приведённые в карточке тесты показывают ускорение на задачах математики и программирования. Результаты зависят от сервера, оборудования и параметров декодирования. Для работы необходима совместимая целевая модель и поддержка DFlash в сервере инференса; использовать этот чекпойнт как самостоятельную модель нельзя.
Anbeeld/Qwen3.5-9B-DFlash-GGUF — это GGUF-квантизации черновой модели Qwen3.5-9B-DFlash, совместимой с целевой моделью Qwen/Qwen3.5-9B. Модель разработана совместно Z-Lab и Modal. Она не является самостоятельной языковой моделью и предназначена для использования в сервере инференса со спекулятивным декодированием DFlash. DFlash использует облегчённую черновую модель на основе блочной диффузии, которая параллельно предлагает несколько токенов, после чего целевая модель проверяет эти предложения. Такой подход сохраняет распределение вывода целевой модели и может существенно повысить пропускную способность генерации. Модель переобучена с длиной последовательности 40 000 токенов и применяет скользящее оконное внимание для улучшения работы с длинным контекстом. В README не указаны точные поддерживаемые языки и параметры GGUF-квантизаций. Основное назначение — ускорение серверного вывода Qwen3.5-9B в сценариях генерации текста, включая математические задачи, программирование и диалоговые нагрузки. Заявленные тесты на одной NVIDIA B200 показывают ускорение до 5,01 раза при одной одновременной генерации и до 2,58 раза при конкуренции 32 запросов; фактический результат зависит от конфигурации, размера блока и нагрузки. Для работы требуется сервер с поддержкой DFlash, например SGLang, а сама модель не предназначена для автономного запуска. В README указана лицензия Apache-2.0.
Nemesis — дообученная модель RootMonsteR, созданная совместно с JAF Systems и rnd.sh на базе Qwen/Qwen3.6-27B. Это плотная языковая модель для генерации текста с архитектурой Qwen3_5ForCausalLM, объёмом 22,3 млрд параметров и контекстом до 262 144 токенов. Репозиторий содержит веса safetensors; модель распространяется по лицензии Apache-2.0. Модель предназначена для авторизованного тестирования на проникновение, red-team-операций, CTF, обучения и исследований безопасности. Она помогает планировать разведку и проверку систем, рассуждать о возможных уязвимостях и выполнять многошаговые сценарии с вызовом внешних инструментов. README сообщает о дообучении методом QLoRA на данных по offensive security, кибербезопасности и вызову функций; заявленная поддержка tool calling не означает, что модель сама запускает инструменты. В карточке приведены результаты на узких авторских наборах задач, включая проверки следования разрешённым сценариям и структурированных вызовов инструментов; эти результаты не являются широким независимым бенчмарком. Автор указывает, что лучшее следование инструкциям достигается с рекомендованным системным промптом, сведения об эксплойтах и командах следует проверять, а ответы могут содержать промежуточные рассуждения. Модель заявлена для законной работы в согласованных рамках и отказывается от запросов на несвязанный вред.