II.7DevOps, облако и эксплуатация IT-систем

CIRCL разработала биэнкодер для подбора техник MITRE ATT&CK Enterprise по описанию уязвимости CVE. Модель сравнивает текст CVE — заголовок и описание — с официальными названиями и описаниями техник в общем пространстве эмбеддингов и ранжирует кандидатов по оценке сходства. Она основана на RoBERTa-base с 151,8 млн параметров; тексты техник при кодировании ограничиваются 256 токенами, а нативный контекст модели составляет 514 токенов. Модель предназначена для помощи аналитикам: она может предлагать техники из обучающего набора и ранжировать техники с официальными описаниями, включая открытый словарь из 222 активных родительских техник. На обученной выборке биэнкодер показал преимущество для редких техник, но уступил отдельной классификационной модели по recall@5. Для техник, отсутствовавших в обучении, тонкая настройка не улучшила ранжирование относительно обычного семантического эмбеддера. Результаты следует рассматривать как кандидатов для проверки специалистом, а не как авторитетное соответствие. Обучение проводилось на наборе CIRCL/vulnerability-attack-techniques, содержащем около 1200 CVE и разметку по методологии CTID. Модель работает с англоязычными описаниями и родительскими техниками; разметка отражает субъективность методологии, а набор данных непропорционально представляет эксплуатируемые и обогащённые CVE. Лицензия — GPL-3.0.

yujiepan/glm-5.2-tiny-random — небольшая отладочная модель для генерации текста, созданная на основе конфигурации zai-org/GLM-5.2. Модель имеет случайную инициализацию и не предназначена для содержательной генерации или прикладного использования; её основная цель — проверка совместимости и отладка программного обеспечения.

Xinmu7/PPCM — вспомогательная черновая модель PPCM для ускорения генерации текста моделью Qwen3-8B методом speculative decoding. Разработчик описывает PPCM как небольшой энкодер, который ранжирует причинно согласованные пути среди семи кандидатов за один проход; целевая модель проверяет лучший путь. Репозиторий содержит класс PPCMDraftModel и веса в формате safetensors. Метаданные указывают 1,6 млрд параметров и контекст до 40 960 токенов; README сообщает о семи спекулятивных токенах и результате τ = 5,97 с ускорением 5,18× на Qwen3-8B и GSM8K при T = 0 и L = 7. Модель предназначена для совместного использования с Qwen/Qwen3-8B через PPCM-совместимый код vLLM. Она не является самостоятельной чат-моделью и сама по себе не заменяет целевую модель. Производная от Qwen/Qwen3-8B; распространяется по лицензии Apache-2.0. Описанные показатели относятся к указанным условиям эксперимента.

Это чекпойнт черновой модели EAGLE3, разработанный в рамках обучения SpecForge для ускорения генерации текста методом speculative decoding с целевой моделью Qwen/Qwen3-1.7B. Это не самостоятельная языковая модель: чекпойнт предназначен для совместной загрузки с целевой моделью через код, совместимый с SpecForge/EAGLE3. Модель использует архитектуру LlamaForCausalLMEagle3 и имеет 361,5 млн параметров. Она обучена методом SpecForge EAGLE3 online training на данных ShareGPT; контекстное окно составляет 40 960 токенов. Веса чекпойнта не содержат замороженные эмбеддинги целевой модели — их загружает SpecForge из Qwen/Qwen3-1.7B. Репозиторий содержит веса safetensors и состояние обучения. Лицензия указана как other; конкретные условия использования следует сверить с карточкой и лицензией базовой модели. В карточке не заявлены результаты бенчмарков.

yujiepan/qwen3-tiny-random-tp — экспериментальная миниатюрная модель, созданная разработчиком yujiepan для отладки. Она случайно инициализирована на основе конфигурации Qwen/Qwen3-32B и предназначена для проверки загрузки, инференса и совместимости компонентов Transformers, а не для получения качественных ответов.

ishaanranjan разработал Agent Action Router — компактную языковую модель Qwen2, дообученную всеми параметрами на 2000 примерах для узкой подзадачи агентных систем разработки: выбора следующего действия по шумному отчёту о ходе работы. Модель рассчитана на запуск внутри проверенной программной оболочки, которая формирует специальный запрос, разбирает JSON по фиксированной схеме, при необходимости повторяет запрос с обратной связью и применяет детерминированные проверки с резервными правилами. Модель содержит 494 млн параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Для оценки на отложенных репозиториях HTTPX и Jinja2 указана успешность 96% после одной попытки повтора; корректность JSON с первой попытки составила 100%. Модель не предназначена для общего программирования или свободного диалога и может утратить широкие способности следовать инструкциям. Лицензия — Apache-2.0.

CIRCL/vulnerability-attack-technique-classification-roberta-base — модель CIRCL для подбора техник MITRE ATT&CK Enterprise по текстовому описанию уязвимости, например CVE. Это RoBERTa-base с 151,8 млн параметров и sigmoid-головой для многометочной классификации: модель оценивает 53 родительские техники и позволяет ранжировать кандидатов для проверки аналитиком. Контекст ограничен 514 токенами по метаданным; README указывает усечение входа до 512 токенов. Модель обучена на корпусе CIRCL/vulnerability-attack-techniques с экспертными сопоставлениями CVE и техник ATT&CK. Модель предназначена для помощи в первичной оценке уязвимостей и сортировке возможных связей с техниками ATT&CK. Она используется в Vulnerability-Lookup для показа предложений аналитикам. На тестовой выборке Recall@5 составил 0,644. Модель рассчитана на англоязычные описания; под-техники объединены с родительскими, а техники вне её набора классов предложены быть не могут. Оценки не являются калиброванными вероятностями, и результаты требуют подтверждения человеком. Лицензия — CC BY 4.0.

Репозиторий mlx-community содержит веса Multi-Token Prediction (MTP) для черновой модели спекулятивного декодирования Gemma 4 26B-A4B. Его разработчик — mlx-community; веса выделены из google/gemma-4-26B-A4B-it-qat-q4_0-unquantized-assistant и предназначены для использования с совместимой целевой моделью Gemma 4 26B-A4B в mlx-vlm. Модель предлагает кандидаты токенов, которые целевая модель проверяет, чтобы ускорить генерацию. Это не самостоятельная чат-модель: репозиторий содержит MLX-совместимые веса в формате Safetensors с точностью bf16. Использование требует поддержки MTP для Gemma 4 в mlx-vlm и совместимого целевого чекпойнта. Метаданные указывают английский язык; лицензия — Gemma, поэтому применяются условия лицензии базовой модели.

yujiepan/glm-4.5-tiny-random — экспериментальная миниатюрная языковая модель, созданная пользователем yujiepan на основе конфигурации zai-org/GLM-4.5. Модель имеет случайно инициализированные веса и предназначена для отладки реализации, а не для получения качественных ответов. Она реализует генерацию текста через библиотеку Transformers и использует архитектуру GLM-4.5 с компонентами mixture-of-experts; размер модели составляет 2,4 млн параметров, а заявленная длина контекста — 131 072 токена.

Anbeeld/GLM-5.3-DFlash2-GGUF — набор GGUF-квантизаций черновой модели DFlash 2, разработанной Inco AI для GLM-5.3 от zai-org. Это не самостоятельная языковая модель, а вспомогательный draft-модуль для серверов со спекулятивным декодированием: он предлагает блок токенов, после чего целевая модель GLM-5.3 проверяет их. Модель использует блочно-диффузионный подход, предсказывает несколько токенов параллельно и выбирает согласованный путь кандидатов; заявлено сохранение точности целевой модели при жадной генерации и исходного распределения при sampling. Модель предназначена для ускорения инференса GLM-5.3 в задачах генерации текста, рассуждений, математики, программирования и диалогов. В опубликованных тестах DFlash 2 показала более высокую среднюю длину принятых последовательностей и пропускную способность, чем native MTP и авторегрессионное декодирование: ускорение достигало 3,39 раза при единичной конкуренции и зависело от задачи и нагрузки. Для работы требуются совместимый сервер спекулятивного декодирования и целевая модель GLM-5.3; указана поддержка SGLang, vLLM версии 0.28.0 и выше, а также BeeLlama.cpp. README не указывает размер модели, поддерживаемые языки, контекстное окно или полный перечень модальностей. Основное ограничение — невозможность самостоятельного использования без GLM-5.3 и совместимой инфраструктуры; результаты производительности зависят от оборудования, настроек и уровня конкуренции. Модель распространяется по лицензии CC BY-NC-ND 4.0 для исследований и оценки; коммерческое лицензирование требует обращения к Inco AI.

PurpleHound-Embed-v1 — текстовая модель эмбеддингов от 78ResearchLab для поиска техник и действий кибератак по описанию поведения. Она создана дообучением Qwen/Qwen3-Embedding-0.6B и предназначена прежде всего для поиска по MITRE ATT&CK и для функции поиска действий в чат-боте PurpleHound BAS, используемом при моделировании атак и проверке безопасности. Модель построена на архитектуре Qwen3, содержит около 508 млн параметров и выдаёт векторы размерностью 1024. Максимальная длина последовательности — 32 768 токенов. Поддерживает корейский и английский языки; запросам рекомендуется добавлять инструкцию в формате `Instruct: {task}\nQuery: {text}`, а документы индексировать без префикса. Репозиторий использует Sentence Transformers и формат safetensors. В опубликованных оценках модель превосходит сравниваемые открытые модели на поиске техник ATT&CK и внутренних сценариях поиска действий; для общего корейского и английского поиска результаты близки к базовой модели, но не всегда лучше. Настройка ориентирована на короткие запросы об атакующем поведении, поэтому улучшений для поиска по длинным документам не заявлено. Это модель для поиска и сопоставления описаний, а не для обнаружения атак или обеспечения безопасности. Лицензия — Apache-2.0.

Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw512-epoch9-step455000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-455000, поэтому описание составлено по ней. Это чекпойнт черновой модели EAGLE3, разработанный в рамках обучения SpecForge для ускорения генерации текста методом speculative decoding с целевой моделью Qwen/Qwen3-1.7B. Это не самостоятельная языковая модель: чекпойнт предназначен для совместной загрузки с целевой моделью через код, совместимый с SpecForge/EAGLE3. Модель использует архитектуру LlamaForCausalLMEagle3 и имеет 361,5 млн параметров. Она обучена методом SpecForge EAGLE3 online training на данных ShareGPT; контекстное окно составляет 40 960 токенов. Веса чекпойнта не содержат замороженные эмбеддинги целевой модели — их загружает SpecForge из Qwen/Qwen3-1.7B. Репозиторий содержит веса safetensors и состояние обучения. Лицензия указана как other; конкретные условия использования следует сверить с карточкой и лицензией базовой модели. В карточке не заявлены результаты бенчмарков.

yujiepan/qwen3.6-tiny-random — отладочная мультимодальная модель, созданная автором репозитория yujiepan на основе конфигурации Qwen/Qwen3.6-27B. Модель случайно инициализирована и предназначена для проверки совместимости архитектуры и программных инструментов, а не для качественных ответов пользователю. Модель поддерживает обработку изображений вместе с текстовыми запросами и относится к архитектуре Qwen3_5ForConditionalGeneration. Она включает уменьшенную языковую часть с четырьмя слоями, уменьшенный визуальный энкодер с двумя блоками и поддержку multi-token prediction. В README приведены примеры запуска через Transformers, vLLM и SGLang; для работы с моделью используется библиотека Transformers. Размер файла весов model.safetensors составляет 8,8 МБ. Модель может применяться для отладки загрузки мультимодальных моделей, проверки генерации, обработки изображений с текстовыми инструкциями и интеграции speculative decoding или tool calling в серверные фреймворки. Из-за случайной инициализации веса не содержат полезно обученных знаний, поэтому модель непригодна для надежного распознавания изображений, ответов на вопросы, рассуждений или промышленного использования. Лицензия в предоставленных данных не указана.

Qwen3-8B-Ins-Draft-OPD — дообученная модель-черновик для спекулятивного декодирования, созданная методом Draft-OPD на основе z-lab/Qwen3-8B-DFlash-b16. Она предназначена для совместной работы с целевой моделью Qwen3-8B без режима thinking: предлагает варианты продолжения текста, которые целевая модель проверяет, ускоряя генерацию без потери точности. Модель использует архитектуру DFlash и предназначена для интеграции в конвейеры спекулятивного декодирования. Метод постобучения On-Policy Distillation обучает черновик на состояниях, возникающих при проверке его предложений, включая отклонённые позиции. В README сообщается об ускорении генерации более чем в пять раз для thinking-моделей в экспериментах; результат зависит от целевой модели, задачи и настроек декодирования. Репозиторий содержит веса safetensors, библиотека — Transformers; размер указан как 1,6 млрд параметров, контекст — 40 960 токенов. Лицензия — MIT. Это специализированная модель-черновик, а не самостоятельная универсальная чат-модель; её практическая польза зависит от совместимого декодера и целевой модели Qwen3-8B.

mgleize/fairseq2-dummy-Llama-3.2-1B — контрольная модель семейства Llama 3.2 с 1,2 млрд параметров и случайными весами, представленная в формате fairseq2. Модель предназначена для отладки и проверки инференс-движков, а не для генерации содержательных ответов. Разработчик или организация, стоящая за созданием исходной архитектуры, в доступных данных не указаны. Модель имеет контекст до 131 072 токенов и распространяется по лицензии Apache-2.0. Из-за случайных весов она не подходит для прикладной генерации текста, диалога, ответов на вопросы, суммаризации, программирования или других пользовательских задач; её практическая ценность ограничена тестированием загрузки, выполнения инференса и совместимости fairseq2.

tiny-random/glm-moe-dsa — небольшая случайно инициализированная модель, созданная на основе конфигурации GLM-5 от Z.ai для отладки архитектуры и совместимости инструментов. Модель предназначена не для прикладной генерации качественного текста, а для тестирования загрузки, инференса и специализированных механизмов, включая multi-token prediction и поддержку серверов vLLM и SGLang. Модель поддерживает задачу text generation и реализована для библиотеки Transformers. В конфигурации используется архитектура GLM MoE DSA с двумя скрытыми слоями и размером скрытого представления 8; общий объём параметров составляет около 1,2 млн. Заявленное нативное окно контекста — 202 752 токена. В README приведены примеры запуска через vLLM, SGLang и Transformers, включая генерацию и сценарии отладки DSA. Сильная сторона модели — минимальный размер и удобство для воспроизводимых тестов архитектуры, загрузчиков и экспериментальных функций. Из-за случайной инициализации весов модель не предназначена для содержательной генерации текста, диалогов или промышленного использования. Лицензия в предоставленных данных не указана.

Anbeeld/Muse-Glimmer-30B-DFlash2-GGUF — набор GGUF-квантизаций черновой модели Inco AI DFlash 2 для Muse Glimmer 30B, разработанной Meta Models. Модель предназначена для ускорения генерации текста посредством speculative decoding и не является самостоятельной языковой моделью: она работает внутри совместимого сервера, предлагает последовательности токенов, а целевая Muse Glimmer 30B их проверяет. DFlash 2 использует архитектуру block-diffusion: за один проход предсказывает блок токенов, сохраняет несколько наиболее вероятных кандидатов в каждой позиции и выбирает согласованный путь. В основе применяются двухконтактные динамические свёртки, уменьшающие ухудшение качества чернового продолжения к концу блока. Заявлена точная по результату работа: при жадной генерации вывод совпадает с целевой моделью, а при sampling сохраняется её распределение. В README указаны блоки до 16 токенов и результаты ускорения до 4,62 раза при единичной конкуренции и до 3,99 раза при конкуренции 8 на тестах GSM8K и MATH-500. Модель ориентирована на запуск через BeeLlama.cpp, а также интеграцию с SGLang и vLLM. Её сильная сторона — повышение пропускной способности без изменения результата целевой модели; ограничение — необходимость совместимой целевой Muse Glimmer 30B, специального сервера speculative decoding и подходящей вычислительной инфраструктуры. Языки, размер контекстного окна и точные параметры квантизаций в README не указаны. Лицензия — Apache-2.0.

Это дообученный черновой чекпойнт EAGLE3 для ускорения генерации текста методом спекулятивного декодирования вместе с целевой моделью Qwen/Qwen3-1.7B. Модель обучена с помощью SpecForge; указаны девять эпох, шаг 435000 и архитектура LlamaForCausalLMEagle3 с размером скрытого слоя 2048. Веса представлены в формате safetensors, тип данных — bfloat16. Чекпойнт предназначен для SpecForge и совместимого кода EAGLE3: он предлагает черновые токены для проверки целевой моделью. Самостоятельно генерировать текст он не предназначен; эмбеддинги целевой модели загружаются отдельно. Контекстная длина в метаданных — 40960 токенов. В карточке указаны английский и китайский языки, лицензия обозначена как other.

Anbeeld/Qwen3.6-27B-DFlash-GGUF — набор GGUF-квантизаций модели-черновика z-lab Qwen3.6-27B-DFlash для целевой модели Qwen/Qwen3.6-27B. Модель разработана командой z-lab с использованием метода DFlash, описанного в работе «DFlash: Block Diffusion for Flash Speculative Decoding», а GGUF-версии предназначены для запуска через BeeLlama.cpp — форк llama.cpp с расширенными возможностями квантизации. Это не самостоятельная диалоговая модель, а компонент для ускорения генерации методом speculative decoding. DFlash использует лёгкую block diffusion-модель для параллельной подготовки черновых токенов, которые затем проверяются целевой моделью Qwen3.6-27B. Такой подход ориентирован на повышение скорости инференса при сохранении качества целевой модели и подходит для серверного развёртывания с поддержкой совместимых inference-движков, включая модифицированные версии vLLM и SGLang. Ключевые характеристики включают архитектуру draft-модели DFlash, размер семейства 27B, формат GGUF и поддержку text generation. В README не указаны точные параметры квантизаций, языки, размер контекстного окна и результаты бенчмарков; benchmark results обозначены как N/A. Модель находится в процессе обучения, а поддержка inference-движками может быть неполной из-за архитектурных изменений, включая causal SWA layers. Для работы необходима совместная загрузка целевой модели Qwen/Qwen3.6-27B и совместимого движка. В метаданных указана лицензия MIT.

Это веса черновой модели Multi-Token Prediction (MTP), выделенные из Qwen/Qwen3.6-35B-A3B для ускорения генерации методом speculative decoding. Репозиторий mlx-community подготовлен для MLX и mlx-vlm; модель предлагает кандидаты токенов, которые затем проверяет совместимая целевая модель Qwen3.6-35B-A3B. Размер блока MTP — 2, точность — bf16, формат — safetensors. Модель предназначена только для совместного использования с целевым чекпойнтом Qwen3.6-35B-A3B в поддерживающем MTP рантайме mlx-vlm. Она не является самостоятельной чат-моделью и не рассчитана на обычный запуск через Transformers без целевой модели и соответствующей поддержки чернового декодирования. Применяются условия лицензии Apache-2.0 и ограничения базовой модели.

Qwen3.8-2.4T-A95B-DFlash — шестислойная черновая модель DFlash для ускорения генерации методом спекулятивного декодирования. Разработана Modal Labs и предназначена для совместного использования с modal-labs/Qwen3.8-2.4T-A95B-NVFP4; обучающие данные были заново сгенерированы на основе этой базовой модели. В метаданных указаны семейство Qwen3, архитектура DFlashDraftModel, 4,9 млрд параметров и контекст до 262 144 токенов. Модель принимает текст и выдаёт текст в рамках задачи text-generation; её назначение — предлагать черновые продолжения для последующей проверки основной моделью. Для самостоятельного диалога или генерации без базовой модели она не предназначена. Лицензия в предоставленных данных не указана.

yo-router-270m — компактная текстовая модель на 257 млн параметров, разработанная lagna360 на основе Google FunctionGemma 270M IT. Это дообученная Gemma 3 для маршрутизации англоязычных запросов о macOS к одному из десяти встроенных вызовов системных инструментов: модель классифицирует запрос и извлекает аргументы, не формируя ответ для пользователя. Объявления инструментов встроены в веса, что сокращает пример запроса до 33 токенов. Модель рассчитана на запуск через MLX на Apple Silicon; контекст — до 32 768 токенов. В описанной разработчиком оценке точность выбора инструмента составляет 95,2%, а точность аргументов — 82,3%. Поддерживаются только предопределённые инструменты для чтения системной информации macOS; менять их состав можно только новым дообучением. Модель всегда выбирает инструмент, может ошибаться в имени инструмента и аргументах, не предназначена для общего чата, других платформ и языков. Для выполнения действий требуется внешняя программа-исполнитель, которая проверяет результат модели. Производная модель распространяется на условиях Gemma Terms of Use.

HYHPING2023/checkpoint-draft-dflash2 — вспомогательная черновая модель DFlash2 для ускорения генерации Qwen3.5-35B-A3B VCLR3 с помощью speculative decoding. Она разработана на основе архитектуры Inco AI DFlash2 и предназначена для запуска внутри совместимого сервера SGLang: модель предлагает блоки токенов, а целевая модель проверяет их. Самостоятельно отвечать на запросы она не может; веса целевой модели в репозитории отсутствуют. Модель содержит 807,4 млн параметров, использует пять слоёв в стиле Qwen3 и блок из восьми черновых токенов. Принимает скрытые состояния целевой модели из слоёв 1, 10, 19, 28 и 37, а также использует её embeddings и языковую голову. Контекст целевой модели — 262 144 токена. Обучение проводилось четыре эпохи на смешанном видео-, китайско- и англоязычном корпусе; в README приведены результаты принятия токенов для видео и текста. Для работы нужны совместимая сборка SGLang и соответствующий объединённый чекпойнт Qwen3.5-35B-A3B VCLR3. Лицензия — Apache-2.0.

Это набор вспомогательных MTP-моделей для Gemma 4, подготовленный владельцем репозитория из контрольных точек Google и предназначенный для ускорения генерации методом speculative decoding в llama.cpp. Модели представлены в формате GGUF с квантизацией Q8_0; в репозитории есть варианты для Gemma 4 12B и 31B. Это не самостоятельные чат-модели: каждую нужно запускать вместе с соответствующей целевой моделью Gemma 4 Instruct через путь draft-mtp. Вспомогательная модель предлагает черновые токены, которые целевая модель проверяет, ускоряя генерацию без замены её ответов. Для работы нужна сборка llama.cpp с поддержкой Gemma 4 MTP. У варианта 31B контекст черновой модели составляет 131072 токена, поэтому при сочетании с целевой моделью на 262K возможна выдача предупреждения о несовпадении контекста. Лицензия репозитория — Apache-2.0.

yujiepan/glm-5.1-tiny-random — экспериментальная компактная модель для отладки, созданная на основе конфигурации zai-org/GLM-5.1. Модель имеет архитектуру GLM MoE DSA, поддерживает text-generation и предназначена для загрузки через Transformers, vLLM и SGLang. Модель содержит около 1,2 млн параметров, два скрытых слоя и размер скрытого представления 8; в репозитории также заявлена поддержка multi-token prediction. Максимальная длина контекста по метаданным составляет 202752 токена. Веса инициализированы случайно, поэтому модель не предназначена для получения осмысленных или качественных ответов. Основное применение — проверка совместимости реализации, отладка загрузки и инференса, а также тестирование механизмов speculative decoding, DSA и multi-token prediction на минимальной модели. Из-за случайной инициализации её нельзя использовать как обученную языковую модель, в прикладных системах или для оценки качества генерации. Лицензия в предоставленных данных не указана.

tiny-random/longcat-flash — тестовая компактная модель, созданная на основе конфигурации и архитектуры Meituan LongCat-Flash-Chat. Модель случайно инициализирована и предназначена прежде всего для отладки, проверки совместимости и разработки интеграций, а не для получения качественных ответов. Модель поддерживает задачу text-generation и реализует каузальную языковую архитектуру LongCat-Flash с MoE-компонентами и механизмом MLA. В метаданных указано около 1,1 млн параметров и нативное контекстное окно до 131 072 токенов; модель рассчитана на использование через Transformers и может интегрироваться с vLLM и SGLang. Поддерживаются специализированные механизмы speculative decoding и удалённый код архитектуры. Главное преимущество модели — малый размер и удобство для быстрых тестов, экспериментов с конфигурацией, загрузкой и серверным инференсом. Из-за случайной инициализации веса не обучены, поэтому модель не предназначена для продуктивной генерации текста, диалога, следования инструкциям или извлечения достоверных знаний. Лицензия в предоставленных данных не указана.

OTel-LLM-270M-IT — компактная текстовая модель на 257 млн параметров, разработанная в рамках инициативы Open Telco AI для генерации ответов по телекоммуникационным материалам. Она создана полнопараметрическим дообучением google/gemma-3-270m-it на наборе OTel-LLM и предназначена прежде всего для использования в RAG-системах с предварительно найденным контекстом. Модель принимает текстовый запрос вместе с извлечёнными фрагментами и генерирует ответ, опираясь на них. Карточка сообщает о контекстном окне 32 768 токенов и поддержке английского языка. В тесте на отложенной части OTel-LLM показатель корректности по оценке LLM составил 31,2% против 22,2% у базовой модели; эти результаты относятся к генерации ответов по предоставленному контексту. Модель специализирована на телекоммуникациях и не оптимизирована для ответов без контекста. Качество зависит от поиска, ранжирования, промпта и полноты извлечённых данных; результаты на внешних и многоязычных задачах отдельно не подтверждены. Ответы следует проверять перед операционным, клиентским, нормативным или сетевым применением. Лицензия репозитория — Apache-2.0; также необходимо учитывать условия лицензии базовой модели.

RadixArk/Inkling-Small-DSpark — черновая модель для ускорения генерации ответов целевой моделью Inkling-Small-NVFP4 с помощью спекулятивного декодирования. Она разработана для DSpark — метода на основе параллельного чернового декодирования DFlash с Markov logit-bias и головой оценки уверенности; обучение проводилось через SpecForge на скрытых состояниях целевой модели, работающей в SGLang. Модель использует плотную архитектуру в стиле Qwen3 с шестью слоями, групповой обработкой запросов внимания и блоком черновой генерации длиной 7 токенов. В метаданных указано 2 млрд параметров, а в README — 1,39 млрд обучаемых параметров черновых весов. Контекстная конфигурация рассчитана на диапазон до 1 048 576 токенов, однако обучение велось на контекстах до 8 192 токенов с адаптацией на последовательностях до 65 536 токенов. В репозитории находятся только черновые веса: для работы обязательны точно соответствующие целевая модель thinkingmachines/Inkling-Small-NVFP4 и её токенизатор. Требуется сборка SGLang с поддержкой DSpark; результаты оценки показывают длину принятого блока при спекулятивном декодировании, а не качество самостоятельной генерации. Модель распространяется в формате Safetensors; лицензия в предоставленных данных не указана.

gaber/kimi-k3-dspark-gguf — конвертированная в GGUF BF16 версия черновой модели Inferact/Kimi-K3-DSpark для ускорения генерации moonshotai/Kimi-K3 методом спекулятивного декодирования. Модель предсказывает несколько следующих токенов, которые затем проверяет основная модель; автор README заявляет ускорение в 3–5 раз при сохранении того же распределения выходов. В GGUF оставлено около 2,4 млрд параметров: матрица эмбеддингов исключена, поскольку описанный runtime передаёт модели скрытые состояния целевой модели. Архитектура включает пять трансформерных слоёв с Multi-head Latent Attention, блоковый предиктор на семь токенов и голову оценки уверенности. Модель предназначена для совместного использования с Kimi-K3 в speculative decoding, а не для самостоятельной генерации по обычному текстовому запросу. В README указано, что конверсия структурно корректна, но llama.cpp пока не поддерживает нужную MLA-реализацию для DFLASH; для этого runtime требуется патч. Лицензия в метаданных обозначена как other, конкретные условия в доступных данных не раскрыты.

yujiepan/minimax-m2.5-tiny-random — экспериментальная уменьшенная модель, созданная сообществом на основе конфигурации MiniMaxAI/MiniMax-M2.5. Веса модели инициализированы случайно, поэтому она предназначена прежде всего для отладки и тестирования программной совместимости, а не для получения качественных ответов или содержательной генерации текста. Модель относится к архитектуре MiniMax M2 с causal language modeling и разреженным Mixture-of-Experts-блоком: в конфигурации используются 2 декодерных слоя, скрытый размер 8, 256 экспертов и словарь размером 200064 токена. Объём параметров составляет 1,6 млн, заявленная длина контекста — 196608 токенов. Поддерживается запуск через Transformers; README также приводит пример сервинга через vLLM. Модель может использоваться для проверки загрузки, генерации, токенизации и интеграции архитектуры MiniMax M2 в инструментах Transformers и vLLM, включая сценарии с reasoning- и tool-call-парсерами. Из-за случайной инициализации веса не обеспечивают полезные языковые способности. Лицензия в предоставленных материалах не указана.