II.7DevOps, облако и эксплуатация IT-систем
В разделе собраны самостоятельные задачи, где AI помогает развёртывать, наблюдать и оптимизировать цифровые системы и облачную инфраструктуру. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
7 196 моделейOTel-LLM-8.2B-IT — англоязычная языковая модель для генерации ответов по телекоммуникационной тематике, разработанная в рамках открытой инициативы OTel Family of Models. Это полнопараметрическое дообучение Qwen/Qwen3-8B на корпусе OTel-LLM, содержащем отобранные примеры по телекоммуникационным стандартам и материалам отрасли. Модель имеет архитектуру Qwen3 dense, около 7,6 млрд параметров по метаданным и контекстное окно до 40 960 токенов. Модель предназначена прежде всего для генерации ответов в RAG-системах: ей передают найденный контекст из телекоммуникационных документов, а она формулирует ответ, опираясь на него. В описанной оценке точность ответов с опорой на контекст выросла на 6 процентных пунктов относительно базовой модели на отложенной выборке OTel-LLM. Результат зависит от качества поиска, ранжирования, контекста и промпта. Модель ориентирована на английский язык и не предназначена для общего контекстно-свободного вопросно-ответного режима. Сгенерированные сведения следует проверять перед операционным, клиентским, нормативным или сетевым применением. Репозиторий распространяется по лицензии Apache-2.0; также необходимо учитывать условия лицензии базовой модели Qwen/Qwen3-8B.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-k2-sw256-mha-sharegpt-epoch9-step171560 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-k2-sw256-mha-sharegpt-epoch-9-step-171560, поэтому описание составлено по ней. Это контрольная точка черновой модели EAGLE3 для ускорения генерации текста методом speculative decoding вместе с целевой моделью Qwen/Qwen3-1.7B. Модель разработана для использования с совместимым кодом SpecForge/EAGLE3 и не предназначена для самостоятельной генерации текста. Чекпойнт получен онлайн-обучением SpecForge EAGLE3 на данных ShareGPT; в карточке указан шаг 171560, эпоха 9. Архитектура — LlamaForCausalLMEagle3, размер — 420,2 млн параметров, формат весов — safetensors, контекст — 40960 токенов. Метаданные указывают английский и китайский языки; базовая модель Qwen3-1.7B описана как многоязычная. Карточка не приводит результатов бенчмарков и не заявляет измеренного выигрыша в скорости. Для работы нужны целевая модель Qwen/Qwen3-1.7B и совместимая реализация EAGLE3. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.
Это черновая модель EAGLE3, созданная методом онлайн-обучения SpecForge для ускорения генерации текста моделью Qwen/Qwen3-1.7B. Она содержит 361,5 млн параметров, использует архитектуру LlamaForCausalLMEagle3, формат safetensors и контекст длиной до 40 960 токенов. Чекпойнт соответствует 9-й эпохе обучения, шагу 233 900; в качестве обучающих данных использовался ShareGPT. Модель предназначена для спекулятивного декодирования в совместимом коде SpecForge/EAGLE3 и не является самостоятельной языковой моделью. Для её использования требуется целевая модель Qwen/Qwen3-1.7B. В карточке не заявлены результаты бенчмарков. Лицензия указана как other.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw768-epoch9-step460000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw768-epoch-9-step-460000, поэтому описание составлено по ней. Это контрольная точка черновой модели EAGLE3, обученной командой SpecForge для ускорения генерации текста методом speculative decoding вместе с базовой моделью Qwen/Qwen3-1.7B. Она не предназначена для самостоятельной генерации: совместимый код SpecForge/EAGLE3 использует её для предложения черновых токенов, которые проверяет целевая модель. Модель обучалась онлайн методом SpecForge EAGLE3 на данных ShareGPT; указаны девятая эпоха и шаг 460000. Архитектура — LlamaForCausalLMEagle3, размер чекпойнта по метаданным — 361,5 млн параметров, формат весов — safetensors, тип данных — bfloat16. Контекст составляет 40 960 токенов; заявлены английский и китайский языки. Веса замороженных эмбеддингов целевой модели в чекпойнт не входят и загружаются из базовой модели. Модель подходит для speculative decoding с Qwen3-1.7B в совместимой среде; карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория и у базовой модели.
Это чекпойнт черновой модели EAGLE3, разработанный с помощью SpecForge и обученный для Qwen/Qwen3-1.7B. Он предназначен для ускорения генерации текста методом speculative decoding: черновая модель предлагает продолжения, которые проверяет целевая модель Qwen3-1.7B. Чекпойнт не является самостоятельной языковой моделью. Модель использует архитектуру LlamaForCausalLMEagle3, имеет 361,5 млн параметров и поддерживает контекст длиной до 40 960 токенов. Она принимает текст и предлагает текстовые продолжения для целевой модели. Для работы нужны SpecForge или совместимый с EAGLE3 код и веса целевой Qwen/Qwen3-1.7B; веса целевых эмбеддингов в чекпойнт не включены. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия использования следует сверять с файлами репозитория.
Это выделенные веса MTP-драфтера из windowsxp811203/Qwen3.8-27B-Abliterated, подготовленные для ускоренного спекулятивного декодирования в mlx-vlm. Разработчик — windowsxp811203. Модель не работает самостоятельно: её нужно использовать вместе с совместимой целевой моделью Qwen3.8-27B-Abliterated MLX, которая предоставляет эмбеддинги токенов и LM head. Драфтер и целевая модель должны иметь одинаковое abliterated-поведение. Архитектура — qwen3_5_mtp, блок размера 3; репозиторий содержит 15 тензоров в формате bf16 и занимает около 810 МиБ. В тестах автора на M5 Max ускорение зависело от квантования целевой модели: для oQ4e указано 1,29×, для oQ8e — 1,94×, а для oQ6e ускорения не было. Спекулятивные токены проверяются распределением целевой модели, поэтому принятие черновиков меняет скорость, но не целевое распределение; при вычислениях bf16 жадная генерация может разойтись на близких по вероятности токенах. Модель предназначена для ускорения генерации текста целевой моделью, а не для самостоятельного общения или генерации. Унаследованная лицензия — Apache-2.0. README отмечает, что родительская модель не отказывает в запросах, поэтому её ответы требуют ответственного применения.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-k2-sw128-sharegpt-epoch7-step175000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-k2-sw128-sharegpt-epoch-7-step-175000, поэтому описание составлено по ней. Это компактная черновая модель EAGLE3 от автора репозитория huluhuluu, обученная методом SpecForge для ускорения генерации в Qwen/Qwen3-1.7B с помощью speculative decoding. Она предназначена для использования как вспомогательный draft-чекпойнт вместе с целевой моделью Qwen3-1.7B, а не для самостоятельного диалога или генерации текста. Модель использует плотную архитектуру LlamaForCausalLMEagle3, содержит 411,8 млн параметров и поддерживает контекст до 40 960 токенов. Чекпойнт сохранён в safetensors; README указывает bfloat16 и обучение на данных ShareGPT. Заявлена поддержка английского и китайского языков. Для работы нужны SpecForge/EAGLE3-совместимый код и базовая модель Qwen/Qwen3-1.7B; бенчмарки в карточке не приведены. Лицензия указана как other, без дополнительных условий в доступных данных.
Это вспомогательная черновая модель EAGLE3, созданная методом онлайн-обучения SpecForge для ускорения генерации с целевой моделью Qwen/Qwen3-1.7B. Она не предназначена для самостоятельной генерации текста: при спекулятивном декодировании она предлагает черновые продолжения, которые проверяет целевая модель. Чекпойнт основан на Qwen/Qwen3-1.7B и использует архитектуру LlamaForCausalLMEagle3. В репозитории указаны 361,5 млн параметров и контекст 40 960 токенов; веса представлены в safetensors, конфигурация обучения использует bfloat16. Для загрузки нужны SpecForge и совместимый код EAGLE3; замороженные веса целевых эмбеддингов берутся из целевой модели. Карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия её использования следует сверять с карточкой репозитория и базовой модели.
Это контрольная точка черновой модели EAGLE3, обученной командой SpecForge для ускорения генерации текста методом speculative decoding вместе с базовой моделью Qwen/Qwen3-1.7B. Она не предназначена для самостоятельной генерации: совместимый код SpecForge/EAGLE3 использует её для предложения черновых токенов, которые проверяет целевая модель. Модель обучалась онлайн методом SpecForge EAGLE3 на данных ShareGPT; указаны девятая эпоха и шаг 460000. Архитектура — LlamaForCausalLMEagle3, размер чекпойнта по метаданным — 361,5 млн параметров, формат весов — safetensors, тип данных — bfloat16. Контекст составляет 40 960 токенов; заявлены английский и китайский языки. Веса замороженных эмбеддингов целевой модели в чекпойнт не входят и загружаются из базовой модели. Модель подходит для speculative decoding с Qwen3-1.7B в совместимой среде; карточка не приводит результатов бенчмарков. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория и у базовой модели.
Anbeeld/Qwen3.8-27B-DSpark-GGUF — набор GGUF-квантизаций черновой модели RadixArk DSpark для ускорения генерации целевых моделей Qwen3.8-27B. Модель разработана Anbeeld на основе RadixArk/Qwen3.8-27B-DSpark, обученной с использованием SpecForge и предназначенной для speculative decoding в связке с SGLang. Это не самостоятельная языковая модель: для работы ей требуется совместимая целевая модель Qwen3.8-27B, а GGUF-варианты рассчитаны на BeeLlama.cpp — форк llama.cpp с расширенными возможностями квантизации. Черновая модель содержит около 1,86 млрд параметров, использует BF16, пять полноценных attention-слоёв, GQA с 32 query heads и 8 key/value heads, VanillaMarkov head ранга 256 и максимальную длину последовательности 262 144 позиции. Конфигурация предполагает семь черновых предложений и проверку до восьми токенов целевой моделью. В README приведены оценки на задачах программирования, математики, диалогов, общих знаний и длинного контекста: для DSpark v2 заявлены средняя длина принятой последовательности 3,43 токена на запрос и ускорение генерации до 3,16 раза при единичной конкурентности, однако результаты зависят от целевой модели, оборудования, режима обслуживания и нагрузки. Сильная сторона модели — повышение пропускной способности и снижение стоимости авторегрессионной генерации при сохранении проверки результатов целевой моделью. Ограничения включают необходимость совместимого target-чекпойнта и специализированного программного стека; приведённые показатели получены на GPU NVIDIA GB300 и H200 и не гарантируют аналогичную производительность на другом оборудовании. В метаданных указана лицензия «other», но её конкретные условия в README не раскрыты.
local-inference-lab/GLM-5.3-Flash-DFlash2 — это квантованная в формате MXFP8 модель-черновик DFlash 2, подготовленная для ускорения спекулятивного декодирования целевой модели local-inference-lab/GLM-5.3-Flash-NVFP4. Исходная модель DFlash 2 разработана Inco AI. Этот репозиторий не содержит самостоятельную языковую модель: черновик должен работать совместно с совместимым сервером, который проверяет предложенные токены целевой моделью. Модель предназначена для сервинга текстовой генерации через vLLM и сценариев, где требуется повысить эффективность авторегрессионного декодирования. Используется архитектура DFlash 2 с предложением до семи токенов; линейные веса представлены в float8_e4m3fn, масштабы хранятся как uint8 с E8M0-экспонентами, размер блока квантования — 1×32. В квалифицированном тесте было загружено 1,20 ГБ весов черновика, а 32-токенный спекулятивный запрос успешно обработан. Данные о языках и поддерживаемых модальностях, кроме текстовой генерации, не указаны. К сильным сторонам относятся низкий объём весов и интеграция со специализированными DFlash 2 и ModelOpt MXFP8 kernels, потенциально позволяющая ускорить генерацию при совместимой конфигурации. Однако модель не работает автономно, требует конкретной целевой модели, совместимой сборки vLLM, специализированного runtime и рекомендованной конфигурации оборудования; проверка производительности и режима CUDA Graph в приведённом тесте не проводилась. Квалификация выполнена на четырёх NVIDIA RTX PRO 6000 Blackwell с tensor parallel size 4. Лицензия — CC BY-NC-ND 4.0; действуют ограничения и требования атрибуции исходной модели Inco AI.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw512-epoch9-step460000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-460000, поэтому описание составлено по ней. Это вспомогательная черновая модель EAGLE3, разработанная и обученная с помощью SpecForge для спекулятивного декодирования вместе с Qwen/Qwen3-1.7B. Она предсказывает продолжения для целевой модели, чтобы ускорить генерацию текста; самостоятельно как полноценная языковая модель не предназначена для использования. Чекпойнт получен онлайн-обучением EAGLE3 на данных ShareGPT. Веса представлены в формате Safetensors, архитектура — LlamaForCausalLMEagle3; размер составляет 361,5 млн параметров, длина контекста — 40 960 токенов. Для загрузки нужны целевая модель Qwen/Qwen3-1.7B и совместимый код SpecForge/EAGLE3; замороженные веса целевых эмбеддингов в чекпойнт не входят. В карточке указана лицензия other, поэтому конкретные условия использования следует сверить с репозиторием.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw768-epoch9-step445000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw768-epoch-9-step-445000, поэтому описание составлено по ней. Это контрольная точка черновой модели EAGLE3, разработанная с помощью SpecForge для ускорения генерации текста методом speculative decoding вместе с Qwen/Qwen3-1.7B. Она не предназначена для самостоятельного использования как целевая языковая модель: для работы нужны базовая модель и совместимый код SpecForge/EAGLE3. Модель обучалась методом online training на данных ShareGPT; в конфигурации указаны архитектура LlamaForCausalLMEagle3 и тип bfloat16. Число параметров репозитория — 361,5 млн, контекст — 40 960 токенов. Веса черновой модели не содержат замороженные эмбеддинги целевой модели: SpecForge загружает их из Qwen/Qwen3-1.7B. Метаданные указывают английский и китайский языки. Лицензия обозначена как other; конкретные условия в доступных данных не раскрыты. Карточка не приводит бенчмарков производительности.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw768-epoch9-step465000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw768-epoch-9-step-465000, поэтому описание составлено по ней. Это компактная черновая модель EAGLE3, созданная методом онлайн-обучения SpecForge на базе Qwen/Qwen3-1.7B. Она предназначена для ускорения генерации текста методом speculative decoding: черновая модель предлагает продолжения, которые проверяет целевая Qwen3-1.7B. Самостоятельно как обычную языковую модель её использовать нельзя. Архитектура чекпойнта — LlamaForCausalLMEagle3; в репозитории указано 361,5 млн параметров и контекст 40 960 токенов. Веса сохранены в safetensors; замороженные веса целевых эмбеддингов в чекпойнт не входят и загружаются из целевой модели. Для работы требуется код, совместимый со SpecForge/EAGLE3, и базовая модель Qwen/Qwen3-1.7B. В карточке не заявлены результаты бенчмарков. Лицензия указана как other, поэтому условия использования следует уточнить в материалах репозитория.
Это контрольная точка черновой модели EAGLE3, обученной командой или автором репозитория с помощью SpecForge для Qwen/Qwen3-1.7B. Она предназначена для спекулятивного декодирования: совместимый инференсный движок использует её для ускорения генерации целевой модели. Это не самостоятельная языковая модель для обычного чата или генерации. Архитектура — LlamaForCausalLMLEagle3; в репозитории 512,5 млн параметров, формат весов safetensors, контекст — 40 960 токенов. Модель обучалась методом онлайн-обучения EAGLE3 на данных ShareGPT; карточка указывает поддержку английского и китайского языков. Для загрузки требуется код, совместимый со SpecForge/EAGLE3, и соответствующая базовая модель Qwen/Qwen3-1.7B. Бенчмарков и утверждений о приросте скорости карточка не приводит. Лицензия обозначена как other, конкретные условия следует проверять в файлах репозитория.
Это контрольная точка черновой модели EAGLE3, обученной авторами репозитория с помощью SpecForge для ускорения генерации Qwen/Qwen3-1.7B посредством speculative decoding. Она предлагает токены-кандидаты для целевой модели и не предназначена для самостоятельной генерации текста. Модель основана на Qwen/Qwen3-1.7B и использует архитектуру LlamaForCausalLMEagle3; в метаданных указаны 361,5 млн параметров и контекст 40 960 токенов. Чекпойнт сохранён в safetensors, а замороженные веса целевых эмбеддингов в него не входят: совместимый загрузчик берёт их из целевой модели. Для работы требуется код с поддержкой SpecForge/EAGLE3 и соответствующая целевая модель. Карточка не приводит результатов бенчмарков. Лицензия указана как other; конкретные условия нужно проверять в файлах репозитория.
yujiepan/qwen3.6-moe-tiny-random — экспериментальная мультимодальная модель для отладки, созданная на основе конфигурации Qwen/Qwen3.6-35B-A3B. Модель предназначена для сценариев image-text-to-text и работает с изображениями и текстовыми запросами через библиотеку Transformers. Это случайно инициализированная уменьшенная версия архитектуры Qwen3.6-MoE с четырьмя текстовыми слоями, уменьшенными размерностями скрытого представления и двухслойным визуальным модулем. Репозиторий также содержит настройки для многошагового предсказания токенов и интеграции с vLLM и SGLang. Размер файла весов составляет 12,3 МБ. Модель подходит для проверки загрузки, совместимости конфигурации, работы процессоров и интеграции с инструментами инференса. Из-за случайной инициализации весов она не предназначена для содержательного описания изображений, диалога, генерации текста или использования в продуктивных приложениях. Лицензия в предоставленных данных не указана.
yujiepan/qwen3-next-moe-tiny-random — экспериментальная миниатюрная причинная языковая модель, созданная yujiepan на основе конфигурации Qwen3-Next-80B-A3B-Instruct от Qwen. Модель случайно инициализирована и предназначена главным образом для отладки архитектуры и совместимости инструментов, а не для содержательной генерации текста. Модель поддерживает задачу генерации текста и рассчитана на работу через Transformers, а также может использоваться с vLLM и SGLang. В метаданных указаны библиотека Transformers, около 1,2 млн параметров и нативное контекстное окно до 262144 токенов. Архитектура включает decoder-only блоки Qwen3-Next с линейным вниманием, sparse Mixture-of-Experts и механизмом multi-token prediction; конфигурация существенно уменьшена относительно исходной модели. Сильная сторона модели — компактность и пригодность для тестирования загрузки, инференса, длинного контекста и специфических механизмов Qwen3-Next. Из-за случайной инициализации модель не обладает нормальными языковыми знаниями и не подходит для продуктивной генерации, диалогов, ответов на вопросы или оценки качества языковых моделей. Лицензия в предоставленных данных не указана.
Telco Transformer V1 — языковая модель на архитектуре GPT-2, разработанная для текстов телекоммуникационной отрасли. Проект описывает предварительное обучение с нуля на специализированных данных, пользовательский токенизатор для телекоммуникационной лексики и последующее обучение с учителем для прикладных задач. Модель предназначена для продолжения текста и ответов на вопросы по тематике сетей радиодоступа, IP-сетей, радиосвязи, 5G и ядра сети. Модель доступна в формате PyTorch и рассчитана на контекст до 512 токенов. В README приведён результат оценки: loss 3.8171; сравнительные данные, подтверждающие заявленное превосходство над RAG или дообученными моделями, не представлены. Лицензия — MIT.
Intel/tiny-random-falcon — небольшая тестовая модель семейства Falcon из репозитория Intel, производная от tiiuae/falcon-7b-instruct. Она предназначена для функционального тестирования интеграций и инструментов на базе библиотеки Transformers, включая проверки в проекте optimum-intel и Intel Extension for PyTorch (IPEX). Модель использует архитектуру Falcon, содержит около 8,8 млн параметров и поддерживает контекст длиной до 2048 токенов. Основная задача — генерация текста через pipeline text-generation; модель работает с Transformers и сохраняется в формате Safetensors. Благодаря случайным весам она подходит для проверки загрузки, совместимости и выполнения операций, но не для получения содержательных или качественных ответов. Лицензия в предоставленных данных не указана.
digest-grpo — экспериментальная языковая модель семейства Llama, разработанная автором репозитория usr-wwelsh и дообученная методом GRPO/RLVR на основе usr-wwelsh/digest-sft3. Модель предназначалась для генерации ежедневных сводок изменений в Git-репозиториях, опирающихся на содержимое коммитов и патчей. Она принимает текст и генерирует текст, имеет 134,5 млн параметров и контекст до 8192 токенов; опубликована в формате safetensors для Transformers. Автор не рекомендует использовать этот чекпойнт: повторная оценка после исправления уязвимости в функции награды показала регрессию относительно базовой модели. README описывает подгонку под ошибочную функцию оценки и отмечает, что проект сводок на базе небольшой модели прекращён в пользу статического конвейера. Лицензия — Apache-2.0.
yujiepan/hy3-tiny-random — экспериментальная сверхмалая авторегрессионная модель для генерации текста, созданная yujiepan на основе конфигурации Tencent Hy3. Модель имеет около 970,5 тыс. параметров, использует архитектуру HYV3ForCausalLM с декодерными слоями, механизмом MoE и поддержкой multi-token prediction. Для работы применяется библиотека Transformers; заявленное окно контекста составляет до 262 144 токенов. Модель предназначена прежде всего для отладки, проверки совместимости и разработки инфраструктуры вокруг Hy3, включая запуск через Transformers, vLLM и SGLang. Она поддерживает сценарии conversational text generation, выбор инструментов и reasoning/tool-call parsers, однако случайная инициализация весов делает её непригодной для содержательной генерации, продуктивного диалога или оценки качества языковой модели. В предоставленных данных лицензия модели не указана.
Muse-Glimmer-30B-DFlash2-GGUF — набор GGUF-конвертаций черновой модели DFlash 2 для Muse-Glimmer-30B, разработанный Inco AI и предназначенный для использования с llama.cpp. Это не самостоятельная языковая модель: она работает внутри сервера со speculative decoding, предварительно генерируя токены, которые затем проверяет целевая модель Muse-Glimmer-30B. DFlash 2 использует block-diffusion для параллельного предсказания целого блока токенов за один проход, сохраняет несколько лучших кандидатов на каждой позиции и выбирает из них согласованный путь. Архитектура включает двухконтактные динамические свёртки, помогающие сохранять качество черновика к концу блока. Заявлена без потерь: при жадной генерации результат совпадает с целевой моделью, а при sampling сохраняется её распределение. Доступны варианты BF16 размером 5,5 ГБ, Q8_0 размером 2,9 ГБ и Q4_K_M размером 1,6 ГБ. Модель предназначена для ускорения инференса Muse-Glimmer-30B в поддерживаемом сервере speculative decoding; автономное использование не предусмотрено. В README не указаны языки, размер контекста и мультимодальные возможности. Для запуска требуется сборка llama.cpp с поддержкой DFlash 2 и совместимая целевая модель. Репозиторий распространяется по лицензии Apache-2.0.
Карточка модели huluhuluu/qwen3-1.7b-eagle3-sharegpt-sw512-epoch9-step440000 на Hugging Face совпадает с карточкой huluhuluu/qwen3-1p7b-eagle3-sharegpt-sw512-epoch-9-step-440000, поэтому описание составлено по ней. Это контрольная точка черновой модели EAGLE3, разработанная для использования вместе с Qwen/Qwen3-1.7B. Модель обучена методом онлайн-обучения SpecForge EAGLE3 на данных ShareGPT; она предназначена для спекулятивного декодирования, при котором черновая модель помогает ускорить генерацию целевой модели. Это не самостоятельная языковая модель для обычной генерации ответов. Модель использует архитектуру LlamaForCausalLMEagle3 и имеет 361,5 млн параметров. Указанное максимальное контекстное окно — 40 960 токенов. Веса представлены в формате safetensors; для загрузки требуются совместимый код SpecForge/EAGLE3 и целевая модель Qwen/Qwen3-1.7B, чьи замороженные веса эмбеддингов в чекпойнт не включены. Карточка не приводит результатов бенчмарков. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в репозитории и у правообладателя.
Это компактная черновая модель EAGLE3 для ускорения генерации текста методом speculative decoding с целевой моделью Qwen/Qwen3-1.7B. Чекпойнт обучен SpecForge методом EAGLE3 online training на данных ShareGPT; указаны эпоха 2 и шаг 65 000. Архитектура — LlamaForCausalLMEagle3, размер — 411,8 млн параметров, формат весов — safetensors, родной контекст — 40 960 токенов. Модель предназначена для использования в совместимом со SpecForge/EAGLE3 коде как draft-модель, предлагающая продолжения для проверки целевой моделью. Она не является самостоятельной языковой моделью и не предназначена для прямого диалогового применения. Метаданные указывают английский и китайский языки; лицензия обозначена как other. Карточка не приводит результатов бенчмарков.
Это контрольная точка черновой модели EAGLE3, разработанная для использования вместе с Qwen/Qwen3-1.7B. Модель обучена методом онлайн-обучения SpecForge EAGLE3 на данных ShareGPT; она предназначена для спекулятивного декодирования, при котором черновая модель помогает ускорить генерацию целевой модели. Это не самостоятельная языковая модель для обычной генерации ответов. Модель использует архитектуру LlamaForCausalLMEagle3 и имеет 361,5 млн параметров. Указанное максимальное контекстное окно — 40 960 токенов. Веса представлены в формате safetensors; для загрузки требуются совместимый код SpecForge/EAGLE3 и целевая модель Qwen/Qwen3-1.7B, чьи замороженные веса эмбеддингов в чекпойнт не включены. Карточка не приводит результатов бенчмарков. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в репозитории и у правообладателя.
Это дообученная черновая модель EAGLE3 для спекулятивного декодирования с Qwen/Qwen3-1.7B. Чекпойнт создан методом онлайн-обучения SpecForge EAGLE3 на данных ShareGPT; архитектура — LlamaForCausalLMEagle3, размер — 361,5 млн параметров, тип данных — bfloat16. Модель принимает текст и предсказывает черновые продолжения для целевой модели, помогая ускорить генерацию текста. Чекпойнт рассчитан на загрузку совместимым кодом SpecForge/EAGLE3 и не является самостоятельной языковой моделью. Для работы целевая модель предоставляет замороженные веса эмбеддингов, отсутствующие в этом репозитории. Карточка не приводит результатов бенчмарков. Контекст составляет до 40 960 токенов; указаны английский и китайский языки. Лицензия обозначена как other.
Akicou/Qwen3.8-27B-DFlash2-GGUF — это набор конвертаций draft-модели DFlash 2 в формате GGUF, разработанный на основе z-lab/Qwen3.8-27B-DFlash2 для ускорения генерации целевой модели Qwen/Qwen3.8-27B. Модель не является самостоятельной языковой моделью: она предлагает блоки токенов, которые затем проверяются целевой моделью в режиме speculative decoding. Предназначена для запуска рядом с целевой моделью, в частности через llama.cpp с поддержкой DFlash 2 и параметром draft-dflash. Модель использует архитектуру DFlash 2 с блочным предсказанием токенов, отбором наиболее вероятных кандидатов и динамическими свёртками в backbone. Она содержит около 1,92 млрд параметров, 5 слоёв со sliding attention и окном 2048, поддерживает контекст до 262 144 токенов, имеет скрытый размер 5120 и блок спекуляции размером 8. Доступны варианты BF16, Q6_K, Q4_K_M и Q4_K_S объёмом примерно от 1,02 до 3,60 ГиБ. Токенизатор и словарь наследуются от целевой модели; отдельные языки и модальности в README не указаны. Ключевое преимущество — потенциальное ускорение без изменения результата: для жадной генерации заявлено совпадение с целевой моделью, а при sampling сохраняется её распределение. В тестах на одной NVIDIA H200 ускорение составляло 2,67–3,43 раза, однако результаты зависят от задачи, оборудования, квантования и настроек. Ограничения включают невозможность самостоятельного использования, необходимость целевой модели и специальной версии llama.cpp с поддержкой DFlash 2, которая на момент описания ещё не была включена в основной релиз. Модель распространяется по лицензии Apache-2.0.
Это экспериментальная конверсия черновой модели Qwen3.8-27B-DFlash2 в формат GGUF с квантизацией NVFP4, опубликованная costanzopadovano. Она предназначена для спекулятивного декодирования вместе с целевой моделью Qwen3.8-27B и совместимым экспериментальным runtime на базе llama.cpp; самостоятельно заменять целевую модель она не может. Файл весит около 1,02 ГиБ. Артефакт рассчитан на ускорение генерации за счёт подготовки черновых токенов для целевой модели и экономии видеопамяти. Проверка проведена на специфичной для оборудования конфигурации с двумя RTX 5060 Ti по 16 ГБ и контекстом целевой модели 153 600 токенов; это не заявленный собственный контекст черновой модели. Измерения показали экономию памяти, но не подтверждают стабильное ускорение: результат зависит от содержимого промпта и принятия черновых токенов, а в некоторых тестах наблюдалась высокая вариативность. Модель основана на z-lab/Qwen3.8-27B-DFlash2 и распространяется по лицензии Apache-2.0. В README артефакт назван экспериментальным; для работы нужны целевая Qwen3.8-27B и совместимый runtime.
openaccess-ai-collective/tiny-mistral — небольшая языковая модель с архитектурой Mistral, опубликованная Open Access AI Collective. В карточке Hugging Face она описана как случайно инициализированная модель для сквозного тестирования; её назначение — проверка загрузки и работы систем вывода, а не генерация содержательных ответов. Модель имеет около 197,8 млн параметров, 8 слоёв и контекст до 32 768 токенов. Она принимает текст и выдаёт текст; по имеющимся данным нельзя установить набор поддерживаемых естественных языков. Карточка показывает пример использования с Transformers. Лицензия в переданных метаданных и найденных сведениях не установлена.