I.14Автоматизация процессов и AI-агенты

Qwen3-1.7B SearchQA TCOD-B2F — экспериментальный чекпойнт, созданный автором SeanWang0027 на базе Qwen3-1.7B. Модель обучалась методом on-policy distillation с curriculum TCOD и учителем Qwen3-32B на задаче AgentGym-RL SearchQA; опубликован экспорт шага обучения 200. Это плотная авторегрессионная модель Qwen3 с 1,7 млрд параметров и контекстом до 40 960 токенов, предназначенная для генерации текста в диалоге с поисковым агентом. Модель рассчитана на сценарий SearchQA с ReAct-диалогом и использованием поиска для ответа на вопросы. В README указаны 16 раундов взаимодействия и отключённый режим thinking. Чекпойнт не оценивался, поэтому его качество и пригодность для практического применения не подтверждены. Лицензия в предоставленных данных не указана.

Minbyul разработал эту исследовательскую версию Qwen3.5-35B-A3B для изучения влияния начальной SFT-модели на обучение поведения веб-агента с помощью GRPO. Модель основана на смеси экспертов (MoE): около 35 млрд параметров всего и около 3 млрд активных на токен. Она принимает текстовые запросы и использует интерфейс вызова инструментов для поиска в интернете, открытия страниц и поиска по их содержимому. Модель прошла SFT на отфильтрованных по корректности траекториях веб-агента, а затем дообучение GRPO для принятия решения, когда прекратить поиск. Контрольная точка выбрана как точка снижения избыточного поиска без потери точности в конкретной оценке; обучение проводилось с контекстом 131 072 токена. Архитектура и шаблон вызова инструментов сохранены от базовой модели. Лицензия — Apache-2.0. Модель предназначена для исследований многошагового веб-поиска с инструментами и поведения остановки, а не для производственного использования. Её результаты зависят от обученного формата инструментов и запросов; безопасное окно дальнейшего RL узкое, а правило остановки основано на эвристическом проверяющем сигнале. Для другой среды инструментов или функции вознаграждения эффективность следует проверять заново.

ModalityDance/latent-tts-colar — дообученная модель семейства LLaMA для рассуждений с использованием непрерывных латентных представлений. Она основана на LLaMA 3.2 1B Instruct, содержит модуль LatentHead и предназначена для генерации текста с латентным этапом рассуждения; в карточке указаны оценки на GSM8K, GSM8K Hard и MultiArith. Модель имеет плотную архитектуру ColarLlama, около 1,2 млрд параметров и контекст до 131 072 токенов. Поддерживает чат и описанный в README формат входа со специальными латентными токенами; для управления генерацией предусмотрены длина латентной последовательности и выбор между Monte Carlo Dropout и добавлением гауссовского шума. Модель может применяться для решения арифметических и математических задач, требующих многошагового рассуждения. README рекомендует вычисления в bfloat16 или float16; для запуска нужны совместимые Transformers и дополнительная реализация CoLaR. Лицензия репозитория — MIT; базовая модель Meta Llama 3.2 1B Instruct также может иметь собственные условия использования, которые следует учитывать отдельно.

Mistral-Small-3.1-DRAFT-0.5B — компактная языковая модель Alamios для ускорения генерации методом speculative decoding вместе с mistralai/Mistral-Small-3.1-24B-Instruct-2503 или mistralai/Mistral-Small-24B-Instruct-2501. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 475,3 млн параметров; она принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и диалоговый режим. Модель дообучена на выводах Mistral по 20 тысячам примеров из различных наборов данных, включая разные типы задач; обучение охватило два прохода и 12 млн токенов на проход. В первую очередь это черновая модель для совместной работы с указанными моделями Mistral, а не самостоятельная замена им. В карточке указаны английский, французский, немецкий, испанский, итальянский и португальский языки. Лицензия — Apache-2.0.

PhoneBuddy-4B-RealApp — экспериментальный контрольный чекпойнт из проекта PhoneBuddy, представленного в статье «PhoneBuddy: Training Open Models for Agentic Phone Use». Это мультимодальная модель семейства Qwen3.5 VL с архитектурой Qwen3_5ForConditionalGeneration, процессором Qwen3VLProcessor и плотной архитектурой. Число параметров в предоставленных данных не указано. Модель предназначена для исследований телефонных агентов, мультимодального использования инструментов и визуального рассуждения о действиях. Чекпойнт обучен с подкреплением только на реальных приложениях, без mockapps, и предназначен для сравнения в абляциях с основным вариантом Real+Mock. Вызовы инструментов оформляются в стиле Qwen XML; модель принимает текст и изображения и генерирует текст. Для загрузки нужны совместимые классы Qwen3.5 VL и используемый чекпойнтом backend токенизатора: совместимость с обычной установкой Transformers зависит от версии. Репозиторий использует формат safetensors. Лицензия в предоставленных данных не указана.

Это экспериментальный чекпойнт Qwen3-1.7B, дообученный методом дистилляции с учителем Qwen3-32B для сценария SearchQA. Обучение использовало набор AgentGym-RL SearchQA и формат диалога ReAct: модель должна работать с вопросами в несколько ходов, взаимодействуя с поисковым агентом. Опубликован экспорт чекпойнта на шаге обучения 200; автор указывает, что модель не оценивалась. Модель содержит 1,7 млрд параметров, построена на архитектуре Qwen3ForCausalLM и использует библиотеку Transformers. Метаданные указывают контекст до 40 960 токенов. Она принимает текст и генерирует текст; основное назначение — экспериментальные ответы на вопросы с опорой на поиск. Базовая модель — Qwen/Qwen3-1.7B. Условия лицензии в предоставленных данных не приведены.

CogEvol-4B-Q4_K_M-GGUF — квантизированная версия модели CogEvol-4B, разработанной командой CogEvol. Модель предназначена для генерации учебных сред по текстовому описанию курса: за один проход она создает структурированный JSON слайдовой страницы или автономную интерактивную HTML-страницу, работающую непосредственно в браузере. Поддерживаются английский и китайский языки, а модель можно запускать локально и полностью офлайн на ноутбуке через llama.cpp. Модель имеет размер 4B параметров в базовой версии, поставляется в формате GGUF с квантизацией Q4_K_M и занимает около 2,4 ГБ. Для рекомендованного запуска указан контекст до 32768 токенов; для интерактивного HTML рекомендуется контекст не менее 24576 токенов. По данным README, на M2 Pro с 16 ГБ памяти достигается в среднем около 34,8 токена в секунду при генерации слайдов, а CPU-only режим обеспечивает примерно 18–24 токена в секунду. Проверка на ограниченном наборе производственных сценариев показала сопоставимое с BF16 качество и корректность JSON и HTML-результатов. К сильным сторонам относятся компактный размер, автономная работа, генерация готовых учебных артефактов и совместимость с llama.cpp. Ограничения включают необходимость отключать режим рассуждений, увеличенный на 10–20% объем генерируемых Q4-токенов по сравнению с BF16, а также возможные проблемы старых версий macOS Metal, для которых предусмотрен автоматический переход на CPU. Модель распространяется по лицензии Apache-2.0.

google/gemma-4-E2B-it-assistant — вариант Gemma 4 от Google DeepMind, предназначенный для ускорения генерации с помощью спекулятивного декодирования. Это компактная плотная модель-драфтер: она предлагает несколько следующих токенов, которые целевая модель проверяет параллельно. По заявлению авторов, такой режим может ускорить декодирование до 3 раз без изменения результата относительно обычной генерации. Модель рассчитана на низкую задержку и локальное использование, включая устройства с ограниченными ресурсами. Семейство Gemma 4 поддерживает текст и изображения на входе, а для E2B также заявлен аудиоввод; ответы генерируются текстом. Вариант E2B имеет контекст до 128K токенов. Семейство поддерживает множество языков, однако точный список для этого чекпойнта не приведён. Для работы как драфтер модель предназначена для использования в конвейере speculative decoding с соответствующей целевой моделью, а не как самостоятельная замена целевой модели. В карточке указана лицензия Apache 2.0.

GreenMap/qwen3-vl-2b-ru-blueprint-extractor — дообученная GreenMap мультимодальная модель на базе Qwen/Qwen3-VL-2B-Instruct для анализа русскоязычных строительных чертежей. Она принимает изображение фрагмента плана с выделенным красным прямоугольником и текстовую инструкцию, а в ответ формирует JSON с типом и длиной стены. Модель предназначена для определения типа и длины стены, чтения размеров на размерных линиях и попытки восстановить полную длину стены по фрагменту. Структурированный результат можно использовать при подготовке данных для BIM/IFC и автоматизации обработки проектной документации. Архитектура — плотная Qwen3-VL для условной генерации; в репозитории указаны веса safetensors, лицензия Apache-2.0. Основной язык чертежей — русский. Автор прямо предупреждает, что модель сырая и не рекомендует её к использованию. Точность извлечения длины и типа стены не гарантирована; для нераспознаваемого объекта или неопределимой длины предусмотрены специальные значения результата.

Aligner 7B v1.0 — модуль коррекции ответов, разработанный на основе Llama 2 Base с использованием стратегии residual correction. Он предназначен для подключения к различным открытым моделям и моделям, доступным через API, чтобы корректировать их ответы в сценариях выравнивания и безопасности. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров; контекст составляет 4096 токенов. В карточке указан датасет aligner/aligner-20K и поддержка английского языка. Модель распространяется по некоммерческой лицензии. Примеры в карточке могут содержать оскорбительный или вредоносный контент; это предупреждение не характеризует гарантированную фильтрацию или качество выходов модели.

Aurora-Spec-Minimax-M2.5 — компактная черновая модель архитектуры EAGLE3 от Together Computer для ускорения генерации с помощью спекулятивного декодирования. Она обучена с нуля в рамках онлайн-обучения Aurora и предназначена для совместной работы с целевой моделью MiniMaxAI/MiniMax-M2.5: черновая модель предлагает токены, а целевая модель проверяет их параллельно. В README указаны 715,3 млн параметров, однослойный Transformer-декодер и контекст 196 608 токенов из метаданных; карточка отмечает английский язык. Модель рассчитана на универсальные текстовые запросы к целевой модели и может ускорять генерацию; для рекомендуемой конфигурации с lookahead 4 заявлена средняя длина принятой последовательности 2,62 токена. Модель используют как черновую часть EAGLE3-конвейера, например в SGLang с MiniMax M2.5. Она оптимизирована именно под эту целевую модель, требует совместимого движка спекулятивного декодирования, а скорость зависит от размера пакета и конфигурации; с другими целевыми моделями производительность может отличаться. Лицензия — Apache-2.0.

OpenEarthAgent — модель MBZUAI для структурированного многошагового рассуждения о спутниковых снимках и данных ГИС. Она предназначена для задач дистанционного зондирования, где требуется сочетать анализ мультиспектральных данных, геопространственные операции и понимание естественного языка для принятия интерпретируемых решений с использованием инструментов. Модель построена на архитектуре Qwen3 с плотной причинно-языковой моделью Qwen3ForCausalLM и содержит 3,7 млрд параметров. Контекст составляет до 262 144 токенов. Метаданные указывают на поддержку английского языка, интерфейс чата и формат весов safetensors. Модель принимает текстовые запросы; заявленная работа со спутниковыми снимками и ГИС-данными сама по себе не подтверждает наличие визуального входа непосредственно в модели. Модель подходит для исследовательских и прикладных рабочих процессов дистанционного зондирования, в которых языковая модель рассуждает о геопространственных данных и управляет инструментами. В README не приведены количественные оценки качества или конкретные ограничения. Лицензия — Apache-2.0.

Protylopus — компактная языковая модель примерно на 90 млн параметров, разработанная для ускорения генерации в моделях семейства LLaMA и совместимых с токенизатором LLaMA вариантах, включая Alpaca, Vicuna и Guanaco. Она использует архитектуру GPTBigCode и обучена на 5,5 млрд токенов из датасета Falcon RefinedWeb. Модель предназначена для assisted generation: она помогает основной модели быстрее генерировать текст, а в README заявлено ускорение до трёх раз при жадном декодировании. Контекст модели составляет 1024 токена; поддерживаемый язык — английский. Репозиторий содержит веса PyTorch и распространяется по лицензии BigCode OpenRAIL-M.

Qwen3-Coder-calendar instruction-following RL — step 6 — это экспериментальный чекпойнт модели Qwen3-Coder-30B-A3B-Instruct, созданный после асинхронного обучения RLOO на данных TaskTrove v4.9 для выполнения инструкций по работе с календарём. Модель предназначена для диалоговых сценариев, связанных с календарными запросами и инструкциями. Это MoE-модель на архитектуре Qwen3, доступная в формате safetensors и рассчитанная на контекст до 262 144 токенов; в метаданных указано 2,6 млрд параметров. В README приведён результат 39 успешных прохождений из 128 на контрольной выборке, однако обнаружилось пересечение этой выборки с обучающими данными, поэтому оценка не отражает независимую обобщающую способность. Чекпойнт является ранним экспериментальным шагом обучения. Условия лицензии в предоставленных сведениях не указаны.

Это вспомогательная черновая модель EAGLE3 от Thoughtworks для ускорения генерации с целевой моделью DeepSeek-R1-Distill-Qwen-7B. Она предлагает несколько следующих токенов, которые целевая модель проверяет параллельно; по README, на типичных инструкционных запросах это может повысить пропускную способность генерации примерно в 2–3 раза без изменения итогового текста. Модель обучена методом EAGLE3 Test-Time Training на Google Cloud TPU с использованием SpecJAX и предназначена для спекулятивного декодирования через SGLang или sglang-jax. В репозитории указаны 778 млн параметров, архитектура LlamaForCausalLM с одним слоем трансформера и формат safetensors. Модель рассчитана прежде всего на англоязычные запросы; её заявленная задача — text-generation в режиме вспомогательного чернового декодирования. Лицензия — MIT. Для Qwen2-архитектуры базовой модели DeepSeek-R1-Distill-Qwen-7B требуется небольшой патч поддержки EAGLE3 в SGLang; TPU-конвейер sglang-jax пока не оптимизирован по производительности.

Это вспомогательная модель DSpark от mgoin для ускорения генерации zai-org/GLM-5.2-FP8 методом speculative decoding. Она предсказывает блоки токенов-кандидатов, которые проверяет базовая модель, чтобы уменьшить задержку вывода при сохранении генерации базовой модели. Архитектура включает пятислойную черновую сеть на основе DFlash, Markov logit-bias head для зависимостей между токенами внутри блока и head для оценки вероятности принятия токенов. Размер блока — 8 токенов, используется полный словарь из 154 880 токенов; веса сохранены в Safetensors. Модель предназначена для ускорения инференса GLM-5.2 в совместимом сценарии чата и генерации текста. Валидация после третьей эпохи показала среднюю длину принятого блока 3,967 токена и среднюю долю принятия 0,584 на отложенной выборке. Для работы требуется базовая модель zai-org/GLM-5.2-FP8 и поддержка DSpark speculative decoding в используемом движке; карточка отмечает, что поддержка в vLLM внедряется. Лицензия — MIT.

LFM2.5-VL-3B-DSpark-GGUF — это GGUF-сборка Liquid AI для llama.cpp, предназначенная для ускорения вывода модели LFM2.5-VL-3B-GGUF с помощью спекулятивного декодирования. Репозиторий содержит только черновой модуль DSpark: четыре слоя внимания, Markov head, confidence head и block size 9; эмбеддинги токенов и языковая голова берутся у целевой модели при загрузке. Для работы необходимы совместимая целевая модель и проектор зрения из LiquidAI/LFM2.5-VL-3B-GGUF. Сценарий применения — запуск мультимодальной модели с изображениями и текстом через llama.cpp при использовании DSpark как draft sidecar. Файл F16 имеет размер 567 МБ; в README показатели производительности приводятся для 16-битной обработки визуального энкодера и языковой основы. Карточка описывает эту сборку как производную от LiquidAI/LFM2.5-VL-3B-DSpark. Лицензия указана как other, поэтому конкретные условия следует сверить с карточкой и лицензией исходной модели.

MiniCPM4-8B-Eagle-FRSpec — вспомогательная модель семейства MiniCPM4, разработанная OpenBMB. Это Eagle head, обученный на MiniCPM4-8B для ускорения спекулятивной генерации с FRSpec в инференсном фреймворке cpm.cu. Карточка сообщает об ускорении генерации до 7 раз относительно Qwen3-8B на Jetson AGX Orin; результат зависит от оборудования и настроек инференса. Модель предназначена для ускорения текстовой генерации MiniCPM4-8B, в том числе при обработке длинных текстов. Метаданные указывают архитектуру MiniCPMForCausalLM, 537,8 млн параметров и контекст до 32 768 токенов. Языковые теги карточки — китайский и английский; формат весов — safetensors. Это специализированная вспомогательная модель, которой для работы требуется совместимая базовая модель MiniCPM4-8B и поддержка FRSpec в cpm.cu. Лицензия — Apache-2.0. Сгенерированный базовой моделью текст необходимо проверять; заявленные показатели скорости относятся к описанным в карточке условиям испытаний.

SeanWang0027 опубликовал контрольную точку Qwen3-1.7B, дообученную методом FutureBridge-OPD на задаче SearchQA с учителем Qwen3-32B. Это плотная авторегрессионная модель семейства Qwen3 с 1,7 млрд параметров, экспортированная после 200 шагов обучения; в эксперименте использовались диалоговый формат ReAct, отключённый режим рассуждений и до 16 раундов взаимодействия. Карточка указывает контекстное окно 40 960 токенов и библиотеку Transformers. Модель предназначена для генерации текста в сценариях поиска ответов на вопросы и диалогового взаимодействия. Она обучалась на 6000 вопросах из обучающего раздела SearchQA, но опубликованный чекпойнт не оценивался, поэтому его качество и пригодность для практического применения не подтверждены. Базовая модель — Qwen/Qwen3-1.7B; файлы опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

Это конвертированная в формат MLX вспомогательная модель-драфтер Gemma 4 E4B от Google, подготовленная сообществом mlx-community. Она предназначена для ускорения генерации текста методом speculative decoding: компактный четырёхслойный помощник предлагает несколько следующих токенов, а целевая модель Gemma 4 проверяет их за один проход. Модель используется в паре с целевой Gemma 4 через библиотеку MLX и поддерживает пакетную и одиночную генерацию. При температуре 0 результат побайтно совпадает с генерацией без драфтера. Для одиночных запросов рекомендуется размер блока черновых токенов 6, для пакетной генерации — 3. Модель не предназначена для самостоятельной генерации без целевой модели; производительность зависит от совместимой целевой модели и настроек. Лицензия — Gemma.

google/gemma-4-E4B-it-qat-q4_0-unquantized-assistant — вспомогательная модель-драфтер Gemma 4 E4B, разработанная Google DeepMind. Она предназначена для ускорения генерации текста методом speculative decoding в связке с целевой моделью Gemma 4. Это instruction-tuned вариант семейства Gemma 4 с плотной архитектурой Gemma4AssistantForCausalLM; веса представлены в safetensors и извлечены из конвейера quantization-aware training (QAT) в половинной точности, а не сохранены как готовая квантизованная копия. Семейство Gemma 4 поддерживает текстовые и графические входы, а E4B также поддерживает аудио; семейство генерирует текст и рассчитано на многоязычное применение. Однако эта карточка относится к drafter-модели, поэтому её основное назначение — предложить черновые токены целевой модели при ускоренной генерации, а не выступать самостоятельной универсальной мультимодальной моделью. Для совместной работы с QAT-целевой моделью требуется assistant-модель с той же точностью. Лицензия — Apache 2.0.

InterpGPT Standard 23M — плотная авторегрессионная трансформерная модель, выпущенная connaaa как часть парного набора InterpGPT для исследования механистической интерпретируемости. В модели 23 471 104 параметра, 6 слоёв и 8 голов внимания; она распространяется в формате Safetensors и использует библиотеку Transformers. Лицензия — MIT. Модель принимает текстовый запрос с задачей и генерирует её пошаговую декомпозицию на подзадачи в обычном последовательном порядке. Она обучена на специально подготовленном корпусе декомпозиций задач; парная версия ADHD использует другое распределение данных, но данная модель не предназначена для такого варианта разбиения. Карточка описывает модель как исследовательский инструмент для анализа внутренних механизмов языковых моделей и приводит результаты исследования расположения голов внимания и цепей обработки. Модель намеренно мала и узкоспециализирована, поэтому не предназначена для роли универсального чат-бота; результаты и пригодность для других задач не заявлены.

mlx-community/Qwen3.5-9B-MTP-bf16 — веса черновой модели Multi-Token Prediction, выделенные из Qwen/Qwen3.5-9B для ускорения генерации методом speculative decoding. Репозиторий подготовлен для MLX и mlx-vlm; архитектура — плотная qwen3_5_mtp, размер блока MTP — 2, точность — bf16, формат — Safetensors. Модель предназначена для совместной работы с целевым чекпойнтом Qwen3.5 9B: она предлагает кандидаты токенов, которые затем проверяет целевая модель. Это вспомогательная модель для ускорения диалога и генерации текста, а не самостоятельная чат-модель. Поддержка MTP в среде mlx-vlm обязательна. В метаданных указаны возможности диалога и интерфейс вызова инструментов, а также английский язык. Лицензия — Apache-2.0; для условий использования README отсылает к лицензии базовой модели Qwen/Qwen3.5-9B.

ToPo-ToPo подготовил bf16-чекпойнт MTP-драфтера, выделенный из официальной модели Qwen/Qwen3.8-Flash-Next. Это вспомогательная часть для спекулятивного декодирования: сама по себе она не используется, а работает вместе с основной моделью. В репозитории указаны архитектура qwen4_exp_mtp, формат safetensors и размер около 4,9 ГиБ; метаданные также отмечают диалоговый режим и интерфейс вызова инструментов. Для извлечения и запуска требуется mlx-vlm версии 0.7.0 или новее; в версии 0.6.17 нужной поддержки нет. Модель предназначена для ускорения генерации текста в связке с базовым чекпойнтом. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией исходной модели и репозитория.

Jianwen/Search-7B-SFT — контрольная точка для начального этапа обучения агента поиску, подготовленная методом SFT на базе Qwen2.5-7B-Instruct. Модель представляет собой плотную авторегрессионную языковую модель Qwen2 с 7,1 млрд параметров; для запуска и дообучения используется библиотека Transformers, веса опубликованы в формате Safetensors. Заявленная длина контекста — 32 768 токенов. Модель предназначена для взаимодействия с поисковой RL-средой. В README описаны дистилляция успешных траекторий в стратегические шаблоны, извлечение кратких уроков из неудачных попыток и организация навыков в общие и специфичные для задач категории. Также заявлены постепенное обновление библиотеки навыков по результатам валидации и сжатие хранения траекторий на 10–20% относительно исходных траекторий при сохранении полезности для рассуждений. Лицензия — MIT. Карточка не уточняет поисковую среду, обучающие данные, качество на независимых оценках или интерфейс выполнения реального веб-поиска. Английский указан среди языков карточки; дополнительных языковых характеристик модель не заявляет.

fxmarty/tiny-doc-qa-vision-encoder-decoder — компактная модель для ответов на вопросы по изображениям документов. Репозиторий fxmarty размечен для задачи document-question-answering и содержит архитектуру vision-encoder-decoder; карточка предлагает запуск через соответствующий pipeline Transformers. Модель принимает изображение документа и вопрос в текстовой форме, а выдаёт текстовый ответ. Карточка указывает, что модель предназначена только для тестирования, поэтому её возможности и качество не следует считать подтверждёнными для производственного применения. Лицензия — MIT.

davemaxuellkr/260814-writer-model — корейская модель для генерации обоснований при оценке аргументативных эссе, дообученная на Qwen/Qwen3.5-9B. Она принимает исходный текст эссе и заранее рассчитанные оценки по содержанию, структуре и выражению, после чего составляет соответствующие этим оценкам обоснования на корейском языке в формате JSON. Модель предназначена для использования в составе конвейера оценки: оценки должен предоставить внешний scorer, веса которого в репозитории отсутствуют. В README описана последовательность дообучения SFT, DPO и GRPO; оценка качества обоснований на проектном наборе из 400 эссе составила 4,3926 по локальной прокси-метрике. Это не официальный результат соревнования и не оценка точности предсказания баллов. Для прежнего этапа обучения GRPO отмечено ограничение: score-conditioning не был полностью изолирован по фолдам. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Eagle3-Qwen3-32B-zh — черновая модель для алгоритма спекулятивного декодирования Eagle-3, разработанная на основе Qwen3-32B. Она предназначена для ускорения инференса большой языковой модели Qwen3-32B: черновая модель предлагает токены, которые основная модель параллельно проверяет. Обучение проводилось на смешанном китайско-английском наборе данных; авторы сообщают об улучшении принятия токенов для китайского текста и сохранении преимуществ на английском. В README указано, что модель обучена примерно на 100 тысячах примеров и рассчитана на работу с основными весами Qwen/Qwen3-32B через Eagle-3. Авторы сообщают об ускорении до почти 2 раз на GSM8K в тестах на четырёх NVIDIA RTX 4090 при параллелизме 4, а также примерно в 1,5 раза в китайских и английских сценариях. Конфигурация репозитория ориентирована на SGLang; для vLLM и других сред её может потребоваться адаптировать. Модель не предназначена для самостоятельного использования как обычный чат-ассистент: для спекулятивного декодирования нужны основная модель Qwen3-32B, поддерживающий Eagle-3 фреймворк и совместимая конфигурация. В метаданных указаны архитектура LlamaForCausalLMEagle3, формат PyTorch, контекст 40 960 токенов и размер 1,2 млрд параметров. Лицензия — Apache-2.0.

Это конвертированная в формат MLX модель семейства Gemma 4 от mlx-community, созданная на основе google/gemma-4-31B-it-assistant. Она служит компактной моделью-помощником MTP для спекулятивного декодирования: четырёхслойный drafter предлагает несколько следующих токенов, а целевая модель Gemma 4 проверяет их одним проходом, ускоряя генерацию текста в совместимой связке. При температуре 0 результат побайтно совпадает с генерацией без drafter. Для одиночных запросов рекомендован размер блока 6, для пакетной генерации — 3. Модель предназначена для запуска через MLX и mlx-vlm; совместимость зависит от целевой модели и конвейера спекулятивного декодирования. Лицензия — Gemma.

ISOM-R1-Edge-130M-MoE — компактная авторегрессионная модель генерации текста, разработанная Prannessh K.V.A. Это самостоятельная архитектура на основе непрерывного изометрического пространства состояний (SSM) и смеси экспертов (MoE): 134,89 млн параметров всего, из них 58,27 млн активируются на токен; заявлены 24 рекуррентных слоя ISOM и 8 слоёв SwiGLU MoE. Модель предназначена прежде всего для ускорения спекулятивного декодирования в роли чернового генератора, а также для рассуждений на периферийных устройствах. Рекуррентная обработка позволяет работать с длинными потоками токенов без построения квадратичных матриц внимания; автор заявляет постоянный объём состояния и высокую пропускную способность. В README приведены результаты измерений на NVIDIA Tesla T4, включая обработку потоков до 100 000 токенов, но эти показатели являются заявлениями автора и не гарантируют аналогичную производительность в других условиях. Карточка указывает английский язык. Модель распространяется по лицензии CC BY-NC-ND 4.0; README также ссылается на отдельные коммерческие условия, поэтому перед применением следует проверить LICENSE и применимые права использования.