II.7DevOps, облако и эксплуатация IT-систем

GigaChat 3.5 Ultra Base — базовая языковая модель семейства GigaChat, опубликованная ai-sage. Это предварительно обученный чекпойнт для продолжения обучения и генерации текста; для диалогового использования с выполнением инструкций в README рекомендуется отдельная instruct-версия. Модель предназначена для многоязычных сценариев, рассуждений, программирования и агентных систем с использованием инструментов. По README, архитектура — MoE с 432 млрд параметров всего и 28 млрд активных параметров, гибридным вниманием MLA и GatedDeltaNet и двумя головами Multi-Token Prediction. Указаны поддержка контекста до 131 072 токенов и языки русский и английский. Метаданные указывают 25 млрд параметров, поэтому размер модели в источниках расходится. Репозиторий содержит веса Safetensors; лицензия — MIT. Большой контекст, MoE и гибридное внимание рассчитаны на эффективную генерацию при длинных запросах, а README сообщает о сильных результатах на тестах кода, математики и рассуждений. Для запуска такой крупной модели требуется кластерная инфраструктура. Это базовая, а не выровненная instruct-модель: её поведение в диалоге и следование инструкциям может быть ограничено.

Это квантованные сборки модели GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill, опубликованные пользователем noctrex в формате GGUF. Основа — дообученная для рассуждений модель GLM-4.7-Flash; каталог описывает её как ориентированную на программирование, научные вопросы и сложные задачи с длинным контекстом. Репозиторий содержит обычную MXFP4_MOE-квантизацию и экспериментальный вариант, который распределяет точность по важности тензоров: BF16 для наиболее важных, Q8_0 для умеренно важных и MXFP4 для остальных. Подбор точности основан на imatrix, созданной на данных code_tiny. Модель предназначена для генерации текста и диалогового использования, с упором на задачи программирования. Автор README сообщает, что экспериментальный вариант ещё не проверялся бенчмарками, поэтому его преимущество над основной MXFP4_MOE-сборкой не подтверждено. Лицензия в предоставленных данных не приведена.

cafepm/GLM-4.7-Flash-REAP-23B-A3B-Q3Q4-GGUF — квантованная GGUF-версия разреженной языковой модели GLM-4.7-Flash-REAP-23B-A3B, подготовленная TNT.Chat. Базовая модель с 23 млрд параметров, из которых активируются 3 млрд на токен, создана удалением 25% экспертов методом REAP из GLM-4.7-Flash; в этой версии веса распределены между точностями Q3_K и Q4_K: около 20% квантованы до 4 бит, остальные — до 3 бит. README заявляет, что такой вариант рассчитан на запуск примерно в 12 ГБ видеопамяти и контекст до 150 000 токенов; базовая карточка указывает контекст 202 752 токена. Модель предназначена для генерации текста и кода, агентного программирования, понимания репозиториев и вызова функций в локальных и ограниченных по ресурсам средах. Она использует архитектуру Sparse Mixture-of-Experts с 47 слоями, 48 экспертами и четырьмя активируемыми экспертами на токен. Указана совместимость с llama.cpp; метаданные отмечают чат-возможности. README заявляет близкое к Q4 качество при размере, близком к Q3, однако количественные результаты оценок в предоставленных данных отсутствуют. Модель распространяется по лицензии MIT.

GLM-5.2-EXL3-TR3-3.40bpw-KVarN-K4V2 — это локально ориентированный serving-чекпойнт на базе GLM-5.2 от zai-org, подготовленный jpsequeira. Модель предназначена для генерации текста, прежде всего для задач программирования, рассуждений и агентских сценариев, с акцентом на эффективное развертывание на четырёх GPU RTX PRO 6000 Blackwell по 96 ГБ. Чекпойнт рассчитан на использование с форком local-inference-lab/vllm и специализированными компонентами b12x, KVarN и sparkinfer. Модель использует архитектуру GLM-5.2 размером 756B параметров с MoE и маршрутизацией экспертов. Применена смешанная EXL3-квантизация примерно 3,40 бит на вес, а для KV-кэша используется формат KVarN K4V2 с затратами 290 байт на токен на слой. Поддерживаются sparse MLA attention, paged top-k indexer и MTP3 speculative decoding. Для данного класса оборудования подтверждён контекст до 819K токенов; модель относится к текстовым моделям, однако сведения о поддерживаемых языках в README не указаны. Сильными сторонами являются высокая экономичность KV-кэша, большой практически проверенный контекст и оптимизация под локальное инференс-развёртывание. При этом качество квантизации зависит от домена: заявленные низкие значения KLD на калибровочном наборе не обобщаются на отложенные данные, где модель уступает некоторым общественным чекпойнтам GLM-5.2. Кроме того, для работы требуются совместимые GPU, специализированный runtime и соответствующие backend-компоненты. Чекпойнт распространяется по лицензии MIT.

GLM-5.3-MLX — это MLX-сборка официальной модели GLM-5.3 от Z.AI, подготовленная OrcaRouter для Apple Silicon и MLX CUDA backend. Модель предназначена для генерации текста, программирования, задач рассуждения и длительных агентских инженерных сценариев, включая анализ кода и проверку pull request. Поддерживаются английский и китайский языки. Модель использует разреженную MoE-архитектуру glm_moe_dsa с MLA и механизмом sparse attention в стиле DeepSeek с общим индексатором. Заявленный объём составляет 753 млрд параметров, из которых около 39 млрд активны одновременно; контекстное окно — до 1 млн токенов. Модель поставляется в вариантах 2-, 3-, 4- и 6-битной квантизации OrcaSAQ, причём 4-битная версия является рекомендуемой и размещена также в корне репозитория. В методе OrcaSAQ чувствительные компоненты получают повышенную точность, attention сохраняется в 8-битном формате, а индексатор DSA — в BF16. Главное преимущество сборки — существенное снижение требований к памяти при сохранении качества по сравнению с исходной FP8-версией, а также оптимизация для экосистемы MLX. Ограничением остаются чрезвычайно высокие требования к оперативной памяти: размер файлов составляет примерно 322–671 ГБ в зависимости от варианта, поэтому даже 4-битная версия требует около 480 ГБ RAM, а 6-битная не помещается на одном современном Apple Silicon компьютере. Модель распространяется по лицензии GLM-5.3; точные условия определяются файлом лицензии по указанной ссылке.

云碩科技（xCloudinfo）制作的 gpt-oss-120b 衍生模型，基于 openai/gpt-oss-120b，并以 GGUF 格式发布。 Это MoE-модель с 117 млрд параметров, из которых активно используются 5,1 млрд; в карточке указаны 128 экспертов и формат MXFP4. Модель сохраняет формат рассуждений Harmony и рассчитана на генерацию текста в режиме диалога. Модель прошла двухэтапную донастройку: обучение на программных инструкциях с отбором решений, прошедших выполнение скрытых тестов, и дополнительное обучение для снижения отказов на разрешенные технические запросы. Разработчик ориентирует её на авторизованные исследования безопасности, red teaming, тестирование на проникновение, программирование и технические вопросы; запуск возможен через llama.cpp и другие совместимые с GGUF средства. Модель предназначена для опытного использования в контролируемых развертываниях. Снижение числа отказов не гарантирует точность или безопасность ответов; разработчик рекомендует самостоятельно проверять результаты и применять защитные меры. Для базовой модели указана лицензия Apache-2.0.

Карточка модели devix1/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Kimi-K2-Base — базовая языковая модель, разработанная Moonshot AI. Это фундаментальная версия семейства Kimi K2, предназначенная для исследователей и разработчиков, которым нужен контроль над дообучением и созданием специализированных решений. Модель ориентирована на задачи работы с текстом, рассуждения, программирования, использования инструментов и построения автономных агентных систем. Модель использует архитектуру Mixture-of-Experts (MoE) с 1 трлн общих параметров и 32 млрд активируемых параметров. Она содержит 61 слой, включая один плотный слой, 384 эксперта, из которых для каждого токена выбираются 8, один общий эксперт, 64 attention-головы, скрытую размерность внимания 7168, размерность MoE-эксперта 2048 и словарь из 160 тысяч токенов. Используются механизм внимания MLA и функция активации SwiGLU; длина контекста составляет 128K токенов. Модель предварительно обучена на 15,5 трлн токенов с использованием оптимизатора MuonClip. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую без подтверждённой мультимодальности. В отличие от готовой инструкционной версии, Base требует дополнительной настройки под конкретные сценарии и не предназначена прежде всего для непосредственного использования в чат-интерфейсе. Лицензия указана как modified MIT.

Карточка модели DeepDive404-2/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Kiwen1.2-27B — дообученная языковая модель с 27 миллиардами параметров, созданная разработчиком beyoru на основе Qwen3.8-27B. Модель обучалась на длинных рассуждениях из Kimi K3 с применением RLVR и ориентирована на улучшение качества рассуждений, следования инструкциям и надёжности выполнения задач. Модель предназначена для математических и логических задач, программирования, использования инструментов, агентских сценариев и других задач, требующих последовательного рассуждения. Она поддерживает режимы с включённым и отключённым анализом: режим рассуждений рекомендуется для сложных задач, а отключение — для извлечения данных, классификации и форматирования. В README указана возможность работы с контекстом до 262 144 токенов при использовании SGLang, однако сведения о языковом охвате и фактических мультимодальных возможностях не приведены. Заявленное преимущество модели — сочетание относительно компактного размера с акцентом на reasoning, coding, tool use и instruction following; во внутреннем тесте из 100 агентских задач она показала результат 81,2%. Эти показатели не подтверждены независимым публичным бенчмарком. Ограничением является отмеченное разработчиком снижение качества при использовании с dflash2; также в карточке нет подробных данных об архитектуре, датасетах и результатах на стандартных тестах. Модель распространяется по лицензии Apache-2.0 и основана на Qwen3.8-27B, также выпущенной под Apache-2.0.

Это квантованная версия MXFP4_MOE модели trohrbaugh/Ling-3.0-flash-heretic в формате GGUF, подготовленная для запуска через llama.cpp. Базовая модель — вариант Ling-3.0-flash с аблитерацией, предназначенный для диалоговой генерации текста, программирования и агентных задач с длинным контекстом. Модель принимает текст и генерирует текст в диалоге. В README приведено сравнение с исходной моделью: KL-дивергенция составляет 0,0526, а в тесте из 100 запросов зафиксировано 0 отказов против 87 у оригинала. Эти результаты относятся только к указанному сравнению; размер модели, поддерживаемые языки и длина контекста в доступных данных не приведены. README рекомендует использовать актуальную версию llama.cpp. Лицензия в доступных данных не указана.

Macaron-V1.1 — агентная модель MindLab Research, построенная на GLM-5.3 и дообученная для диалогов, работы с инструментами, программирования и генерации пользовательских интерфейсов. В README описана архитектура Mixture of LoRA: общая базовая модель GLM-5.3 и четыре LoRA-специалиста для чата, агентных задач, программирования и Generative UI. Метаданные указывают 30,4 млрд параметров, архитектуру семейства GLM MoE DSA, формат safetensors и контекст до 1 048 576 токенов; README отдельно называет релизный масштаб 752 млрд параметров, включая базу 744 млрд и четыре адаптера по 2 млрд, поэтому сведения о размере различаются. Модель предназначена для разговорного взаимодействия, выбора и применения инструментов в многошаговых рабочих процессах, длительных задач разработки ПО и создания интерфейсов. В карточке приведены результаты нескольких бенчмарков, но часть оценок является самоотчётной или получена по различающимся протоколам; полные сведения для воспроизведения экспериментов отсутствуют. Указанная лицензия — MIT.

MiniMax-M2.5-PRISM-LITE — разговорная модель Ex0bit на базе MiniMaxAI/MiniMax-M2.5, дообученная с помощью конвейера PRISM-LITE. Она предназначена для генерации текста в диалогах, программирования, решения сложных многошаговых задач и работы с агентными сценариями. В карточке заявлены архитектура MoE и подавление чрезмерных отказов при сохранении основных возможностей исходной модели; GGUF-файлы представлены в вариантах IQ1_M и IQ2_M. Указаны английский и китайский языки. Лицензия обозначена как other; README описывает базовую лицензию как модифицированную MIT.

Muse-Glimmer-30B-assistant — лёгкая модель-планировщик Muse Glimmer от Meta Superintelligence Lab, выпущенная в августе 2026 года. Это версия на базе DFlash для ускорения генерации: она предлагает блоки по 16 токенов за один проход, после чего основная модель проверяет их и исправляет ошибки. В README основная Muse Glimmer описана как плотный причинный трансформер с энкодером восприятия, дистиллированный из Muse Spark и рассчитанный на локальную работу; однако метаданные этого репозитория указывают 2,5 млрд параметров, поэтому размер именно загруженной модели расходится с описанием основной модели на 30 млрд параметров. Модель предназначена для мультимодального общения и агентных сценариев: интерпретации изображений, снимков экрана, диаграмм и документов, планирования последовательности действий, вызова инструментов, программирования, генерации синтетических данных и оценки ответов других моделей. Метаданные указывают задачу image-text-to-text, библиотеку Transformers, формат Safetensors и контекст 131 072 токена. README сообщает, что аудио не поддерживается; видео не является целевой модальностью и обрабатывается покадрово. Языки, на которых модель особенно хорошо работает, не перечислены. Модель может ошибаться в многошаговых рассуждениях, выдавать предвзятые или нежелательные ответы; качество на языках за пределами хорошо поддерживаемого набора может снижаться. Для агентных систем автор рекомендует собственные проверки безопасности и дополнительные ограничения, особенно перед необратимыми действиями. Лицензия — Apache 2.0.

NextCoder-7B — языковая модель для работы с программным кодом, разработанная Microsoft на основе Qwen2.5-Coder-7B-Instruct и дообученная методом SeleKT. Это причинная плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM; в метаданных указано 7,1 млрд параметров, а в README — 7,61 млрд. Контекст — до 32 768 токенов. Модель предназначена прежде всего для редактирования кода: она может предлагать правки и исправления в диалоговом режиме, сохраняя возможности генерации кода базовой модели. Подходит для интеграции в инструменты разработчика и сценарии работы с длинными фрагментами кода. Выпущена под лицензией MIT. В README отмечена уязвимость базовых моделей семейства QwenCoder к вредоносным запросам и возможность генерации потенциально опасного кода; авторы рекомендуют проверять результаты и запускать код в изолированной среде. Для загрузки требуется актуальная версия Transformers с поддержкой Qwen2.

OpenCodeReasoning-Nemotron-14B-GGUF — это набор GGUF-квантизированных версий модели OpenCodeReasoning-Nemotron-14B, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; в метаданных указаны английский язык и обучающий датасет NVIDIA OpenCodeReasoning. Модель имеет размер 14 миллиардов параметров и поставляется в форматах от BF16 до различных вариантов 8-, 6-, 5-, 4- и 3-битного квантования. Размер файлов варьируется примерно от 7,34 до 29,55 ГБ. В README не указаны точная архитектура и размер контекстного окна. Модели можно запускать через LM Studio, llama.cpp и другие совместимые проекты; для взаимодействия предусмотрен специальный chat-шаблон с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантизаций, позволяющий выбирать баланс между качеством, скоростью и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как подходящий вариант стандартного размера. Более компактные варианты экономят память, но могут заметно уступать по качеству. Условия использования определяются лицензией Apache-2.0.

OctoCoder — модель для генерации кода по инструкциям, созданная BigCode дообучением StarCoder на наборах CommitPackFT и OASST. Она содержит 15,5 млрд параметров и построена на архитектуре GPT-2 с multi-query attention и целью Fill-in-the-Middle; для запуска доступны веса PyTorch и safetensors, а основная библиотека — Transformers. Модель предназначена для выполнения запросов на естественном языке: например, для написания функций и помощи в программировании. В карточке указана поддержка более 80 языков программирования; контекст составляет 8192 токена. Для работы с моделью авторы рекомендуют начинать запрос с «Question: » и завершать его «Answer:». Лицензия — BigCode OpenRAIL-M.

OpenThinkerAgent-32B-SFT-10K — языковая модель семейства Qwen3, разработанная в рамках проекта OpenThoughts-Agent. Это плотная модель с 29,7 млрд параметров, дообученная полным fine-tuning от Qwen/Qwen3-32B на 10 тысячах примеров с траекториями работы агента. Модель предназначена для диалога и генерации кода, а также для выполнения многошаговых задач в агентной среде, включая работу с терминалом и программную инженерию. В карточке приведены результаты оценки в harness terminus-2 на SWE-Bench-Verified-100, OpenThoughts-TBLite и Terminal-Bench 2.0; в этих проверках модель превзошла исходную Qwen3-32B. В метаданных указан контекст 40 960 токенов и формат весов safetensors. Модель принимает и генерирует текст; поддерживаемые языки, кроме кода, отдельно не обозначены. Лицензия — Apache-2.0.

Ornith-1.5-35B-A3B-REAP50-GGUF — квантизированная GGUF-версия модели Ornith-1.5-35B-A3B, разработанной ornith-ai и подготовленной Ttimms. Модель предназначена для генерации текста, включая программирование и работу в локальных средах через llama.cpp и совместимые приложения. Она создана методом REAP с 50%-ным сокращением экспертных блоков: число экспертов в гибридной архитектуре Gated-DeltaNet и Mixture-of-Experts уменьшено с 256 до 128, удалена MTP-голова, а также визуальная башня; заявленный объём составляет около 19 млрд параметров, из которых примерно 3 млрд активны при обработке токена. Указан английский язык и текстовая модальность. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером от 11,4 до 19,7 ГБ. Рекомендуемый Q4_K_M рассчитан на видеопамять 16 ГБ с запасом под контекст; Q8_0 требует более 16 ГБ или выгрузки части вычислений на CPU. MoE-архитектура обеспечивает относительно быструю работу на CPU и Apple Silicon для модели такого размера. Для запуска требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama на момент публикации ожидала обновления встроенной llama.cpp. Контекст модели в README не указан. До квантизации заявлены результаты HumanEval+ 84,2%, MBPP+ 89,2% и SWE-bench Verified 44,0%, однако эти показатели относятся к варианту NVFP4A16 и могут не отражать качество GGUF-версий. Ограничениями являются потеря части экспертов и удаление MTP- и визуальной компонентов, а также необходимость достаточно нового программного окружения. Модель распространяется по лицензии MIT, унаследованной от базовой модели; pruning выполнен методом REAP с исправлением перенормировки маршрутизатора.

Ornith-1.5-9B-ASHQ1-Remix-GGUF — GGUF-квантованная версия модели Ornith-1.5-9B, опубликованная Soulfate24. Она предназначена для генерации текста и диалогового общения. Модель основана на Ornith AI Ornith-1.5-9B — плотной языковой модели на 9 млрд параметров для программирования, агентных задач, работы с инструментами и длинным контекстом. Вариант ASHQ1-Remix использует активационно-ориентированную квантализацию GGUF; README сообщает о проверке семи уровней квантализации на шести семействах моделей. Лицензия — MIT. Сведения о поддерживаемых языках этой версии не приведены.

richardyoung/Qwen2.5-Coder-14B-Instruct-heretic — модифицированная версия Qwen/Qwen2.5-Coder-14B-Instruct, созданная с помощью Heretic v1.4.0. Это причинная языковая модель семейства Qwen2 для генерации кода и диалогового взаимодействия; размер по метаданным — 14 млрд параметров, веса сохранены в safetensors. Карточка указывает на изменение поведения отказов: в приведённой оценке модель отказала в 3 из 100 случаев против 100 из 100 у исходной модели. Модель подходит для генерации, анализа и исправления кода, а также для диалоговых сценариев разработки. Метаданные указывают контекст до 32 768 токенов; README базовой модели описывает возможность расширения до 131 072 токенов с YaRN, но это требует настройки и может ухудшить работу на коротких запросах. Карточка модели не приводит отдельной оценки качества именно этой версии. Модель основана на Qwen/Qwen2.5-Coder-14B-Instruct и распространяется по лицензии Apache-2.0. В README разработчиком модификации указан владелец репозитория richardyoung; модель снижает частоту отказов, поэтому её ответы требуют соответствующей проверки при использовании.

unsloth/Qwen2.5-Coder-3B — дообученная Unsloth версия базовой модели Qwen/Qwen2.5-Coder-3B, предназначенная для генерации кода и работы с ним. Это плотная причинно-языковая модель семейства Qwen2 с 3,1 млрд параметров; она использует библиотеку Transformers и распространяется в формате Safetensors. Контекст составляет до 32 768 токенов. Модель подходит для генерации кода по текстовому запросу, анализа и исправления кода, а также для задач заполнения фрагментов кода. Семейство Qwen2.5-Coder обучалось на коде и тексто-кодовых данных и сохраняет общие способности Qwen2.5, включая математику. Карточка репозитория содержит противоречивые сведения о размере и варианте: описание модели относится к 3B, а README также содержит общий текст и характеристики версии 0.5B; поэтому характеристики конкретно этой версии опираются на метаданные. Поддерживаемый язык в метаданных карточки — английский. Лицензия Apache-2.0 разрешает использование на её условиях. Базовые языковые модели не предназначены для диалогового применения без дополнительного постобучения; качество конкретной версии зависит от задачи и не гарантируется приведёнными в README общими заявлениями семейства.

Карточка модели Tooony133/Qwen-3.6-27B-BiggerFish на Hugging Face совпадает с карточкой Tooony133/Qwen-3.6-27B-ChonkyCat, поэтому описание составлено по ней. Tooony133/Qwen-3.6-27B-ChonkyCat — это объединённая с базовыми весами LoRA-адаптера версия мультимодальной модели Qwen3.6-27B. В README она описана как причинная языковая модель с визуальным энкодером, предназначенная в том числе для агентного программирования, работы с репозиториями и вызова инструментов. Модель содержит 27 млрд параметров и поддерживает контекст до 262 144 токенов, расширяемый до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. README отмечает улучшения в сценариях разработки интерфейсов и рассуждения над кодовыми базами; метаданные также указывают поддержку диалогового режима и изображений. Для запуска указана совместимость с Transformers и движками vLLM, SGLang и KTransformers. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Tooony133/Qwen-3.6-27B-ChonkyCat — это объединённая с базовыми весами LoRA-адаптера версия мультимодальной модели Qwen3.6-27B. В README она описана как причинная языковая модель с визуальным энкодером, предназначенная в том числе для агентного программирования, работы с репозиториями и вызова инструментов. Модель содержит 27 млрд параметров и поддерживает контекст до 262 144 токенов, расширяемый до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. README отмечает улучшения в сценариях разработки интерфейсов и рассуждения над кодовыми базами; метаданные также указывают поддержку диалогового режима и изображений. Для запуска указана совместимость с Transformers и движками vLLM, SGLang и KTransformers. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-VL-REAP-26B-A3B — мультимодальная модель семейства Qwen от atbender, полученная структурной обрезкой Qwen/Qwen3.6-35B-A3B методом REAP. Из каждого слоя удалено 25% маршрутизируемых экспертов: осталось 192 вместо 256, при этом сохранены все 40 MoE-слоёв, общий эксперт и энкодер изображений. Карточка указывает около 27 млрд параметров, примерно 3 млрд активных на токен; в метаданных каталога указано 2,9 млрд параметров. Модель распространяется в BF16 без квантизации, лицензия Apache-2.0. Модель предназначена для диалогов, агентного программирования и вызова инструментов, а сохранённый vision-language энкодер позволяет работать с изображениями. Это промежуточный чекпойнт для развёртывания с последующей квантизацией, дообучения или оценки влияния обрезки; README также описывает запуск в Transformers и vLLM. Контекстное окно по метаданным — 262 144 токена. Обрезка выполнена без последующего дообучения, поэтому возможная потеря качества не была компенсирована. Калибровочные данные преимущественно англоязычные и ориентированы на код и инструменты, что может ухудшить качество на малоресурсных языках; сохранённый энкодер изображений не проверялся на VL-бенчмарках. Для BF16-весов требуется около 50 ГБ памяти, а для работы с длинным контекстом — ещё больше.

hellohazime/Qwen3.8-2.4T-A95B-REAP-512GB-GGUF — GGUF-сборка модели Qwen3.8-2.4T-A95B, основанная на unsloth/Qwen3.8-2.4T-A95B-GGUF и подготовленная автором hellohazime. Это MoE-модель с 512 экспертами в каждом слое, из которых сохранены 304, выбранные по частоте маршрутизации на англоязычном веб-корпусе и коде. Ширина модели не изменялась, а исходная квантизация UD-IQ2_XXS сохранена без повторной квантизации. Размер файла составляет около 404 ГБ (376 GiB), что позволяет полностью разместить модель в памяти Mac с 512 ГБ и использовать её через стандартный llama.cpp. Модель предназначена прежде всего для генерации текста, работы с английским языком и программным кодом, включая агентские сценарии с использованием инструментов и длительные задачи разработки. Заявлено окно контекста 262 144 токена; в проверках использовался контекст до 131 072 токенов. По сравнению с исходной некроппированной квантизированной моделью сборка сохранила 89,7% маршрутизаций экспертов, показала совпадение наиболее вероятного токена 87,6% на английском тексте и 90,0% на коде, а также продемонстрировала загрузку и генерацию в stock llama.cpp. Сильными сторонами являются высокая точность относительно исходной Q2-квантизации, отсутствие необходимости в специальном runtime и пригодность для локального запуска на системе с 512 ГБ памяти. Ограничения связаны с экспертным pruning: отбор калибровался на английском веб-контенте и коде, поэтому неанглоязычные языки и задачи за пределами этих доменов могут пострадать. Производительность и качество за пределами проверенных режимов, включая более длинные контексты и иные распределения данных, не подтверждены. Лицензия указана как other, license_name — qwen3.8-max; ссылка ведёт на лицензию Qwen3.8-2.4T-A95B.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-NVFP4 — языковая модель на базе Qwen3.8-27B, созданная DavidAU и подготовленная, квантизированная и упакованная командой Solstice-AI. Модель предназначена для программирования, агентной разработки ПО, отладки репозиториев, решения задач с длинным контекстом и автоматизации действий в настольных и мобильных средах. Заявлена поддержка английского и китайского языков. Модель использует формат NVIDIA NVFP4 и рассчитана прежде всего на ускоренное выполнение на оборудовании NVIDIA Blackwell, включая B200, GB200 и RTX 5090; также заявлена совместимость с RTX 4090. Архитектура описана как гибридная: около 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а около 25% — глобальное Grouped-Query Attention. Заявлены нативный контекст до 262 144 токенов, Multi-Token Prediction с генерацией двух токенов за проход и дополнительная мультимодальность для обработки изображений и видеокадров через компонент mmproj-BF16.gguf. Сильными сторонами по данным README считаются задачи программной инженерии, рассуждения, следование сложным ограничениям и длительные многофайловые сценарии; приведены высокие результаты на SWE-bench Pro, LiveCodeBench v6, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и ARC. Эти результаты заявлены авторами модели и не являются независимой гарантией качества. Ограничения включают зависимость от поддерживаемого NVFP4-стека и специализированного оборудования, а также потенциальные риски, связанные с заявленным удалением ограничивающих отказов в рамках Project Heretic. Лицензия указана как Apache-2.0.

unsloth/Qwen3-8B-Base-unsloth-bnb-4bit — это 4-битная квантованная версия базовой причинной языковой модели Qwen3-8B-Base, подготовленная Unsloth на основе модели Qwen от команды Qwen. Модель предназначена для генерации и продолжения текста, языкового моделирования, программирования, STEM-задач, рассуждений и других сценариев, где требуется компактная локальная LLM. Поскольку это базовая предобученная модель, она не ориентирована специально на выполнение пользовательских инструкций или ведение диалога без дополнительной настройки. Модель содержит около 8,2 млрд параметров, из которых 6,95 млрд не относятся к embedding-слою, включает 36 слоёв и использует Grouped Query Attention с 32 головами запросов и 8 головами ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Qwen3 обучалась на корпусе объёмом 36 трлн токенов, охватывающем 119 языков, с данными по программированию, STEM, рассуждениям, книгам, многоязычным и синтетическим материалам. Квантование уменьшает требования к памяти и упрощает локальный запуск, однако может сопровождаться потерей точности по сравнению с исходной полноразмерной версией. Для работы рекомендуется актуальная версия библиотеки transformers; версия ниже 4.51.0 не поддерживает архитектуру Qwen3. Модель распространяется по лицензии Apache-2.0.

YTan2000 выпустил GGUF-сборку Qwen3.8 Flash Next с квантизацией TurboQuant TQ3_4S примерно до 4 бит на вес. В основе — MoE-модель с общим набором экспертов, 48 слоями и 176,9 млрд параметров; заявленный исходный контекст составляет 262 144 токена. Эта сборка предназначена для текстового диалога и генерации, включая задачи программирования. В отличие от исходной модели, в ней нет компонентов для обработки изображений и черновых слоёв MTP. Пять файловых частей занимают около 110 GiB. В README приведена проверенная конфигурация запуска на машине с NVIDIA GB10 и 128 ГБ объединённой памяти; для работы требуется специальная версия TurboQuant runtime. Указанные результаты бенчмарков относятся к этой сборке при контексте 32K и заданных настройках рассуждения. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией исходной модели.