II.7DevOps, облако и эксплуатация IT-систем

Dagger-Qwen3.6-27B-MLX-MTP-BF16 — вариант модели bottlecapai/ThinkingCap-Qwen3.6-27B, подготовленный peculiar-ragdoll для MLX. Это плотная модель семейства Qwen3.5 с 27 млрд параметров, точностью BF16 и сохранённой MTP draft-головой nextn для спекулятивного декодирования в поддерживающем его runtime. Шаблон чата включает инструкции для кратких ответов и рассуждений, а также поддержку работы с инструментами; эта настройка применяется при каждом вызове. Модель предназначена для диалогов, многошагового агентного решения задач и программирования, в том числе работы с крупными репозиториями и длинными цепочками вопросов в одном контексте. Заявленное окно контекста составляет 262 144 токена. Карточка приводит результаты тестов на другой сборке — 6-битной MLX без MTP, поэтому их нельзя считать замерами именно этих файлов. Вариант сохраняет компонент зрения, но визуальные возможности не тестировались. Веса занимают около 52 ГБ, а длинный контекст требует значительной дополнительной памяти; для полного контекста автор рекомендует Mac с большим объёмом RAM. MTP ускорение требует совместимого runtime. Встроенную инструкцию краткости нельзя отключить через API, качество на задачах реального кода может требовать регрессионных тестов, а поведение отказов и безопасности повторно не оценивалось. Лицензия — Apache-2.0.

Damysus-Coder-v0.1 — языковая модель для генерации текста, разработанная prince-canuma на основе Mistral 7B Instruct v0.2. Она дообучена с использованием Unsloth и библиотеки TRL и предназначена для диалогового взаимодействия и генерации кода. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В метаданных указан английский язык. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0.

DeepSeek-Coder-V2-Lite-Instruct-8bit — языковая модель для работы с программным кодом, подготовленная сообществом mlx-community. Модель была конвертирована из DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek AI, в формат MLX с использованием mlx-lm 0.18.1 и представлена в 8-битном варианте; размер модели составляет 2,5 млрд параметров. Модель предназначена для генерации и дополнения кода, объяснения программных фрагментов и помощи в задачах разработки в диалоговом формате. Она относится к семейству DeepSeek V2 и поддерживает контекст длиной до 163 840 токенов, что позволяет работать с крупными файлами и связанными фрагментами кода. Для запуска используется библиотека mlx-lm. Модель оптимизирована для локального запуска в экосистеме MLX, а 8-битное представление снижает требования к памяти по сравнению с полноразмерными вариантами. Языки программирования и точный перечень поддерживаемых естественных языков в предоставленных данных не указаны. Условия использования определяются лицензией DeepSeek License, обозначенной в карточке как other.

Deepseek-Wizard-33B-slerp — объединённая языковая модель, созданная с помощью LazyMergekit из DeepSeek Coder 33B Instruct и WizardCoder-33B-V1.1. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM; в метаданных указан размер 17,2 млрд параметров и контекст до 16 384 токенов. Модель предназначена для диалоговой генерации текста с акцентом на программирование: она может помогать писать и дополнять код, объяснять его и отвечать на вопросы в чате. Слияние выполнено методом SLERP; репозиторий содержит веса в формате Safetensors. Метаданные указывают лицензию Apache-2.0.

Deepthink-Reasoning-7B-GGUF — это набор GGUF-квантизаций 7-миллиардной текстовой генеративной модели Deepthink-Reasoning-7B, разработанной prithivMLmods и квантизированной bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи рассуждений, решения алгоритмических задач и генерации кода, включая Python. Заявлен английский язык; поддерживается только текстовый ввод и вывод. Формат prompt использует шаблон ChatML с ролями system, user и assistant. Доступны варианты от F16 до низкобитных Q2 и IQ3, размером примерно от 3,35 до 15,24 ГБ. Более высокие уровни квантования сохраняют качество, но требуют больше памяти; Q6_K_L, Q6_K, Q5 и Q4_K_M указаны как рекомендуемые варианты для разных компромиссов между качеством и размером. Низкобитные варианты экономичнее по памяти, но могут заметно уступать в качестве. Контекстное окно и точные архитектурные характеристики в README не указаны. Модель предназначена для локального запуска через llama.cpp и LM Studio. Лицензия — CreativeML OpenRAIL-M.

Dolphin 3.0 Llama 3.2 1B — модель для диалогов и выполнения инструкций, подготовленная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 1B. Это плотная авторегрессионная языковая модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; используется формат ChatML. Модель предназначена для локального применения в качестве универсального помощника: она подходит для генерации кода, решения математических задач, вызова функций и общения на общие темы. Её можно настраивать системным промптом; обучающие данные включают наборы для кода, математики, агентных инструкций и диалогов. Карточка перечисляет английский язык. Доступны веса в формате safetensors. Модель лицензирована по условиям llama3.2. Это компактная модель с существенно меньшим числом параметров, чем крупные универсальные ассистенты; карточка не содержит результатов оценивания, поэтому качество для конкретных задач не подтверждено приведёнными тестами.

Это квантизированная NVFP4-версия Gemma 4 12B, дообученной для агентных сценариев и использования инструментов. Исходный fine-tune разработан yuxinlu1, а данная сборка переупакована и квантизирована Sourav Singh для локального запуска в Krill — движке инференса на Swift и MLX для Apple Silicon. Модель предназначена для генерации текста и кода, программирования, агентных задач и tool-use, включая сценарии, ориентированные на τ²-bench. Архитектура gemma4_unified объединяет текстовые, визуальные и аудиокомпоненты, однако конкретные поддерживаемые пользовательские режимы в этой сборке README подробно не описывает. Контекст модели также не указан. Основные веса представлены в NVFP4 с группировкой 16, а чувствительные модули используют 8-битное affine-представление с группировкой 64. Заявлены загрузка примерно за 1,7 секунды и скорость декодирования около 28 токенов в секунду на Apple Silicon. Сильная сторона модели — результаты в генерации кода: в приведённых тестах она показывает 83,5% на HumanEval и 84,1% на MBPP без reasoning и 86,0% и 83,6% соответственно с reasoning. Ограничения связаны с совместимостью: это MLX-чекпойнт, рассчитанный прежде всего на Krill, и он не предназначен для vanilla mlx-lm, mlx-vlm, llama.cpp, Ollama, transformers или vLLM. Лицензия — Gemma license; условия распространяются на базовую модель Google Gemma 4 и производный fine-tune.

Granite-20B-Code-Instruct-r1.1 — языковая модель IBM Research с 20 млрд параметров на архитектуре GPTBigCode, дообученная для следования инструкциям по программированию. Она предназначена для создания кодовых ассистентов и ответов на запросы о коде; также обучалась на данных по математике, решению задач, SQL и вызову функций. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В репозитории веса представлены в формате Safetensors. Модель обучалась на наборах данных с кодом, инструкциями, математикой и оценками качества ответов. Она может помогать писать и объяснять код, решать математические задачи, создавать SQL-запросы и формировать вызовы API. Её результаты могут быть слабее для языков программирования, не охваченных обучающими данными; перед применением в критичных сценариях IBM рекомендует проводить проверки безопасности и настройку под конкретную задачу. Лицензия — Apache 2.0.

GRM-3.2-Sky — модель OrionLLM для длительных агентных задач и сложных рассуждений. Она предназначена для многошагового планирования, сложного программирования, математики и логических задач, включая продолжительные сессии работы с кодом и инструментами. Модель основана на дообученной Ornith-1.0-35B: это MoE-архитектура на 35 млрд параметров с примерно 3 млрд активных параметров. Метаданные указывают поддержку чата и изображений; задача модели в каталоге — image-text-to-text. Модель распространяется в формате safetensors по лицензии Apache 2.0. В README заявлены устойчивое следование цели в длинных рабочих процессах, планирование и решение сложных задач с кодом, математикой и логикой. Эти характеристики приведены разработчиком; в доступной карточке сравнительная таблица бенчмарков опущена. Длина контекста и поддерживаемые естественные языки не указаны в предоставленных данных.

InverseCoder-CL-13B — модель для генерации кода по инструкциям, созданная авторами проекта InverseCoder с помощью дообучения CodeLlama-13b-Python-hf на данных, сформированных методом Inverse-Instruct. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 16 384 токенов; она предназначена для запросов на естественном языке и генерации ответов и кода в формате text-generation. Модель подходит для написания и дополнения кода, выполнения инструкций по программированию и диалоговой помощи разработчику. В карточке указаны датасеты InverseCoder-CL-13B-Evol-Instruct-90K и Magicoder-Evol-Instruct-110K. README не приводит отдельные результаты бенчмарков или перечень поддерживаемых естественных языков. Репозиторий содержит веса Safetensors и использует лицензию llama2; условия применения следует сверять с лицензией и ограничениями исходной модели CodeLlama.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw — это чувствительность-ориентированная 3,6-битная MLX-квантизация модели moonshotai/Kimi-K2.7-Code, созданная avlp12 для запуска на компьютерах Apple Silicon, прежде всего на M3 Ultra. Базовая модель представляет собой примерно триллионопараметрическую MoE-архитектуру в стиле DeepSeek-V3 с 32 млрд активных параметров и предназначена главным образом для генерации кода и решения задач программирования. Репозиторий содержит текстовую/code-версию рецепта, однако исходные веса были удалены как дубликат и перенесены в связанный VLM-репозиторий; языковая часть там побитово идентична этой сборке, а VLM дополнительно включает MoonViT и projector. Модель использует Multi-head Latent Attention (MLA), благодаря чему KV-кэш занимает относительно мало памяти: около 68,6 КБ на токен по всем 61 слоям. Нативное контекстное окно составляет 256K токенов, с YaRN-расширением и rope_theta 50000. Размер весов — около 465 ГБ (433 GiB), поэтому модель рассчитана на один компьютер с 512 ГБ памяти или на распределённый запуск на двух M3 Ultra по Thunderbolt через pipeline parallelism. Квантизация применяет 3 бита к большинству routed experts, 4 бита к down_proj в 16 из 60 слоёв, 6 бит к attention, shared experts, dense-слою, embedding и LM head, а маршрутизатор сохраняется в bf16; эффективная разрядность составляет 3,62 бита на вес. Сильными сторонами являются существенное снижение требований к памяти по сравнению с полноразмерными и 4-битными сборками, сохранение качества за счёт чувствительность-ориентированного распределения битов и возможность работы с очень длинным контекстом. Ограничения включают экстремально большой размер, необходимость мощного Apple Silicon-оборудования и отсутствие заявленной универсальной оценки качества помимо приведённых метрик perplexity и KL-дивергенции. Лицензия указана как modified-MIT; ссылка ведёт на лицензию базовой модели Kimi-K2.7-Code.

Laguna-S-2.1-JANG_6M-CRACK — текстовая MoE-модель на базе poolside/Laguna-S-2.1, подготовленная dealignai для запуска на Apple Silicon через MLX и vMLX. По README, исходная Laguna-S-2.1 имеет 118 млрд параметров, 48 слоёв, 256 маршрутизируемых экспертов с top-10 и общий эксперт; метаданные репозитория указывают 6,8 млрд параметров. Модель представлена в смешанной квантизации JANG_6M в формате MLX affine и предназначена для агентного программирования, рассуждений и вызова инструментов. README заявляет контекст 262 тыс. токенов, тогда как метаданные каталога указывают нативный контекст 1 048 576 токенов. Вариант CRACK прошёл абляцию отказов на уровне весов: согласно карточке, поведение отказа удалено, а результаты MMLU близки к базовой модели. Для запуска рекомендованы vMLX или совместимая среда MLX с поддержкой Laguna; модель принимает текст и выдаёт текст, включая вызовы инструментов. Карточка заявляет английский язык. Лицензия в метаданных обозначена как other; конкретные условия использования следует сверить с лицензией репозитория.

mrm8488/llama-2-coder-7b — языковая модель для генерации кода, созданная дообучением Llama 2 7B на 20 тысячах инструкций CodeAlpaca с помощью QLoRA и PEFT. Базовую модель разработала Meta; архитектура — плотная авторегрессионная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для ответов на инструкции, связанных с кодом: например, генерации фрагментов программ и помощи при решении задач программирования. Она принимает текстовые запросы и генерирует текст. В карточке указан датасет CodeAlpaca_20K; результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

Luck-Qwen3-4b-Code-FineTune — модель Ahmetggg на основе Qwen3-4B-Instruct-2507, дообученная методом QLoRA для агентного программирования, многошаговых рассуждений, работы с инструментами и более точной оценки границ собственных знаний. Это плотная языковая модель архитектуры Qwen3 с 3,7 млрд параметров; в репозитории представлены веса LoRA-адаптера и объединённые веса FP16. Модель принимает текстовые запросы и генерирует текст, включая код и структурированные вызовы инструментов. В метаданных заявлен контекст до 262 144 токенов. Модель предназначена для навигации по репозиториям, генерации и исправления кода, решения задач по математике и естественным наукам, а также многошагового взаимодействия с инструментами. Обучение использовало трассы агентного программирования, примеры рассуждений и траектории вызова инструментов; README отмечает улучшение форматирования, взаимодействия с инструментами и ответов «не знаю», не заявляя о повышении предельных возможностей базовой модели. Карточка указывает английский язык. Лицензия — Apache-2.0. Это недавняя QLoRA-настройка, поэтому заявленные улучшения следует оценивать на конкретных рабочих задачах; README не приводит сравнительных бенчмарков. Для использования адаптера нужна базовая модель unsloth/Qwen3-4B-Instruct-2507.

MonarchCoder-MoE-2x7B — языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), созданная автором репозитория путём объединения AlphaMonarch-7B и Tess-Coder-7B-Mistral-v1.0 с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалогах, рассуждений и программирования. README сообщает об улучшенных результатах объединённой модели на бенчмарках OpenLLM, Nous и HumanEval, но не приводит здесь подробностей оценки. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0.

SC117/Ornith-1.0-35B-Heretic-MTP-APEX-GGUF — квантизированная GGUF-версия Ornith-1.0-35B от DeepReinforce AI, созданная на базе Qwen3.5 MoE. Модель ориентирована на агентное программирование, задачи рассуждения и сценарии, где требуется работа с кодом. Это экспериментальный вариант, в котором LoRA Heretic 1.4.0 Trial 63 объединена с весами BF16; также включены совместимая MTP-голова Qwen3.5, визуальный проектор BF16 и варианты APEX со смешанной точностью. Основной заявленный язык — английский. Архитектура мультимодальная, MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов, из которых используются 8. Модель содержит 40 transformer-слоёв и один MTP-слой, поддерживает контекст до 262 144 токенов. В состав релиза входят GGUF-квантизации, предназначенные для более эффективного локального запуска, а также компоненты для обработки визуальных данных. В README не указаны конкретные результаты тестов или требования к аппаратному обеспечению. Сильными сторонами являются большое контекстное окно, MoE-архитектура с относительно небольшим числом активных параметров, поддержка мультимодальности, MTP и варианты смешанной точности. К ограничениям относятся экспериментальный характер производного релиза и возможное отличие поведения, включая отказоустойчивость и склонность к отказам, от исходной модели; перед развёртыванием требуется самостоятельная оценка. Модель распространяется по лицензии MIT.

Ornith-1.0-35B-NVFP4 — квантованная версия модели Ornith-1.0-35B, разработанной DeepReinforce. Это агентная модель для программирования с механизмом self-scaffolding, построенная на архитектуре qwen3_5_moe: MoE-модель с 35 млрд параметров и визуальной башней Qwen3-VL. Она поддерживает обработку текста и изображений и заявлена для английского, китайского, японского и французского языков. Модель использует квантование NVFP4 W4A4 с размером группы 16 и форматом compressed-tensors nvfp4-pack-quantized. Большинство линейных слоёв переведено в NVFP4, а визуальная башня, маршрутизаторы MoE и lm_head сохранены в bf16. Размер весов составляет около 21,9 ГБ вместо 70,3 ГБ в bf16, благодаря чему модель рассчитана на запуск на паре GPU по 16 ГБ через vLLM. В README приведена конфигурация обслуживания с контекстом до 8192 токенов; поддерживается переключение режима рассуждений. Сильные стороны модели — пригодность для агентного программирования, поддержка мультимодальных сценариев, существенно меньшие требования к памяти и сохранение качества после квантования. В тестах HumanEval+ и MBPP+ она показала соответственно 93,9% и 80,6% pass@1 с включённым рассуждением. Ограничения включают необходимость совместимой инфраструктуры vLLM и GPU, а также значительный расход токенов в режиме рассуждений; для оценки кода требуется выделять не менее 6500 токенов и извлекать ответ после блока </think>. Модель и квантованный производный вариант распространяются по лицензии MIT.

pico-type v02 — компактная модель-классификатор семейства PicoType, разработанная авторами проекта pico-type. Она анализирует содержимое по исходным байтам и предсказывает несколько характеристик: общий тип, модальность, подтип, язык программирования, язык текста, MIME-тип файла и риск-флаги. Модель предназначена для быстрой автоматической классификации файлов и содержимого в приложениях, включая обработку на CPU и периферийных устройствах. Архитектура — плотная byte-level модель с несколькими выходными головками и Matryoshka-вариантами разных размерностей. В репозитории представлены ONNX-модели в формате FP32; базовый вариант содержит около 1,48 млн параметров и занимает примерно 9,25 МБ. Для входа используются последовательности байтов длиной до 1024. Карточка сообщает о многоязычной поддержке, но не перечисляет конкретные естественные языки. Указаны точность 100% для двух задач и 93,8% для классификации подтипов на синтетической оценке; эти результаты не гарантируют такую же точность на реальных данных. Лицензия — Apache-2.0.

Prox 7B SFT — языковая модель OpenVoid AI, дообученная на данных о программировании, взломе и кибербезопасности. В основе лежит Mistral-7B-v0.2; модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 32 768 токенов. Модель предназначена для генерации и объяснения кода, создания документации, ответов на вопросы о методах взлома и кибербезопасности, а также помощи в программных проектах. Карточка указывает английский язык. Обучающий набор OpenVoid AI описан как собственный набор материалов по программированию и взлому. Модель распространяется по лицензии Apache-2.0. Ответы модели могут быть ошибочными и требуют проверки специалистом; авторы не рекомендуют полагаться на неё в критически важных задачах безопасности и использовать для незаконной деятельности.

Модель q25sftrphardlam1 — готовый для инференса чекпойнт дообучения Qwen2.5-3B, подготовленный проектом RL-Forgetting-Experiments-3 для генерации кода. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, основанная на Qwen/Qwen2.5-3B и обученная на данных qwen3b_code_sft_data_s300. В README указаны упорядоченная подача данных, стратегия replay hard и коэффициент replay 1,0; чекпойнт зафиксирован на шаге оптимизатора 102. Модель подходит для генерации кода и диалоговых сценариев с программированием. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 32 768 токенов. Репозиторий использует Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

mlx-community/Qwen2.5-Coder-1.5B-Instruct-4bit — конвертированная в формат MLX 4-битная версия Qwen2.5-Coder-1.5B-Instruct от mlx-community, созданная с помощью mlx-lm 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для генерации текста в формате инструкционного диалога и работы с кодом. Контекст модели составляет до 32 768 токенов; метаданные указывают английский язык и возможности чата и работы с кодом. Модель подходит для написания и объяснения кода, ответов на вопросы по программированию, а также помощи в небольших задачах разработки. 4-битное представление предназначено для запуска через MLX. Это производная от Qwen/Qwen2.5-Coder-1.5B-Instruct, преобразованная в MLX и квантизированная; лицензия — Apache-2.0.

Qwen2.5-Coder-32B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой Qwen и дообученная на основе Qwen/Qwen2.5-32B для задач программирования. Это базовая модель на стадии предварительного обучения, рассчитанная на генерацию и анализ кода, его исправление, а также применение в кодовых агентах; разработчики отдельно отмечают сохранение математических и общих языковых способностей. Веса содержат около 32 млрд параметров, архитектура использует RoPE, SwiGLU, RMSNorm и grouped-query attention. Модель принимает текст и генерирует текст. В карточке указана поддержка английского языка; обучающие данные включают исходный код и текстово-кодовые данные. Метаданные задают контекст 32 768 токенов. README описывает расширение обработки длинных последовательностей до 131 072 токенов с помощью YaRN; для этого требуется соответствующая настройка, а статическое масштабирование YaRN в vLLM может ухудшать работу на коротких текстах. Модель предназначена для разработчиков, которым нужны продолжение кода, рассуждение о коде и поиск исправлений. README не рекомендует использовать базовую версию для диалогов без последующего обучения или настройки. Лицензия — Apache-2.0.

6block/Qwen3-4B-GGUF — набор GGUF-квантизированных версий модели Qwen3-4B, разработанной Qwen и подготовленной 6block с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования от Q8_0 до Q2_K размером примерно от 4,28 до 1,67 ГБ. Квантизация выполнена с imatrix на калибровочном наборе данных, содержащем английский и китайский языки, а также большое количество программного кода, что должно помогать сохранять качество китайского языка и задач программирования в низкобитных версиях. Для большинства сценариев рекомендуются Q6_K, Q5_K_M и Q4_K_M; варианты IQ ориентированы на уменьшение размера с компромиссом по скорости или качеству. Модель подходит для локальных чат-приложений, генерации текста и программирования при ограниченных ресурсах. Основные ограничения связаны с потерями качества, зависящими от выбранного уровня квантования, а также с отсутствием в README сведений об архитектурных деталях и размере контекста. Лицензия — Apache 2.0.

Карточка модели Iambackup/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Карточка модели Idk555433/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.

Qwen3.8-27B-UD-Q3_K_XL-MTP-MLX — это MLX-квантизация базовой модели Qwen/Qwen3.8-27B, подготовленная Nathan Sutton для локального запуска на компьютерах Apple Silicon. Модель предназначена прежде всего для генерации текста, программирования и работы в локальном coding agent chad, выполненном в стиле Claude Code. Она может использоваться через chad или напрямую с библиотекой mlx-lm. Модель имеет плотную архитектуру Qwen3.5 на 27 млрд параметров: 64 слоя, включая 48 слоёв GatedDeltaNet и 16 слоёв full attention. Основная часть весов и embeddings квантизирована до 3 бит с группами по 64 значения, а lm_head — до 5 бит; итоговый объём весов составляет около 12,1 ГБ, дополнительно поставляется 4-битная MTP-head. Заявлен нативный контекст до 262 тысяч токенов, однако на устройствах Apple Silicon с 24 ГБ памяти фактическое окно обычно ограничивается десятками тысяч токенов в зависимости от доступного бюджета Metal. MTP-head поддерживает self-speculative decoding, ускоряя генерацию с сохранением точности распределения модели. Шаблон чата по умолчанию использует reasoning_effort medium вместо upstream-значения xhigh. Языки и мультимодальные возможности в README не указаны. Модель ориентирована на устройства с 24 ГБ памяти Apple Silicon, а её лицензия наследуется от базовой Qwen/Qwen3.8-27B и требует проверки перед использованием или распространением.

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 — это инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель создана на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm на совместимом оборудовании Apple MLX. Модель имеет конфигурацию 30B-A3B и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую генерацию и диалоговый режим через chat template. README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, мультимодальности, результатах тестирования или конкретных сценариях применения. Преимуществами модели являются специализация семейства Qwen3-Coder на задачах программирования, инструкционный режим и оптимизация для экосистемы MLX. Ограничения включают зависимость от совместимого окружения MLX и возможные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

Это пакет слоёв GGUF для модели Qwen3-Coder-480B-A35B-Instruct, подготовленный Mesh LLM для распределённого инференса на локальном кластере из нескольких машин. Пакет основан на unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF и сохраняет исходные веса в варианте UD-Q4_K_XL, разделёнными на артефакты по слоям. Для запуска используется библиотека mesh-llm; модель поддерживает чат и совместимый с OpenAI API сценарий /v1/chat/completions. Модель предназначена для локального приватного инференса, в том числе когда полный GGUF слишком велик для одного компьютера. Семейство Qwen3-Coder ориентировано на задачи программирования и генерации текста. Пакет позволяет объединять вычислительные ресурсы нескольких машин, но требует подходящего кластера и Mesh LLM. Сведения о лицензии, контекстном окне и языковой поддержке следует уточнять в карточке исходной модели unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF.

speechless-zephyr-code-functionary-7b — экспериментальная модель, разработанная uukuguy в рамках проекта Mixture-of-Multi-LoRAs. Она создана на основе Mistral-7B-v0.1 с объединением LoRA-модулей, извлечённых из HuggingFaceH4/zephyr-7b-beta, meetkai/functionary-small-v2.2 и uukuguy/speechless-code-mistral-7b-v1.0. Для автоматической сборки модулей используется router Mixture-of-Multi-LoRAs с безградиентным подбором коэффициентов, в том числе для ранее не встречавшихся задач. Модель предназначена для генерации текста, программирования, работы с функциями и плагинами, а также для универсальных задач, где требуется сочетание диалоговых, кодовых и инструментальных навыков. В README заявлена поддержка английского языка и использование через Transformers; также доступны варианты GGUF с 4-, 5- и 8-битным квантованием для CPU и GPU-инференса. Размер базовой модели — около 7 миллиардов параметров. Размер контекста и полный перечень поддерживаемых модальностей не указаны; по описанию модель относится к текстовым. К сильным сторонам относятся сочетание навыков генерации кода, вызова функций и общего диалога, а также возможность адаптивного комбинирования LoRA-модулей. В опубликованной оценке средний результат LM-Evaluation-Harness составляет 62,93; показатели включают 64,71 на MMLU, 43,82 на GSM8K и 83,88 на HellaSwag. Ограничения связаны с экспериментальным характером подхода, отсутствием подробных данных о контексте, поведении на других языках и практической надёжности вызова функций. Модель распространяется по лицензии Apache-2.0.