II.4Отладка, тестирование и качество ПО
В разделе собраны самостоятельные задачи, где AI помогает находить дефекты, строить проверки и повышать надёжность программного продукта. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 978 моделейDeepSeek-Coder-7B-Instruct-v1.5 — языковая модель для генерации кода и ответов на инструкции, разработанная DeepSeek. Она построена на архитектуре Llama и содержит 6,5 млрд параметров. Модель продолжительно обучали на 2 трлн токенов, используя контекстное окно 4K, а затем дообучили на 2 млрд токенов инструкционных данных. Модель предназначена для диалогового взаимодействия с задачами программирования: например, генерации и объяснения кода по запросу. Доступна в формате Safetensors; заявленная лицензия — other, поэтому условия использования следует уточнять по карточке модели и связанным документам.
Карточка модели LUTingYu/DeepSeek-R1-0528-Qwen3-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-0528-Qwen3-8B, поэтому описание составлено по ней. DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель семейства Qwen3, разработанная DeepSeek. Это версия Qwen3 8B, дообученная на цепочках рассуждений DeepSeek-R1-0528; число параметров составляет 7,6 млрд. Модель предназначена для диалогов и генерации текста с акцентом на многошаговые рассуждения, математику, программирование и логические задачи. В метаданных указаны интерфейс для вызова инструментов и контекст до 131 072 токенов. По описанию разработчика, модель улучшает результаты Qwen3 8B на AIME 2024 и сопоставима с Qwen3-235B-thinking в этой оценке. README также отмечает пригодность для академических исследований рассуждающих моделей и разработки компактных моделей. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Лицензия — MIT, допускающая широкое использование в соответствии с её условиями.
DeepSeek-R1-ReDistill-Qwen-1.5B-v1.0 — версия DeepSeek-R1-Distill-Qwen-1.5B, повторно дистиллированная Mobius Labs для повышения качества. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового применения; исходная модель ориентирована на рассуждения и решение задач, включая математику и программирование. В карточке приведены сравнительные результаты на ARC, HellaSwag, MMLU, GPQA, MMLU PRO и MUSR, где версия ReDistill показывает улучшения относительно исходной на перечисленных тестах. Репозиторий содержит веса SafeTensors. Лицензия — MIT.
MaziyarPanahi/dolphin-2.6-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель генерации текста, созданная слиянием Mistral-7B-Instruct-v0.1 и dolphin-2.6-mistral-7b методом SLERP. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров; она принимает инструкции и диалоговые запросы и генерирует текстовые ответы. Указанное в метаданных окно контекста — 32 768 токенов. Модель ориентирована на общие диалоговые задачи и ответы на инструкции; теги карточки также указывают англоязычные данные и наборы для задач программирования. Модель распространяется в формате safetensors и имеет лицензию Apache-2.0. Качество и поведение зависят от формулировки запроса и данных слияния; конкретные результаты на бенчмарках в карточке не приведены.
EpistemeAI-codegemma-2-9b — языковая модель EpistemeAI на архитектуре Gemma 2, дообученная на 122 тысячах инструкций по программированию. Она предназначена для генерации кода и текста по запросу, а также для диалоговых интерфейсов и работы с текстом. Для генерации рекомендуется формат запросов Alpaca; доступны веса PyTorch и safetensors. Модель содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Модель основана на unsloth/gemma-2-9b-bnb-4bit и дообучалась с использованием Unsloth и TRL. В карточке указана лицензия Apache-2.0, тогда как метаданные Hugging Face содержат лицензию Gemma; условия использования стоит сверить с актуальными условиями репозитория и базовой модели. Модель может выдавать ошибочные или устаревшие ответы, испытывать трудности со сложными инструкциями и нюансами языка, а также воспроизводить смещения из обучающих данных.
Focus — производная текстовая модель Jaidchen на базе Qwen/Qwen3.6-27B, представленная в архитектуре Qwen3_5ForCausalLM и содержащая 22,3 млрд параметров. Она предназначена для генерации текста, программирования и агентных сценариев с чатом и интерфейсом вызова инструментов. Контекст составляет до 262 144 токенов. Из модели удалены компоненты обработки изображений и видео: соответствующие данные могут оставаться в контексте, но модель не интерпретирует их. Автор заявляет о снижении требований к хранению, памяти и времени вывода без потери качества; независимые результаты сравнения в доступной карточке не приведены. Шаблон чата поддерживает роли developer и system, сохранение исторических рассуждений и разные формы вызовов инструментов. Совместимость зависит от движка: карточка указывает поддержку в SGLang версии 0.5.17 и новее и vLLM версии 0.26.0 и новее; другие движки могут требовать адаптации и вести себя непредсказуемо. По умолчанию случайная выборка отключена, что ограничивает пригодность для длинного творческого письма и развлекательного чата. Лицензия — Apache-2.0.
GLM-4.5-GGUF — это GGUF-версия фундаментальной языковой модели GLM-4.5, разработанной Z.ai. Модель предназначена для создания интеллектуальных агентов и объединяет возможности рассуждения, программирования и взаимодействия с инструментами. Она поддерживает генерацию текста и рассчитана прежде всего на англоязычные и китайскоязычные сценарии. GLM-4.5 — гибридная reasoning-модель с двумя режимами работы: thinking mode для сложных рассуждений и использования инструментов и non-thinking mode для быстрых ответов. В модели 355 млрд общих параметров, из которых активно используется 32 млрд; архитектура построена с применением mixture-of-experts. Контекстное окно, дополнительные модальности и точные характеристики GGUF-квантизации в README не указаны. К сильным сторонам относятся сочетание рассуждений, программирования и агентных функций, а также возможность коммерческого использования и доработки. Ограничения включают высокие требования к вычислительным ресурсам исходной модели и отсутствие в предоставленных данных подробностей о конкретной GGUF-квантизации и совместимости с оборудованием. Модель распространяется под лицензией MIT.
GLM-4.7-REAP-218B-A32B — сжатая разреженная языковая модель семейства GLM-4.7 от Cerebras. Она получена методом REAP, который удаляет из смеси экспертов менее значимые компоненты; после прунинга дообучение не проводилось. Модель содержит 218 млрд параметров, из которых 32 млрд активируются на токен, и поддерживает контекст до 202 752 токенов. Модель предназначена для генерации кода и текста, агентных рабочих процессов, понимания репозиториев и вызова функций. В карточке заявлено, что она сохраняет близкое к исходной GLM-4.7 качество при уменьшении объёма памяти примерно на 40%; для версии BF16 приведены характеристики, но результаты оценки не указаны. Модель можно развернуть с актуальным vLLM. Лицензия — MIT. README рекомендует вариант BF16 для последующей низкобитной квантизации.
Granite-20B-Code-Instruct-8K — языковая модель IBM Research с 20 млрд параметров, дообученная на основе Granite-20B-Code-Base-8K. Она предназначена для выполнения инструкций по программированию и создания помощников для разработки; обучение включало данные о коммитах, примеры инструкций по коду и вызову функций, математические задачи и общие инструкции. Модель использует архитектуру GPTBigCode и поддерживает контекст до 8192 токенов. Модель может помогать с написанием и объяснением кода, решением задач по программированию, запросами SQL и задачами на математические рассуждения. Карточка отмечает, что качество может снижаться для языков программирования за пределами обучающих данных; перед применением в критически важных системах рекомендуется проверка безопасности и настройка под целевую задачу. Новые проекты IBM направляет к более свежим моделям Granite. Лицензия — Apache 2.0.
GRaPE 2.5 Quasar — мультимодальная модель на 27 млрд параметров от SL-AI, дообученная на базе Qwen/Qwen3.8-27B. Она принимает изображения и текст, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалогов, анализа визуальных данных, творческих задач, программирования с использованием инструментов, STEAM-задач и многошаговых рассуждений. В ней есть настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка десяти языков. Разработчики описывают Quasar как флагман третьего поколения GRaPE с улучшенным обучающим набором и более естественной манерой письма. Доступны веса в формате Safetensors, библиотека для работы — Transformers. Модель распространяется по лицензии Apache-2.0. Карточка не приводит измеримых результатов оценки качества, поэтому заявления о высокой производительности следует считать заявлениями разработчиков.
Iceball-Phi-3.5-mini-instruct-shareGPT-v1.0 — компактная языковая модель EpistemeAI, дообученная на базе unsloth/phi-3.5-mini-instruct-bnb-4bit с использованием Unsloth и TRL. В карточке указаны supervised fine-tuning, PPO и DPO; модель предназначена для диалогового следования инструкциям и генерации текста. По метаданным она содержит 3,7 млрд параметров, использует плотную архитектуру семейства Llama и поддерживает контекст до 4096 токенов. Модель рассчитана на общие генеративные приложения, в том числе работу в условиях ограниченных вычислительных ресурсов и низкой задержки, а также задачи рассуждения, программирования, математики и логики. README заявляет поддержку нескольких языков, но метаданные карточки указывают английский язык. Лицензия — Apache-2.0. Указанная в README длина контекста 128K противоречит метаданным каталога, поэтому здесь приведено значение 4096 токенов из метаданных.
MiMo-NeoHorse-9B-AGSI — текстовая модель для диалогов, программирования и задач рассуждения, созданная путём слияния XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B и TokenRhythm/NeoHorse-1-9B. Разработчик описывает метод объединения как AGSI Pipelined Fusion с интерполяцией параметров моделей. Модель предназначена для генерации текста в диалогах, помощи с кодом и применения в агентных сценариях, включая работу с терминалом. В метаданных указаны архитектура Qwen3.5 с плотной моделью и формат safetensors. Заявлены английский и китайский языки; лицензия — MIT.
MiniCPM5-2B-MLX — компактная языковая модель из серии MiniCPM5, разработанная командой OpenBMB. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и локального развертывания на устройствах с ограниченными ресурсами. В карточке указана поддержка английского и китайского языков, а также сценарии on-device и edge AI. Модель рассчитана на следование инструкциям, программирование, математические задачи, понимание длинного контекста, использование инструментов и агентские сценарии. По заявлению разработчиков, среди открытых моделей сопоставимого размера она показывает передовые результаты и в целом остается конкурентоспособной моделям класса 4B, особенно в коде, математике, работе с длинным контекстом и tool use. Точная максимальная длина контекста и подробные результаты тестов в предоставленных данных не указаны. К основным ограничениям относятся меньший размер и, вероятно, более ограниченные возможности по сравнению с крупными языковыми моделями; конкретные ограничения качества, требования к оборудованию и поддерживаемые форматы MLX в README не раскрыты. Модель распространяется по лицензии Apache-2.0.
MiniCPM5-2B-OptiQ-4bit — локальная 4-битная MLX-квантизация модели openbmb/MiniCPM5-2B, разработанной OpenBMB, с использованием инструментария mlx-optiq. Это языковая модель Llama-архитектуры с 42 слоями, размером 2B параметров и контекстом до 128k токенов. Указаны английский и китайский языки. Модель предназначена для текстовой генерации, диалоговых ассистентов, перефразирования, математических и кодовых задач, многошагового рассуждения, работы с инструментами и локального запуска на устройствах Apple Silicon. Ключевая особенность — чувствительная к слоям смешанная точность: 112 из 295 линейных слоёв сохранены в 8-битном формате, остальные 183 используют 4-битное представление. Размер файла составляет около 1,84 ГБ. Доступны режимы без рассуждений для быстрых ответов и с рассуждениями для математики, планирования и многошагового кода. Модель поддерживает собственный формат tool calling, который через optiq serve преобразуется в вызовы инструментов, совместимые с OpenAI и Anthropic API. По приведённым тестам модель показывает высокие результаты в следовании инструкциям, математике, генерации кода и вызове инструментов, однако оценка извлечения информации из длинного контекста заметно ниже остальных показателей. К ограничениям относятся необходимость MLX и Apple Silicon для описанного локального сценария, зависимость качества от режима рассуждений и отсутствие заявленных мультимодальных возможностей. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
MistralHermes-CodePro-7B-v1 — дообученная модель семейства Mistral, созданная на основе teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель дополнительно обучена на наборе из более чем 200 тысяч примеров кода на разных языках программирования и предназначена для помощи в задачах разработки. Она использует архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Модель ориентирована на диалоговый формат OpenHermes 2.5 и поддерживает следование инструкциям. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Карточка рекомендует использовать LM Studio для общения с моделью.
Nanbeige4.2-3B — компактная языковая модель Nanbeige Lab на 3,2 млрд параметров, дообученная на базе Nanbeige/Nanbeige4.2-3B-Base для диалогов и агентных сценариев. Она использует плотную Looped Transformer архитектуру, повторно применяющую слои трансформера для увеличения эффективной ёмкости без добавления параметров. Модель поддерживает контекст до 262 144 токенов и доступна в формате safetensors для Transformers; лицензия — Apache 2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и многошаговых задач общего назначения. Среди заявленных сценариев — программирование и задачи кодовых агентов, офисные процессы, математические и научные рассуждения, а также локальный персональный ассистент при интеграции с подходящей агентной средой. Карточка описывает обучение с учителем и обучение с подкреплением с оценкой результата и процесса. Заявленные языки — английский и китайский. Модель поддерживает чат и интерфейс вызова инструментов; сама по себе она генерирует текст, а выполнение действий зависит от внешней агентной оболочки и подключённых инструментов. Показатели из карточки основаны на бенчмарках и конкретных средах оценки, поэтому не гарантируют аналогичного качества во всех приложениях.
NeoHorse-1-4B — плотная причинно-языковая модель примерно на 3,4 млрд параметров, разработанная TokenRhythm дообучением Qwen/Qwen3.5-4B. Это прототип для текстовых агентных сценариев: диалогов, вызова инструментов, программирования, рассуждений и следования инструкциям. Модель распространяется в формате Safetensors; карточка указывает контекст до 262 144 токенов и совместимость с Transformers, а README описывает локальный запуск через SGLang и vLLM с OpenAI-совместимым API. В README заявлен прирост среднего результата на десяти бенчмарках относительно исходной Qwen3.5-4B. Выпуск содержит только языковые веса: визуальные веса отсутствуют, поэтому этот репозиторий предназначен для текстового вывода, даже несмотря на мультимодальные возможности базовой модели. Фактическая длина контекста при обслуживании зависит от памяти GPU и настроек сервера. Лицензия — Apache-2.0.
feecha/ObjLlama-7b-hf — 7-миллиардная instruct-версия Code Llama, разработанной Meta и сохранённой в формате Hugging Face Transformers. Это авторегрессионная плотная модель на архитектуре Transformer для генерации и понимания кода: она поддерживает автодополнение, заполнение пропусков в коде и выполнение инструкций, в том числе в сценариях чат-ассистента. Модель принимает и выдаёт текст; размер по метаданным — 6,6 млрд параметров, контекст — до 16 384 токенов. README указывает английский язык и языки программирования. Модель подходит для генерации фрагментов кода, редактирования существующего кода и ответов на запросы кода на естественном языке. Она не является специализированной Python-версией. Возможны неточные или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка под конкретное применение. Использование регулируется лицензией Meta Llama 2, а README указывает на коммерческое и исследовательское применение при соблюдении лицензионных условий и правил допустимого использования.
Карточка модели armandosds/Olmo-3-7B-Think на Hugging Face совпадает с карточкой allenai/Olmo-3-7B-Think, поэтому описание составлено по ней. Olmo-3-7B-Think — авторегрессионная плотная Transformer-модель для генерации текста, разработанная Allen Institute for AI (Ai2). Это вариант семейства Olmo 3 с упором на пошаговое рассуждение; карточка указывает обучение на данных Dolma 3 и последующее дообучение на наборах Dolci. В метаданных базовой моделью названа allenai/Olmo-3-7B-Think-DPO, а связь указана как finetune. Модель предназначена для диалогов и задач, где полезны развёрнутые рассуждения, в частности математики, программирования, ответов на общие вопросы и следования инструкциям. Она содержит 6,9 млрд параметров, поддерживает контекст до 65 536 токенов и рассчитана прежде всего на английский язык. Для запуска используется библиотека Transformers; веса опубликованы в формате safetensors. Модель может давать неточные ответы и без дополнительной фильтрации способна генерировать вредный или чувствительный контент. Результаты следует проверять, а при практическом использовании учитывать возможную предвзятость. Лицензия — Apache 2.0; карточка также ссылается на рекомендации Ai2 по ответственному использованию.
Orca-4B-Thinking — языковая модель для диалогов и задач, требующих многошаговых рассуждений. Согласно README, модель разработана на основе Qwen3-4B и дообучена в стиле DeepSeek-R1 на наборах OpenThoughts-114k и Mixture-of-Thoughts; метаданные связывают её с Qwen/Qwen3.5-4B. Карточка описывает причинную плотную архитектуру Qwen3, а метаданные указывают 3,7 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации развёрнутых рассуждений и ответов в математике, программировании, естественных науках и головоломках, а также для следования инструкциям и работы с инструментами. README сообщает о режиме Thinking и приводит оценочные результаты бенчмарков, поэтому заявленные улучшения производительности не следует считать независимой проверкой. Поддерживаются английский, немецкий, испанский, французский и китайский языки по тегам метаданных. Лицензия — Apache-2.0.
RedHatAI/phi-4-quantized.w8a8 — квантизированная версия языковой модели phi-4, разработанной Microsoft. Модель подготовлена Red Hat совместно с Neural Magic и предназначена для генерации текста, диалоговых приложений, задач рассуждений, логики, математики и программирования, преимущественно на английском языке. Она принимает текст и генерирует текст, а архитектура указана как Phi3ForCausalLM. Модель использует INT8-квантизацию весов и активаций. Квантизация линейных операторов в трансформерных блоках примерно вдвое снижает требования к памяти GPU и размер модели на диске, а также может увеличить пропускную способность матричных вычислений примерно в два раза. Для весов применяется симметричная статическая поканальная схема, для активаций — симметричная динамическая потокенная схема; используются методы SmoothQuant и GPTQ через библиотеку llm-compressor. В README приведён пример развёртывания с vLLM и максимальной длиной контекста 32768 токенов в конфигурации сервера. Модель подходит для сред с ограниченными ресурсами и сценариев, чувствительных к задержке, а также как компонент генеративных AI-систем. Ограничения включают преимущественную ориентацию на английский язык, возможные типичные ошибки языковых моделей и отсутствие оценки для всех прикладных сценариев. Перед использованием в критически важных или высокорисковых задачах необходимо отдельно проверять точность, безопасность и справедливость результатов. Модель распространяется по лицензии MIT и валидирована для RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5.
Phi-4-Reasoning-Vision-15B — мультимодальная модель Microsoft, разработанная на базе языковой модели microsoft/Phi-4-reasoning и визуального энкодера SigLIP-2. Архитектура mid-fusion объединяет визуальные токены с представлениями языковой модели; динамическое разрешение поддерживает до 3600 визуальных токенов. Модель содержит 14,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель принимает изображения и текст и отвечает текстом. Она предназначена для визуальных вопросов и ответов, OCR, описания изображений, локализации объектов и элементов интерфейса, а также для математических и научных рассуждений по диаграммам, документам и изображениям. Для задач восприятия может отвечать напрямую, а для задач, требующих нескольких шагов, использует расширенное рассуждение. Основной язык обучающих данных — английский; на других языках качество может быть ниже. Разработчик предупреждает о возможных ошибках и предвзятости и не рекомендует применять модель без дополнительной оценки в ситуациях с существенными последствиями, а также для медицинской диагностики, юридических консультаций и финансового планирования. Модель распространяется по лицензии MIT.
Phind-CodeLlama-34B-v2 — плотная авторегрессионная языковая модель семейства Llama, разработанная Phind для программирования. Это дообученная версия Phind-CodeLlama-34B-v1: её дополнительно обучили на 1,5 млрд токенов примеров с задачами и решениями по программированию, а затем настроили следовать инструкциям в формате Alpaca/Vicuna. В карточке заявлен результат 73,8% pass@1 на HumanEval. Модель предназначена для генерации и объяснения кода, решения программных задач и ответов на инструкции по разработке. Она ориентирована на Python, C/C++, TypeScript, Java и другие языки программирования; контекст из метаданных составляет 16 384 токена, а размер — 33,5 млрд параметров. Модель принимает текстовые запросы и генерирует текст, включая код. Карточка предупреждает, что модель прошла ограниченное тестирование и перед практическим внедрением требует дополнительной проверки безопасности. Репозиторий использует лицензию Llama 2; для применения следует учитывать её условия.
Qwen3-1.5B-Instruct — компактная языковая модель на 1,5 млрд параметров, созданная сообществом с помощью mergekit. Это слияние методом TIES инструктивной модели Qwen2.5-1.5B-Instruct с Qwen2.5-Coder-1.5B-Instruct и Qwen2.5-Math-1.5B-Instruct. Модель использует архитектуру Qwen2 для генерации текста и диалогов; заявленный контекст — до 32 768 токенов. Модель подходит для ответов на вопросы, инструктивных диалогов, генерации кода и решения математических задач. Метаданные также отмечают интерфейс для вызова инструментов. Модель распространяется в формате Safetensors; README указывает, что при слиянии использовалась точность float16. Лицензия в предоставленных материалах не указана.
TeichAI разработала эту диалоговую MoE-модель на основе Qwen3-30B-A3B-Thinking-2507, дообучив её на наборе примеров рассуждений Claude Sonnet 4.5 с высоким уровнем reasoning. Модель предназначена для генерации текста, сложных рассуждений, программирования и научных задач; поддерживает интерфейс вызова инструментов. В метаданных указан размер 2,6 млрд параметров и контекст до 262 144 токенов. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; отдельные сведения о других поддерживаемых языках не приведены. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Дообучение на синтетических примерах рассуждений может влиять на стиль и точность ответов; карточка не приводит независимых оценок качества. Применимость к задачам за пределами программирования и науки отдельно не описана.
QuantTrio/Qwen3.6-35B-A3B-AWQ — квантованная версия открытой модели Qwen3.6-35B-A3B, разработанной командой Qwen. Репозиторий содержит веса в формате Hugging Face Transformers и подготовлен с использованием data-free-квантизации AWQ без калибровочного набора данных. Указана лицензия Apache 2.0, унаследованная от базовой модели Qwen/Qwen3.6-35B-A3B. Модель предназначена для генерации текста, программирования, агентных сценариев и работы с изображениями благодаря архитектуре causal language model с vision encoder. Она ориентирована, в частности, на repository-level reasoning, frontend-разработку, использование инструментов и сохранение контекста рассуждений между сообщениями. Для запуска рекомендуется vLLM; в README также заявлена совместимость с Transformers, SGLang и KTransformers. Архитектура включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв, Mixture of Experts с 256 экспертами, 8 маршрутизируемыми и одним общим активным экспертом, а также компоненты Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Размер файлов модели — около 24 ГиБ. README не приводит полный перечень поддерживаемых языков и подробные результаты тестирования. Ключевые ограничения связаны с требованиями к совместимым версиям vLLM и Transformers, CUDA 12.8 или 13.0, а также с необходимостью корректной настройки expert parallelism при распределённом запуске.
unsloth/Qwen3.6-35B-A3B-MLX-8bit — MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B, подготовленная Unsloth. Это авторегрессионная языковая модель с vision-энкодером, предназначенная для работы с текстом и изображениями, агентного программирования, анализа репозиториев, фронтенд-разработки и сценариев с вызовом инструментов. Модель поддерживает улучшенное сохранение контекста рассуждений между сообщениями и обработку вложенных структур при tool calling. Архитектура использует Mixture of Experts: всего 35 млрд параметров, из которых при генерации активируется около 3 млрд. Модель содержит 40 слоёв, 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий эксперт, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. В README не указано, какие языки поддерживаются. К сильным сторонам относятся высокая вычислительная эффективность разреженной MoE-архитектуры, поддержка визуального ввода, длинного контекста, агентного кодирования и локального запуска через MLX. Ограничения включают необходимость совместимой MLX-инфраструктуры и отсутствие в предоставленных данных подробных результатов бенчмарков, требований к оборудованию и описания возможных ограничений качества. Модель распространяется по лицензии Apache-2.0.
Qwen3-Coder-480B-A35B-Instruct-GGUF — это квантованная версия инструкционной модели Qwen3-Coder-480B-A35B-Instruct, разработанной командой Qwen. Модель опубликована в формате GGUF для использования в совместимых приложениях, включая LM Studio, и предназначена прежде всего для генерации текста и работы с программным кодом в диалоговом формате. Квантование выполнено bartowski на основе llama.cpp, релиз b5962. В README указано обозначение исходной модели с общим размером 480B и конфигурацией A35B, однако подробности архитектуры, фактический размер конкретного GGUF-файла, поддерживаемые языки программирования и естественные языки, модальности и длина контекста не приведены. Формат GGUF и поддержка llama.cpp упрощают локальный запуск в совместимом программном обеспечении, но характеристики производительности, требования к памяти, качество ответов и ограничения конкретного уровня квантования в README не описаны. Лицензия модели и условия использования также не указаны; их следует уточнять на странице исходной модели Qwen/Qwen3-Coder-480B-A35B-Instruct и у распространителя квантованной версии.
Qwen_Qwen3-Coder-Next-GGUF — это квантизированная версия текстовой генеративной модели Qwen3-Coder-Next, разработанной Qwen. Квантизация выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена прежде всего для генерации и обработки текста, включая задачи, связанные с программированием, и может запускаться через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые приложения. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, благодаря чему можно выбирать между качеством ответа, размером файлов и требованиями к оперативной памяти. Размеры представленных файлов составляют примерно от 31,73 до 84,81 ГБ; некоторые варианты разделены на несколько частей. Наиболее качественными считаются Q8_0 и варианты Q6, а Q4_K_M указан как типовой компромисс между качеством и размером. Поддерживаемые модальности, языки, архитектура, количество параметров и размер контекста в README не указаны. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации, включая варианты, оптимизированные для различных аппаратных конфигураций. Ограничения связаны с большими требованиями к дисковому пространству и памяти, а также с потенциальным снижением качества у низкобитных вариантов; для недавно поддерживаемых моделей может потребоваться обновление используемого приложения. Модель распространяется по лицензии Apache-2.0.
Qwopus3.6-35B-A3B-v1 — экспериментальная мультимодальная модель с разреженной архитектурой MoE, созданная Jackrong путём дообучения Qwen3.6-35B-A3B с помощью LoRA и трёх этапов supervised fine-tuning. В базовой модели 35 млрд параметров, из которых активно около 3 млрд на токен; она сочетает линейное внимание Gated DeltaNet с обычными слоями gated attention и рассчитана на контекст до 262 тысяч токенов. Модель предназначена для диалогов, рассуждений, работы с изображениями и инструментами, а также задач программирования, математики, науки и следования инструкциям. Автор заявляет улучшения в структурированности рассуждений и последовательности ответов; карточка приводит результаты независимого теста, но отмечает, что полная оценка производительности и безопасности не проводилась. Поддерживаются английский, китайский, испанский, русский и японский языки. Лицензия — Apache-2.0.