II.3Рефакторинг, миграция и модернизация

duyntnet/granite-8b-code-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Granite-8B-Code-Instruct, разработанной IBM Research. Модель создана на основе Granite-8B-Code-Base-4K и дообучена на наборе инструкционных данных с разрешительными лицензиями для улучшения следования инструкциям, логического рассуждения и решения задач. Модель предназначена для генерации кода по инструкциям и создания ассистентов программирования. Она содержит около 8 млрд параметров, относится к авторегрессионным моделям генерации текста и поддерживает контекст до 4K токенов. В карточке указана поддержка английского языка и текстовая модальность. GGUF-квантизации можно запускать через llama.cpp, KoboldCPP, Ollama и text-generation-webui. К сильным сторонам относятся специализация на задачах программирования, следование инструкциям и навыки рассуждения. Ограничения включают контекст в 4K токенов, ориентацию на английский язык и зависимость характеристик производительности и качества от выбранного варианта квантизации. Для использования доступны клиенты и интерфейсы, совместимые с GGUF. Исходная модель распространяется по лицензии Apache 2.0; для конкретных квантизованных файлов в карточке также указана лицензия other.

HydraCoder — модель генерации кода, разработанная Daemontatox на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и дообученная для программирования на Rust. Она принимает инструкции на естественном языке и предназначена для создания, дополнения, исправления и рефакторинга Rust-кода, а также для подсказок при анализе кода и ревью. Модель построена на архитектуре Qwen3 MoE и использует библиотеку Transformers. В метаданных указано 2,4 млрд параметров и контекст до 262 144 токенов; README приводит другие оценки числа параметров, поэтому здесь использованы данные метаданных. Карточка описывает специализацию на идиоматичном Rust, включая работу с владением, временами жизни, трейтами и асинхронным кодом. Основной язык модели — английский, однако код генерируется на Rust. HydraCoder может галлюцинировать названия внешних крейтов и импорты, а сгенерированный код не гарантированно скомпилируется без полного контекста. Лицензия Apache 2.0 допускает исследовательское и коммерческое использование.

Карточка модели IQuestLab/IQuest-Coder-V1-14B-Base на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-14B-Instruct на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-14B-Thinking на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Карточка модели IQuestLab/IQuest-Coder-V1-7B-Base-Stage1 на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Это пользовательская квантованная версия KAT-Coder-V2.5-Dev, опубликованная автором репозитория IsValorum в формате GGUF. Она предназначена для генерации кода, рассуждений и работы в агентных сценариях с использованием чата и инструментов. В карточке указано, что это разреженная MoE-модель; для варианта APEX-I-MiniPlus V2.1 заявлены файл размером около 14,75 ГБ, средняя точность 3,40 бита на вес и окно контекста 256 тысяч токенов. README также описывает запуск с использованием системной памяти и заявляет возможность полного контекста на видеокарте с 24 ГБ памяти. К сильным сторонам автор относит качество квантования, сохранение точности маршрутизации экспертов и пригодность для локального вывода. В README приведены собственные оценки perplexity и скорости, которые не следует считать независимым сравнением. Модель поддерживает несколько языков, включая русский, английский и китайский. Лицензия — Apache-2.0.

Kimi-K2.6-GGUF — версия открытой мультимодальной агентной модели Kimi K2.6 от Moonshot AI, подготовленная Unsloth в формате GGUF с использованием квантования. Модель предназначена для длительных и сложных задач программирования, создания интерфейсов по текстовым и визуальным входным данным, автономного выполнения действий и оркестрации групп специализированных агентов. Модель использует архитектуру Mixture-of-Experts (MoE): около 1 трлн общих параметров, из которых 32 млрд активируются для каждого токена. Она содержит 61 слой, 384 эксперта с выбором 8 экспертов на токен, механизм внимания MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Контекст составляет 256 тысяч токенов. Для обработки изображений используется vision encoder MoonViT с 400 млн параметров. Заявлены сильные результаты в долгосрочном кодировании на Rust, Go и Python, DevOps, оптимизации производительности, генерации веб-интерфейсов и агентном поиске; поддерживается координация до 300 субагентов и 4000 шагов. Ключевые ограничения связаны с чрезвычайно большими требованиями к ресурсам: например, вариант UD-Q8_K_XL занимает около 595 ГБ. README не содержит полного перечня поддерживаемых языков и подробных требований к оборудованию или программному окружению. Указана лицензия modified-MIT; конкретные условия её применения следует проверять в официальных материалах модели.

Kwaipilot_KAT-Coder-V2.5-Dev-GGUF — это квантизированная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot. Сборка выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации кода, задач программирования и агентных сценариев, включая agentic coding. В карточке указано, что модель относится к архитектурам MoE и поддерживает английский и китайский языки. Точный размер исходной модели, максимальная длина контекста, набор поддерживаемых языков сверх указанных и сведения о дополнительных модальностях не приведены. Доступны варианты от BF16 до различных уровней квантизации, поэтому можно выбирать между качеством генерации, размером файла и требованиями к памяти; размер файлов составляет примерно от 16,9 до 69,38 ГБ. Сильной стороной являются специализированная направленность на программирование и широкий выбор квантизированных вариантов, пригодных для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Ограничения связаны с потерями качества в более компактных вариантах квантизации, высокими требованиями к памяти и отсутствием в карточке подробных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Llama-3-8B-Instruct-Coder-v2-GGUF — набор GGUF-квантизаций модели Llama-3-8B-Instruct-Coder-v2. Базовая модель указана как NousResearch/Meta-Llama-3-8B-Instruct, оригинальная модель разработана rombodawg, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к текстовым генеративным моделям и ориентирована на работу с инструкциями и задачами программирования, включая генерацию и обработку кода. Заявленный язык — английский. Доступны варианты с разными уровнями квантизации: от Q8_0 размером 8,54 ГБ до IQ2_XXS размером 2,39 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS отмечены как рекомендуемые; более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Файлы предназначены для запуска через llama.cpp и используют специальный шаблон запросов Llama 3. В README не указаны точный размер контекстного окна, архитектурные детали сверх принадлежности к семейству Llama 3, результаты тестирования и поддержка других языков. Лицензия — Apache-2.0.

Millie 35B-A3B 7GB — модель смешанных экспертов для программирования и агентных сценариев, опубликованная llmsforall. Она создана на основе Agents-A1 и архитектуры Qwen3.5-35B-A3B: всего 35 млрд параметров, из которых активно около 3 млрд на токен. Весовые коэффициенты экспертов сжаты примерно до 1,2 бита на параметр; модель поставляется в формате GGUF, а отдельный файл проектора изображений обеспечивает приём изображений. Заявленная длина контекста — 262 тысячи токенов. Модель предназначена для генерации кода, диалогов и выполнения агентных задач на обычном оборудовании. Для запуска нужны оба файла GGUF и специальная версия llama.cpp от llmsforall с поддержкой формата весов; upstream llama.cpp их загрузить не может. В метаданных указана лицензия Apache-2.0. README также сообщает о варианте размером 11 ГБ.

MistralHermes-CodePro-7B-v1 — дообученная модель семейства Mistral, созданная на основе teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель дополнительно обучена на наборе из более чем 200 тысяч примеров кода на разных языках программирования и предназначена для помощи в задачах разработки. Она использует архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Модель ориентирована на диалоговый формат OpenHermes 2.5 и поддерживает следование инструкциям. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Карточка рекомендует использовать LM Studio для общения с моделью.

Muninn-small — мультиязычная модель для поиска функций в кодовых репозиториях по запросам на естественном языке, разработанная BrokkAI. Это дообученная на наборе BrokkAI/Quarry модель с энкодером ModernBERT и 47,7 млн параметров; она формирует эмбеддинги размерности 384 и поддерживает контекст до 8192 токенов. Модель предназначена для поиска участков кода, связанных с описанием задачи, например функций, которые нужно изменить для исправления GitHub issue, и для локализации кода в репозиториях. В README указана поддержка кода на C, C++, C#, Go, Java, JavaScript, PHP, Python, Rust, Scala и TypeScript. Авторы сообщают, что на Quarry Muninn-small превосходит исходную модель на 4,6 пункта по recall@5 и сопоставима с SweRank-Small по recall@20 при меньшем размере; эти результаты относятся к указанному формату документов и протоколу оценки. В README также отмечено, что модель специализирована на поиске функций в репозиториях и не предназначена для общего поиска по задачам competitive programming. Лицензия — Apache-2.0.

OpenCodeReasoning-Nemotron-32B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели OpenCodeReasoning-Nemotron-32B, разработанной NVIDIA и подготовленной квантизатором bartowski. Модель ориентирована на задачи генерации и анализа кода, а также на другие сценарии текстовой генерации на английском языке. В README указана принадлежность к семейству моделей NVIDIA OpenCodeReasoning и датасету nvidia/OpenCodeReasoning. Модель содержит 32 миллиарда параметров и распространяется в форматах GGUF, совместимых с llama.cpp и проектами на его основе, включая LM Studio. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Версии Q6_K_L, Q6_K, Q5 и Q4 отмечены как обеспечивающие высокое или хорошее качество при меньшем размере, тогда как варианты Q3 экономят оперативную память ценой снижения качества. Размер файлов зависит от варианта и составляет примерно от 15,94 до 65,54 ГБ. К сильным сторонам относятся специализированная направленность на код, широкий выбор степеней квантизации и возможность локального запуска через llama.cpp или LM Studio. Ограничения включают значительные требования к памяти даже для компактных вариантов, снижение качества при сильной квантизации и отсутствие в представленном README сведений о размере контекста, архитектурных деталях, поддержке мультимодальности и производительности. Модель распространяется по лицензии Apache-2.0.

OpenCodeInterpreter-CL-34B — модель генерации кода из семейства OpenCodeInterpreter, основанная на CodeLlama-34b-Python-hf. Она объединяет генерацию кода с выполнением и итеративным уточнением по обратной связи; в этой карточке описана сама модель, а не отдельная среда выполнения. Модель разработана для помощи в написании и интерпретации кода. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 33,5 млрд параметров и контекстом 16 384 токена. Метаданные указывают английский язык и поддержку генерации текста; для задач с кодом модель отмечена тегом code. Опубликована под лицензией Apache-2.0. Карточка приводит результаты семейства на HumanEval и MBPP, но не содержит отдельных оценок именно этой версии на этих тестах.

OpenCodeInterpreter-CL-7B — языковая модель для генерации кода из семейства OpenCodeInterpreter. Она разработана как система, объединяющая генерацию кода с выполнением и итеративным уточнением по обратной связи; в карточке указано, что модель основана на CodeLlama-7b-Python-hf. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров. Она предназначена для написания и улучшения программного кода; для семейства OpenCodeInterpreter описано применение обратной связи от выполнения кода, но карточка не подтверждает, что этот репозиторий сам содержит среду выполнения. Контекст составляет 16 384 токена. В метаданных указан английский язык. В README приведены результаты серии OpenCodeInterpreter на HumanEval и MBPP, однако таблица относится к разным вариантам семейства и не содержит отдельного результата именно для CL-7B. Лицензия в предоставленных данных не указана.

Ornith-1.5-27B-A3B-CoderX — кодовая модификация модели Ornith-1.5-35B-A3B, созданная разработчиками Ornith. Это текстовая MoE-модель для генерации кода и диалоговых сценариев; в ней 40 слоёв и около 26,7 млрд параметров, из которых активны примерно 3 млрд. Модель получена экспертным прореживанием: число экспертов в каждом слое сокращено с 256 до 184, а маршрутизация top-8 и голова MTP сохранены. README указывает, что веса BF16, а оставленные эксперты побитово совпадают с базовой моделью; дообучение и дистилляция не применялись. Модель предназначена для написания и дополнения кода, решения задач программирования и диалогового использования с вызовом инструментов. Контекст составляет 262 144 токена. В карточке заявлен английский язык. В приведённых тестах модель показала сильный результат на LiveCodeBench v6, однако большинство сравнений основано на единичных запусках; авторы рекомендуют считать небольшие различия ничьей. На тесте вызова инструментов зафиксированы ошибки планирования и работы с контекстом, а измеренная оценка отмечена как нижняя граница из-за сбоя инфраструктуры. Лицензия — Apache-2.0.

PrismaCoder-3B — дообученная модель на основе Qwen/Qwen2.5-Coder-3B-Instruct, созданная для генерации и редактирования схем Prisma ORM и кода Prisma Client по инструкциям на естественном языке. Модель содержит около 3,1 млрд параметров, использует архитектуру Qwen2 с плотной causal language model и принимает текстовые запросы, выдавая текст с кодом. В метаданных указано контекстное окно 32 768 токенов и поддержка английского языка. Модель дообучали методами SFT, DPO и GRPO с использованием QLoRA; веса адаптеров объединены с базовой моделью. Она предназначена для создания и правки схем, подготовки планов миграции, CRUD-операций и запросов к существующей схеме Prisma. В описанном авторами тестировании на PrismaBench модель показала высокий результат на статических проверках V0, однако эти проверки не подтверждают, что код компилируется, миграции выполняются или запросы работают в приложении. Перед применением необходимо проверять схемы командой prisma validate, а для более полной проверки — запускать проектные проверки и тесты: README отдельно отмечает риск ошибок в полях связей @relation. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантизированная версия Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF пользователем или организацией matrixportal с помощью llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для задач, связанных с программированием, включая работу с кодом и чат-сценарии. В README указано, что базовая модель разработана Qwen, однако подробные сведения о её обучении и возможностях вынесены в исходную карточку модели. Модель содержит 7B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерной версией. Она распространяется в формате GGUF и рассчитана на запуск через llama.cpp, включая локальный CLI и серверный режим. В карточке указано, что заявленный язык — английский; поддержка других языков, архитектура, точный размер контекста и перечень модальностей не уточняются. Пример запуска использует контекст длиной 2048 токенов, но это не подтверждает максимальный размер контекста модели. Сильными сторонами являются специализация на коде, возможность локального запуска и совместимость с llama.cpp. Ограничения связаны с квантизацией, которая может снижать точность по сравнению с исходной моделью, а также с отсутствием в карточке подробных оценок качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Q8_0-GGUF — это преобразованная в формат GGUF версия языковой модели Qwen/Qwen2.5-Coder-7B. Конвертацию выполнила организация ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и, прежде всего, работы с исходным кодом и другими задачами программирования. Модель содержит 7 млрд параметров и доступна в варианте квантования Q8_0, что позволяет использовать её через llama.cpp. В карточке указана поддержка английского языка; модальность — текстовая. Модель можно запускать локально через llama-cli или предоставлять к ней доступ по API через llama-server. В примере запуска серверу задаётся контекст размером 2048 токенов, однако это значение является параметром запуска и не обязательно отражает максимальный контекст модели. К сильным сторонам относятся специализация на коде, совместимость с llama.cpp и возможность локального запуска в GGUF-формате. Ограничения и результаты сравнительных оценок в README не указаны, поэтому нельзя сделать выводы о качестве на конкретных языках программирования, производительности или требованиях к оборудованию. Модель распространяется по лицензии Apache 2.0.

AMAImedia выпустила эту модель в рамках платформы NOESIS для автоматизации многоязычного дубляжа. Это дообученная версия Qwimi-3.6-27B-Coder-MTP-BF16 на базе trjxter/Qwimi-3.6-27B-Coder-MTP-BF16: плотная мультимодальная архитектура Qwen3.5 с 27,8 млрд параметров, чередующая слои стандартного внимания и GatedDeltaNet. Репозиторий содержит веса BF16 в формате Safetensors и предназначен для диалогового использования с Transformers. Основное назначение — помощь в программировании: генерация и объяснение кода, отладка, рефакторинг, вызов инструментов и многошаговые агентные задачи по работе с репозиториями. Обучение было текстовым и включало преимущественно кодовые данные, а также примеры вызова инструментов и SWE-agent. Карточка заявляет мультимодальный интерфейс image-text-to-text, но визуальная часть не дообучалась и не проверялась. Указаны английский, русский и другие языки; при этом модель не валидировалась для неанглоязычного применения. В отдельных приведённых тестах модель показала улучшение на HumanEval и XML-задачах с инструментами, но общий выигрыш был небольшим, а результат MBPP снизился. Агентных примеров было мало, а контекст проверяли только до 16 384 токенов; поведение на большей длине не подтверждено. Лицензия — Apache-2.0.

Qwen3.8-27B-pi — дообученная компанией Bytkim плотная модель семейства Qwen3.8 на базе Qwen/Qwen3.8-27B. Она предназначена для программирования в агентской среде Pi: модель читает репозиторий, изменяет файлы, вызывает инструменты и учитывает их результаты, чтобы доводить задачи до проверенного решения. README описывает обучение на отобранных успешных сессиях Pi с этапами supervised fine-tuning и reinforcement learning на основе GRPO. Модель принимает текстовые запросы и инструкции к инструментам и генерирует текст, код и вызовы инструментов; в метаданных основная задача указана как text-generation. Доступны веса BF16 и форматы FP8 и GGUF; карточка приводит примеры запуска с контекстом 262 144 токена в vLLM и SGLang. Регулируемый уровень рассуждений позволяет выбирать баланс скорости и глубины решения. Разработчик сообщает об улучшении доли завершённых задач и экономии генерируемых токенов на отдельных тестах, но эти результаты относятся к выбранным ими оценкам. Модель распространяется по лицензии Apache-2.0.

zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF — это набор GGUF-квантизированных вариантов модели Qwen3.8-27B, подготовленный проектом ZeroDigest на основе официальных исходных файлов BF16. Релиз использует архитектурно-ориентированную смешанную точность, подходы, вдохновлённые AutoRound, и компилятор YMQ-Compiler v2.0. В описании также заявлена поддержка параллельного multi-token prediction (MTP) для спекулятивной генерации. Модель предназначена прежде всего для локального запуска и задач генерации кода, включая разработку, работу с API и многофайловыми проектами в инструментах вроде RooCode и Aider. Доступно несколько пресетов размером примерно от 9,8 до 19 ГБ, рассчитанных на видеокарты с 12–20 ГБ памяти и различные компромиссы между качеством, контекстом и требованиями к VRAM. Для вариантов приведены результаты измерений на WikiText-2 при контексте 4096 токенов; наилучшее указанное значение perplexity составляет 6,8413 у пресета M. Сильной стороной является распределение точности по компонентам модели с приоритетом сохранения логики и качества рассуждений при ограниченной памяти. Ограничения зависят от пресета: наиболее компактные варианты имеют заметный шум квантизации и рекомендуются для коротких или простых сценариев, а более качественные требуют больше видеопамяти. В README не указаны языки, точное максимальное окно контекста и полный перечень поддерживаемых модальностей; по доступным данным модель ориентирована на текстовую генерацию. Лицензия — Apache-2.0.

MLX-совместимая 4-битная версия Qwen3-Coder-30B-A3B-Instruct — инструкционная языковая модель для генерации текста и решения задач, связанных с программированием. Исходная модель разработана командой Qwen, а конвертацию в формат MLX выполнил проект mlx-community с использованием mlx-lm версии 0.26.3. Модель предназначена для локального запуска через библиотеку mlx-lm и поддерживает диалоговый сценарий с применением chat template. Обозначение 30B-A3B указывает на конфигурацию исходной модели, а 4bit — на 4-битное квантование, уменьшающее требования к памяти по сравнению с полноформатными весами. В README не указаны точные архитектурные параметры, размер контекста, поддерживаемые языки и перечень модальностей; по имеющимся данным модель относится к текстовым моделям. К сильным сторонам относятся специализация исходной Qwen3-Coder на задачах программирования, инструкционная настройка и возможность использования в MLX-окружении. К ограничениям относятся зависимость от совместимого программного стека и потенциальные потери качества, связанные с 4-битным квантованием; конкретные показатели производительности в README не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-6bit — 6-битная квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантизация выполнена командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах с Apple Silicon и предназначена для генерации текста, прежде всего в сценариях, связанных с программированием и работой с кодом. Модель основана на исходной Qwen3-Coder-30B-A3B-Instruct; её архитектура, поддерживаемые языки, модальности и размер контекста в README не уточняются. Квантизация снижает требования к памяти и делает локальный запуск более практичным, однако может повлиять на точность по сравнению с исходной версией. Также модель может генерировать неточный, вредоносный или неподходящий контент, поэтому результаты требуют проверки. Для исходной модели указана лицензия Apache 2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

Qwen3-Coder-30B-A3B-Instruct-MLX-8bit — это 8-битная квантованная версия Qwen3-Coder-30B-A3B-Instruct, разработанная Qwen и адаптированная для работы с MLX на компьютерах Apple Silicon. Квантование выполнено командой LM Studio с использованием mlx_lm; сама LM Studio не является создателем исходной модели. Модель предназначена для генерации текста и, прежде всего, задач, связанных с программированием и работой с кодом. Ключевые характеристики включают архитектуру исходной модели Qwen3-Coder-30B-A3B-Instruct, размер 30B с обозначением A3B, 8-битное квантование и оптимизацию под Apple Silicon. В README не указаны поддерживаемые языки, размер контекстного окна, полный перечень модальностей, результаты тестирования или конкретные сценарии применения. Квантование должно снизить требования к памяти и сделать локальный запуск практичнее, но может сопровождаться потерей точности по сравнению с исходной моделью; производительность также зависит от оборудования. Модель распространяется по лицензии Apache-2.0.

giladgd/Qwen3-Coder-30B-A3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, преобразованная в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo. В README не указано, кто именно разработал исходную модель, однако она основана на Qwen/Qwen3-Coder-30B-A3B-Instruct. Модель предназначена для генерации текста и, прежде всего, для задач, связанных с программированием, включая работу с кодом и использование в диалоговых приложениях. Модель рассчитана на локальный запуск с помощью llama.cpp и node-llama-cpp, в том числе через командную строку или серверный режим. Обозначение 30B указывает на класс модели примерно с 30 миллиардами параметров, а A3B и Q4_K_M относятся к характеристикам исходной архитектуры и применённой 4-битной квантизации соответственно. В README не приведены точные сведения о контекстном окне, языках, поддерживаемых модальностях и других архитектурных деталях. К сильным сторонам относятся совместимость с популярными локальными инструментами инференса и уменьшенные требования к памяти благодаря формату Q4_K_M. Ограничениями являются возможная потеря качества по сравнению с полной точностью и зависимость производительности от оборудования и настроек llama.cpp. Модель распространяется по лицензии Apache-2.0.

Это пакет слоёв GGUF для модели Qwen3-Coder-480B-A35B-Instruct, подготовленный Mesh LLM для распределённого инференса на локальном кластере из нескольких машин. Пакет основан на unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF и сохраняет исходные веса в варианте UD-Q4_K_XL, разделёнными на артефакты по слоям. Для запуска используется библиотека mesh-llm; модель поддерживает чат и совместимый с OpenAI API сценарий /v1/chat/completions. Модель предназначена для локального приватного инференса, в том числе когда полный GGUF слишком велик для одного компьютера. Семейство Qwen3-Coder ориентировано на задачи программирования и генерации текста. Пакет позволяет объединять вычислительные ресурсы нескольких машин, но требует подходящего кластера и Mesh LLM. Сведения о лицензии, контекстном окне и языковой поддержке следует уточнять в карточке исходной модели unsloth/Qwen3-Coder-480B-A35B-Instruct-GGUF.

inferencerlabs/Qwen3-Coder-Next-MLX-Q9 — это текстовая генеративная модель для задач программирования, основанная на Qwen/Qwen3-Coder-Next и адаптированная для запуска с использованием MLX. Репозиторий inferencerlabs предоставляет её в формате квантования q9, созданного модифицированной версией MLX. README не содержит точных сведений о разработчике базовой модели, размере, архитектуре, поддерживаемых языках и длине контекста. Модель предназначена для генерации текста и, прежде всего, для сценариев, связанных с написанием и обработкой кода. По приведённым результатам тестирования, на системе с M3 Ultra и 512 ГБ оперативной памяти она достигала примерно 68 токенов в секунду при одиночном запросе и 159 токенов в секунду суммарно при пакетной обработке шести запросов, используя около 83,5 ГиБ памяти. Ключевая особенность модели — высокоточное q9-квантование с заявленным близким к исходному качеством в тестах программирования. Для q9 указаны perplexity 1,21093, точность токенов 97,55% и показатель пропущенной дивергенции 10,50%; эти значения совпадают с приведёнными для q8.5 и немного уступают базовой модели. Ограничения включают высокие требования к памяти, зависимость производительности от оборудования и отсутствие в README сведений о лицензии. Условия использования базовой модели также необходимо уточнять отдельно.

Rombos-Coder-V2.5-Qwen-7b — дообученная модель для генерации кода, созданная автором Rombodawg на основе Qwen/Qwen2.5-Coder-7B-Instruct. В карточке указано, что instruct-модель была объединена с базовой моделью методом TIES в рамках подхода Continuous Finetuning; метаданные классифицируют результат как дообучение. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Она принимает текстовые запросы и генерирует текст, в том числе программный код; контекст — до 32 768 токенов. Карточка заявляет о более высокой производительности по сравнению с исходной instruct- и базовой моделями, однако опубликованных бенчмарков пока нет. Модель предназначена для диалогового применения и задач с кодом. Распространяется под лицензией Apache-2.0.