II.3Рефакторинг, миграция и модернизация

unsloth/Kimi-K3-GGUF — GGUF-версия открытой мультимодальной агентной модели Kimi K3, разработанной Moonshot AI и подготовленной Unsloth. Модель предназначена для длительных задач программирования, работы с большими репозиториями, использования терминальных инструментов, глубокого исследования, автоматизации знаний и мультимодальных сценариев, включая работу с визуальными материалами, интерактивными интерфейсами, CAD и видеомонтажом. Модель построена на архитектуре Mixture-of-Experts с общим числом параметров 2,8 трлн и примерно 104 млрд активируемых параметров. Она использует Kimi Delta Attention (KDA), Attention Residuals и Stable LatentMoE: из 896 экспертов для каждого токена выбираются 16. Архитектура включает 93 слоя, в том числе 69 KDA- и 24 Gated MLA-слоя, а также один плотный слой. Kimi K3 поддерживает нативную работу с текстом, изображениями и видео и имеет контекстное окно до 1 млн токенов. К сильным сторонам относятся большой контекст, нативная мультимодальность, высокая масштабируемость MoE и ориентация на автономные многоэтапные задачи с минимальным контролем человека. Для запуска GGUF-версии требуется совместимый llama.cpp fork Unsloth или Unsloth Studio; доступны варианты квантования, при этом Q8 обозначен как вариант без потерь точности относительно полной точности и существенно больше Q4. Языки модели в README не указаны. Веса распространяются по лицензии Kimi K3 License; точные условия следует проверять в тексте этой лицензии.

JANGQ-AI Laguna-S-2.1-JANG_2L — квантованная сборка модели Poolside Laguna-S-2.1, подготовленная Jinho Jang для запуска на Apple Silicon. Это MoE-модель для генерации текста, агентного программирования и длительных задач разработки; базовая архитектура LagunaForCausalLM содержит 48 слоёв, 256 маршрутизируемых экспертов и один общий эксперт. Исходная модель имеет 118 млрд параметров, около 8 млрд из них активны при обработке токена; размер сборки на диске — 44,3 ГБ. Веса адаптированы для Apple Silicon с применением AWQ к маршрутизируемым экспертам, тогда как внимание, общий экспертный путь, маршрутизатор и нормализации сохранены в высокой точности. Модель рассчитана на контекст до 1 048 576 токенов, поддерживает диалог и интерфейс вызова инструментов. README рекомендует запускать её в vMLX; заявленная лицензия — OpenMDW-1.1, унаследованная от исходной модели.

Laguna XS 2.1 — текстовая модель семейства Laguna от Poolside, предназначенная прежде всего для агентного программирования и длительных задач разработки ПО. Это архитектура Mixture-of-Experts с 33 млрд параметров в общей сложности и примерно 3 млрд активируемых на токен; в репозитории Hugging Face указано 2,6 млрд параметров. Модель состоит из 40 слоёв, использует смесь скользящего и глобального внимания, поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов. Модель подходит для работы с кодом, выполнения терминальных задач и взаимодействия с инструментами в агентных сценариях. README сообщает об улучшении результатов относительно Laguna XS.2 на SWE-bench Multilingual и терминальных задачах, однако бенчмарки не гарантируют аналогичного качества на конкретных проектах. Модель принимает и выдаёт текст; карточка не указывает поддерживаемые естественные языки. Веса доступны под лицензией OpenMDW-1.1, которую разработчик описывает как разрешающую коммерческое и некоммерческое использование и модификацию. Для применения следует учитывать условия лицензии и политики допустимого использования Poolside. Для локального запуска заявлена поддержка Transformers, vLLM, SGLang, Llama.cpp, Ollama и других перечисленных в карточке средств.

LongCat-2.0 — большая языковая модель семейства LongCat, представленная разработчиками модели. Это разреженная MoE-модель для генерации текста и диалогов; README указывает 1,6 трлн параметров и около 48 млрд активируемых на токен, тогда как метаданные репозитория указывают 42,1 млрд параметров. В карточке заявлены архитектура LongcatCausalLM и контекст 262 144 токена. Модель предназначена для программирования, понимания кода, редактирования репозиториев, автоматизированного выполнения задач и агентных сценариев. Она поддерживает интерфейс вызова инструментов; в README также описаны LongCat Sparse Attention для длинного контекста и ускорение декодирования с прогнозированием нескольких токенов. Вход и выход — текст. README сообщает о предварительном обучении более чем на 35 трлн токенов и развёртывании на GPU и NPU. Для GPU описана поддержка SGLang и рекомендована конфигурация из 16 H20; часть механизма Hierarchical Indexing при этом недоступна. Разработчик предупреждает, что модель не была специально спроектирована или всесторонне проверена для всех прикладных сценариев. Лицензия репозитория — MIT.

MiniMax-M1-40k — открытая по весам языковая модель MiniMax AI для рассуждений, генерации текста и работы в агентных сценариях. Она использует гибридную архитектуру Mixture-of-Experts с механизмом lightning attention и обучалась с подкреплением на задачах от математических рассуждений до программной инженерии. Вариант 40k рассчитан на бюджет рассуждений до 40 тысяч токенов; метаданные указывают 21,6 млрд параметров и контекст до 10 240 000 токенов. Модель подходит для решения сложных математических задач, написания и анализа кода, работы с длинными документами и использования инструментов через интерфейс function calling. В карточке приведены результаты тестирования на математических, программных, агентных и длинноконтекстных задачах; авторы рекомендуют температуру 1,0 и top_p 0,95. Модель принимает и генерирует текст. README описывает её как модель общего назначения, но не перечисляет поддерживаемые естественные языки. Лицензия репозитория — Apache-2.0. Для воспроизведения результатов стоит учитывать, что оценки SWE-bench получены на выбранном подмножестве задач с описанной авторами методикой.

MiniMax-M3 — мультимодальная модель компании MiniMax для диалогов, работы с изображениями и видео, программирования и агентных задач. Она принимает текст и визуальные данные, объединяя их обработку благодаря обучению на смешанных модальностях с самого начала. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд. Архитектура использует разреженное внимание MiniMax Sparse Attention (MSA) и поддерживает контекст до 1 млн токенов. Разработчик заявляет об ускорении обработки длинного контекста относительно M2 и о сильных результатах в длительных агентных задачах, включая программирование и совместную работу. Модель доступна через MiniMax Agent и API, а также для локального запуска на Transformers с весами safetensors. Лицензия указана как other; конкретные условия следует проверить в карточке модели. В README не перечислены поддерживаемые естественные языки и отдельные ограничения качества.

Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

Карточка модели NaiveAI/Naive-N0.5-Flash-FP8-Draft на Hugging Face совпадает с карточкой NaiveAI/Naive-N0.5-Flash, поэтому описание составлено по ней. Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

Orca-2-4B-hight — текстовая модель генерации на архитектуре Qwen3ForCausalLM, опубликованная roskosmos19. Это производная от Qwen3-4B модель с фокусом на программирование и агентные сценарии: она может вести диалог, рассуждать и формировать вызовы инструментов. По описанию автора, переход к генерации за один проход вместо обязательной трёхэтапной схемы сокращает задержку и стоимость работы; длинный ответ генерируется по необходимости. Модель содержит 3,7 млрд параметров и поддерживает контекст до 32 768 токенов. Для развёртывания указана библиотека Transformers; файлы репозитория представлены в формате safetensors. Автор рекомендует квантованные варианты Q4_K_M или AWQ для ускорения, но они не заявлены как формат файлов этой модели. Модель предназначена для генерации и анализа кода, решения задач с использованием инструментов и диалоговой помощи при разработке. В README нет сведений о поддерживаемых естественных языках. Лицензия — Apache 2.0.

Ornith-1.5-27B-A3B-Coder-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-Coder, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа программного кода, задач рассуждения и сценариев локального запуска через llama.cpp. Она построена на архитектуре Qwen3.5-MoE и использует разреженную структуру Mixture-of-Experts: около 26,66 млрд общих параметров, из которых активно используются примерно 3 млрд. В составе модели 184 эксперта, 8 из них выбираются на шаге генерации, а также один дополнительный MTP-слой для многошагового предсказания. Модель представлена в форматах от F16 до сильно сжатых вариантов IQ2 и Q2, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0; для квантов применялась индивидуальная importance matrix. Заявлена поддержка английского языка, текстового ввода и вывода, рассуждений и кода. В README также указана возможность работы с изображениями, но для этого требуется отдельно поставляемый vision projector mmproj; сами веса модели текстовые. Рекомендуемый контекст при запуске llama.cpp составляет до 262144 токенов, а использование reasoning budget считается обязательным. Сильные стороны модели — сочетание крупной общей ёмкости с низким числом активных параметров, широкий выбор уровней квантования, поддержка MoE, MTP, reasoning и локального инференса, а также наличие отдельного проектора для мультимодального режима. Ограничения включают необходимость подбирать квантование под доступную память, возможное заметное ухудшение качества в самых компактных вариантах и потенциально высокую задержку при длинных рассуждениях. Модель распространяется по лицензии Apache-2.0.

Ornith-1.5-9B — плотная языковая модель примерно на 9 млрд параметров семейства Qwen3.5, представленная в карточке как лёгкая модель семейства Ornith-1.5. Она предназначена для диалогов и агентных сценариев, включая программирование, решение задач с инструментами и работу с длинными входными данными. Модель поддерживает вызов инструментов через совместимый с OpenAI интерфейс и контекст до 262 144 токенов; README описывает расширение окна примерно до миллиона токенов с помощью YaRN, с возможным снижением качества на обычных запросах. В карточке Ornith-1.5 описана как результат развития Ornith-1.0 с генерацией обучающих задач, поиском стратегий и обучением с подкреплением; указанная модель позиционируется как вариант для эффективного развёртывания. Представлены результаты бенчмарков для программных и агентных задач, а также измерения показывают меньше отказов, чем у сравниваемой исходной модели. Репозиторий содержит веса safetensors и использует Transformers. Лицензия — MIT. README указывает на плотную архитектуру Qwen3.5 и размер около 9 млрд параметров, однако также описывает семейство как основанное на Qwen3.5 и Gemma4; точную связь именно этого чекпойнта с базовой моделью из доступных сведений установить нельзя. Метаданные включают тег image-text-to-text, но карточка описывает текстовое поколение и не подтверждает визуальный ввод для этой версии.

Qwen2.5-14B-Coder-Merge — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом Model Stock на базе Qwen/Qwen2.5-14B. В объединение вошли Qwen2.5-Coder-14B, Qwen2.5-Coder-14B-Instruct и Rombos-Coder-V2.5-Qwen-14b. Модель содержит 14 млрд параметров, работает через Transformers и распространяется в формате safetensors с весами bfloat16; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода и диалогового взаимодействия по задачам программирования. Её можно использовать для написания, анализа и исправления кода, а также для общения с инструментами через соответствующий интерфейс. Вход и выход представлены текстом; конкретный набор поддерживаемых естественных языков в предоставленных данных не описан. Лицензия в предоставленных источниках не указана. Поскольку модель получена слиянием нескольких чекпойнтов, её поведение и качество могут отличаться от исходных моделей; README не приводит результатов оценки или подробных ограничений.

mlx-community/Qwen2.5-Coder-14B-bf16 — конвертированная в формат MLX версия Qwen/Qwen2.5-Coder-14B, подготовленная сообществом mlx-community с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2, предназначенная для генерации кода и диалогового взаимодействия с ним; размер модели — 14 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. Она подходит для генерации фрагментов и функций кода, помощи при программировании и работы с запросами о коде. Метаданные указывают английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка этой версии подтверждает конвертацию формата, но не описывает отдельного дообучения поверх базовой модели.

Qwen2.5-Coder-3B-Instruct-GPTQ-Int4 — инструкционная причинно-следственная языковая модель для работы с программным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа, рассуждений и исправления кода, а также может использоваться в чат-сценариях и как основа для code agents. Модель сохраняет общие способности Qwen2.5, включая работу с математическими и другими текстовыми задачами. В README явно указан английский язык. Модель содержит 3,09 млрд параметров, из которых 2,77 млрд не относятся к embedding-слою, и включает 36 слоёв. Архитектура построена на transformers с RoPE, SwiGLU, RMSNorm, bias в Attention QKV и связанными word embeddings; используется GQA с 16 головами для Q и 2 для KV. Контекст составляет до 32 768 токенов. Это GPTQ-квантизированная 4-битная версия instruction-tuned модели Qwen2.5-Coder-3B-Instruct, рассчитанная на более эффективное использование памяти. Сильные стороны модели — специализация на программировании, генерации и исправлении кода, поддержка длинного контекста и сниженные требования к памяти благодаря 4-битной квантизации. README не приводит конкретных результатов тестов, требований к GPU, данных о качестве на отдельных языках программирования или ограничений, связанных с квантизацией. Модель распространяется по лицензии qwen-research; точные условия следует уточнять в указанном LICENSE.

duyntnet/Qwen2.5-Coder-3B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной языковой модели Qwen2.5-Coder-3B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации, анализа и исправления программного кода, а также для создания code agents и решения задач, связанных с математикой и общими текстовыми сценариями. Она работает как causal language model и поддерживает запуск через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые интерфейсы. Исходная модель содержит 3,09 млрд параметров, 36 слоёв и поддерживает контекст до 32 768 токенов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-проекциях внимания, связанные эмбеддинги слов и grouped-query attention: 16 голов для Q и 2 для KV. В карточке указана английская локализация; заявленная модальность — текст, формат репозитория — GGUF. Обучение включало предварительное и последующее дообучение на данных с исходным кодом, связями между текстом и кодом и синтетическими примерами. К сильным сторонам относятся специализация на программировании, генерации, рассуждении и исправлении кода, а также возможность локального запуска благодаря GGUF-квантизации. Ограничения включают отсутствие заявленной поддержки других модальностей и языков, кроме английского, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия указана как other, без подробных условий в README.

Qwen2.5-Coder-7B-Instruct-GGUF — это набор GGUF-квантизаций инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанный пользователем ThomasBaruzier на основе модели Qwen/Qwen2.5-Coder-7B-Instruct. Квантизации созданы с использованием llama.cpp и опции imatrix, с калибровочным файлом Bartowski. Модель предназначена для генерации текста и работы с программным кодом в сценариях локального запуска через совместимое программное обеспечение, включая llama.cpp. В метаданных указан английский язык, однако подробные сведения о языковой поддержке и контекстном окне отсутствуют. Доступны варианты квантизации IQ и Q2–Q5 с размером примерно от 1,8 до 5,2 ГБ. Они позволяют выбирать компромисс между требованиями к памяти и качеством: согласно приведённой таблице, меньшая perplexity и более высокая точность обычно достигаются у более крупных вариантов, при этом лучшие показатели среди указанных имеют Q5_K_S и Q5_K_M. Ограничения зависят от выбранного уровня квантизации: компактные варианты требуют меньше ресурсов, но могут сильнее терять качество. Лицензия — Apache-2.0.

legraphista/Qwen2.5-Coder-7B-Instruct-IMat-GGUF — GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также решения задач, связанных с программированием. В метаданных указан английский язык и поддержка text-generation. Модель содержит около 7 миллиардов параметров и распространяется в формате GGUF для запуска с использованием llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; часть низкобитных вариантов использует IMatrix для улучшения качества при квантизации. Преимуществами являются широкий выбор размеров файлов и возможность локального запуска, а ограничениями — потенциальная потеря качества в более агрессивно квантизированных версиях, отсутствие мультимодальности и неуказанный в README размер контекста. Квантизацию выполнил legraphista с использованием llama.cpp. Модель распространяется по лицензии Apache-2.0.

pragmaticcs/Qwen-35B-A3B-SignOfFour-Coder-GGUF — объединённая модель семейства Qwen 3.6 от pragmaticcs, предназначенная для разработки программного обеспечения, генерации кода и агентного выполнения инструментов. Это причинная языковая MoE-модель с 35 млрд параметров, из которых активны около 3 млрд на токен; в архитектуре 40 декодерных слоёв. Модель объединяет базовую Qwopus3.6-35B-A3B-Coder с тремя специализированными дообучениями методом DARE-TIES и послойным синусоидальным масштабированием. Модель работает с текстом и выдаёт текст, включая код и команды для инструментов. В README указана поддержка многоуровневого рассуждения и агентного взаимодействия через шаблон чата Qwen 3.x. Веса доступны в формате GGUF, включая варианты BF16, Q4_K_M, Q5_K_M, Q6_K и Q8_0; лицензия — Apache-2.0. Мультимодальные веса зрения и головы предсказания нескольких токенов удалены. Карточка не приводит размер контекстного окна.

lemuralabs/Qwen3.6-27B-Coder-uncensored-MXFP8 — мультимодальная модель для генерации текста и кода, выпущенная исследовательской командой Lemura Labs. Она создана на основе Qwen/Qwen3.6-27B и производных моделей Jackrong с дистилляцией рассуждений и дообучением для агентного программирования. Модель ориентирована на написание и анализ кода, агентные сценарии, работу с инструментами и function calling, а также на обработку изображений. Модель содержит 27 млрд параметров, поддерживает заявленные языки English, Chinese, Spanish, Russian и Japanese, а также мультиязычные сценарии. Она использует формат MLX и квантование MXFP8 с 8-битным микромасштабированием; размер файлов составляет около 29,5 ГБ. Контекст заявлен до 262K токенов. Vision-компоненты и параметры multi-token prediction сохранены в fp16, поэтому доступны нативное speculative decoding без внешнего drafter и обработка изображений. Для запуска рекомендуется Apple Silicon с не менее чем 36 ГБ оперативной памяти. Сильными сторонами являются высокая точность локального инференса, специализированная настройка под программирование, мультимодальность и поддержка нативного MTP. В README также заявлены результат 67,0% на SWE-bench Verified для исходной Coder-модели, снижение частоты отказов с 86 до 8 из 100 тестовых запросов и KL divergence 0,007 после abliteration. Ограничения включают зависимость от экосистемы Apple MLX и значительные требования к памяти; заявленные метрики относятся к исходной или специализированной процедуре оценки и не гарантируют аналогичные результаты во всех задачах. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen3.6-27B-GGUF — квантованное представление открытой модели Qwen3.6-27B, разработанной командой Qwen. Репозиторий содержит веса в формате GGUF, сгенерированные с помощью llama.cpp. Модель представляет собой каузальную языковую модель с vision encoder и предназначена для локального запуска и интеграции с совместимыми инструментами вывода. Основные сценарии применения — программирование, работа с интерфейсным кодом, анализ репозиториев и агентные задачи разработки. Модель также поддерживает обработку изображений благодаря мультимодальной архитектуре. Она содержит около 27 млрд параметров, 64 слоя и имеет нативный контекст 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. В архитектуре используются Gated DeltaNet, Gated Attention и feed-forward блоки. Поддерживаемые языки в README не указаны. К сильным сторонам относятся ориентация на реальные задачи разработки, работа с длинным контекстом и сочетание текстовых и визуальных входов. Ограничения, требования к конкретному уровню квантования и потреблению ресурсов для данного файла в README не приведены; характеристики зависят от выбранного GGUF-варианта и оборудования. Модель распространяется по лицензии Apache 2.0.

WaveCut/Qwen3.8-Flash-Next-REAM-288-Q8E-MLX — квантизированная MLX-версия модели WaveCut/Qwen3.8-Flash-Next-REAM-288, построенная на базе Qwen3.8-Flash-Next. Разработчик карточки — WaveCut; метод REAM создан исследователями Samsung SAIL Montréal. Модель относится к мультимодальному классу image-text-to-text, однако в README подробно описано преимущественно применение для текстовой генерации и agentic coding. Она предназначена для программирования, рефакторинга, математических и общих текстовых задач, а также работы с английским, русским, кодом и редкими сущностями. Точный размер базовой модели и длина контекста в README не указаны. Архитектура использует mixture-of-experts: сохранено 288 экспертных слотов, а 224 удаляемых эксперта не отбрасываются, а объединяются с наиболее похожими сохранёнными экспертами. Основная часть модели квантизирована до 4 бит, экспертные веса представлены в 8-битном формате с группировкой gs64; модель совместима с mlx-vlm и поддерживает стандартный runtime с qwen4_exp. По сравнению с REAP-288 объединение экспертов лучше сохраняет близость к исходной 512-экспертной модели по KL-метрике, а опубликованные 4-битные сравнения показывают сопоставимые или немного более высокие результаты на HumanEval, GSM8K и тесте редких имён, хотя различия статистически незначимы. Ограничение — большой размер текущей сборки: около 107 ГБ, из-за чего она не помещается на GPU с 80 ГБ памяти; генеративное тестирование именно этой сборки не проводилось. Для спекулятивного декодирования требуется отдельный MTP drafter. Лицензия указана как qwen-community-license-1.0.

Qwen3.8-Flash-Next REAP-288 (GGUF) — это текстовая генеративная модель класса примерно 180B с архитектурой MoE, созданная sh0wie на основе Qwen/Qwen3.8-Flash-Next. В каждой MoE-слойной структуре число экспертов сокращено с 512 до 288 методом REAP. Модель преобразована непосредственно из полноточного источника bf16 в формат GGUF за один этап квантования и предназначена для запуска через llama.cpp, Ollama, LM Studio и совместимые инструменты. Модель ориентирована прежде всего на агентное программирование и задачи генерации, анализа и рефакторинга кода. В тесте HumanEval вариант после pruning показал результат 91,5% (149 из 164) против 93,9% у полной модели, однако измерение выполнено на ветке MLX 4-bit, а для GGUF указано только совпадение выбора сохранённых экспертов и общего bf16-источника. Доступны варианты Q4_K_M размером 78 ГБ, Q5_K_M размером 87 ГБ и Q8_0 размером 116 ГБ: увеличение размера обычно повышает точность, но требует больше памяти и снижает скорость. К сильным сторонам относятся высокая производительность в задачах программирования, выбор нескольких уровней квантования и совместимость с распространёнными локальными рантаймами. Ограничения включают возможное ухудшение качества за пределами распределения агентных задач программирования, отсутствие доверительных интервалов в оценках и отсутствие проверки работы с изображениями после pruning. Языки и размер контекста в README не указаны. Используется Qwen Community License 1.0, унаследованная от базовой модели.

Qwen3-Coder-30B-A3B-Instruct GGUF — квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, подготовленная ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных для отдельных тензоров, чтобы сохранить высокое качество при малой разрядности. Модель предназначена прежде всего для генерации и анализа программного кода, а также сценариев, связанных с вызовом функций; это отражено в используемых при оценке бенчмарках HumanEval, LiveCodeBench и BFCL-V3. Модель распространяется в формате GGUF и предназначена для локального запуска, в частности через llama.cpp и Ollama. Доступны варианты для CPU с преимущественно KQ-квантизацией и для GPU с гибридным подходом KQ/IQ. Размер файлов составляет примерно от 10,1 до 16,0 ГБ, а средняя разрядность — от 2,65 до 4,20 бит на вес, что позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. README не содержит сведений о контекстном окне, поддерживаемых языках, точной архитектуре или мультимодальности. Сильными сторонами являются широкий выбор аппаратно-оптимизированных вариантов, низкие требования к памяти по сравнению с полной моделью и возможность локального использования. Ограничением выступает компромисс между степенью квантизации и качеством: более компактные варианты могут уступать более крупным по точности, а фактическая производительность зависит от оборудования и выбранного файла. Модель распространяется по лицензии Apache-2.0.

Это пакет слоёв GGUF для модели Qwen3-Coder-30B-A3B-Instruct-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF. Он сохраняет исходное распределение GGUF в отдельных артефактах по слоям для распределённого инференса на локальном кластере Mesh LLM. Модель предназначена для генерации кода и диалоговых сценариев, включая локальный приватный запуск, обслуживание на нескольких машинах, когда полный файл не помещается на одном узле, и работу через локальный API, совместимый с OpenAI Chat Completions. Вариант пакета обозначен как UD-Q4_K_XL; репозиторий содержит layer-package, а не единый файл GGUF. Пакет основан на семействе Qwen3 и исходной инструкционной модели для программирования. Лицензионные условия следует сверять с карточкой исходной модели; в доступном README конкретная лицензия не приведена.

Qwen3-Coder-30B-A3B-Instruct-W8A8 — это 8-битная версия модели Qwen3-Coder-30B-A3B-Instruct, опубликованная ramblingpolymath и основанная на исходной модели Qwen. Квантизация весов и активаций по схеме W8A8 выполнена с использованием LLM-Compressor. Модель предназначена для генерации текста и прежде всего для программирования, агентного написания кода, работы с браузером и понимания репозиториев большого размера. Модель является каузальной языковой моделью с архитектурой mixture-of-experts: всего 30,5 млрд параметров, из которых при обработке активируется около 3,3 млрд; используется 48 слоёв, 128 экспертов и 8 активируемых экспертов, а также GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов с помощью YaRN. Поддерживается только режим без рассуждений, без блоков <think></think>. Ключевые преимущества версии W8A8 — примерно вдвое меньшее потребление памяти по сравнению с FP16 и потенциально более высокая скорость инференса на совместимом оборудовании. Ограничения включают зависимость производительности от аппаратной поддержки 8-битного инференса, рекомендуемую архитектуру Ampere и более старые поколения, а также отсутствие в README подробностей о поддерживаемых языках и количественной оценке потери качества после квантизации. Лицензия — Apache-2.0.

Qwen3-Coder-480B-A35B-Instruct в репозитории Unsloth — инструкционная MoE-модель для генерации кода и агентного программирования. Она поддерживает работу с инструментами через специальный формат вызовов функций и предназначена для сценариев, где нужно анализировать крупные репозитории, писать код и выполнять задачи с браузером. В карточке заявлены результаты среди открытых моделей, сопоставимые с Claude Sonnet на агентном программировании и работе с браузером. В README описана архитектура причинной языковой модели Qwen3 MoE: 480 млрд параметров всего, 35 млрд активируемых, 160 экспертов и 8 активируемых экспертов. Метаданные репозитория указывают 15,4 млрд параметров; контекст составляет 262 144 токена. Модель работает в режиме без рассуждений (non-thinking). Лицензия — Apache-2.0. Карточка Unsloth связывает репозиторий с Qwen/Qwen3-Coder-480B-A35B-Instruct как производной моделью; отдельные сведения о конкретных изменениях весов в README не приведены.

mlx-community/Qwen3-Coder-Next-bf16 — конвертированная в формат MLX версия Qwen/Qwen3-Coder-Next, подготовленная сообществом mlx-community. Это языковая модель с архитектурой Qwen3 Next и причинным декодером, предназначенная для генерации кода и работы в кодирующих агентах, включая многошаговую разработку и взаимодействие с инструментами. Модель поддерживает диалоговый режим, принимает текст и генерирует текст; заявленная длина контекста составляет 262144 токена, общее число параметров — 2,3 млрд. Репозиторий содержит веса в формате safetensors и предназначен для запуска с MLX, в частности через mlx-lm. Лицензия — Apache-2.0. README указывает на конвертацию исходной модели в формат MLX; метаданные также связывают её с Qwen/Qwen3-Coder-Next.

Ba2han/QwQenSeek-coder — объединённая 32-миллиардная языковая модель на архитектуре Qwen2, созданная методом Model Stock с помощью mergekit. В объединение вошли Qwen2.5-32B-Instruct, Qwen2.5-Coder-32B-Instruct, DeepSeek-R1-Distill-Qwen-32B и QwQ-32B-Preview; базой указана Qwen/Qwen2.5-32B. Модель рассчитана на генерацию текста и диалог, включая задачи программирования и рассуждений. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов. В метаданных указаны интерфейсы чата и вызова инструментов. Карточка не уточняет набор поддерживаемых естественных языков. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана. Поскольку это слияние нескольких моделей, поведение и качество на конкретных задачах могут зависеть от используемых промптов и требовать проверки в целевом сценарии.

starcoder2-15b-instruct-v0.1-GGUF — это квантизированная в формате GGUF версия StarCoder2-15B-Instruct, разработанной командой BigCode и опубликованной в вариантах квантования пользователем bartowski. Модель предназначена для генерации кода и работы в формате инструкций, включая написание, исправление и анализ программ, предсказание результатов выполнения и решение задач программирования. Модель основана на bigcode/starcoder2-15b и содержит около 15 млрд параметров. Доступны варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K и IQ3 объёмом примерно от 7 до 17 ГБ, что позволяет выбирать между качеством и требованиями к памяти. README не указывает поддерживаемые языки программирования и размер контекста. Модель использует специальный формат инструкций и не поддерживает системный промпт. Сильными сторонами являются специализация на задачах программирования и несколько вариантов квантования для локального запуска с разным балансом качества и потребления памяти. В бенчмарках указаны результаты HumanEval pass@1 72,6%, MBPP 75,2% и другие показатели LiveCodeBench и DS-1000, однако фактическое качество зависит от выбранного уровня квантования и сценария использования. Модель предназначена для текстовой генерации и не заявлена как мультимодальная. Лицензия — BigCode OpenRAIL-M.

WaveCoder-Pro-6.7B — языковая модель для программирования из серии WaveCoder, разработанной авторами работы «WaveCoder: Widespread And Versatile Enhanced Instruction Tuning with Refined Data Generation». Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров; она предназначена для генерации кода и выполнения инструкций по задачам программирования. Контекст составляет 16 384 токена, модель работает с текстом и выдаёт текст. Обучение проводилось на синтетических данных, созданных моделями OpenAI на основе подмножества CodeSearchNet. Данные охватывают генерацию, краткое описание, перевод и исправление кода. В README приведены результаты WaveCoder-Pro-6.7B на HumanEval, MBPP, HumanEvalFix и HumanEvalExplain; численные результаты являются оценками авторов карточки. Модель доступна под лицензией MIT. При использовании следует учитывать условия OpenAI, относящиеся к синтетическим данным и их наборам.