II.3Рефакторинг, миграция и модернизация

saidutta69/Qwen2.5-Coder-3B-Instruct-heretic — декензурированная версия Qwen2.5-Coder-3B-Instruct, созданная с помощью Heretic v1.2.0 методом направленной абляции. Изменения внесены непосредственно в веса attention и MLP без дообучения, поэтому базовые знания и следование инструкциям в основном сохранены. Модель предназначена для локального запуска разработчиками, генерации и анализа кода, работы в роли программного копилота и локальных coding agents. Модель является текстовой causal language model размером около 3,1 млрд параметров, поддерживает английский язык и распространяется в форматах GGUF, включая F16 и различные варианты квантования. Она совместима с llama.cpp, Ollama, LM Studio, Jan, Transformers, vLLM и SGLang, а благодаря небольшому размеру подходит для потребительских GPU, CPU и Apple Silicon. Контекст модели в README не указан. Доступны варианты весов примерно от 1,19 до 5,75 ГБ, при этом для контекста требуется дополнительная память. Главная особенность — подавление отказов от выполнения запросов: согласно приведённому сравнению, модель отказала в 3 из 100 тестов против 100 из 100 у исходной версии, при этом KL-дивергенция составила 0,0163. Это делает её более прямолинейной для локального использования, но одновременно снижает встроенные защитные ограничения. Модель не добавляет новых возможностей или механизмов проверки фактов, наследует ограничения и предвзятость базовой модели и не рекомендуется для неотмодерированных публичных сервисов. Лицензия унаследована от базовой модели и указана как qwen-research; для коммерческого использования необходимо ознакомиться с условиями лицензии Qwen по указанной ссылке.

Kondara/Qwen2.5-Coder-7B-Instruct-Q4_K_M-GGUF — это квантованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для работы с программным кодом, включая задачи программирования и чат-взаимодействия. Модель имеет размер 7B параметров, относится к семейству Qwen2.5-Coder и представлена в формате квантования Q4_K_M, что позволяет запускать её локально с llama.cpp через CLI или сервер. В карточке указана поддержка английского языка; другие языки и мультимодальные возможности не заявлены. В качестве примера запуска используется контекст длиной 2048 токенов, но максимальный размер контекста в README не указан. К сильным сторонам относятся специализация на коде, инструкционное обучение и возможность локального запуска в компактном квантованном формате. Ограничения связаны с размером 7B, возможным снижением точности из-за квантования и отсутствием подробных данных о качестве, поддерживаемых языках программирования и максимальном контексте. Лицензия — Apache-2.0, унаследованная от исходной модели.

Qwen2.5-Coder-7B-Swift-Lm — дообученная версия Qwen/Qwen2.5-Coder-7B-Instruct от eamiller34 для разработки на Swift. Модель генерирует код и отвечает на запросы в диалоговом формате; она специально адаптирована к Swift 6 Concurrency, включая Actors и Sendable, фреймворку Observation и SDK Apple — SwiftUI, AppKit и Combine. Модель содержит 7,1 млрд параметров и распространяется в формате GGUF F16, который позволяет запускать её локально, в том числе на Apple Silicon через Metal с помощью LM Studio. Вход и выход — текст. В метаданных указана лицензия other; конкретные условия использования следует сверять с карточкой модели и лицензией базовой модели.

Qwen3.8-27B Gold10K Coding — архивная копия модели для генерации кода, созданная на основе локально дообученной Qwen3.8-27B и слитого LoRA-адаптера Gold10K. Модель использует плотную архитектуру Qwen3.5 для авторегрессионной генерации текста; в карточке указаны 22,3 млрд параметров и контекст до 262 144 токенов. Модель рассчитана на диалоговое взаимодействие и задачи программирования, например генерацию и доработку кода. Репозиторий содержит объединённые веса в формате safetensors и исходный LoRA-адаптер. Разработчик — koreallmdev; модель описана как локальная доработка и архивная копия. Лицензия — Apache 2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-mlx-oQ4e-1M — это релиз модели Qwen3.8-27B Cold Fusion, созданной на основе объединения весов DavidAU. Solstice-AI выполнила последующее квантование, масштабирование контекста и упаковку для Apple MLX. Модель предназначена для локального запуска на компьютерах Apple Silicon, включая MacBook с 16 или 24 ГБ памяти, через Anvil и MLX-LM с ускорением Metal. Модель содержит около 27 млрд параметров и использует смешанную oQ4e-квантизацию с калибровкой по матрице важности; размер релиза составляет примерно 17,02 ГБ. Заявлена гибридная архитектура Qwen 3.8: около 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а остальные — Grouped-Query Attention. Также заявлены аппаратная Multi-Token Prediction для ускорения генерации и встроенное YaRN-масштабирование RoPE до 1 048 576 токенов. В карточке указаны английский и китайский языки. Основные сценарии — рассуждение, программирование, агентная разработка ПО, работа с большими контекстами и многошаговыми задачами. README приводит высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench, CoWorkBench и тестах ARC, однако эти показатели следует воспринимать как заявленные авторами и зависящие от методики оценки. Ограничениями являются требования к совместимому Apple Silicon и программному стеку, последствия 4-битной квантизации, а также значительные вычислительные и временные затраты при использовании контекста до миллиона токенов. Релиз распространяется по лицензии Apache 2.0.

Qwen3.8-Flash-Next REAP-288 (MLX, 4-bit) — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Модель предназначена прежде всего для локального запуска на компьютерах Mac с 128 ГБ памяти и агентских сценариев в стиле Claude Code, включая генерацию и рефакторинг кода. Сборка использует библиотеку mlx-vlm и лицензию qwen-community-license-1.0. Это MoE-модель класса 180B параметров: около 125B приходится на основную модель и 51B — на таблицу n-gram-эмбеддингов. Архитектура включает 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen; в каждом MoE-слое используются 288 из 512 экспертов с маршрутизацией top-10. Весы мультимодальной vision tower сохранены, поэтому заявлена поддержка изображений, однако оценивалось только качество работы с текстом. Контекст и полный набор поддерживаемых языков в README не указаны. По сравнению с базовой 512-экспертной 4-битной сборкой размер на диске снижен с 98 до 68 ГБ, а результат HumanEval pass@1 составляет 91,5% против 93,9%. На Mac модель занимает около 68 ГБ оперативной памяти, либо около 39 ГБ при потоковой загрузке n-gram-таблицы с NVMe. Скорость декодирования зависит от среды и составляет примерно 28 токенов/с в стандартном mlx-vlm и 37–65 токенов/с в pmlx. Поддерживается speculative decoding с MTP, но его преимущество зависит от оборудования; на M4 прирост может отсутствовать. Ограничения включают снижение качества относительно полной сборки, недостаточно проверенную мультимодальность и высокие требования к памяти.license_name: qwen-community-license-1.0

Qwen3-Coder-30B-A3B-Instruct-4bit-dwq-v2 — это инструкционная языковая модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель создана на основе Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm на совместимом оборудовании Apple MLX. Модель имеет конфигурацию 30B-A3B и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую генерацию и диалоговый режим через chat template. README не содержит достоверных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, мультимодальности, результатах тестирования или конкретных сценариях применения. Преимуществами модели являются специализация семейства Qwen3-Coder на задачах программирования, инструкционный режим и оптимизация для экосистемы MLX. Ограничения включают зависимость от совместимого окружения MLX и возможные потери качества из-за 4-битного квантования. Модель распространяется по лицензии Apache-2.0.

FreedomAISVR публикует GGUF-квантизацию MXFP4 модели Qwen3-Coder-30B-A3B-Instruct. Это разреженная MoE-архитектура Qwen3MoE с 30 млрд параметров, из которых при обработке активны около 3,6 млрд; в составе 128 экспертов, одновременно активируются 8. Модель предназначена для генерации текста в диалоговом формате и задач программирования, включая агентные сценарии, описанные для базовой модели Qwen3-Coder. Веса экспертов квантизированы в MXFP4 с блоками по 32 элемента, веса внимания — в Q8_0, прочие веса сохранены в F32/F16. Репозиторий использует формат GGUF и библиотеку llama.cpp для локального запуска. Базовая модель рассчитана на длинный контекст до 262 144 токенов. Карточка не приводит отдельной оценки качества этой квантизации; уменьшенная точность может влиять на качество вывода. Лицензия указана как other, поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория.

bartowski/starcoder2-15b-instruct-GGUF — это набор GGUF-квантизаций модели StarCoder2-15B-Instruct, разработанной TechxGenus и опубликованной в формате для запуска через llama.cpp. Квантизацию выполнил bartowski с использованием llama.cpp release b2354. Модель относится к классу text-generation и предназначена прежде всего для генерации и обработки программного кода, включая локальные сценарии запуска с ограниченными ресурсами. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K и Q8_0. Размер файлов составляет примерно от 6,19 до 16,96 ГБ. Q6_K отмечен как рекомендуемый вариант с очень высоким качеством, Q8_0 обеспечивает максимальное доступное качество, а варианты Q3 и Q2 требуют меньше памяти, но заметно уступают по качеству. Архитектура, поддерживаемые языки программирования, языки естественного языка, модальности и размер контекста в README не указаны. Сильной стороной модели является возможность локального использования в экосистеме llama.cpp с выбором компромисса между качеством и требованиями к памяти. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в представленном README подробностей о возможностях, бенчмарках и контекстном окне. Модель распространяется по лицензии BigCode OpenRAIL-M.

ticlazau/starcoder2-15b-instruct-rpgle — экспериментальная языковая модель для программирования на ILE RPG, созданная на базе архитектуры StarCoder2. Она предназначена для преобразования кода RPG из фиксированного формата в свободный, краткого пересказа кода и создания прототипов кода по текстовому описанию. Модель содержит 21,7 млрд параметров, принимает текст и имеет контекст до 16 384 токенов; в карточке указан английский язык. Для обучения использован закрытый датасет, созданный методом синтетической генерации данных. Модель распространяется по лицензии MIT.

QuantFactory/starcoder2-3b-instruct-GGUF — квантизированная версия модели TechxGenus/starcoder2-3b-instruct, подготовленная QuantFactory с использованием llama.cpp. Модель предназначена прежде всего для генерации кода и выполнения инструкций, связанных с программированием; для задач, не относящихся к кодированию, её возможности могут быть ограничены. В основе лежит StarCoder2 с 3 млрд параметров, дообученная на 0,7 млрд дополнительных высококачественных токенов, связанных с программным кодированием, в течение трёх эпох. При обучении использовались DeepSpeed ZeRO 3 и Flash Attention 2. Модель работает в формате инструкций Alpaca без системного промпта; в README приведён шаблон с секциями «Instruction» и «Response». Заявленный результат на HumanEval-Python составляет 65,9 pass@1. Сведения о поддерживаемых языках программирования, размере контекста и точном типе квантизации не указаны. К сильным сторонам относятся специализация на коде, компактный размер и доступность в формате GGUF для запуска через llama.cpp. Ограничения включают возможные ошибки и вводящие в заблуждение ответы, слабую пригодность для некодовых задач и ограниченное тестирование; перед применением в реальных системах рекомендуется дополнительная проверка безопасности. Лицензия — BigCode OpenRAIL-M.

SWE-agent-LM-32B GGUF — языковая модель для задач программной инженерии, разработанная в рамках проекта SWE-smith командой SWE-bench. Модель создана на базе Qwen/Qwen2.5-Coder-32B-Instruct и дообучена на 5 тысячах траекторий, сгенерированных SWE-agent и Claude 3.7 Sonnet. Представленная версия подготовлена в формате GGUF с использованием llama.cpp и совместима с фреймворком SWE-agent. Модель предназначена для работы программных агентов, решающих задачи разработки и исправления программного кода, включая сценарии, связанные с SWE-bench. Она ориентирована на генерацию текста и кода на английском языке. Известно, что модель содержит 32 миллиарда параметров; сведения о поддерживаемых модальностях, размере контекста и конкретном варианте квантования в README не указаны. Сильными сторонами являются специализация на программной инженерии, обучение на агентных траекториях и возможность локального запуска через совместимые инструменты. Ограничения включают отсутствие в предоставленных данных подробных результатов бенчмарков, характеристик производительности, требований к аппаратному обеспечению и описания поведения за пределами задач разработки ПО. Указана лицензия Apache-2.0.

TripleTrouble V1 — диалоговая языковая модель с разреженной архитектурой MoE, созданная OliviaRossi слиянием трёх специализированных моделей семейства Qwen 35B-A3B: KAT-Coder-V2.5-Dev, Ornith-1.5-35B-A3B и Qwen-AgentWorld-35B-A3B. Она предназначена для генерации и анализа кода, многошагового планирования вызовов инструментов и моделирования переходов состояния в средах вроде ОС, веба и Android. Модель поддерживает чат и интерфейс вызова инструментов; заявленный контекст — 262 144 токена. В README указано 34,7 млрд общих параметров и около 3,3 млрд активных на токен; метаданные каталога приводят 2,9 млрд параметров. Это текстовая модель, ориентированная прежде всего на английский и китайский языки. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. Заявления README о качестве и скорости не сопровождаются приведёнными результатами независимой оценки; на практике качество вызова инструментов и программирования следует проверять на целевых задачах.

USER2-1C-code-GGUF — GGUF-представление векторной модели PruhaNLP/USER2-1C-code, подготовленное Unimikes для локального запуска в llama.cpp, llama-server и LM Studio. Основа — ModernBERT-base, дообученная на кодовой базе 1С:Предприятие, включая язык BSL, структуру конфигураций и типовые библиотеки БСП. Модель предназначена для получения эмбеддингов и семантического поиска по коду 1С, построения RAG-систем и поиска похожих или дублирующихся процедур и функций. Она принимает текстовые запросы и фрагменты кода и выдаёт векторы размерностью 256 или 768; поддерживает контекст до 8192 токенов и CLS-пулинг. Репозиторий содержит веса GGUF в формате F16. Карточка описывает специализацию на 1С и BSL; метаданные указывают русский язык. Лицензия — Apache-2.0.

Wrench-4B-Qwen3.6-8E — экспериментальная специализированная SLM-модель для инструментов разработчика, опубликованная пользователем или организацией stancsz. Она создана на основе Qwen3.6-35B-A3B и предназначена для генерации текста и кода, работы с задачами разработки, чтения файлов и подготовки обзорных изменений в локальном репозитории. Модель содержит 3 881 244 016 параметров, использует веса ModelOpt NVFP4 W4A16 и рассчитана на контекст до 4 миллионов токенов в составе собственного пакета и локального окружения. Поставка включает tokenizer hook, локальный runtime, read-only verifier, long-context overlay и OpenAI-совместимый сервер. Для однозначных операций чтения и подготовки изменений может применяться механический маршрут без вызова модели, а неоднозначные запросы передаются модели. К сильным сторонам относятся специализация на developer-tools, поддержка длинного контекста, компактный размер и встроенная проверка предлагаемых операций. Ограничения связаны с экспериментальным статусом: README не подтверждает прохождение полной оценки на 220 случаях, достижение целевых показателей качества поиска, сопоставимости с MiniMax или производительности в production. Языки и точные архитектурные характеристики, помимо производного происхождения и параметров квантования, не указаны. Модель распространяется по лицензии Apache-2.0.

Zeta 2.1 — модель предсказания правок кода, разработанная Zed Industries и дообученная на ByteDance-Seed/Seed-Coder-8B-Base. По контексту кода, истории изменений и редактируемому фрагменту рядом с курсором она предлагает переписанное содержимое этого фрагмента; поддерживаются многообластные маркеры редактирования в формате SPM с префиксом, суффиксом и серединой. Модель имеет плотную архитектуру семейства Llama с классом LlamaForCausalLM и 7,6 млрд параметров. Она принимает текстовый контекст кода и выдаёт текст с предлагаемой правкой; нативная длина контекста — 32 768 токенов. Модель ориентирована на англоязычные сценарии, лицензия — Apache-2.0. Её назначение — подсказки для редактирования кода с учётом контекста проекта и предыдущих правок. Карточка не приводит оценки качества или список поддерживаемых языков программирования, поэтому пригодность для конкретного языка кода следует проверять отдельно.

CodeGemma 7B IT GGUF — квантизированная версия instruction-tuned модели CodeGemma 7B, разработанной Google и подготовленной в формате GGUF пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, включая написание функций и ответы на запросы разработчиков. Она работает с текстовыми запросами через llama.cpp и использует специальный шаблон диалога с маркерами ролей; системные сообщения не поддерживаются. Доступны варианты квантизации от Q8_0 до IQ1_S размером примерно от 2,16 до 9,07 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти, тогда как малые варианты подходят для ограниченных ресурсов за счёт заметного снижения качества. README не содержит сведений о размере контекста, поддерживаемых языках, мультимодальности или точной архитектуре базовой модели, поэтому эти характеристики нельзя определить по представленным данным. Модель удобна для локального запуска и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничениями являются отсутствие поддержки system prompt и неизбежная потеря качества при использовании низкобитных вариантов. Распространение регулируется лицензией Google Gemma; ссылка на условия использования указана как https://ai.google.dev/gemma/terms.

Codestral-22B-v0.1-4bit — это 4-битная версия модели Codestral-22B-v0.1, преобразованная сообществом mlx-community в формат MLX из bullerwins/Codestral-22B-v0.1-hf с использованием mlx-lm 0.14.0. README не указывает исходного разработчика модели; по названию и тегам она ориентирована на работу с программным кодом. Модель предназначена для задач генерации и обработки кода в приложениях, использующих экосистему MLX, включая локальный запуск через библиотеку mlx-lm. Известные характеристики — размер 22 млрд параметров, 4-битное квантование и формат MLX. В README указано только назначение для кода; сведения об архитектуре, поддерживаемых естественных языках, контекстном окне и мультимодальности отсутствуют. К сильным сторонам относятся адаптация для MLX и уменьшенная разрядность, что может снизить требования к памяти при локальном запуске. Ограничения, включая возможные потери качества из-за 4-битного квантования, производительность и совместимость с конкретным оборудованием, в README не описаны. Модель распространяется по лицензии MNPL-0.1; подробные условия доступны по ссылке, указанной в карточке.

CodeT5+ 16B — модель семейства открытых моделей для работы с кодом, представленная исследовательской группой Salesforce в статье «CodeT5+: Open Code Large Language Models for Code Understanding and Generation». Это плотная модель с архитектурой encoder-decoder, способная работать в режимах encoder-only, decoder-only и encoder-decoder. Репозиторий содержит веса PyTorch; лицензия — BSD-3-Clause. Модель предназначена для понимания и генерации кода, включая дополнение кода, сопоставление текстовых запросов с кодом и генерацию кода по описанию. В README заявлена предобучающая выборка из разрешительно лицензированного подмножества GitHub Code; поддерживаются C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Для токенизации используется тот же токенизатор, что и у CodeGen. Предобучение сочетает span denoising, причинное языковое моделирование, контрастивное обучение и сопоставление текста с кодом; масштабирование до 16 млрд параметров использует инициализацию компонентов замороженными готовыми LLM и архитектуру с неглубоким энкодером и глубоким декодером. Авторы сообщают о результатах на задачах понимания и генерации кода, однако конкретные показатели в README относятся к InstructCodeT5+ 16B и не должны автоматически переноситься на этот чекпойнт. Модель выпущена для исследовательских целей; перед применением следует проверять точность и безопасность результатов.

Это GGUF-версия дообученной модели gpt-oss-20b-Coding-Distill от midorin-Linux. Автор сообщает, что модель основана на GPT-OSS-20B и обучалась с помощью Unsloth на данных диалогов, преобразованных в формат OpenAI Harmony. В обучении использовались примеры кодирования и рассуждений, связанные с GPT-5.2 Codex Max, GPT-5.2, Claude 4.5 Opus и Claude 4.5 Sonnet. Модель предназначена для генерации текста в диалогах, прежде всего для помощи с программированием и сложными рассуждениями. Репозиторий содержит веса в формате GGUF, а указанная лицензия — Apache-2.0. Карточка предупреждает, что некоторые ответы могут не соответствовать спецификации OpenAI Harmony.

KAT-Coder-Pro V2.5 — модель для агентного программирования, представленная как флагманская версия семейства KAT-Coder. Она предназначена для автономного выполнения задач разработки: модель может получать описание целой проблемы или рабочего процесса и самостоятельно находить нужный контекст и вносить изменения. Доступный фрагмент карточки не сообщает архитектуру, размер, поддерживаемые языки программирования, длину контекста или лицензию, поэтому эти характеристики нельзя уточнить. Метаданные каталога указывают задачу text-generation. Модель ориентирована на применение в разработке ПО; сведений о её качестве и ограничениях в предоставленных данных нет.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw — это чувствительность-ориентированная 3,6-битная MLX-квантизация модели moonshotai/Kimi-K2.7-Code, созданная avlp12 для запуска на компьютерах Apple Silicon, прежде всего на M3 Ultra. Базовая модель представляет собой примерно триллионопараметрическую MoE-архитектуру в стиле DeepSeek-V3 с 32 млрд активных параметров и предназначена главным образом для генерации кода и решения задач программирования. Репозиторий содержит текстовую/code-версию рецепта, однако исходные веса были удалены как дубликат и перенесены в связанный VLM-репозиторий; языковая часть там побитово идентична этой сборке, а VLM дополнительно включает MoonViT и projector. Модель использует Multi-head Latent Attention (MLA), благодаря чему KV-кэш занимает относительно мало памяти: около 68,6 КБ на токен по всем 61 слоям. Нативное контекстное окно составляет 256K токенов, с YaRN-расширением и rope_theta 50000. Размер весов — около 465 ГБ (433 GiB), поэтому модель рассчитана на один компьютер с 512 ГБ памяти или на распределённый запуск на двух M3 Ultra по Thunderbolt через pipeline parallelism. Квантизация применяет 3 бита к большинству routed experts, 4 бита к down_proj в 16 из 60 слоёв, 6 бит к attention, shared experts, dense-слою, embedding и LM head, а маршрутизатор сохраняется в bf16; эффективная разрядность составляет 3,62 бита на вес. Сильными сторонами являются существенное снижение требований к памяти по сравнению с полноразмерными и 4-битными сборками, сохранение качества за счёт чувствительность-ориентированного распределения битов и возможность работы с очень длинным контекстом. Ограничения включают экстремально большой размер, необходимость мощного Apple Silicon-оборудования и отсутствие заявленной универсальной оценки качества помимо приведённых метрик perplexity и KL-дивергенции. Лицензия указана как modified-MIT; ссылка ведёт на лицензию базовой модели Kimi-K2.7-Code.

mlx-community/Laguna-M.1-bf16 — конвертированная в формат MLX версия текстовой MoE-модели Laguna-M.1 от Poolside. Модель предназначена для генерации текста и диалогового взаимодействия; базовая Laguna M.1 ориентирована на программирование, работу с кодом и длительные агентные задачи с инструментами. Модель содержит 17,1 млрд параметров и поддерживает контекст до 262 144 токенов. Репозиторий использует safetensors, а README указывает на преобразование исходной модели с помощью mlx-vlm 0.6.3. Лицензия — Apache-2.0. README отсылает к карточке исходной модели за подробностями и не описывает отдельные оценки качества или ограничения этой конвертированной версии.

Laguna-S-2.1-Uncensored-APEX-GGUF — квантизированная GGUF-версия модели Laguna S 2.1, опубликованная SC117 на основе официальной модели poolside. Это модель Mixture-of-Experts для агентного программирования, долгосрочных задач и сценариев с использованием инструментов. Версия дополнительно обработана с помощью abliterix Trial 16 для существенного снижения частоты отказов и затем квантизирована в смешанной точности APEX с использованием imatrix. Модель имеет около 118 млрд параметров в общей сложности и около 8 млрд активных параметров на токен. Архитектура включает 256 маршрутизируемых экспертов и одного общего эксперта с выбором top-10, GQA, а также чередование глобального и скользящего оконного внимания: 48 слоёв, из которых 12 используют глобальное внимание, а 36 — локальное с окном 512 токенов. Заявлена поддержка контекста примерно до 1 млн токенов и опционального встроенного рассуждения с использованием инструментов. В README явно указан английский язык; сведения о других языках и мультимодальности не приведены. К сильным сторонам относятся высокая ёмкость MoE при сравнительно небольшом числе активных параметров, ориентация на программирование и длинные рабочие процессы, а также уменьшенная склонность к отказам. Ограничения связаны с тем, что это uncensored-редакция: её поведение может существенно отличаться от официальной Laguna-S-2.1, поэтому необходимы оценка безопасности, контроль доступа и аудит. Модель распространяется по лицензии OpenMDW-1.1; также следует учитывать условия poolside.

Laguna-XS-2.1-bf16 — версия текстовой модели Poolside Laguna-XS-2.1, подготовленная mlx-community для запуска в формате MLX с точностью bfloat16. Это причинная MoE-модель с 2,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; базовая модель ориентирована на агентное программирование, работу в терминале и длительные задачи с кодом. Заявленная длина контекста — 262 144 токена. Репозиторий рассчитан на запуск на компьютерах Apple через mlx-vlm или oMLX с принудительным режимом VLM. mlx-lm пока не поддерживает архитектуру Laguna. В README приведены замеры производительности на MacBook Pro M5 Max с 128 ГБ памяти, однако они не характеризуют скорость на другом оборудовании. Лицензия — OpenMDW 1.1.

Laguna-XS-2.1-JANG_6M-CRACK — текстовая модель dealignai на архитектуре Laguna с Mixture-of-Experts, полученная на основе poolside/Laguna-XS-2.1. Модель предназначена прежде всего для агентного программирования, рассуждений и вызова инструментов; поддерживает режимы с включённым и выключенным пошаговым рассуждением и контекст до 262 144 токенов. Модель представляет собой дообученную и квантизированную версию базовой модели. README описывает исходную Laguna-XS 2.1 как модель на 33 млрд параметров с примерно 3 млрд активных параметров; метаданные репозитория указывают 2,6 млрд параметров. JANG_6M — смешанная по точности аффинная квантизация для MLX и Apple Silicon, с файлами safetensors. Для генерации автор рекомендует явно задавать temperature=1.0, top_p=1.0 и top_k=20, поскольку некоторые среды запуска игнорируют конфигурацию модели. В README приведены результаты MMLU 73,4% и соответствие запросам в HarmBench 99,4%; это результаты оценки автором через vMLX, а не независимая гарантия качества. Автор заявляет, что модель рассчитана на работу через vMLX или совместимую среду MLX. Модель текстовая и ориентирована на английский язык. Её отказное поведение намеренно удалено на уровне весов, поэтому она может выполнять запросы, от которых обычная модель отказалась бы; это существенное ограничение с точки зрения безопасного применения. Лицензия указана как other, а README сообщает о бесплатном выпуске, но не содержит точных условий лицензии.

Mellum-4b-sft-all — дообученная JetBrains языковая модель для задач, связанных с кодом. Она основана на плотной архитектуре LLaMA и содержит 3,7 млрд параметров; контекст — до 8192 токенов. Модель предназначена прежде всего для контекстного автодополнения кода, включая дополнение фрагментов с учётом контекста проекта, а также для генерации кода и создания помощников для разработки. Модель дообучена на коде на многих языках программирования, включая Python, Java, C++, JavaScript, TypeScript, Go, Rust, SQL и другие. Её можно применять в IDE, облачном или локальном инференсе, а также в образовательных и исследовательских проектах. Репозиторий содержит веса в формате safetensors; карточка также сообщает о сохранении bf16 точности. Модель распространяется по лицензии Apache-2.0. Представленные в карточке тесты оценивают заполнение кода и показывают результаты на RepoBench, SAFIM и HumanEval Infilling. Модель может воспроизводить особенности и предвзятости публичных кодовых баз, а предложенный код необходимо проверять: он может содержать уязвимости.

MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

Это текстовая сборка Qwen3.8-27B от Prism ML, созданная на основе Qwen/Qwen3.8-27B и упакованная для локального coding-агента chad на компьютерах Apple Silicon. Плотная гибридная архитектура включает 64 слоя: 48 GatedDeltaNet и 16 слоёв полного внимания. Веса проекций представлены в базисе Hadamard и квантованы до 2 бит; общий объём весов составляет 7,15 ГБ, а вместе с черновой моделью для ускорения декодирования — около 8 ГБ. Заявленная длина контекста — 262 тысячи токенов. Модель предназначена для диалогов и программирования в локальном агенте. В комплект входит квантованный DFlash2-драфтер на 1,9 млрд параметров, который предлагает блоки токенов для спекулятивного декодирования; по README, на M4 Pro это повышает скорость генерации с 21 до 64 токенов в секунду. Визуальная башня удалена, поэтому эта сборка принимает только текст. Для корректной загрузки требуется реализация, учитывающая Hadamard-преобразования; обычный загрузчик MLX может выдать некорректный результат. Модель распространяется по лицензии Apache-2.0; для вложенного драфтера README отдельно просит соблюдать лицензию и условия цитирования исходного релиза.

Qwen3-Coder-30B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для работы на устройствах Apple Silicon и предназначена для генерации текста и задач, связанных с программированием, на основе исходной instruct-модели Qwen3-Coder. Модель имеет обозначение 30B-A3B, однако README не раскрывает подробности архитектуры, поддерживаемые языки, размер контекста, доступные модальности и результаты тестирования. Квантование в 5 бит ориентировано на более эффективное локальное использование на Apple Silicon, но README не содержит количественной оценки влияния квантования на качество или производительность. Модель распространяется по лицензии Apache 2.0.