II.4Отладка, тестирование и качество ПО

Cyber-Tiel-Coder-35B-A3B-MLX-oQ4e — квантованная MLX-версия модели CyberTiel, разработанная peculiar-ragdoll на базе Huihui-Ornith-1.5-35B-A3B-abliterated от huihui-ai. Это MoE-модель класса 35B-A3B с 4-битной квантизацией oMLX oQ4e, адаптированная для Apple Silicon и запуска через MLX. В модель также добавлена голова multi-token prediction (MTP) для ускорения генерации, а веса откалиброваны на специализированном корпусе для задач кибербезопасности и программирования. Указаны английский и китайский языки; README также помечает модель как vision и image-text-to-text, однако подробности поддерживаемых визуальных входов и размер контекста не приведены. Модель предназначена прежде всего для агентного программирования, автономного исправления ошибок в крупных кодовых базах, решения задач SWE и offensive security, включая CTF. По заявлению разработчика, она сочетает высокую способность к решению задач со скоростью, подходящей для маломощного оборудования и ограниченной памяти; размер файла составляет примерно 23 ГБ. Модель abliterated и uncensored, поэтому может генерировать контент, от которого другие модели отказываются, включая потенциально опасные инструкции. Это расширяет применимость в легитимных исследованиях безопасности, но повышает риски и требует изолированной среды, мониторинга и ответственного использования. Сборочные тесты и приведённые численные результаты относятся к другой, GGUF-версии, а не непосредственно к этому MLX-файлу, поэтому их нельзя считать точными измерениями данной сборки. Для запуска с MTP рекомендуется использовать oMLX. MTP-сборка некорректно работает в LM Studio и выдаёт бессмысленные многоязычные токены; для LM Studio следует выбрать GGUF-версию или MLX-сборку без MTP. Распространение разрешено по лицензии MIT.

DeepSeek-Coder-V2-Lite-Instruct-IMat-GGUF — это набор GGUF-квантизованных версий модели DeepSeek-Coder-V2-Lite-Instruct, подготовленный legraphista с использованием llama.cpp. Исходная модель имеет формат BF16, а представленные варианты включают BF16, FP16 и уровни квантизации от Q8_0 до 1-битных форматов. Для ряда вариантов применена IMatrix-квантизация на основе указанного калибровочного набора данных. Модель предназначена для генерации текста и, прежде всего, для задач программирования и диалогового использования в совместимых средах, включая llama.cpp. Доступны файлы размером примерно от 6,43 до 31,42 ГБ; конкретный объём зависит от выбранного формата. GGUF-варианты позволяют выбирать компромисс между качеством, требованиями к памяти и скоростью работы, однако README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста. Лицензия указана как deepseek-license; дополнительные условия находятся в файле LICENSE. README не приводит подробностей о сравнительных преимуществах, известных ограничениях или результатах оценки, поэтому качество и пригодность конкретного варианта следует оценивать с учётом выбранного уровня квантизации и используемой аппаратной конфигурации.

Dolphin-2.9.1-Phi-3-Kensho-4.5B — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations. Она основана на Phi-3-Mini-Instruct-4k и использует плотную авторегрессионную архитектуру MistralForCausalLM; при обучении применялся qLoRA, а слой PEFT может дублировать слои модели во время вывода, увеличивая число параметров. В метаданных указано 6,4 млрд параметров и контекст 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, генерации кода и математических ответов, а также начальных агентных сценариев и вызова функций. Она использует формат запросов ChatML и обучалась на наборах Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math и других. Карточка заявляет поддержку английского языка. В репозитории доступны веса PyTorch и Safetensors. Лицензия MIT разрешает коммерческое использование. Карточка предупреждает, что фильтрация обучения повышает готовность модели выполнять запросы; перед предоставлением модели пользователям рекомендуется добавить собственный слой выравнивания. Контекст ограничен 4096 токенами.

Gemma-4-31B-Fable-5-Distilled — мультимодальная модель AutoTrust AI Lab, обученная Hai Yu на базе google/gemma-4-31B-it методом LoRA. Это плотная модель с 31,27 млрд параметров в формате bfloat16 и архитектурой Gemma4ForConditionalGeneration, объединяющей текстовый декодер и визуальный энкодер. Адаптеры обучались на верхних слоях трансформера, чтобы улучшить генерацию кода и работу с инструментами, сохранив способности базовой модели к анализу изображений. Модель предназначена для агентной генерации и объяснения кода, планирования структурированных вызовов инструментов, визуального рассуждения и общего диалога. В README заявлен результат HumanEval pass@1 92,7%; он получен в конкретной конфигурации оценки и не гарантирует аналогичного качества на других задачах. Для обучения использовано 308 отобранных пар диалогов из Fable 5. Известные ограничения: небольшой обучающий набор может сужать переносимость на разные области программирования, качество ответов может снижаться без режима thinking, вызовы инструментов сериализуются в JSON и требуют отдельного слоя исполнения, а модель может допускать фактические ошибки и галлюцинации. Лицензия Gemma.

Это квантованные сборки модели GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill, опубликованные пользователем noctrex в формате GGUF. Основа — дообученная для рассуждений модель GLM-4.7-Flash; каталог описывает её как ориентированную на программирование, научные вопросы и сложные задачи с длинным контекстом. Репозиторий содержит обычную MXFP4_MOE-квантизацию и экспериментальный вариант, который распределяет точность по важности тензоров: BF16 для наиболее важных, Q8_0 для умеренно важных и MXFP4 для остальных. Подбор точности основан на imatrix, созданной на данных code_tiny. Модель предназначена для генерации текста и диалогового использования, с упором на задачи программирования. Автор README сообщает, что экспериментальный вариант ещё не проверялся бенчмарками, поэтому его преимущество над основной MXFP4_MOE-сборкой не подтверждено. Лицензия в предоставленных данных не приведена.

cafepm/GLM-4.7-Flash-REAP-23B-A3B-Q3Q4-GGUF — квантованная GGUF-версия разреженной языковой модели GLM-4.7-Flash-REAP-23B-A3B, подготовленная TNT.Chat. Базовая модель с 23 млрд параметров, из которых активируются 3 млрд на токен, создана удалением 25% экспертов методом REAP из GLM-4.7-Flash; в этой версии веса распределены между точностями Q3_K и Q4_K: около 20% квантованы до 4 бит, остальные — до 3 бит. README заявляет, что такой вариант рассчитан на запуск примерно в 12 ГБ видеопамяти и контекст до 150 000 токенов; базовая карточка указывает контекст 202 752 токена. Модель предназначена для генерации текста и кода, агентного программирования, понимания репозиториев и вызова функций в локальных и ограниченных по ресурсам средах. Она использует архитектуру Sparse Mixture-of-Experts с 47 слоями, 48 экспертами и четырьмя активируемыми экспертами на токен. Указана совместимость с llama.cpp; метаданные отмечают чат-возможности. README заявляет близкое к Q4 качество при размере, близком к Q3, однако количественные результаты оценок в предоставленных данных отсутствуют. Модель распространяется по лицензии MIT.

Карточка модели midorin-Linux/gpt-oss-20b-Coding-Distill на Hugging Face совпадает с карточкой midorin-Linux/gpt-oss-20b-Coding-Distill-GGUF, поэтому описание составлено по ней. Это GGUF-версия дообученной модели gpt-oss-20b-Coding-Distill от midorin-Linux. Автор сообщает, что модель основана на GPT-OSS-20B и обучалась с помощью Unsloth на данных диалогов, преобразованных в формат OpenAI Harmony. В обучении использовались примеры кодирования и рассуждений, связанные с GPT-5.2 Codex Max, GPT-5.2, Claude 4.5 Opus и Claude 4.5 Sonnet. Модель предназначена для генерации текста в диалогах, прежде всего для помощи с программированием и сложными рассуждениями. Репозиторий содержит веса в формате GGUF, а указанная лицензия — Apache-2.0. Карточка предупреждает, что некоторые ответы могут не соответствовать спецификации OpenAI Harmony.

Kimi-K2.6-GGUF — версия открытой мультимодальной агентной модели Kimi K2.6 от Moonshot AI, подготовленная Unsloth в формате GGUF с использованием квантования. Модель предназначена для длительных и сложных задач программирования, создания интерфейсов по текстовым и визуальным входным данным, автономного выполнения действий и оркестрации групп специализированных агентов. Модель использует архитектуру Mixture-of-Experts (MoE): около 1 трлн общих параметров, из которых 32 млрд активируются для каждого токена. Она содержит 61 слой, 384 эксперта с выбором 8 экспертов на токен, механизм внимания MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Контекст составляет 256 тысяч токенов. Для обработки изображений используется vision encoder MoonViT с 400 млн параметров. Заявлены сильные результаты в долгосрочном кодировании на Rust, Go и Python, DevOps, оптимизации производительности, генерации веб-интерфейсов и агентном поиске; поддерживается координация до 300 субагентов и 4000 шагов. Ключевые ограничения связаны с чрезвычайно большими требованиями к ресурсам: например, вариант UD-Q8_K_XL занимает около 595 ГБ. README не содержит полного перечня поддерживаемых языков и подробных требований к оборудованию или программному окружению. Указана лицензия modified-MIT; конкретные условия её применения следует проверять в официальных материалах модели.

LumenX1-Sept26-Release — текстовая авторегрессионная модель семейства Lumen Dense, опубликованная dusersad12 на Hugging Face. Она предназначена для диалогов и генерации ответов, особенно для сложных задач на рассуждение, математику, программирование и общую логику. В карточке заявлены улучшенные рассуждения, снижение числа галлюцинаций и поддержка вызова функций; для ответа на вопрос AIME 2026 указано в среднем 31 тыс. токенов рассуждения. Модель использует архитектуру LumenDenseForCausalLM и распространяется в формате PyTorch для Transformers. Репозиторий выпущен под лицензией MIT. Карточка не сообщает размер модели, длину контекста и поддерживаемые естественные языки. Заявления о качестве приведены в README, но детали бенчмарков описаны частично.

Magicoder-DS-6.7B — языковая модель для генерации кода, разработанная Юсяном Вэем, Чжэ Вангом, Цзяьвэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная авторегрессионная модель семейства Llama, дообученная на базе deepseek-ai/deepseek-coder-6.7b-base с использованием набора Magicoder-OSS-Instruct-75K, созданного методом OSS-Instruct на основе фрагментов открытого исходного кода. Модель предназначена прежде всего для задач программирования: генерации кода по инструкциям и помощи в диалоговых сценариях разработки. Использует текстовый ввод и выдаёт текст, включая код; поддерживает контекст до 16 384 токенов. Размер — около 6,6 млрд параметров, формат весов — Safetensors, для работы применяется Transformers. Модель может ошибаться и создавать вводящий в заблуждение код, а также хуже справляться с задачами вне программирования. В карточке указана лицензия DeepSeek; README рекомендует учитывать условия OpenAI для синтетических данных и обучающего набора.

MasherAI-7B-v6.1 — разговорная модель на архитектуре Mistral, разработанная mahiatlinux и дообученная на базе mahiatlinux/MasherAI-v6.1-7B-checkpoint3-code4. Она предназначена для диалогов и помощи с программированием, особенно на Python; обучение проводилось на наборах данных для генерации и объяснения кода, а также для сохранения разговорных навыков. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Для диалогов используется формат ChatML с системными сообщениями и ролями. Модель может быть полезна для написания и улучшения кода, ответов на вопросы о программировании и обычных диалогов. В README указано, что качество ещё не оценивалось, поэтому результаты стоит проверять, особенно при использовании с важными задачами. Лицензия — Apache-2.0.

Millie-35B-A3B-11GB — мультимодальная MoE-модель для программирования и агентных сценариев, опубликованная llmsforall. Она основана на архитектуре Qwen3.5-35B-A3B и производна от Agents-A1. Всего в модели 35 млрд параметров, из которых на каждый токен активны около 3 млрд; заявленная длина контекста — 262 тыс. токенов. Модель принимает текст и изображения. Веса сжаты примерно до 2,2 бита на параметр, а файлы GGUF занимают около 10,9 ГБ вместе с визуальным проектором. Для запуска требуется форк llama.cpp от llmsforall с поддержкой этого формата и файл mmproj для обработки изображений; upstream-версия llama.cpp не подходит. Выпуск распространяется по лицензии Apache-2.0.

MiMo-7B-SFT — плотная языковая модель Xiaomi, обученная с нуля и прошедшая supervised fine-tuning на базе MiMo-7B-Base. Модель предназначена для диалогов и задач рассуждения, особенно решения математических задач и написания кода; поддерживает интерфейс вызова инструментов. Она содержит 7 млрд параметров, использует архитектуру MiMoForCausalLM и принимает контекст до 32 768 токенов. В README описана серия MiMo-7B, ориентированная на усиление способностей к рассуждению через предварительное обучение и последующее обучение. Для этой версии заявлено обучение SFT; результаты по математике и коду, приведённые в карточке, относятся преимущественно к RL-версиям семейства и не должны автоматически считаться показателями MiMo-7B-SFT. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — MIT.

MiMo-V2.6-Distill-Qwen-9B-GGUF — GGUF-версия агентной модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo. Модель представляет собой результат supervised fine-tuning Qwen3.5-9B на данных, сгенерированных MiMo, и предназначена для дальнейших исследований в области агентного обучения с подкреплением. Модель ориентирована на программирование, общие агентные задачи, визуальное программирование и кибербезопасность, а также поддерживает использование инструментов. Объём модели составляет 9 млрд параметров. В README указана поддержка английского языка и pipeline image-text-to-text, а наличие мультимодального проекционного файла указывает на сценарии работы с изображениями и текстом. Доступны варианты квантования от BF16 до Q3_K_L, что позволяет выбирать между качеством и требованиями к памяти; рекомендованными названы Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S и Q6_K. Сильными сторонами заявлены заметные улучшения относительно базовой Qwen3.5-9B в задачах автоматизации, кибербезопасности, работы в терминале и программирования, включая SWE-bench. Ограничения включают зависимость качества и требований к памяти от выбранного варианта квантования, а также отсутствие в README точных сведений о размере контекстного окна и подробностей о поддерживаемых языках помимо английского. Лицензия указана как other; базовая модель Qwen3.5-9B распространяется под Apache-2.0, но условия лицензирования данного репозитория требуют отдельной проверки.

Mythos-9b-unhinged — разговорная языковая модель из экосистемы FableForge, созданная на основе Qwen3 и объединённая методом SLERP с braindao/Qwen3-8B-Uncensored. В README указано около 9 млрд параметров, тогда как метаданные Hugging Face указывают 7,6 млрд; метаданные также задают контекст 40 960 токенов. Архитектура — плотная Qwen3ForCausalLM. Модель поддерживает режим рассуждений Qwen3 и формат общения ChatML; для более быстрых ответов автор рекомендует отключать рассуждения. Модель предназначена для генерации текста в диалогах, ролевых сценариях, написании кода и команд оболочки, а также для многошаговых агентных задач и вызова инструментов. README описывает её как модель с ослабленными отказами и без защитных фильтров; это может привести к выдаче опасных или неприемлемых инструкций. В карточке указаны GGUF-квантизации, а метаданные перечисляют варианты от F16 до IQ3_XXS. Лицензия — Apache-2.0.

Narada — дообученная методом supervised fine-tuning модель на базе Meta Llama 3.2 3B Instruct, созданная deepsource для классификации потенциальных секретов и учётных данных в фрагментах кода. Архитектура — плотная трансформерная Llama с 3,2 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает фрагмент кода с номерами строк и номер строки, где обнаружена подозрительная строка, и возвращает метку «true positive» или «false positive». В структурированном ответе также приводятся значение секрета и краткое объяснение решения. Модель предназначена для проверки находок сканеров секретов: она учитывает контекст кода, тип секрета, формат и энтропию строки, чтобы отличать реальные ключи API, пароли и криптографические данные от заглушек и тестовых значений. Её можно встраивать в конвейеры анализа кода для сокращения числа ложных срабатываний. Карточка указывает поддержку английского языка; метаданные также отмечают возможности работы с кодом. Разработчик предупреждает, что это ранняя версия и возможны ошибки, особенно для обфусцированных или разбитых на несколько строк секретов, новых типов секретов и кода на нишевых языках. Для надёжной работы требуется заданный формат входа с нумерацией строк и целевой строкой. Лицензия — MIT.

Locutusque/NeuralHyperion-2.0-Mistral-7B — языковая модель на архитектуре Mistral, дообученная разработчиком Locutusque на Hyperion-v2.0 и дополнительно с помощью DPO на предпочтениях Capybara. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на сложные вопросы, диалогов и рассуждений в научно-технических областях, генерации кода, математических задач и понимания медицинских текстов. В README заявлена поддержка английского языка; метаданные также отмечают задачи, связанные с кодом и химией. Качество ответов может быть непоследовательным из-за различий в форматировании и качестве разметки обучающих данных; результаты оценки в карточке пока не приведены. Модель распространяется по лицензии Apache-2.0.

Olmo-3-Think-AIO-GGUF — набор GGUF-квантизаций моделей Olmo-3-32B-Think и Olmo-3-7B-Think, разработанных Allen Institute for AI и подготовленных для использования через совместимые инструменты, включая llama.cpp. Модели относятся к семейству открытых плотных трансформерных языковых моделей Olmo 3 с вариантом Think, предназначенным для прозрачного пошагового рассуждения и исследовательских задач в области agentic AI. Модели предназначены для генерации текста, объяснения решений, декомпозиции формальных задач, математического рассуждения, генерации кода и исследований, связанных с reinforcement learning. Указан английский язык и сценарий text generation. Для версии 32B заявлена поддержка контекста до 65 000 токенов. В репозитории представлены варианты GGUF с разными форматами точности и квантования — от F32 и BF16 до компактных IQ- и Q-серий, что позволяет выбирать между качеством, размером файла и требованиями к оборудованию; размеры файлов 32B-версии составляют примерно от 7 до 129 ГБ. К сильным сторонам относятся открытость, возможность инспектировать промежуточные цепочки рассуждений, ориентация на задачи математики и кода, длинный контекст и широкий выбор локальных форматов. Ограничения включают значительные требования к памяти для крупных и высокоточных вариантов, возможное снижение качества при агрессивном квантовании, а также отсутствие заявленной поддержки мультимодальных входов и языков кроме английского. Указанная лицензия — Apache-2.0.

OpenAgent-i1-GGUF — это набор GGUF-квантизованных вариантов модели OpenAgent, созданной на базе OrionLLM/Terminus-Qwen3-8b и обученной с использованием датасета OrionLLM/OpenAgentInstruct. Квантизацию выполнил mradermacher; в метаданных также указана компания nethype GmbH как предоставившая инфраструктуру для этой работы. Модель ориентирована на текстовую генерацию, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Поддерживаемый язык — английский. Это текстовая модель примерно на 8 миллиардов параметров, представленная в формате GGUF и доступная в вариантах квантизации от IQ1_S до Q6_K. Размер файлов составляет примерно от 2,2 до 6,8 ГБ; README рекомендует Q4_K_M как быстрый вариант и Q4_K_S как компромисс между размером, скоростью и качеством. Более агрессивная квантизация уменьшает требования к памяти, но может заметно снижать качество, а IQ-форматы иногда предпочтительнее аналогичных по размеру вариантов. Модель предназначена для локального запуска в совместимом ПО, однако конкретные требования к контексту, поддерживаемые модальности помимо текста, производительность и результаты бенчмарков в README не указаны. Распространяется по лицензии Apache-2.0.

cyankiwi/Ornith-1.5-9B-AWQ-INT4 — квантизированная версия Ornith-1.5-9B, разработанной командой Ornith AI и опубликованной пользователем cyankiwi. Это плотная языковая модель примерно на 9 млрд параметров для генерации текста, ориентированная на эффективное развёртывание на одной GPU; заявлена также возможность запуска на периферийных устройствах в отдельной мобильной версии. Данная сборка использует квантизацию AWQ с точностью INT4 и имеет размер около 8,99 ГБ. Модель предназначена для программирования, агентских сценариев, решения STEM-задач и общего текстового вывода. В карточке указана калибровка на данных STEM and Agentic, а среди поддерживаемых языков перечислены английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Архитектура мультимодальности и размер контекстного окна не указаны. К сильным сторонам относятся компактность, возможность эффективного локального запуска и результаты, приведённые для задач работы с терминалом и кодом. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных сведений о контекстном окне, фактической производительности на разных устройствах и ограничениях применения. Модель распространяется по лицензии MIT.

bartowski/Phi-3.1-mini-4k-instruct-GGUF — GGUF-квантизированная версия инструкционной языковой модели Phi-3.1-mini-4k-instruct, основанной на модели Microsoft Phi-3-mini-4k-instruct. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев, ответов на вопросы и задач, связанных с обработкой естественного языка и программного кода. Модель работает в текстовой модальности и ориентирована на английский язык. Из идентификатора и описания следует контекстное окно 4K токенов, однако точные сведения об архитектуре и количестве параметров в README не приведены. Доступны варианты от F32 до низкоразрядных Q2 и IQ-квантизаций с размером файлов примерно от 1,3 до 15,3 ГБ. Старшие варианты сохраняют более высокое качество, а младшие требуют меньше оперативной памяти, но заметно уступают в качестве и могут быть непредсказуемее. Модель подходит для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. README рекомендует варианты Q4–Q6 как компромисс между качеством и требованиями к ресурсам; конкретный выбор зависит от доступной памяти и допустимой потери качества. Это текстовая модель без заявленной поддержки изображений или других модальностей, а ограниченное окно контекста не рассчитано на обработку очень длинных документов. Указана лицензия MIT.

Qwen2.5-Coder-32B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-32B-Instruct-abliterated, опубликованная пользователем bartowski и основанная на модели huihui-ai. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и прежде всего для задач программирования, работы с кодом и диалогового взаимодействия. В README указан английский язык; сведения о поддерживаемых языках, длине контекста и точной архитектуре не приведены. Доступны варианты от полноточного F16 размером 65,54 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 объёмом примерно от 17,7 до 34,8 ГБ. Варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые благодаря сочетанию качества и размера; Q4_K_M обозначен как вариант стандартного размера для большинства сценариев. Отдельные варианты Q4_0 оптимизированы для ARM и требуют соответствующей аппаратной поддержки, поэтому их совместимость с Mac и Windows ограничена. Модель может использоваться локально через llama.cpp и LM Studio при наличии значительных ресурсов оперативной или видеопамяти. Более сильные квантизации сохраняют высокое качество, но требуют больше памяти, тогда как компактные варианты экономичнее, однако могут заметно уступать по качеству. README не содержит независимых оценок производительности, сведений о мультимодальности, ограничениях безопасности или подробностей обучения. Указана лицензия Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-7B-Instruct-abliterated-TIES-v2.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit. В качестве основы использована huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated; также объединены Rombos-Coder-V2.5-Qwen-7b, CursorCore-QW2.5-7B и Hammer2.0-7b. Модель содержит 7,1 млрд параметров, работает через Transformers и принимает текст для генерации текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалоговой генерации и задач программирования, включая создание и обсуждение кода. Метаданные также указывают поддержку интерфейса вызова инструментов, подходящего для агентных сценариев. Карточка не содержит оценок качества или перечня поддерживаемых языков. Модель опубликована в формате safetensors; лицензия в предоставленных данных не указана.

netcat420 создал эту объединённую модель на основе двух вариантов Qwen2.5-Coder-7B-Instruct: Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN и huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated. Веса объединены методом SLERP с помощью mergekit; модель представляет собой плотную авторегрессионную архитектуру Qwen2 на 7,1 млрд параметров и распространяется в формате safetensors для Transformers. Модель предназначена для генерации текста в диалоговом режиме, включая задачи, связанные с кодом. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и имеет интерфейс для вызова инструментов. В карточке не приведены сведения о языковом охвате и результаты сравнительных оценок качества. Лицензия в доступных данных не указана. Поскольку модель объединяет варианты с пометкой abliterated, поведение защитных ограничений может отличаться от исходных моделей; применимость для конкретных сценариев следует оценивать отдельно.

Это GGUF-сборка модели Qwen3.6-27B-AEON-Ultimate-Uncensored от AEON-7, подготовленная theLittleStone для запуска через llama.cpp или LM Studio. В репозитории заявлена поддержка MTP (Multi-Token Prediction); по назначению это диалоговая языковая модель для генерации текста, рассуждений, решения математических задач и программирования. В метаданных указаны 27B в названии базовой модели, поддержка английского и китайского, формат GGUF и лицензия Apache-2.0. Модель происходит от дообученной AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и содержит восстановленную MTP-голову. README описывает её как uncensored-вариант с ослабленными отказами и приводит собственные заявления о сохранении способностей; это заявления автора карточки, а не независимая оценка. Доступна стандартная K-Quant сборка; автор рекомендует вместо неё iMatrix-квантование для лучшего качества при том же уровне квантования. README предлагает использовать llama.cpp или LM Studio. Условия лицензии — Apache-2.0.

Qwen3.6-35B-A3B-Fable-Holo3.1 — мультимодальная модель для диалогов и следования инструкциям, опубликованная Nightmedia. Это слияние Qwen3.6-35B-A3B, Qwen3.6-35B-A3B-Fable-5-Distill и Holo3.1-35B-A3B; архитектура относится к семейству Qwen3.5 MoE. Модель принимает текст и изображения и выдаёт текст. В карточке также описаны варианты для текстового режима, включая сборку с контекстом 1 млн токенов; эти сведения не подтверждают такую длину контекста для основного репозитория. Модель предназначена для мультимодальных диалогов, анализа изображений, рассуждений, задач STEM и программирования. Автор сообщает об улучшении perplexity, скорости и результатов на отдельных тестах после слияния, но не приводит полного описания методики и воспроизводимых сравнений. Модель распространяется под лицензией Apache-2.0.

Qwen3.8-27B-ED-4.87bpw-GGUF — квантованная в формате GGUF версия Qwen3.8-27B, подготовленная автором репозитория bakhtin на основе BF16-файла ggml-org. Это мультимодальная чат-модель для диалога с текстом и изображениями; в метаданных указаны задачи image-text-to-text и возможности vision и chat. При квантовании до 4,87 бит на вес использована Importance Matrix, откалиброванная на русской технической речи, формальной логике и примерах кода. README сообщает о встроенном слое MTP и приводит результаты сравнения perplexity и скорости генерации с другой GGUF-квантовкой. Модель рассчитана на запуск на современной потребительской видеокарте с 16 ГБ видеопамяти; автор приводит ориентир 20–30 токенов в секунду в зависимости от заполнения KV-кэша. Автор указывает, что постобучение и абляции не проводились. Контекст свыше 128 тысяч токенов существенно снижает скорость, примерно до 5 токенов в секунду. Лицензия — Apache-2.0.

AnonimousA/Qwen3.8-Flash-Next-REAP-320-GGUF — неофициальная общественная производная модели Qwen3.8-Flash-Next, не связанная с Alibaba или командой Qwen. Это текстовая генеративная MoE-модель с прореживанием: число экспертов на слой уменьшено с 512 до 320. Доступны GGUF-квантизации семейства UD-Q3_K_XL объёмом около 64,2 GiB и Q2-вариант объёмом около 57,3 GiB. Отбор экспертов выполнен по много-доменному корпусу, включавшему агентские сценарии, код, диалоги, математику и тексты. Сведения о языках, размере контекстного окна и точной общей архитектуре в карточке не указаны. Модель ориентирована на генерацию текста, программирование и использование в условиях ограниченной видеопамяти, где важны размер, скорость предварительного заполнения и возможность размещения вычислений на GPU. Для основной версии заявлены результаты HumanEval 96,3%, 9 из 10 успешных генераций в тесте редких имён и ускорение prefill примерно на 23% относительно указанного базового варианта; Q2-версия может полностью размещаться на видеокарте с 32 ГБ. Ограничение — потеря части мировых знаний из-за прореживания: в тесте из 12 вопросов доля фабрикаций составила 25%, поэтому модель менее предпочтительна для универсального ассистента, ориентированного на фактическую осведомлённость. Лицензия указана как qwen-community-license-1.0.

YTan2000 выпустил GGUF-сборку Qwen3.8 Flash Next с квантизацией TurboQuant TQ3_4S примерно до 4 бит на вес. В основе — MoE-модель с общим набором экспертов, 48 слоями и 176,9 млрд параметров; заявленный исходный контекст составляет 262 144 токена. Эта сборка предназначена для текстового диалога и генерации, включая задачи программирования. В отличие от исходной модели, в ней нет компонентов для обработки изображений и черновых слоёв MTP. Пять файловых частей занимают около 110 GiB. В README приведена проверенная конфигурация запуска на машине с NVIDIA GB10 и 128 ГБ объединённой памяти; для работы требуется специальная версия TurboQuant runtime. Указанные результаты бенчмарков относятся к этой сборке при контексте 32K и заданных настройках рассуждения. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией исходной модели.

Qwen3-Coder-30B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для работы на устройствах Apple Silicon и предназначена для генерации текста и задач, связанных с программированием, на основе исходной instruct-модели Qwen3-Coder. Модель имеет обозначение 30B-A3B, однако README не раскрывает подробности архитектуры, поддерживаемые языки, размер контекста, доступные модальности и результаты тестирования. Квантование в 5 бит ориентировано на более эффективное локальное использование на Apple Silicon, но README не содержит количественной оценки влияния квантования на качество или производительность. Модель распространяется по лицензии Apache 2.0.