II.5Безопасность программного кода и цепочки поставок
В разделе собраны самостоятельные задачи, где AI помогает выявлять уязвимости в коде и цепочке поставок программного обеспечения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
1 806 моделейQwen3-Coder-Next-Base — базовая языковая модель для кодирующих агентов и локальной разработки, опубликованная Unsloth. Это причинная модель семейства Qwen3-Next с гибридным вниманием и разреженной архитектурой MoE; карточка Unsloth указывает 80 млрд параметров всего и 3 млрд активируемых, тогда как метаданные Hugging Face указывают 2,3 млрд параметров. Нативная длина контекста — 262 144 токена. Модель предназначена для генерации кода, адаптации шаблонов и каркасов проектов, вызова инструментов, а также обнаружения и исправления ошибок; её можно использовать как основу для дальнейшего дообучения агентных систем. README заявляет поддержку более 370 языков, но не уточняет, какие именно из них являются естественными, а какие — языками программирования. Модель текстовая и рассчитана на режим без рассуждений в формате thinking. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0. README описывает её как базовую модель этапа предобучения; сведения о конкретных ограничениях качества или оценки на бенчмарках в предоставленных данных отсутствуют.
Tiel-Coder-35B-A3B-GGUF — это локальная GGUF-квантизованная версия модели Ornith-1.5-35B-A3B, опубликованная npario и основанная на разработке ornith-ai. Модель предназначена прежде всего для агентного программирования, исправления задач в существующих кодовых базах и длительных многошаговых диалогов. Она использует MoE-архитектуру с 35 млрд параметров и примерно 3 млрд активных параметров, а также гибридную структуру SSM/attention с двумя KV-головами. Модель поддерживает текстовые и визуальные сценарии: она может анализировать скриншоты, трассировки ошибок и дизайн-макеты. Заявлены английский и китайский языки. Vision tower унаследован от Ornith-1.5; для него требуется отдельный файл mmproj-BF16.gguf размером около 903 МБ. Доступны варианты квантизации от 2 до 8 бит, размером примерно от 12,3 до 38,5 ГБ. Точный размер контекстного окна в README не указан, но благодаря гибридной архитектуре и двум KV-головам кэш контекста занимает меньше памяти, чем у плотной модели сопоставимого размера. Сильные стороны модели — скорость, эффективность на задачах программирования, стабильность в многоходовых диалогах и поддержка локального запуска через llama.cpp. По приведённым тестам, 4-битная версия решила 12 из 25 задач SWE-bench-Live и показала результат 67,2 в Claw-Eval. Ограничения — заметно более слабые результаты в знаниях и сложном рассуждении: результат MMLU-Pro составляет 73,7, а авторы отдельно отмечают слабость в trivia-задачах. Модель распространяется по лицензии MIT.
Карточка модели dendriteholdings/albedo-qwen3.6-35b-king-genesis на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.
TheBloke опубликовал эту версию весов CodeLlama 13B-Python от Meta в формате Transformers/Hugging Face fp16. Это плотная авторегрессионная трансформерная модель семейства Llama с 12,9 млрд параметров, ориентированная на генерацию и понимание кода на Python. Репозиторий содержит конвертированные из исходной модели Meta веса в формате safetensors. Модель предназначена для написания, дополнения и анализа кода Python. Она принимает текст и генерирует текст; семейство поддерживает контекст до 16 384 токенов согласно метаданным. Для корректной загрузки этой версии README требует использовать trust_remote_code=True. Это не Instruct-вариант, поэтому карточка не заявляет о специальной настройке для диалогового следования инструкциям. Модель может выдавать неточный или нежелательный результат; перед использованием в приложениях рекомендуется проверять её поведение и настраивать под конкретный сценарий. Лицензия указана как llama2; README сообщает о доступности специальной коммерческой лицензии Code Llama, поэтому условия использования следует сверять с применимым соглашением Meta.
CodeLlama 13B Python — языковая модель Meta, специализированная на генерации программного кода, представленная в формате GGUF и квантованная TheBloke. В основе лежит архитектура Llama с 13 миллиардами параметров; исходная версия доступна как CodeLlama 13B Python в формате Hugging Face. Модель предназначена для решения задач программирования по текстовому описанию: генерации кода с учётом ограничений, прохождения примеров тестов и помощи в разработке. В README приведён шаблон запроса для таких задач. Модель работает с текстом и кодом, однако конкретный набор естественных языков, максимальный размер контекста и другие параметры не указаны. Формат GGUF поддерживает метаданные и специальные токены и совместим с llama.cpp, а также рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, ctransformers и llama-cpp-python. Доступны варианты квантования от 2 до 8 бит для инференса на CPU и GPU; конкретные характеристики качества, скорости и требований к памяти зависят от выбранного варианта. Квантование может сопровождаться компромиссом между эффективностью и точностью, а README не содержит подробной оценки ограничений модели. Лицензия указана как llama2.
Codestral-22B-v0.1-IMat-GGUF — GGUF-квантизированная версия Codestral-22B-v0.1, разработанного Mistral AI и подготовленная legraphista. Модель предназначена для генерации и работы с программным кодом, включая сценарии автодополнения и Fill In the Middle (FIM); в этой сборке исправлены отсутствующие FIM-токены. Указанный pipeline относится к генерации текста, а заявленный язык — code. Модель основана на версии размером 22B параметров с исходным форматом BF16 и преобразована с использованием llama.cpp. Доступны варианты GGUF от BF16 и FP16 до Q2_K, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера; размеры файлов варьируются примерно от 8,27 до 44,5 ГБ. Формат GGUF подходит для запуска в совместимом программном обеспечении, включая llama.cpp. Сильными сторонами являются специализация на коде, поддержка FIM и широкий выбор уровней квантизации для компромисса между качеством и требованиями к памяти. Ограничения включают отсутствие в предоставленных данных сведений о конкретной архитектуре, размере контекста, перечне естественных языков, результатах бенчмарков и характеристиках производительности; качество также зависит от выбранного варианта квантизации и оборудования. Лицензия указана как MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.
Ginckl/HashBlitz-1-7B-Max — языковая модель для генерации текста и кода, разработанная Ginckl на базе unsloth/Qwen2.5-Coder-7B-Instruct. По описанию, модель создана как оптимизированная версия с 7 миллиардами параметров и ориентирована на локальное развёртывание, разработчиков и сценарии «vibe coding». Она предназначена для программирования, решения сложных задач разработки, повседневного диалога и аналитических сценариев, включая работу с актуальной информацией, если такая информация предоставляется через внешние инструменты или контекст. Заявлено, что при создании авторы синтезировали особенности нескольких передовых моделей: Claude Opus 5 — для программирования и логического рассуждения, Groq 4.5 — для характера и настройки безопасности, GPT-5.4 — для естественного диалога, а Gemini 3.1 Pro (Extended Thinking) — для анализа сложных реальных задач. Эти утверждения приведены в README разработчика и не сопровождаются подробностями о методике обучения или результатами независимой оценки. Модель поддерживает текстовую генерацию, заявленные языки — английский, испанский и французский. Архитектура основана на семействе Qwen 2.5 Coder; сведения о размере контекста, дополнительных модальностях, точных параметрах дообучения и ограничениях производительности не указаны. Лицензия — Apache-2.0, что допускает широкое использование на условиях этой лицензии.
Hermit Code 7B i1 GGUF — квантизированная версия модели Soloman2002/hermit-code-7b, подготовленная mradermacher. Модель ориентирована на генерацию текста и работу с программным кодом, включая сценарии coding-agent и instruction-tuned взаимодействия. В метаданных указаны английский язык и поддержка задач, связанных с Python, JavaScript, Rust и Go; модель работает только с текстом. Это модель класса 7B, распространяемая в формате GGUF с imatrix-квантизациями. Доступны варианты с разным соотношением размера, скорости и качества — от IQ1 и IQ2 до Q6_K; среди рекомендуемых README выделяет i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как оптимальный по размеру, скорости и качеству. Ключевые ограничения — неизбежная потеря качества у низкобитных вариантов, причём некоторые из них прямо обозначены как имеющие очень низкое качество. Размер контекста и точная архитектура в README не указаны. Модель распространяется по лицензии Apache-2.0.
KAI-7B-Instruct-v0.1 — диалоговая языковая модель Keynote Technology на 7,1 млрд параметров с архитектурой MistralForCausalLM. Это дообученная инструктивная версия семейства KAI-7B, основанного на KAI-7B и Mistral-7B; в обучении использовалась смесь наборов данных для чата и выполнения инструкций, включая PLANE-2K и RedPajama-Data-V2. Модель принимает текст и генерирует текст, поддерживает сценарии чата, следование инструкциям и работу с кодом. Заявленная длина контекста — 32 768 токенов. Модель предназначена для развёртывания в приложениях, которым нужны диалоговые ответы, выполнение текстовых инструкций и помощь с кодом. Карточка заявляет улучшенное следование инструкциям, но не приводит независимых оценок качества. Лицензия — Apache 2.0; разработчик отдельно запрещает использовать модели KAI для разжигания ненависти против людей или групп.русский язык явно не заявлен среди поддерживаемых языков.
LongCat-2.0 — большая языковая модель с разреженной архитектурой MoE, разработанная Meituan. В README указано 1,6 трлн общих параметров и около 48 млрд активируемых на токен; метаданные Hugging Face указывают размер 42,1 млрд параметров. Эти сведения расходятся, поэтому размер следует считать неясным. Репозиторий содержит веса в формате safetensors, а метаданные указывают контекстное окно 262 144 токена и поддержку диалогового режима и интерфейса вызова инструментов. Модель предназначена для генерации текста, программирования, работы с репозиториями, автоматизированного выполнения задач и агентных сценариев. В README описаны LongCat Sparse Attention, обучение на данных с контекстом до 1 млн токенов и многотокенное предсказание для ускорения декодирования. Модель можно развернуть на GPU и NPU; заявлена интеграция с Claude Code, OpenClaw и Hermes. Лицензия репозитория — MIT. README предупреждает, что модель не разрабатывалась и не оценивалась для всех возможных прикладных задач; языки обучения или поддержки отдельно не перечислены.
M2H AI UnSensored 8B — разговорный ИИ-ассистент, созданный Prince Kumar из M2H Web Solution на основе Dolphin 2.9 Llama 3 8B. Это дообученная модель семейства Llama 3 с архитектурой Meta Llama 3; репозиторий содержит GGUF-версию для локального запуска через Ollama и совместимые инструменты. Размер базовой модели — 8 млрд параметров. Модель предназначена для помощи в программировании и веб-разработке, работе с API и Linux, а также для задач кибербезопасности. Она поддерживает диалог и позиционируется автором как модель с менее ограниченными ответами. В карточке указан английский язык; максимальная длина контекста не приведена. Для запуска автор рекомендует локальную среду, совместимую с GGUF, и указывает минимум 16 ГБ оперативной памяти и видеокарту RTX 3050 с 6 ГБ памяти. Модель распространяется на условиях лицензии Meta Llama 3; использование должно соответствовать её условиям и применимому законодательству. Ответы модели могут быть неточными, особенно в задачах кибербезопасности и при выдаче инструкций для командной строки, поэтому результаты требуют проверки.
Mungert/OpenCodeReasoning-Nemotron-32B-IOI-GGUF — это GGUF-квантизованная версия языковой модели для генерации и анализа программного кода. В качестве базовой модели указана Qwen/Qwen2.5-32B-Instruct, а обучение связано с набором данных NVIDIA OpenCodeReasoning. Модель разработана Mungert; в метаданных также указана принадлежность к экосистеме NVIDIA. Основной заявленный язык — английский. Модель предназначена для задач генерации текста и кода, включая использование в локальных приложениях на базе llama.cpp, развёртывание на устройствах с ограниченной памятью и исследование сверхнизкобитного квантования. Доступны варианты с различными форматами и уровнями квантования, включая IQ1, IQ2, IQ3, Q4, Q6 и Q8, а также BF16 и F16. Для некоторых вариантов применяется метод IQ-DynamicGate с распределением точности по слоям; приведённые в README тесты на Llama-3-8B показывают снижение perplexity по сравнению со стандартным 1–2-битным квантованием при небольшом увеличении размера модели. Эти результаты не следует напрямую считать оценкой именно данной модели. Сильная сторона модели — возможность существенно снизить требования к памяти и запускать её на CPU, edge-устройствах и системах с ограниченной GPU VRAM. Компромиссом являются возможное снижение точности при низкой разрядности, зависимость производительности от аппаратной поддержки BF16 или FP16 и отсутствие в предоставленных данных точного размера файлов, длины контекста, перечня поддерживаемых языков помимо английского и результатов бенчмарков именно для этой модели. Лицензия — Apache-2.0.
Ornith-1.5-9B — плотная языковая модель с 9 млрд параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана для эффективного развертывания на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. Модель предназначена для генерации текста, программирования и решения задач, требующих многошагового рассуждения и работы с инструментами. В основе обучения лежит расширенный цикл самоулучшения: модель совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с использованием reinforcement learning. В отличие от подхода с фиксированным набором созданных людьми задач и вручную разработанными harness, система автоматически генерирует новые тренировочные задачи и ищет эффективные стратегии их решения. Ornith-1.5 развивает Ornith-1.0, который был построен на базе Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. К сильным сторонам относятся компактный для современных моделей размер, возможность развертывания на одной GPU и заметные результаты в задачах программирования: в README указаны оценки 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на Terminal-Bench 2.1 в зависимости от используемого агента. Данные о поддерживаемых языках, размере контекста, мультимодальности и конкретных архитектурных компонентах не приведены, поэтому их характеристики нельзя установить по этой карточке. Модель распространяется по лицензии MIT.
Qwen2.5-Coder-32B-abliterated-i1-GGUF — квантизированная GGUF-версия модели TobiasLogic/Qwen2.5-Coder-32B-abliterated, подготовленная mradermacher. Модель предназначена для генерации текста и решения задач, связанных с программированием, включая написание и обработку кода. В метаданных указан английский язык; поддержка других языков, мультимодальность и точный размер контекстного окна не заявлены. Модель основана на варианте Qwen2.5-Coder с 32 миллиардами параметров и распространяется в нескольких форматах квантизации, включая IQ1–IQ4, Q2–Q6 и другие варианты. Это позволяет выбирать между размером файла, скоростью работы и качеством: более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как сбалансированный по размеру, скорости и качеству. Для использования требуются инструменты, поддерживающие формат GGUF. К сильным сторонам относятся специализация на коде, большое число параметров и широкий выбор квантизаций для локального запуска. Ограничения связаны с потерями качества при низкой квантизации, отсутствием заявленных характеристик контекстного окна и неполной информацией о производительности. Модель описана как abliterated и uncensored, однако конкретные свойства безопасности в README не приведены. Лицензия — Apache-2.0.
BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q4_K_M-GGUF — это квантизированная версия в формате GGUF модели huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated, основанной на Qwen2.5-Coder-32B-Instruct. Репозиторий подготовлен BenevolenceMessiah с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и прежде всего для работы с программным кодом в диалоговом формате. Модель имеет 32 миллиарда параметров, поддерживает текстовую модальность и, согласно метаданным карточки, английский язык. Используется квантизация Q4_K_M, рассчитанная на запуск через llama.cpp на совместимом CPU или GPU. README показывает применение в командной строке и через сервер llama.cpp; в примере сервер запускается с контекстом 2048 токенов, однако максимальный размер контекста в карточке не указан. К сильным сторонам относятся специализация на задачах программирования, instruct-формат и удобство локального запуска в GGUF через llama.cpp. К ограничениям относятся неизвестные из README точные характеристики исходной модели, фактическая производительность и качество на разных языках и задачах, а также возможная потеря точности из-за квантизации. Модель обозначена как abliterated и uncensored, поэтому её поведение в части защитных ограничений может отличаться от исходной версии. Указана лицензия Apache-2.0.
trohrbaugh/Qwen3.6-27B-heretic-ara — производная модель семейства Qwen3.6, опубликованная пользователем trohrbaugh. Это 27-миллиардная плотная модель с языковой частью и энкодером изображений; веса представлены в формате Safetensors и совместимы с Transformers и рядом движков инференса. Карточка описывает изменение модели методом abliteration: в приведённом сравнении доля отказов снизилась с 99 до 4 из 100, а KL-дивергенция относительно исходной модели составила 0,0469. Модель предназначена для диалогов с текстом и изображениями, программирования, работы с репозиториями и сценариев с агентами и вызовом инструментов. Исходная карточка Qwen3.6 указывает контекст 262 144 токена с возможностью расширения до 1 010 000 токенов; для этой производной модели отдельное подтверждение сохранения максимума не приведено. Языки перечислены в опущенной части README, поэтому их нельзя достоверно указать. Модель лицензирована по Apache-2.0. Снижение частоты отказов может означать ослабление встроенных ограничений безопасности; результаты в карточке основаны на небольшом сравнении и сами по себе не подтверждают качество или безопасность в иных сценариях.
Qwen3.6-27B-MTP-pi-tune-GGUF — производная модель от Qwen3.6-27B, разработанная bytkim. Это 27-миллиардная dense-модель, дообученная методом 4-bit QLoRA SFT для агентного программирования без отдельного этапа рассуждений. Модель упакована в формат GGUF, совместимый с llama.cpp, и ориентирована на локальный запуск. Модель предназначена для coding-agent сценариев, включая генерацию и редактирование кода, DevOps-задачи, работу с инструментами, function calling и взаимодействие с терминалом. Режим no-thinking рассчитан на прямые ответы, вызовы инструментов и структурированный вывод с меньшей задержкой. Multi-Token Prediction поддерживает speculative decoding, потенциально ускоряя генерацию длинного кода, рассуждений и подготовку вызовов инструментов. В описании также заявлена мультимодальная совместимость с изображениями и текстом, нативный контекст 256k токенов и максимальный контекст до 1M токенов. Сильными сторонами являются ориентация на локальные агентные циклы, интеграция с экосистемой llama.cpp, низколатентный прямой режим и поддержка MTP-декодирования. Ограничение модели — отсутствие специально обученного длинного внутреннего рассуждения: для задач, требующих сложного reasoning, автор рекомендует отдельную reasoning-версию. Эффективность MTP зависит от поддержки со стороны используемого runtime, а приведённая оценка на Terminal-Bench 2.0 составляет pass@1 28,09, поэтому её не следует считать универсальным показателем качества. Модель распространяется по лицензии Apache 2.0.
Tachibana-Agent — дообученная модель Sequelbox на базе Qwen3.6-27B, созданная для агентного программирования и сложных задач разработки. Модель обучена на наборе Tachibana 4; карточка указывает 22,3 млрд параметров, контекст 262 144 токена и лицензию Apache-2.0. Для работы с моделью предназначена библиотека Transformers. Модель помогает решать практические задачи разработки на Python, C, C++, C#, Go, TypeScript, Java, JavaScript, Rust, Haskell и других языках: отладки, автоматизации, проектирования систем и оптимизации производительности. В метаданных также указан тег image-text-to-text, однако README описывает модель прежде всего как агентную модель для программирования и не раскрывает сценарии работы с изображениями. Ограничения качества и результаты оценок в карточке не приведены; автор обозначает модель как экспериментальную.
Карточка модели Idk555433/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.
Карточка модели Simplismart/Qwen3.6-35B-A3B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-35B-A3B, поэтому описание составлено по ней. Qwen3.6-35B-A3B — открытая модель весов от Qwen, представленная как языковая модель с энкодером изображений и архитектурой смеси экспертов. В ней 35 млрд параметров, из которых при генерации активируются около 3 млрд; конфигурация включает 40 слоёв и 256 экспертов. Модель предназначена для диалогов, программирования и работы с изображениями, а также поддерживает вызов инструментов через соответствующий интерфейс. Основные сценарии — агентное программирование, анализ репозиториев, создание веб-интерфейсов и итеративная разработка с сохранением контекста рассуждений между сообщениями. Модель принимает текст и изображения и генерирует текст. Нативное окно контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В README приведены англоязычные и китайскоязычные примеры оценки веб-разработки; полная таблица поддерживаемых языков опущена. Веса доступны в формате Safetensors и совместимы с Transformers, vLLM, SGLang и другими указанными средами. Для работы с длинным контекстом требуются значительные вычислительные ресурсы; README рекомендует уменьшать окно при нехватке памяти и современные серверные движки для производительных нагрузок. Лицензия — Apache 2.0.
Это квантованная модель Qwen3-Coder-30B-A3B-Instruct в формате GGUF, преобразованная пользователем n00b001 из исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и ориентирована прежде всего на задачи программирования и взаимодействие с кодом; запуск предусмотрен через llama.cpp в консольном режиме или в формате сервера. В названии указаны конфигурация 30B-A3B и квантование Q4_K_M, однако README не содержит подробностей об архитектуре, фактическом размере файла, поддерживаемых языках и модальностях. Для серверного запуска приведён пример с контекстом 2048 токенов. Сильной стороной является возможность локального использования в совместимом окружении llama.cpp и более экономичное представление благодаря квантованию. Ограничения, включая возможные потери качества из-за квантования и требования к аппаратному обеспечению, в README не описаны. Указана лицензия Apache-2.0; ссылка на лицензию относится к исходной модели Qwen/Qwen3-Coder-30B-A3B-Instruct.
mlx-community/Qwen3-Coder-Next-4bit — это 4-битная версия модели Qwen3-Coder-Next, разработанной Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и, судя по названию базовой модели, прежде всего для задач, связанных с программированием, включая работу с исходным кодом и техническими запросами. Модель рассчитана на запуск через библиотеку mlx-lm и совместима с экосистемой MLX. Ключевой особенностью является 4-битное представление, которое может снижать требования к памяти по сравнению с полноразмерной версией, но потенциально ограничивать точность. README не содержит сведений о размере модели, архитектуре, поддерживаемых языках и модальностях, длине контекста, результатах тестирования, сильных сторонах или конкретных ограничениях. Лицензия модели — Apache 2.0. Для использования требуется установка mlx-lm; приведённый способ запуска ориентирован на генерацию текста с применением chat template, если он доступен.
NexVeridian/Qwen3-Coder-Next-8bit — это конвертированная в формат MLX 8-битная версия модели Qwen/Qwen3-Coder-Next. Конвертацию выполнил пользователь или организация NexVeridian с использованием библиотеки mlx-lm версии 0.31.3; исходная модель разработана командой Qwen. Модель предназначена для генерации текста, включая сценарии работы с кодом, и может использоваться в приложениях на базе MLX через библиотеку mlx-lm. Модель поддерживает текстовую генерацию и применение chat template, если он доступен в токенизаторе. В README не указаны точные архитектура, количество параметров, размер контекста, поддерживаемые языки и дополнительные модальности. 8-битное представление ориентировано на более эффективное использование памяти и вычислений в совместимой среде MLX, однако конкретные характеристики качества и производительности не приведены. Модель распространяется по лицензии Apache-2.0.
Stable-DiffCoder-8B-Instruct — инструктивная модель генерации кода от ByteDance-Seed, построенная на архитектуре Seed-Coder и дообученная на базе Stable-DiffCoder-8B-Base. Это плотная языковая модель с 7,6 млрд параметров и маскированной диффузионной генерацией; карточка указывает обучение на открытых и синтетических данных и настройку для следования пользовательским инструкциям. Модель предназначена для генерации, дополнения, редактирования и анализа кода, включая задачи рассуждения о коде. Контекст составляет 8192 токена. В README заявлены улучшения на ряде кодовых бенчмарков по сравнению с авторегрессионными и другими диффузионными моделями близкого размера; диффузионный подход также помогает обрабатывать структурированный код и языки программирования с меньшим количеством данных. Для запуска README описывает использование Transformers и параметры пошаговой генерации, включая длину блоков, стратегию повторного маскирования и порог декодирования. Модель распространяется по лицензии MIT. README не перечисляет поддерживаемые языки программирования, поэтому конкретные языки здесь не указаны.
Viper-Coder-v1.7-Vsm6 — дообученная PrithivMLmods языковая модель семейства Qwen2 с 14 млрд параметров для генерации кода и решения технических задач. Она предназначена для разработчиков и учащихся: помогает писать, рефакторить и отлаживать программы, решать математические и алгоритмические задачи, объяснять технические концепции и формировать структурированные данные. Модель работает с текстом и поддерживает диалоговый режим. В README заявлена поддержка контекста до 128 тысяч токенов и генерации до 8 тысяч токенов, тогда как метаданные указывают native context в 1 010 000 токенов. Эти сведения расходятся, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Карточка описывает оптимизацию использования памяти и сокращение лишнего текста; языком модели в метаданных указан английский. Лицензия — Apache-2.0. Модель может ошибаться в коде и объяснениях, чувствительна к формулировке запроса и не располагает актуальной информацией о событиях после обучающих данных. Для работы с большим числом параметров и длинным контекстом нужны значительные вычислительные ресурсы; качество на творческих и нетехнических запросах может быть непостоянным.
bartowski/codegeex4-all-9b-GGUF — это набор GGUF-квантизаций модели CodeGeeX4-ALL-9B, разработанной THUDM. Модель предназначена для генерации текста и, судя по названию и исходной модели, ориентирована прежде всего на работу с программным кодом и связанными текстовыми задачами. В README явно указана поддержка китайского и английского языков. Модель содержит около 9 млрд параметров в исходном варианте и подготовлена для запуска через llama.cpp. Доступны варианты квантизации от Q8_0 до IQ2_XS с размером файлов примерно от 3,61 до 9,99 ГБ. Более высокие разрядности обеспечивают лучшее качество, тогда как низкоразрядные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для работы используется специальный формат промпта с маркерами системного, пользовательского и ассистентского сообщений. Размер контекста, дополнительные модальности и точная архитектура в README не указаны. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска через llama.cpp и наличие вариантов с высоким качеством, включая Q6_K и Q6_K_L. Ограничения связаны с потерями качества при низкой разрядности, а также с отсутствием в предоставленных данных подробных результатов тестирования, характеристик контекстного окна и описания ограничений исходной модели. Лицензия указана как специальная CodeGeeX4; подробные условия следует уточнять в файле LICENSE исходной модели THUDM/codegeex4-all-9b.
Codestral-22B-v0.1-4bit — это 4-битная версия модели Codestral-22B-v0.1, преобразованная сообществом mlx-community в формат MLX из bullerwins/Codestral-22B-v0.1-hf с использованием mlx-lm 0.14.0. README не указывает исходного разработчика модели; по названию и тегам она ориентирована на работу с программным кодом. Модель предназначена для задач генерации и обработки кода в приложениях, использующих экосистему MLX, включая локальный запуск через библиотеку mlx-lm. Известные характеристики — размер 22 млрд параметров, 4-битное квантование и формат MLX. В README указано только назначение для кода; сведения об архитектуре, поддерживаемых естественных языках, контекстном окне и мультимодальности отсутствуют. К сильным сторонам относятся адаптация для MLX и уменьшенная разрядность, что может снизить требования к памяти при локальном запуске. Ограничения, включая возможные потери качества из-за 4-битного квантования, производительность и совместимость с конкретным оборудованием, в README не описаны. Модель распространяется по лицензии MNPL-0.1; подробные условия доступны по ссылке, указанной в карточке.
Fabliq-8B-Agent — компактная агентная языковая модель LLM-OS-Models для работы с терминалом и задач программирования. Это дообученная и объединённая модель семейства Liquid AI LFM2.5 с MoE-архитектурой Lfm2MoeForCausalLM: в карточке указано 1,6 млрд параметров, а README описывает базовую конфигурацию как примерно 8 млрд параметров всего и около 1 млрд активных на токен. Модель принимает текст, использует контекст до 128 000 токенов и обучена на английских многоходовых траекториях взаимодействия с инструментами. Модель предназначена для сценария «прочитать — рассуждать — выполнить действие — проверить результат»: она может выдавать текстовые ответы и вызовы инструментов в формате Liquid, например Bash, Read, Edit, Write, Glob и Grep. Обучение проведено на 4 047 терминальных сессиях из набора Fable-5-traces, поверх модели ToolBench; README указывает три эпохи дополнительного обучения. Для выполнения действий требуется внешняя среда, которая разбирает и исполняет вызовы инструментов. Доступна по лицензии Apache-2.0.
Это квантованные сборки модели GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill, опубликованные пользователем noctrex в формате GGUF. Основа — дообученная для рассуждений модель GLM-4.7-Flash; каталог описывает её как ориентированную на программирование, научные вопросы и сложные задачи с длинным контекстом. Репозиторий содержит обычную MXFP4_MOE-квантизацию и экспериментальный вариант, который распределяет точность по важности тензоров: BF16 для наиболее важных, Q8_0 для умеренно важных и MXFP4 для остальных. Подбор точности основан на imatrix, созданной на данных code_tiny. Модель предназначена для генерации текста и диалогового использования, с упором на задачи программирования. Автор README сообщает, что экспериментальный вариант ещё не проверялся бенчмарками, поэтому его преимущество над основной MXFP4_MOE-сборкой не подтверждено. Лицензия в предоставленных данных не приведена.
granite-20b-code-instruct-IMat-GGUF — это GGUF-квантизированная версия модели granite-20b-code-instruct, разработанной IBM (ibm-granite) и подготовленной пользователем legraphista. Модель предназначена для генерации и объяснения программного кода, исправления ошибок, работы с инструкциями, математическими задачами, SQL и сценариями function calling. Указаны варианты квантования от 1 до 16 бит, включая конфигурации с IMatrix, оптимизированные для запуска через llama.cpp. Модель содержит около 20 млрд параметров и основана на исходном формате BF16. В README не указаны точная архитектура, максимальная длина контекста и полный перечень поддерживаемых языков, однако результаты оценки приведены для Python, JavaScript, Java, Go, C++, Rust и демонстрируют применимость к генерации, объяснению и исправлению кода. В тестах HumanEvalSynthesis показатель pass@1 составил от 42,1 до 60,4% в зависимости от языка; значения не верифицированы. Ключевое преимущество версии — возможность выбирать баланс между качеством, размером файла и требованиями к памяти благодаря множеству вариантов квантования и применению IMatrix. Ограничения связаны с потерями качества при низкой разрядности, отсутствием подробных сведений о контексте и мультимодальности, а также с тем, что приведённые метрики не подтверждены. Модель распространяется по лицензии Apache 2.0.