II.5Безопасность программного кода и цепочки поставок

Qwen2.5-Coder-14B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-14B-Instruct, преобразованная в формат GGUF для запуска с помощью llama.cpp. Исходная модель разработана командой Qwen; данный вариант конвертирован через GGUF-my-repo на базе llama.cpp. В README также указано, что модель предназначена для генерации текста и работы с кодом в диалоговом формате. Модель ориентирована на программирование, генерацию и обработку кода, а также сценарии локального запуска через llama.cpp в CLI или серверном режиме. Она содержит 14 миллиардов параметров, использует квантизацию Q4_K_M и поддерживает текстовый ввод и вывод. В метаданных указан английский язык, однако дополнительных сведений о языковом охвате, архитектуре, максимальном контексте и точных требованиях к аппаратному обеспечению нет. Ключевое преимущество варианта — возможность более экономичного локального инференса благодаря формату GGUF и квантизации, включая запуск на совместимом оборудовании через llama.cpp. Ограничения связаны с потерей точности по сравнению с полной версией модели из-за квантизации, а также с отсутствием в README подробных результатов оценки качества и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-1.5B — версия базовой языковой модели Qwen2.5-Coder, подготовленная Unsloth. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, предназначенная прежде всего для генерации, анализа и исправления кода, а также для рассуждений о коде и задач с дополнением кода. В README указаны 28 слоёв, механизм RoPE, SwiGLU, RMSNorm и групповое внимание; модель находится на стадии предобучения и не настроена для диалогов. Модель принимает текст и генерирует продолжение текста. В конфигурации репозитория задано контекстное окно 32 768 токенов; для более длинных текстов README описывает применение YaRN, а предельную длину семейства указывает как 131 072 токена. Модель обучена на коде и текстовых данных и сохраняет общие возможности Qwen2.5, включая математику. Карточка не называет разработчика этой конкретной версии явно; README описывает семейство Qwen2.5-Coder, а репозиторий опубликован в пространстве Unsloth. Лицензия — Apache-2.0. Для диалогового применения рекомендуется последующее дообучение; поддержка длинного контекста требует настройки YaRN, а статическое масштабирование может снизить качество на коротких запросах.

QuantFactory/Qwen2.5-Coder-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-1.5B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к серии специализированных кодовых моделей Qwen, разработанных командой Qwen; в README конкретная организация-разработчик не указана, однако модель основана на репозитории Qwen/Qwen2.5-Coder-1.5B-Instruct. Модель предназначена для генерации, анализа и исправления программного кода, рассуждений о коде, создания code agents, а также задач общего назначения и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Модель содержит 1,54 млрд параметров, из них 1,31 млрд без учёта эмбеддингов, имеет 28 слоёв и Grouped-Query Attention с 12 головами для Q и 2 для KV. Поддерживается текстовая модальность и заявлен английский язык. Заявленная максимальная длина контекста составляет 131 072 токена, но исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, причём статическое масштабирование может ухудшать производительность на коротких текстах. Квантизация и небольшой размер делают модель подходящей для более экономичного локального развёртывания, однако README не содержит сведений о конкретном формате квантизации, требованиях к памяти, производительности или сравнительных результатах. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit — 4-битная квантованная версия Qwen2.5-Coder-3B-Instruct, разработанная на базе серии Qwen2.5-Coder. Серия предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения математических и общеязыковых задач. В карточке указана поддержка английского языка и библиотека Transformers. Для семейства Qwen2.5-Coder заявлена архитектура causal language model на базе Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов; заявленный контекст — до 32 768 токенов. Однако README содержит противоречивые сведения: идентификатор указывает на instruct-модель объёмом 3B параметров, тогда как техническое описание в тексте относится к базовой модели 0.5B с 0.49B параметров и этапом предварительного обучения. Поэтому точные характеристики именно данного 3B-варианта по README подтвердить нельзя. 4-битное представление должно снижать требования к памяти и облегчать локальный запуск, но README не приводит точных показателей качества, системных требований или ограничений квантованной версии. Модель распространяется по лицензии Apache-2.0.

bocalan/Qwen2.5-Coder-3B-Instruct-Q4_K_M-GGUF — это квантизированная версия модели Qwen2.5-Coder-3B-Instruct, преобразованная пользователем bocalan в формат GGUF с помощью llama.cpp через сервис GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и работы с программным кодом в диалоговых сценариях, включая написание, дополнение и объяснение кода. В метаданных указаны английский язык, базовая модель Qwen/Qwen2.5-Coder-3B-Instruct и библиотека transformers. Модель содержит 3 миллиарда параметров и использует квантизацию Q4_K_M, что снижает требования к памяти по сравнению с полной версией и делает запуск возможным через llama.cpp на совместимом локальном оборудовании. GGUF-версия поддерживает запуск в CLI и серверном режиме llama.cpp; в README приведён пример контекста 2048 токенов, однако это значение относится к примеру запуска и не подтверждает максимальный размер контекста модели. К сильным сторонам относятся специализация на программном коде, инструкционное обучение и удобство локального запуска в оптимизированном GGUF-формате. Ограничения включают меньший размер по сравнению с более крупными моделями и отсутствие в предоставленных данных подробностей об архитектуре, полном наборе языков, точной производительности и мультимодальных возможностях; указана только текстовая генерация. Модель распространяется по лицензии qwen-research; дополнительные условия следует уточнять в лицензии базовой модели Qwen2.5-Coder-3B-Instruct.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.1 — объединённая модель на основе Qwen2.5-Coder-7B, созданная методом TIES с помощью mergekit. В состав объединения входят Etherll/Qwen2.5-Coder-7B-Instruct-Ties, huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated и MadeAgents/Hammer2.0-7b. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель предназначена для генерации, анализа и исправления программного кода, а также для диалоговых сценариев и вызова инструментов через соответствующий интерфейс. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Карточка не сообщает отдельный перечень поддерживаемых естественных языков или лицензию, поэтому языковую специализацию и условия использования по доступным сведениям определить нельзя.

Qwen2.5-Coder-7B-Instruct-Q8_0-GGUF — это конвертированная в формат GGUF и квантизованная версия модели Qwen/Qwen2.5-Coder-7B-Instruct. Конвертацию выполнила организация ggml-org с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и прежде всего для задач, связанных с программным кодом, включая диалоговое взаимодействие и работу с кодом через llama.cpp. Модель имеет размер 7B параметров и представлена в варианте квантизации Q8_0, что позволяет запускать её локально с помощью llama.cpp в режиме CLI или сервера. В карточке указано, что поддерживаемый язык — английский. Для примера серверного запуска задан контекст 2048 токенов, однако максимальный размер контекста в README не указан. Архитектура и перечень поддерживаемых модальностей не описаны; из назначения и типа pipeline следует, что это текстовая авторегрессионная модель. К сильным сторонам относятся специализация на программном коде, инструкция-ориентированный режим и совместимость с локальным инференсом через llama.cpp. Ограничения связаны с отсутствием в карточке подробных сведений о качестве, бенчмарках, точном размере контекста и поддерживаемых языках помимо английского, а также с потерями точности, возможными при квантизации. Указана лицензия Apache 2.0.

unsloth/Qwen3.6-35B-A3B — постобученная версия мультимодальной модели Qwen3.6, распространяемая в формате Hugging Face Transformers. Она сочетает языковую модель с визуальным энкодером и архитектурой Mixture of Experts: всего 35 млрд параметров, из которых активируются 3 млрд; использует 40 слоёв и 256 экспертов, из них на токен задействуются 8 маршрутизируемых и один общий. Модель принимает текст и изображения, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для агентного программирования, работы с репозиториями и фронтенд-задачами, а также для диалогов и анализа изображений. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000. Карточка перечисляет бенчмарки на английском и китайском, но языковая таблица в предоставленном README опущена, поэтому конкретный список поддерживаемых языков определить нельзя. Для эксплуатации доступны Transformers, vLLM, SGLang и KTransformers; README рекомендует специализированные движки для производительных нагрузок. Лицензия Apache-2.0.

Qwen3.8-27B-OBLITERATED — производная текстовая генеративная модель, опубликованная пользователем bniler2 на базе Qwen/Qwen3.8-27B. Она относится к семейству Qwen3 и предназначена для генерации текста, программного кода и ответов на запросы, включая запросы, на которые исходная модель могла отвечать отказом или отвлечёнными предупреждениями. Модель ориентирована на исследовательские, red-team- и агентные сценарии, а также на локальный запуск в форматах GGUF, SafeTensors и MLX. Заявлены размер 27 млрд параметров и совместимость с режимом рассуждений Qwen3. В README рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Размер контекстного окна и перечень поддерживаемых языков не указаны. Для V3 заявлены показатель MMLU 82,3% в тесте lm-eval 0-shot, близкая к исходной модели производительность и полноценные ответы на тестовые задачи генерации кода, однако эти результаты приведены автором модели и не подтверждены независимой проверкой. Главная особенность модели — удаление или ослабление отказов и защитных ответов методом abliteration с последующей итеративной доработкой и смешиванием вариантов. Это может повысить полезность в задачах анализа безопасности и генерации кода, но одновременно снижает встроенные механизмы безопасного поведения и может привести к выдаче рискованного или вредоносного содержания. По сравнению с исходной моделью заявлено снижение MMLU на 2,1 процентного пункта. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-8bit — языковая модель для генерации текста, ориентированная прежде всего на задачи программирования и работы с кодом. Модель разработана сообществом mlx-community и представляет собой конвертацию Qwen3-Coder-30B-A3B-Instruct от Qwen в формат MLX с использованием mlx-lm версии 0.26.1. Модель предназначена для запуска через библиотеку mlx-lm и поддерживает инструкционный режим с применением chat template. В названии указано 8-битное представление, а исходная модель имеет 30B параметров и архитектуру MoE с 3B активных параметров, однако дополнительные сведения о контекстном окне, языках и поддерживаемых модальностях в README не приведены. К сильным сторонам относятся специализация базовой модели на программировании, инструкционное взаимодействие и адаптация к экосистеме MLX. Ограничения, производительность и требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-8bit — это 8-битная квантованная версия Qwen3-Coder-30B-A3B-Instruct, разработанная Qwen и адаптированная для работы с MLX на компьютерах Apple Silicon. Квантование выполнено командой LM Studio с использованием mlx_lm; сама LM Studio не является создателем исходной модели. Модель предназначена для генерации текста и, прежде всего, задач, связанных с программированием и работой с кодом. Ключевые характеристики включают архитектуру исходной модели Qwen3-Coder-30B-A3B-Instruct, размер 30B с обозначением A3B, 8-битное квантование и оптимизацию под Apple Silicon. В README не указаны поддерживаемые языки, размер контекстного окна, полный перечень модальностей, результаты тестирования или конкретные сценарии применения. Квантование должно снизить требования к памяти и сделать локальный запуск практичнее, но может сопровождаться потерей точности по сравнению с исходной моделью; производительность также зависит от оборудования. Модель распространяется по лицензии Apache-2.0.

lainlives/Qwen3-Coder-30B-A3B-IT-Heretic-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели TitleOS/Qwen3-Coder-30B-A3B-IT-Heretic, созданная на основе Qwen3-Coder-30B-A3B-Instruct. Конвертация выполнена с использованием llama.cpp и сервиса GGUF-my-repo. Модель относится к классу текстовых генеративных моделей и ориентирована прежде всего на задачи программирования и работы с кодом. Модель предназначена для локального запуска через llama.cpp, включая режим командной строки и серверный режим. Ключевые характеристики, указанные в названии, — конфигурация Qwen3 Coder с 30B параметров и компонентом A3B, инструкционное обучение, а также квантизация Q5_K_M, которая снижает требования к памяти по сравнению с полноразмерной версией. Поддерживаются текстовые запросы; сведения о точном размере контекста, языках программирования и естественных языках в карточке не приведены. Сильными сторонами являются специализированная направленность на код, возможность локального развертывания и совместимость с экосистемой llama.cpp. К ограничениям относятся возможные потери качества из-за квантизации, необходимость подходящего аппаратного обеспечения и отсутствие в карточке подробных результатов тестирования, перечня поддерживаемых языков и точных требований к ресурсам. В метаданных указана лицензия Apache-2.0; для дополнительных условий и характеристик рекомендуется обращаться к карточке исходной модели.

Qwen3-Coder-53B-A3B-Instruct-TOTAL-RECALL-v2-MASTER-CODER-L — дообученная разработчиком DavidAU инструктивная MoE-модель для программирования, основанная на Qwen/Qwen3-Coder-30B-A3B-Instruct и адаптере Brainstorm. Модель предназначена для генерации и анализа кода, решения задач программирования и агентных сценариев с использованием инструментов. Репозиторий содержит веса в safetensors, пригодные для прямого запуска и преобразования в другие форматы. Заявлены 53 млрд параметров, 84 слоя и контекст до 262 144 токенов; метаданные указывают 3,9 млрд параметров. Архитектура — Qwen3 MoE с 128 экспертами; автор изменил число активируемых экспертов по умолчанию с 8 до 10. Основная специализация — код на распространённых и менее распространённых языках программирования; карточка также указывает поддержку английского, французского, китайского и немецкого языков. Режим рассуждений по умолчанию отключён, автор предлагает опциональный системный запрос для его включения. Модель рассчитана на кодирование, понимание больших репозиториев и многошаговую работу с кодом; возможен интерфейс вызова инструментов. Качество и скорость зависят от числа активных экспертов, параметров генерации и доступных вычислительных ресурсов. Лицензия — Apache 2.0.

Tiel-Coder-35B-A3B-MLX-oQ4e-MTP — локальная кодовая модель, опубликованная peculiar-ragdoll. Она основана на Ornith-1.5-35B-A3B от ornith-ai и представляет собой его повторно квантизированную версию с помощью oMLX oQ4e, встроенным Sharp chat template и обученной головой multi-token prediction (MTP). Модель относится к семейству MoE с заявленным размером 35B-A3B, поддерживает текстовые и визуальные входы, а среди языков указаны английский и китайский. Размер контекста в README не указан. Модель предназначена прежде всего для agentic coding: исправления реальных проблем в кодовых базах, работы с репозиториями и длительных многоходовых диалогов. По приведённым измерениям GGUF-версии она показывает сильные результаты в SWE-bench-Live и multi-turn задачах, однако эти показатели нельзя напрямую считать результатами данного MLX-файла. Для экзаменационных знаний, викторин и сложного общего рассуждения модель подходит хуже: в README отдельно отмечены слабые результаты на trivia и более низкий показатель MMLU-Pro по сравнению с альтернативной моделью Nail. Для работы с MTP-версией рекомендуется runtime oMLX на Apple Silicon; зрение включено в тот же каталог, отдельный projector-файл не требуется. LM Studio для этой сборки не поддерживается: его MLX-движок некорректно исполняет MTP head и генерирует бессмысленный многоязычный текст. Для LM Studio следует использовать GGUF-версию или MLX-сборку без MTP. Лицензия — MIT.

TheBloke/CodeLlama-34B-GGUF — это набор квантованных файлов модели CodeLlama 34B, разработанной Meta. Репозиторий подготовил TheBloke, преобразовав исходную модель codellama/CodeLlama-34b-hf в формат GGUFv2 для локального запуска и инференса. Модель предназначена прежде всего для генерации и работы с программным кодом. Она относится к семейству Llama и имеет размер 34 млрд параметров. В README указано, что модель поддерживает текстовую генерацию и ориентирована на код; конкретные языки программирования, контекстное окно и дополнительные модальности не указаны. Файлы доступны в вариантах квантования от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Формат GGUF поддерживает метаданные, специальные токены и улучшенную токенизацию. Модель совместима с llama.cpp начиная с указанной версии, а также с рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие. К сильным сторонам относятся возможность локального запуска на CPU и GPU и наличие нескольких уровней квантования. Ограничения связаны с потерями качества при сильном квантовании и высокими требованиями к ресурсам для 34-миллиардной модели; точные показатели производительности в README не приведены. Модель распространяется по лицензии llama2. Условия использования исходной модели и квантованных файлов следует рассматривать с учетом этой лицензии.

QuantFactory/Codestral-22B-v0.1-GGUF — квантизированная версия Codestral-22B-v0.1, разработанной Mistral AI и преобразованной с использованием llama.cpp. Модель предназначена для генерации и анализа программного кода, включая ответы на вопросы по фрагментам кода, написание документации, объяснение, рефакторинг и создание кода по заданным требованиям. Также она поддерживает режим Fill-in-the-Middle (FIM), предсказывающий пропущенные токены между префиксом и суффиксом, что подходит для интеграции в редакторы кода и инструменты разработки. Модель обучена на данных, охватывающих более 80 языков программирования, включая Python, Java, C, C++, JavaScript и Bash. Она относится к классу text-generation, имеет размер 22B параметров и распространяется в формате GGUF; конкретные варианты квантования и размер контекста в README не указаны. Модель ориентирована на текстовые задачи программирования и не описана как мультимодальная. Ключевые преимущества — широкий охват языков программирования, поддержка как инструктивного режима, так и FIM, а также пригодность для локального использования через совместимый стек llama.cpp. Ограничение заключается в отсутствии встроенных механизмов модерации, поэтому при применении в продуктивных или публичных системах необходимы собственные меры контроля вывода. Указана лицензия MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.

IQuest-Coder-V1-40B-Base — базовая модель семейства кодовых больших языковых моделей IQuestLab для анализа и генерации кода. Она предназначена для задач программной инженерии, включая работу с кодовыми базами, понимание изменений в репозиториях и решение сложных задач разработки. Модель содержит 39,4 млрд параметров, использует плотную архитектуру IQuestCoderForCausalLM с Grouped Query Attention и поддерживает контекст до 131 072 токенов. Для работы с моделью указана библиотека Transformers и формат весов safetensors; README рекомендует Transformers версии 4.52.4 или новее и отмечает использование пользовательского кода моделирования через auto_map. Модель обучалась по многоэтапному подходу code-flow, учитывающему эволюцию репозиториев, переходы между коммитами и преобразования кода. Семейство ориентировано на автономную программную инженерию, программирование и работу с инструментами; эта карточка относится к варианту Base, а не к специализированным Thinking или Instruct вариантам. Основной язык в метаданных — английский. Лицензия указана как other, без уточнения условий в доступных данных. Модель не исполняет сгенерированный код; ответы могут содержать правдоподобные ошибки, а качество может снижаться на узкоспециализированных или закрытых фреймворках.

Kimi-Dev-72B-4bit-DWQ — языковая модель для генерации текста и работы с программным кодом, разработанная на базе moonshotai/Kimi-Dev-72B. Модель преобразована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.26.0 и предназначена для запуска на устройствах, поддерживающих экосистему MLX. Модель ориентирована на задачи программирования, разрешения software issues и сценарии, связанные с разработкой и исправлением кода, включая задачи класса SWE-bench. Она имеет размер 72B параметров и использует 4-битное квантование DWQ, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность и качество генерации. Поддерживается текстовая модальность; сведения о языках, максимальном размере контекста и конкретной архитектуре в README не указаны. Для использования требуется библиотека mlx-lm и совместимое окружение MLX. Модель распространяется по лицензии MIT.

Laguna XS 2.1 — текстовая модель семейства Laguna от Poolside, предназначенная прежде всего для агентного программирования и длительных задач разработки ПО. Это архитектура Mixture-of-Experts с 33 млрд параметров в общей сложности и примерно 3 млрд активируемых на токен; в репозитории Hugging Face указано 2,6 млрд параметров. Модель состоит из 40 слоёв, использует смесь скользящего и глобального внимания, поддерживает контекст до 262 144 токенов и интерфейс вызова инструментов. Модель подходит для работы с кодом, выполнения терминальных задач и взаимодействия с инструментами в агентных сценариях. README сообщает об улучшении результатов относительно Laguna XS.2 на SWE-bench Multilingual и терминальных задачах, однако бенчмарки не гарантируют аналогичного качества на конкретных проектах. Модель принимает и выдаёт текст; карточка не указывает поддерживаемые естественные языки. Веса доступны под лицензией OpenMDW-1.1, которую разработчик описывает как разрешающую коммерческое и некоммерческое использование и модификацию. Для применения следует учитывать условия лицензии и политики допустимого использования Poolside. Для локального запуска заявлена поддержка Transformers, vLLM, SGLang, Llama.cpp, Ollama и других перечисленных в карточке средств.

Nex-N2-Pro — открытая агентная языковая модель компании Nex-AGI, предназначенная для сложных задач разработки ПО и рабочих процессов с длительным планированием. Она дообучена на основе Qwen3.5-397B-A17B и использует архитектуру семейства Qwen3.5 MoE; в README указана поддержка рассуждений, вызова инструментов и выполнения задач в среде с обратной связью. Модель подходит для агентного программирования, поиска информации и выполнения команд в терминале. Модель выдаёт текст и может формировать вызовы инструментов; карточка также описывает сценарии генерации веб- и мультимедийного контента, но подробные входные мультимодальности для этого репозитория не подтверждены. В метаданных указаны Transformers, формат safetensors и лицензия Apache-2.0. README приводит результаты на агентных и программных бенчмарках, включая 75,3 на Terminal-Bench 2.1 и 1585 на GDPval. Для развёртывания авторы рекомендуют собственную версию sglang; крупный размер базовой модели требует мощного оборудования. Языки и длина контекста не подтверждены доступными данными.

NousCoder-14B-GGUF — это квантизированные версии языковой модели NousCoder-14B, разработанной NousResearch и подготовленные bartowski в формате GGUF с использованием llama.cpp. Модель предназначена прежде всего для генерации и анализа программного кода, решения задач программирования и работы в локальных средах запуска, включая llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. В README также указаны наборы данных, связанные с генерацией кода и задачами LiveCodeBench, использованные для базовой модели или её подготовки. Модель имеет размер 14 миллиардов параметров; точные сведения об архитектуре, поддерживаемых языках программирования и длине контекста в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а менее точные Q3 и Q2 подходят главным образом при ограниченных ресурсах. Сильными сторонами являются возможность локального запуска, широкий выбор квантований и совместимость с популярными инструментами инференса. Ограничения связаны с компромиссом между размером и качеством при использовании квантованных версий, а также с тем, что некоторые форматы могут требовать обновления программного обеспечения. Модель и представленные квантизации распространяются по лицензии Apache-2.0.

OpenCodeReasoning-Nemotron-32B-IOI-GGUF — это квантизированная версия текстовой генеративной модели OpenCodeReasoning-Nemotron-32B-IOI, разработанной NVIDIA. Репозиторий с квантизациями подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи, связанные с генерацией и анализом кода, и предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет размер 32B параметров, поддерживает английский язык и поставляется в формате GGUF в вариантах от BF16 до IQ4 и Q3. Доступны разные уровни квантизации с размером файлов примерно от 17,25 до 65,54 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Для работы рекомендуется использовать указанный в README шаблон диалога с маркерами ролей ChatML. Контекст модели, мультимодальные возможности и точная архитектура в README не указаны. Сильными сторонами являются специализация на задачах программирования, широкий выбор квантизаций и возможность локального запуска. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут уступать более точным версиям по качеству. Лицензия модели — Apache-2.0; сведения об условиях использования исходной модели отдельно не приведены.

Qwen2.5-Coder-1.5B — базовая авторегрессионная языковая модель для программирования, разработанная командой Qwen. Она предназначена для генерации и анализа кода, исправления ошибок и задач заполнения пропусков в коде; модель может служить основой для кодовых агентов после дополнительной настройки. Это предобученная модель, а не готовый разговорный ассистент. Модель использует архитектуру Qwen2 с 1,5 млрд параметров, 28 слоями, RoPE, SwiGLU, RMSNorm и групповым запросным вниманием; контекст — до 32 768 токенов. Она обучалась на коде, текстово-кодовых связях и синтетических данных, сохраняя общие языковые и математические способности базовой серии Qwen2.5. В репозитории представлены веса Safetensors для Transformers. Лицензия Apache 2.0 допускает использование и модификацию на её условиях. Модель сравнительно компактна, однако качество может уступать более крупным моделям; для диалога и практического использования рекомендуется постобучение или адаптация под целевой сценарий.

Qwen2.5-Coder-1.5B-Instruct-GGUF — это квантизированный формат GGUF модели Qwen2.5-Coder-1.5B-Instruct, разработанной Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации и анализа программного кода, чат-взаимодействия и других задач текстовой генерации, связанных с разработкой программного обеспечения. Указан английский язык, а исходная модель доступна через библиотеку Transformers. Модель содержит 1,5 млрд параметров и распространяется в нескольких вариантах точности, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Размер файлов составляет примерно от 0,78 до 3,09 ГБ, поэтому доступны варианты для систем с разным объёмом оперативной памяти. В README не указаны архитектурные детали, размер контекста и дополнительные модальности; по описанию это текстовая модель без заявленной поддержки изображений или других типов входных данных. Основное преимущество набора — локальный запуск через llama.cpp и совместимость с LM Studio при существенно сниженном потреблении памяти. Варианты с более высокой точностью обеспечивают лучшее качество, а низкоразрядные квантизации экономят ресурсы, но могут заметно снижать качество генерации; устаревший формат Q4_0 не рекомендуется по сравнению с альтернативами сопоставимого размера. Для общения следует использовать указанный в README шаблон сообщений ChatML. Лицензия — Apache-2.0.

unsloth/Qwen2.5-Coder-3B-Instruct — это инструктивная текстовая модель для генерации и работы с кодом, основанная на Qwen2.5-Coder-3B-Instruct от Qwen и представленная Unsloth. Модель использует плотную архитектуру Qwen2 с причинным языковым моделированием и содержит 3,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации, анализа и исправления кода по текстовым запросам, а также для диалоговых сценариев и работы с инструментами. Она подходит разработчикам для помощи при написании кода и создания кодовых агентов. Карточка README описывает семейство Qwen2.5-Coder, но содержит противоречивые сведения о размере и варианте модели; описание размера и контекста здесь опирается на метаданные репозитория. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0 допускает использование на её условиях. Языковая метка карточки — английский; другие поддерживаемые естественные языки достоверно не установлены.

Это версия Qwen2.5-Coder-7B-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.31.1. Модель семейства Qwen2 — плотная причинная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалоговой генерации кода, его анализа и исправления. Формат MLX ориентирован на запуск в экосистеме MLX; карточка также указывает поддержку английского языка и лицензии Apache-2.0.

Etherll/Qwen2.5-Coder-7B-Instruct-Ties — объединённая инструкционная языковая модель, созданная автором репозитория методом TIES с помощью mergekit. В качестве базовой использована Qwen/Qwen2.5-Coder-7B, а в объединение включена Qwen/Qwen2.5-Coder-7B-Instruct. Модель предназначена для диалоговой генерации текста и помощи с программным кодом: она может генерировать, анализировать и исправлять код, а также отвечать на запросы в формате чата. Архитектура — плотная Qwen2, 7,1 млрд параметров; нативный контекст — 32 768 токенов. Репозиторий содержит веса safetensors, а метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Карточка не приводит результаты оценки качества или перечень поддерживаемых языков программирования. Лицензия в предоставленных данных не указана; сведения о ней следует проверить на странице репозитория.

mlx-community/Qwen3-Coder-480B-A35B-Instruct-4bit — модель для генерации текста, созданная на основе Qwen3-Coder-480B-A35B-Instruct от Qwen и преобразованная сообществом mlx-community в формат MLX. Модель предназначена прежде всего для задач программирования и обработки инструкций, включая генерацию ответов на текстовые запросы в совместимых приложениях на базе MLX. Модель имеет обозначение 480B-A35B и использует 4-битное квантование, что уменьшает требования к памяти по сравнению с полноразмерной версией. Она поддерживает текстовую модальность и относится к классу instruction-tuned моделей для text generation. README не содержит сведений о конкретной архитектуре, максимальном контексте, поддерживаемых языках, производительности и результатах тестирования. Сильной стороной является адаптация к MLX и возможность запуска через библиотеку mlx-lm с использованием чат-шаблона токенизатора. Ограничения включают высокую заявленную размерность модели и отсутствие в README подробностей о требованиях к оборудованию, качестве на конкретных задачах и языковой поддержке. Распространение осуществляется по лицензии Apache-2.0.

ucbye/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало квантизированной модели saricles/Qwen3-Coder-Next-NVFP4-GB10, основанной на Qwen3-Coder-Next от Alibaba и команды Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также для сценариев развертывания LLM на системах DGX Spark с GPU GB10. В README указано, что веса байт-в-байт идентичны исходной квантизации, а зеркало предоставляет стабильную и неконтролируемую версию для проекта развертывания qwen3-coder-next. Архитектура qwen3_next сочетает линейное внимание DeltaNet, полноразмерное внимание и латентный MoE. Модель содержит 48 слоев, включая 36 слоев с линейным вниманием и 12 слоев с полным вниманием, 79,7 млрд параметров при примерно 3 млрд активных параметров на токен, 512 экспертов, из которых активируются 10 совместно с одним общим экспертом. Используется 4-битная NVFP4-квантизация через compressed-tensors; отдельные компоненты сохранены в BF16. Максимальная длина контекста составляет 262 144 токена, заявленный язык — английский. Размер модели на диске — около 45,9 ГБ. Сильные стороны модели — большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоев DeltaNet. На DGX Spark заявлена скорость около 61 токена в секунду для одного запроса и поддержка примерно пяти одновременных сессий при контексте 262K с FP8 KV-кэшем. Ограничения включают зависимость производительности от совместимого оборудования и настроек vLLM, а также потери точности, возможные из-за агрессивной 4-битной квантизации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; перераспределение разрешено.

Qwen3-Coder-Next.w4a16 — квантизированная версия языковой модели Qwen3-Coder-Next, разработанная Red Hat на базе модели Qwen/Qwen3-Coder-Next. Это авторегрессионная модель архитектуры Qwen3NextForCausalLM с текстовым вводом и текстовым выводом, предназначенная прежде всего для генерации и анализа кода, а также для развертывания в сценариях, поддерживающих вызов инструментов. Модель использует схему W4A16: веса линейных операторов в блоках Transformer представлены в формате INT4, а активации — FP16. Такая оптимизация сокращает число битов на параметр с 16 до 4 и приблизительно на 75% уменьшает требования к дисковому пространству и памяти GPU. README не содержит сведений о размере модели, поддерживаемых языках программирования и естественных языках, максимальной длине контекста или мультимодальных возможностях. Основное преимущество модели — существенное снижение требований к памяти при сохранении высокой эффективности на задачах программирования. В оценке SWE-Bench Lite она получила результат 48,67 против 49,33 у исходной Qwen3-Coder-Next, что соответствует восстановлению 98,6% исходного показателя. Ограничением является возможная небольшая потеря точности из-за квантизации, а также зависимость рекомендуемого развертывания от совместимой инфраструктуры, например vLLM и Tensor Parallel. Модель распространяется по лицензии Apache-2.0. Для квантизации использовалась библиотека llm-compressor и алгоритм GPTQ; в README приведён пример развертывания через vLLM с поддержкой автоматического выбора инструментов и парсера вызовов Qwen3 Coder.