II.7DevOps, облако и эксплуатация IT-систем

Qwen3.6-Max-Preview — проприетарная модель Alibaba Cloud на архитектуре разреженной смеси экспертов (MoE), содержащая примерно 1 трлн параметров. Она предназначена для агентного программирования, использования инструментов и генерации текста. Доступный фрагмент карточки не раскрывает подробности об интерфейсе, поддерживаемых языках или длине контекста. Модель представлена как Preview; условия лицензии в доступных данных не описаны.

Qwen3-Coder-30B-A3B-Instruct GGUF — квантизированная версия модели Qwen/Qwen3-Coder-30B-A3B-Instruct, подготовленная ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных для отдельных тензоров, чтобы сохранить высокое качество при малой разрядности. Модель предназначена прежде всего для генерации и анализа программного кода, а также сценариев, связанных с вызовом функций; это отражено в используемых при оценке бенчмарках HumanEval, LiveCodeBench и BFCL-V3. Модель распространяется в формате GGUF и предназначена для локального запуска, в частности через llama.cpp и Ollama. Доступны варианты для CPU с преимущественно KQ-квантизацией и для GPU с гибридным подходом KQ/IQ. Размер файлов составляет примерно от 10,1 до 16,0 ГБ, а средняя разрядность — от 2,65 до 4,20 бит на вес, что позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. README не содержит сведений о контекстном окне, поддерживаемых языках, точной архитектуре или мультимодальности. Сильными сторонами являются широкий выбор аппаратно-оптимизированных вариантов, низкие требования к памяти по сравнению с полной моделью и возможность локального использования. Ограничением выступает компромисс между степенью квантизации и качеством: более компактные варианты могут уступать более крупным по точности, а фактическая производительность зависит от оборудования и выбранного файла. Модель распространяется по лицензии Apache-2.0.

lainlives/Qwen3-Coder-30B-A3B-IT-Heretic-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели TitleOS/Qwen3-Coder-30B-A3B-IT-Heretic, созданная на основе Qwen3-Coder-30B-A3B-Instruct. Конвертация выполнена с использованием llama.cpp и сервиса GGUF-my-repo. Модель относится к классу текстовых генеративных моделей и ориентирована прежде всего на задачи программирования и работы с кодом. Модель предназначена для локального запуска через llama.cpp, включая режим командной строки и серверный режим. Ключевые характеристики, указанные в названии, — конфигурация Qwen3 Coder с 30B параметров и компонентом A3B, инструкционное обучение, а также квантизация Q5_K_M, которая снижает требования к памяти по сравнению с полноразмерной версией. Поддерживаются текстовые запросы; сведения о точном размере контекста, языках программирования и естественных языках в карточке не приведены. Сильными сторонами являются специализированная направленность на код, возможность локального развертывания и совместимость с экосистемой llama.cpp. К ограничениям относятся возможные потери качества из-за квантизации, необходимость подходящего аппаратного обеспечения и отсутствие в карточке подробных результатов тестирования, перечня поддерживаемых языков и точных требований к ресурсам. В метаданных указана лицензия Apache-2.0; для дополнительных условий и характеристик рекомендуется обращаться к карточке исходной модели.

speechless-code-mistral-7b-v1.0-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP модель MaziyarPanahi на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/speechless-code-mistral-7b-v1.0. Она предназначена для диалоговой генерации текста и ответов на инструкции, включая задачи, связанные с программным кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Метаданные указывают Apache-2.0; веса доступны в формате safetensors. Данные карточки не уточняют языки, на которых модель лучше всего работает, и не приводят отдельной оценки качества или ограничений по задачам.

QuantFactory/starcoder2-7b-instruct-GGUF — квантованная версия модели TechxGenus/starcoder2-7b-instruct, созданная QuantFactory с использованием llama.cpp. Это текстовая генеративная модель, дообученная для работы с инструкциями, связанными с программированием и генерацией кода. В основе лежит StarCoder2-7B; модель была дообучена на 0,7 млрд дополнительных высококачественных токенов, связанных с кодом, в течение 3 эпох. Для обучения применялись DeepSpeed ZeRO 3 и Flash Attention 2. Заявленный результат на HumanEval-Python составляет 73,2 pass@1. Модель использует формат инструкций Alpaca без системного промпта. Сведения о поддерживаемых языках программирования, размере контекста и конкретных параметрах квантования в карточке не указаны. Модель предназначена прежде всего для генерации кода по инструкциям и других задач разработки программного обеспечения. Её сильные стороны — специализация на коде и заявленный результат на HumanEval-Python, а квантование может упростить локальный запуск. Ограничения включают возможные ошибки и вводящий в заблуждение результат, особенно при решении задач, не связанных с программированием; тестирование модели было ограниченным, поэтому перед применением в реальных системах рекомендуется дополнительная проверка безопасности. Лицензия — BigCode OpenRAIL-M.

Fmuaddib выпустил конвертированную в формат MLX модель WhiteRabbitNeo-2.5-Qwen-2.5-Coder-12.3B-mlx-fp16 на основе win10/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-12.3B. Это плотная авторегрессионная модель семейства Qwen2 с 11,7 млрд параметров, предназначенная для генерации текста в диалоговом режиме; в названии и базовой модели указана специализация на программировании. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. README сообщает о конвертации из исходного репозитория в MLX с помощью mlx-lm версии 0.22.3; метаданные указывают формат файлов safetensors. Условия лицензии в предоставленных данных не приведены.

Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

Athena-codegemma-2-9b — дообученная компанией EpistemeAI языковая модель семейства Gemma 2 с плотной архитектурой и 9 млрд параметров. Она создана на основе EpistemeAI/EpistemeAI-codegemma-2-9b и предназначена для генерации кода и текста по запросу. Модель принимает текст и генерирует текст; её контекстное окно составляет 8192 токена. В карточке указан английский язык. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

Code Llama 13B — базовая генеративная модель Meta для синтеза и понимания кода. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, содержащий 12,9 млрд параметров. Данная версия представлена в формате Transformers и принимает текст, выдавая текст; она поддерживает контекст до 16 384 токенов. Модель предназначена для продолжения и дополнения кода, включая infilling, а также для адаптации к разным задачам генерации и анализа кода. Она рассчитана на английский язык и языки программирования; это базовая версия, а не вариант для следования инструкциям или специализированная Python-модель. Модель может генерировать неточный или нежелательный код, поэтому результаты требуют проверки и тестирования в целевом приложении. Использование регулируется лицензией Meta Llama 2; карточка указывает на наличие коммерческой лицензии Meta.

Codestral-22B-v0.1-abliterated-v3 — производная модель failspy, созданная на основе mistralai/Codestral-22B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 22 млрд параметров, представленная в формате bfloat16 Safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена прежде всего для генерации и дополнения кода: она может отвечать на вопросы о фрагментах кода, объяснять и документировать их, выполнять рефакторинг, генерировать код по описанию и продолжать код между заданными префиксом и суффиксом в режиме Fill in the Middle. Обучающие данные исходной Codestral охватывают более 80 языков программирования, включая Python, Java, C, C++, JavaScript и Bash. Автор применил ортогонализацию весов, чтобы ослабить склонность исходной модели отказывать в ответах; это не гарантирует отсутствия отказов. README также предупреждает о возможных побочных эффектах и необычном поведении новой методики. Для запуска автор исходной модели рекомендует mistral-inference. Лицензия в метаданных указана как other; конкретные условия следует проверять в карточке модели.

Codestral-22B-v0.1-hf — конвертированная версия Codestral-22B-v0.1 от Mistral AI в формате Transformers. Это плотная авторегрессионная модель семейства Mistral с 22 млрд параметров и контекстом до 32 768 токенов, предназначенная для работы с кодом на более чем 80 языках программирования. Она отвечает на вопросы по фрагментам кода, объясняет и документирует их, помогает рефакторить код, генерирует код по инструкциям и поддерживает заполнение пропусков между префиксом и суффиксом (Fill in the Middle), что подходит для интеграции в редакторы кода. В README также указан пример на Rust; среди названных языков — Python, Java, C, C++, JavaScript и Bash. Модель принимает текстовые инструкции и фрагменты кода и генерирует текст, включая исходный код. Карточка предупреждает, что у модели нет механизмов модерации. В репозитории указаны веса safetensors и лицензия «other»; конкретные условия лицензии следует сверять с карточкой модели и условиями исходного репозитория Mistral AI.

OpenAssistant/falcon-40b-megacode2-oasst — дообученная языковая модель семейства Falcon на основе andreaskoepf/falcon-40b-megacode2. Её обучали в два этапа: сначала на наборе LosslessMegaCodeTrainingV2_1m_Evol_Uncensored для генерации кода, затем на данных OpenAssistant/oasst1 для диалогов. Модель использует архитектуру FalconForCausalLM, содержит 65 млрд параметров и распространяется в формате safetensors. Модель предназначена для генерации кода и ответов в диалоге; для общения применяется шаблон ChatML. Её можно использовать для написания и продолжения кода, а также для ответов на пользовательские запросы. В карточке не указаны контекстное окно и перечень поддерживаемых естественных языков. Лицензия — Apache-2.0.

Granite-20b-code-instruct-GGUF — квантизированная версия модели granite-20b-code-instruct, разработанной IBM и опубликованной в формате GGUF пользователем bartowski. Модель предназначена для генерации и анализа программного кода, выполнения инструкций, решения математических задач, работы с SQL-контекстами и сценариев, связанных с function calling и ассистентами для разработки. Модель содержит около 20 миллиардов параметров и относится к текстовым моделям генерации. В карточке указаны датасеты для обучения и дообучения, включая Code Прикладные наборы, MathInstruct, MetaMathQA, наборы для SQL и function calling. Доступны варианты от F16 до квантизаций Q3–Q8 в формате GGUF, совместимые с llama.cpp и рекомендованные для запуска, в частности, через LM Studio. Размер файлов варьируется примерно от 11,5 до 40,2 ГБ. Сильными сторонами являются специализация на программировании, поддержка инструкционного режима и наличие вариантов квантизации для различного объёма оперативной памяти; для оценки HumanEvalSynthesis(Python) в README приведены значения pass@1 до 60,4%. Ограничения включают высокие требования к памяти для полноразмерной версии, возможное снижение качества у более сильных квантизаций и отсутствие в карточке сведений о поддерживаемых языках, размере контекста и мультимодальности. Базовая модель распространяется по лицензии Apache-2.0.

duyntnet/granite-8b-code-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Granite-8B-Code-Instruct, разработанной IBM Research. Модель создана на основе Granite-8B-Code-Base-4K и дообучена на наборе инструкционных данных с разрешительными лицензиями для улучшения следования инструкциям, логического рассуждения и решения задач. Модель предназначена для генерации кода по инструкциям и создания ассистентов программирования. Она содержит около 8 млрд параметров, относится к авторегрессионным моделям генерации текста и поддерживает контекст до 4K токенов. В карточке указана поддержка английского языка и текстовая модальность. GGUF-квантизации можно запускать через llama.cpp, KoboldCPP, Ollama и text-generation-webui. К сильным сторонам относятся специализация на задачах программирования, следование инструкциям и навыки рассуждения. Ограничения включают контекст в 4K токенов, ориентацию на английский язык и зависимость характеристик производительности и качества от выбранного варианта квантизации. Для использования доступны клиенты и интерфейсы, совместимые с GGUF. Исходная модель распространяется по лицензии Apache 2.0; для конкретных квантизованных файлов в карточке также указана лицензия other.

IsValorum публикует эту сборку KAT-Coder-V2.5-Dev в формате GGUF с пользовательской квантизацией APEX-I-MiniPlus V2. Это MoE-модель для генерации кода и агентных сценариев программирования, основанная на Kwaipilot/KAT-Coder-V2.5-Dev. Сборка рассчитана на запуск через llama.cpp, в том числе с полным или частичным размещением весов в системной памяти; автор приводит ориентиры производительности и использования длинного контекста, но они зависят от оборудования. Модель поддерживает чат и программирование, а метаданные указывают многоязычные теги, включая русский, английский и китайский. README описывает выборочную квантизацию тензоров с сохранением повышенной точности для отдельных компонентов. Указанный в карточке контекст 256K относится к заявленным сценариям запуска, а не подтвержденному здесь параметру модели. Репозиторий лицензирован по Apache-2.0.

Карточка модели rbinrs/Laguna-S-2.1 на Hugging Face совпадает с карточкой poolside/Laguna-S-2.1, поэтому описание составлено по ней. Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.

Laguna XS 2.1-INT4 — текстовая модель класса Mixture-of-Experts, разработанная poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Она предназначена для генерации и анализа кода, взаимодействия с инструментами и выполнения многошаговых задач разработки, включая работу в терминале и репозиториях. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, и включает 40 слоёв с 256 экспертами и одним общим экспертом. Архитектура сочетает глобальное внимание в 10 слоях и Sliding Window Attention с окном 512 токенов в 30 слоях; используется per-head gating и rotary scales. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, поддерживает interleaved thinking между вызовами инструментов и сохранение рассуждений. Это вариант INT4 с KV-кэшем, квантованным в FP8. К сильным сторонам относятся сравнительно компактный объём активных параметров, сниженные требования к памяти благодаря архитектуре внимания и FP8 KV-кэшу, а также ориентация на локальный запуск; в README указана возможность запуска на Mac с 36 ГБ оперативной памяти. Ограничения включают специализацию прежде всего на агентном программировании, отсутствие заявленных мультимодальных возможностей и отсутствие сведений о конкретных поддерживаемых языках. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

Llama-3-8B-Instruct-Coder-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Llama-3-8B-Instruct-Coder, предназначенной прежде всего для генерации и анализа программного кода, а также для диалоговых задач по текстовым инструкциям. Квантизации подготовлены пользователем bartowski на основе модели rombodawg/Llama-3-8B-Instruct-Coder, которая, в свою очередь, связана с базовой моделью unsloth/llama-3-8b-Instruct-bnb-4bit. Для квантизации использован llama.cpp с imatrix и датасетом Kalomaze. Модель имеет текстовую модальность, архитектуру семейства Llama 3 и размер 8 миллиардов параметров. В README явно указан английский язык; сведения о других языках и размере контекстного окна отсутствуют. Доступны варианты от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые: более высокие уровни обычно обеспечивают лучшее качество, а низкие позволяют экономить оперативную память ценой заметной деградации. Сильные стороны модели — возможность локального запуска через llama.cpp, широкий выбор компромиссов между качеством и требованиями к памяти и специализация на задачах программирования. Ограничения включают потери качества при агрессивной квантизации, особенно у вариантов IQ1_M и Q2–Q3, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и фактическом языковом покрытии. Модель распространяется по лицензии Apache-2.0.

Карточка модели NostraEmpire/mirror-qwen2.5-coder-7b-instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

Novasy/nova-coder-merge-7b — слитая модель Novasy на архитектуре Qwen2, созданная методом TIES с помощью mergekit из Qwen/Qwen2.5-7B-Instruct и Qwen/Qwen2.5-Coder-7B-Instruct. Она предназначена для диалоговой генерации текста и помощи с программированием, включая создание и объяснение кода, а также выдачу структурированных ответов. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов; репозиторий содержит веса в формате safetensors. Метаданные также отмечают интерфейс вызова инструментов. Слияние объединяет общие инструктивные возможности Qwen2.5 с ориентацией кодовой версии на программирование. В карточке не приведены результаты оценки качества или отдельный перечень поддерживаемых языков. Лицензия в предоставленных данных не указана.

OpenCodeReasoning-Nemotron-32B-IOI-GGUF — это квантизированная версия текстовой генеративной модели OpenCodeReasoning-Nemotron-32B-IOI, разработанной NVIDIA. Репозиторий с квантизациями подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи, связанные с генерацией и анализом кода, и предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет размер 32B параметров, поддерживает английский язык и поставляется в формате GGUF в вариантах от BF16 до IQ4 и Q3. Доступны разные уровни квантизации с размером файлов примерно от 17,25 до 65,54 ГБ, что позволяет выбирать между качеством ответов и требованиями к памяти. Для работы рекомендуется использовать указанный в README шаблон диалога с маркерами ролей ChatML. Контекст модели, мультимодальные возможности и точная архитектура в README не указаны. Сильными сторонами являются специализация на задачах программирования, широкий выбор квантизаций и возможность локального запуска. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но могут уступать более точным версиям по качеству. Лицензия модели — Apache-2.0; сведения об условиях использования исходной модели отдельно не приведены.

OpenAgent-i1-GGUF — это набор GGUF-квантизованных вариантов модели OpenAgent, созданной на базе OrionLLM/Terminus-Qwen3-8b и обученной с использованием датасета OrionLLM/OpenAgentInstruct. Квантизацию выполнил mradermacher; в метаданных также указана компания nethype GmbH как предоставившая инфраструктуру для этой работы. Модель ориентирована на текстовую генерацию, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Поддерживаемый язык — английский. Это текстовая модель примерно на 8 миллиардов параметров, представленная в формате GGUF и доступная в вариантах квантизации от IQ1_S до Q6_K. Размер файлов составляет примерно от 2,2 до 6,8 ГБ; README рекомендует Q4_K_M как быстрый вариант и Q4_K_S как компромисс между размером, скоростью и качеством. Более агрессивная квантизация уменьшает требования к памяти, но может заметно снижать качество, а IQ-форматы иногда предпочтительнее аналогичных по размеру вариантов. Модель предназначена для локального запуска в совместимом ПО, однако конкретные требования к контексту, поддерживаемые модальности помимо текста, производительность и результаты бенчмарков в README не указаны. Распространяется по лицензии Apache-2.0.

FreedomAISVR/Ornith-1.0-35B-MXFP4-MOE-GGUF — квантизированная версия Ornith-1.0-35B от deepreinforce-ai, модели для программирования и агентных сценариев, основанной на Qwen 3.5. Она предназначена для генерации кода и выполнения задач coding agent, включая формирование плана или каркаса решения и последующие шаги. Модель имеет архитектуру MoE с 35 млрд параметров, из которых активны около 8 млрд на токен, 256 экспертов и 40 слоёв; используется гибридное внимание с локальными и полными слоями. Контекстное окно — 262 тысячи токенов. В репозитории веса представлены в формате GGUF с квантизацией MXFP4 для экспертных весов и Q8_0 для остальных тензоров. Карточка описывает вариант как рассчитанный на эффективное развёртывание на одной видеокарте; указывает минимум 20 ГБ видеопамяти и рекомендует 24 ГБ или больше для полного размещения модели на GPU. Лицензия — MIT.

Ornith-1.5-35B-A3B REAP-50 NVFP4A16 — локальная текстовая модель для генерации кода, созданная Ttimms на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для программирования, генерации и исправления кода, а также агентских сценариев разработки. Она рассчитана на запуск в пределах 16 ГБ видеопамяти, в частности на RTX 5070 Ti, и может обслуживаться через vLLM. Это разреженная Mixture-of-Experts-модель с архитектурой Qwen3_5MoeForCausalLM. В результате pruning число экспертов сокращено с 256 до 128, а эффективный размер — примерно с 35,95 до 19 млрд параметров; маршрутизация 8 из 128 экспертов сохранена. Веса квантизованы методом GPTQ-NVFP4A16 в 4-битный формат с использованием compressed-tensors. Модель работает только с текстом: vision tower и MTP draft head удалены, поэтому визуальные задачи и функции MTP недоступны. Заявленный контекст — до 49 тыс. токенов в описанном сценарии SWE-bench. На опубликованном checkpoint модель показала 84,15% на HumanEval+, 90,24% на HumanEval и 89,15% на MBPP+ при жадной генерации; в SWE-bench Verified результат составил 22 из 50 задач, или 44%, при ограничении контекста и использовании mini-swe-agent. Эти показатели получены в конкретной конфигурации и могут изменяться из-за особенностей FP4-квантизации и пакетирования. Модель ориентирована прежде всего на код и локальный запуск, а сокращение экспертов, удаление визуальной башни и MTP-компонента являются основными ограничениями. Лицензия MIT унаследована от базовой модели.

OxCoder-9B GGUF — языковая модель для генерации кода, разработанная Pink Pixel на базе Qwen/Qwen3.5-9B. Она предназначена прежде всего для долгих агентных сценариев разработки программного обеспечения и работы в терминале: решения задач в репозиториях, генерации и изменения кода, устранения ошибок и автоматизации инженерных процессов. При обучении использовались траектории работы передовых coding-агентов, включая Fable-5.1 и GLM-5.3 в средах Claude Code, OpenCode и Codex. Модель содержит около 9 млрд параметров, поддерживает текстовую модальность и заявлена для английского языка. Архитектура — Qwen 3.5 с гибридными слоями linear attention и full self-attention, interleaved MRoPE и поддержкой контекста до 262 144 токенов. В репозитории доступны GGUF-квантизации от BF16 до Q2_K размером примерно от 16,69 до 3,56 ГБ; вариант Q4_K_M указан как рекомендуемый по умолчанию, а Q8_0 — как близкий к исходному качеству при достаточном объёме памяти. Для запуска требуются llama.cpp или совместимые среды с поддержкой Qwen 3.5, включая Ollama, LM Studio и Jan. Сильные стороны модели — ориентация на агентную разработку, работу с терминалом, восстановление после ошибок вызовов инструментов, предварительный просмотр файлов перед изменениями и формирование минимальных diff. В README приведены результаты бенчмарков Terminal-Bench 2.1, SWE-bench Verified, SWE-bench Pro, NL2Repo и GPQA Diamond, однако фактическое качество зависит от выбранной квантизации и среды запуска. Более компактные варианты экономят память, но могут заметно уступать по качеству; Q2_K прямо предназначен для тестирования при жёстких ограничениях памяти. Модель распространяется по лицензии Apache 2.0.

qwen14b-code-trainer-v9_mixed — LoRA-адаптер для Qwen/Qwen2.5-Coder-14B-Instruct, обученный в рамках Code-Trainer / RTPI pipeline на наборе code-trainer-v9-mixed. Модель предназначена для генерации кода по инструкциям, вызова инструментов и многошагового агентского поведения в многоходовых диалогах. Версия V9 ориентирована на корректное формирование обёрток <tool_call> и </tool_call>, необходимых для разбора структурированных вызовов инструментов в Ollama. Адаптер использует PEFT LoRA с параметрами r=32, alpha=64 и dropout=0,05. Обучение проходило в два этапа: сначала на смешанном наборе данных, затем на подмножестве примеров с вызовами инструментов. В обучающем наборе 40 401 пример, около 64,3% из них содержат определения инструментов; также использовались примеры генерации кода, отладки, многошагового взаимодействия и англоязычных инструкций. Обучение выполнялось с длиной последовательности 4096 токенов в bfloat16 на одной A100 80 GB. Для работы адаптер необходимо подключать к базовой модели Qwen/Qwen2.5-Coder-14B-Instruct, после чего его можно объединить с базовой моделью и квантовать в GGUF для llama.cpp, Ollama или LM Studio. Рекомендуется квантование Q5_K_M, поскольку оно лучше сохраняет шаблоны тегов вызова инструментов; Q4_K_M указано как запасной вариант. Рекомендуемая длина контекста — 8192 токена, хотя базовая модель поддерживает до 32K. Ограничения включают отсутствие специального обучения для safety alignment, RLHF и задач, не связанных с кодом. Лицензия — Apache-2.0. В README указано, что адаптер заменён для развёртывания версией V10 с GRPO, но остаётся её SFT-основой.

prithivMLmods/Qwen2.5-Coder-14B-Instruct-F16-GGUF — версия модели Qwen2.5-Coder-14B-Instruct в формате GGUF F16. Она основана на Qwen/Qwen2.5-Coder-14B-Instruct и предназначена для генерации кода и диалогового взаимодействия по инструкциям. Модель содержит 14 млрд параметров; GGUF позволяет запускать её в совместимом программном обеспечении, например llama.cpp и Ollama. Модель подходит для написания, анализа и исправления кода в чат-сценариях. В карточке указаны английский язык и лицензия CreativeML Open RAIL-M. README описывает общий запуск GGUF через Ollama, но не приводит отдельные результаты оценки или специфические настройки этой модели.

QuantFactory/Qwen2.5-Coder-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-1.5B-Instruct, созданная QuantFactory на основе обновлённых весов от 6 ноября 2024 года с использованием llama.cpp. Исходная модель относится к серии специализированных кодовых моделей Qwen, разработанных командой Qwen; в README конкретная организация-разработчик не указана, однако модель основана на репозитории Qwen/Qwen2.5-Coder-1.5B-Instruct. Модель предназначена для генерации, анализа и исправления программного кода, рассуждений о коде, создания code agents, а также задач общего назначения и математики. Это авторегрессионная causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Модель содержит 1,54 млрд параметров, из них 1,31 млрд без учёта эмбеддингов, имеет 28 слоёв и Grouped-Query Attention с 12 головами для Q и 2 для KV. Поддерживается текстовая модальность и заявлен английский язык. Заявленная максимальная длина контекста составляет 131 072 токена, но исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, причём статическое масштабирование может ухудшать производительность на коротких текстах. Квантизация и небольшой размер делают модель подходящей для более экономичного локального развёртывания, однако README не содержит сведений о конкретном формате квантизации, требованиях к памяти, производительности или сравнительных результатах. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-32B-Instruct-abliterated-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели Qwen2.5-Coder-32B-Instruct-abliterated. Репозиторий содержит конвертацию исходной модели, выполненную с помощью llama.cpp через сервис GGUF-my-repo. В метаданных указана лицензия Apache-2.0, а базовой моделью названа huihui-ai/Qwen2.5-Coder-32B-Instruct-abliterated. Модель предназначена для генерации текста и диалогового использования, прежде всего для задач, связанных с программированием: написания, объяснения и обработки кода. Она рассчитана на запуск через llama.cpp в командной строке или в режиме сервера и может применяться локально при наличии совместимого оборудования. В README также отмечена поддержка английского языка. Ключевые характеристики — архитектура семейства Qwen2.5-Coder, размер 32B параметров и квантизация Q5_K_M в формате GGUF. README не содержит сведений о точном размере контекста, поддерживаемых модальностях помимо текста, результатах тестирования, требованиях к памяти и производительности. Вариант abliterated позиционируется как менее ограниченный, однако подробности метода его создания и практические ограничения не описаны. Для использования требуется совместимая сборка llama.cpp; условия лицензии указаны как Apache-2.0.

Карточка модели bigxho15/Qwen2.5-Coder-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.