II.7DevOps, облако и эксплуатация IT-систем

Bootes-Qwen3_Coder-Reasoning — дообученная модель PrithivMLmods на базе Qwen3-4B-ft-bf16, предназначенная для генерации кода и рассуждений над техническими задачами. Это плотная причинная языковая модель на 3,7 млрд параметров, работающая через Transformers; заявленная длина контекста — 40 960 токенов. Модель принимает текст и формирует текстовые ответы, включая код и структурированные данные. Модель подходит для генерации, дополнения, объяснения и отладки кода, пошагового решения алгоритмических задач, рефакторинга и подготовки технических материалов. В README заявлена поддержка Python, JavaScript, C++ и других языков программирования, а также технического общения более чем на 20 естественных языках; в метаданных карточки указан английский язык. Обучение включает CodeAlpaca_20K и дополнительные наборы для кода и рассуждений. Среди заявленных особенностей — следование инструкциям и выдача Markdown, JSON и YAML. Карточка предупреждает, что модель может хуже справляться с творческими задачами вне программирования, чувствительна к формулировке неоднозначных запросов и иногда даёт излишне подробные объяснения. Лицензия — Apache-2.0.

CobrIX-1.0-Coder-Flash-33B-A13B — диалоговая языковая модель CobrIX на архитектуре Qwen 3.5 MoE, собранная на основе empero-ai/Qwythos-9B-v2 и пяти дообученных экспертов Qwen 3.5. По README, в модели 33 млрд параметров, из которых активно 13 млрд на токен; метаданные указывают 7,2 млрд параметров. Заявленное нативное окно контекста — 1 048 576 токенов. Модель предназначена для генерации кода и диалогов; метаданные подтверждают задачу text-generation и возможность чата. В MoE-блоках используется маршрутизация top-2 к пяти экспертам и общий эксперт. Указана лицензия MIT. README описывает проект как ранний доступ, а размещённая модель — как экспериментальную сборку.

CodeLlama 7B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. Данный репозиторий TheBloke содержит её файлы в формате GGUF, предназначенные для локального запуска и инференса через llama.cpp и совместимые интерфейсы. Модель относится к семейству Llama и имеет около 7 миллиардов параметров. Модель ориентирована на решение задач программирования по текстовому описанию, включая генерацию кода с учётом ограничений и примеров тестов. Указана модальность работы с кодом; конкретный перечень поддерживаемых языков программирования и размер контекстного окна в README не приведены. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти, скоростью и сохранением качества, однако более агрессивное квантование может снижать точность результатов. Файлы совместимы с llama.cpp и рядом сторонних приложений и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, ctransformers и llama-cpp-python. Модель распространяется по лицензии Llama 2. Для использования требуется программное окружение, поддерживающее GGUF; характеристики конкретного запуска зависят от выбранного варианта квантования и аппаратной конфигурации.

CodeLlama 7B Python GGUF — это квантизированная версия языковой модели CodeLlama 7B Python, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода, решения задач программирования и работы с запросами, требующими написания Python-кода. Это текстовая модель архитектуры Llama с 7 миллиардами параметров; заявленный язык — code, а поддерживаемые модальности ограничены текстом и кодом. Размер контекста в представленных данных не указан. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Ограничения включают возможное снижение качества из-за квантизации, отсутствие в README данных о результатах тестирования и точных требованиях к ресурсам. Модель распространяется по лицензии Llama 2.

CodeQwen1.5-7B-Chat-GGUF — набор GGUF-квантизированных вариантов чат-модели CodeQwen1.5-7B-Chat от Qwen, подготовленный пользователем bartowski для запуска через llama.cpp. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с программным кодом в диалоговом формате: написание, объяснение и редактирование кода, а также ответы на связанные с программированием запросы. В названии указано около 7 миллиардов параметров; точная архитектура, размер контекста и перечень поддерживаемых языков в предоставленных данных не описаны. В метаданных указан английский язык. Для диалога необходимо использовать шаблон с ролями system, user и assistant в формате специальных токенов Qwen. Репозиторий содержит варианты с разной степенью квантизации — от Q8_0 размером 7,70 ГБ до IQ1_S размером 2,36 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S отмечены как рекомендуемые; более компактные варианты экономят память, но могут заметно терять в качестве. Q8_0 обеспечивает наиболее высокое качество среди доступных вариантов, однако обычно не требуется. Ограничения модели включают зависимость качества от выбранной квантизации и отсутствие в README сведений о бенчмарках, мультимодальности и поддержке языков помимо заявленного английского. Указана лицензия other с названием tongyi-qianwen; подробные условия приведены в лицензии исходной модели Qwen. Квантизация выполнена с использованием llama.cpp и метода imatrix.

DeepSeek-Coder-V2-Instruct-IMat-GGUF — это GGUF-квантизованная версия модели DeepSeek-Coder-V2-Instruct, подготовленная пользователем legraphista на основе исходной модели deepseek-ai. Модель предназначена для генерации текста и, судя по названию базовой модели, ориентирована прежде всего на работу с программным кодом и инструкциями, однако подробные сведения о поддерживаемых языках программирования и естественных языках в представленном README не указаны. Доступны варианты квантования от 1 до 8 бит, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, а также ряд вариантов IQ. Файлы распространяются в формате GGUF и могут использоваться с llama.cpp; крупные варианты поставляются разделёнными на несколько частей. Для вариантов Q4 и ниже применена IMatrix-квантизация с отдельным файлом imatrix.dat, а исходный тип данных базовой модели — BF16. Размеры файлов варьируются примерно от 85,95 до 250,62 ГБ, поэтому требования к оперативной или видеопамяти существенно зависят от выбранного варианта. Сильной стороной модели является широкий выбор уровней квантования, позволяющий выбирать баланс между качеством и ресурсами, а IMatrix может улучшать сохранение качества при низкой разрядности. Ограничениями являются большой объём файлов, необходимость совместимого программного обеспечения и потенциальное снижение качества по сравнению с исходной BF16-моделью, особенно у более агрессивных вариантов квантования. Модель распространяется по лицензии deepseek-license; в метаданных она указана как other, а подробные условия находятся в файле LICENSE.

Devstral-Small-2-NVFP4-GGUF — квантизированная GGUF-сборка мультимодальной модели для программирования, разработанная Mistral AI и представленная в репозитории FreedomAISVR. В её основе — mistralai/Devstral-Small-2-24B-Instruct-2512: плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров и контекстом до 393 216 токенов. Для работы с изображениями используется проектор mmproj на основе 24-слойного SigLIP ViT. Модель предназначена для генерации и анализа кода, диалогов с изображениями, вызова инструментов и агентных сценариев. Квантизация NVFP4 занимает около 12,52 ГБ для текстовых весов; файл проектора F16 занимает около 0,82 ГБ. Формат рассчитан на ускорение инференса на GPU NVIDIA Blackwell. Поддерживается многоязычное общение, однако конкретный перечень языков в карточке не приведён. Модель доступна по лицензии Apache 2.0. Квантизация может снизить качество относительно исходных весов; работа с изображениями требует отдельного файла проектора, а заявленное аппаратное ускорение NVFP4 ориентировано на Blackwell.

Это объединённая модель на архитектуре Gemma 4, опубликованная пользователем tepirale в формате SafeTensors для Transformers. Метаданные связывают её с двумя моделями: yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF и yuxinlu1/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF. README описывает преобразование весов из GGUF в SafeTensors, но не приводит подробностей об обучении или оценке качества. Модель предназначена для генерации текста и, согласно pipeline_tag, работы с изображениями вместе с текстом. Теги указывают на сценарии программирования, агентных задач, использования инструментов и терминала. Репозиторий использует библиотеку Transformers; лицензия — Apache 2.0. Подтверждённых сведений о поддерживаемых языках, контекстном окне и точном числе параметров в предоставленных данных нет.

Карточка модели tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-safetensors-yuxinlu1 на Hugging Face совпадает с карточкой tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-assistant-safetensors-yuxinlu1, поэтому описание составлено по ней. Это объединённая модель на архитектуре Gemma 4, опубликованная пользователем tepirale в формате SafeTensors для Transformers. Метаданные связывают её с двумя моделями: yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF и yuxinlu1/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF. README описывает преобразование весов из GGUF в SafeTensors, но не приводит подробностей об обучении или оценке качества. Модель предназначена для генерации текста и, согласно pipeline_tag, работы с изображениями вместе с текстом. Теги указывают на сценарии программирования, агентных задач, использования инструментов и терминала. Репозиторий использует библиотеку Transformers; лицензия — Apache 2.0. Подтверждённых сведений о поддерживаемых языках, контекстном окне и точном числе параметров в предоставленных данных нет.

gl-agent-1-27b — плотная языковая модель на 27 млрд параметров семейства Qwen3.5, дообученная для длительных агентных задач. Она предназначена для диалоговых сценариев, где модель планирует и выполняет последовательности действий, включая вызов инструментов и задачи программирования. Вызовы инструментов формируются в XML и требуют соответствующего парсера Qwen3 в vLLM; режим рассуждения включён по умолчанию. Модель поддерживает контекст длиной 262 144 токена, расширяемый до 1 000 000 токенов с YaRN. Веса включают голову multi-token prediction для спекулятивного декодирования без отдельной черновой модели. В README приведены настройки запуска через vLLM; результаты бенчмарков пока отсутствуют, поэтому качество и выигрыш в скорости следует оценивать на целевом оборудовании. Карточка указывает лицензию Apache-2.0.

0xSero/GLM-4.7-185B — сжатая версия GLM-4.7, созданная 0xSero методом REAP (Router-weighted Expert Activation Pruning), разработанным Cerebras. Модель построена на разреженной архитектуре Mixture-of-Experts: из исходных 160 экспертов оставлено 80. В карточке указаны 23,4 млрд параметров, тогда как README описывает вариант как 185B; README также приводит исходный размер 358B и сокращение до 179B после обрезки, поэтому оценки размера расходятся. Модель предназначена прежде всего для генерации кода, вызова функций и инструментов, а также многошаговых агентных сценариев. Она принимает текст и генерирует текст, поддерживает диалог и код; максимальная длина контекста по метаданным — 202 752 токена. README заявляет совместимость с vLLM, Transformers и SGLang, а метаданные указывают библиотеку Transformers и формат Safetensors. Калибровка при обрезке экспертов ориентирована на код, структурированный вывод для вызова инструментов и агентные траектории; автор заявляет, что дообучение не проводилось. Модель распространяется по лицензии Apache-2.0. Показатели качества и сохранения возможностей в предоставленных материалах не приведены, поэтому пригодность для конкретной нагрузки следует оценивать отдельно.

Gonzo-Code-7B — объединённая языковая модель на базе Mistral-7B, созданная с помощью mergekit и метода DARE TIES. В объединение вошли Nondzu/Mistral-7B-Instruct-v0.2-code-ft, xingyaoww/CodeActAgent-Mistral-7b-v0.1 и beowolx/MistralHermes-CodePro-7B-v1; базовой моделью при слиянии указана eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO. Модель предназначена для генерации текста, включая ответы в диалоге и помощь с кодом. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. В метаданных указан английский язык; базовые модели включают варианты для программирования и выполнения действий через инструменты. Модель распространяется в формате safetensors под лицензией Apache-2.0. Карточка не приводит сравнительных оценок качества или подробных ограничений, поэтому пригодность для конкретного сценария следует проверять отдельно.

granite-20b-code-instruct-IMat-GGUF — это GGUF-квантизированная версия модели granite-20b-code-instruct, разработанной IBM (ibm-granite) и подготовленной пользователем legraphista. Модель предназначена для генерации и объяснения программного кода, исправления ошибок, работы с инструкциями, математическими задачами, SQL и сценариями function calling. Указаны варианты квантования от 1 до 16 бит, включая конфигурации с IMatrix, оптимизированные для запуска через llama.cpp. Модель содержит около 20 млрд параметров и основана на исходном формате BF16. В README не указаны точная архитектура, максимальная длина контекста и полный перечень поддерживаемых языков, однако результаты оценки приведены для Python, JavaScript, Java, Go, C++, Rust и демонстрируют применимость к генерации, объяснению и исправлению кода. В тестах HumanEvalSynthesis показатель pass@1 составил от 42,1 до 60,4% в зависимости от языка; значения не верифицированы. Ключевое преимущество версии — возможность выбирать баланс между качеством, размером файла и требованиями к памяти благодаря множеству вариантов квантования и применению IMatrix. Ограничения связаны с потерями качества при низкой разрядности, отсутствием подробных сведений о контексте и мультимодальности, а также с тем, что приведённые метрики не подтверждены. Модель распространяется по лицензии Apache 2.0.

Mungert/granite-8b-code-instruct-128k-GGUF — это GGUF-квантизированная версия Granite-8B-Code-Instruct-128K, разработанная IBM Research и предназначенная для генерации текста и программного кода по инструкциям. Модель дообучена на базе Granite-8B-Code-Base-128K с использованием разрешённых к распространению наборов данных и синтетических инструкций для задач с длинным контекстом. Релиз исходной модели состоялся 18 июля 2024 года. Модель содержит около 8 миллиардов параметров, работает как causal language model и поддерживает контекст до 128 тысяч токенов. Она ориентирована на создание coding assistants, генерацию, объяснение и исправление кода, работу с большими фрагментами исходного кода и репозиториями, а также на задачи, связанные с математикой, SQL и function calling. В README приведены результаты на Python, C++, Java, TypeScript и Rust; показатели pass@1 составляют от 37 до 73 в отдельных тестах RepoQA, однако результаты отмечены как непроверенные. Ключевая особенность этой версии — формат GGUF и дополнительный подход к квантизации: автор применяет повышение точности отдельных важных слоёв сверх стандартной конфигурации IMatrix. Это может улучшать точность при ограниченной разрядности, но увеличивает размер файлов модели; конкретный вариант квантизации и требования к памяти в README не указаны. Модель работает с текстовыми входами и выходами; сведения о мультимодальности и полном наборе поддерживаемых языков отсутствуют. Модель распространяется по лицензии Apache 2.0. Для использования необходима совместимая среда инференса, например llama.cpp или библиотека, поддерживающая GGUF.

QuantFactory/granite-8b-code-instruct-4k-GGUF — квантованная версия Granite-8B-Code-Instruct-4K, разработанная IBM Research и преобразованная в формат GGUF с использованием llama.cpp. Модель содержит около 8 млрд параметров и дообучена на базе Granite-8B-Code-Base-4K на наборах данных с разрешительными лицензиями для улучшения следования инструкциям, логического рассуждения и решения задач, связанных с программированием. Модель предназначена для генерации, объяснения и исправления кода, а также для создания программных ассистентов. В карточке приведены результаты HumanEvalPack для Python, JavaScript, Java, Go, C++, и Rust; показатели pass@1 различаются в зависимости от языка и типа задачи. Контекстное окно составляет 4K токенов. Модель относится к текстовым генеративным моделям и не предназначена для обработки изображений или других мультимодальных данных. Ключевые преимущества — специализация на задачах программирования, поддержка нескольких языков программирования, улучшенное следование инструкциям и возможность локального запуска благодаря квантованию. Ограничения включают ограниченный контекст в 4K токенов, зависимость качества от языка и задачи, а также необходимость проверять сгенерированный код перед использованием; заявленные результаты бенчмарков не отмечены как верифицированные. Модель распространяется по лицензии Apache 2.0.

Magicoder-S-DS-6.7B — языковая модель для генерации кода, разработанная Юйсяном Вэем, Чжэ Вангом, Цзя-вэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, дообученная на базе deepseek-coder-6.7b-base. Она принимает текстовые инструкции и генерирует текст, прежде всего исходный код; контекст составляет 16 384 токена. Модель предназначена для задач программирования и обучена на наборах Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Она ориентирована на разнообразные и реалистичные инструкции по коду, но может ошибаться и хуже справляться с задачами вне программирования. Лицензия указана как DeepSeek; перед использованием следует учитывать её условия и условия OpenAI для синтетических обучающих данных.

MiniCPM5-1B — компактная плотная языковая модель семейства MiniCPM5, разработанная OpenBMB; этот репозиторий AIArchiveInfo является побитовой копией оригинала openbmb/MiniCPM5-1B. Модель предназначена для локальных помощников, кодовых агентов, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Она построена на архитектуре LlamaForCausalLM, содержит около 838 млн параметров по метаданным каталога и поддерживает контекст до 131 072 токенов. Один чекпойнт поддерживает режимы ответа с рассуждением и без него; карточка также отмечает возможности чата, вызова инструментов, генерации кода и сложных рассуждений. Модель рассчитана на английский и китайский языки и доступна в формате Safetensors для Transformers. Лицензия — Apache-2.0. Модель может ошибаться, воспроизводить смещения или выдавать небезопасные ответы; результаты следует проверять, особенно при использовании в ситуациях с высокими ставками.

MiniMax-M2.7-GGUF — это GGUF-квантизация модели MiniMax-M2.7, разработанной MiniMaxAI и подготовленной пользователем dennny123 на основе исходных BF16-весов. Модель предназначена для генерации текста, диалоговых сценариев, программирования и агентских рабочих процессов. Она может запускаться через llama.cpp, LM Studio или Ollama. Модель использует архитектуру Mixture-of-Experts с 229 млрд параметров, из которых около 10 млрд активны для каждого токена. Доступны варианты от BF16 до Q2_K; размеры файлов составляют примерно от 83 до 427 ГБ. В метаданных указан английский язык, однако сведения о размере контекста и дополнительных модальностях отсутствуют. Квантизации Q6_K и Q5_K_M заявлены как обеспечивающие высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Сильные стороны модели — специализация на кодировании и агентских задачах, высокая заявленная производительность в SWE-Pro, VIBE-Pro, Terminal Bench 2, GDPval-AA и MLE Bench Lite, а также возможность локального запуска в экосистеме GGUF. Основные ограничения — чрезвычайно высокие требования к памяти: несмотря на активацию лишь части параметров, при инференсе необходимо загрузить весь набор из 229 млрд параметров. Более агрессивная квантизация уменьшает требования к ресурсам, но может снижать качество. Лицензия указана как modified-MIT; подробные условия следует уточнять в официальной лицензии MiniMaxAI.

MistralHermes-CodePro-7B-v1 — дообученная модель семейства Mistral, созданная на основе teknium/OpenHermes-2.5-Mistral-7B. По карточке, модель дополнительно обучена на наборе из более чем 200 тысяч примеров кода на разных языках программирования и предназначена для помощи в задачах разработки. Она использует архитектуру MistralForCausalLM с 7,1 млрд параметров, принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Модель ориентирована на диалоговый формат OpenHermes 2.5 и поддерживает следование инструкциям. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Карточка рекомендует использовать LM Studio для общения с моделью.

Ornith-1.5-397B — крупная языковая модель класса mixture-of-experts, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и развивает Ornith-1.0, созданную на основе Qwen3.5 и Gemma4 с дополнительным предварительным обучением, промежуточным обучением и постобучением. В Ornith-1.5 совместно оптимизируются генерация задач, построение scaffold и rollouts решений в цикле самоулучшения с reinforcement learning. Модель предназначена прежде всего для сложных задач программирования и работы с инструментами, включая разработку и отладку программного обеспечения, выполнение задач в терминале и автономные инженерные сценарии. Это текстовая generative-модель с заявленным размером 397B параметров; в README она описана как flagship-модель семейства. Приведены высокие результаты на Terminal-Bench 2.1, DeepSWE и SWE-bench, однако сведения о поддерживаемых языках, длине контекста, дополнительных модальностях и требованиях к аппаратному обеспечению не указаны. К сильным сторонам относятся ориентация на агентные coding-сценарии, самоулучшение стратегий решения и конкурентные результаты на бенчмарках программирования. Ограничения включают очень большой размер и высокие потенциальные требования к ресурсам, а также отсутствие в предоставленных данных подробностей о фактических языковых возможностях, контекстном окне и эксплуатационных ограничениях. Модель распространяется по лицензии MIT.

Ornith-1.5-9B — плотная языковая модель с 9 миллиардами параметров, разработанная командой Ornith AI. Она относится к семейству Ornith-1.5 и создана на основе подхода непрерывного самоулучшения: модель совместно оптимизирует генерацию задач, построение scaffold и выполнение решений с применением reinforcement learning. Модель распространяется для задач генерации текста и ориентирована прежде всего на эффективное развертывание на одной GPU; для мобильных устройств предусмотрен отдельный квантизированный вариант Ornith-1.5-9B-Mobile. Основные сценарии применения — программирование, работа с терминалом и автоматизированное решение задач разработки. В README приведены результаты на Terminal-Bench 2.1: 46,2 с Terminus-2 и 47 с Claude Code, а также 70,6 на SWE-bench Verified и 47,5 на SWE-bench Pro. Эти показатели указывают на сильную сторону модели в агентных задачах, связанных с написанием и исправлением кода, хотя результаты зависят от используемого окружения и scaffold. Архитектура, поддерживаемые языки, длина контекста и мультимодальные возможности в карточке не указаны. Модель распространяется по лицензии MIT. Данных о специфических ограничениях, безопасностных свойствах и качестве на других языках недостаточно; приведенные benchmark-результаты не следует считать гарантией поведения в произвольных прикладных сценариях.

PentaCoder-9B — объединённая модель для генерации кода и агентных задач, опубликованная pragmaticcs. В карточке она описана как слияние пяти специализированных чекпойнтов на общей основе Qwen3.5-9B с использованием метода GeoDELLA. Модель предназначена для написания и отладки программ, планирования многошаговых задач разработки и взаимодействия с инструментами, включая терминал и проверки компиляции. Это текстовая причинно-следственная модель семейства Qwen3.5 с гибридной архитектурой рекуррентного и полносвязного внимания. README заявляет контекст 256 тыс. токенов; метаданные указывают 7,2 млрд параметров, тогда как README приводит 8,8 млрд. Карточка ориентирует модель на код, рассуждения и агентные сценарии; в метаданных языки карточки — английский и китайский. Указанная лицензия — Apache-2.0. Слияние объединяет специализации доноров в алгоритмической корректности, планировании SWE-bench, работе с инструментами, выполнении команд и восстановлении после ошибок. Эти характеристики заявлены в карточке автора и сами по себе не подтверждают качество на независимых тестах. Модель описана как чисто текстовая, поэтому возможности анализа изображений из сводного описания базовой модели к ней не относятся.

Qwen2.5-Coder-14B-Instruct-MLX-4bit — 4-битная MLX-квантизация инструкционной языковой модели Qwen2.5-Coder-14B-Instruct. Исходную модель разработала команда Qwen, квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках программы Community Models LM Studio. Она предназначена для генерации и анализа программного кода, диалогового взаимодействия с разработчиком и использования в code agents. Модель содержит 14B параметров, работает с текстом и ориентирована на английский язык. Заявлена поддержка длинного контекста до 128K токенов с масштабированием RoPE методом YaRN с коэффициентом 4,0. При обучении использовалось до 5,5 трлн токенов, включая исходный код, данные для сопоставления текста и кода и синтетические данные. Формат MLX рассчитан на совместимость с компьютерами Mac на Apple Silicon, а 4-битная квантизация снижает требования к памяти по сравнению с полноразмерной моделью. Сильными сторонами являются специализация на программировании, поддержка длинного контекста и применимость к агентным сценариям разработки. Ограничения включают зависимость от оборудования Apple Silicon, возможные ошибки, неточность или небезопасность генерируемого содержимого, а также отсутствие в README подробностей о фактической производительности, системных требованиях и полном наборе поддерживаемых языков. Лицензия модели — Apache 2.0.

QuantFactory/Qwen2.5-Coder-1.5B-GGUF — квантизированная версия модели Qwen2.5-Coder-1.5B, подготовленная QuantFactory с использованием llama.cpp. Базовая модель разработана командой Qwen. Это авторегрессионная языковая модель для генерации, анализа и исправления программного кода, а также для задач рассуждений, математики и общих текстовых сценариев. Модель относится к типу causal language model и предназначена прежде всего для программирования; базовая версия не рекомендуется для обычного диалогового использования без дополнительного дообучения. Модель содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется настройка YaRN. В карточке указан английский язык, модальность — текст, формат применения — text generation. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, компактный размер и возможность локального запуска в квантизированном формате GGUF. При этом небольшое число параметров может ограничивать качество по сравнению с более крупными моделями, а статическое масштабирование YaRN способно ухудшать производительность на коротких текстах. Модель распространяется по лицензии Apache-2.0.

ApolloRaines/Qwen2.5-Coder-32B-Instruct-Jbliterated — модифицированная версия Qwen2.5-Coder-32B-Instruct, разработанная Apollo Raines. Модель предназначена для генерации текста и программного кода, включая разработку, анализ и преобразование кода, а также сценарии, где требуется модель без встроенного поведения отказа. Она может применяться для творческого письма, исследований в области безопасности и академических экспериментов, однако требует ответственного использования. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 32,8 млрд параметров при 64 слоях. Она сохраняет архитектуру, токенизатор и длину контекста базовой модели; в README указана поддержка английского языка. Основной формат — BF16, также доступны варианты GGUF с квантованием Q8_0 и Q4_K_M. Полноточная версия занимает около 62 ГБ, Q8_0 — 33 ГБ, а Q4_K_M — 19 ГБ. Отличительная особенность модели — удаление поведения отказа непосредственно из весов с помощью проприетарного инструмента jBlaze, без дополнительного обучения или fine-tuning. По заявлению разработчика, это должно сохранять стиль и творческие характеристики исходной модели, но одновременно означает отсутствие встроенного отказа от потенциально опасных запросов. Модель распространяется по лицензии Apache 2.0, как и базовая модель; ответственность за соблюдение законодательства и безопасное применение возлагается на пользователя.

Qwen2.5-Coder-3B-Instruct-MLX-4bit — это 4-битная MLX-квантизация инструкционной модели Qwen2.5-Coder-3B-Instruct, разработанной Qwen. Квантизацию подготовил bartowski на основе инструментов mlx-examples. Модель предназначена для запуска на компьютерах Mac с Apple Silicon и ориентирована на задачи генерации и обработки текста и исходного кода, включая использование в Code Agents. Модель имеет около 3 миллиардов параметров, поддерживает контекст до 32 тысяч токенов и обучалась на объёме до 5,5 триллиона токенов, включая исходный код, пары «текст—код» и синтетические данные. Указана текстовая модальность; сведения о дополнительных языках и модальностях в README отсутствуют. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска, однако может ограничивать качество по сравнению с полноразмерной версией. Как и другие языковые модели, она способна генерировать неточный, вредный или неподходящий контент. В README лицензия модели не указана, поэтому условия использования необходимо уточнять в документации оригинальной модели Qwen2.5-Coder-3B-Instruct и материалах к данной квантизации.

Карточка модели Thor39/Qwen2.5-Coder-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

RootMonsteR/Qwen3-14B-Abliterated-GGUF — это квантизированная GGUF-версия модели RootMonsteR/Qwen3-14B-Abliterated, созданной на основе Qwen/Qwen3-14B. Модель разработана RootMonsteR с применением метода directional ablation из Heretic v1.3.0: заявленная цель — сохранить способности к рассуждению, программированию и tool-calling, одновременно существенно сократив количество автоматических отказов. По данным карточки, доля отказов снижена примерно с 99 до 10 из 100 тестов при KL-дивергенции 0,0333. Модель предназначена для локального текстового диалога, автономных агентов, вызова инструментов и функций, авторизованных исследований безопасности, защитных инструментов, CTF, обучения и изучения поведения моделей без отказов. Доступны варианты Q5_K_M размером около 10,5 ГБ и Q4_K_M размером около 9 ГБ; Q5_K_M рекомендуется для агентов и более надёжного формирования JSON, а Q4_K_M — при ограниченном объёме памяти. Поддерживаются llama.cpp, Ollama, LM Studio, Jan и KoboldCpp; заявлен контекст до 32 768 токенов. Указаны режимы рассуждения и без рассуждения, а также встроенный шаблон чата Qwen3. Сильными сторонами являются низкая стоимость локального запуска, сохранение исходных возможностей Qwen3-14B после квантизации, поддержка reasoning и tool-calling, а также сниженное количество рефлексивных отказов. Ограничения включают возможное ухудшение точности формата вызовов инструментов у Q4_K_M при агрессивных настройках генерации, более низкую скорость работы на CPU и необходимость использовать семплирование вместо жадного декодирования. Модель распространяется по лицензии Apache-2.0. Снижение отказов повышает требования к контролю применения: использование должно соответствовать законодательству, договорным обязательствам и согласованному объёму работ.

Qwen3.5-DeltaCoder-9B-GGUF — семейство GGUF-квантизированных вариантов модели danielcherubini/Qwen3.5-DeltaCoder-9B, разработанное Daniel Cherubini на базе Qwen3.5-9B. Модель ориентирована на генерацию и анализ кода, использование инструментов и агентские сценарии. В версии v1.1-DPO применено дообучение методом DPO на 4519 предпочтительных парах из AceCode-V2-122K, направленное на повышение корректности кода и способности модели обнаруживать и исправлять собственные ошибки. Модель поддерживает текстовые задачи и заявлена для английского языка. Размер базовой модели — 9 млрд параметров. Доступны варианты квантования от Q2_K до Q8_0, а также BF16; рекомендуемым указан Q4_K_M. Модель предназначена для запуска через llama.cpp, Ollama, LM Studio и другие совместимые с GGUF движки. В README приведены конфигурации для контекста до 131072 токенов, однако требуемый объём памяти зависит от выбранного варианта квантования и параметров KV-кэша. Сильные стороны модели — специализация на программировании, надёжность вызовов инструментов, ориентация на прохождение тестов и улучшенное самокорректирующее поведение после DPO-обучения. Ограничения включают зависимость качества от степени квантования, необходимость соблюдать рекомендованные параметры генерации и склонность к детерминированным циклам при temperature ниже 0,5. Для версии v1.1-DPO часть заявленных benchmark-результатов ещё не определена; в Terminal-Bench указано 2 из 4 выполненных задач при наличии тайм-аутов. Распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.