II.7DevOps, облако и эксплуатация IT-систем

Code Llama 13B Instruct — разработанная Meta инструктивно настроенная авторегрессионная языковая модель на архитектуре оптимизированного Transformer. Репозиторий содержит версию на 13 млрд параметров в форматах Transformers, PyTorch и Safetensors; модель принимает текст и генерирует текст. Модель предназначена для генерации и понимания кода, автодополнения, заполнения пропусков в коде и диалогового выполнения инструкций. Её можно применять как основу для помощников по программированию и генерации кода. README указывает английский язык и языки программирования как целевые; использование на других естественных языках выходит за заявленные рамки. Модель обучена на данных семейства Llama 2 с дополнительной настройкой для следования инструкциям. Возможны неточные или нежелательные ответы; перед внедрением в конкретное приложение рекомендуется провести его собственную проверку безопасности и настройку. Использование регулируется пользовательской лицензией Meta для Code Llama; метаданные обозначают её как llama2.

Code Llama 34B — базовая авторегрессионная языковая модель Meta на архитектуре Transformer, представленная в формате для Hugging Face Transformers. Она содержит 33,5 млрд параметров и предназначена для генерации и понимания кода; эта версия не является вариантом Python или Instruct и не ориентирована на диалоговые инструкции. Модель принимает текст и генерирует текст. Её можно применять для автодополнения кода и адаптировать к другим задачам синтеза и понимания программ. Для работы с длинными запросами поддерживается контекст до 16 384 токенов. Основной язык карточки — английский; модель также работает с релевантными языками программирования. Модель обучена на статическом наборе данных, поэтому её ответы могут быть неточными или нежелательными; перед внедрением требуется проверка и настройка под конкретное применение. Использование регулируется лицензией Meta Llama 2, включая её условия и ограничения.

CodeLlama-7b-hf — базовая генеративная модель Meta для синтеза и понимания программного кода. Это версия семейства Code Llama с 7 млрд параметров в формате Transformers; архитектура — авторегрессионный оптимизированный трансформер семейства Llama. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов. Модель предназначена для автодополнения кода и infilling — заполнения пропусков в коде. README отмечает, что эта базовая версия не предназначена для инструкционного диалога; для следования инструкциям в семействе есть отдельный вариант Instruct. Модель рассчитана на английский язык и языки программирования. Лицензия — пользовательская лицензия Meta для Llama 2, условия которой следует учитывать при использовании.

Codestral-22B-v0.1 — языковая модель для работы с кодом, разработанная Mistral AI. Это плотная авторегрессионная модель семейства Mistral с 22 млрд параметров и контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; в метаданных указана библиотека vLLM, а в README приведён пример генерации через инструменты Mistral. Модель предназначена для генерации и продолжения кода, а также для диалоговых запросов, связанных с программированием. Её можно использовать в помощниках разработчика и для ответов на вопросы о машинном обучении; карточка не уточняет поддерживаемые языки программирования или естественные языки. В README отмечено, что у модели нет встроенных механизмов модерации, поэтому её ответы могут требовать внешних защитных мер. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией репозитория.

dapack-code — это специализированная на программировании версия Qwen3.5-35B-A3B, представленная в формате GGUF с градуированной точностью экспертов: файл весит 10,7 ГБ вместо 21,2 ГБ у полной модели. По данным карточки, эксперты, востребованные для кода, сохранены с точностью q2_K, остальные — с IQ2_XXS под матрицей важности; эксперты не удалены. Модель предназначена для генерации кода и задач разработки ПО. README сообщает о сохранённом качестве генерации кода по внутренним поведенческим измерениям и успешных пробах вызова инструментов; также заявлена поддержка итальянского языка. Для запуска требуется специальная версия dapack runtime: обычные сборки llama.cpp, Ollama и LM Studio этот формат не загружают. Модель основана на мультимодальной Qwen3.5-35B-A3B, но README описывает этот пак как кодовый текстовый генератор. Лицензия — MIT. Карточка указывает на существенное снижение качества перевода; вне программирования точность может деградировать из-за низкой точности части экспертов.

ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

Gemma-4 12B Coder — SFT v5 + abliterated (GGUF) — это локальная квантизированная версия кодовой модели семейства Gemma-4, разработанная на базе модели tpls/gemma-4-12B-coder-fable5-composer2.5-v1-sft-v5-abliterated и подготовленная triplezrobotics. Модель распространяется в формате GGUF для запуска через llama.cpp и Ollama; заявленный основной язык — английский. Модель предназначена для генерации кода, текстовых задач и агентских сценариев с использованием инструментов и function calling. Она сочетает дообучение SFT v5, abliteration и imatrix-квантизацию. Доступны варианты от IQ4_XS и Q3_K_M до Q8_0; Q4_K_M обозначен как сбалансированный вариант для примерно 12 ГБ видеопамяти. В README приведён пример запуска с контекстом 16 384 токена. Ключевое преимущество модели — поддержка вызова инструментов и локального развёртывания. В тесте на наборе из восьми случаев заявлен результат 8/8 при использовании recovery shim, преобразующего нативную разметку Gemma-4 в стандартные tool_calls; без shim-парсера llama.cpp показатель составил 0,125 из-за неполной обработки формата. Ответы могут содержать ошибки или вымышленные данные, поэтому аргументы инструментов необходимо проверять до выполнения. Вариант является uncensored: из весов удалено направление отказа, поэтому защитные ограничения существенно ослаблены. Это делает модель непригодной для сценариев, где обязательна встроенная политика отказа, и требует контроля со стороны пользователя. В README указана лицензия Gemma.

Карточка модели dshive/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели RedHatAI/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели Scrappy-Doo/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Карточка модели YuRiVeRTi/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Laguna-S-2.1 — текстовая модель семейства Laguna от Poolside, опубликованная на Hugging Face аккаунтом Unsloth как дообучение poolside/Laguna-S-2.1. Это MoE-модель: карточка указывает 118 млрд параметров всего и около 8 млрд активируемых на токен; архитектура включает 48 слоёв, 256 маршрутизируемых экспертов и один общий эксперт. Модель предназначена для агентного программирования и длительных задач разработки, включая взаимодействие с инструментами. Она принимает и выдаёт текст, поддерживает режим рассуждения и контекст до 1 048 576 токенов. В README приведены результаты на тестах программирования и агентных задач, а также заявлена поддержка Transformers, vLLM, SGLang, TRT-LLM и llama.cpp. Для запуска полного чекпойнта BF16 потребуется несколько GPU; в карточке также описаны квантованные варианты семейства. Метаданные этого репозитория указывают формат safetensors и лицензию OpenMDW-1.1, которая, согласно README, разрешает коммерческое и некоммерческое использование и модификацию при соблюдении лицензии и политики допустимого использования Poolside.

Magicoder-S-CL-7B — языковая модель для генерации кода, разработанная Юсяном Вэем, Чжэ Ваном, Цзявэем Лю, Ифэном Дином и Линмином Чжаном. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 16 384 токенов; она дообучена на базе CodeLlama-7b-Python-hf. Модель предназначена прежде всего для задач программирования: генерации кода по инструкциям и решения других кодовых задач. При обучении использованы наборы Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Она может ошибаться и хуже справляться с задачами, не связанными с кодом. Лицензия — Llama 2.

Magicoder S DS 6.7B GGUF — квантизированная версия языковой модели Magicoder S DS 6.7B, разработанной Intellligent Software Engineering (iSE) и подготовленной в формате GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода и работы в роли интеллектуального ассистента программиста: она обучена следовать инструкциям и отвечать на запросы, связанные с написанием и обработкой программного кода. В качестве обучающих данных указаны наборы Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Модель основана на архитектуре DeepSeek, содержит 6,7 млрд параметров и работает в режиме text-generation. Поддерживаются GGUFv2-файлы с различными уровнями квантизации от 2 до 8 бит, что позволяет запускать модель с разными компромиссами между качеством, потреблением памяти и скоростью на CPU и GPU. Формат совместим с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Языки и размер контекстного окна в README не указаны. Сильными сторонами модели являются специализация на задачах программирования, возможность локального запуска и широкий выбор вариантов квантизации. Ограничения включают потенциальное снижение качества при использовании более агрессивной квантизации, а также отсутствие в предоставленных данных подробных характеристик производительности, поддерживаемых языков и контекста. Указана лицензия DeepSeek с типом «other»; точные условия лицензии следует уточнять в оригинальном репозитории модели.

K00B404/Merged_Beowolx-CodePro_Medusa2-7B-Mistral-I-v0-2 — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из beowolx/MistralHermes-CodePro-7B-v1 и EmbeddedLLM/Medusa2-Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогового текстового общения и генерации кода, сочетая возможности базовых моделей для программирования и инструкционного диалога. Её можно использовать для написания и объяснения кода, а также ответов на текстовые запросы. Карточка не указывает отдельные языки программирования или естественные языки. Модель распространяется в формате safetensors для библиотеки Transformers. Условия лицензии в предоставленных данных не указаны.

Moe-3x7b-QA-Code-Inst — текстовая модель nextai-team для ответов на вопросы и генерации кода. Она использует архитектуру Mixture of Experts семейства Mixtral; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для разработчиков, специалистов по данным и исследователей, которым нужны помощник по программированию, технический бот или инструмент для обучения и проверки кода. В обучении, согласно карточке, использовались техническая документация, открытые репозитории кода и вопросы с ответами Stack Overflow. Модель поддерживает диалог и задачи, связанные с кодом; карточка указывает английский язык. Лицензия — Apache-2.0. Результаты могут быть предвзятыми и зависеть от точности и контекста запроса; сгенерированный код и ответы следует проверять. Карточка заявляет об улучшении по сравнению с предшественником, но не приводит метрик бенчмарков.

Abiray/Muse-Glimmer-30B-GGUF — набор GGUF-квантов мультимодальной модели Muse-Glimmer-30B, разработанной meta-models и дистиллированной из Muse Spark. Репозиторий подготовлен с использованием llama.cpp и предназначен для локального запуска модели, включая сценарии на потребительском оборудовании. Модель ориентирована на автономные агентные рабочие процессы, многошаговое рассуждение с длинным горизонтом, задачи программирования, включая SWE-bench, и надёжный вызов функций. Поддерживается обработка изображений через отдельный мультимодальный vision projector в формате GGUF; базовая модель и проектор загружаются раздельно. Заявлены 30 млрд параметров, контекст до 131 072 токенов и архитектура с визуальным проектором на основе ViT размером около 1,8 млрд параметров. Сведения о поддерживаемых языках в README не указаны. Доступны варианты квантования от Q8_0 до IQ3_XXS размером примерно от 29,6 до 11,5 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Вариант Q4_K_M обозначен как оптимальный компромисс и рассчитан примерно на 20–24 ГБ памяти, а Q8_0 обеспечивает качество, близкое к BF16, но требует 32–48 ГБ. Более сильное сжатие уменьшает требования к памяти, однако может снижать точность рассуждений и восприятия. Лицензия — Apache-2.0.

NextCoder-7B-GGUF — это квантизированное представление NextCoder-7B, языковой модели для генерации и редактирования программного кода, разработанной Microsoft. Модель создана на основе Qwen2.5-Coder Instruct с использованием метода дообучения Selective Knowledge Transfer (SeleKT) и предназначена прежде всего для исправления, преобразования и дополнения кода, а также для диалоговых сценариев, связанных с разработкой программного обеспечения. Модель относится к авторегрессионным causal language models и поддерживает контекст до 32K токенов. Она использует архитектуру Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании, содержит 7,61 млрд параметров, 28 слоёв и схему GQA с 28 головами для Q и 4 для KV. В README указан английский язык. По приведённым оценкам NextCoder-7B показывает улучшения по сравнению с базовой QwenCoder-2.5-7B на бенчмарках исправления и редактирования кода, включая HumanEvalFix, CanItEdit и Aider. Сильными сторонами модели являются специализация на редактировании кода, длинный контекст и сохранение общей применимости после дообучения. Ограничения включают риск генерации небезопасного или вредоносного кода и необходимость ручной проверки и запуска результатов в изолированной среде. Модель распространяется по лицензии MIT; для работы рекомендуется актуальная версия библиотеки Transformers.

OctoGeeX — инструкционно дообученная языковая модель для генерации кода и выполнения текстовых инструкций. Согласно README, её разработали в рамках проекта BigCode, дообучив CodeGeeX2 на CommitPackFT и OASST; в метаданных указаны архитектура ChatGLM, 7,5 млрд параметров и библиотека Transformers. Модель работает с текстом, поддерживает английский и китайский языки и более 100 языков программирования. Родная длина контекста — 8192 токена. Модель подходит для генерации и дополнения кода, а также для ответов на инструкции. README рекомендует оформлять запрос с префиксом «Question: » и завершать его строкой «Answer:». Указанные в карточке обучения включают предварительное обучение с целью Fill-in-the-Middle и последующее инструкционное дообучение. Модель опубликована в формате PyTorch. В README не приведены условия лицензии, поэтому их нельзя уточнить по доступным сведениям. Данные о размере модели расходятся: README называет 6 млрд параметров, а метаданные — 7,5 млрд.

OpenCodeInterpreter-DS-6.7B-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi для оригинальной модели m-a-p/OpenCodeInterpreter-DS-6.7B, разработанной организацией m-a-p. Модель относится к классу генеративных текстовых моделей и предназначена прежде всего для работы с программным кодом и задач генерации текста. Модель имеет размер 6,7 млрд параметров и поддерживает несколько вариантов квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая text-generation-webui, LM Studio, GPT4All и llama-cpp-python, в том числе с GPU-ускорением. В README явно указан английский язык; другие языки, длина контекста, архитектурные детали и результаты оценки не описаны. К сильным сторонам относятся возможность выбора компромисса между качеством и потреблением памяти, а также широкая совместимость с локальными средствами инференса. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, и отсутствием в README подробных данных о производительности, поддерживаемых языках программирования и точных сценариях применения. Указанная лицензия — Apache-2.0.

Orion-9B-Agentic-CodeCore-Merge — экспериментальная объединённая модель на 9 млрд параметров от prithivMLmods, созданная на основе Qwen3.5-9B с добавлением MiMo-V2.6-Distill-Qwen-9B, OxCoder-9B и Ornith-1.5-9B. Это плотная архитектура семейства Qwen3.5, рассчитанная на генерацию кода, пошаговое решение задач и агентные сценарии разработки ПО. Модель поддерживает диалог и интерфейс вызова инструментов; основная задача в каталоге — генерация текста. Использовать её можно для написания и понимания кода, внесения изменений, отладки и многошаговых рабочих процессов с инструментами. Модель загружается через Transformers; в репозитории представлены веса safetensors, лицензия — Apache-2.0. Карточка описывает её как экспериментальную и предупреждает о возможных артефактах. Вариант GGUF не сохраняет головы Multi-Token Prediction и работает как обычный авторегрессионный декодер с генерацией по одному токену за шаг.

Ornith-1.5-27B-A3B-CoderX — кодовая модификация модели Ornith-1.5-35B-A3B, созданная разработчиками Ornith. Это текстовая MoE-модель для генерации кода и диалоговых сценариев; в ней 40 слоёв и около 26,7 млрд параметров, из которых активны примерно 3 млрд. Модель получена экспертным прореживанием: число экспертов в каждом слое сокращено с 256 до 184, а маршрутизация top-8 и голова MTP сохранены. README указывает, что веса BF16, а оставленные эксперты побитово совпадают с базовой моделью; дообучение и дистилляция не применялись. Модель предназначена для написания и дополнения кода, решения задач программирования и диалогового использования с вызовом инструментов. Контекст составляет 262 144 токена. В карточке заявлен английский язык. В приведённых тестах модель показала сильный результат на LiveCodeBench v6, однако большинство сравнений основано на единичных запусках; авторы рекомендуют считать небольшие различия ничьей. На тесте вызова инструментов зафиксированы ошибки планирования и работы с контекстом, а измеренная оценка отмечена как нижняя граница из-за сбоя инфраструктуры. Лицензия — Apache-2.0.

Ornith-1.5-9B GGUF — квантованный формат 9-миллиардной плотной языковой модели Ornith-1.5, разработанной командой Ornith AI. Модель создана на основе подхода энд‑ту‑энд самоулучшения: она совместно оптимизирует генерацию задач, построение scaffold и rollouts решений с применением reinforcement learning. Данная версия распространяется в формате GGUF и была сгенерирована с использованием llama.cpp. Модель предназначена для генерации текста и эффективного решения задач программирования, включая работу с терминалом и исправление ошибок в коде. Она рассчитана на развёртывание на одной GPU; для мобильных устройств предусмотрен отдельный квантованный вариант Ornith-1.5-9B-Mobile. В README приведены результаты на Terminal-Bench 2.1 и SWE-bench, однако сведения о поддерживаемых языках, длине контекста, конкретном типе квантования и мультимодальности отсутствуют. К сильным сторонам относятся небольшой для современных моделей размер, возможность локального развёртывания и хорошие заявленные результаты в задачах программирования: 70,6 на SWE-bench Verified, 47,5 на SWE-bench Pro и 46,2–47 на вариантах Terminal-Bench 2.1. Ограничения включают отсутствие данных о языковом покрытии, контексте и детальном поведении за пределами представленных тестов; показатели зависят от конфигурации запуска и используемого scaffold. Модель распространяется по лицензии MIT.

Карточка модели FiREDragoN35769/Qwen2.5-Coder-3B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-3B, поэтому описание составлено по ней. Qwen2.5-Coder-3B — базовая кодовая языковая модель, разработанная командой Qwen. Это предварительно обученная причинная трансформерная модель семейства Qwen2 с 3,09 млрд параметров, предназначенная для генерации и анализа кода, рассуждений о коде и исправления ошибок. Она также сохраняет общие языковые и математические способности базовой Qwen2.5. Модель обучалась на корпусе из исходного кода, текстово-кодовых данных и синтетических данных. Архитектура использует RoPE, SwiGLU, RMSNorm, смещение в проекциях QKV и связанные эмбеддинги слов; в ней 36 слоёв, 16 голов Q и 2 головы KV. Контекст составляет 32 768 токенов. Модель предназначена для задач продолжения кода и заполнения пропусков в коде; авторы не рекомендуют использовать базовую версию для диалогов без дополнительного постобучения. Для работы с Transformers требуется версия 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Карточка модели chetan272006/Qwen2.5-Coder-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit — 4-битная квантованная версия Qwen2.5-Coder-3B-Instruct, разработанная на базе серии Qwen2.5-Coder. Серия предназначена для генерации, анализа, рассуждений и исправления программного кода, а также для создания кодовых агентов и решения математических и общеязыковых задач. В карточке указана поддержка английского языка и библиотека Transformers. Для семейства Qwen2.5-Coder заявлена архитектура causal language model на базе Transformers с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов; заявленный контекст — до 32 768 токенов. Однако README содержит противоречивые сведения: идентификатор указывает на instruct-модель объёмом 3B параметров, тогда как техническое описание в тексте относится к базовой модели 0.5B с 0.49B параметров и этапом предварительного обучения. Поэтому точные характеристики именно данного 3B-варианта по README подтвердить нельзя. 4-битное представление должно снижать требования к памяти и облегчать локальный запуск, но README не приводит точных показателей качества, системных требований или ограничений квантованной версии. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2.5-Coder-7B-8bit — версия модели Qwen2.5-Coder-7B, подготовленная сообществом mlx-community для запуска с MLX. README сообщает о конвертации из Qwen/Qwen2.5-Coder-7B с помощью mlx-lm 0.18.1; метаданные каталога связывают её с Qwen/Qwen2.5-7B как дообучение. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и кода в диалоговом режиме, включая помощь при написании и объяснении программ. Метаданные указывают английский язык, поддержку чата и интерфейса вызова инструментов. Лицензия — Apache 2.0. README подтверждает конвертацию в формат MLX, но не уточняет способ 8-битного представления весов.

Это версия Qwen2.5-Coder-7B-Instruct, подготовленная сообществом mlx-community и преобразованная в формат MLX из исходной модели Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.31.1. Модель семейства Qwen2 — плотная причинная языковая модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалоговой генерации кода, его анализа и исправления. Формат MLX ориентирован на запуск в экосистеме MLX; карточка также указывает поддержку английского языка и лицензии Apache-2.0.

DJLougen/Qwen3.5-9B-Harmonic-GGUF — набор GGUF-квантизаций модели Qwen3.5-9B-Harmonic, разработанной DJLougen на базе unsloth/Qwen3.5-9B. Модель дообучена с использованием Unsloth и Hugging Face TRL примерно на 800 синтетических примерах с ответами Claude; доступные файлы созданы с помощью llama.cpp, включая варианты с importance matrix на основе WikiText-2. Лицензия — Apache 2.0. Модель предназначена прежде всего для генерации кода, рассуждений и использования в агентных сценариях, например в Hermes Agent, а также для локального запуска через совместимые инструменты вроде LM Studio и Ollama. Заявлена поддержка английского языка, текстовой генерации и мультимодального ввода изображений и видео благодаря vision encoder Qwen3.5. Контекстное окно составляет 262 144 токена, размер модели — около 9 млрд параметров. Архитектура гибридная: 32 слоя, сочетающие линейное внимание с компонентами Mamba SSM и полное внимание; используется GQA. По приведённым оценкам модель показывает pass@1 87,2% на HumanEval, 81,7% на HumanEval+ и accuracy 80,36% на MMLU-Pro, с особенно высокими результатами в математике, биологии, химии и физике. Конкретное качество зависит от выбранного уровня квантизации; представлены варианты от F16 до более компактных форматов. Важное ограничение — автор предупреждает, что модель оптимизирована для работы внутри структурированного агентного harness и может вести себя непредсказуемо при обычном запуске без подходящего системного промпта; надёжность разговорного поведения вне такого окружения не гарантируется.

unsloth/Qwen3.6-35B-A3B-NVFP4-Fast — квантованный чекпойнт семейства Qwen3.6, разработанный Unsloth на базе Qwen/Qwen3.6-35B-A3B. Это каузальная языковая модель с vision encoder, предназначенная для генерации текста, мультимодальных задач и особенно для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория. Модель поддерживает сохранение контекста рассуждений из предыдущих сообщений. Языки в README не указаны. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена; предусмотрены 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий. Архитектура включает Gated DeltaNet и Gated Attention, 40 слоёв, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. Чекпойнт содержит модуль Multi-Token Prediction, который может использоваться для ускорения декодирования. Квантование выполнено в формате NVFP4 и откалибровано на смеси наборов Unsloth и UltraChat. К сильным сторонам относятся сниженные требования к видеопамяти, заявленная совместимость с GPU от 32 ГБ, высокая скорость инференса в рекомендованных конфигурациях vLLM и результаты, близкие к FP8 и BF16 на приведённых тестах MMLU-Pro, GPQA и AIME 2025. Ограничения связаны с потерями точности и особенностями производительности, возможными из-за NVFP4-квантования, а также с зависимостью скорости от совместимого оборудования и backend. README не приводит подробных данных о мультимодальных возможностях, языках и расширенной длине контекста. Модель распространяется по лицензии Apache-2.0. Веса и конфигурации представлены в формате Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers.