II.7DevOps, облако и эксплуатация IT-систем

Qwen2.5-Coder-0.5B-Instruct-GGUF — инструкционная языковая модель для работы с исходным кодом из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, задач кодового рассуждения, чат-сценариев и создания приложений на базе кодовых агентов. Модель сохраняет возможности для математических и общих языковых задач. Указанный репозиторий содержит версию в формате GGUF, ориентированную на локальный запуск, в том числе через llama.cpp. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в QKV внимания и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд — без учёта эмбеддингов, 24 слоя и GQA с 14 головами для Q и 2 для KV. Полная длина контекста составляет 32 768 токенов. Поддерживаются варианты квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. В карточке явно указан английский язык; другие языки не заявлены. К сильным сторонам относятся небольшой размер, возможность локального запуска и специализация на программном коде. Ограничениями являются существенно меньшая мощность по сравнению с крупными моделями семейства и отсутствие подтверждённых в карточке характеристик мультимодальности или поддержки дополнительных языков. Для расширения контекста до 131 072 токенов рекомендуется использовать не GGUF-версии, поскольку для GGUF заявлена длина до 32 768 токенов, а поддержку YARN для экстраполяции указывает только vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-1.5B-Instruct-GGUF — квантованные модели семейства Qwen2.5-Coder-1.5B-Instruct, разработанного Qwen и подготовленного в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме, включая задачи программирования и использования в чат-приложениях. Указан английский язык, применяется шаблон запросов ChatML. Модель имеет размер 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от 2 до 8 бит, f16, с размером файлов примерно от 676 МБ до 3,09 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. Модель рассчитана на локальный запуск через LlamaEdge и совместима с llama.cpp. README не содержит подробностей об архитектуре, полном наборе поддерживаемых языков, результатах оценки или специфических ограничениях качества. Распространяется по лицензии Apache 2.0.

ThomasBaruzier/Qwen2.5-Coder-1.5B-Instruct-GGUF — набор квантизированных версий инструкционной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и решения задач, связанных с программным кодом, включая чатовые сценарии и работу с запросами на естественном языке. В карточке указана поддержка английского языка. Модель имеет около 1,5 млрд параметров и распространяется в формате GGUF для использования с llama.cpp. Доступны варианты квантизации от IQ1_S до Q5_K_M с размером файлов примерно от 416 МБ до 1,05 ГБ. Квантизация выполнена с использованием imatrix и калибровочного файла Bartowski; варианты различаются соотношением размера, perplexity и точности. Более компактные варианты требуют меньше памяти, но заметнее теряют качество, тогда как версии с более высокой разрядностью обеспечивают лучшие показатели. Ограничения карточки не описывают контекстное окно, полный набор языков, аппаратные требования и подробные результаты на прикладных тестах. Модель ориентирована на текстовую модальность и не предназначена для обработки изображений или других мультимедийных данных. Указана лицензия Apache-2.0.

Модель goofyk/qwen2.5-coder-1c-7b — дообученная разработчиком goofyk версия Qwen2.5-Coder-7B. Это плотная авторегрессионная языковая модель архитектуры Qwen2, предназначенная для генерации текста; базовая модель ориентирована на задачи программирования. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Дообучение выполнено с использованием Unsloth и библиотеки Hugging Face TRL. Модель можно применять для генерации кода и текстовых ответов в сценариях программирования. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

unsloth/Qwen2.5-Coder-3B-Instruct — это инструктивная текстовая модель для генерации и работы с кодом, основанная на Qwen2.5-Coder-3B-Instruct от Qwen и представленная Unsloth. Модель использует плотную архитектуру Qwen2 с причинным языковым моделированием и содержит 3,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Модель предназначена для генерации, анализа и исправления кода по текстовым запросам, а также для диалоговых сценариев и работы с инструментами. Она подходит разработчикам для помощи при написании кода и создания кодовых агентов. Карточка README описывает семейство Qwen2.5-Coder, но содержит противоречивые сведения о размере и варианте модели; описание размера и контекста здесь опирается на метаданные репозитория. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия Apache-2.0 допускает использование на её условиях. Языковая метка карточки — английский; другие поддерживаемые естественные языки достоверно не установлены.

mlx-community/Qwen2.5-Coder-3B-Instruct-bf16 — конвертированная в формат MLX версия инструктивной языковой модели Qwen2.5-Coder-3B-Instruct, подготовленная сообществом mlx-community на основе Qwen/Qwen2.5-Coder-3B-Instruct с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и 3,1 млрд параметров; карточка указывает контекст до 32 768 токенов. Модель предназначена для генерации текста и кода по текстовым инструкциям в формате диалога. Её можно применять для написания и объяснения фрагментов кода, анализа и исправления кода, а также для чат-взаимодействия и сценариев с интерфейсом вызова инструментов. В метаданных указан английский язык. Репозиторий содержит веса Safetensors, лицензия обозначена как other. README описывает конвертацию из базового чекпойнта, но не уточняет условия этой лицензии; перед использованием следует проверить лицензионные условия базовой модели и самой конверсии. Специализация на коде и размер в 3,1 млрд параметров могут ограничивать качество на сложных задачах и вне программирования.

Карточка модели tbhrc/qwen2_5_coder_7b_instruct_4bit на Hugging Face совпадает с карточкой mlx-community/Qwen2.5-Coder-7B-Instruct-4bit, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct-4bit — 4-битная версия модели для генерации кода из семейства Qwen2.5-Coder, подготовленная mlx-community. README указывает, что модель преобразована в формат MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm 0.18.1; в метаданных базовой моделью указана Qwen/Qwen2.5-Coder-7B. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров и контекстом 32 768 токенов. Модель предназначена для генерации кода в диалоговом формате и подходит для помощи при написании и анализе программ. Репозиторий распространяется по лицензии Apache-2.0. README описывает конвертацию в MLX, а метаданные указывают на дообучение базовой модели для кода; представленных сведений недостаточно, чтобы точно описать качество по языкам программирования или результаты оценок.

unsloth/Qwen3.6-27B-UD-MLX-6bit — это 6-битная MLX-квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и подготовленной для распространения Unsloth. Модель предназначена для локального запуска в экосистеме MLX и относится к классу причинных языковых моделей с vision encoder, поэтому поддерживает работу с текстом и изображениями. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN; модель обучалась на этапах предварительного и последующего обучения. Основные сценарии применения включают агентное программирование, работу с фронтенд-задачами, анализ репозиториев и итеративную разработку с сохранением контекста рассуждений. Данные о поддерживаемых языках в README не указаны. К сильным сторонам относятся большой контекст, сочетание языковых и визуальных возможностей, оптимизация для MLX и акцент на задачах программирования. Ограничения связаны с необходимостью совместимого MLX-окружения и потерями точности, которые могут быть обусловлены 6-битной квантизацией; количественная оценка таких потерь в README не приведена. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

Qwen3.8-27B-Abliterated-IQ4-MIX-MTP-GGUF — это GGUF-квантизация модели Qwen3.8-27B-Abliterated, разработанной windowsxp811203 на основе Qwen/Qwen3.8-27B. Модель предназначена для локальной генерации текста и высокопроизводительного инференса, включая агентские сценарии программирования, на GPU с 16 ГБ видеопамяти. Вариант поддерживает работу через llama.cpp и рассчитан на спекулятивное декодирование с использованием встроенной головы MTP (Multi-Token Prediction), поэтому отдельная draft-модель не требуется. Размер файла составляет около 13,26 GiB, эффективная точность — 4,17 BPW. Используется смешанная квантизация: основные группы тензоров представлены форматами IQ4_XS, IQ3_S и Q4_K, эмбеддинги — IQ2_S, выходной слой — Q5_K, а MTP-блоки сохранены в более высокой точности Q6_K и Q8_0 для поддержания качества черновой генерации и приемки токенов. Заявлена поддержка английского и китайского языков. В README не указаны архитектурные детали исходной модели и максимальный контекст, однако протестированы конфигурации с выделением контекста до 64K токенов. Сильные стороны модели — относительно небольшой размер для класса 27B, возможность полного размещения слоёв на GPU с 16 ГБ памяти и ускорение генерации за счёт MTP. На AMD Radeon RX 9070 XT в среде Windows с Vulkan и llama.cpp зафиксирована скорость около 49–50 токенов в секунду на коротком активном контексте, но при росте истории до 25–30 тысяч токенов скорость снижалась примерно до середины диапазона 20 токенов в секунду. Показатели зависят от оборудования, размера контекста и рабочей нагрузки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Coder-44GB-Selective-INT8 — разреженная MoE-модель для генерации и изменения программного кода, опубликованная Jab1718. Это вариант контрольной точки Jab1718/qwen3.8-flash-coder-85gb-bf16 с избирательной INT8-квантизацией экспертных слоёв; согласно карточке, роутеры, механизмы внимания и ряд общих модулей сохранены в BF16. В метаданных указаны 5,1 млрд параметров, архитектура Qwen4ExpForCausalLM и контекст до 262 144 токенов. Модель предназначена для написания, отладки и изменения кода, включая работу в сценариях coding agent. Карточка описывает размещение весов размером 44,29 ГБ и приводит результаты собственного тестирования на задачах программирования; эти результаты не гарантируют аналогичного качества на других задачах. Модель принимает текст и генерирует текст. В метаданных перечислены английский, вьетнамский и китайский языки. Репозиторий распространяется по лицензии Apache-2.0. Для запуска требуются значительные ресурсы GPU; README заявляет возможность размещения на двух GPU по 32 ГБ, однако совместимость зависит от программного обеспечения и конфигурации оборудования.

rolex0775/Qwen3-Coder-30B-A3B-Instruct-DQ-abliterated-GGUF — GGUF-версия инструктивной модели Qwen3-Coder, опубликованная пользователем rolex0775. Она предназначена для генерации кода и диалоговых сценариев; метаданные также указывают на возможность общения в формате чата. Модель является производной от huihui-ai/Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated, а файлы репозитория представлены в формате GGUF. Лицензия — Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для работы на устройствах Apple Silicon и предназначена для генерации текста и задач, связанных с программированием, на основе исходной instruct-модели Qwen3-Coder. Модель имеет обозначение 30B-A3B, однако README не раскрывает подробности архитектуры, поддерживаемые языки, размер контекста, доступные модальности и результаты тестирования. Квантование в 5 бит ориентировано на более эффективное локальное использование на Apple Silicon, но README не содержит количественной оценки влияния квантования на качество или производительность. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-480B-A35B-Instruct в репозитории Unsloth — инструкционная MoE-модель для генерации кода и агентного программирования. Она поддерживает работу с инструментами через специальный формат вызовов функций и предназначена для сценариев, где нужно анализировать крупные репозитории, писать код и выполнять задачи с браузером. В карточке заявлены результаты среди открытых моделей, сопоставимые с Claude Sonnet на агентном программировании и работе с браузером. В README описана архитектура причинной языковой модели Qwen3 MoE: 480 млрд параметров всего, 35 млрд активируемых, 160 экспертов и 8 активируемых экспертов. Метаданные репозитория указывают 15,4 млрд параметров; контекст составляет 262 144 токена. Модель работает в режиме без рассуждений (non-thinking). Лицензия — Apache-2.0. Карточка Unsloth связывает репозиторий с Qwen/Qwen3-Coder-480B-A35B-Instruct как производной моделью; отдельные сведения о конкретных изменениях весов в README не приведены.

Qwen3-Coder-53B-A3B-Instruct-TOTAL-RECALL-v2-MASTER-CODER-L — дообученная разработчиком DavidAU инструктивная MoE-модель для программирования, основанная на Qwen/Qwen3-Coder-30B-A3B-Instruct и адаптере Brainstorm. Модель предназначена для генерации и анализа кода, решения задач программирования и агентных сценариев с использованием инструментов. Репозиторий содержит веса в safetensors, пригодные для прямого запуска и преобразования в другие форматы. Заявлены 53 млрд параметров, 84 слоя и контекст до 262 144 токенов; метаданные указывают 3,9 млрд параметров. Архитектура — Qwen3 MoE с 128 экспертами; автор изменил число активируемых экспертов по умолчанию с 8 до 10. Основная специализация — код на распространённых и менее распространённых языках программирования; карточка также указывает поддержку английского, французского, китайского и немецкого языков. Режим рассуждений по умолчанию отключён, автор предлагает опциональный системный запрос для его включения. Модель рассчитана на кодирование, понимание больших репозиториев и многошаговую работу с кодом; возможен интерфейс вызова инструментов. Качество и скорость зависят от числа активных экспертов, параметров генерации и доступных вычислительных ресурсов. Лицензия — Apache 2.0.

Карточка модели XXXMARK/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

noctrex/Qwen3-Coder-REAP-25B-A3B-MXFP4_MOE-GGUF — квантизированная в формате GGUF версия модели Cerebras Qwen3-Coder-REAP-25B-A3B. Это MoE-модель для генерации кода и диалогового использования; каталог также указывает поддержку чата. Репозиторий содержит варианты MXFP4_MOE, включая варианты с imatrix-калибровкой bartowski и экспериментальные варианты codetiny-exp и codemedium-exp, откалиброванные на наборах данных для программирования. Модель предназначена для генерации кода и помощи в задачах программирования. Автор отмечает, что калибровочные данные экспериментальных вариантов охватывают только код, поэтому их пригодность для общих знаний не установлена и требует дальнейшей проверки. Лицензия в предоставленных данных не указана.

Qwopus-3.6-27B-Coder — это модель для агентного программирования и рассуждений, разработанная Jackrong на базе Qwopus3.6-27B-v2 и представленная в формате GGUF. Она дообучена для генерации и исправления кода, работы с репозиториями, многошагового выполнения задач, структурированных вызовов инструментов, function calling и взаимодействия с агентными средами. В обучении использовались датасеты с траекториями рассуждений и агентного поведения, включая TraceInversion и lambda/hermes-agent-reasoning-traces. Модель представляет собой плотную модель с 27 миллиардами параметров и поддержкой длинного контекста, однако точная длина контекста в README не указана. Заявлены мультимодальные сценарии image-text-to-text и поддержка работы с изображениями, а также языки English, Chinese, Spanish, Russian и Japanese. Среди сильных сторон указаны ориентация на repository-level задачи, отладку, генерацию патчей, оркестрацию инструментов и сложное логическое рассуждение. Для базовой модели приведены результаты 87,43% на MMLU-Pro и 75,25% на SWE-bench Verified, а для этой версии заявлен результат 67,0% на SWE-bench Verified в режиме без рассуждений. Модель рассчитана на разработческие рабочие процессы, где требуется последовательное использование инструментов и обработка обратной связи от среды. Ограничения включают отсутствие в README подробностей о точной архитектуре, размере контекстного окна, вариантах квантования GGUF и фактических возможностях мультимодального ввода. Лицензия модели — Apache-2.0.

Qwopus-3.6-27B-Coder — это плотная модель с 27 млрд параметров для агентного программирования, созданная Jackrong на основе Qwopus3.6-27B-v2. Модель дообучена для генерации и отладки кода, работы на уровне репозитория, выполнения многошаговых задач разработки, структурированных вызовов инструментов и function calling. Релиз представлен в формате GGUF и ориентирован на использование с llama.cpp и совместимыми средствами инференса. Модель поддерживает текстовые и визуальные сценарии image-text-to-text, а также заявлена как multimodal. Указаны языки English, Chinese, Spanish, Russian и Japanese. Она предназначена для агентных рабочих процессов с многоходовым взаимодействием, инструментами и обратной связью среды; заявлена поддержка native long context, однако точный размер контекстного окна не указан. Обучение использовало наборы данных с реконструированными reasoning-трассами Claude Opus и агентными траекториями. Сильными сторонами являются специализация на сложных задачах программирования, инструментальном взаимодействии и логическом рассуждении; для базовой модели заявлены 87,43% на MMLU-Pro и 75,25% на SWE-bench Verified, а для этого релиза — 67,0% на SWE-bench Verified в режиме off-thinking. Эти результаты приведены авторами и не сопровождаются методикой проверки в представленном README. Ограничения включают отсутствие точных сведений об архитектуре, размере контекста, вариантах квантования и требованиях к памяти, а также неполное описание поведения мультимодальных возможностей. Лицензия — Apache-2.0.

Shirdel Coder 9B Claude Fable 5 — языковая и мультимодальная модель для генерации текста и кода, разработанная Tesleum. Она создана на основе Qwen/Qwen3.5-9B и связана с базовой моделью nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning-NVFP4. Модель дообучалась в стиле инструкций Claude Fable 5 с использованием датасетов Evol-Instruct-Code-80k-v1 и Qwen/DeepPlanning. Модель предназначена прежде всего для программирования, генерации и преобразования кода, решения задач по разработке и текстовой генерации. В README также заявлена поддержка мультимодальных сценариев, включая работу с изображениями через отдельный файл mmproj, однако конкретные поддерживаемые форматы изображений и возможности обработки мультимодального контекста не указаны. Доступны варианты для text-generation, llama.cpp, vLLM и Ollama. Основной файл модели имеет размерный класс 9B и распространяется в формате GGUF с квантованием Q6_K; отдельно предоставляется BF16-mmproj для мультимодальной работы. Сильными сторонами являются специализация на коде, инструкционное дообучение и наличие готовых вариантов для локального запуска. Сведения о поддерживаемых языках, размере контекста, точных архитектурных характеристиках, результатах оценки и ограничениях качества в README отсутствуют. Лицензия модели — ECL-2.0.

Trinity-2-Codestral-22B-v0.2-GGUF — набор GGUF-квантизаций базовой модели migtissera/Trinity-2-Codestral-22B-v0.2, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель относится к задачам генерации текста и ориентирована прежде всего на работу с кодом; запуск возможен через llama.cpp и LM Studio. Доступны варианты от исходных весов F16 размером 44,50 ГБ до компактных квантов IQ3 и Q3 размером около 10–12 ГБ, а также форматы Q4, Q5, Q6 и Q8. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4 оптимизированы для более быстрой инференции на ARM и CPU. В README не указаны архитектура, поддерживаемые языки, модальности и размер контекстного окна. Для работы рекомендуется использовать шаблон prompt format с ролями system, user и assistant. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и скоростью запуска; варианты Q5–Q6 заявлены как высококачественные, а Q4 — как практичные для систем с ограниченными ресурсами. К ограничениям относятся возможная потеря качества при низких уровнях квантования и отсутствие подробных сведений о возможностях исходной модели. Лицензия указана как other, без дополнительных условий в представленном README.

ValidateAI-3-33B-Ties — объединённая модель для генерации программного кода и диалогов о нём. В README указано слияние DeepSeek Coder 33B Instruct, WizardCoder-33B-V1.1 и CodeFuse-DeepSeek-33B методом TIES с помощью LazyMergekit; метаданные описывают архитектуру как плотную LlamaForCausalLM с 33,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и рассчитана на диалоговое взаимодействие. Модель подходит для генерации и дополнения кода, ответов на вопросы по программированию и объяснения кода. В карточке указана лицензия Apache-2.0. README содержит несоответствие в названии: заголовок называет модель ValidateAI-2-33B-Ties, тогда как идентификатор репозитория — ValidateAI-3-33B-Ties.

33x-coder — языковая модель для генерации кода на основе архитектуры Llama, опубликованная пользователем senseable. Она предназначена для помощи разработчикам: модель может генерировать код и скрипты, разбирать задачи программирования, предлагать отладочные решения и давать рекомендации по коду. Модель имеет плотную архитектуру LlamaForCausalLM и 33,1 млрд параметров. Она работает с текстом и рассчитана на контекст до 16 384 токенов. В карточке заявлена поддержка разных языков программирования и сценариев разработки; в метаданных указан английский язык. Модель доступна в формате safetensors через Transformers и распространяется по лицензии Apache-2.0. Карточка заявляет генерацию синтаксически корректных фрагментов кода и программных рекомендаций, но не приводит независимых оценок качества или подробностей обучения. Сгенерированный код следует проверять и тестировать перед использованием.

Artigenz-Coder-DS-6.7B — языковая модель для генерации кода, выпущенная командой Artigenz. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров; в карточке указана оценка размера 6,7 млрд параметров и потребность в памяти около 13 ГБ. Модель дообучена на DeepSeek-Coder-6.7B-Base и предназначена для быстрого локального запуска на компьютерах. Модель принимает текстовые запросы и генерирует текст, в том числе код; также заявлен разговорный режим. Контекст составляет до 16 384 токенов. В метаданных указан английский язык. Данные и скрипты дообучения на момент публикации карточки планировалось открыть позднее. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

BigCodeLlama-92b — текстовая модель семейства Llama, созданная nisten объединением CodeLlama-70b-Instruct и CodeLlama-70b-Python. Она предназначена для генерации кода и диалоговой помощи при программировании. Архитектура — плотная LlamaForCausalLM; размер — 91,8 млрд параметров, контекст — 2048 токенов. Модель принимает текст и генерирует текст. Репозиторий распространяется по лицензии MIT. В карточке указана возможность получить вариант GGUF, однако основной формат репозитория — safetensors.

Code Llama 7B Instruct — разработанная Meta инструкционно настроенная версия языковой модели семейства Code Llama, представленная в формате Transformers. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 16 384 токенов, предназначенная для генерации и понимания кода, дополнения фрагментов и выполнения инструкций в формате диалога. Модель принимает текст и генерирует текст. Её можно применять как помощника для написания кода, его дополнения и объяснения, а также для infilling и ответов на инструкции, связанные с программированием. В карточке заявлена ориентация на английский язык и языки программирования; Python-специалистом эта версия не является. Модель неофициально размещена в организации codellama; README указывает, что разработчик семейства — Meta. Модель статична и обучена на офлайн-данных. Возможны неточные или нежелательные ответы; перед использованием в приложениях рекомендуется проверять её поведение и настраивать меры безопасности под конкретный сценарий. Использование регулируется лицензией Meta для Code Llama; в метаданных репозитория указана лицензия llama2.

CodeNinja 1.0 Openchat 7B — это языковая модель для генерации текста и кода, разработанная beowulf на базе архитектуры Mistral. Представленная версия выпущена TheBloke в формате GGUF и предназначена для локального запуска через llama.cpp и совместимые приложения и библиотеки. Модель содержит около 7 миллиардов параметров и ориентирована прежде всего на англоязычные задачи программирования: генерацию кода, работу с инструкциями и сценарии ассистирования разработчикам. Для обучения указаны наборы данных glaive-code-assistant-v2 и code_instructions_122k_alpaca_style. Поддерживается текстовая модальность; максимальная длина контекста в README не указана. Для работы следует использовать шаблон OpenChat-Correct. Формат GGUF поддерживает варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством генерации, включая запуск на CPU и GPU. При этом квантование может снижать точность по сравнению с исходной моделью в формате FP16, а качество и производительность зависят от выбранного варианта и программного окружения. Модель распространяется по лицензии MIT.

CodeShell-7B-Chat-int4 — квантизированная до Int4 чат-версия многоязычной модели для работы с программным кодом. Модель разработана лабораторией вычисления знаний Пекинского университета совместно с AI-командой Sichuan Tianfu Bank. Она предназначена для генерации кода, разработки программ, создания тестов, обнаружения и исправления дефектов, а также использования в качестве локального помощника разработчика через плагины для VS Code и JetBrains. Модель содержит 7 миллиардов параметров и обучалась на 500 миллиардах токенов. В основе архитектуры используется GPT-2 с Grouped-Query Attention и относительным позиционным кодированием RoPE. Конфигурация включает 42 слоя, размерность скрытого представления 4096, 32 головы внимания, 8 групп запросов и словарь из 70144 токенов. Заявленная длина контекста составляет 8194 токена, а параметр последовательности указан как 8192. Поддерживаются китайский и английский языки; модель ориентирована на несколько языков программирования. Сильными сторонами заявлены высокие результаты для моделей данного размера на бенчмарках HumanEval и MBPP, а также возможность лёгкого локального развёртывания с использованием C++. В опубликованных результатах модель превосходит CodeLlama-7B и StarCoder-7B в большинстве приведённых языковых тестов, но уступает им в отдельных тестах для Swift, D, Julia, Lua и Rust. Ограничения включают возможные ошибки и риски некорректного или небезопасного использования сгенерированного кода; README также содержит предупреждение о необходимости соблюдать требования безопасности, законности и соответствия нормативным требованиям. Лицензия в предоставленных данных не указана.

Cyber-Tiel-Coder-35B-A3B-GGUF — квантованная GGUF-модель, опубликованная peculiar-ragdoll и основанная на Huihui-Ornith-1.5-35B-A3B-abliterated от huihui-ai. Модель ориентирована на агентное программирование, решение задач в крупных кодовых базах, исправление ошибок и offensive security, включая автономное выполнение CTF-задач. Указана поддержка текстово-визуального сценария image-text-to-text, однако подробности о фактически поддерживаемых визуальных входах в README не приведены. Заявлены языки English и Chinese. Модель использует архитектуру MoE класса 35B-A3B: общий размер около 35 млрд параметров при активации примерно 3 млрд параметров на запрос. Это GGUF-версия с динамической квантованием и пользовательской cyber-weighted imatrix, а также шаблоном диалогов Sharp. Q4-версия занимает около 22 ГБ и предназначена для запуска через llama.cpp, в том числе на оборудовании с ограниченной VRAM. Размер контекста в README не указан. К сильным сторонам относятся высокая скорость и специализация на программировании: авторы заявляют преимущество над рядом сопоставимых моделей на SWE-bench-Live, а также результат 15 из 43 заданий Cybench без подсказок. Модель прошла abliteration, поэтому практически не отказывается от запросов, включая потенциально опасные, что повышает пригодность для исследовательских и offensive security-сценариев, но создаёт существенные риски безопасности и ответственности. При этом модель намеренно жертвует частью общеобразовательных знаний и хуже подходит для викторин и экзаменов. Распространяется по лицензии MIT; пользователь самостоятельно отвечает за законность, безопасность и контроль генерируемого содержимого.

duyntnet/deepseek-coder-6.7b-instruct-imatrix-GGUF — набор квантованных версий модели deepseek-ai/deepseek-coder-6.7b-instruct, опубликованный пользователем или организацией duyntnet. Это инструкционно настроенная генеративная языковая модель для работы с текстом и программным кодом, включая сценарии создания и объяснения кода. В README приведён пример генерации алгоритма быстрой сортировки на Python в формате диалога. Модель имеет размер 6,7 млрд параметров и распространяется в формате GGUF с использованием imatrix-квантизации. Указан английский язык, однако дополнительные языковые возможности, длина контекста, конкретные варианты квантизации и требования к оборудованию в README не описаны. Формат предназначен для запуска совместимыми средствами инференса, но точные поддерживаемые инструменты также не указаны. К сильным сторонам относятся специализация исходной модели на задачах программирования, инструкционное обучение и наличие квантованных вариантов, потенциально уменьшающих требования к памяти. Ограничения связаны с отсутствием подробных результатов оценки, сведений о качестве на конкретных языках и задачах, контекстном окне и характеристиках отдельных файлов. Лицензия обозначена как other; её конкретные условия в README не приведены.