II.5Безопасность программного кода и цепочки поставок

Карточка модели rbinrs/Laguna-S-2.1 на Hugging Face совпадает с карточкой poolside/Laguna-S-2.1, поэтому описание составлено по ней. Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.

unsloth/Qwen2.5-Coder-1.5B-Instruct-bnb-4bit — это 4-битно квантованная instruction-tuned версия языковой модели Qwen2.5-Coder-1.5B, разработанной командой Qwen от Alibaba Cloud и опубликованной в формате, подготовленном Unsloth. Модель предназначена для генерации, анализа и исправления программного кода, кодового рассуждения, создания code agents, а также задач общего назначения и математики. Модель является авторегрессионной causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm, смещениями в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, 28 слоёв и использует GQA с 12 головами для Q и 2 для KV. Заявлена поддержка контекста до 131 072 токенов. В README указан английский язык; модальность — текстовая. Квантование bnb-4bit снижает требования к памяти и облегчает локальный запуск, но может ограничивать точность по сравнению с полноразмерной версией. Сильными сторонами модели являются специализация на программировании, улучшенные возможности генерации, рассуждения и исправления кода, большой контекст и компактный размер. Ограничения включают небольшой объём модели по сравнению с более крупными системами, возможное снижение качества из-за 4-битного квантования и отсутствие в предоставленных данных подробных результатов бенчмарков, списка поддерживаемых языков программирования и оценки надёжности ответов. Модель распространяется по лицензии Apache-2.0; для работы рекомендуется использовать актуальную версию библиотеки transformers.

Sg-at-srijan-us-kg выпустил instruction-tuned модель Qwen2.5-Coder-32B на 32 млрд параметров для генерации, анализа и исправления программного кода, а также создания кодовых агентов. Это причинная языковая модель семейства Qwen2 с архитектурой Qwen2ForCausalLM; она принимает текстовые инструкции и выдаёт текст и код. Карточка описывает поддержку контекста до 128K токенов с YaRN, тогда как конфигурация по умолчанию рассчитана на 32 768 токенов. Модель использует сильные стороны Qwen2.5-Coder в задачах программирования, сохраняя способности к математике и общим задачам. Метаданные указывают английский язык, библиотеку Transformers и формат safetensors. Для работы с длинным контекстом требуется включить YaRN; в vLLM статический коэффициент масштабирования может снижать качество или эффективность на коротких запросах. Лицензия Apache-2.0.

pL-Community опубликовало инструкционную версию Qwen2.5-Coder-7B в формате FP8 Dynamic. Это плотная причинная языковая модель семейства Qwen2, рассчитанная на генерацию кода и диалоговые сценарии; в метаданных указано 7,1 млрд параметров и контекст 32 768 токенов. Карточка базовой модели описывает архитектуру с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием. Модель подходит для написания и дополнения кода, анализа программ, поиска и исправления ошибок, а также для создания кодовых агентов. README базовой карточки сообщает о тренировке на коде, текстово-кодовых связях и синтетических данных и отмечает сохранение математических и общих языковых способностей. Хотя README базовой модели описывает поддержку контекста до 131 072 токенов с настройкой YaRN, метаданные этого репозитория указывают нативный контекст 32 768 токенов. Метаданные связывают модель с Qwen/Qwen2.5-Coder-7B как с базой и указывают Apache-2.0. Репозиторий содержит веса safetensors; отдельное описание метода динамической FP8-квантизации в предоставленных материалах отсутствует.

andyman5002/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель на базе Qwen/Qwen3.8-27B с архитектурой Qwen3 и размером 27B параметров. Модель создана как модифицированная версия базовой Qwen3.8-27B с применением abliteration — удаления направлений, связанных с отказами и защитными ответами, посредством операций в пространстве весов. Доступны форматы GGUF, safetensors и MLX; лицензия Apache-2.0. Модель предназначена для генерации текста, программного кода и работы в агентных сценариях, включая задачи кибербезопасности и red-team-исследований. Заявлена совместимость с режимом рассуждений, однако рекомендуется отключать thinking для получения более прямых ответов. В документации указаны результаты MMLU 82,3% в режиме 0-shot, а также 20 из 20 успешных тестов на задачах генерации кода; эти показатели приведены разработчиком и могут зависеть от методики оценки. К сильным сторонам относятся снижение числа жёстких отказов и защитных лекций, сохранение значительной части возможностей базовой модели и пригодность для локального использования. Ограничения включают снижение результата MMLU примерно на 2,1 процентного пункта относительно базовой модели, склонность к зацикливанию без repetition_penalty и потенциальные риски применения в задачах, связанных с вредоносным или опасным содержанием. Для рекомендуемой генерации используются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт разработчик советует не задавать.

DeepSeek Coder 7B Instruct v1.5 GGUF — это набор GGUF-квантованных версий модели DeepSeek Coder 7B Instruct v1.5, разработанной DeepSeek и преобразованной для локального запуска в репозитории Edmon02. Модель предназначена прежде всего для генерации и редактирования кода, работы локальных ассистентов в IDE и CLI, автономных агентов и офлайн-разработки без API-ключей. Для запуска подходят llama.cpp, LM Studio, KoboldCPP, llamafile и другие GGUF-совместимые среды. Модель относится к семейству архитектур LLaMA, имеет размер 7B параметров и поддерживает контекст до 4096 токенов. Это текстовая instruct-модель с шаблоном общения через секции «### Instruction» и «### Response». В репозитории представлены 14 вариантов квантования IQ и K, включая Q2_K, Q4_K_M, Q6_K и Q8_0, с размером примерно от 2,5 до 7,35 ГБ. Q4_K_M позиционируется как оптимальный баланс качества и размера, а Q8_0 — как вариант с наивысшим качеством среди доступных. Сильными сторонами являются возможность автономного запуска, широкий выбор квантований под разные объёмы VRAM и специализация на задачах программирования. Ограничения включают контекст 4096 токенов, возможное снижение точности синтаксиса у низкобитных квантований на длинном коде, небольшие различия между версиями квантования и отсутствие гарантированного соответствия облачным API DeepSeek. Модель не предназначена для тонкой настройки непосредственно в формате GGUF и может отказываться от запросов, не связанных с кодом. Лицензия указана как other с названием deepseek; подробные условия приведены в лицензии DeepSeek.

GPT-5.1-Codex Mini — языковая модель OpenAI, облегчённая и более экономичная версия GPT-5.1-Codex с меньшими возможностями. Она предназначена для задач программирования и длительных агентных рабочих процессов, например написания и изменения кода с использованием инструментов. Модель поддерживает текст на входе и выходе, а также изображения на входе; контекстное окно составляет 400 000 токенов, максимальный объём ответа — 128 000 токенов. Поддерживаются рассуждения, вызов функций и структурированный вывод. Данные о конкретной архитектуре и списке поддерживаемых языков в использованных источниках не приводятся. Модель доступна через API OpenAI; условия доступа и использования определяются условиями сервиса OpenAI.

Perciqa_Aurora-Code-1-GGUF — это квантизированная версия модели Aurora-Code-1, разработанной Perciqa и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель дообучена по инструкциям на наборе данных perciqa/aurora-code-sft-v1 и ориентирована на генерацию кода. Модель предназначена для программирования, агентских сценариев, анализа и ревью кода, отладки и выполнения инструкций, связанных с разработкой программного обеспечения. В описании указана MoE-архитектура, однако точный размер модели, число активных параметров и максимальная длина контекста не приведены. Заявлена поддержка английского, французского и мультиязычного ввода; модальность — текстовая. Основное преимущество представленной версии — доступность в различных вариантах квантизации от BF16 до низкобитных форматов, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Рекомендуемые варианты Q4–Q6 обеспечивают высокое качество при меньшем объёме, но более сильная квантизация может снижать точность ответов. Для запуска подходят llama.cpp, LM Studio, Jan AI, KoboldCpp и другие совместимые инструменты. Модель распространяется по лицензии Apache-2.0.

mbetixz/Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для программирования из семейства Qwen2.5-Coder. Она предназначена для генерации и объяснения кода, рассуждений о коде, исправления ошибок и создания кодовых агентов; также сохраняет математические и общие языковые возможности. Модель разработана на архитектуре Qwen2 с причинным декодированием и 32 млрд параметров по метаданным. Карточка описывает архитектуру с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием, а также контекст до 131 072 токенов; конфигурация репозитория рассчитана на 32 768 токенов, а для более длинных входов требуется настройка YaRN. Модель принимает текстовые инструкции и выдаёт текст, включая код. Карточка описывает обучение на коде, текстово-кодовом сопоставлении и синтетических данных; языковая поддержка в метаданных отмечена как английская. Для работы рекомендуется актуальная версия Transformers; для развёртывания README рекомендует vLLM. Лицензия — Apache-2.0. Заявления карточки о сравнительной производительности являются утверждениями разработчика, а результат на конкретных задачах зависит от сценария и настройки.

Карточка модели Thor39/Qwen2.5-Coder-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

Solstice-AI/Qwopus3.6-27B-Coder-mlx-6Bit — это 6-битно квантованная версия Qwopus 3.6 27B Coder для Apple Silicon. Модель создана Solstice-AI на базе Qwen 3.6 27B и проекта Qwopus, разработанного Jackrong и сообществом open-weights; её дистилляционная основа связана с Claude Opus 4.6 и 4.7. Квантование выполнено в формате Apple MLX 6-Bit Affine с group_size 64, размер модели составляет около 21,85 ГБ. Модель предназначена прежде всего для агентного программирования: навигации по целым репозиториям, генерации и отладки кода, многофайлового рефакторинга, системной отладки, вызова Bash-инструментов и работы в средах Claude Code, Cursor, Aider и SWE-bench. Она поддерживает многошаговое взаимодействие, вызов инструментов и структурированные трассы рассуждений. Заявлены языки English и Chinese, текстовая генерация и нативное контекстное окно до 262 144 токенов. Ключевое преимущество модели — локальное выполнение с ускорением Metal через MLX и Anvil на компьютерах Apple Silicon с unified memory от 24 до 64 ГБ и выше. По данным README, квантование сохраняет около 99,3% результатов неквантованной BF16-версии на кодовых бенчмарках, однако фактические ограничения по длине контекста и производительности зависят от объёма памяти устройства. Для моделей с 24 ГБ рекомендуется контекст примерно 4–8 тысяч токенов, а полный заявленный контекст требует существенно большего объёма памяти. Лицензия — Apache 2.0.

CodeLlama 7B GGUF — это квантизированные файлы модели CodeLlama 7B, разработанной Meta и подготовленной в формате GGUF пользователем TheBloke. Модель относится к семейству Llama и предназначена для генерации и обработки программного кода, а также для задач текстовой генерации, связанных с разработкой программного обеспечения. Модель содержит около 7 миллиардов параметров и представлена в формате GGUFv2, совместимом с llama.cpp и рядом сторонних интерфейсов и библиотек. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на запуск с использованием CPU и GPU; выбор варианта позволяет находить компромисс между размером файлов, требованиями к оперативной памяти, скоростью и качеством вывода. В README не указаны точное максимальное окно контекста, поддерживаемые естественные языки и дополнительные модальности, поэтому модель следует рассматривать прежде всего как кодовую текстовую модель. К сильным сторонам относятся возможность локального запуска на широком спектре оборудования, несколько уровней квантизации и совместимость с популярными инструментами, включая llama.cpp, LM Studio, text-generation-webui и llama-cpp-python. Ограничения связаны с потерями качества, возможными при низкобитной квантизации, а также с тем, что конкретные требования к памяти и производительность зависят от выбранного файла и оборудования. Модель распространяется по лицензии Llama 2; условия использования следует учитывать согласно этой лицензии.

Deepseek Coder 6.7B Instruct — языковая модель для генерации и обработки программного кода, разработанная DeepSeek и представленная в GGUF-квантизованном формате компанией Second State Inc. Модель основана на deepseek-ai/deepseek-coder-6.7b-instruct и предназначена для работы с инструкциями, ответами на вопросы и задачами программирования в локальных приложениях и сервисах, включая LlamaEdge. Модель содержит 6,7 млрд параметров; в README указана архитектура DeepSeek и контекстное окно 4096 токенов. Поддерживаются различные варианты квантизации от 2 до 8 бит, размером примерно от 2,53 до 7,16 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу размера и качества. README не содержит точного перечня поддерживаемых языков программирования или естественных языков и не описывает мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются адаптация к инструкциям, ориентация на код и возможность запуска в средах с ограниченными ресурсами за счёт квантизации. Ограничения включают контекст 4096 токенов и неизбежную потерю качества у наиболее компактных вариантов, особенно Q2_K и некоторых Q3/Q4-конфигураций. Для запуска через LlamaEdge требуется версия 0.2.8 или новее и соответствующий prompt template. Лицензия указана как deepseek с обозначением other; дополнительные условия должны быть проверены в файле LICENSE.

GPT-5.6 Sol — флагманская модель серии GPT-5.6 от OpenAI. Она предназначена для сложных рассуждений, программирования и агентных сценариев. Модель особенно хорошо подходит для задач в командной строке и многоэтапной разработки: например, для анализа задачи, планирования изменений и подготовки кода. Данных об архитектуре, размере, модальностях, поддерживаемых языках и контексте в предоставленной карточке нет. Карточка также не сообщает лицензионные условия.

MLX-форматная квантизированная версия модели Kimi-K2.7-Code, разработанной Moonshot AI и преобразованной сообществом mlx-community с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и прежде всего для задач, связанных с написанием и обработкой кода. Она рассчитана на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; заявлено, что размер модели позволяет сохранить ресурсы для полезного контекстного окна. Модель текстовая и не поддерживает обработку изображений или других модальностей. Квантизация DQ3_K_M использует смешанный подход: тензоры экспертных блоков квантизуются с разрядностью 3–4 бита, а остальные тензоры сохраняются в 8-битном представлении. Такой подход призван обеспечить качество, близкое к 4-битной квантизации, при меньшем размере, хотя скорость генерации может быть немного ниже из-за 8-битной маршрутизации. Точный размер модели, архитектура, число параметров, поддерживаемые языки и размер контекстного окна в README не указаны. Для запуска требуется библиотека mlx-lm и параметр --trust-remote-code, поскольку он необходим исходной моделью. Лицензия указана как modified-MIT с типом other; дополнительные условия в README не раскрыты.

Это квантованная сборка NVFP4 модели MiMo-V2.6-Distill-Qwen-9B, разработанной Xiaomi MiMo и подготовленной для llama.cpp в формате GGUF. Исходная модель — мультимодальная модель на 9 млрд параметров, дообученная методом SFT на базе Qwen3.5-9B на данных, созданных более крупной моделью MiMo-V2.6. В репозитории также есть отдельный файл mmproj с визуальным энкодером для обработки изображений и видео. Модель предназначена для агентного программирования, работы с инструментами и терминалом, автоматизации, анализа интерфейсов и экранов, а также задач кибербезопасности. Гибридная архитектура сочетает 24 слоя линейного внимания Mamba-2 и 8 слоёв полного внимания; контекстное окно составляет 262 144 токена. Шаблон чата по умолчанию включает режим рассуждений. NVFP4-сборка занимает около 5,18 ГиБ, а ускорение NVFP4 требует видеокарты NVIDIA Blackwell; на более старых GPU используются более медленные пути. Это исследовательская отправная точка для экспериментов с агентным обучением с подкреплением, а не отполированный продукт. Разработчик приводит результаты бенчмарков, но они не были независимо воспроизведены для этой сборки. У модели нет доступной головы multi-token prediction, а KV-кэш при контексте 256K требует значительной памяти. Лицензия — MIT.

Карточка модели tiaguin/qwen на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B, поэтому описание составлено по ней. Qwen2.5-Coder-7B — плотная причинная языковая модель семейства Qwen2, разработанная командой Qwen. Это базовая предварительно обученная модель на 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B с упором на программный код. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок, а также может служить основой для кодовых агентов и дальнейшей адаптации под прикладные задачи. Модель принимает текст и генерирует текст. Архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях внимания QKV; заявленная длина контекста в метаданных — 32 768 токенов. Карточка описывает возможности обработки контекста до 131 072 токенов с YaRN, но для этого нужна дополнительная настройка; постоянный коэффициент масштабирования YaRN может снижать качество на коротких входах. Разработчик не рекомендует использовать базовую модель для диалогов без постобучения. Репозиторий распространяется под лицензией Apache-2.0.

unsloth/Qwen2.5-Coder-14B-Instruct — это инструкционная языковая модель для генерации и анализа кода, представленная в формате Unsloth и основанная на Qwen/Qwen2.5-Coder-14B-Instruct. Она использует плотную архитектуру Qwen2 с причинным декодером и содержит 14 млрд параметров; для запуска через Transformers доступны веса Safetensors. Модель рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев разработки: написания и дополнения кода, анализа программ, исправления ошибок и работы в агентных сценариях. Карточка Qwen2.5-Coder описывает усиление генерации, рассуждений и исправления кода при сохранении общих математических и языковых навыков. Поддерживается английский язык; метаданные также отмечают интерфейс для вызова инструментов. Это дообученная модель, а не исходная базовая версия. Лицензия — Apache-2.0. README содержит общее описание семейства, но часть его утверждений о размере и типе модели относится к версии 0,5B и не описывает этот репозиторий; здесь использованы параметры 14B и контекста из метаданных. Конкретные оценки качества для этой версии в предоставленных материалах не приведены.

JNolet/Qwen2.5-Coder-14B_v11.25.24.0_CodeInstruct — объединённая модель на архитектуре Qwen2 для генерации кода и диалоговых инструкций. Она создана методом TIES с помощью mergekit на основе Qwen/Qwen2.5-Coder-14B и включает Qwen/Qwen2.5-Coder-14B-Instruct; в карточке указаны 14 млрд параметров и формат safetensors. Модель предназначена для написания, анализа и исправления кода в диалоговом режиме. Она принимает текстовые запросы и генерирует текстовые ответы; интерфейс поддерживает чат и вызов инструментов. Контекст составляет 32 768 токенов. Лицензия в предоставленных данных не указана.

Qwen2.5-Coder-1.5B-Instruct-AWQ — это инструкционно дообученная языковая модель для работы с программным кодом из серии Qwen2.5-Coder, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, задач кодового рассуждения, создания приложений и использования в сценариях Code Agents. Модель также сохраняет возможности в математике и общих задачах обработки текста. Модель относится к причинным языковым моделям и поддерживает текстовую модальность. Она содержит 1,54 млрд параметров, из которых 1,31 млрд не являются параметрами эмбеддингов, имеет 28 слоёв и контекст до 32 768 токенов. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm, смещения в Attention QKV, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Репозиторий содержит AWQ-квантизированную 4-битную версию; в карточке явно указан английский язык. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, большой контекст и сниженные требования к памяти благодаря 4-битной квантизации. Небольшой размер делает модель удобной для локального развертывания, однако квантизация может влиять на точность, а компактный масштаб модели ограничивает качество по сравнению с более крупными моделями серии. Модель распространяется по лицензии Apache-2.0.

duyntnet/Qwen2.5-Coder-1.5B-Instruct-imatrix-GGUF — набор GGUF-квантизаций инструкционно дообученной модели Qwen2.5-Coder-1.5B-Instruct, разработанной командой Qwen компании Alibaba Cloud. Модель относится к причинным языковым моделям и предназначена прежде всего для генерации, анализа, исправления и объяснения программного кода, а также для задач рассуждения и диалога в прикладных сценариях, включая локальные инструменты и кодовых агентов. Модель имеет архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в механизмах внимания QKV и связанными эмбеддингами слов. Она содержит около 1,54 млрд параметров, 28 слоёв и использует GQA с 12 головами для Q и 2 головами для KV. Полная длина контекста составляет 32 768 токенов. В карточке указаны английский язык и текстовая модальность; модель поддерживается клиентами и интерфейсами llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и Jan. К сильным сторонам относятся компактный размер, специализация на программном коде и поддержка GGUF-квантизаций, что делает модель подходящей для локального запуска на ограниченных ресурсах. К ограничениям относятся меньший масштаб по сравнению с более крупными моделями семейства и отсутствие в карточке подробных результатов оценки качества для конкретных квантизаций. Лицензия обозначена как other, без дополнительных условий в представленном README.

Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

Карточка модели bigxho15/Qwen2.5-Coder-7B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-7B-Instruct — инструкционная версия каузальной языковой модели для работы с программным кодом, разработанная командой Qwen. Это дообученная версия Qwen/Qwen2.5-Coder-7B с архитектурой Qwen2 и 7,1 млрд параметров по метаданным. Модель принимает текстовые запросы и генерирует текст, включая код; поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для генерации, анализа и исправления кода, рассуждений о коде и создания кодовых агентов. README описывает архитектуру на базе Transformers с RoPE, SwiGLU и RMSNorm, а также контекст до 131 072 токенов при настройке YaRN для длинных входов. В конфигурации по умолчанию используется контекст 32 768 токенов. Для длинных контекстов масштабирование YaRN может снижать качество на коротких запросах. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers; README рекомендует актуальную версию библиотеки. Лицензия — Apache-2.0. Карточка подтверждает прежде всего английский язык; отдельный список поддерживаемых языков программирования и оценка качества именно этой instruct-версии здесь не приведены.

unsloth/Qwen2.5-Coder-7B-Instruct — инструкционная языковая модель для программирования, основанная на Qwen2.5-Coder-7B-Instruct от Qwen и представленная Unsloth. Это плотная причинная трансформерная модель семейства Qwen2 с 7,1 млрд параметров, доступная в формате safetensors и рассчитанная на генерацию текста в диалоговом режиме. Модель предназначена для генерации, анализа и исправления кода, рассуждений о программировании и создания кодовых агентов. Она также сохраняет общие языковые и математические способности базовой модели. Метаданные указывают контекст 32 768 токенов; в README упоминается более длинный контекст базовой модели, но для этой конфигурации расширение за 32 768 токенов требует настройки YaRN и может ухудшить работу на коротких запросах. Поддерживаемый язык карточки — английский. Репозиторий лицензирован по Apache-2.0. Модель принимает текстовые запросы и выдаёт текст, включая код; фактическое качество зависит от языка программирования и постановки задачи.

theo77186/Qwen2.5-Coder-7B-Instruct-20241106 — повторная публикация весов Qwen2.5-Coder-7B-Instruct от автора репозитория theo77186; исходная серия разработана командой Qwen. Это причинная языковая модель семейства Qwen2, дообученная для диалоговой генерации и работы с кодом. Она предназначена для генерации, анализа и исправления программного кода, а также для создания кодовых агентов и решения математических и общих текстовых задач. Модель содержит около 7,1 млрд параметров по метаданным и использует архитектуру Qwen2ForCausalLM с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием. Метаданные указывают контекст 32 768 токенов; в README заявлена поддержка до 131 072 токенов с настройкой YaRN для длинных запросов. Карточка и метаданные указывают английский язык. Лицензия — Apache-2.0. Для длинного контекста может потребоваться включить YaRN; в README отмечено, что постоянный коэффициент масштабирования способен ухудшать работу на коротких текстах. Для загрузки рекомендуется актуальная версия Transformers; README предупреждает о несовместимости с версиями ниже 4.37.0.

mlx-community/Qwen2.5-Coder-7B-Instruct-bf16 — конверсия в формат MLX модели Qwen2.5-Coder-7B-Instruct, опубликованная сообществом mlx-community. Это плотная авторегрессионная модель семейства Qwen2 на 7,1 млрд параметров для генерации текста и кода в диалоговом формате. Она предназначена для написания, анализа и исправления программного кода; метаданные указывают на интерфейс вызова инструментов. Максимальная длина контекста — 32 768 токенов, библиотека — Transformers. Модель принимает текст и генерирует текст, включая код. В карточке указан английский язык. Лицензия — Apache-2.0. README сообщает, что модель преобразована в MLX из Qwen/Qwen2.5-Coder-7B-Instruct с помощью mlx-lm версии 0.18.1; указанный формат файлов репозитория — safetensors.

legraphista/Qwen2.5-Coder-7B-Instruct-IMat-GGUF — GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen. Модель предназначена для генерации текста и работы с программным кодом в диалоговом формате: написания, дополнения и объяснения кода, а также решения задач, связанных с программированием. В метаданных указан английский язык и поддержка text-generation. Модель содержит около 7 миллиардов параметров и распространяется в формате GGUF для запуска с использованием llama.cpp и совместимых инструментов. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; часть низкобитных вариантов использует IMatrix для улучшения качества при квантизации. Преимуществами являются широкий выбор размеров файлов и возможность локального запуска, а ограничениями — потенциальная потеря качества в более агрессивно квантизированных версиях, отсутствие мультимодальности и неуказанный в README размер контекста. Квантизацию выполнил legraphista с использованием llama.cpp. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-AWQ — квантизированная версия модели Qwen3-Coder-Next, разработанная Qwen и подготовленная пользователем qtum. Модель предназначена прежде всего для генерации и обработки программного кода, а также для текстовой генерации на английском и китайском языках. Она подходит для локального и серверного развертывания с использованием vLLM или SGLang. В основе лежит разреженная MoE-архитектура qwen3_next: 80 млрд параметров всего, около 3 млрд активных параметров, 48 слоёв, 512 экспертов и маршрутизация top-10. Контекстное окно составляет 256K токенов. Используется AWQ-квантизация W4A16 с размером группы 128 в формате compressed-tensors и safetensors. Основная часть весов хранится в 4-битном формате, а маршрутизаторы MoE и lm_head сохранены в bf16 для снижения потери качества. Размер модели составляет около 40 GiB, что позволяет размещать её на одной видеокарте объёмом 48 ГБ; для 24 ГБ может потребоваться распределение, выгрузка или параллелизм. Главное преимущество модели — существенное уменьшение требований к дисковому пространству и памяти по сравнению с bf16- и FP8-версиями при сохранении исходной архитектуры и маршрутизации. Ограничение — заметное ухудшение показателя perplexity относительно bf16: 12,53 против 7,74 на указанном тесте wikitext-2-raw. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; поведение и лицензионные обязательства определяются базовой моделью Qwen3-Coder-Next.

Yi-Coder-9B-Chat-GGUF — GGUF-квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01-AI. Квантизация выполнена bartowski на базе llama.cpp release b3658. Модель предназначена прежде всего для диалога по вопросам программирования, генерации и объяснения кода, а также работы с большими кодовыми базами. Она настроена для общения, а не для автодополнения кода. Модель содержит около 9 миллиардов параметров и поддерживает контекст до 128 тысяч токенов. Она обучалась на данных, связанных с 52 языками и форматами программирования, включая Python, JavaScript, C++, C#, Java, Go, Rust, SQL, TypeScript, HTML, CSS, PHP, Ruby, Swift, Kotlin, R, Bash, PowerShell, Dockerfile и другие. В README указаны результаты 23% на LiveCodeBench; также отмечается, что модель стала первой моделью с менее чем 10 миллиардами параметров, преодолевшей отметку 20% на этом тесте. Для использования рекомендуется шаблон ChatML. Модель распространяется по лицензии Apache-2.0.

Codestral-22B-v0.1-GGUF — набор GGUF-квантизаций модели Codestral-22B-v0.1, разработанной Mistral AI и подготовленной пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода; формат GGUF и совместимость с llama.cpp позволяют запускать её локально с использованием CPU и/или GPU. В README указан шаблон диалога в формате инструкций с системным промптом и пользовательским запросом. Модель имеет размер 22B параметров. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS, Q3 и Q2 с размером файлов примерно от 6,64 до 23,64 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5 и Q4 отмечены как рекомендуемые, а низкоразрядные варианты предназначены для систем с ограниченными ресурсами и могут заметно уступать в качестве. Ключевые характеристики исходной архитектуры, поддерживаемые естественные языки и размер контекста в README не указаны. Лицензия обозначена как MNPL-0.1; условия следует уточнять по документу Mistral AI. README не содержит данных о мультимодальности, результатах бенчмарков или ограничениях исходной модели, поэтому её сильные стороны можно уверенно связывать только с ориентацией на задачи программирования и возможностью локального запуска в разных вариантах квантизации.