II.5Безопасность программного кода и цепочки поставок

CodeLlama 13B GGUF — это квантизированная версия языковой модели CodeLlama 13B, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и программного кода, а также для локального запуска через llama.cpp и совместимые интерфейсы и библиотеки. Модель построена на архитектуре Llama и содержит около 13 миллиардов параметров. Она ориентирована на работу с кодом; в README язык указан как code. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти, скоростью и качеством. Формат поддерживает метаданные, специальные токены и улучшенную токенизацию. Длина контекста и перечень поддерживаемых естественных языков в предоставленных данных не указаны. К сильным сторонам относятся возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другими инструментами. Ограничения включают потенциальное снижение качества у более агрессивно квантизированных вариантов, а также отсутствие в README подробных результатов оценки, сведений о контекстном окне и мультимодальных возможностях. Модель распространяется по лицензии Llama 2; условия лицензии следует учитывать при использовании.

TeichAI Gemma 4 26B A4B IT Claude Opus Distill v2 — мультимодальная диалоговая модель, дообученная на базе unsloth/gemma-4-26B-A4B-it с помощью Unsloth. Для дообучения использовались наборы с траекториями рассуждений Claude Opus; версия v2, по карточке модели, меняет параметры обучения и исправляет некоторые циклические или обрывающиеся ответы. Модель предназначена для генерации кода, отладки, планирования архитектуры программ, научного анализа, многошаговых исследовательских запросов и повседневных задач, требующих последовательных рассуждений. Архитектура Gemma 4 поддерживает диалог и обработку изображений; README также описывает обработку видео кадрами. Метаданные указывают формат safetensors и лицензию Apache-2.0. Карточка заявляет о применении модели в Cline, Codex и Cursor для создания веб-приложений и скриптов, однако сравнительные бенчмарки пока не приведены. Возможности базовой Gemma 4 не следует автоматически считать проверенными именно для этой дообученной версии; заявленные качества рассуждений основаны на описании автора.

Jack-Long-Agentic-27B-4bpw-16GB-VRAM — экспериментальная агентная сборка на базе Qwen3.6-27B, опубликованная автором Jack. Это файл GGUF для локальных сред выполнения, совместимых с форматом GGUF; в метаданные шаблона чата встроена архитектура Jack для ведения структурированного рабочего состояния между ходами. README утверждает, что тензоры базовой модели не изменялись, а интеграция выполнена через tokenizer.chat_template. Модель предназначена для длительных многоэтапных задач: работы с кодом и репозиториями, отладки с повторными вызовами инструментов, анализа документов, исследований и оркестрации сложных действий. Заявленные механизмы включают сжатие истории в рабочее состояние, привязку рассуждений к источникам, разделение конфигураций и контрфактических сценариев, проверку выводов и передачу детерминированных операций инструментам. Поддержка изображений базовой моделью в карточке каталога указана, однако README описывает сценарии работы с текстом и инструментами. Автор называет выпуск исследовательским превью и экспериментальной демонстрацией; качество и надёжность агентного поведения требуют проверки в конкретной среде. Для предполагаемого поведения нужны GGUF-совместимый рантайм, доступные модели инструменты и сохранение истории диалога. Лицензия — Apache-2.0.

Карточка модели anything098/Kimi-K2.6 на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.6, поэтому описание составлено по ней. Kimi K2.6 — открытая мультимодальная агентная модель компании Moonshot AI для сложных задач программирования, проектирования интерфейсов, автономного выполнения многошаговых задач и координации групп агентов. В карточке Hugging Face указана архитектура семейства Kimi K2.5 для условной генерации, а README описывает MoE-модель с 1 трлн параметров, из которых активны 32 млрд. Модель принимает текст, изображения и видео; заявленная длина контекста в описании испытаний составляет 262 144 токена. Модель предназначена для создания и изменения кода, генерации интерфейсов по текстовым и визуальным запросам, а также выполнения задач с инструментами и параллельными агентами. По данным README, она может координировать до 300 подагентов и 4 000 шагов и рассчитана на работу с языками программирования, включая Rust, Go и Python. Метаданные Hugging Face отмечают чат-возможность и задачи генерации текста и преобразования изображений в текст. Указана лицензия other; её конкретные условия следует проверять в репозитории модели. README сообщает о нативной INT4-квантизации и рекомендует vLLM, SGLang и KTransformers для запуска.

Карточка модели kirikir13/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

darkc0de/Muse-Glimmer-30B-heretic — версия Muse Glimmer-30B с ослабленным отказом на запросы, созданная с помощью Heretic v1.4.0. Исходная модель разработана Meta Superintelligence Lab; это плотная причинная трансформерная языковая модель примерно с 29,6 млрд параметров и отдельным энкодером восприятия. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Модель предназначена для диалогов и мультимодальных агентных сценариев: планирования, вызова инструментов, программирования, анализа изображений и документов, генерации синтетических данных и оценки ответов других моделей. Она принимает текст и изображения и выдаёт текст. В README указана обработка видео по отдельным кадрам, но модель специально для видео не оптимизирована; аудио не поддерживается. Сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных отсутствуют. В README приведено сравнение с исходной Muse Glimmer-30B: доля отказов составила 11 из 100 против 59 из 100 у оригинала, а KL-дивергенция — 0,0743. Модель может ошибаться в многошаговых рассуждениях, выдавать неточные, предвзятые или нежелательные ответы; качество может снижаться для языков, недостаточно представленных в оценке. Для агентных развёртываний рекомендуется дополнительная проверка безопасности и контроль действий.

Карточка модели AarthShah/Nex-N2-mini на Hugging Face совпадает с карточкой nex-agi/Nex-N2-mini, поэтому описание составлено по ней. Nex-N2-mini — открытая агентная языковая модель компании Nex-AGI, дообученная на базе Qwen3.5-35B-A3B-Base. Она предназначена для разработки программного обеспечения, вызова инструментов, выполнения задач в терминале и исследований с поиском, включая длительные рабочие процессы с обратной связью от среды. Модель объединяет планирование, реализацию, проверку и отладку; заявлены адаптивная глубина рассуждений и согласованный подход к разным агентным задачам. Модель доступна в формате safetensors, работает с библиотекой Transformers и поддерживает диалог. В README описана поддержка function calling и явных трасс рассуждений; для локального развёртывания Nex-AGI рекомендует собственную сборку sglang. Для Nex-N2-mini приведён пример запуска на сервере с двумя H100. Лицензия — Apache-2.0. README заявляет результаты на агентных и программных бенчмарках, но часть таблицы опущена, а подробные показатели Nex-N2-mini в доступном тексте ограничены. Модель ориентирована на сложные агентные сценарии, поэтому её практическая эффективность зависит от окружения, инструментов и вычислительных ресурсов.

baronyi/Qwen2_5-code-talker-v1-0707-014615 — объединённая методом SLERP модель на основе Qwen/Qwen2.5-Coder-14B-Instruct и Qwen/Qwen2.5-14B-Instruct. Это плотная авторегрессионная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и примерно 14 млрд параметров; карточка указывает форматы Safetensors и GGUF F16, а метаданные — контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и программного кода, а также структурированных ответов и взаимодействия с инструментами через соответствующий интерфейс. Она объединяет возможности двух инструкционных моделей Qwen2.5, одна из которых ориентирована на код. Поддерживаемые языки в предоставленных данных не перечислены. Условия лицензии в карточке и метаданных не приведены.

pragmaticcs/Qwen-35B-A3B-SignOfFour-Coder-GGUF — объединённая модель семейства Qwen 3.6 от pragmaticcs, предназначенная для разработки программного обеспечения, генерации кода и агентного выполнения инструментов. Это причинная языковая MoE-модель с 35 млрд параметров, из которых активны около 3 млрд на токен; в архитектуре 40 декодерных слоёв. Модель объединяет базовую Qwopus3.6-35B-A3B-Coder с тремя специализированными дообучениями методом DARE-TIES и послойным синусоидальным масштабированием. Модель работает с текстом и выдаёт текст, включая код и команды для инструментов. В README указана поддержка многоуровневого рассуждения и агентного взаимодействия через шаблон чата Qwen 3.x. Веса доступны в формате GGUF, включая варианты BF16, Q4_K_M, Q5_K_M, Q6_K и Q8_0; лицензия — Apache-2.0. Мультимодальные веса зрения и головы предсказания нескольких токенов удалены. Карточка не приводит размер контекстного окна.

Карточка модели Andronovo/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

Карточка модели HFCK99/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой denyzhirkov/Qwen3.8-27B-AEON-ULTIMATE-U-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-U-BF16 — экспериментальная ранняя версия модели Qwen3.8-27B, подготовленная denyzhirkov. Это дообученная и аблитерированная BF16-версия с уменьшенным числом отказов; базовая модель — Qwen/Qwen3.8-27B. Плотная мультимодальная архитектура поддерживает диалог, следование инструкциям, вызов инструментов и работу с изображениями. В README описана проверка на NVIDIA H200 через vLLM; при тестировании использовалось окно 16 384 токена, а автор указывает, что базовая модель поддерживает контекст до 262 000 токенов. Модель рассчитана на прямые ответы, творческое письмо, исследования безопасности, red-team-тестирование и работу с запросами, которые базовая модель могла бы отклонить. Снятие части отказов может сделать ответы более доступными, но не гарантирует точности или безопасности. README предупреждает о повторениях и потере связности на очень длинных запросах; модель может выдавать опасный или незаконный контент. Лицензия — Apache-2.0.

CISCai/Qwen3-Coder-30B-A3B-Instruct-SOTA-GGUF — это квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen и опубликованной в формате GGUF командой CISC. Модель предназначена для генерации текста и программного кода, включая чат-сценарии, написание и дополнение кода. Она поддерживает Fill-in-Middle, то есть заполнение пропущенных фрагментов исходного кода, при использовании совместимых версий llama.cpp. Модель относится к архитектуре Qwen3 MoE и имеет размер 30B в обозначении модели. Доступны варианты квантизации от IQ1_S до IQ4_NL с эффективной разрядностью примерно от 1,56 до 4,5 бит на вес. Размер файлов составляет примерно от 6,4 ГБ, а требуемый объём оперативной памяти — от 6,7 ГБ в зависимости от варианта. В метаданных указан английский язык. Базовая длина контекста исходной модели составляет 262 144 токена; для некоторых файлов доступны варианты с расширением контекста до 1 048 576 токенов с использованием YaRN. Ключевое преимущество модели — возможность локального запуска при существенно сниженном потреблении памяти, а также специализированная настройка квантования с importance matrix на данных CodeFeedback-Filtered-Instruction. Чем агрессивнее квантизация, тем меньше требования к ресурсам, но тем сильнее потери качества: варианты IQ1 и IQ2 характеризуются значительными потерями, тогда как более высокие разрядности лучше сохраняют качество. Файлы совместимы с llama.cpp начиная с версии, соответствующей 9 апреля 2025 года, и с другими интерфейсами и библиотеками на его основе. Модель распространяется по лицензии Apache-2.0. README не содержит сведений о мультимодальности; по указанным данным это текстовая модель для работы с кодом.

mlx-community/Qwen3-Coder-480B-A35B-Instruct-8bit — это 8-битная версия модели Qwen3-Coder-480B-A35B-Instruct, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.29.0. Исходную модель разработала команда Qwen; карточка указывает базовую модель Qwen/Qwen3-Coder-480B-A35B-Instruct. Модель предназначена для генерации текста и, судя по названию и базовой модели, ориентирована на задачи программирования и работу с инструкциями. Она может использоваться через библиотеку mlx-lm на совместимых системах Apple MLX; поддерживаются загрузка модели, токенизатора и генерация ответов с применением chat template, если он доступен. Архитектура, точное число активных параметров, поддерживаемые языки, модальности и размер контекста в README не указаны, поэтому их нельзя достоверно описать. Ключевая характеристика этой версии — 8-битное представление в формате MLX, что предназначено для запуска модели через экосистему MLX. Ограничения включают отсутствие в карточке подробных сведений о производительности, требованиях к памяти, качестве, контекстном окне и совместимости. Модель распространяется по лицензии Apache-2.0.

AgentionAI Signal 3.8 Flash Next — это дообученная версия Qwen3.8-Flash-Next в формате GGUF, настроенная на более короткие ответы и эффективное рассуждение. В основе — мультимодальная разреженная MoE-модель на 177 млрд параметров с поддержкой изображений и диалога; сохранены vision encoder и голова multi-token prediction базовой модели. Репозиторий содержит варианты F16, IQ4, Q4_K и Q8. Модель предназначена для диалога, анализа изображений, решения математических задач и агентного программирования. По данным разработчика, на MATH-500 она использовала меньше токенов рассуждения и показала более высокий результат, а на Terminal-Bench 2.0 быстрее выполняла задачи программного агента. Самостоятельное тестирование разработчика ограничено небольшими выборками и единичными запусками на Terminal-Bench; на задачах, требующих длительного перебора вариантов, модель может исчерпать бюджет рассуждений раньше базовой. Модель обучена методом самодистилляции на ответах самой Qwen3.8-Flash-Next, настроенных на прямой стиль. Для запуска автор рекомендует llama.cpp и приводит контекст 65 536 токенов. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

Dracarys2-Llama-3.1-70B-Instruct — текстовая модель Abacus.AI, дообученная на основе meta-llama/Meta-Llama-3.1-70B-Instruct для улучшения результатов в задачах программирования. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она принимает текст и поддерживает диалоговый формат Llama 3 Instruct. Заявленная длина контекста — 131 072 токена. Модель предназначена для генерации кода, анализа кода, предсказания результатов тестов и решения общих задач с инструкциями. В приведённых авторами оценках LiveCodeBench она показала более высокие результаты базовой модели в генерации кода и предсказании вывода тестов; показатели зависят от задачи и режима оценки. Доступна в формате Safetensors для Transformers. Лицензия — Llama 3; перед использованием следует соблюдать её условия.

GLM-4.6 от Zhipu AI представлен в репозитории Unsloth с исправлениями шаблона чата. Это диалоговая языковая модель семейства GLM-4 MoE с 23,4 млрд параметров, предназначенная для генерации текста и кода, рассуждений и агентных сценариев с вызовом инструментов. Модель принимает контекст до 202 752 токенов и поддерживает английский и китайский языки. По сравнению с GLM-4.5 в карточке отмечены улучшения в программировании, рассуждениях, работе с инструментами и поисковыми агентами, а также более естественный стиль письма. Репозиторий содержит веса safetensors; для запуска через llama.cpp README рекомендует использовать параметр --jinja. Лицензия — MIT.

granite-34b-code-instruct-GGUF — это квантизированная GGUF-версия Granite-34B-Code-Instruct, разработанной IBM на базе ibm-granite/granite-34b-code-base. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, объяснения и исправления кода, решения математических задач, работы с SQL и сценариев, связанных с function calling и ассистентами разработчика. Модель имеет 34 миллиарда параметров и работает с текстовыми данными. В README приведён шаблон диалога с системным сообщением, вопросом и ответом. Заявлены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; показатели pass@1 для генерации кода составляют от 41,5% до 62,8%, однако указано, что эти результаты не подтверждены. Для локального запуска доступны варианты Q8_0, Q6_K, Q5_K_M и Q5_K_S размером примерно от 23,40 до 35,99 ГБ; Q6_K и Q5_K_M отмечены как рекомендуемые по соотношению качества и размера. Сильными сторонами являются специализация на программировании, поддержка нескольких языков программирования и возможность локального использования в формате GGUF. Ограничения включают высокие требования к дисковому пространству и вычислительным ресурсам, зависимость качества от выбранного уровня квантизации, а также отсутствие в предоставленных данных сведений о размере контекстного окна, полном наборе поддерживаемых естественных языков и системных требованиях. Модель распространяется по лицензии Apache 2.0.

Карточка модели SissyTrixie/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Mellum2 Thinking — модель-помощник с усиленными способностями к рассуждению, разработанная JetBrains. Она создана на базе Mellum2-12B-A2.5B-Base: после дообучения на инструкциях модель прошла обучение с подкреплением по проверяемым вознаграждениям на сложных данных, включая задачи по математике с развёрнутыми решениями. Модель предназначена для сложной отладки, многошагового планирования, агентных сценариев, математики и других задач, требующих последовательного рассуждения. Это текстовая MoE-модель семейства Mellum: в архитектуре 64 эксперта, из которых для каждого токена активируются 8. Она использует сочетание слоёв со скользящим окном и полным вниманием и поддерживает контекст до 131 072 токенов. Модель выводит ход рассуждений в специальных блоках перед итоговым ответом. В репозитории указаны 1,9 млрд параметров, формат safetensors и библиотека Transformers. Лицензия — Apache 2.0. Карточка советует использовать вариант Instruct, если нужны прямые ответы с меньшей задержкой. Модель ориентирована на английский язык; других языков карточка не заявляет.

MergekitCloud/mergekit-78 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом Model Stock. В основу слияния вошла Qwen/Qwen2.5-14B, вместе с Qwen2.5-Coder-14B, Qwen2.5-Coder-14B-Instruct и Rombos-Coder-V2.5-Qwen-14b. Модель содержит 14 млрд параметров, использует формат safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, с акцентом на задачи программирования: написание, анализ и исправление кода. Может применяться в чат-сценариях и интерфейсах вызова инструментов. Метаданные указывают поддержку conversational-возможностей, но отдельные языки в доступных сведениях не перечислены. В карточке указана лицензия? Условия использования в предоставленных данных не приведены. Качество и поведение слияния зависят от исходных моделей и конкретной задачи; результаты для этой сборки отдельно не описаны.

Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

Ornith 1.5 35B-A3B Uncensored — мультимодальная модель для диалогов, программирования и агентных задач, созданная на основе Ornith 1.5 35B-A3B. Разработчик применил к весам Ornith task-vector с модели Qwen3.6-35B-A3B-abliterated: изменены 102 совместимых тензора, а vision- и MTP-компоненты Ornith сохранены. Модель использует архитектуру Qwen3.5 MoE и файлы Safetensors; базовая модель содержит 35 млрд параметров. Контекст настроен на 262 тыс. токенов. Модель предназначена для текстовых диалогов, программирования, агентных сценариев и анализа изображений. В README заявлено, что дообучение Ornith для программирования и агентных задач сохранено, а склонность к отказам намеренно снижена. Локальная проверка на квантованной сборке Q4_K_M охватывала 20 промптов; её эвристические результаты не являются общим бенчмарком этой модели. Лицензия — Apache-2.0. Для запуска требуются актуальные версии Transformers, vLLM или SGLang; README указывает Transformers 5.8.1+, vLLM 0.19.1+ и SGLang 0.5.9+.

QuantTrio/Qwen3-Coder-30B-A3B-Instruct-AWQ — 4-битная AWQ-квантизированная версия Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Это причинная языковая модель для генерации текста и программного кода, включая агентное программирование, использование браузера, понимание репозиториев и вызов функций в совместимых инструментах и платформах. Исходная модель имеет MoE-архитектуру с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса, 48 слоями, 128 экспертами и 8 активными экспертами. Используется GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. Поддерживаются текстовые сценарии; сведения о конкретном наборе языков в README не приведены. К сильным сторонам относятся высокая эффективность MoE-архитектуры, задачи программирования, агентские сценарии, вызов инструментов и работа с длинным контекстом. Основное ограничение этой версии — существенная потеря качества при 4-битной квантизации, поэтому её следует использовать с осторожностью. Для запуска через vLLM требуется версия 0.10.0 или совместимая, включённый экспертный параллелизм и подходящая GPU-конфигурация; в README приведён сценарий запуска на четырёх GPU с контекстом 32 768 токенов. Распространение указано по лицензии Apache-2.0.

Qwopus3.6-27B-Fusion-GGUF — экспериментальная модель от KyleHessling1, созданная объединением Qwopus3.6-27B-v2 с уклоном на рассуждения и Qwopus3.6-27B-Coder с уклоном на программирование. Обе родительские модели происходят от Qwen/Qwen3.6-27B. Модель предназначена для текстовой генерации, многошагового рассуждения и автономной разработки программного обеспечения, особенно для сценариев, где агент самостоятельно планирует, пишет код, запускает его и исправляет ошибки. Модель содержит 27 млрд параметров и 64 слоя, использует гибридную архитектуру qwen35 с линейным вниманием и периодическими слоями полного внимания. Нативный контекст составляет 262 144 токена; корректная работа проверена на контексте до 60 000 токенов. По умолчанию включён режим reasoning. Доступна версия GGUF с квантизацией Q4_K_M размером около 16,5 ГБ, рассчитанная на запуск через llama.cpp на одной видеокарте с 24–32 ГБ памяти. Поддерживается ввод изображений при использовании совместимого проектора Qwopus3.6-27B-Fusion-mmproj-Q8_0.gguf. В README указан английский язык. Сильные стороны модели — сочетание устойчивого рассуждения и генерации кода, хорошие результаты на HumanEval, MBPP и GSM8K, стабильное завершение генерации и способность работать как автономный агент программирования. Ограничения связаны с экспериментальным статусом и отсутствием полного строгого оценивания; результаты зависят от квантизации и режима работы. Лицензия указана как other с названием qwen и ссылкой на лицензию Qwen.

DeepSeek-Coder-V2-Lite-Instruct — языковая модель для генерации текста и программного кода, разработанная компанией DeepSeek и представленная в GGUF-квантизации сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для выполнения инструкций по программированию, завершения кода, решения задач в области информатики и математического рассуждения. Модель использует архитектуру Mixture of Experts (MoE): общий объём составляет 16 млрд параметров, из которых при обработке активируются 2,4 млрд. Она дообучалась на 6 трлн высококачественных токенов с кодом и поддерживает контекст длиной до 128k токенов. В README языки явно не перечислены; указано, что официальный шаблон иногда приводит к генерации текста на китайском языке. К сильным сторонам относятся специализация на программировании, следовании инструкциям, завершении кода и высокая скорость вывода благодаря разреженной активации параметров. Для работы в LM Studio требуется версия 0.2.25 или новее, а Flash Attention необходимо отключить. Модель распространяется по лицензии DeepSeek License; конкретные условия следует уточнять в файле LICENSE исходного репозитория. README не содержит подробных результатов бенчмарков и не описывает ограничения по безопасности или точности, поэтому сгенерированный код и ответы требуют проверки.

dolphincoder-starcoder2-15b-GGUF — квантизированная версия модели dolphincoder-starcoder2-15b, разработанной cognitivecomputations и опубликованной в формате GGUF пользователем bartowski. Модель основана на StarCoder2 с размером около 15 млрд параметров и предназначена для генерации текста и программного кода. Модель ориентирована на задачи программирования, включая написание, дополнение и обработку кода, а также работу с инструкциями в сценариях code assistant. Для обучения использовались наборы данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder, Code-Feedback и их производные. В карточке указан английский язык; модальности ограничены текстом. Размер контекста и точные архитектурные характеристики не указаны. Преимущество этой версии — возможность локального запуска через llama.cpp с различными уровнями квантизации. Вариант Q6_K отмечен как рекомендуемый благодаря высокому качеству, тогда как менее битные варианты требуют меньше памяти, но дают более заметное снижение качества; Q2_K и Q3_K_S не рекомендуются. К ограничениям относятся зависимость качества и требований к памяти от выбранной квантизации, а также отсутствие данных о производительности и поддерживаемых языках программирования. Лицензия модели — bigcode-openrail-m.

GLM-4.7-REAP-268B-A32B — сжатая версия языковой модели GLM-4.7, представленная в карточке Cerebras. Это разрежённая причинная языковая модель с архитектурой Mixture-of-Experts: из 268 млрд параметров активируются 32 млрд на токен. Метод REAP удаляет 25% экспертов без последующего дообучения; в модели осталось 120 экспертов из 160, одновременно активны 8. В метаданных указан класс Glm4MoeForCausalLM и формат safetensors. Модель предназначена для генерации кода и текста, агентных сценариев, работы с репозиториями и вызова функций. Карточка заявляет близкую к исходной GLM-4.7 производительность при меньших требованиях к памяти и совместимость с актуальным vLLM. Контекст составляет 202 752 токена; модель поддерживает английский язык, а базовая GLM-4.7 также описана как англо-китайская. Указанная лицензия — MIT. Результаты оценки для варианта BF16 пока не приведены, поэтому заявления о близком качестве основаны на описании карточки и не подтверждены в ней численными результатами для этого варианта.

KAT-Coder V2.5 Dev 35B-A3B MTP Abliterated GGUF — это квантизированная и полноточная GGUF-сборка модели для генерации текста и программного кода. Сборку подготовил jakeroxs на основе KAT-Coder V2.5 Dev от KwaiPilot и аблитерированной версии Philadelphia Class, дополнив её совместимым слоем Multi-Token Prediction (MTP) от Myric для спекулятивного декодирования в llama.cpp. Модель предназначена прежде всего для задач программирования, генерации и обработки кода, а также для разговорных сценариев. Указаны английский и китайский языки. Архитектура — Qwen3.5 MoE (qwen35moe): около 35,51 млрд параметров, 256 экспертов, из которых на каждый токен используются 8, контекст до 262 144 токенов. Доступны вариант Q4_K_M размером около 20,2 GiB и BF16 GGUF. Слой MTP является опциональным и позволяет использовать native draft-mtp в llama.cpp; на RTX 5090 в описанной конфигурации он повысил скорость генерации примерно на 25,7%, однако на видеокартах с недостаточным объёмом памяти может привести к дополнительной выгрузке слоёв и снижению производительности. Для работы требуется свежая сборка llama.cpp с поддержкой Qwen3.5 MoE MTP. Основные ограничения связаны с высокими требованиями к памяти и зависимостью производительности от аппаратной конфигурации; приведённые результаты относятся к конкретным системам и не гарантируют аналогичную скорость в других условиях. Модель распространяется по лицензии Apache-2.0.

Карточка модели zorks1233/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.

Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw-VLM — это квантованная MLX-версия модели Kimi-K2.7-Code, разработанной Moonshot AI. Сборка создана avlp12 и предназначена для запуска на устройствах Apple Silicon, прежде всего на M3 Ultra. Это мультимодальная vision-language модель для работы с текстом, программным кодом, изображениями и видео. В основе лежит MoE-архитектура в стиле DeepSeek-V3 примерно на 1 триллион параметров, из которых активно около 32 миллиардов, с языковой частью MLA и визуальной башней MoonViT. Модель сохраняет полный vision encoder и мультимодальный проектор в формате bf16, а языковые веса подвергнуты чувствительно-ориентированному квантованию с эффективной точностью 3,629 бит на вес. Поддерживается контекст до 256 тысяч токенов. Размер модели на диске составляет около 465,9 ГБ; для запуска требуется единый компьютер с 512 ГБ памяти M3 Ultra либо распределённый запуск на двух машинах. Модель поддерживает подробное описание изображений и анализ изменений и движения в видео; заявленная скорость декодирования составляет около 23 токенов в секунду. К сильным сторонам относятся сохранённая визуальная часть без дополнительной ошибки квантования, большой контекст и высокая эффективность памяти KV-кэша. Ограничения связаны с экстремальными требованиями к объёму памяти, зависимостью от совместимых версий mlx-vlm и специальных компонентов для видео, а также с потерями качества из-за 3-битного квантования экспертов: средний KL относительно 4-битного эталона составляет 0,199 ната, а частота изменения top-1 ответа — 10,2%. Лицензия указана как modified MIT.