II.11Кибербезопасность и приватность

Qwen3.6-KAT-BigBang-SLERP — текстовая MoE-модель, созданная слиянием SLERP двух дообученных моделей на базе Qwen3.6-35B-A3B: KAT-Coder-V2.5-Dev от Kwaipilot и BigBang-v1 от endless-frontier. Репозиторий предоставляет веса в формате GGUF; в README описана версия APEX Mini размером около 13,5 ГБ. Архитектура исходной модели включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв гибридного внимания и контекст до 262 тысяч токенов. Модель предназначена для генерации текста, агентного программирования, вызова инструментов и задач рассуждения. Слияние сочетает кодовые и агентные возможности KAT-Coder с уклоном BigBang в рассуждения; карточка приводит результаты тестирования одной квантованной версии в ограниченной по памяти конфигурации, но подчёркивает, что слияние систематически не оценивалось. Модель принимает и выдаёт текст; визуальная башня и голова MTP в результат не включены. Лицензия — Apache-2.0. Среди ограничений указаны возможные галлюцинации, нестабильное долгосрочное планирование и чувствительность к формату запроса; квантование с потерями может снижать точность. Для запуска GGUF README рекомендует llama.cpp b10516 или новее с поддержкой указанной архитектуры.

YTan2000 выпустил GGUF-сборку Qwen3.8 Flash Next с квантизацией TurboQuant TQ3_4S примерно до 4 бит на вес. В основе — MoE-модель с общим набором экспертов, 48 слоями и 176,9 млрд параметров; заявленный исходный контекст составляет 262 144 токена. Эта сборка предназначена для текстового диалога и генерации, включая задачи программирования. В отличие от исходной модели, в ней нет компонентов для обработки изображений и черновых слоёв MTP. Пять файловых частей занимают около 110 GiB. В README приведена проверенная конфигурация запуска на машине с NVIDIA GB10 и 128 ГБ объединённой памяти; для работы требуется специальная версия TurboQuant runtime. Указанные результаты бенчмарков относятся к этой сборке при контексте 32K и заданных настройках рассуждения. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией исходной модели.

Gallardo994/Qwen3-Coder-30B-A3B-Instruct — версия модели Qwen3-Coder от Gallardo994, преобразованная в формат MLX из Qwen/Qwen3-Coder-30B-A3B-Instruct с помощью mlx-lm 0.26.3. Это инструктивная MoE-модель для генерации текста в диалоге, ориентированная на программирование и агентные сценарии. Модель принимает текст и генерирует текст; метаданные указывают контекст до 262 144 токенов. В репозитории указаны веса safetensors и библиотека MLX. Размер, приведённый в метаданных, составляет 2,4 млрд параметров. Модель доступна по лицензии Apache-2.0.

Qwopus3.6-35B-A3B-Coder-vram13-GGUF — квантизированная GGUF-сборка кодовой версии Qwopus3.6-35B-A3B-Coder от автора репозитория xero0000. Она предназначена для генерации и редактирования кода, отладки и агентных сценариев программирования. Основа — дообученная Jackrong/Qwopus3.6-35B-A3B-Coder, созданная на базе Qwen3.6-35B-A3B; архитектура MoE, а для ускорения генерации сохранена обученная голова multi-token prediction (MTP). Вес файла составляет 13,53 ГБ, заявленный контекст — до 128 тыс. токенов. Модель упакована в GGUF с imatrix-квантизацией: экспертные слои используют преимущественно 2-битное представление, а важные для каждого токена компоненты — 5–6-битное. README сообщает о высокой скорости на двух видеокартах с суммарно 18 ГБ VRAM при использовании ik_llama.cpp и MTP; эти результаты относятся к описанной конфигурации оборудования. Карточка предупреждает, что 2-битные эксперты могут несколько ухудшить рассуждения в нетипичных случаях; для максимального качества предлагается более крупная смешанная квантизация с выгрузкой части модели в CPU. Лицензия — Apache-2.0.

TechxGenus/starcoder2-3b-instruct — языковая модель семейства StarCoder2, дообученная разработчиком TechxGenus для следования инструкциям по программированию. В README указано обучение на дополнительных 0,7 млрд токенов, связанных с кодом, в течение трёх эпох; архитектура — плотная причинная модель Starcoder2ForCausalLM с 4,2 млрд параметров и контекстом до 16 384 токенов. Модель принимает инструкции в формате Alpaca без системного промпта и генерирует текст, в первую очередь программный код. Её можно применять для генерации и дополнения кода, решения задач программирования и ответов на запросы о коде. В README приведён результат 65,9 pass@1 на HumanEval-Python, но также отмечено, что модель ограниченно тестировалась и может ошибаться или хуже справляться с задачами вне программирования. Лицензия — BigCode OpenRAIL-M.

QuantFactory/starcoder2-7b-instruct-GGUF — квантованная версия модели TechxGenus/starcoder2-7b-instruct, созданная QuantFactory с использованием llama.cpp. Это текстовая генеративная модель, дообученная для работы с инструкциями, связанными с программированием и генерацией кода. В основе лежит StarCoder2-7B; модель была дообучена на 0,7 млрд дополнительных высококачественных токенов, связанных с кодом, в течение 3 эпох. Для обучения применялись DeepSpeed ZeRO 3 и Flash Attention 2. Заявленный результат на HumanEval-Python составляет 73,2 pass@1. Модель использует формат инструкций Alpaca без системного промпта. Сведения о поддерживаемых языках программирования, размере контекста и конкретных параметрах квантования в карточке не указаны. Модель предназначена прежде всего для генерации кода по инструкциям и других задач разработки программного обеспечения. Её сильные стороны — специализация на коде и заявленный результат на HumanEval-Python, а квантование может упростить локальный запуск. Ограничения включают возможные ошибки и вводящий в заблуждение результат, особенно при решении задач, не связанных с программированием; тестирование модели было ограниченным, поэтому перед применением в реальных системах рекомендуется дополнительная проверка безопасности. Лицензия — BigCode OpenRAIL-M.

UniNER-7B-type — модель извлечения именованных сущностей, разработанная авторами проекта UniNER и дообученная на базе LLaMA-7B. Для обучения использовались тексты Pile-NER-type с метками типов сущностей, автоматически созданными GPT-3.5-turbo-0301 без ручной разметки. Модель принимает текстовый фрагмент и возвращает найденные сущности с их типами в виде списка пар. Модель предназначена для распознавания сущностей по заданным типам и извлечения именованных сущностей из текстов. В README отмечено, что она лучше варианта UniNER-7B-definition справляется с тегами типов и показывает лучшие результаты на бенчмарке Universal NER, охватывающем 43 академических набора данных из 9 областей. Архитектура — плотная LLaMA для генерации текста, размер — 6,6 млрд параметров, контекст — 2048 токенов; в метаданных указан английский язык. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Поскольку разметка для обучения синтетическая, качество может зависеть от точности заданных типов и отличаться для текстов и категорий вне охвата обучения.

xGemable-12B-coder-v1.5-GGUF — специализированная агентная модель для программирования, разработанная компанией xCloudinfo на базе google/gemma-4-12B-it. Модель обучалась с применением LoRA и дистилляции проверенных выполнением траекторий Anthropic Claude: примеры кода отбирались только после успешной компиляции и прохождения тестов. Это не универсальная диалоговая модель, а инструмент для инженерных задач и локального использования. Модель предназначена для реализации функций и модулей, написания и анализа тестов, объяснения и ревью кода, а также многошаговой работы с инструментами и исправления ошибок. Основной язык программирования — Python; также заявлена поддержка C#, Java, Go, JavaScript и Rust. Поддерживаются function calling и tool use. Контекст составляет 256K токенов в исходном режиме и до 1M токенов с YaRN, что позволяет анализировать крупные репозитории и наборы документов. Доступны GGUF-квантизации от 4 до 8 бит; версия Q4_K_M занимает около 7,4 ГБ и рассчитана на запуск на компьютерах с 16 ГБ RAM. Заявленный результат HumanEval pass@1 составляет 87,8% для базовой оценки и 88,4% для Q4 GGUF по приведённым в README измерениям. Сильными сторонами являются специализация на программировании, поддержка агентных сценариев, локальное развёртывание и большой контекст. Ограничение — недостаточная практическая надёжность для полностью автоматической отладки реальных репозиториев. Для корректной работы требуется отключать режим размышлений и использовать рекомендованные параметры декодирования; фактическая длина контекста зависит от доступной памяти. Модель распространяется по лицензии Apache-2.0.

zen4-coder-pro-i1-GGUF — набор квантованных GGUF-версий модели zenlm/zen4-coder-pro. Базовая модель разработана zenlm, а квантование выполнено mradermacher. Модель предназначена прежде всего для генерации и обработки программного кода, включая локальный запуск в совместимых инструментах для GGUF. Доступны варианты квантования i1-IQ и i1-Q с размерами примерно от 16,3 до 65,6 ГБ. README указывает английский язык, библиотеку Transformers и текстовую модальность; сведения об архитектуре, количестве параметров и размере контекста не приведены. Варианты различаются компромиссом между размером, скоростью и качеством: Q4_K_M отмечен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по размеру, скорости и качеству, а некоторые низкобитные варианты характеризуются сниженным качеством. Основное преимущество модели — возможность выбрать подходящий уровень квантования для локального использования и ограниченных аппаратных ресурсов. Ограничения связаны с потерями качества у наиболее агрессивно квантованных вариантов, а также с отсутствием в README подробных результатов оценки и технических характеристик базовой модели. Модель распространяется по лицензии Apache-2.0.

Muse Glimmer-30B — мультимодальная причинная языковая модель, разработанная Meta Superintelligence Lab и представленная в августе 2026 года. Эта версия распространяется в формате GGUF на базе Muse-Glimmer-30B и предназначена для локального запуска автономных агентных систем без облачной инфраструктуры и доступа к сети. Модель рассчитана на выполнение многошаговых задач, использование инструментов и функций, написание и отладку кода, обработку многоходовых запросов и восстановление после ошибок инструментов. Она принимает текст и изображения, включая скриншоты, графики и документы, а генерирует текст. Muse Glimmer совместима с различными агентными сценариями и оркестраторами, поддерживает управляемую интенсивность рассуждений и обучалась на данных более чем 100 языков. Архитектура представляет собой плотный причинный Transformer с выделенным примерно 1,8-миллиардным визуальным ViT-G/14-энкодером; общий объём составляет около 29,6 миллиарда параметров. Модель имеет 52 слоя, скрытую размерность 6656, механизм GQA с соотношением 32/2 голов внимания, SwiGLU, локальные и глобальные схемы внимания, контекст более 131 072 токенов и до 4096 визуальных токенов на изображение. Ключевые сильные стороны — агентное выполнение задач, надёжное применение инструментов, длительное многошаговое рассуждение, мультимодальность и восстановление после сбоев. Ограничения включают высокие требования к памяти и вычислительным ресурсам, несмотря на оптимизацию для потребительского оборудования; ориентиры для квантованных вариантов составляют около 24–32 ГБ памяти, а заявленная деградация качества — примерно 0,2–1,0% в зависимости от варианта квантования. Лицензия — Apache 2.0.

unsloth/Llama-3_3-Nemotron-Super-49B-v1-GGUF — GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Это плотная decoder-only Transformer-модель примерно на 49 млрд параметров с контекстом до 128K токенов и текстовым вводом. Модель предназначена прежде всего для английского языка и языков программирования, также поддерживает немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель ориентирована на рассуждения, диалог, следование инструкциям, генерацию кода, математику, RAG, tool calling и разработку AI-агентов, чат-ботов и других приложений на базе LLM. Постобучение включало SFT для математики, кода, рассуждений и вызова инструментов, а также этапы reinforcement learning и оптимизации предпочтений. Архитектура использует нестандартные блоки с пропуском или упрощением attention и переменным соотношением расширения FFN, что снижает требования к памяти и повышает эффективность при сохранении качества. Ограничениями являются преимущественно англоязычная специализация, возможное снижение качества на других языках и необходимость учитывать требования к ресурсам при запуске модели такого размера. Использование регулируется NVIDIA Open Model License; дополнительно указано соглашение Meta Llama 3.3 Community License Agreement. Модель заявлена как пригодная для коммерческого использования.

unsloth/Qwen3.8-2.4T-A95B-GGUF — квантованная версия открытой модели Qwen3.8-2.4T-A95B, подготовленная Unsloth с использованием подхода Unsloth Dynamic 2.0. Модель разработана командой Qwen и предназначена для генерации текста, программирования, профессиональных и исследовательских задач, а также для долгих многошаговых агентских сценариев. README указывает совместимость исходных артефактов с Transformers, vLLM, SGLang и TokenSpeed. Это причинная языковая модель с архитектурой Mixture of Experts: 2,4 трлн параметров всего, из которых активируется 95 млрд. Она содержит 92 слоя, скрытое измерение 8192 и 512 экспертов, из которых для обработки токена маршрутизируются 10 экспертов и один общий. Архитектура сочетает Gated DeltaNet и Gated Attention, а также поддерживает Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена и может быть расширена примерно до 1 010 000 токенов. Управление глубиной рассуждений выполняется параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться через preserve_thinking. Сильные стороны модели — высокий заявленный уровень для сложного кодирования, профессиональной работы, исследований, планирования и автономного выполнения задач, а также большой контекст и возможность настройки рассуждений. Ограничения включают крайне большой общий размер модели и соответствующие требования к памяти и инфраструктуре; конкретные требования зависят от выбранного GGUF-кванта и конфигурации запуска. В README не указаны поддерживаемые языки и точные параметры доступных квантований. Лицензия обозначена как qwen3.8-max; условия следует уточнять в файле LICENSE.

Muse Glimmer-30B — мультимодальная причинная языковая модель, разработанная Meta Superintelligence Lab и представленная в квантованном формате professorf для воспроизводимости исследований. Модель предназначена прежде всего для автономных агентных задач на пользовательском оборудовании: многошагового рассуждения, вызова инструментов, написания и отладки кода, выполнения длительных рабочих процессов и восстановления после ошибок. Она рассчитана на локальную работу без облачной инфраструктуры и сетевого доступа и совместима с различными агентными оркестраторами, включая OpenClaw и Hermes Agent. Модель содержит около 29,6 млрд параметров и построена как плотный causal Transformer с выделенным perception encoder примерно на 1,8 млрд параметров для обработки изображений. Поддерживаются входные данные в виде текста и изображений, а на выходе генерируется текст. Архитектура включает 52 слоя, скрытое измерение 6656, механизм GQA, SwiGLU, локальное и глобальное внимание с окном 2048 токенов, контекст длиной 131 072 и более токенов и до 4096 визуальных токенов на изображение. Модель обучалась на данных более чем на 100 языках; дата отсечения знаний — 4 января 2026 года. К сильным сторонам относятся интеграция рассуждения, надёжного использования инструментов, мультимодального анализа, планирования и восстановления после сбоев, а также оптимизация для локального запуска. Квантование примерно до 4 бит позволяет разместить языковую часть менее чем в 20 ГБ и использовать модель в конфигурациях на 24 или 32 ГБ памяти; заявленная деградация качества составляет около 0,2% для варианта на 32 ГБ и 1,0% для варианта на 24 ГБ по среднему результату 15 бенчмарков. Для ускорения генерации предусмотрен speculative decoding с drafter-моделью DFlash. Ограничения включают высокие требования к памяти, зависимость производительности от аппаратной конфигурации и то, что модель поддерживает изображения только на входе. Лицензия — Apache 2.0.

MiMo-V2.6-Pro-UltraSpeed — мультимодальная модель-ассистент, разработанная Xiaomi. Она предназначена для задач, где важны глубокое рассуждение и быстрая реакция: интерактивных агентов, программирования, анализа рисков и исследовательской работы. Xiaomi заявляет, что модель сохраняет возможности MiMo-V2.6-Pro и генерирует ответы с выходной скоростью до 20 раз выше. Модель принимает текст, изображения, видео и аудио, а выдаёт текст. Поддерживает контекст до 1 млн токенов и генерацию до 128 тыс. токенов, вызов инструментов, потоковую выдачу, поиск в интернете и структурированный вывод. Доступна через API Xiaomi. Данные о лицензии и конкретных языках для этой версии в использованных источниках отсутствуют.

Qwen3.6-35B-A3B-MTP-GGUF — GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Alibaba Qwen. Это разреженная мультимодальная модель Mixture-of-Experts с 35 млрд общих параметров и примерно 3 млрд активных параметров на токен. Модель принимает текст, изображения и видео, поддерживает английский язык и имеет контекст до 262 тысяч токенов; заявлено расширение до 1 млн токенов с помощью YaRN. Модель предназначена прежде всего для агентного программирования, работы с кодом, фронтенд-задач, анализа репозиториев, мультимодальных сценариев и интеграции с инструментами. Она поддерживает вызов функций, структурированный вывод и режимы рассуждения. Архитектура сочетает линейное внимание Gated DeltaNet со стандартными слоями gated attention. Формат MTP добавляет несколько выходных голов для предсказания будущих токенов и ускорения спекулятивного декодирования без отдельной draft-модели. К сильным сторонам относятся большой контекст, мультимодальность, низкое число активных параметров относительно общего размера и возможность локального запуска в различных вариантах квантования; заявленное потребление для некоторых конфигураций составляет около 21–24 ГБ VRAM. Ограничения включают значительные требования к памяти для BF16/F16 и снижение качества при более агрессивном квантовании. Доступны файлы GGUF размером примерно от 13,2 до 71,1 ГБ и отдельные мультимодальные проекторы. Модель распространяется по лицензии Apache 2.0.

Step-3.5-Flash-FP8 — открытая foundation-модель, разработанная StepFun и представленная в формате FP8 на базе stepfun-ai/step-3.5-flash. Она предназначена для сложного рассуждения, программирования, агентских сценариев, многошагового выполнения задач, поиска и обработки больших объёмов информации. Модель ориентирована на интерактивное применение и локальное развёртывание, включая высокопроизводительное потребительское оборудование. Архитектура модели основана на разреженной Mixture of Experts (MoE): всего модель содержит 196 млрд параметров, из которых для каждого токена активируется около 11 млрд. Технология Multi-Token Prediction (MTP-3) обеспечивает заявленную скорость генерации около 100–300 токенов в секунду, с пиковыми значениями до 350 токенов в секунду для однопоточных задач программирования. Поддерживается контекстное окно объёмом 256K токенов; для его эффективной обработки используется гибридная схема Sliding Window Attention с соотношением 3:1. К сильным сторонам относятся высокая скорость вывода, эффективность MoE-архитектуры, способность работать с длинным контекстом и результаты на задачах рассуждения, программирования и автономных агентов, включая 74,4% на SWE-bench Verified и 51,0% на Terminal-Bench 2.0. Ограничения, включая языковую специализацию, мультимодальность и требования к аппаратным ресурсам, в README явно не описаны. Модель распространяется по лицензии Apache 2.0.

Claude Opus 5 описана как флагманская модель Anthropic для сложных задач рассуждения, программирования и длительной агентной работы. Среди сценариев применения указаны выполнение комплексных задач разработки программного обеспечения, проверка кода, поиск ошибок и визуальный анализ.

Llama-3.1-Nemotron-Ultra-253B-v1 — крупная языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct. Это reasoning- и chat-модель для разработчиков AI-агентов, чат-ботов, RAG-систем, инструментального вызова и других приложений на основе генерации текста, а также для стандартных задач следования инструкциям, математики, программирования и рассуждений. Модель обучалась с ноября 2024 года по апрель 2025 года и выпущена 7 апреля 2025 года. Модель использует плотную decoder-only Transformer-архитектуру с 253 млрд параметров, модифицированную с помощью Neural Architecture Search. В отдельных блоках применяются пропуск attention, переменное соотношение расширения FFN и объединение последовательных FFN-слоёв. Для восстановления качества использовались knowledge distillation на 65 млрд токенов и continual pretraining на 88 млрд токенов, а последующее дообучение включало supervised fine-tuning и reinforcement learning с GRPO. Поддерживается текстовый ввод и вывод с контекстом до 131 072 токенов; модель предназначена прежде всего для английского языка и языков программирования, также заявлена поддержка немецкого, французского, итальянского, португальского, хинди, испанского и тайского. К сильным сторонам относятся сочетание высокой точности с уменьшенным потреблением памяти, потенциально более высокая пропускная способность и сниженная задержка благодаря NAS и вертикальной компрессии. Модель рассчитана на работу на одном узле с 8 GPU H100, совместима с NVIDIA Hopper и Ampere, использует Transformers и ориентирована на Linux. Ограничения включают очень большой размер, высокие требования к вычислительным ресурсам и отсутствие гарантии качества для языков и сценариев, не перечисленных разработчиком. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.1 Community License Agreement; модель заявлена как пригодная для коммерческого использования.

Llama-3.3-Nemotron-Super-49B-v1.5-GGUF — квантованное представление большой языковой модели NVIDIA, производной от Meta Llama-3.3-70B-Instruct. Модель предназначена для рассуждений, многоходового чата, следования инструкциям, программирования, математических и научных задач, а также для создания RAG-систем, AI-агентов и приложений с вызовом инструментов. Версия GGUF подготовлена Unsloth и включает исправления шаблона чата; для llama.cpp рекомендуется использовать параметр --jinja. Модель представляет собой плотный decoder-only Transformer с архитектурными изменениями, полученными методом Neural Architecture Search: в отдельных блоках внимание пропускается или заменяется линейным слоем, а коэффициент расширения FFN может различаться между блоками. Такой подход уменьшает требования к памяти и повышает эффективность инференса при сохранении качества. Указаны размер 49B параметров, контекст до 128K токенов и поддержка английского языка, включая задачи с кодом. Модель обучалась на данных с отсечкой по 2023 году, поэтому её знания могут быть устаревшими. Сильными сторонами являются сочетание качества рассуждений и эффективности, поддержка агентных сценариев, RAG и tool calling, а также возможность применения в коммерческих проектах. Ограничения включают специализацию преимущественно на английском языке, отсутствие заявленной мультимодальности и зависимость характеристик от конкретного GGUF-кванта и оборудования. Использование регулируется NVIDIA Open Model License, а также дополнительными условиями Llama 3.3 Community License Agreement.

Qwen2.5-Coder-14B-Instruct-GPTQ-Int4 — 4-битная GPTQ-квантизированная instruction-tuned модель для генерации и обработки кода из семейства Qwen2.5-Coder, разработанного командой Qwen/Alibaba Cloud. Модель предназначена для генерации, анализа, исправления и рассуждений о программном коде, а также для создания приложений на базе code agents. Она сохраняет общие математические и языковые возможности базовой модели Qwen2.5 и работает в формате causal language model. Модель содержит 14,7 млрд параметров, из которых 13,1 млрд не являются embedding-параметрами, и включает 48 слоёв. Архитектура использует transformers, RoPE, SwiGLU, RMSNorm и смещения в Attention QKV; применяется Grouped-Query Attention с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать производительность на коротких текстах. В README явно указан английский язык. Квантизация GPTQ Int4 уменьшает требования к памяти и облегчает развёртывание, но может влиять на качество по сравнению с полноточной версией. Для работы рекомендуется актуальная версия transformers, а для длинного контекста — vLLM с соответствующей настройкой. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-Coder-7B-Instruct-AWQ — 4-битная AWQ-квантизированная instruction-tuned языковая модель для генерации текста и программного кода, разработанная командой Qwen компании Alibaba Cloud. Она предназначена для генерации, анализа и исправления кода, работы с чат-запросами, создания code agents, а также задач, где требуются математические и общие языковые способности. Модель использует каузальную transformer-архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и Grouped-Query Attention с 28 головами Q и 4 головами KV. Заявлена поддержка контекста до 131 072 токенов; для входов свыше 32 768 токенов требуется настройка YaRN, которая может снижать производительность на коротких текстах. Модель обучалась на данных, включающих исходный код, текстово-кодовые связи и синтетические данные; в README указан английский язык. К сильным сторонам относятся специализация на программировании, улучшенные генерация, рассуждение и исправление кода, а также сниженные требования к памяти благодаря 4-битной квантизации. Ограничения включают возможное ухудшение качества или скорости при использовании расширенного контекста и необходимость совместимых версий Transformers и AWQ-инфраструктуры. Модель распространяется по лицензии Apache-2.0.

Nex-N2.5-Max — языковая модель семейства Nex-N2.5, разработанная компанией Nex-AGI. Она предназначена для агентных задач с длинной последовательностью действий в реальных средах: программирования, научных исследований, интеллектуальной работы, сложных сценариев продуктивности, автономного выполнения и тестирования программ, а также работы с компьютером и браузером. Модель относится к pipeline text-generation и поддерживает текстовые сценарии. Nex-N2.5-Max построена на текстовой архитектуре Mixture-of-Experts (MoE) с 1,6 триллиона параметров и стала для разработчика первой моделью, полностью дообученной в масштабе свыше триллиона параметров. По сравнению с мультимодальными моделями Nex-N2.5-mini и Nex-N2.5-Pro, версия Max описана как text-only, поэтому визуальная модальность для неё в README не заявлена. Среди сильных сторон указаны длительное автономное выполнение задач, самокоррекция и высокие результаты в тестах кодирования и агентных сценариев; при этом конкретные пределы контекста, поддерживаемые языки и требования к вычислительным ресурсам не приведены. Веса модели выпускаются с открытым исходным кодом по лицензии Apache-2.0.

Ornith-1.5-27B-A3B-CoderX-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-CoderX, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа кода, рассуждений и текстовых задач; в метаданных также заявлена поддержка vision-сценариев. Указанный язык — английский. Модель использует архитектуру Qwen3.5-MoE с 25,6 млрд параметров, из которых активно используется около 3 млрд. В составе 184 эксперта, из них выбираются 8; конфигурация включает 40 основных блоков и один слой MTP (Multi-Token Prediction). Доступны веса F16 и многочисленные варианты квантизации от Q8_0 до IQ2_XS, а также отдельный vision projector. Заявлен контекст до 262 144 токенов в примере запуска через llama.cpp. Сильные стороны модели — MoE-архитектура с небольшим числом активных параметров, поддержка рассуждений, кода, MTP и vision, а также квантизация с importance matrix, рассчитанной специально для этой версии. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут заметно терять качество, а F16 и старшие кванты требуют значительного объёма памяти. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска в совместимом окружении, включая llama.cpp.

QuantFactory/Qwen2.5-Coder-14B-Instruct-GGUF — это квантизированная версия инструкционно дообученной языковой модели Qwen2.5-Coder-14B-Instruct, созданная QuantFactory с использованием llama.cpp. Базовую модель разработала команда Qwen; она предназначена для генерации, анализа и исправления программного кода, решения задач по программированию, создания code agents, а также для математических и общеязыковых сценариев. Модель представляет собой causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-матрицах внимания. Она содержит 14,7 млрд параметров, из них 13,1 млрд без учёта embedding, 48 слоёв и групповое запросное внимание GQA с 40 головами для Q и 8 для KV. Заявлена поддержка контекста до 131 072 токенов, однако исходная конфигурация рассчитана на 32 768 токенов; для более длинных входов требуется включение YaRN, что может снижать качество на коротких текстах. В README указан английский язык, модальность — текст. К сильным сторонам относятся специализация на генерации, рассуждении и исправлении кода, улучшенная пригодность для прикладных инструментов разработки и сохранение математических и общих языковых возможностей. Ограничения связаны с требованиями к вычислительным ресурсам, особенностями развёртывания квантизированной версии и возможным влиянием статического масштабирования YaRN на производительность. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen2.5-Coder-7B-Instruct-GGUF — это квантованная в формате GGUF версия модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen. Квантование выполнено bartowski на основе llama.cpp release b3772; LM Studio распространяет модель в рамках Community Model Program, но не является её разработчиком. Модель предназначена для генерации и анализа программного кода, решения задач программирования, рассуждений, исправления ошибок и создания coding agents. Это текстовая модель с архитектурой и точными параметрами, не раскрытыми в README; размер исходной модели составляет 7B параметров. Указан английский язык. Поддерживается контекст до 128K токенов с настройками YaRN RoPE, что подходит для работы с крупными файлами и длинными описаниями проектов. Обучение основано на данных объёмом 5,5 триллиона токенов. Сильными сторонами модели являются специализация на коде, возможности генерации, рассуждений и поиска ошибок, а также длинный контекст. К ограничениям относятся зависимость качества и скорости от выбранного уровня GGUF-квантования и оборудования, отсутствие в README подробностей о конкретном варианте квантования, поддерживаемых языках программирования и результатах оценивания. Как и другие языковые модели, она может выдавать неточный, небезопасный или неподходящий код и требует проверки человеком. Лицензия модели указана как Apache 2.0. Условия использования квантованной версии следует сопоставлять с лицензией оригинальной Qwen2.5-Coder-7B-Instruct и условиями распространения конкретного файла GGUF.

Step-3.5-Flash-GGUF-Q4_K_S — это квантизированная версия Step 3.5 Flash от команды StepFun, созданная на базе stepfun-ai/step-3.5-flash и распространяемая в формате GGUF с квантизацией Q4_K_S. Модель предназначена для локального развёртывания и ориентирована на задачи рассуждения, программирования, агентного взаимодействия и обработки длинных документов или больших кодовых баз. В основе модели лежит разреженная архитектура Mixture of Experts (MoE): всего модель содержит 196 млрд параметров, из которых при генерации каждого токена активируется около 11 млрд. Используется 3-way Multi-Token Prediction (MTP-3), обеспечивающий заявленную скорость генерации примерно 100–300 токенов в секунду в типичных сценариях и до 350 токенов в секунду в однопоточном программировании. Контекстное окно составляет до 256 тысяч токенов благодаря сочетанию Sliding Window Attention и полноразмерного внимания. Для локального запуска модель адаптирована под llama.cpp; на NVIDIA DGX Spark заявлена скорость около 20 токенов в секунду, а INT8-квантизация KV-кэша позволяет использовать контекст до 256 тысяч токенов. Сильные стороны модели — сочетание высокой эффективности, поддержки длинного контекста, задач программирования и многошаговых агентных сценариев, а также возможность обработки данных локально с сохранением приватности. В качестве ограничений следует учитывать значительный общий размер модели и высокие требования к оборудованию, несмотря на разреженную архитектуру и квантизацию. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому их нельзя подтвердить. Модель распространяется по лицензии Apache 2.0.

Zero Qwen3-8B OpenZero — локальная текстовая генеративная модель в формате GGUF, разработанная для экосистемы OpenZero и опубликованная пользователем shafire. Она основана на Qwen/Qwen3-8B и представляет собой полностью объединённую standalone-сборку: отдельный адаптер и базовая модель не требуются. Модель совместима с llama.cpp и Ollama, а также может использоваться через OpenAI-совместимый локальный сервер OpenZero. Модель предназначена для агентного программирования, отладки, ревью кода, планирования тестов, исследовательских задач, синтеза информации с проверкой утверждений, выбора и вызова инструментов, а также автономных многошаговых рабочих процессов. Поддерживаются режимы Qwen3 /no_think для быстрых циклов с инструментами и /think для более сложных исследовательских и программных задач. В карточке указан английский язык; модальность — текстовая, pipeline относится к text-generation. Для запуска приведена конфигурация контекста 8192 токена, однако максимальный контекст модели явно не указан. Доступны квантованный вариант Q5_K_M размером около 5,45 GiB, рекомендованный для локального использования с практичными требованиями к CPU и RAM, и сборка F16 размером около 13,82 GiB для более высокой точности и последующей квантизации. К сильным сторонам относятся автономность, локальное выполнение, совместимость с CPU, llama.cpp и Ollama, а также ориентация на агентные сценарии и проверку результатов. Ограничения включают зависимость качества и скорости от аппаратного обеспечения и выбранной квантизации; приведённый тест на Intel Core i7-2600 показал около 2,45 токена в секунду при генерации. Лицензия указана как other с названием openzero-community-source-v1; дополнительные условия в карточке не приведены.

GLM-4.5-Air-FP8 — языковая foundation-модель для интеллектуальных агентов, разработанная организацией zai-org, связанной с Zhipu AI. Она предназначена для агентных приложений, требующих рассуждений, генерации и анализа кода, использования инструментов и выполнения сложных многошаговых задач. Модель поддерживает английский и китайский языки и относится к классу text-generation-моделей на базе Transformers. Модель имеет гибридный режим рассуждений: thinking mode предназначен для сложного анализа и работы с инструментами, а non-thinking mode — для быстрых ответов. Архитектура использует разреженную активацию параметров: всего 106 млрд параметров, из которых активно 12 млрд. Данная версия использует формат FP8, ориентированный на более эффективное хранение и инференс по сравнению с полноразмерными представлениями. Размер контекстного окна в README не указан. Сильными сторонами модели являются сочетание рассуждений, программирования и агентных возможностей, а также более компактная конфигурация по сравнению с GLM-4.5 при сохранении конкурентных результатов на заявленных бенчмарках. Ограничения связаны с высокими требованиями к инфраструктуре: для полнофункционального запуска указана серверная память свыше 1 ТБ и GPU-конфигурации с несколькими H100 или H200; точные требования зависят от режима и фреймворка инференса. Модель распространяется по лицензии MIT, допускающей коммерческое использование и вторичную разработку.

unsloth/GLM-4.6-GGUF — это версия языковой модели GLM-4.6 в формате GGUF, подготовленная Unsloth на основе модели GLM-4.6 от Z.ai (Zhipu AI). Модель предназначена для локального запуска и генерации текста, включая программирование, рассуждения, агентские сценарии, использование инструментов и поисковых агентов. Она также ориентирована на создание более естественных текстов и ролевое взаимодействие. Заявлено контекстное окно до 200 000 токенов, поддержка английского и китайского языков, а также улучшения по сравнению с GLM-4.5 в задачах кодирования, рассуждений, tool use и агентских приложениях. Размер модели, точная архитектура, перечень модальностей и конкретный вариант квантования в README не указаны. Репозиторий содержит исправления chat template; для запуска рекомендуется актуальная версия llama.cpp с параметром --jinja. Для общих оценок рекомендована температура 1.0, а для задач, связанных с кодом, — top_p 0.95 и top_k 40. Модель сильна в длинноконтекстной обработке, генерации кода, рассуждениях и интеграции с инструментами, однако README не приводит подробных количественных характеристик, ограничений качества или требований к вычислительным ресурсам. Лицензия — MIT.

Ornith-1.5-27B-A3B-Coder-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-Coder, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа программного кода, задач рассуждения и сценариев локального запуска через llama.cpp. Она построена на архитектуре Qwen3.5-MoE и использует разреженную структуру Mixture-of-Experts: около 26,66 млрд общих параметров, из которых активно используются примерно 3 млрд. В составе модели 184 эксперта, 8 из них выбираются на шаге генерации, а также один дополнительный MTP-слой для многошагового предсказания. Модель представлена в форматах от F16 до сильно сжатых вариантов IQ2 и Q2, включая Q4_K_M, Q5_K_M, Q6_K и Q8_0; для квантов применялась индивидуальная importance matrix. Заявлена поддержка английского языка, текстового ввода и вывода, рассуждений и кода. В README также указана возможность работы с изображениями, но для этого требуется отдельно поставляемый vision projector mmproj; сами веса модели текстовые. Рекомендуемый контекст при запуске llama.cpp составляет до 262144 токенов, а использование reasoning budget считается обязательным. Сильные стороны модели — сочетание крупной общей ёмкости с низким числом активных параметров, широкий выбор уровней квантования, поддержка MoE, MTP, reasoning и локального инференса, а также наличие отдельного проектора для мультимодального режима. Ограничения включают необходимость подбирать квантование под доступную память, возможное заметное ухудшение качества в самых компактных вариантах и потенциально высокую задержку при длинных рассуждениях. Модель распространяется по лицензии Apache-2.0.