II.4Отладка, тестирование и качество ПО

granite-34b-code-instruct-GGUF — это квантизированная GGUF-версия Granite-34B-Code-Instruct, разработанной IBM на базе ibm-granite/granite-34b-code-base. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и прежде всего для задач программирования: написания, объяснения и исправления кода, решения математических задач, работы с SQL и сценариев, связанных с function calling и ассистентами разработчика. Модель имеет 34 миллиарда параметров и работает с текстовыми данными. В README приведён шаблон диалога с системным сообщением, вопросом и ответом. Заявлены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; показатели pass@1 для генерации кода составляют от 41,5% до 62,8%, однако указано, что эти результаты не подтверждены. Для локального запуска доступны варианты Q8_0, Q6_K, Q5_K_M и Q5_K_S размером примерно от 23,40 до 35,99 ГБ; Q6_K и Q5_K_M отмечены как рекомендуемые по соотношению качества и размера. Сильными сторонами являются специализация на программировании, поддержка нескольких языков программирования и возможность локального использования в формате GGUF. Ограничения включают высокие требования к дисковому пространству и вычислительным ресурсам, зависимость качества от выбранного уровня квантизации, а также отсутствие в предоставленных данных сведений о размере контекстного окна, полном наборе поддерживаемых естественных языков и системных требованиях. Модель распространяется по лицензии Apache 2.0.

Grug v2 9B — дообученная модель ProCreations на архитектуре Qwen3.5 с 9 млрд параметров. Это полный объединённый чекпойнт, предназначенный для диалогов, рассуждений, генерации кода и работы с инструментами через XML-вызовы. README описывает исправление стиля внутренних рассуждений и сохранение навыков программирования и выбора инструментов; приведены результаты тестов HumanEval, MBPP и наборов действий с инструментами. Модель дообучена на базе ProCreations/grug-9b с использованием датасетов Grug; в описании также указаны 4 096 токенов контекста для этапа коррекции стиля. Репозиторий содержит веса safetensors и требует Transformers с поддержкой Qwen3.5. Лицензия — MIT. Хотя архитектура поддерживает обработку изображений, карточка не подтверждает соответствующий сценарий применения этой версии; метаданные указывают генерацию текста.

Ling-1T — базовая языковая модель серии Ling 2.0, разработанная командой InclusionAI. Это причинная MoE-модель с архитектурой BailingMoeV2: в README заявлены 1 трлн параметров всего и около 50 млрд активных параметров на токен, тогда как метаданные Hugging Face указывают 49,6 млрд параметров. Модель обучена более чем на 20 трлн токенов и предназначена для генерации текста, диалога, сложных рассуждений, программирования и работы с инструментами. Для репозитория указаны контекст 32 768 токенов и формат safetensors; в README для Ling-1T-base заявлена поддержка до 128 тыс. токенов, поэтому длина контекста может зависеть от варианта модели. Модель рассчитана на многоязычный текст и показывает заявленные разработчиками возможности в математике, логике, написании кода и создании интерфейсов. Архитектура MoE активирует лишь часть параметров для каждого токена; также описаны MTP-слои и обучение с использованием FP8. Модель принимает текст и генерирует текст; визуальные задачи в README относятся к визуальному рассуждению и генерации интерфейсного кода, но поддержка изображений в метаданных не указана. README отмечает ограничения в многоходовом взаимодействии, долговременной памяти и использовании инструментов, а также возможные отклонения от инструкций и путаницу ролей. Модель распространяется по лицензии MIT.

Nixia 1.1 4B — семейство компактных агентных языковых моделей в формате GGUF, разработанное adsyamsafa на базе wangzhang/Qwen3.5-4B-abliterated и ориентированное на корпоративные сценарии с вызовом инструментов, терминальными рабочими процессами, автономным исправлением ошибок и рассуждением. Модель предназначена для генерации текста и кода, сложного анализа, оркестрации нескольких инструментов, DevOps-задач, диагностики конфигураций и самовосстанавливающихся циклов. В репозитории доступны варианты размером около 4 млрд параметров с квантизацией Q4_K_M и размером файла около 2,58 ГБ. Рекомендуемый вариант Pure SFT 2K обучен на 2 000 агентных траекториях и показывает заявленную общую точность 87,0% на восьми специализированных тестах; вариант DARE-TIES 80/20 объединяет SFT и GRPO RLVR и ориентирован на автономный DevOps и быстрое самовосстановление. Заявлены поддержка работы на CPU, включая ноутбуки с 16 ГБ ОЗУ, расход памяти около 3 ГБ и контекст до 8 192 токенов. Сведения о языках и мультимодальности не указаны; по описанию это текстовая модель. Сильные стороны — высокая эффективность на задачах агентной оркестрации, консенсуса, системного программирования, PostgreSQL, Rust и автономного восстановления, а также возможность локального запуска через Ollama и llama.cpp. Ограничения включают небольшой размер модели, зависимость результатов от выбранного варианта и квантизации, а также заметно более низкий результат DARE-варианта на тесте восстановления времени жизни Rust Async Mutex. Модель и указанные материалы распространяются по лицензии Apache-2.0.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-OptiQ-4bit — квантизированная версия языковой модели NVIDIA Nemotron-3.5-Lightning, подготовленная сообществом mlx-community с использованием MLX-native инструментария mlx-optiq. Модель предназначена для локальной генерации текста на компьютерах Apple Silicon и поддерживает сценарии общего диалога, рассуждений, программирования, решения математических задач, следования инструкциям и вызова функций. В основе лежит гибридная архитектура nemotron_h: блоки Mamba2 сочетаются с несколькими слоями attention, а маршрутизируемая MoE-архитектура содержит 128 экспертов, из которых для каждого токена активируются 6. Общий размер базовой модели составляет около 30 млрд параметров, при этом активно примерно 3 млрд. Используется чувствительная к слоям смешанная квантизация: 36 слоёв и 36 экспертных тензоров имеют точность 4-bit, ещё 127 слоёв и 10 экспертных тензоров — 8-bit. Размер файлов модели — около 22,8 ГБ; сохранена MTP-голова для speculative decoding. Модель демонстрирует сильные результаты в генерации кода, математике, следовании инструкциям и вызове функций: в README указаны 87,8% на HumanEval, 85,5% на GSM8K и 83,0% на BFCL-V3 simple. Ограничением является слабее выраженная способность к извлечению информации из длинного контекста: результат HashHop составляет 40,0%. Для работы требуется MLX и пакет mlx-optiq; на компьютерах с ограниченной оперативной памятью рекомендуется потоковая загрузка экспертов с SSD. Модель выпускается по NVIDIA Open Model License; точные условия следует уточнять в тексте этой лицензии.

AEON-7/Ornith-1.0-35B-AEON-Ultimate-Uncensored-NVFP4 — 4-битная квантованная версия модели Ornith-1.0-35B, разработанной DeepReinforce и дополнительно адаптированной AEON-7. Это аблитированная, нецензурируемая модель для генерации текста, рассуждений, программирования, агентских сценариев, вызова инструментов и мультимодальных задач с изображениями и текстом. Модель основана на смеси экспертов (MoE) с 35B параметров; в README также указано происхождение от Qwen3.6-35B-A3B. Квантизация NVFP4 применяется только к весам MLP-компонентов по схеме W4A16, тогда как attention, GatedDeltaNet/SSM, vision tower, маршрутизаторы, эмбеддинги и нормализации сохраняют точность BF16. Размер составляет около 23,7 ГБ, заявлена поддержка контекста до 262 144 токенов, изображений и видео, а также reasoning- и tool-calling-режимов. Основные сценарии включают coding, SWE- и terminal-задачи, математическое рассуждение, диалог и обработку мультимодальных запросов. К сильным сторонам относятся существенное уменьшение размера по сравнению с BF16, сохранение заявленной производительности на агентских и кодовых задачах, отсутствие отказов после аблитерации и совместимость с ускорением DFlash. Ограничения включают необходимость GPU архитектуры Blackwell, например B200 или GB10, поддержку через совместимый стек vLLM и сохранение KV-кэша в BF16 для vision-сценариев. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B — среднеразмерная модель семейства Ornith-1.5, разработанная командой Ornith. Она создана с использованием цикла самоулучшения, в котором совместно оптимизируются генерация задач, построение scaffolding и последовательности решений посредством reinforcement learning. Модель расширяет подход Ornith-1.0, основанный на Qwen3.5 и Gemma4 с дополнительным continued pretraining, mid-training и post-training. Модель предназначена прежде всего для программирования и агентных сценариев: работы с терминалом, решения задач разработки и автономного выполнения многошаговых задач. Это mixture-of-experts-модель с общим размером около 35 млрд параметров, из которых на каждый токен активируется примерно 3 млрд. В README заявлены высокие результаты на Terminal-Bench 2.1 и SWE-bench Verified, включая оценки 67,8–68,5 на Terminal-Bench 2.1 и 79 на SWE-bench Verified. Сильной стороной модели является высокая эффективность вычислений при небольшом числе активируемых параметров, а также специализация на coding и agentic coding. При этом README не содержит сведений о поддерживаемых языках, размере контекста, мультимодальности, точных аппаратных требованиях и лицензии, поэтому эти характеристики нельзя определить по предоставленным данным.

Ornith-1.5-35B-A3B REAP-50 NVFP4A16 — локальная текстовая модель для генерации кода, созданная Ttimms на основе Ornith-1.5-35B-A3B от ornith-ai. Модель предназначена для программирования, генерации и исправления кода, а также агентских сценариев разработки. Она рассчитана на запуск в пределах 16 ГБ видеопамяти, в частности на RTX 5070 Ti, и может обслуживаться через vLLM. Это разреженная Mixture-of-Experts-модель с архитектурой Qwen3_5MoeForCausalLM. В результате pruning число экспертов сокращено с 256 до 128, а эффективный размер — примерно с 35,95 до 19 млрд параметров; маршрутизация 8 из 128 экспертов сохранена. Веса квантизованы методом GPTQ-NVFP4A16 в 4-битный формат с использованием compressed-tensors. Модель работает только с текстом: vision tower и MTP draft head удалены, поэтому визуальные задачи и функции MTP недоступны. Заявленный контекст — до 49 тыс. токенов в описанном сценарии SWE-bench. На опубликованном checkpoint модель показала 84,15% на HumanEval+, 90,24% на HumanEval и 89,15% на MBPP+ при жадной генерации; в SWE-bench Verified результат составил 22 из 50 задач, или 44%, при ограничении контекста и использовании mini-swe-agent. Эти показатели получены в конкретной конфигурации и могут изменяться из-за особенностей FP4-квантизации и пакетирования. Модель ориентирована прежде всего на код и локальный запуск, а сокращение экспертов, удаление визуальной башни и MTP-компонента являются основными ограничениями. Лицензия MIT унаследована от базовой модели.

Карточка модели Aidev2006/Pinto-Coder-v1 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Qwen2.5-Coder-14B-Instruct-GGUF — GGUF-квантизированные варианты инструкционной модели Qwen2.5-Coder-14B-Instruct, разработанной Qwen и опубликованной в формате квантований пользователем bartowski. Модель предназначена прежде всего для генерации, понимания и редактирования программного кода, а также для диалогового взаимодействия с инструкциями. Указан английский язык; поддержка других языков и мультимодальность в README не описаны. Базовая модель имеет размер 14B параметров, а опубликованные варианты используют форматы F16 и различные методы квантования llama.cpp: от Q8_0 и Q6 до Q3 и IQ-вариантов. Размер файлов составляет примерно от 7,34 до 29,55 ГБ. Квантования с более высокой точностью обеспечивают лучшее сохранение качества, а компактные варианты требуют меньше памяти, но могут заметно уступать в качестве. README не содержит сведений о размере контекстного окна и архитектурных деталях базовой модели. Модель подходит для локального запуска, в том числе через LM Studio и совместимые инструменты на базе llama.cpp. Для работы рекомендуется использовать шаблон сообщений Qwen с ролями system, user и assistant. Лицензия базовой модели — Apache 2.0; отдельные условия для квантованных файлов в README не указаны.

drawais/Qwen2.5-Coder-32B-Instruct-NVFP4 — квантизированная версия Qwen2.5-Coder-32B-Instruct, разработанная на основе модели Qwen/Qwen2.5-Coder-32B-Instruct. Модель предназначена для генерации текста и задач, связанных с программированием, включая работу с кодом и использование в сценариях, поддерживаемых библиотекой Transformers и сервером инференса vLLM. Модель использует INT4-квантизацию весов в формате NVFP4 W4A4 и поддерживает нативный compressed-tensors в vLLM. Размер базовой модели составляет 32B параметров, объём артефакта на диске — примерно 20,7 ГБ; для работы требуется GPU с дополнительным запасом видеопамяти под KV-кэш. Указан английский язык, максимальная длина контекста в примере запуска через vLLM — 32 768 токенов. Ключевое преимущество модели — существенно уменьшенный объём хранения и потенциально более экономичный инференс по сравнению с полноразмерной версией благодаря 4-битной квантизации. Ограничения связаны с поддержкой только английского языка в заявленных данных, зависимостью от совместимой конфигурации vLLM и возможными потерями качества, характерными для квантизированных моделей. Артефакт является производной работой Qwen/Qwen2.5-Coder-32B-Instruct и распространяется по лицензии Apache License 2.0 с обязательной атрибуцией.

Qwen2.5-Coder-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной модели Qwen2.5-Coder-7B-Instruct, разработанной командой Qwen и подготовленной для распространения пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, работы в чат-режиме и локального текстового вывода через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 7 миллиардов параметров, поддерживает текстовый ввод и вывод, а в README заявлен английский язык. Доступны варианты с разными уровнями квантизации — от F16 до Q2 и специализированных форматов для ARM, с размером файлов примерно от 3,5 до 15,2 ГБ. В README также указано обновление конфигурации длины контекста и токенизатора, однако точное значение контекстного окна не приведено. Для диалогов используется формат сообщений Qwen с ролями system, user и assistant. Сильная сторона модели — возможность локального запуска при выборе подходящего уровня квантизации: варианты Q6 и Q5 ориентированы на высокое качество, а более компактные варианты подходят для систем с ограниченной памятью. Ограничения включают возможное снижение качества при сильной квантизации, необходимость совместимого ПО и аппаратных ресурсов, а также отсутствие подробных данных о языковой поддержке и бенчмарках в данном README. Модель распространяется по лицензии Apache-2.0.

ZeroXClem-Qwen3-4B-Hermes-Axion-Pro — плотная языковая модель на базе Qwen3, созданная ZeroXClem Team слиянием нескольких моделей методом Model Stock через MergeKit. В состав слияния входят bunnycore/Qwen3-4B-Pro, ertghiu256/Qwen3-4b-tcomanr-merge-v2.2, ertghiu256/Qwen3-4B-Thinking-2507-Hermes-3 и Qwen/Qwen3-4B-Thinking-2507. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и формат safetensors; заявленная длина контекста — 262 144 токена. Модель предназначена для диалогового взаимодействия, многошагового рассуждения, решения задач, творческого письма и ролевых сценариев, а также генерации и отладки кода. Карточка заявляет поддержку режима thinking и настройку поведения с учётом безопасности; для LM Studio рекомендуется стандартный шаблон Jinja. Основной язык в метаданных — английский. Модель доступна по лицензии Apache 2.0 с учётом лицензий исходных моделей.

TeichAI/Qwen3-4B-Thinking-2507-Claude-4.5-Opus-High-Reasoning-Distill — плотная языковая модель на архитектуре Qwen3, созданная дообучением unsloth/Qwen3-4B-Thinking-2507 на наборе примеров рассуждений Claude Opus 4.5 с высоким уровнем reasoning. В модели 3,7 млрд параметров; она предназначена для генерации текста в диалоге и имеет интерфейс для вызова инструментов. Контекстное окно составляет 262 144 токена. Модель рассчитана на программирование, научные задачи и применение общего назначения, в том числе запросы, требующие развёрнутых рассуждений. README не приводит сведения о языках обучения или оценки качества. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-DeepSeek-V4-Flash — плотная мультимодальная модель на 9 млрд параметров, дообученная Jackrong методом дистилляции на данных DeepSeek-V4-Distill-8000x. Она построена на базе unsloth/Qwen3.5-9B и предназначена для диалогов, структурированных рассуждений, многошагового решения задач и рабочих процессов с вызовом инструментов. Архитектура поддерживает обработку изображений и текста; заявлена поддержка английского, китайского, корейского, японского, испанского и русского языков. Модель рассчитана на эффективный инференс и может применяться для программирования, математических и STEM-задач, анализа изображений и агентных сценариев. В карточке приведены рекомендации по генерации: temperature от 0,7 до 1,0 и top_p 0,95; для строгих задач программирования предлагается более низкая температура. Модель распространяется по лицензии Apache-2.0. Оценка в README описана как раннее контролируемое сравнение квантованной версии Q5_K_M с базовой Qwen3.5-9B, поэтому заявления о качестве следует считать предварительными. Ограничения включают возможные затруднения с редкими знаниями, чрезмерно длинные рассуждения на простые запросы и возможное ухудшение некоторых аспектов выравнивания безопасности.

Это мультимодальная модель Qwen3.6-27B, созданная darkc0de на основе Qwen/Qwen3.6-27B и дообученная на примерах рассуждений Claude Opus. Затем модель прошла decensoring методом abliteration с помощью Heretic v1.3.0; опубликованные параметры и сравнение показывают снижение частоты отказов с 98 до 8 на 100 запросах относительно исходной версии distill. Модель предназначена для диалогов, программирования, творческого письма, понимания изображений и задач общего назначения. Архитектура плотная, с 27 млрд параметров; заявлена поддержка изображений и текстового чата. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Для запуска автор отсылает к инструкциям команды Qwen.

Qwen3.6-27B-Uncensored-Heretic-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-VL-MTP-GGUF — экспериментальная модель в формате GGUF, опубликованная nerkyor на основе Merkyor/Qwen3.6-27B-DSV4Pro-Thinking-Distill и производной от Qwen3.6-27B DSV4Pro / GLM-5.2 SFT / GPT-5.5 RL Coding. Это плотная модель с 27 млрд параметров, ориентированная прежде всего на программирование, рассуждения, диалог и исследование снижения склонности к отказам. Заявлены поддержка английского и китайского языков, а также мультимодальный сценарий image-text-to-text через отдельный vision-language projector. Основной GGUF-файл предназначен для генерации текста и является единственным обязательным артефактом. Дополнительный mmproj подключает обработку изображений, а MTP draft GGUF может использоваться как боковая модель для speculative decoding. Доступны варианты квантования от Q3 до Q8 и исходный BF16; конкретный контекст в предоставленных данных не указан, однако для некоторых тестов упоминается режим 32K. Модель демонстрирует сильные результаты на MMLU, GPQA и LiveCodeBench: для варианта Q8 указаны 91,2% на MMLU500, 85,35% на GPQA198 и 81/100 на LCB100. Все заявленные GGUF-варианты показали нулевой показатель жёстких отказов на 140 тестовых запросах, но это исследовательский прокси, а не подтверждение безопасности или универсальной корректности. Ограничениями являются экспериментальный характер, возможные ошибки и зависимость качества от уровня квантования; модель не предназначена для неконтролируемой высокорисковой автоматизации. Лицензия указана как other, без дополнительных условий в предоставленной карточке.

Карточка модели AnonimXxx/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Карточка модели ANGELOSEGRETO/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Карточка модели Wiley2210/Qwen3-Coder-Next на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Qwen3-Coder-Next-AWQ — квантизированная версия модели Qwen3-Coder-Next, разработанная Qwen и подготовленная пользователем qtum. Модель предназначена прежде всего для генерации и обработки программного кода, а также для текстовой генерации на английском и китайском языках. Она подходит для локального и серверного развертывания с использованием vLLM или SGLang. В основе лежит разреженная MoE-архитектура qwen3_next: 80 млрд параметров всего, около 3 млрд активных параметров, 48 слоёв, 512 экспертов и маршрутизация top-10. Контекстное окно составляет 256K токенов. Используется AWQ-квантизация W4A16 с размером группы 128 в формате compressed-tensors и safetensors. Основная часть весов хранится в 4-битном формате, а маршрутизаторы MoE и lm_head сохранены в bf16 для снижения потери качества. Размер модели составляет около 40 GiB, что позволяет размещать её на одной видеокарте объёмом 48 ГБ; для 24 ГБ может потребоваться распределение, выгрузка или параллелизм. Главное преимущество модели — существенное уменьшение требований к дисковому пространству и памяти по сравнению с bf16- и FP8-версиями при сохранении исходной архитектуры и маршрутизации. Ограничение — заметное ухудшение показателя perplexity относительно bf16: 12,53 против 7,74 на указанном тесте wikitext-2-raw. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; поведение и лицензионные обязательства определяются базовой моделью Qwen3-Coder-Next.

Qwen3-Coder-Next-REAM — сжатая версия Qwen/Qwen3-Coder-Next, подготовленная методом REAM. Модель разработана на базе семейства Qwen3-Next и использует архитектуру MoE; в каждом MoE-слое число экспертов уменьшено с 512 до 384. По README, объём сокращён с 80 млрд до 60 млрд параметров, что снижает требования к хранению и памяти GPU примерно на четверть. Метаданные каталога указывают 2,3 млрд параметров, поэтому оценка полного размера модели по источникам расходится. Модель предназначена для генерации кода и диалогового использования в сценариях разработки. При сжатии для калибровки использовали больше данных по коду; в README приведены результаты на тестах HumanEval и LiveCodeBench, близкие к показателям исходной модели. Модель принимает текстовые запросы и выдаёт текст, включая код. Указанное в метаданных контекстное окно составляет 262 144 токена. Файлы представлены в формате safetensors и рассчитаны на библиотеку Transformers. Лицензия — Apache-2.0. README отмечает, что к модели можно дополнительно применять оптимизации вроде квантизации; отдельные результаты и инструкции развёртывания здесь не приведены.

Карточка модели tomhu/Qwen3-Coder-Next-SWE-Prune-REAP-70 на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next, поэтому описание составлено по ней. Qwen3-Coder-Next — открытая модель семейства Qwen3 от команды Qwen, предназначенная для кодирующих агентов и локальной разработки. Это причинная языковая модель архитектуры MoE с гибридным сочетанием Gated DeltaNet и Gated Attention. В README указано 80 млрд параметров всего и 3 млрд активных; метаданные каталога указывают 2,3 млрд параметров, поэтому точный размер расходится между источниками. Модель рассчитана на генерацию и изменение кода, многошаговые задачи разработки, вызов инструментов и восстановление после ошибок выполнения. Контекстное окно — 262 144 токена; поддерживаются чат и интерфейс вызова инструментов. README описывает её как пригодную для интеграции с CLI и IDE, а также локального развёртывания. Модель работает только в режиме без reasoning и, согласно README, не генерирует блоки ````. Карточка не перечисляет поддерживаемые естественные языки, поэтому языковые коды не включены. Лицензия — Apache-2.0.

Qwen3-Coder-Next-Uncensored-Heretic-GGUF — набор GGUF-квантизаций модели llmfan46/Qwen3-Coder-Next-Uncensored-Heretic, созданной независимым разработчиком llmfan46 на основе Qwen3-Coder-Next от Qwen. Модель предназначена прежде всего для локальной разработки, программирования и агентских сценариев, включая работу с инструментами, длительные цепочки рассуждений, восстановление после ошибок выполнения и интеграцию с CLI/IDE-средами. Доступна для llama.cpp, LM Studio, Ollama и других совместимых инструментов. Архитектура исходной модели — каузальная языковая модель с гибридной структурой Gated DeltaNet, Gated Attention и Mixture of Experts. Всего 80 млрд параметров, из которых активируются 3 млрд; 79 млрд параметров относятся к неэмбеддинговым. Модель содержит 48 слоёв, 512 экспертов MoE, из которых активируются 10, и поддерживает контекст до 262 144 токенов. Указан только текстовый режим и режим без рассуждений с блоками <think></think>; сведения о поддерживаемых языках в README не приведены. Это декензурированная версия: по данным автора, она показала 8 отказов из 100 против 100 из 100 у оригинальной модели при KL-дивергенции 0,1488, что указывает на значительно меньшее число отказов при сохранении близости к исходной модели. Основное ограничение — отсутствие подробных независимых оценок качества и языкового охвата, а также необходимость выбирать компромисс между размером и качеством среди вариантов от BF16 до Q3_K_S. Модель распространяется по лицензии Apache-2.0.

Qwenseek-3.8-27B-CyberLite-GGUF — специализированная кибербезопасностная модель, разработанная trjxter на основе unsloth/Qwen3.8-27B. Это первый этап линейки Qwenseek для задач кибербезопасности; данная публикация распространяется в формате GGUF для локального запуска через llama.cpp. Модель дообучалась методом supervised fine-tuning с использованием 4-битного QLoRA на данных, охватывающих программирование, программную инженерию, рассуждения, tool calling и кибербезопасность. Модель предназначена для защитного анализа уязвимостей, аудита и исправления кода, планирования обнаружения, локализации и устранения инцидентов, технического решения задач, агентных сценариев и структурированного использования инструментов. Также поддерживается контролируемое Cyber Red-рассуждение, но только в авторизованных, локальных, изолированных, образовательных или защитных сценариях. Основные характеристики: около 27,8 млрд параметров, архитектурное семейство Qwen3.8, валидированный контекст до 32 768 токенов, сохранённый MTP/NextN и преимущественно английский язык. CyberLite ориентирована на сочетание киберзащитных навыков с сильными возможностями программирования, технического рассуждения и работы с инструментами. Дообучение было текстовым: параметры зрения были заморожены, поэтому модель следует рассматривать как текстовую специализированную версию, а не как улучшенную мультимодальную модель. GGUF-релиз включает варианты квантования от Q2_K до Q8_0; рекомендуемый компромисс между размером и качеством — Q4_K_M, однако фактические требования к памяти и производительность зависят от среды запуска, длины контекста и настроек offload. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Карточка модели roskosmos19/Rhea-4B-fast-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-hight, поэтому описание составлено по ней. Rhea-4B-Agentic — дообученная модель из линейки Rhea/Athenea, представленная rosкошмос19 как оптимизированный вариант для программирования и агентных сценариев. Она построена на архитектуре Qwen3ForCausalLM и содержит 3,7 млрд параметров. Модель генерирует текст, поддерживает диалог и интерфейс вызова инструментов; контекст — 32 768 токенов. Модель предназначена для генерации и анализа кода, рассуждений при решении технических задач и работы агента с инструментами. По заявлению авторов, она использует однопроходную генерацию с необязательным режимом рассуждений, что сокращает задержку и стоимость по сравнению с многошаговой схемой исходной линейки. В карточке упоминаются рекомендации по запуску в vLLM, SGLang и llama.cpp, но файлы модели представлены в формате safetensors. Модель выпущена по лицензии Apache 2.0. Карточка описывает её как оптимизированную для агентных и кодовых задач, однако не приводит результатов сравнительных оценок; для высокой скорости авторы рекомендуют использовать не более 16–24 тысяч токенов контекста.

Карточка модели roskosmos19/Rhea-4B-fast-0409-high на Hugging Face совпадает с карточкой roskosmos19/Rhea-4B-fast-0409, поэтому описание составлено по ней. Карточка модели roskosmos19/Rhea-4B-fast-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-2-4B-hight, поэтому описание составлено по ней. Rhea-4B-Agentic — дообученная модель из линейки Rhea/Athenea, представленная rosкошмос19 как оптимизированный вариант для программирования и агентных сценариев. Она построена на архитектуре Qwen3ForCausalLM и содержит 3,7 млрд параметров. Модель генерирует текст, поддерживает диалог и интерфейс вызова инструментов; контекст — 32 768 токенов. Модель предназначена для генерации и анализа кода, рассуждений при решении технических задач и работы агента с инструментами. По заявлению авторов, она использует однопроходную генерацию с необязательным режимом рассуждений, что сокращает задержку и стоимость по сравнению с многошаговой схемой исходной линейки. В карточке упоминаются рекомендации по запуску в vLLM, SGLang и llama.cpp, но файлы модели представлены в формате safetensors. Модель выпущена по лицензии Apache 2.0. Карточка описывает её как оптимизированную для агентных и кодовых задач, однако не приводит результатов сравнительных оценок; для высокой скорости авторы рекомендуют использовать не более 16–24 тысяч токенов контекста.

MaziyarPanahi/speechless-code-mistral-7b-v2.0-Mistral-7B-Instruct-v0.1 — слитая модель на архитектуре Mistral для генерации текста в ответ на инструкции и диалоговые запросы, включая задачи программирования. Она объединяет Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-7b-v2.0 методом SLERP; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель рассчитана прежде всего на английский язык и код. Модель может помогать писать и объяснять код, отвечать на вопросы и следовать текстовым инструкциям. В репозитории доступны веса Safetensors. Лицензия — Apache-2.0.

Speechless Code Mistral Orca 7B v1.0 — языковая модель на архитектуре Mistral с 7,1 млрд параметров, опубликованная uukuguy. Это дообучение Open-Orca/Mistral-7B-OpenOrca на наборе из 201 981 примера: данные охватывают программирование, рассуждения и планирование, включая примеры Python и SQL. Модель предназначена для генерации кода и диалоговых ответов на текстовые инструкции; заявленная длина контекста — 32 768 токенов. В карточке приведён результат 47,561 на HumanEval Python, а также оценки ARC, HellaSwag и MMLU. Они описывают результаты автора и не гарантируют качество на других задачах. Модель распространяется с лицензией Llama 2; перед применением следует соблюдать её условия.

SQLQueryShield — модель классификации SQL-запросов, разработанная salmane11 на основе microsoft/codebert-base и дообученная на SQLShield. Она относит запрос к потенциально уязвимым или безопасным; при обучении использовались SQL-запросы из пар естественно-языковых запросов и SQL, а на вход подавались строки SQL. Модель предназначена для фильтрации запросов после генерации в системах Text-to-SQL и для проверки пользовательских запросов перед выполнением. Архитектура — RoBERTa для классификации последовательностей, около 151,8 млн параметров; максимальная длина контекста по метаданным — 514 токенов. В карточке указаны английский язык и лицензия Apache-2.0. Результат классификации может помочь выявлять шаблоны SQL-инъекций, небезопасную конкатенацию строк и другие потенциально опасные выражения. Модель анализирует текст запроса и сама по себе не гарантирует безопасность выполнения SQL; обучающая обработка ограничивала последовательности 128 токенами. Лицензия — Apache-2.0.