II.4Отладка, тестирование и качество ПО

Qwen3.6-27B — постобученная модель с открытыми весами от hamishivi, основанная на семействе Qwen3.6. Это причинная языковая модель с визуальным энкодером, поддерживающая диалог и интерфейс вызова инструментов. В README заявлен размер 27 млрд параметров и нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель предназначена для агентного программирования, включая работу с фронтендом и анализ репозиториев, а также для диалоговых задач с изображениями и вызовом инструментов. Шаблон чата изменён для сохранения промежуточных рассуждений в истории сообщений. Для запуска указана совместимость с Transformers, vLLM, SGLang и KTransformers; репозиторий содержит веса в формате safetensors. README приводит результаты и сценарии оценки для программирования, работы в терминале, генерации веб-интерфейсов и мультимодальных задач, но таблицы с численными результатами отсутствуют. Метаданные указывают лицензию Apache-2.0. Для развёртывания с длинным контекстом требуется значительная память GPU; README рекомендует уменьшать контекст при нехватке памяти.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-25 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Это текстовая модель для генерации текста на основе архитектуры Qwen3_5MoeForCausalLM с разреженной смесью экспертов (MoE). Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для задач рассуждения, программирования и общего текстового вывода, включая развёртывание через vLLM с OpenAI-совместимым API. В слоях экспертов MoE применена смешанная квантизация NVFP4: веса и активации линейных операторов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Дополнительно выполнено 25-процентное REAP-прореживание экспертов. Это снижает требования к дисковому пространству и GPU-памяти квантизированных слоёв примерно на 75 процентов с учётом дополнительного выигрыша от разреженности. По данным оценки, модель сохранила высокое качество относительно неквантизированной версии: результат на GPQA Diamond составил 91,5 против 92,6 у исходной модели, а на DeepSWE v1.1 — 56,6, что соответствует заявленному восстановлению 98,81 и 100 процентов соответственно. Ограничения включают потенциальное влияние квантизации и прореживания на качество за пределами указанных тестов, а также высокие требования к инфраструктуре: рекомендован запуск с vLLM, tensor parallelism на 8 GPU и expert parallelism. Лицензия в README не указана.

OBLITERATUS/Qwen3.8-27B-OBLITERATED — текстовая генеративная модель, разработанная OBLITERATUS на базе Qwen/Qwen3.8-27B. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев, а также исследований безопасности ИИ и red-team-тестирования. Основной заявленный профиль — ответы на запросы, которые исходная модель может отклонять, включая кибербезопасность и программирование. Модель использует архитектуру Qwen3 с 27 млрд параметров и поддерживает режимы с рассуждением и без него. Доступны форматы GGUF, Safetensors и MLX; заявлена совместимость с текстовым pipeline для генерации текста. В README не указаны точное максимальное контекстное окно и полный перечень поддерживаемых языков. Для версии V3 приводится результат 82,3% на MMLU в режиме 0-shot, что на 2,1 процентного пункта ниже базовой модели; также заявлены рабочие ответы во всех 20 проверенных задачах генерации кода. К сильным сторонам относятся снижение частоты отказов и защитных отговорок, близкая к базовой общая производительность и пригодность для генерации кода. Ограничениями являются некоторое ухудшение результата MMLU, склонность к зацикливанию без repetition_penalty и возможная чувствительность к настройкам генерации. В README рекомендуются temperature 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более низкая длина ответа и периодическое сокращение контекста. Модель распространяется по лицензии Apache-2.0.

MLX-совместимая 4-битная версия Qwen3-Coder-30B-A3B-Instruct — инструкционная языковая модель для генерации текста и решения задач, связанных с программированием. Исходная модель разработана командой Qwen, а конвертацию в формат MLX выполнил проект mlx-community с использованием mlx-lm версии 0.26.3. Модель предназначена для локального запуска через библиотеку mlx-lm и поддерживает диалоговый сценарий с применением chat template. Обозначение 30B-A3B указывает на конфигурацию исходной модели, а 4bit — на 4-битное квантование, уменьшающее требования к памяти по сравнению с полноформатными весами. В README не указаны точные архитектурные параметры, размер контекста, поддерживаемые языки и перечень модальностей; по имеющимся данным модель относится к текстовым моделям. К сильным сторонам относятся специализация исходной Qwen3-Coder на задачах программирования, инструкционная настройка и возможность использования в MLX-окружении. К ограничениям относятся зависимость от совместимого программного стека и потенциальные потери качества, связанные с 4-битным квантованием; конкретные показатели производительности в README не приведены. Модель распространяется по лицензии Apache 2.0.

QuantTrio/Qwen3-Coder-30B-A3B-Instruct-AWQ — 4-битная AWQ-квантизированная версия Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen. Это причинная языковая модель для генерации текста и программного кода, включая агентное программирование, использование браузера, понимание репозиториев и вызов функций в совместимых инструментах и платформах. Исходная модель имеет MoE-архитектуру с 30,5 млрд параметров, из которых 3,3 млрд активируются при обработке запроса, 48 слоями, 128 экспертами и 8 активными экспертами. Используется GQA с 32 головами запросов и 4 головами ключей и значений. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN может быть расширена до 1 млн токенов. Модель работает только в режиме без рассуждений и не генерирует блоки <think></think>. Поддерживаются текстовые сценарии; сведения о конкретном наборе языков в README не приведены. К сильным сторонам относятся высокая эффективность MoE-архитектуры, задачи программирования, агентские сценарии, вызов инструментов и работа с длинным контекстом. Основное ограничение этой версии — существенная потеря качества при 4-битной квантизации, поэтому её следует использовать с осторожностью. Для запуска через vLLM требуется версия 0.10.0 или совместимая, включённый экспертный параллелизм и подходящая GPU-конфигурация; в README приведён сценарий запуска на четырёх GPU с контекстом 32 768 токенов. Распространение указано по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-MLX-6bit — 6-битная квантизированная версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Квантизация выполнена командой LM Studio с использованием MLX, поэтому модель оптимизирована для запуска на устройствах с Apple Silicon и предназначена для генерации текста, прежде всего в сценариях, связанных с программированием и работой с кодом. Модель основана на исходной Qwen3-Coder-30B-A3B-Instruct; её архитектура, поддерживаемые языки, модальности и размер контекста в README не уточняются. Квантизация снижает требования к памяти и делает локальный запуск более практичным, однако может повлиять на точность по сравнению с исходной версией. Также модель может генерировать неточный, вредоносный или неподходящий контент, поэтому результаты требуют проверки. Для исходной модели указана лицензия Apache 2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.

lainlives/Qwen3-Coder-30B-A3B-IT-Heretic-Q5_K_M-GGUF — это квантизированная версия в формате GGUF модели TitleOS/Qwen3-Coder-30B-A3B-IT-Heretic, созданная на основе Qwen3-Coder-30B-A3B-Instruct. Конвертация выполнена с использованием llama.cpp и сервиса GGUF-my-repo. Модель относится к классу текстовых генеративных моделей и ориентирована прежде всего на задачи программирования и работы с кодом. Модель предназначена для локального запуска через llama.cpp, включая режим командной строки и серверный режим. Ключевые характеристики, указанные в названии, — конфигурация Qwen3 Coder с 30B параметров и компонентом A3B, инструкционное обучение, а также квантизация Q5_K_M, которая снижает требования к памяти по сравнению с полноразмерной версией. Поддерживаются текстовые запросы; сведения о точном размере контекста, языках программирования и естественных языках в карточке не приведены. Сильными сторонами являются специализированная направленность на код, возможность локального развертывания и совместимость с экосистемой llama.cpp. К ограничениям относятся возможные потери качества из-за квантизации, необходимость подходящего аппаратного обеспечения и отсутствие в карточке подробных результатов тестирования, перечня поддерживаемых языков и точных требований к ресурсам. В метаданных указана лицензия Apache-2.0; для дополнительных условий и характеристик рекомендуется обращаться к карточке исходной модели.

Qwen3-Coder-Next-GPTQ — это 4-битная GPTQ-квантизованная версия модели Qwen3-Coder-Next, разработанной Qwen и подготовленной пользователем 6block. Модель предназначена для генерации и обработки текста, прежде всего для задач программирования, и поддерживает английский и китайский языки. Она рассчитана на эффективное развертывание с помощью vLLM и SGLang. В основе лежит разреженная MoE-архитектура qwen3_next: 80 млрд параметров всего, около 3 млрд активных, 48 слоёв, 512 экспертов и маршрутизация top-10. Контекст составляет 256K токенов. Используется схема W4A16 с размером группы 128 и формат compressed-tensors на базе safetensors. Большинство весов, включая линейные слои экспертов и attention, квантизовано до 4 бит, тогда как маршрутизаторы MoE и lm_head сохранены в bf16. Размер модели составляет около 40 ГиБ, что позволяет запускать её на одной видеокарте объёмом 48 ГБ и, с параллелизмом или выгрузкой, на конфигурациях с 24 ГБ. Главное преимущество — существенное снижение требований к памяти при сохранении близкого к исходной модели поведения; по данным README, perplexity на wikitext-2-raw составляет 9,34 против 7,74 у эталонной bf16-версии. Ограничением является заметное ухудшение этого показателя относительно bf16, а также необходимость совместимого движка, поддерживающего compressed-tensors. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

ucbye/Qwen3-Coder-Next-NVFP4-GB10 — публичное зеркало квантизированной модели saricles/Qwen3-Coder-Next-NVFP4-GB10, основанной на Qwen3-Coder-Next от Alibaba и команды Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также для сценариев развертывания LLM на системах DGX Spark с GPU GB10. В README указано, что веса байт-в-байт идентичны исходной квантизации, а зеркало предоставляет стабильную и неконтролируемую версию для проекта развертывания qwen3-coder-next. Архитектура qwen3_next сочетает линейное внимание DeltaNet, полноразмерное внимание и латентный MoE. Модель содержит 48 слоев, включая 36 слоев с линейным вниманием и 12 слоев с полным вниманием, 79,7 млрд параметров при примерно 3 млрд активных параметров на токен, 512 экспертов, из которых активируются 10 совместно с одним общим экспертом. Используется 4-битная NVFP4-квантизация через compressed-tensors; отдельные компоненты сохранены в BF16. Максимальная длина контекста составляет 262 144 токена, заявленный язык — английский. Размер модели на диске — около 45,9 ГБ. Сильные стороны модели — большой контекст, низкое число активных параметров на токен, сниженные требования к памяти и отсутствие KV-кэша у слоев DeltaNet. На DGX Spark заявлена скорость около 61 токена в секунду для одного запроса и поддержка примерно пяти одновременных сессий при контексте 262K с FP8 KV-кэшем. Ограничения включают зависимость производительности от совместимого оборудования и настроек vLLM, а также потери точности, возможные из-за агрессивной 4-битной квантизации. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели; перераспределение разрешено.

RavenXAiLabs-Chaos-Agent-Qwen3.8-27B-Frontier-Intelligence-Injected-OBLITERATED-MLX — языковая модель от RavenX AI Labs, построенная на базе OBLITERATUS/Qwen3.8-27B-OBLITERATED и представленная в формате MLX для Apple Silicon. По данным карточки, модель обучалась на 1,9 млн примеров с использованием proprietary-метода Soul Injection и ориентирована на текстовую генерацию, рассуждения, программирование, агентские сценарии и анализ кибербезопасности. Заявлены поддержка английского языка, размер 27B параметров и MLX-квантизация 4-bit; размер файла составляет около 14 ГБ. Данные о размере контекстного окна и дополнительных модальностях не указаны. Основные сценарии применения включают анализ уязвимостей, red-team и bug bounty, сопоставление с MITRE ATT&CK, генерацию кода на Python, Rust, JavaScript, C, Solidity и Go, разработку и аудит smart contracts, торговый и DeFi-анализ, математическое и техническое рассуждение, творческое письмо, а также tool calling и оркестрацию нескольких инструментов. Среди заявленных сильных сторон — объединение навыков программирования, security-анализа и агентского поведения в одной модели, поддержка структурированных вызовов функций и MCP-совместимых форматов. Ограничения включают отсутствие независимого подтверждения заявленных benchmark-результатов, отсутствие описания методики оценки и заявленные zero refusals, что может повышать риски при использовании модели для опасных или несанкционированных действий. Лицензия указана как Apache-2.0.

Skywork_SWE-32B-GGUF — это набор квантизированных сборок модели Skywork-SWE-32B, разработанной командой Skywork и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и прежде всего ориентирована на задачи программной инженерии, включая сценарии SWE-bench. Запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Для работы рекомендуется использовать указанный шаблон чата с ролями system, user и assistant. Модель содержит 32 млрд параметров; доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K. Размер файлов варьируется примерно от 13 до 66 ГБ, что позволяет выбирать баланс между качеством и требованиями к памяти. Старшие варианты квантизации обеспечивают качество, близкое к исходной модели, тогда как младшие требуют меньше ресурсов, но могут заметно терять в качестве. Архитектура, поддерживаемые языки, модальности и размер контекстного окна в предоставленных данных не указаны. Модель распространяется по лицензии Apache-2.0.

StarCoder2-15B-Instruct-v0.1-GGUF — это квантизированная в формате GGUF версия инструкционной модели StarCoder2-15B-Instruct-v0.1, разработанной BigCode и подготовленной компанией Second State Inc. Модель предназначена для генерации и обработки программного кода в сценариях, где требуется локальный или более ресурсоэффективный запуск текстовой генеративной модели. Модель имеет размер 15 млрд параметров и поддерживает контекст до 6144 токенов. В README не указаны точная архитектура, перечень поддерживаемых языков программирования и естественных языков, а также характеристики мультимодальности; по назначению и тегу code модель ориентирована на работу с текстом и исходным кодом. Доступны варианты квантования от Q2_K до Q8_0, а также F16 объёмом от 6,19 до 31,9 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень низкой или низкой потерей качества. Главное преимущество сборки — возможность выбирать между меньшим объёмом файлов и сохранением качества. Более агрессивное квантование, включая Q2_K и некоторые варианты Q3, сопровождается существенной потерей качества, поэтому оно подходит не для всех задач. Лицензия модели — BigCode OpenRAIL-M. Для запуска в README упоминается LlamaEdge, но его поддержка обозначена как находящаяся в разработке; квантование выполнено с помощью llama.cpp версии b2824.

WizardCoder-Python-34B-V1.0 — большая языковая модель для генерации и редактирования программного кода, разработанная командой WizardLM. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; она принимает текстовые инструкции и генерирует текстовый код. В карточке указан контекст до 16 384 токенов и формат PyTorch для библиотеки Transformers. Модель предназначена для выполнения инструкций по программированию: генерации функций и скриптов на Python, дополнения и исправления кода, а также решения задач по программированию. README приводит результат 73,2 на упомянутом бенчмарке, но не уточняет здесь методику оценки. Модель основана на Llama 2 и выпущена по лицензии Llama 2, условия которой следует учитывать при использовании.

AlchemistCoder-DS-6.7B — разговорная модель для генерации кода из семейства AlchemistCoder, разработанного авторами исследования «AlchemistCoder: Harmonizing and Eliciting Code Capability by Hindsight Tuning on Multi-source Data». Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов; она предназначена для генерации кода и выполнения инструкций, связанных с кодом. Модель дообучена на разнотипных источниках данных объёмом 200 млн токенов. В обучении использовались специальные подсказки для согласования стилей и качества данных, а также задания на понимание кода, развитие инструкций, фильтрацию данных и ревью кода. Авторы сообщают о результатах на тестах генерации кода и общих способностей; эти заявления приведены в README и сами по себе не гарантируют качество на конкретных задачах. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README не уточняет базовую модель, поддерживаемые языки программирования и языки естественного общения.

CodeLlama 13B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. В данном репозитории опубликованы её квантизированные файлы в формате GGUF, подготовленные TheBloke на основе оригинальной модели codellama/CodeLlama-13b-Instruct-hf. Модель предназначена для решения задач программирования по текстовому описанию, включая написание кода с учетом ограничений и примеров тестов. Она относится к семейству Llama, имеет размер 13 млрд параметров и работает в режиме text-generation. Указана модальность работы с текстом и кодом; конкретные языки программирования и максимальная длина контекста в README не перечислены. Для запросов рекомендуется шаблон CodeLlama с инструкцией в формате [INST]...[/INST]. Формат GGUF обеспечивает совместимость с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации от 2 до 8 бит для запуска с использованием CPU и GPU, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Ограничениями являются возможная потеря качества из-за квантизации и специализация прежде всего на задачах, связанных с кодом; сведения о результатах тестирования и производительности отсутствуют. Лицензия указана как Llama 2.

CodeLlama 70B GGUF — квантизированная версия большой языковой модели CodeLlama 70B, разработанной Code Llama. Репозиторий TheBloke содержит файлы модели в формате GGUF, подготовленные TheBloke с использованием оборудования Massed Compute. Модель предназначена прежде всего для генерации и обработки программного кода, а также для сценариев текстовой генерации на основе входного запроса. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать между сниженным потреблением памяти и сохранением качества. Модель относится к архитектуре Llama; в README указано 70B параметров, язык обозначен как code. Формат GGUF совместим с llama.cpp и рядом локальных интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Мультимодальность и размер контекста в предоставленных данных не указаны. Сильные стороны модели — большой размер, специализация исходной Code Llama на задачах программирования и возможность локального запуска на CPU и GPU с различными уровнями квантизации. Ограничениями являются высокая вычислительная и ресурсная требовательность 70B-версии, возможная потеря качества при сильной квантизации и отсутствие в README подробных результатов оценки. Модель распространяется по лицензии Llama 2.

CodeLlama 7B Instruct — языковая модель для генерации и объяснения программного кода, разработанная Meta. Данный репозиторий TheBloke содержит её файлы в формате GGUF, предназначенные для локального запуска и инференса через llama.cpp и совместимые интерфейсы. Модель относится к семейству Llama и имеет около 7 миллиардов параметров. Модель ориентирована на решение задач программирования по текстовому описанию, включая генерацию кода с учётом ограничений и примеров тестов. Указана модальность работы с кодом; конкретный перечень поддерживаемых языков программирования и размер контекстного окна в README не приведены. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между требованиями к памяти, скоростью и сохранением качества, однако более агрессивное квантование может снижать точность результатов. Файлы совместимы с llama.cpp и рядом сторонних приложений и библиотек, включая text-generation-webui, LM Studio, KoboldCpp, ctransformers и llama-cpp-python. Модель распространяется по лицензии Llama 2. Для использования требуется программное окружение, поддерживающее GGUF; характеристики конкретного запуска зависят от выбранного варианта квантования и аппаратной конфигурации.

daVinci-Agency — языковая модель от GAIR, дообученная на базе GLM-4.6 от Zhipu AI для длительных агентных задач, особенно связанных с разработкой программного обеспечения. Она обучалась на траекториях реальных цепочек GitHub Pull Request и рассчитана на работу с многошаговыми процессами: декомпозицией задач, сохранением последовательности действий, использованием инструментов и итеративным улучшением результатов. Модель имеет архитектуру GLM-4 MoE и 23,4 млрд параметров. Контекстное окно составляет около 200 тысяч токенов; в метаданных указано 202 752 токена. Основные сценарии — автономное программирование, планирование и выполнение сложных рабочих процессов, анализ обратной связи и самокоррекция. В README сообщается о приросте на Toolathlon относительно базовой модели, однако приведённых результатов недостаточно для оценки качества во всех сценариях. Модель принимает текст и генерирует текст, включая ответы в чат-формате и вызовы инструментов. В карточке заявлена поддержка английского языка. Лицензия — MIT.

DeepSeek-R1-0528-Qwen3-8B-GGUF — это GGUF-версия языковой модели DeepSeek-R1-0528-Qwen3-8B, подготовленная Unsloth на базе модели DeepSeek AI. Модель ориентирована на задачи, требующие рассуждений, включая математику, программирование, общую логику и работу с функциями, а также на сценарии локального запуска через совместимые инструменты, например Ollama и llama.cpp. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF. В README указаны улучшения глубины рассуждений, качества вывода на математических и логических тестах, снижение частоты галлюцинаций, расширенная поддержка function calling и улучшенный опыт vibe coding. Рекомендуется использовать температуру 0,5–0,7, оптимально 0,6, и Top_P 0,95. Сведения о точной архитектуре, поддерживаемых языках, модальностях и размере контекста в карточке отсутствуют. Формат GGUF удобен для локального вывода и позволяет выбирать варианты квантования, однако конкретный уровень квантования зависит от используемого файла и в данной карточке не указан. Для корректной работы требуется соблюдать рекомендованный chat template и настройки инференса. Модель распространяется по лицензии MIT.

Dolphin 3.0 Llama 3.2 3B — инструктивно дообученная языковая модель, созданная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на основе Meta Llama 3.2 3B. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель предназначена для локального использования как универсальный диалоговый помощник. Она подходит для генерации текста, программирования, математических задач и работы в агентных сценариях, включая интерфейс вызова функций. Для диалогов используется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. Обучение опиралось на наборы данных для инструкционного диалога, кода, математики и вызова функций. Модель рассчитана на текстовый ввод и выдаёт текст. В карточке указан английский язык. Количественные результаты оценки качества не приведены. Лицензия — Llama 3.2; условия использования определяются этой лицензией.

Gemma 4 E4B IT Coder — модель для помощи в программировании, созданная Joseph Mayo на основе google/gemma-4-E4B-it. Это плотная мультимодальная модель семейства Gemma 4, дообученная с помощью LoRA на 1024 безопасных примерах кода; веса адаптера объединены с базовой моделью и опубликованы в формате safetensors для Transformers. Модель поддерживает диалог и анализ изображений, а основное назначение версии — генерация и помощь с кодом. В описанной автором оценке на подмножестве из 50 задач HumanEval модель решила 42 задачи против 34 у базовой версии; результаты относятся только к указанному набору и методике. README характеризует обучение как ориентированное на безвредную помощь с программированием и сообщает об исключении ряда вредоносных примеров. Лицензия — Apache-2.0.

GRM-2.6-Plus — дообученная OrionLLM мультимодальная модель на 27 млрд параметров на архитектуре Qwen3.6. Она предназначена для сложных задач общего назначения: рассуждений, программирования, диалога и агентных сценариев с использованием инструментов. Модель принимает текст и изображения и генерирует текст; метаданные указывают на поддержку чата и интерфейса вызова инструментов. Разработчик позиционирует модель как вариант для локального применения, ориентированный на структурированные рассуждения и практическую работу на подходящем потребительском или рабочем оборудовании. В README заявлены сильные стороны в решении сложных задач и генерации кода, однако приведённые бенчмарки опущены, поэтому эти заявления нельзя оценить по карточке. Модель распространяется в формате safetensors по лицензии Apache 2.0.

cyankiwi/KAT-Coder-V2.5-Dev-AWQ-INT4 — квантованная версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и опубликованной cyankiwi. Модель предназначена для генерации кода и агентного программирования, включая сценарии с использованием инструментов. Открытые веса совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Это текстовая MOE-модель с общим числом параметров 35 млрд и примерно 3 млрд активируемых параметров. Визуальные и мультимодальные компоненты в открытой версии отсутствуют. В README указана поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер файлов модели составляет 24,43 ГБ; вариант AWQ-INT4 ориентирован на более экономичное размещение и запуск по сравнению с полноразмерными весами. К сильным сторонам относятся заявленная высокая производительность в задачах Agentic Coding среди моделей сопоставимого масштаба, а также снижение ряда аномальных поведений после SFT- и RL-обучения, включая некорректные метки инструментов и повторения в одном диалоге. Ограничения включают текстовый характер модели и отсутствие мультимодальности; конкретное максимальное окно контекста в предоставленных данных не указано. Лицензия — Apache-2.0.

LLaDA2.2-flash — агентно-ориентированная языковая модель на основе диффузии от InclusionAI. Это MoE-модель семейства LLaDA2 с 32 слоями, 32 головами внимания, RoPE и словарём из 157 184 токенов; в README указано 100 млрд параметров без эмбеддингов, тогда как метаданные Hugging Face указывают общий размер 5,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 128K токенов и предназначена для диалогов, многошагового использования инструментов и агентных сценариев. Механизм Levenshtein Editing с управляющими токенами DELETE и INSERT позволяет модели удалять и вставлять фрагменты при параллельной генерации, что авторы связывают с исправлением ошибок и устойчивостью в многоходовых задачах. В README приведены результаты SWE-bench и высокая пропускная способность в указанных авторами условиях оценки; сравнение с Ling-2.6-flash проводилось с разными настройками для части бенчмарков. Для инференса авторы рекомендуют Transformers и SGLang для длинных агентных сценариев; некоторые пороги декодирования требуют настройки, а слишком низкие значения могут усиливать повторы или нестабильность. Лицензия — Apache-2.0.

QuantFactory/Llama3.2-3B-Enigma-GGUF — квантизированная версия модели Llama3.2-3B-Enigma, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана ValiantLabs на базе Meta Llama 3.2 3B Instruct и выпущена 30 сентября 2024 года. Модель предназначена для генерации текста, диалоговых сценариев и прежде всего для задач программирования: написания, объяснения и обработки кода. Она использует формат промптов Llama 3.2 Instruct, поддерживает чат-взаимодействие и обучалась на синтетических данных для code-instruct из набора Tachibana, дополненных общими диалоговыми данными из Supernova. В README указан английский язык; другие языки и размер контекстного окна не заявлены. Ключевые характеристики — архитектура Llama, около 3 млрд параметров, текстовая модальность и формат GGUF, подходящий для запуска через llama.cpp и совместимые инструменты. Сильными сторонами являются специализация на инструкциях по программированию и улучшенные общие диалоговые возможности при относительно небольшом размере. Ограничения включают отсутствие заявленных мультимодальных возможностей и недостаточно подробные сведения о конкретном варианте квантизации, контекстном окне и производительности. Модель распространяется по лицензии llama3.2.

MiMo-V2.6-Distill-Qwen-9B GGUF — набор общественных GGUF-квантизаций модели Xiaomi MiMo, основанной на 9B-чекпойнте MiMo-V2.6-Distill-Qwen-9B от Xiaomi MiMo и архитектуре Qwen3.5-9B. Пакет предназначен для запуска через llama.cpp и включает квантизированные файлы языковой модели, а также совместимый BF16 multimodal projector для обработки изображений. Модель ориентирована на программирование, универсальные агентные задачи, visual coding, кибербезопасность, использование инструментов и мультимодальные сценарии с изображениями. Указана гибридная архитектура Qwen3.5 и нативный контекст до 262 144 токенов, однако практическая длина контекста зависит от выбранной квантизации, настроек KV-cache, среды выполнения и доступной памяти. Поддержка видео данным релизом не заявлена; сведения о языках в карточке явно не указаны, хотя калибровочные данные включают английский, китайский, код, tool- и agent-тексты. Доступно несколько вариантов квантизации с размером примерно от 1,97 до 9,53 GB. Q8_0 обеспечивает наибольшую близость к BF16, а IQ4_XS и Q5_K_S обозначены как компромисс между требованиями к памяти и сохранением точности. Низкобитные варианты Q2, IQ2, IQ1 и Q1 имеют заметно худшую fidelity и рекомендованы только для экспериментального использования. Приведённые измерения отражают совпадение следующего токена на ограниченной выборке, а не качество решения задач, программирования, tool use или визуального понимания. Лицензия указана как other; конкретные условия upstream-лицензии не определены.

MiMo-V2.6-Flash-RL — мультимодальная модель генерации текста Xiaomi из серии MiMo-V2.6, обученная с подкреплением для агентных сценариев и самоулучшения. Карточка описывает семейство как разреженную MoE-архитектуру с обработкой текста, изображений, видео и аудио и контекстом до 1 млн токенов; указаны визуальный и аудиокодировщики, а также спекулятивный декодер. Метаданные репозитория, однако, описывают загруженную модель как плотную 12-миллиардную MiMoV2ForCausalLM в формате safetensors FP8, а pipeline_tag задаёт генерацию текста. Модель предназначена для диалогов, работы с инструментами, программирования и продолжительных агентных задач, а мультимодальные возможности семейства рассчитаны на понимание изображений, видео и аудио. В отчёте Xiaomi описаны обучение смешанным RL на задачах кодирования, общих агентов, визуального анализа и кибербезопасности, а также методы оценки траекторий и дистилляции. По карточке указана лицензия MIT. Поскольку сведения о размере и архитектуре в README относятся к серии, а метаданные конкретного репозитория расходятся с ними, характеристики репозитория следует считать более конкретными для загруженного чекпойнта.

MiniCPM5-1B — компактная плотная языковая модель семейства MiniCPM5, разработанная OpenBMB; этот репозиторий AIArchiveInfo является побитовой копией оригинала openbmb/MiniCPM5-1B. Модель предназначена для локальных помощников, кодовых агентов, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Она построена на архитектуре LlamaForCausalLM, содержит около 838 млн параметров по метаданным каталога и поддерживает контекст до 131 072 токенов. Один чекпойнт поддерживает режимы ответа с рассуждением и без него; карточка также отмечает возможности чата, вызова инструментов, генерации кода и сложных рассуждений. Модель рассчитана на английский и китайский языки и доступна в формате Safetensors для Transformers. Лицензия — Apache-2.0. Модель может ошибаться, воспроизводить смещения или выдавать небезопасные ответы; результаты следует проверять, особенно при использовании в ситуациях с высокими ставками.

MiniCPM5-1B — компактная плотная языковая модель серии MiniCPM5, разработанная OpenBMB. Она построена на архитектуре Transformer с причинной языковой моделью LlamaForCausalLM; метаданные указывают 837,6 млн параметров, а карточка модели — около 1,08 млрд. Модель поддерживает контекст до 131 072 токенов и распространяется в формате safetensors через Transformers. Модель предназначена для локальных помощников, программирования, агентных сценариев с вызовом инструментов и сложных рассуждений на устройствах с ограниченными ресурсами. Один чекпойнт предлагает быстрый режим без рассуждений и режим Thinking. В карточке заявлены сильные результаты для своего размерного класса, особенно в использовании инструментов, генерации кода и трудных рассуждениях; это оценка авторов в сравнении с выбранными моделями, а не гарантия качества для любого сценария. Модель рассчитана прежде всего на английский и китайский языки. Лицензия Apache-2.0. Как и другие языковые модели, она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно при использовании в важных решениях.

MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking — компактная языковая модель GnLOLot, дообученная на базе openbmb/MiniCPM5-1B с использованием данных Fable 5. Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 837,6 млн параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 131 072 токена. Модель предназначена для локальных помощников и сценариев, где нужны вызов инструментов в формате XML или функций, генерация и отладка кода, следование инструкциям и рассуждения в режиме Thinking. По README, версия V2 усиливает вызов инструментов и улучшает программирование и выполнение инструкций по сравнению с базовой моделью и предыдущей версией; в карточке приведены результаты BFCL, API-Bank и Tau-Bench. Поддерживаемые языки по метаданным — английский и китайский. Модель принимает текст и генерирует текст. README предупреждает, что ответы в режиме Thinking могут содержать блоки рассуждений перед итоговым ответом, которые приложению может потребоваться скрыть. Компактный размер подходит для локального развёртывания, но модель не рассчитана на уровень передовых крупных систем в общих задачах рассуждения. Лицензия — Apache-2.0.