II.4Отладка, тестирование и качество ПО

JACK-POTTSSON/Qwen3.8-27B-OBLITERATEDpintus — текстовая generative-модель на базе Qwen/Qwen3.8-27B, распространяемая под лицензией Apache-2.0. В README она представлена как модифицированная версия Qwen с удалёнными или ослабленными механизмами отказа от ответов; описанный подход сочетает методы SVD и LEACE. Модель предназначена для генерации текста и кода, следования инструкциям, отладки, проектирования систем, извлечения данных по JSON-схеме, агентских сценариев и исследований AI safety и red teaming. Заявлены варианты в форматах GGUF, Safetensors и MLX, а также поддержка thinking mode. Для рекомендуемого режима указаны температура 0, repetition_penalty 1.15, max_new_tokens не менее 2048 и отсутствие системного промпта. README сообщает о результатах MMLU около 83,7% для V3 и 84,32% для V2, а также о семи успешных тестах из восьми на расширенных прикладных задачах; при этом эти показатели относятся к указанным в README версиям и не обязательно полностью подтверждают именно данный идентификатор. К сильным сторонам относятся близкая к исходной производительность, генерация кода и сниженная частота отказов. Ограничения включают возможную деградацию качества при sampling и repetition_penalty ниже рекомендуемого, риск циклической генерации без штрафа повторов, неполные сведения о точной архитектуре, размере контекста и поддерживаемых языках, а также потенциальную нестабильность поведения thinking mode. Отсутствие защитных отказов повышает риски небезопасного применения, поэтому модель особенно требует контроля при использовании в продуктивных и агентских системах.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-AWQ-1M — это квантизированный вариант AWQ INT4 модели DavidAU Qwen3.8-27B Cold Fusion, подготовленный и упакованный Solstice-AI. Модель предназначена для генерации текста, рассуждений, программирования, агентных задач, отладки репозиториев и работы с длинными документами. В README заявлена поддержка английского и китайского языков, а также текстовой и пространственно-временной 3D-визуальной мультимодальности. Модель имеет размер 27 млрд параметров и использует гибридную архитектуру: блоки Gated Delta Recurrent Network с линейным вниманием и блоки Grouped-Query Attention. Формат AWQ INT4 уменьшает заявленный объём с примерно 54 ГБ в BF16 до около 18 ГБ. Контекст расширен с 262 144 до 1 048 576 токенов посредством YaRN RoPE scaling. Также заявлены аппаратная поддержка Multi-Token Prediction и ускорение генерации до 1,72–2,20 раза при использовании совместимой инфраструктуры, включая vLLM и Anvil Runtime. Сильными сторонами README называет задачи программной инженерии, решение задач, управление компьютером и мобильными ОС, следование сложным ограничениям и длинные многофайловые рабочие процессы; приведены высокие результаты на SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и ARC. Эти результаты представлены авторами модели и не подтверждены независимой проверкой в предоставленных данных. Возможными ограничениями являются требования к значительным аппаратным ресурсам для работы с контекстом в миллион токенов, потери качества или точности из-за INT4-квантизации и отсутствие подробностей о фактической совместимости мультимодальных возможностей. Указана лицензия Apache-2.0.

unsloth/Qwen3-Coder-30B-A3B-Instruct-1M-GGUF — GGUF-версия модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Это каузальная языковая модель для генерации текста и кода, ориентированная на агентное программирование, использование браузера и другие задачи разработки ПО, включая работу с репозиториями большого размера и интеграцию с инструментами вроде Qwen Code и CLINE. Модель построена на Mixture-of-Experts-архитектуре: содержит 30,5 млрд параметров, из которых при генерации активируется около 3,3 млрд; включает 48 слоёв, 128 экспертов и 8 активируемых экспертов, а также Grouped Query Attention с 32 головами для запросов и 4 для ключей и значений. Нативная длина контекста составляет 262 144 токена, а в данной версии заявлено расширение до 1 млн токенов с использованием YaRN. Поддерживается только режим без рассуждений: модель не генерирует блоки <think></think>. Сведения о поддерживаемых языках и точных параметрах квантования в README не указаны. К сильным сторонам относятся высокая эффективность за счёт разреженной активации экспертов, специализация на кодинге и агентных сценариях, а также поддержка сверхдлинного контекста. Ограничения включают работу только в нережиме рассуждений и потенциальную зависимость качества и требований к ресурсам от конкретной GGUF-квантизации, параметры которой не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3-Coder-30B-A3B-Instruct-NVFP4 — это квантизированная в формате NVFP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанная на базе модели Qwen. Квантизация выполнена с использованием llm-compressor версии 0.8.1 по официальному примеру для Qwen3-30B-A3B. Модель предназначена прежде всего для генерации и обработки программного кода, а также выполнения инструкций общего назначения. Для калибровки квантизации использованы 512 примеров: 336 образцов кода из CodeSearchNet на Python, JavaScript, Java, Go, PHP и Ruby и 176 инструкционных примеров из UltraChat. Длина последовательности при калибровке увеличена до 4096 токенов. Архитектура указана как MoE, общий размер модели — 30B параметров, из которых активируется около 3B параметров. Ключевое преимущество модели — сниженное потребление памяти и потенциально высокая скорость инференса благодаря NVFP4-квантизации, с настройками калибровки, адаптированными для задач программирования. Ограничения включают возможные сложности запуска в vLLM, необходимость совместимого GPU с архитектурами SM100 или SM120 и компиляции FP4-ядер; для RTX 5090 также возможны высокие требования к оперативной памяти при компиляции. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next-AWQ-4bit — это 4-битная AWQ-квантизованная версия открытой языковой модели Qwen3-Coder-Next, разработанной Qwen и квантизованной пользователем bullpoint. Модель предназначена для генерации кода, разработки программного обеспечения, работы кодирующих агентов, использования инструментов и function calling, а также локальной интеграции с CLI и IDE. Заявлена поддержка сценариев с длительным рассуждением, сложным использованием инструментов и восстановлением после ошибок выполнения. Модель работает только в режиме без отдельного скрытого рассуждения и не генерирует блоки <think></think>. Архитектура — causal language model с гибридной структурой Gated DeltaNet и Gated Attention, построенная на Mixture of Experts. Она содержит 80 млрд параметров всего, из которых активируется 3 млрд, 48 слоёв, 512 экспертов и 10 активируемых экспертов; нативная длина контекста составляет 262 144 токена. Поддерживаются английский и китайский языки. Квантизация выполнена методом AWQ с разрядностью 4 бита, группами размера 32 и форматом compressed-tensors; заявленный объём видеопамяти — около 45 ГБ против примерно 151 ГБ для исходной версии BF16. К сильным сторонам относятся большой контекст, низкое число активируемых параметров при сохранении заявленной производительности и пригодность для локального развёртывания агентных задач. Ограничения включают существенные требования к видеопамяти, возможные потери качества из-за квантизации и отсутствие заявленных результатов бенчмарков в карточке. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-Next.w4a16 — квантизированная версия языковой модели Qwen3-Coder-Next, разработанная Red Hat на базе модели Qwen/Qwen3-Coder-Next. Это авторегрессионная модель архитектуры Qwen3NextForCausalLM с текстовым вводом и текстовым выводом, предназначенная прежде всего для генерации и анализа кода, а также для развертывания в сценариях, поддерживающих вызов инструментов. Модель использует схему W4A16: веса линейных операторов в блоках Transformer представлены в формате INT4, а активации — FP16. Такая оптимизация сокращает число битов на параметр с 16 до 4 и приблизительно на 75% уменьшает требования к дисковому пространству и памяти GPU. README не содержит сведений о размере модели, поддерживаемых языках программирования и естественных языках, максимальной длине контекста или мультимодальных возможностях. Основное преимущество модели — существенное снижение требований к памяти при сохранении высокой эффективности на задачах программирования. В оценке SWE-Bench Lite она получила результат 48,67 против 49,33 у исходной Qwen3-Coder-Next, что соответствует восстановлению 98,6% исходного показателя. Ограничением является возможная небольшая потеря точности из-за квантизации, а также зависимость рекомендуемого развертывания от совместимой инфраструктуры, например vLLM и Tensor Parallel. Модель распространяется по лицензии Apache-2.0. Для квантизации использовалась библиотека llm-compressor и алгоритм GPTQ; в README приведён пример развертывания через vLLM с поддержкой автоматического выбора инструментов и парсера вызовов Qwen3 Coder.

maci0/Qwopus3.6-27B-Coder-NVFP4 — это квантованная версия модели Jackrong/Qwopus3.6-27B-Coder, опубликованная в формате NVFP4. Модель предназначена для агентского программирования, генерации и анализа кода, работы с инструментами и задач, требующих рассуждений в thinking mode. Заявлена поддержка сценариев vision-language, однако подробности о возможностях обработки изображений в README не приведены. Модель имеет плотную архитектуру с 27 млрд параметров, занимает около 18 ГБ и поддерживает контекст до 256K токенов. Она рассчитана на английский и китайский языки. Квантование выполнено по схеме W4A4 с использованием GPTQ, error-compensated rounding и MSE observer; веса упакованы в формат compressed-tensors nvfp4-pack-quantized. Основной целевой стек запуска — vLLM на GPU NVIDIA Blackwell. Для набора wikitext-2 указана perplexity 6.63. К сильным сторонам относятся существенное уменьшение размера модели, ориентация на задачи программирования и совместимость с оптимизированным запуском в vLLM. Ограничения связаны с потерями, возможными при 4-битном квантовании, зависимостью от совместимого оборудования и неполным описанием мультимодальных возможностей. Лицензия — Apache-2.0.

Ring-2.5-1T — языковая модель команды Ling Team для диалогов, сложных рассуждений и многошагового выполнения задач. Карточка описывает её как модель с гибридной архитектурой линейного внимания Ling 2.5, развивающей Ling 2.0: часть слоёв GQA заменена на сочетание MLA и Lightning Linear Attention. В метаданных указаны архитектура семейства Bailing Hybrid, класс MoE и 59 млрд параметров; веса доступны в формате safetensors с compressed-tensors. Модель предназначена для математических и логических задач, программирования, поиска с использованием инструментов и длительных агентных сценариев, включая задачи разработки ПО. Заявленная длина контекста — 128K токенов с расширением до 256K посредством YaRN; метаданные указывают нативный контекст 131072 токена. Карточка сообщает о сильных результатах на ряде сложных тестов, но также отмечает ограничения в эффективности использования токенов, следовании инструкциям и выполнении реалистичных сложных задач. Модель выпущена под лицензией MIT. README сообщает, что обучение Ring-2.5-1T продолжается; отдельный технический отчёт на момент публикации карточки не представлен.

dbands/tantrum_16bit — дообученная модель dbands на архитектуре Qwen2, созданная на базе cognitivecomputations/dolphin-2.9.2-qwen2-7b. Модель предназначена прежде всего для анализа и ревью кода на Python: она объясняет код и предлагает улучшения. Также её можно использовать для генерации подсказок, помогающих создавать синтетические кодовые базы для обучения моделей, генерирующих Python-код для вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык. Веса доступны в формате Safetensors; лицензия — Apache-2.0. Автор описывает модель как находящуюся в разработке и планирует продолжать её улучшать.

Tiel-Inspired-Coder-9B-GGUF — независимая GGUF-версия модели Ornith-1.5-9B, подготовленная автором репозитория VitreousCut с использованием методики peculiar-ragdoll. Веса не дообучались: применены пользовательская imatrix для динамической квантизации и встроенный Sharp chat template. Модель предназначена прежде всего для генерации и анализа кода, решения задач программирования и рассуждений; базовая модель имеет размер 9B параметров. Поддерживаются английский и китайский языки, основной режим работы — text generation. В каждый файл встроен Sharp template qwen3.8-froggeric-v22.4.1, который включает рассуждения по умолчанию, настраиваемую интенсивность рассуждений и директиву краткости. Доступны варианты квантизации от IQ4_XS до Q8_0 размером примерно от 5,0 до 9,2 ГБ. В README приведены результаты HumanEval: Pass@1 93,3% в основном запуске и 95,1% после повторного запуска части заданий с увеличенным бюджетом. Для запуска рекомендуются llama.cpp и контекст 32768 токенов. Главное ограничение — склонность к чрезмерно длительным рассуждениям: на сложных или неоднозначных задачах модель может израсходовать весь лимит токенов, не выдав код. Для большинства сценариев рекомендуется reasoning_effort: low; режимы medium и high подходят для задач, где допустимы более долгие рассуждения. Модель распространяется по лицензии MIT.

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-12.3B — языковая модель семейства Qwen2 для генерации текста, представленная как слияние моделей с помощью mergekit и метода passthrough. В состав слияния вошла WhiteRabbitNeo/WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B; метаданные также указывают её как базовую дообученную модель. Модель содержит 11,7 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогового использования и унаследовала специализацию базовой модели на генерации кода и помощи в задачах кибербезопасности. Она принимает текст и генерирует текст. В репозитории указаны веса Safetensors и библиотека Transformers. Сведения о лицензии в предоставленных данных отсутствуют.

Apriel-1.5-15b-Thinker-GGUF — это GGUF-версия мультимодальной модели рассуждений Apriel-1.5-15b-Thinker, разработанной ServiceNow AI и подготовленной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, решения математических и научных задач, программирования, следования инструкциям, работы с API и функциями, диалоговых сценариев, а также понимания и рассуждений по изображениям и смешанным текстово-графическим данным. Модель содержит 15 млрд параметров и рассчитана на эффективное локальное развёртывание: по заявлению разработчиков, она помещается на одной GPU. Она обучалась с использованием продолжительного предварительного обучения на текстовых и мультимодальных данных, а также supervised fine-tuning более чем на 2 млн текстовых примеров. Для постобучения не применялись reinforcement learning и специализированное обучение на изображениях. Заявлены результаты 52 балла в Artificial Analysis, 68 в Tau2 Bench Telecom и 62 в IFBench, однако конкретные сведения о контекстном окне, поддерживаемых языках и архитектуре в README не указаны. Сильными сторонами модели являются сочетание компактного размера, развитого текстового рассуждения, возможностей работы с изображениями и ориентация на корпоративные задачи. Ограничениями могут быть повышенный расход токенов и более длительное время ответа из-за подробного рассуждения по умолчанию, а также отсутствие image SFT, что может влиять на отдельные визуальные сценарии. Модель распространяется по лицензии MIT.

CodeLlama 70B Python — большая языковая модель для генерации и работы с программным кодом, разработанная Code Llama. Данная версия представляет собой квантизированные файлы модели CodeLlama 70B Python в формате GGUF, подготовленные TheBloke на вычислительном оборудовании Massed Compute. Модель предназначена прежде всего для задач, связанных с программированием на Python, включая генерацию кода и локальный текстовый inference. Она основана на архитектуре Llama, имеет 70 миллиардов параметров и работает в режиме text-generation. В README указано, что язык модели — code; сведения о поддерживаемых естественных языках, модальностях и размере контекста не приведены. GGUF поддерживает различные уровни квантизации от 2 до 8 бит, что позволяет запускать модель с разным компромиссом между требованиями к памяти и качеством, используя llama.cpp и совместимые интерфейсы. Сильными сторонами являются специализация на программном коде, крупный размер модели и возможность CPU+GPU-инференса в локальных приложениях. Ограничениями выступают высокие требования к вычислительным ресурсам, зависящие от выбранного уровня квантизации, а также отсутствие в предоставленных данных подробных оценок качества и характеристик контекстного окна. Модель распространяется по лицензии Llama 2.

CoderO1-DeepSeekR1-Coder-14B-Preview — экспериментальная объединённая языковая модель RDson для диалоговой генерации и анализа кода. Она создана методом mergekit SCE на основе Qwen/Qwen2.5-14B с использованием Qwen/Qwen2.5-Coder-14B-Instruct и deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров, использует архитектуру Qwen2 и формат safetensors; нативная длина контекста — 131 072 токена. Модель предназначена для общения с пользователем при решении задач программирования, включая генерацию и анализ кода. Метаданные также отмечают интерфейс для вызова инструментов. Карточка указывает, что это предварительная версия; подробные результаты оценки качества не приведены. Лицензия в предоставленных данных не указана.

DeepSeek-Coder-V2-Instruct-0724-IMat-GGUF — это GGUF-квантизированная версия инструкционной модели DeepSeek-Coder-V2-Instruct-0724, разработанной deepseek-ai. Репозиторий подготовлен legraphista с использованием llama.cpp и предназначен для локального запуска и генерации текста, прежде всего для задач программирования и взаимодействия в формате чата, поддерживаемых исходной моделью. Модель распространяется в форматах GGUF с различными уровнями квантизации: от Q8_0 до Q2_K, включая варианты Q5, Q4, Q3 и IQ. Доступны файлы размером примерно от 85,95 до 250,62 ГБ, все варианты разделены на несколько частей. Для ряда конфигураций Q4 и ниже применена IMatrix-квантизация, призванная повысить качество при уменьшении размера. Исходный тип данных модели — BF16. Сведения об архитектуре, количестве параметров, длине контекста, языках и поддерживаемых модальностях в README не указаны. Сильная сторона репозитория — широкий выбор квантизаций и готовность к использованию с экосистемой llama.cpp, что позволяет подбирать компромисс между размером файлов и качеством. Ограничениями являются очень большой объём моделей, необходимость объединения или корректной работы с разделёнными файлами, а также возможное снижение качества на низких уровнях квантизации. Модель распространяется по лицензии deepseek-license; указана категория лицензии other и ссылка на файл LICENSE.

DeepSeek-V3.2 — языковая модель, разработанная DeepSeek AI и представленная как дообученная версия DeepSeek-V3.2-Exp-Base. Модель ориентирована на эффективное рассуждение, работу с агентными сценариями и взаимодействие с инструментами, включая режим «thinking with tools». Она распространяется через Transformers и использует обновлённый формат чата с поддержкой вызова инструментов и рассуждений. Ключевой особенностью модели является механизм DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при сохранении качества, особенно в задачах с длинным контекстом. Для обучения применялись масштабируемое reinforcement learning и pipeline синтеза данных для агентных задач. README заявляет высокие результаты в математических и программных соревнованиях, однако точные размер модели, длина контекста, поддерживаемые языки и набор модальностей не указаны. Для интеграции требуется учитывать, что релиз не содержит Jinja-шаблон chat template: разработчикам предлагается использовать скрипты из каталога encoding для кодирования сообщений в OpenAI-совместимом формате и разбора ответов. Указанная функция разбора рассчитана на корректно сформированные строки и не исправляет ошибки формата. Модель распространяется по лицензии MIT.

Devstral-Small-2507-GGUF — квантованная версия Devstral Small 1.1 (2507), разработанная Mistral AI совместно с All Hands AI и преобразованная в формат GGUF пользователем brittlewis12. Модель предназначена для задач программной инженерии и создания агентных систем: она умеет работать с инструментами, исследовать кодовые базы и редактировать несколько файлов. Модель ориентирована прежде всего на генерацию и анализ текста и кода, а её исходная версия показывает результат 53,6% на SWE-bench Verified в связке с OpenHands Scaffold. Модель дообучена на базе Mistral-Small-3.1-24B-Base-2503 и имеет контекстное окно до 128 000 токенов. Это текстовая модель без поддержки изображений: перед дообучением визуальный энкодер был удалён. В README явно указан английский язык. Формат GGUF предназначен для локального запуска в совместимом программном обеспечении, включая llama.cpp. Ограничения включают текстовую модальность и зависимость производительности от выбранного квантования и аппаратной конфигурации; конкретный размер файлов и параметры квантования в предоставленных данных не указаны. Лицензия — Apache 2.0.

Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

dolphincoder-starcoder2-15b-GGUF — квантизированная версия модели dolphincoder-starcoder2-15b, разработанной cognitivecomputations и опубликованной в формате GGUF пользователем bartowski. Модель основана на StarCoder2 с размером около 15 млрд параметров и предназначена для генерации текста и программного кода. Модель ориентирована на задачи программирования, включая написание, дополнение и обработку кода, а также работу с инструкциями в сценариях code assistant. Для обучения использовались наборы данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder, Code-Feedback и их производные. В карточке указан английский язык; модальности ограничены текстом. Размер контекста и точные архитектурные характеристики не указаны. Преимущество этой версии — возможность локального запуска через llama.cpp с различными уровнями квантизации. Вариант Q6_K отмечен как рекомендуемый благодаря высокому качеству, тогда как менее битные варианты требуют меньше памяти, но дают более заметное снижение качества; Q2_K и Q3_K_S не рекомендуются. К ограничениям относятся зависимость качества и требований к памяти от выбранной квантизации, а также отсутствие данных о производительности и поддерживаемых языках программирования. Лицензия модели — bigcode-openrail-m.

Horus Cyber Nano 1.0 — компактная мультимодальная модель с открытыми весами от TokenAI, предназначенная для задач кибербезопасности и инженерной работы. В README указана архитектура vision-language модели с причинным декодером Mixture-of-Experts; метаданные относят её к семейству Kimi VL и указывают реализацию KimiVLForConditionalGeneration. Модель принимает текст и изображения и формирует текстовые ответы. Модель предназначена для проверки исходного кода на уязвимости, анализа и устранения проблем безопасности, рассуждений о разрешённых red-team проверках, работы с терминалом и анализа скриншотов, кода и вывода команд. Метаданные также указывают поддержку чата и кода. README приводит результаты тестов, но отмечает, что протоколы оценки могут различаться между поставщиками. Указана лицензия TokenAI Custom License (в метаданных — other); перед использованием следует проверить её условия. README не приводит размер модели и длину контекста. Модель может галлюцинировать или давать непоследовательные ответы о собственной идентичности; технические выводы и предложения по исправлению следует проверять.

internlm3-8B-Nex-N1 — чат-модель серии Nex-N1 от разработчиков платформы Nex, представленная в работе о создании агентных моделей. Это плотная авторегрессионная модель InternLM3 с 8,3 млрд параметров, опубликованная в формате Safetensors; карточка указывает контекст до 131 072 токенов и лицензию Apache-2.0. Модель предназначена для агентных сценариев: программирования, вызова инструментов и функций, веб-поиска и многошаговых задач. Разработчики также заявляют применение для создания мини-приложений, сайтов и слайдов. В README описана поддержка function calling и приведены результаты серии Nex-N1 на агентных бенчмарках, однако таблица не содержит отдельной строки с результатами именно этой 8B-модели. Модель принимает текстовые запросы и генерирует текстовые ответы; в метаданных отмечен режим чата. Языковая поддержка отдельно не описана. Для запуска разработчики рекомендуют SGLang; для function calling предлагается специальный парсер инструментов. Качество в конкретных задачах и совместимость с окружением агента могут зависеть от конфигурации и инструментов.

Карточка модели IQuestLab/IQuest-Coder-V1-7B-Base-Stage1 на Hugging Face совпадает с карточкой IQuestLab/IQuest-Coder-V1-7B-Instruct, поэтому описание составлено по ней. IQuest-Coder-V1-7B-Instruct — модель генерации кода из семейства IQuest-Coder-V1, разработанного IQuestLab для помощи в программировании и анализа кода. Версия Instruct предназначена для выполнения инструкций и повседневных задач кодирования; модель также рассчитана на работу с инструментами и CLI-агентами. Модель имеет плотную авторегрессионную архитектуру IQuestCoderForCausalLM и содержит 7,2 млрд параметров. Вариант 7B использует 14 слоёв и Grouped Query Attention; заявленная длина контекста — 128 тыс. токенов. Модель принимает текст и генерирует текст, включая код; карточка описывает поддержку интерфейса вызова инструментов, а также предварительную генерацию HTML и SVG. В README сообщается о специализированном обучении на эволюции репозиториев и о результатах на бенчмарках кодирования, но также отмечаются ограничения следования инструкциям, управления длинным контекстом и многошаговыми вызовами инструментов. Сгенерированный код модель не исполняет, а точность может снижаться на специализированных и проприетарных фреймворках. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели.

Kwaipilot/KAT-Dev — открытая модель для задач разработки программного обеспечения, выпущенная Kwaipilot. В README модель описана как KAT-Dev-32B, оптимизированная несколькими этапами обучения: промежуточным обучением, supervised fine-tuning, reinforcement fine-tuning и масштабным агентным reinforcement learning. Метаданные этого репозитория указывают архитектуру Qwen3 с плотной причинной языковой моделью, 29,7 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors, модель рассчитана на диалоговое использование. Модель предназначена для генерации кода и помощи в инженерных задачах, в том числе для использования в агентных инструментах разработки с поддержкой вызова инструментов. В README приведён пример запуска через vLLM с парсером вызовов инструментов Qwen3 Coder. Карточка сообщает о 62,4% решённых задач SWE-Bench Verified для версии KAT-Dev-32B, но метаданные указывают 29,7 млрд параметров, поэтому сведения о размере в источниках расходятся. Поддерживается многоязычный ввод, однако конкретные языки не перечислены. Лицензия репозитория — Apache-2.0.

Laguna-S-2.1-GGUF — GGUF-квантизированная версия текстовой Mixture-of-Experts-модели Laguna S 2.1, разработанной poolside и подготовленной для запуска через Unsloth и llama.cpp. Модель предназначена прежде всего для агентного программирования, вызова инструментов и выполнения длительных многошаговых задач с кодом. Она поддерживает нативное рассуждение с чередованием размышлений и вызовов инструментов, а также спекулятивное декодирование с использованием отдельной DFlash-модели. Архитектура содержит 118 млрд параметров, из которых около 8 млрд активируются для каждого токена. Модель имеет 48 слоёв, 256 маршрутизируемых экспертов с выбором 10 экспертов на токен и один общий эксперт, grouped-query attention с 8 KV-головами, а также комбинацию глобального и скользящего внимания: 12 глобальных слоёв и 36 слоёв с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, размер словаря — 100 352 токена. Модальность — text-to-text; языки в README не указаны. Ключевые преимущества — большое контекстное окно, специализированность на агентных задачах и программировании, поддержка нескольких движков инференса и снижение требований к памяти за счёт GGUF-квантизации. Вариант UD-Q4_K_XL занимает около 40 ГБ и поставляется в трёх файлах; для него требуется llama.cpp версии b10087 или новее. Ограничения включают значительный общий размер модели и необходимость нескольких GPU для полноточных вариантов. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию для коммерческих и некоммерческих целей.

Laguna XS 2.1-INT4 — текстовая модель класса Mixture-of-Experts, разработанная poolside для агентного программирования и длительных рабочих сценариев на локальном компьютере. Она предназначена для генерации и анализа кода, взаимодействия с инструментами и выполнения многошаговых задач разработки, включая работу в терминале и репозиториях. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, и включает 40 слоёв с 256 экспертами и одним общим экспертом. Архитектура сочетает глобальное внимание в 10 слоях и Sliding Window Attention с окном 512 токенов в 30 слоях; используется per-head gating и rotary scales. Контекстное окно составляет 262 144 токена. Модель работает в режиме text-to-text, поддерживает interleaved thinking между вызовами инструментов и сохранение рассуждений. Это вариант INT4 с KV-кэшем, квантованным в FP8. К сильным сторонам относятся сравнительно компактный объём активных параметров, сниженные требования к памяти благодаря архитектуре внимания и FP8 KV-кэшу, а также ориентация на локальный запуск; в README указана возможность запуска на Mac с 36 ГБ оперативной памяти. Ограничения включают специализацию прежде всего на агентном программировании, отсутствие заявленных мультимодальных возможностей и отсутствие сведений о конкретных поддерживаемых языках. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

Llama-3-8B-Instruct-Coder-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Llama-3-8B-Instruct-Coder, предназначенной прежде всего для генерации и анализа программного кода, а также для диалоговых задач по текстовым инструкциям. Квантизации подготовлены пользователем bartowski на основе модели rombodawg/Llama-3-8B-Instruct-Coder, которая, в свою очередь, связана с базовой моделью unsloth/llama-3-8b-Instruct-bnb-4bit. Для квантизации использован llama.cpp с imatrix и датасетом Kalomaze. Модель имеет текстовую модальность, архитектуру семейства Llama 3 и размер 8 миллиардов параметров. В README явно указан английский язык; сведения о других языках и размере контекстного окна отсутствуют. Доступны варианты от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые: более высокие уровни обычно обеспечивают лучшее качество, а низкие позволяют экономить оперативную память ценой заметной деградации. Сильные стороны модели — возможность локального запуска через llama.cpp, широкий выбор компромиссов между качеством и требованиями к памяти и специализация на задачах программирования. Ограничения включают потери качества при агрессивной квантизации, особенно у вариантов IQ1_M и Q2–Q3, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и фактическом языковом покрытии. Модель распространяется по лицензии Apache-2.0.

Llama-3-8B-Instruct-Coder-v2-GGUF — набор GGUF-квантизаций модели Llama-3-8B-Instruct-Coder-v2. Базовая модель указана как NousResearch/Meta-Llama-3-8B-Instruct, оригинальная модель разработана rombodawg, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к текстовым генеративным моделям и ориентирована на работу с инструкциями и задачами программирования, включая генерацию и обработку кода. Заявленный язык — английский. Доступны варианты с разными уровнями квантизации: от Q8_0 размером 8,54 ГБ до IQ2_XXS размером 2,39 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS отмечены как рекомендуемые; более компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Файлы предназначены для запуска через llama.cpp и используют специальный шаблон запросов Llama 3. В README не указаны точный размер контекстного окна, архитектурные детали сверх принадлежности к семейству Llama 3, результаты тестирования и поддержка других языков. Лицензия — Apache-2.0.

Loxa Pro — языковая модель от frameai для генерации текста и диалогового взаимодействия. Она основана на архитектуре Gemma 2, содержит 3,3 млрд параметров и принимает текстовый ввод; заявленный контекст составляет 8192 токена. Модель распространяется в формате safetensors и использует лицензию Apache-2.0. Модель предназначена для решения математических задач и объяснения решений, написания и отладки кода, ответов на общие и научные вопросы, а также помощи с повседневными текстовыми задачами. В README разработчик заявляет о методе CA (Combine Architectures), эффективности на менее мощных GPU и улучшении точности относительно Loxa-4B и Loxa-3B, однако подробности метода и результаты сравнительных оценок не приведены. Как и другие языковые модели, Loxa Pro может отражать смещения обучающих данных и выдавать фактически неверные или вводящие в заблуждение ответы; результаты следует проверять. Для запуска требуются вычислительные ресурсы, хотя модель заявлена как оптимизированная для небольших GPU.

Карточка модели kaivoss/MiMo-V2.6-Distill-Qwen-9B-compat на Hugging Face совпадает с карточкой XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B, поэтому описание составлено по ней. MiMo-V2.6-Distill-Qwen-9B — плотная мультимодальная модель на 9 млрд параметров, разработанная Xiaomi MiMo посредством supervised fine-tuning Qwen3.5-9B на данных, созданных MiMo. Модель предназначена для диалогов и агентных сценариев, включая программирование, визуальное программирование и задачи кибербезопасности; также поддерживает обработку изображений. Карточка публикует результаты SFT-чекпойнта на бенчмарках по программированию. Это контрольная точка для дальнейших исследований в области агентного обучения с подкреплением. Для запуска README рекомендует свежую сборку SGLang с поддержкой Qwen3.5; модель включает токенизатор и шаблон чата MiMo v2.6. Репозиторий содержит веса safetensors. Лицензия — MIT. README не описывает конкретные ограничения качества или безопасности модели.

Карточка модели ariancort/MiniCPM5-2B на Hugging Face совпадает с карточкой developerjeremylive/MiniCPM5-2B-etheroi, поэтому описание составлено по ней. MiniCPM5-2B-etheroi — компактная языковая модель из серии MiniCPM5, представленная в карточке MiniCPM5-2B. Это плотная причинная Transformer-модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров. Она предназначена для локальных помощников, программных агентов и сценариев, где важны небольшие требования к ресурсам и длинный контекст. Модель генерирует текст и поддерживает контекст до 131 072 токенов. В карточке отмечены навыки программирования, математики, понимания длинного контекста, следования инструкциям и работы с инструментами; метаданные также указывают разговорный сценарий. Модель рассчитана на английский и китайский языки и доступна в формате safetensors для Transformers; README описывает локальный запуск на GPU и CPU и серверный запуск через vLLM и SGLang. Модель выпущена под лицензией Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; выводы по медицине, финансам, праву и политике не проверены экспертами и не являются профессиональной консультацией. README не указывает отдельную базовую модель для этой версии.