II.7DevOps, облако и эксплуатация IT-систем

Qwen3.6-KAT-BigBang-SLERP — текстовая MoE-модель, созданная слиянием SLERP двух дообученных моделей на базе Qwen3.6-35B-A3B: KAT-Coder-V2.5-Dev от Kwaipilot и BigBang-v1 от endless-frontier. Репозиторий предоставляет веса в формате GGUF; в README описана версия APEX Mini размером около 13,5 ГБ. Архитектура исходной модели включает 35 млрд параметров, из которых активируется около 3 млрд, 40 слоёв гибридного внимания и контекст до 262 тысяч токенов. Модель предназначена для генерации текста, агентного программирования, вызова инструментов и задач рассуждения. Слияние сочетает кодовые и агентные возможности KAT-Coder с уклоном BigBang в рассуждения; карточка приводит результаты тестирования одной квантованной версии в ограниченной по памяти конфигурации, но подчёркивает, что слияние систематически не оценивалось. Модель принимает и выдаёт текст; визуальная башня и голова MTP в результат не включены. Лицензия — Apache-2.0. Среди ограничений указаны возможные галлюцинации, нестабильное долгосрочное планирование и чувствительность к формату запроса; квантование с потерями может снижать точность. Для запуска GGUF README рекомендует llama.cpp b10516 или новее с поддержкой указанной архитектуры.

AMAImedia публикует Qwenseek-3.8-27B-CyberLite-NOESIS-BF16 как часть платформы автоматизации многоязычного дубляжа NOESIS; сама модель основана на Qwenseek-3.8-27B-CyberLite-BF16 от trjxter. Это дообученная методом SFT модель семейства Qwen3.5 с плотной архитектурой и 27,8 млрд параметров, выпущенная в формате BF16 Safetensors. Базовая модель указана в README как unsloth/Qwen3.8-27B, а каталог связывает репозиторий с trjxter/Qwenseek-3.8-27B-CyberLite-BF16. Модель предназначена для анализа уязвимостей и защищённого кода, планирования обнаружения и устранения угроз, технических рассуждений, разработки ПО и структурированного использования инструментов. Обучение сочетало данные по кибербезопасности, программированию, агентным сценариям и общим рассуждениям; автор описывает краснокомандные сценарии как контролируемые и предназначенные для локального, учебного или защитного применения. Несмотря на мультимодальные компоненты базовой архитектуры, README указывает, что параметры зрения оставались замороженными и улучшение визуальных возможностей не заявляется. Лицензия — Apache-2.0. Для работы требуется актуальная версия Transformers или Unsloth с поддержкой Qwen3.5; практическое качество может зависеть от сценария, а карточка не приводит количественной оценки. Для тестирования сторонних систем необходимо отдельное разрешение.

Карточка модели ArchiveStudio/Qwen3-Coder-Next-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-Coder-Next-Base, поэтому описание составлено по ней. Qwen3-Coder-Next-Base — базовая языковая модель компании Qwen, предназначенная для разработки кодовых агентов и локальной работы с кодом. Это предварительно обученная авторегрессионная модель семейства Qwen3-Next с гибридной архитектурой: чередует Gated DeltaNet, Gated Attention и разреженные Mixture of Experts. В README указано 80 млрд параметров всего и 3 млрд активируемых; метаданные Hugging Face указывают 2,3 млрд параметров, поэтому размерные сведения источников расходятся. Модель рассчитана на генерацию кода и использование как основы для последующего обучения и создания агентных систем. Заявлены возможности вызова инструментов, адаптации шаблонов и каркасов проектов, а также поиска и восстановления после ошибок. Нативная длина контекста — 262 144 токена; README заявляет поддержку более 370 языков, в том числе языков программирования. Модель работает только в режиме без рассуждений (non-thinking) и не генерирует блоки разметки рассуждений. Репозиторий содержит веса Safetensors, библиотека — Transformers. Лицензия Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — инструкция-ориентированная текстовая модель для генерации кода и работы с запросами на естественном языке. Базовую модель Qwen3-Coder-30B-A3B-Instruct разработала команда Qwen, а представленные файлы в формате GGUF подготовлены и квантизированы TensorBlock. Модель предназначена для локального запуска и совместима с llama.cpp начиная с указанного коммита. Доступны варианты квантизации от Q2_K до Q5_0 с размером файлов примерно от 11,3 до 21,1 ГБ. В README указано обозначение 30B-A3B, однако подробности архитектуры, число активных параметров, поддерживаемые языки, контекстное окно и мультимодальные возможности не описаны. Варианты квантизации позволяют выбирать между меньшим потреблением памяти и качеством; рекомендуемым назван Q4_K_M как сбалансированный по размеру и качеству, тогда как Q2_K и некоторые Q3-варианты имеют существенные потери качества. Модель подходит для программирования, генерации и редактирования кода, а также для локальных приложений, использующих текстовую генерацию. Ограничения связаны с потерями качества при низкой квантизации и отсутствием в предоставленных данных сведений о производительности, языковом покрытии и максимальной длине контекста. Распространение заявлено по лицензии Apache-2.0.

Qwopus3.5-9B-Coder-GGUF — экспериментальная community-модель, основанная на Jackrong/Qwopus3.5-9B-v3.5 и предназначенная для локального запуска в формате GGUF. Она дообучена с использованием Trace Inversion, агентских трасс и данных для reasoning, включая наборы lambda/hermes-agent-reasoning-traces и материалы TraceInversion от Jackrong. Модель ориентирована прежде всего на agentic coding, логическое рассуждение, сложный tool calling и function calling. Модель имеет плотную архитектуру размером 9B параметров и поддерживает текстовые и визуальные сценарии. Заявлены возможности работы с изображениями, программированием, отладкой, задачами на уровне репозитория, терминальными командами, файловыми операциями и браузерами. Поддерживаемые языки включают английский, китайский, испанский, русский и японский. Для включения vision требуется отдельный файл mmproj.gguf из репозитория GGUF. README не указывает размер контекстного окна. К сильным сторонам относятся компактность, пригодность для запуска на устройствах с 16 ГБ RAM при 8-битной точности, улучшенная структурированность рассуждений и ориентация на агентские рабочие процессы. При этом модель выпущена как экспериментальная версия для исследований и изучения, не проходила комплексную оценку общих возможностей, поэтому в непрофильных и не связанных с программированием задачах возможна деградация качества. Модель распространяется по лицензии Apache-2.0.

Stable Code 3B — авторегрессионная языковая модель Stability AI на основе decoder-only Transformer, близкой к архитектуре LLaMA, с реализацией через GPT-NeoX. Модель содержит около 2,7 млрд параметров и предварительно обучена на 1,3 трлн токенов текстовых и программных данных, включая наборы Falcon RefinedWeb, The Stack GitHub Issues, CommitPackFT, StarCoderData, Proof-Pile-2 и MetaMathQA. Модель предназначена прежде всего для генерации, дополнения и анализа программного кода. Она обучалась на 18 языках программирования и поддерживает сценарий Fill in the Middle (FIM), что позволяет вставлять фрагменты кода между заданными началом и концом. Заявлена поддержка последовательностей длиной до 16 384 токенов. В README явно указаны английский язык и код; сведения о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. В опубликованных результатах MultiPL-E pass@1 модель показывает 32,4% для Python, 30,9% для C++, 32,1% для Java и JavaScript, 24,2% для PHP и 23,0% для Rust. Эти показатели заявлены как конкурентные среди моделей сопоставимого размера, однако отмечены как непроверенные. Ограничениями являются относительно небольшой размер по сравнению с крупными code-моделями, возможные ошибки и небезопасность генерируемого кода, а также отсутствие подтверждений качества для всех 18 поддерживаемых языков. Модель распространяется по Stability AI Community License. Для коммерческого использования README рекомендует обращаться к условиям коммерческой лицензии Stability AI; конкретные требования в карточке не приведены.

Это GGUF-квантизованная версия языковой модели OmniCoder-9B, разработанной Tesslate и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и кода, включая агентские сценарии и задачи программирования. Доступна для запуска через llama.cpp и совместимые приложения, в том числе LM Studio, koboldcpp, Jan AI и Text Generation Web UI. Модель содержит около 9 млрд параметров и распространяется в вариантах от BF16 до различных форматов квантизации Q2–Q8 и IQ. Квантизация выполнена с использованием imatrix; варианты различаются размером файла, требованиями к памяти и качеством, при этом в README рекомендуются некоторые форматы Q4–Q6 как баланс качества и ресурсоёмкости. Заявлен английский язык, однако сведения о контекстном окне, точной архитектуре и поддерживаемых модальностях отсутствуют. В качестве ориентира приведены результаты на AIME 2025: pass@1 — 83,8%, pass@3 — 86,4% и pass@5 — 90,0%, но методика оценки подробно не описана. Сильными сторонами являются широкий выбор уровней квантизации и возможность локального запуска на различном оборудовании. Ограничения включают потенциальное снижение качества в младших вариантах квантизации, зависимость совместимости от обновлений используемых инструментов и отсутствие подробных данных о контекстной длине и языковых возможностях сверх заявленного английского. Лицензия модели — Apache-2.0.

AxeronAI/axeron-forge-9fe917b4 — языковая модель, созданная методом слияния TIES из Qwen/Qwen2.5-3B и Qwen/Qwen2.5-Coder-3B-Instruct с помощью forgelm. Модель семейства Qwen2 имеет плотную архитектуру Qwen2ForCausalLM, около 3,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. Модель предназначена для генерации текста в диалоге, включая задачи генерации, анализа и исправления кода по текстовым запросам. Метаданные отмечают поддержку чата и интерфейса вызова инструментов. Карточка не приводит результаты оценивания, поэтому качество для конкретных языков и задач следует проверять отдельно. Сведения о лицензии в предоставленных источниках отсутствуют.

CodeLlama-13B-Instruct-GGUF — квантизированная GGUF-версия CodeLlama 13B Instruct, разработанная Meta и подготовленная для квантизации компанией Second State Inc. Модель основана на codellama/CodeLlama-13b-Instruct-hf и предназначена для генерации кода по инструкциям. Модель ориентирована на решение задач программирования: написание кода с учётом заданных ограничений, подготовку решений, соответствующих примерам тестов, и работу через текстовый интерфейс генерации. Указан контекст размером 5120 токенов. Это текстовая модель для работы с кодом; сведения о поддерживаемых естественных языках и мультимодальности в README отсутствуют. Модель доступна в нескольких вариантах GGUF с квантизацией от Q2_K до Q8_0 и размером файлов примерно от 5,43 до 13,8 ГБ. Варианты с более высокой точностью обычно обеспечивают меньшее снижение качества, но требуют больше дискового пространства и ресурсов; для большинства сценариев в README рекомендуются Q4_K_M, Q5_K_M и Q5_K_S. Ограничения включают возможную потерю качества при низкобитной квантизации, а также отсутствие в README данных о производительности, аппаратных требованиях и качестве на конкретных языках программирования. Лицензия указана как Llama 2.

Code-Llama-3-8B-GGUF — это набор квантизованных версий языковой модели Code-Llama-3-8B в формате GGUF, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Исходная модель размещена на Hugging Face организацией или автором ajibawa-2023. Модель предназначена прежде всего для генерации, дополнения и объяснения программного кода, а также для решения задач по программированию и математических задачах в диалоговом формате. Модель содержит 8 миллиардов параметров и работает в текстовой модальности. В README указан английский язык, а среди целевых языков программирования перечислены Python, C++, PHP, JavaScript, Java, Rust, Ruby, SQL, MySQL, R и Julia. Доступно множество вариантов квантизации от Q8_0 до IQ1_M, что позволяет выбирать баланс между качеством и требованиями к памяти: рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые варианты IQ4. Более компактные варианты экономят память, но снижают качество и могут быть непригодны для требовательных задач. Сильными сторонами являются специализация на коде, широкий выбор размеров файлов и возможность локального запуска через совместимый стек llama.cpp. Ограничения включают потери качества при низкой разрядности квантизации; сведения о размере контекстного окна, точной архитектуре и поддержке других естественных языков в README не указаны. Модель распространяется по лицензии llama3.

CodeLlama 70B Instruct — языковая модель для генерации и обработки программного кода, разработанная Code Llama и представленная в формате GGUF компанией Second State Inc. Это квантизированная версия исходной модели codellama/CodeLlama-70b-Instruct-hf, предназначенная для сценариев программирования и диалогового следования инструкциям. Указана поддержка языка кода; другие языки и мультимодальные возможности не заявлены. Модель содержит 70 млрд параметров и использует контекст размером 8192 токена. Доступны варианты квантизации Q2_K, Q3_K, Q4 и Q5 с размером файлов примерно от 25,5 до 48,8 ГБ. Вариант Q4_K_M обозначен как рекомендуемый сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более сильная квантизация уменьшает требования к ресурсам, но может заметно снижать качество ответов. Модель может запускаться как сервис LlamaEdge версии 0.2.11 и выше, однако в README указано, что она работает только в режиме без потоковой передачи. Для использования требуется специальный шаблон prompt codellama-super-instruct. Модель распространяется по лицензии llama2; дополнительные условия лицензии в предоставленных данных не уточняются.

NousResearch/CodeLlama-7b-hf — версия базовой модели Code Llama, разработанной Meta и опубликованной NousResearch в формате Hugging Face. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с 6,6 млрд параметров, предназначенная для генерации и понимания программного кода. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов и используется через Transformers и PyTorch. Модель предназначена для синтеза, дополнения, объяснения и анализа кода, а также может адаптироваться к различным задачам программирования. Она ориентирована на английский язык и релевантные языки программирования; версия является базовой, а не специализированной instruct-моделью. Доступна по лицензии Llama 2 с условиями Meta и ограничениями Acceptable Use Policy. Модель статична и обучена на офлайн-данных. Она может генерировать неточный, небезопасный или нежелательный код, поэтому результаты требуют проверки, тестирования и настройки под конкретное приложение. Использование в языках, отличных от английского, ограничено условиями модели.

TheBloke/CodeLlama-7B-Instruct-fp16 — версия Code Llama 7B Instruct от Meta AI, опубликованная TheBloke в формате Transformers/Hugging Face с весами fp16. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с 6,6 млрд параметров и контекстом 16 384 токена; она принимает и генерирует текст. Вариант Instruct предназначен для следования инструкциям и создания помощников для программирования. Модель подходит для генерации и объяснения кода, ответов на вопросы по программированию и помощи при разработке. В README заявлена ориентация на английский язык и языки программирования; инструкции по загрузке требуют trust_remote_code=True для корректной работы с изменённым значением RoPE Theta. Модель является конвертацией исходных весов CodeLlama 7B Instruct в формат Hugging Face, а не отдельным дообучением TheBloke. Лицензия указана как Llama 2; README описывает пользовательское коммерческое лицензионное соглашение Code Llama. Перед применением следует учитывать, что ответы могут быть неточными или нежелательными.

legraphista/Codestral-22B-v0.1-hf-FIM-fix — конвертированная версия Codestral-22B-v0.1 от Mistral AI с исправленным токенизатором и добавленными специальными токенами для инструкций и заполнения пропусков в коде. Это плотная авторегрессионная модель семейства Mistral на 22 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для генерации кода по инструкциям, объяснения и документирования фрагментов, рефакторинга и предсказания пропущенной части кода между префиксом и суффиксом (Fill in the Middle), в том числе в инструментах разработки. Она обучена на данных более чем по 80 языкам программирования, включая Python, Java, C, C++, JavaScript и Bash. В карточке указано, что исходная версия имела пропущенные токены в словаре, а эта версия основана на обновлённой копии с исправлением. Модель не имеет встроенных механизмов модерации. Лицензия обозначена в метаданных как other; конкретные условия следует проверять на странице репозитория.

DeepSeek-Coder-V2-Base — базовая языковая модель для кода, разработанная DeepSeek. Это продолженное предобучение промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов; модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2. Для данного репозитория в метаданных указаны 18,1 млрд параметров, а контекст составляет до 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки кода в заданный фрагмент, а также для задач программирования и математических рассуждений. README заявляет поддержку 338 языков программирования и сохранение возможностей для общих языковых задач; её можно запускать через Transformers и vLLM. Это базовая, а не instruct-версия, поэтому README не описывает её как специально настроенную для следования пользовательским инструкциям. В README указана лицензия, но её тип в доступных данных не раскрыт; перед использованием следует проверить условия лицензирования в репозитории. Для запуска полной BF16-версии README приводит требование 8 GPU с 80 ГБ памяти каждая.

DeepSeek-Coder-V2-Lite-Base — базовая модель для генерации кода от DeepSeek. Она создана продолжением предобучения промежуточного чекпойнта DeepSeek-V2 на дополнительных 6 триллионах токенов. Модель использует архитектуру Mixture-of-Experts семейства DeepSeek-V2: в репозитории каталога указано 2,5 млрд параметров, а карточка семейства указывает для Lite-версии 16 млрд общих и 2,4 млрд активных параметров. Контекст модели по метаданным — 163 840 токенов. Модель предназначена для генерации и продолжения кода, вставки фрагментов кода, а также задач программирования и математических рассуждений. Семейство поддерживает 338 языков программирования; естественные языки в карточке не перечислены. К сильным сторонам относятся большой контекст и специализация на коде при сравнительно небольшом числе активных параметров. Это базовая, а не instruct-версия, поэтому её поведение в диалоге и следование инструкциям могут быть ограничены. Для локального инференса в BF16 README приводит требование 8 GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией в репозитории.

DeepSeek-Coder-V2-Lite-Base-IMat-GGUF — это GGUF-квантизованная версия базовой модели deepseek-ai/DeepSeek-Coder-V2-Lite-Base, подготовленная legraphista с использованием llama.cpp. Модель предназначена прежде всего для генерации текста и задач, связанных с программированием; в README она представлена как базовая, а не специализированная диалоговая модель. Доступны варианты в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других типах квантизации размером примерно от 6,43 до 31,42 ГБ. Для ряда компактных вариантов применена IMatrix-квантизация, призванная повысить качество по сравнению с обычным квантованием; доступны файлы IMatrix и версии для llama.cpp. Сведения об архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста в README не указаны. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска через совместимый стек GGUF/llama.cpp и компромисс между качеством, размером файла и требованиями к памяти. Более агрессивное квантование может снижать качество, а для работы требуются ресурсы, соответствующие выбранному варианту. Модель распространяется по лицензии deepseek-license; в карточке указано обозначение лицензии other и ссылка на файл LICENSE.

DolphinCoder StarCoder2 15B — языковая модель для генерации кода и диалоговой помощи в программировании, разработанная на базе StarCoder2-15B. Она дообучена методом qLoRA в течение трёх эпох на наборах данных для программирования и инструкционного диалога; в карточке указана архитектура StarCoder2 с 21,7 млрд параметров и контекстом 16 384 токена. Модель использует формат запросов ChatML и рассчитана прежде всего на англоязычные сценарии. Модель подходит для генерации и дополнения кода, ответов на вопросы по программированию и выполнения инструкций разработчика. Автор описывает её как uncensored и предупреждает о высокой готовности выполнять запросы, включая небезопасные; при предоставлении доступа через сервис рекомендуется добавить собственный слой фильтрации. Лицензия — BigCode OpenRAIL-M.

dolphincoder-starcoder2-7b-GGUF — это набор GGUF-квантизаций модели dolphincoder-starcoder2-7b, подготовленный bartowski с использованием llama.cpp. Исходная модель разработана cognitivecomputations; в README также указаны наборы данных, использованные при обучении или дообучении, включая cognitivecomputations/dolphin, cognitivecomputations/dolphin-coder, airoboros, OpenHermes, Magicoder и наборы задач по программированию и математике. Модель предназначена прежде всего для генерации и обработки текста, связанного с программированием, включая написание, дополнение и объяснение кода, а также выполнение инструкций в соответствующих сценариях. Заявлен английский язык. Архитектура исходной модели в README не описана, однако её размер составляет 7 миллиардов параметров согласно идентификатору. Мультимодальность и размер контекста не указаны. Главная особенность репозитория — несколько уровней квантизации для запуска через llama.cpp с различным компромиссом между качеством и требованиями к памяти: от Q8_0 размером 7,86 ГБ до Q2_K размером 2,91 ГБ. В README рекомендуется Q6_K как вариант с очень высоким качеством; версии Q3 и особенно Q2 обеспечивают меньший размер, но заметно теряют в качестве. Ограничения включают отсутствие сведений о поддерживаемых языках, контекстном окне и результатах бенчмарков. Модель распространяется по лицензии bigcode-openrail-m.

EpistemeAI-codegemma-2-9b — языковая модель EpistemeAI на архитектуре Gemma 2, дообученная на 122 тысячах инструкций по программированию. Она предназначена для генерации кода и текста по запросу, а также для диалоговых интерфейсов и работы с текстом. Для генерации рекомендуется формат запросов Alpaca; доступны веса PyTorch и safetensors. Модель содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Модель основана на unsloth/gemma-2-9b-bnb-4bit и дообучалась с использованием Unsloth и TRL. В карточке указана лицензия Apache-2.0, тогда как метаданные Hugging Face содержат лицензию Gemma; условия использования стоит сверить с актуальными условиями репозитория и базовой модели. Модель может выдавать ошибочные или устаревшие ответы, испытывать трудности со сложными инструкциями и нюансами языка, а также воспроизводить смещения из обучающих данных.

granite-20b-code-instruct-8k-GGUF — это инструкционная языковая модель для генерации и работы с программным кодом, созданная на базе ibm-granite/granite-20b-code-base-8k. Исходная модель разработана IBM Granite, а данная версия преобразована в формат GGUF пользователем Mungert с использованием llama.cpp. Модель предназначена для написания, объяснения и исправления кода, а также для задач, связанных с SQL, математикой, вызовом функций и ассистированием разработчикам. Модель содержит около 20 млрд параметров и поддерживает контекст до 8K токенов. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. В представленных результатах оценивается генерация, объяснение и исправление кода на Python, JavaScript, Java, Go, C++ и Rust. Показатели pass@1 находятся в диапазоне от 18,3% до 60,4%, однако результаты помечены как непроверенные, поэтому их следует рассматривать как ориентировочные. К сильным сторонам относятся специализация на программировании, поддержка нескольких языков разработки и возможность локального запуска через GGUF-совместимые инструменты. Версия использует дополнительное повышение точности отдельных слоёв при квантовании, что, по заявлению автора сборки, может улучшать качество при небольшом увеличении размера файла. Ограничения включают зависимость характеристик от выбранного варианта квантования, непроверенный статус приведённых бенчмарков и отсутствие данных о фактических требованиях к памяти и производительности. Лицензия модели — Apache 2.0.

Hermit Code 7B i1 GGUF — квантизированная версия модели Soloman2002/hermit-code-7b, подготовленная mradermacher. Модель ориентирована на генерацию текста и работу с программным кодом, включая сценарии coding-agent и instruction-tuned взаимодействия. В метаданных указаны английский язык и поддержка задач, связанных с Python, JavaScript, Rust и Go; модель работает только с текстом. Это модель класса 7B, распространяемая в формате GGUF с imatrix-квантизациями. Доступны варианты с разным соотношением размера, скорости и качества — от IQ1 и IQ2 до Q6_K; среди рекомендуемых README выделяет i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как оптимальный по размеру, скорости и качеству. Ключевые ограничения — неизбежная потеря качества у низкобитных вариантов, причём некоторые из них прямо обозначены как имеющие очень низкое качество. Размер контекста и точная архитектура в README не указаны. Модель распространяется по лицензии Apache-2.0.

Huihui-Qwen3.6-35B-A3B-abliterated-NVFP4 — квантованная версия модели Huihui-Qwen3.6-35B-A3B-abliterated, созданной huihui-ai на базе Qwen. Квантование NVFP4 выполнено Lna-Lab с использованием llm-compressor. Это мультимодальная MoE-модель для генерации текста и работы с изображениями, ориентированная прежде всего на агентное программирование, локальные AI-агенты, вызов инструментов и исследовательские сценарии. Модель содержит 35 млрд параметров, из которых при обработке активны около 3 млрд; используется архитектура Qwen3.5 MoE с 256 экспертами, гибридом Gated DeltaNet и attention, а также 8 маршрутизируемыми и одним общим экспертом. Поддерживается контекст до 262 144 токенов с возможностью расширения до 1 млн токенов. Визуальная часть сохранена в формате BF16. Заявлены результаты SWE-bench Verified 73,4 и Terminal-Bench 2.0 51,5, а скорость генерации достигает примерно 168 токенов в секунду на одной NVIDIA RTX PRO 6000 Blackwell. Ключевые преимущества — высокая скорость благодаря разреженной MoE-архитектуре, компактный размер около 21,9 ГБ, мультимодальность и сохранение возможностей для агентного кодинга. Ограничения связаны с аппаратной и программной совместимостью: требуется GPU NVIDIA Blackwell с поддержкой SM 120, около 22 ГБ видеопамяти и nightly-версия vLLM с CUDA 13.0; на Ampere и Hopper модель не работает. Модель abliteration обозначена как нецензурируемая, поэтому её следует использовать ответственно. Лицензия — Apache-2.0.

Kiwen1.1-27B-align — дообученная beyoru модель на базе Qwen3.8-27B, предназначенная для диалогов с изображениями, генерации кода и следования системным инструкциям. Это плотная мультимодальная архитектура Qwen; модель поддерживает работу с изображениями и интерфейс вызова инструментов. В README приведён запуск с контекстом 262144 токена и использование режимов рассуждения и без рассуждения. Автор сообщает об улучшении HumanEval+ на 6,7 процентного пункта относительно базовой модели и небольшом улучшении GSM8K и строгой точности IFEval на уровне инструкций. Модель также обучали для устойчивого распознавания собственной идентичности и сохранения заданной системным сообщением роли. Проверки идентичности проводились на внутреннем наборе промптов на вьетнамском и английском языках. Среди ограничений — снижение результата MMLU-Pro на 1,4 пункта относительно базы и MBPP на 1,9 пункта; README рекомендует оценивать модель перед использованием в задачах, требующих широких фактических знаний. Лицензия — Apache-2.0.

OsaurusAI/Laguna-M.1-JANG_2L — сборка модели Poolside Laguna-M.1, квантованная Osaurus в профиль JANG_2L. Это MoE-модель для генерации текста и агентного программирования; в карточке указаны 225 млрд параметров и 23 млрд активных параметров, тогда как метаданные каталога приводят 17,1 млрд. Контекст — до 262 144 токенов. Модель поддерживает диалог и интерфейс вызова инструментов. Профиль JANG_2L использует 2-битное affine-квантование gate/up, 3-битное down, 6-битные shared/dense слои и 8-битные attention и embedding/head; размер сборки около 81 ГБ. Для запуска требуется Laguna-совместимая среда, например Osaurus или vMLX, поскольку архитектура не поддерживается стандартными загрузчиками. Базовая модель предназначена для работы с кодом и длительных задач с инструментами. Лицензия — Apache-2.0.

Карточка модели Ishowbackup/Laguna-S-2.1 на Hugging Face совпадает с карточкой poolside/Laguna-S-2.1, поэтому описание составлено по ней. Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.

MadWizard-SFT-v4-Mistral-7b-v0.3 — разговорная модель на архитектуре Mistral, дообученная Lumpen1 методом QLoRA на протяжении двух эпох на наборе Lumpen1/MadWizardSFT-v0.3-with-coding-chatml42 с шаблоном ChatML. Она предназначена для генерации ответов в диалогах и задач с кодом. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — до 32 768 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

NousCoder-14B-GGUF — это квантизированные версии языковой модели NousCoder-14B, разработанной NousResearch и подготовленные bartowski в формате GGUF с использованием llama.cpp. Модель предназначена прежде всего для генерации и анализа программного кода, решения задач программирования и работы в локальных средах запуска, включая llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. В README также указаны наборы данных, связанные с генерацией кода и задачами LiveCodeBench, использованные для базовой модели или её подготовки. Модель имеет размер 14 миллиардов параметров; точные сведения об архитектуре, поддерживаемых языках программирования и длине контекста в README не указаны. Доступны варианты от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы многие варианты Q4–Q6; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а менее точные Q3 и Q2 подходят главным образом при ограниченных ресурсах. Сильными сторонами являются возможность локального запуска, широкий выбор квантований и совместимость с популярными инструментами инференса. Ограничения связаны с компромиссом между размером и качеством при использовании квантованных версий, а также с тем, что некоторые форматы могут требовать обновления программного обеспечения. Модель и представленные квантизации распространяются по лицензии Apache-2.0.

PLaMo 3 NICT 2604 31B Base — базовая авторегрессионная языковая модель с 31 млрд параметров, разработанная Preferred Networks совместно с Национальным институтом информационных и коммуникационных технологий Японии (NICT). Модель дистиллирована из модели на 120 млрд параметров и использует гибридную архитектуру с оконным вниманием SWA и традиционными слоями внимания. Для запуска поддерживается библиотека Transformers и vLLM. Модель предназначена для генерации текста на английском и японском языках, включая работу с кодом. Она обучена на 1,5 трлн токенов; контекстное окно в карточке не приведено. Это базовая модель, поэтому для диалоговых и прикладных сценариев может потребоваться дополнительная настройка. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением нужны тестирование и настройка безопасности под конкретное применение. Распространяется по лицензии PLaMo Community License. Для коммерческого использования разработчик просит ознакомиться с лицензией и связаться с ним.

Pyrex-8B-Instruct-Uncensored — дообученная модель для генерации кода и задач разработки ПО, опубликованная ImposterOnline. В карточке она описана как модель класса 8B с архитектурой Transformer и компонентами RoPE, SwiGLU, RMSNorm и GQA; метаданные Hugging Face указывают архитектуру Qwen2, 7,1 млрд параметров и формат safetensors. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Заявленная длина контекста — 32 768 токенов, при этом обучение проводилось на последовательностях длиной 4 096 токенов. Модель предназначена для генерации кода, многошаговой отладки и сценариев агентного программирования с вызовом функций. В README приведены результаты HumanEval и MBPP; качество на других задачах не установлено этими оценками. Модель дообучена методом QLoRA на смесях наборов данных для программирования и вызова функций. Лицензия — MIT. В карточке модель названа uncensored и заявлено отсутствие встроенных фильтров безопасности. Автор рекомендует проверять выходы в изолированной среде перед использованием в критичных системах; качество на контекстах длиннее 4 096 токенов не проверено. Метаданные и README расходятся в числе параметров (7,1B и 7,6B соответственно), поэтому точный размер следует считать неоднозначным.