II.5Безопасность программного кода и цепочки поставок

MidnightCoder-30B — GGUF-сборка модели Qwen3-Coder-30B-A3B-Instruct, подготовленная проектом Midnight Coder для локального запуска в llama.cpp, Ollama и других совместимых средах. Она предназначена для работы в помощниках по программированию и агентных сценариях, а также для обычных задач разработки ПО. Базовая модель разработана командой Qwen (Alibaba); эта сборка не является официальным выпуском Qwen или Alibaba. Модель помогает следовать спецификациям и инженерному процессу: планировать изменения, писать и проверять код, разбирать большие кодовые базы, отлаживать и рефакторить программы, проектировать API и SQL, создавать тесты и документацию. В метаданных указаны архитектурное семейство Qwen3-Coder и задача генерации текста; README рекомендует контексты 8K–32K для проектов разного размера, но нативную длину контекста не приводит. Репозиторий распространяет модель в формате GGUF. Требования к памяти зависят от квантизации, размера контекста, точности KV-кэша и настроек среды запуска; понижение квантизации уменьшает расход памяти и может снижать качество. Ответы могут содержать ошибки, поэтому сгенерированный код следует проверять, особенно в задачах безопасности. Лицензия репозитория — Apache-2.0.

Muse-Glimmer-30B-assistant — лёгкая модель-планировщик Muse Glimmer от Meta Superintelligence Lab, выпущенная в августе 2026 года. Это версия на базе DFlash для ускорения генерации: она предлагает блоки по 16 токенов за один проход, после чего основная модель проверяет их и исправляет ошибки. В README основная Muse Glimmer описана как плотный причинный трансформер с энкодером восприятия, дистиллированный из Muse Spark и рассчитанный на локальную работу; однако метаданные этого репозитория указывают 2,5 млрд параметров, поэтому размер именно загруженной модели расходится с описанием основной модели на 30 млрд параметров. Модель предназначена для мультимодального общения и агентных сценариев: интерпретации изображений, снимков экрана, диаграмм и документов, планирования последовательности действий, вызова инструментов, программирования, генерации синтетических данных и оценки ответов других моделей. Метаданные указывают задачу image-text-to-text, библиотеку Transformers, формат Safetensors и контекст 131 072 токена. README сообщает, что аудио не поддерживается; видео не является целевой модальностью и обрабатывается покадрово. Языки, на которых модель особенно хорошо работает, не перечислены. Модель может ошибаться в многошаговых рассуждениях, выдавать предвзятые или нежелательные ответы; качество на языках за пределами хорошо поддерживаемого набора может снижаться. Для агентных систем автор рекомендует собственные проверки безопасности и дополнительные ограничения, особенно перед необратимыми действиями. Лицензия — Apache 2.0.

Nail-Qwen3.6-35B-A3B-GGUF-MTP — это GGUF-квантизация базовой модели Qwen/Qwen3.6-35B-A3B, опубликованная peculiar-ragdoll. Модель ориентирована на reasoning, многошаговые диалоги, агентную разработку программного обеспечения и генерацию кода. В сборку включены улучшенный chat template, встроенный системный промпт и тензоры multi-token prediction (MTP), предназначенные для ускорения генерации посредством speculative decoding. Модель построена на архитектуре Mixture-of-Experts: заявленный размер — 35B параметров при 3B активных параметров. Указаны языки English и Chinese, а нативное контекстное окно составляет 262 144 токена. Формат GGUF рассчитан прежде всего на локальный запуск, включая llama.cpp и совместимые среды. При поддержке MTP возможное ускорение зависит от runtime и конфигурации; для llama.cpp требуется свежая сборка с поддержкой draft-MTP, тогда как обычные релизы могут работать без ускорения. Заявлены высокая скорость ответа, эффективность использования памяти и пригодность для длительных агентных сессий, однако приведённые результаты получены на ограниченном наборе тестов и конкретной конфигурации Mac Studio M2 Ultra. Модель распространяется по лицензии Apache-2.0. Ограничения включают зависимость производительности от аппаратного обеспечения, версии runtime, квантизации и поддержки MTP. Заявления о превосходстве над другими моделями основаны на бенчмарках автора и не гарантируют аналогичных результатов во всех задачах.

Карточка модели NaiveAI/Naive-N0.5-Flash-FP8-Draft на Hugging Face совпадает с карточкой NaiveAI/Naive-N0.5-Flash, поэтому описание составлено по ней. Naive-N0.5-Flash — открытая модель с архитектурой Mixture-of-Experts от разработчиков NaiveAI, предназначенная для программирования и исследований в области ИИ. Карточка описывает продолжение обучения на базе MiMo-V2.5 с архитектурными изменениями; модель обучалась на 3,25 трлн токенов, включая адаптацию к разреженному вниманию. В README указаны 309 млрд параметров всего и 15,5 млрд активных, тогда как метаданные Hugging Face сообщают 12 млрд параметров; эти сведения расходятся. Архитектура внимания сочетает Sliding-Window Attention с окном 128 токенов и DeepSeek Sparse Attention, выбирающим до 2048 токенов. Заявлено нативное контекстное окно в 1 048 576 токенов. Модель принимает текст и генерирует текст, в том числе код; для инференса README указывает поддержку FP8 и необходимость совместимого оборудования NVIDIA. Модель подходит для задач разработки программного обеспечения, агентных сценариев и исследований ИИ. В README заявлены оптимизации скорости в системе NaiveRT, но их показатели относятся к этой системе инференса. Веса и код выпущены под лицензией MIT.

cyankiwi/Ornith-1.5-9B-AWQ-INT4 — квантизированная версия Ornith-1.5-9B, разработанной командой Ornith AI и опубликованной пользователем cyankiwi. Это плотная языковая модель примерно на 9 млрд параметров для генерации текста, ориентированная на эффективное развёртывание на одной GPU; заявлена также возможность запуска на периферийных устройствах в отдельной мобильной версии. Данная сборка использует квантизацию AWQ с точностью INT4 и имеет размер около 8,99 ГБ. Модель предназначена для программирования, агентских сценариев, решения STEM-задач и общего текстового вывода. В карточке указана калибровка на данных STEM and Agentic, а среди поддерживаемых языков перечислены английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский. Архитектура мультимодальности и размер контекстного окна не указаны. К сильным сторонам относятся компактность, возможность эффективного локального запуска и результаты, приведённые для задач работы с терминалом и кодом. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных сведений о контекстном окне, фактической производительности на разных устройствах и ограничениях применения. Модель распространяется по лицензии MIT.

Ornith-1.5 Cyclos 1M Uncensored GGUF — это квантованная Q4_K_M-версия LoRA-файнтюна модели Ornith-1.5-35B-A3B. Репозиторий abhaymin содержит изменения файнтюна, расширение контекста и квантование; базовая архитектура, постобучение, визуальный модуль и основные возможности разработаны командой Ornith. Модель основана на семействе Qwen3.5 и использует архитектуру Mixture-of-Experts с заявленным размером 35B-A3B. Для работы с изображениями и видео требуется отдельный vision projector в формате F16. Модель предназначена для программирования, агентских сценариев, анализа рынков и трейдинга, классификации контента, вызова инструментов и работы с изображениями и видео. Файнтюн ориентирован на coding, market/trading analysis, content classification и tool/function calling. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN, однако длина в 1M токенов является экстраполяцией и не прошла валидацию: качество может снижаться за пределами исходного окна. Поддержка аудио отсутствует; для аудиодиалогов требуется внешний ASR, например Whisper. Модель распространяется под лицензией Apache-2.0. GGUF-файлы протестированы с llama.cpp, Ollama и LM Studio; для изображений и видео необходимы оба GGUF-файла — модели и vision projector. vLLM с GGUF в указанной конфигурации не работает из-за отсутствия адаптера для гибридной архитектуры, хотя BF16-версия поддерживается с выгрузкой части весов в оперативную память. Ограничения также включают потери качества из-за квантования Q4_K_M, отсутствие заявленных бенчмарков для этой сборки и унаследованное от базовой модели снижение отказов, которое не гарантирует выполнение любого запроса.

Карточка модели Taewhoo/qwen3.6-27b-proteomics-rl-step10 на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Uncensored-Heretic-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-VL-MTP-GGUF — экспериментальная модель в формате GGUF, опубликованная nerkyor на основе Merkyor/Qwen3.6-27B-DSV4Pro-Thinking-Distill и производной от Qwen3.6-27B DSV4Pro / GLM-5.2 SFT / GPT-5.5 RL Coding. Это плотная модель с 27 млрд параметров, ориентированная прежде всего на программирование, рассуждения, диалог и исследование снижения склонности к отказам. Заявлены поддержка английского и китайского языков, а также мультимодальный сценарий image-text-to-text через отдельный vision-language projector. Основной GGUF-файл предназначен для генерации текста и является единственным обязательным артефактом. Дополнительный mmproj подключает обработку изображений, а MTP draft GGUF может использоваться как боковая модель для speculative decoding. Доступны варианты квантования от Q3 до Q8 и исходный BF16; конкретный контекст в предоставленных данных не указан, однако для некоторых тестов упоминается режим 32K. Модель демонстрирует сильные результаты на MMLU, GPQA и LiveCodeBench: для варианта Q8 указаны 91,2% на MMLU500, 85,35% на GPQA198 и 81/100 на LCB100. Все заявленные GGUF-варианты показали нулевой показатель жёстких отказов на 140 тестовых запросах, но это исследовательский прокси, а не подтверждение безопасности или универсальной корректности. Ограничениями являются экспериментальный характер, возможные ошибки и зависимость качества от уровня квантования; модель не предназначена для неконтролируемой высокорисковой автоматизации. Лицензия указана как other, без дополнительных условий в предоставленной карточке.

Qwen3-Coder-30B-A3B-Instruct-NVFP4 — это квантизированная в формате NVFP4 версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанная на базе модели Qwen. Квантизация выполнена с использованием llm-compressor версии 0.8.1 по официальному примеру для Qwen3-30B-A3B. Модель предназначена прежде всего для генерации и обработки программного кода, а также выполнения инструкций общего назначения. Для калибровки квантизации использованы 512 примеров: 336 образцов кода из CodeSearchNet на Python, JavaScript, Java, Go, PHP и Ruby и 176 инструкционных примеров из UltraChat. Длина последовательности при калибровке увеличена до 4096 токенов. Архитектура указана как MoE, общий размер модели — 30B параметров, из которых активируется около 3B параметров. Ключевое преимущество модели — сниженное потребление памяти и потенциально высокая скорость инференса благодаря NVFP4-квантизации, с настройками калибровки, адаптированными для задач программирования. Ограничения включают возможные сложности запуска в vLLM, необходимость совместимого GPU с архитектурами SM100 или SM120 и компиляции FP4-ядер; для RTX 5090 также возможны высокие требования к оперативной памяти при компиляции. Модель распространяется по лицензии Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-GGUF — инструкция-ориентированная текстовая модель для генерации кода и работы с запросами на естественном языке. Базовую модель Qwen3-Coder-30B-A3B-Instruct разработала команда Qwen, а представленные файлы в формате GGUF подготовлены и квантизированы TensorBlock. Модель предназначена для локального запуска и совместима с llama.cpp начиная с указанного коммита. Доступны варианты квантизации от Q2_K до Q5_0 с размером файлов примерно от 11,3 до 21,1 ГБ. В README указано обозначение 30B-A3B, однако подробности архитектуры, число активных параметров, поддерживаемые языки, контекстное окно и мультимодальные возможности не описаны. Варианты квантизации позволяют выбирать между меньшим потреблением памяти и качеством; рекомендуемым назван Q4_K_M как сбалансированный по размеру и качеству, тогда как Q2_K и некоторые Q3-варианты имеют существенные потери качества. Модель подходит для программирования, генерации и редактирования кода, а также для локальных приложений, использующих текстовую генерацию. Ограничения связаны с потерями качества при низкой квантизации и отсутствием в предоставленных данных сведений о производительности, языковом покрытии и максимальной длине контекста. Распространение заявлено по лицензии Apache-2.0.

Tiel-Coder-35B-A3B-Genesis-Hermes-NVFP4-GGUF — это квантизированная в формате GGUF модель LuffyTheFox, созданная на базе Tiel-Coder-35B-A3B с переносом данных Hermes-файнтюнинга от DJLougen и последующей обработкой алгоритмом Genesis. Модель использует архитектуру Mixture of Experts: около 35 млрд параметров всего и примерно 3 млрд активных параметров на токен; заявлено 8 активных экспертов. Квантизация выполнена в формате NVFP4, то есть NVIDIA 4-bit Floating Point. Модель предназначена для агентного программирования, точной генерации кода, задач с вызовом инструментов в формате Hermes, рассуждений в режиме Thinking и мультимодальных сценариев с изображениями. Заявлена поддержка английского, китайского и других языков. В примере конфигурации указан контекст до 128K токенов. Для совместимости с Hermes Agent рекомендуется использовать JSON-формат вызовов инструментов через параметр tool_call_format, поскольку шаблон чата может по умолчанию формировать XML-вызовы. Сильными сторонами модели являются MoE-архитектура с относительно небольшим числом активных параметров, поддержка программирования, инструментов, рассуждений и vision, а также ориентация на стабильную генерацию после постобработки Genesis. Ограничения связаны с использованием низкобитной NVFP4-квантизации, возможными требованиями к совместимому ПО и оборудованию, а также необходимостью корректно настроить шаблон чата и параметры сэмплирования. Репозиторий распространяется по лицензии MIT.

Tiel-Inspired-Coder-9B-GGUF — независимая GGUF-версия модели Ornith-1.5-9B, подготовленная автором репозитория VitreousCut с использованием методики peculiar-ragdoll. Веса не дообучались: применены пользовательская imatrix для динамической квантизации и встроенный Sharp chat template. Модель предназначена прежде всего для генерации и анализа кода, решения задач программирования и рассуждений; базовая модель имеет размер 9B параметров. Поддерживаются английский и китайский языки, основной режим работы — text generation. В каждый файл встроен Sharp template qwen3.8-froggeric-v22.4.1, который включает рассуждения по умолчанию, настраиваемую интенсивность рассуждений и директиву краткости. Доступны варианты квантизации от IQ4_XS до Q8_0 размером примерно от 5,0 до 9,2 ГБ. В README приведены результаты HumanEval: Pass@1 93,3% в основном запуске и 95,1% после повторного запуска части заданий с увеличенным бюджетом. Для запуска рекомендуются llama.cpp и контекст 32768 токенов. Главное ограничение — склонность к чрезмерно длительным рассуждениям: на сложных или неоднозначных задачах модель может израсходовать весь лимит токенов, не выдав код. Для большинства сценариев рекомендуется reasoning_effort: low; режимы medium и high подходят для задач, где допустимы более долгие рассуждения. Модель распространяется по лицензии MIT.

CodeLlama 7B Python GGUF — это квантизированная версия языковой модели CodeLlama 7B Python, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода, решения задач программирования и работы с запросами, требующими написания Python-кода. Это текстовая модель архитектуры Llama с 7 миллиардами параметров; заявленный язык — code, а поддерживаемые модальности ограничены текстом и кодом. Размер контекста в представленных данных не указан. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Ограничения включают возможное снижение качества из-за квантизации, отсутствие в README данных о результатах тестирования и точных требованиях к ресурсам. Модель распространяется по лицензии Llama 2.

Codestral-22B-v0.1-GGUF — GGUF-квантизированная версия специализированной кодовой модели Codestral-22B-v0.1, разработанной Mistral AI. Квантизацию подготовил bartowski на основе llama.cpp, а модель опубликована для использования в LM Studio. Модель предназначена для генерации, дополнения и объяснения программного кода. Она поддерживает диалоговые запросы по инструкции и режим Fill in the Middle (FIM), позволяющий предсказывать пропущенный фрагмент между заданными префиксом и суффиксом. Обучение проводилось на данных более чем по 80 языкам программирования, включая Python, Java, C++, JavaScript и Bash. Размер модели составляет 22 млрд параметров; поддерживаемая модальность — текст. Сильные стороны модели — специализация на программировании, сочетание инструкционного режима и FIM, а также широкий охват языков программирования. README не содержит точных сведений о размере контекста, требованиях к памяти, результатах бенчмарков и ограничениях качества, поэтому эти характеристики нельзя определить по представленным данным. В карточке указана лицензия Apache-2.0, а также приведена ссылка на MNPL-0.1 от Mistral; условия использования следует уточнять по исходной лицензии и документации разработчика.

DeepSeek-Coder-V2-Lite-Instruct-IMat-GGUF — это набор GGUF-квантизованных версий модели DeepSeek-Coder-V2-Lite-Instruct, подготовленный legraphista с использованием llama.cpp. Исходная модель имеет формат BF16, а представленные варианты включают BF16, FP16 и уровни квантизации от Q8_0 до 1-битных форматов. Для ряда вариантов применена IMatrix-квантизация на основе указанного калибровочного набора данных. Модель предназначена для генерации текста и, прежде всего, для задач программирования и диалогового использования в совместимых средах, включая llama.cpp. Доступны файлы размером примерно от 6,43 до 31,42 ГБ; конкретный объём зависит от выбранного формата. GGUF-варианты позволяют выбирать компромисс между качеством, требованиями к памяти и скоростью работы, однако README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста. Лицензия указана как deepseek-license; дополнительные условия находятся в файле LICENSE. README не приводит подробностей о сравнительных преимуществах, известных ограничениях или результатах оценки, поэтому качество и пригодность конкретного варианта следует оценивать с учётом выбранного уровня квантизации и используемой аппаратной конфигурации.

Gemini 3.6 Flash — высокоэффективная модель Google для программирования, агентных сценариев, а также разработки веб-приложений и приложений. Карточка описывает её как инструмент для создания качественных результатов с меньшим числом лишних правок. Метаданные каталога классифицируют модель как image-text-to-text. В доступных материалах не приведены сведения об архитектуре, размере, языках, контекстном окне и лицензии, поэтому их нельзя уточнить. Карточка также не описывает ограничения модели.

gl-agent-1-27b — плотная языковая модель на 27 млрд параметров семейства Qwen3.5, дообученная для длительных агентных задач. Она предназначена для диалоговых сценариев, где модель планирует и выполняет последовательности действий, включая вызов инструментов и задачи программирования. Вызовы инструментов формируются в XML и требуют соответствующего парсера Qwen3 в vLLM; режим рассуждения включён по умолчанию. Модель поддерживает контекст длиной 262 144 токена, расширяемый до 1 000 000 токенов с YaRN. Веса включают голову multi-token prediction для спекулятивного декодирования без отдельной черновой модели. В README приведены настройки запуска через vLLM; результаты бенчмарков пока отсутствуют, поэтому качество и выигрыш в скорости следует оценивать на целевом оборудовании. Карточка указывает лицензию Apache-2.0.

Llama-3-11.5B-Instruct-Coder-v2-GGUF — это текстовая instruction-модель для генерации кода и выполнения запросов в формате диалога. Исходная модель опубликована rombodawg; в качестве базовой указана Replete-AI/Llama-3-11.5B-Instruct-V2. GGUF-квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации, дополнения и объяснения программного кода, а также для общих текстовых задач в сценариях, где требуется локальный запуск через llama.cpp или совместимые инструменты. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q5_K_M, Q5_K_S и ряд вариантов Q4. Модель имеет около 11,5 млрд параметров, работает с текстом и использует формат диалога Llama 3 с системными и пользовательскими сообщениями. Заявлен английский язык; сведения о поддерживаемом контексте, мультимодальности и точных архитектурных деталях не приведены. При сильном сжатии качество снижается, особенно у низкобитных вариантов, поэтому выбор квантизации является компромиссом между потреблением памяти и точностью. Указана лицензия Apache-2.0.

Millie-35B-A3B-11GB — мультимодальная MoE-модель для программирования и агентных сценариев, опубликованная llmsforall. Она основана на архитектуре Qwen3.5-35B-A3B и производна от Agents-A1. Всего в модели 35 млрд параметров, из которых на каждый токен активны около 3 млрд; заявленная длина контекста — 262 тыс. токенов. Модель принимает текст и изображения. Веса сжаты примерно до 2,2 бита на параметр, а файлы GGUF занимают около 10,9 ГБ вместе с визуальным проектором. Для запуска требуется форк llama.cpp от llmsforall с поддержкой этого формата и файл mmproj для обработки изображений; upstream-версия llama.cpp не подходит. Выпуск распространяется по лицензии Apache-2.0.

MiniCPM5-1B-SFT — контрольная точка модели серии MiniCPM5 от OpenBMB, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM: в метаданных указано 837,6 млн параметров, а карточка сообщает о 24 слоях и 16 головах запросов и 2 головах ключей и значений. Модель принимает текст и выдаёт текст; контекст — до 131 072 токенов. Карточка модели указывает английский и китайский языки. SFT-чекпойнт предназначен для локальных помощников, генерации кода, агентных сценариев с вызовом инструментов и сложных рассуждений. В серии предусмотрены режимы ответа с рассуждением и без него; этот вариант обучен только методом SFT и предшествует этапам RL и OPD. Поддерживаются запуск через Transformers, vLLM и SGLang, а также дообучение с помощью ресурсов проекта. Заявления карточки о сравнительных результатах относятся к указанному в ней набору моделей и бенчмарков. Модель распространяется под лицензией Apache-2.0. Она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно перед применением в ответственных сценариях.

OpenThinker-Agent-v1-GGUF — набор GGUF-квантизаций модели OpenThinker-Agent-v1, разработанной командой open-thoughts и подготовленной пользователем bartowski с использованием llama.cpp и imatrix-калибровки. Модель ориентирована на агентские сценарии, работу с терминалом, генерацию кода и задачи software engineering. Обучение связано с датасетами OpenThoughts-Agent-v1-SFT и OpenThoughts-Agent-v1-RL. Модель предназначена для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 размером 16,39 ГБ до низкобитных квантизаций, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3_K; конкретный размер и качество зависят от выбранного файла. Для взаимодействия используется chat-шаблон с маркерами system, user и assistant. Данные о точной архитектуре, числе параметров, поддерживаемых языках и размере контекста в README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и оптимизация вариантов imatrix для сохранения качества при уменьшении размера. Более компактные варианты подходят для систем с ограниченной памятью, но могут уступать старшим версиям по качеству. Модель распространяется по лицензии Apache-2.0.

Ornith-1.0-35B-FP8 — это квантизированная версия модели DeepReinforce Ornith-1.0-35B, подготовленная и проверенная командой protoLabs. Модель представляет собой гибридную MoE-архитектуру Qwen3.5-35B-A3B с механизмами рассуждения и самоскэффолдинга, ориентированную прежде всего на агентное программирование. Она поддерживает генерацию текста, рассуждения, работу с инструментами и мультимодальные сценарии с изображениями и видео. Модель использует блочную FP8-квантизацию E4M3 с блоками 128×128 и динамическим квантованием активаций по токенам. Квантизированы экспертные FFN-слои и проекции внимания, тогда как критичные компоненты, включая SSM-линейное внимание, маршрутизатор MoE, эмбеддинги, нормализации и vision tower, сохранены в bf16. Полный контекст составляет 256K токенов. Размер обслуживаемой модели — около 35 ГБ; она рассчитана на одну видеокарту с 80–96 ГБ памяти и проверена с vLLM. Сильные стороны модели — пригодность для агентного кодирования, рассуждений, длинного контекста, многоязычной генерации и вызова инструментов при производительности, близкой к исходной bf16-версии. Ограничения включают требования к мощной GPU, зависимость от совместимого стека vLLM и remote code, а также возможную небольшую потерю качества при квантизации: в приведённых однократных тестах показатель генерации кода составил 0,975 против 1,00, а успешность function call — 89% против 93%. Модель распространяется по лицензии MIT; авторство базовой модели принадлежит команде DeepReinforce, а protoLabs добавила FP8-квантизацию.

Polaris-V1 — открытая 4-миллиардная dense causal language model, разработанная NitrAI Research и представленная как NitrAI Lab. Это дообученная версия Qwen/Qwen3.5-4B, выровненная с помощью reinforcement learning с наградами за многофайловый синтез кода и проверку теорем. Модель предназначена для генерации и анализа программного кода, сложного рассуждения, автономных агентных сценариев и задач, связанных с исправлением программных проектов. Модель поддерживает английский и китайский языки, работает в режиме text generation и имеет контекстное окно до 1 592 638 токенов с масштабированием RoPE через YaRN. Заявлены требования от 3,2 ГБ VRAM для Q4_K_M до 8,4 ГБ для FP16, что позволяет запускать её на потребительских GPU и Apple Silicon. Поддерживаются Transformers, Ollama и llama.cpp/GGUF; также заявлено спекулятивное декодирование со скоростью 540–720 токенов в секунду при использовании Qwen3.5-0.8B-Draft. Сильные стороны Polaris-V1 — сочетание компактного размера, локального запуска, большого контекстного окна и специализации на программировании и агентном рассуждении. В README указаны результаты: 31,4% Pass@1 на SWE-bench Verified, 38,5% Task Completion Rate на WildClawBench и 26,8% Pass@1 на DeepSWE. Ограничения включают сравнительно небольшой размер и узкую специализацию по сравнению с более крупными моделями, а также отсутствие подробных сведений о качестве на других задачах, фактической эффективности длинного контекста и ограничениях аппаратной совместимости. Модель распространяется по лицензии Apache 2.0.

Qwable-9B-Claude-Fable-5-GGUF — семейство GGUF-квантизованных версий модели Qwable-9B-Claude-Fable-5, разработанной Empero. Модель создана на базе Qwen3.5-9B с полным дообучением параметров на трассах агентного программирования и рассуждений, дистиллированных из Claude Fable 5 и GPT-5.5 terminal agent. Распространяется для запуска через llama.cpp, Ollama, LM Studio и другие GGUF-совместимые среды. Модель предназначена прежде всего для программирования, терминальных и агентных сценариев, технического рассуждения и работы с инструментами. Она мультимодальная: поддерживает текст и изображения, однако для обработки изображений требуется отдельный vision projector mmproj с CLIP vision encoder. Основной язык — английский. Архитектура унаследована от Qwen3.5-9B и включает гибридный стек внимания с чередованием Gated DeltaNet linear attention и Gated full attention; заявлен длинный нативный контекст и словарь примерно из 152 тысяч токенов. Доступны варианты от BF16 до Q4_K_M размером примерно от 17 до 5,3 ГБ. Сильные стороны модели — готовое поведение для coding и agentic-задач, включая работу с терминалом и отдельные проявления security-aware подхода. По заявленной качественной проверке 27 из 34 ответов были признаны корректными и чистыми, однако полноценный набор бенчмарков ещё не опубликован. Ограничения включают меньшую надёжность в общих знаниях и длинных фактологических ответах, возможное снижение качества в низких квантизациях и отсутствие дополнительной safety-настройки. Ответы начинаются с блока <think>, который рекомендуется удалять перед показом пользователю. Модель распространяется по лицензии Apache-2.0; при использовании следует учитывать происхождение обучающих данных и организовать собственную проверку безопасности.

unsloth/Qwen3.6-35B-A3B-NVFP4-Fast — квантованный чекпойнт семейства Qwen3.6, разработанный Unsloth на базе Qwen/Qwen3.6-35B-A3B. Это каузальная языковая модель с vision encoder, предназначенная для генерации текста, мультимодальных задач и особенно для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория. Модель поддерживает сохранение контекста рассуждений из предыдущих сообщений. Языки в README не указаны. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена; предусмотрены 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий. Архитектура включает Gated DeltaNet и Gated Attention, 40 слоёв, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. Чекпойнт содержит модуль Multi-Token Prediction, который может использоваться для ускорения декодирования. Квантование выполнено в формате NVFP4 и откалибровано на смеси наборов Unsloth и UltraChat. К сильным сторонам относятся сниженные требования к видеопамяти, заявленная совместимость с GPU от 32 ГБ, высокая скорость инференса в рекомендованных конфигурациях vLLM и результаты, близкие к FP8 и BF16 на приведённых тестах MMLU-Pro, GPQA и AIME 2025. Ограничения связаны с потерями точности и особенностями производительности, возможными из-за NVFP4-квантования, а также с зависимостью скорости от совместимого оборудования и backend. README не приводит подробных данных о мультимодальных возможностях, языках и расширенной длине контекста. Модель распространяется по лицензии Apache-2.0. Веса и конфигурации представлены в формате Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers.

Qwen3-Coder-30B-A3B-Instruct-GGUF — это набор квантизированных версий языковой модели Qwen3-Coder-30B-A3B-Instruct, разработанной командой Qwen и подготовленной в формате GGUF пользователем или организацией Dhptl с использованием quant-kit. Модель предназначена для текстовой генерации и диалогового взаимодействия, включая локальное использование через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. Основной профиль модели — задачи программирования и работы с текстом, однако конкретные результаты исходной модели следует уточнять в её оригинальной карточке. Модель имеет архитектуру Qwen3 MoE и обозначение 30B-A3B, что указывает на общий размер около 30 миллиардов параметров и примерно 3 миллиарда активных параметров на токен. Доступны варианты квантизации Q2_K, Q3_K, Q4_K, Q5_K, Q6_K и Q8_0 размером примерно от 10,49 до 30,25 ГБ. Рекомендуемым вариантом назван Q4_K_M как компромисс между размером и качеством; более высокие варианты требуют больше оперативной памяти, но ближе к качеству исходной модели. В README указан английский язык, поддержка других языков не описана. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантизации и снижение требований к памяти по сравнению с полноточной версией. Ограничения связаны с потерей качества при сильной компрессии, особенно в вариантах Q2 и Q3, а также с отсутствием в README фактических результатов бенчмарков, сведений о размере контекста и подробного описания мультимодальности. Модель распространяется по лицензии Apache-2.0.

btbtyler09/Qwen3-Coder-Next-GPTQ-4bit — квантизированная версия Qwen3-Coder-Next, разработанного командой Qwen и дополнительно подготовленного пользователем btbtyler09. Это языковая модель для генерации кода, общего чата и сценариев с вызовом инструментов, предназначенная для запуска в средах инференса vLLM и SGLang. Модель использует архитектуру Qwen3NextForCausalLM с гибридом линейного и полного внимания, включая DeltaNet. Она построена по схеме Mixture-of-Experts: содержит около 80 млрд параметров, из которых примерно 3 млрд активируются для каждого токена; на каждом шаге выбираются 10 из 512 экспертов. Архитектура включает 48 слоёв, контекстное окно до 262 144 токенов и поддержку инструментального вызова. Экспертные модули квантизированы в INT4 методом GPTQ с размером группы 32, тогда как внимание, общие эксперты, эмбеддинги, нормализации и LM head сохранены в FP16. Размер модели составляет около 47 ГБ вместо примерно 160 ГБ у исходной BF16-версии. К преимуществам относятся существенное уменьшение размера и требований к памяти при сохранении качества: на тесте wikitext-2-raw-v1 ухудшение perplexity относительно исходной модели составило около 0,8%. Ограничения связаны с необходимостью совместимого программного обеспечения и значительных вычислительных ресурсов для работы крупной MoE-модели; README не указывает точные языки, на которых она обучалась, и не приводит более подробных сравнений для задач программирования. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Essential AI разработала rnj-1-instruct — открытую плотную языковую модель на 8,3 млрд параметров, дообученную на базе EssentialAI/rnj-1. Модель построена на архитектуре Gemma 3 Text и предназначена для диалогового использования, генерации кода и решения задач STEM. Она поддерживает контекст до 32 768 токенов и работает с библиотекой Transformers; веса опубликованы в формате Safetensors под лицензией Apache-2.0. Модель подходит для написания и анализа кода, исправления ошибок в проектах и работы с инструментами в агентных сценариях. Также она решает математические и научно-технические задачи, поддерживает заполнение пропусков в коде и может помогать с интерактивным анализом данных. В README приведены результаты сравнительных оценок по кодированию, использованию инструментов, математике и научному рассуждению. Карточка не указывает естественные языки, на которых модель специально обучена или которые она поддерживает. Заявленные возможности и оценки описаны разработчиком; фактическое качество зависит от задачи и способа применения.

Rombos-Coder-V2.5-Qwen-7b-GGUF — это GGUF-квантизованная версия кодовой языковой модели Rombos-Coder-V2.5-Qwen-7b, опубликованная и квантизованная bartowski с использованием llama.cpp и метода imatrix. Базовая модель разработана rombodawg и основана на семействе Qwen. Модель предназначена для генерации текста и программного кода, включая локальный запуск через llama.cpp или LM Studio. В репозитории представлены варианты от F16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-форматов, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели обозначен как 7B; точные сведения об архитектуре, длине контекста, дополнительных модальностях и полном наборе поддерживаемых языков в README не указаны. Заявлен английский язык, а pipeline модели относится к text-generation. Сильной стороной является широкий выбор квантований, включая варианты, оптимизированные для ARM, а также высококачественные Q6 и Q5, рекомендованные автором. Ограничения зависят от выбранного варианта: более компактные квантования снижают качество, а ARM-специализированные файлы требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Для использования указан формат диалогового шаблона ChatML. Лицензия — Apache-2.0; ссылка на лицензию ведёт к лицензии Qwen2.5-Coder-14B.

WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B-GGUF — это набор GGUF-квантизаций модели WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B, разработанной WhiteRabbitNeo и подготовленной пользователем bartowski. Модель предназначена для генерации текста и решения задач, связанных с программированием; в карточке указаны английский язык, библиотека Transformers и тег code. Доступны варианты для локального запуска через llama.cpp и LM Studio. Модель относится к семейству Qwen-2.5-Coder и имеет размер 7B параметров. В репозитории представлены версии от F16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4_XS, включая варианты, оптимизированные для ARM. Квантизация выполнена с использованием imatrix на базе llama.cpp; размеры файлов составляют примерно от 4,09 до 15,24 ГБ. Рекомендуемые варианты обеспечивают компромисс между качеством и требованиями к памяти, а Q6_K_L и Q6_K описаны как близкие к исходному качеству. Сильная сторона модели — широкий выбор квантизаций для локального запуска на оборудовании с разным объёмом памяти. Ограничения включают возможное снижение качества в низкобитных вариантах, отсутствие сведений о размере контекста, точной архитектуре, дополнительных языках и мультимодальных возможностях. Лицензия — Apache-2.0.