II.5Безопасность программного кода и цепочки поставок

NVIDIA Nemotron-3-Super-120B-A12B-BF16 — большая языковая модель с открытыми весами, разработанная NVIDIA Corporation. Представленная версия распространяется в формате GGUF и сгенерирована с использованием llama.cpp; исходная модель выпущена 11 марта 2026 года. Модель предназначена для агентских сценариев, рассуждений с длинным контекстом, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию IT-заявок. Архитектура LatentMoE объединяет Mamba-2, Mixture of Experts и механизмы внимания, а также Multi-Token Prediction. Всего модель содержит 120 млрд параметров, из которых 12 млрд активны при обработке запроса, и поддерживает контекст до 1 млн токенов. Доступны английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Режим рассуждений можно включать или отключать через шаблон чата. К сильным сторонам относятся сочетание большого контекста, разреженной MoE-архитектуры, поддержки инструментов и ориентация на агентские и корпоративные рабочие процессы. Ограничения включают значительный общий размер модели и высокие требования к инфраструктуре: для исходной версии указано минимум 8 GPU H100 с 80 ГБ памяти. GGUF-версия использует специальную настройку квантования с повышением точности отдельных слоёв, что может увеличить размер файла. Модель распространяется по лицензии NVIDIA Nemotron Open Model License.

RadixArk Qwen3.8-2.4T-A95B-NVFP4 — квантизированная версия причинно-следственной языковой модели Qwen3.8-2.4T-A95B, созданной Qwen. Квантизацию выполнила RadixArk с использованием NVIDIA Model Optimizer и схемы experts-only NVFP4; RadixArk не обучала и не дообучала модель. Архитектура — Transformer Mixture-of-Experts с 2,4 трлн общих параметров и 95 млрд активируемых параметров. Модель предназначена для генерации текста, AI-агентов, чат-ботов, RAG-систем и других текстовых приложений. Она принимает и возвращает текст, поддерживает контекст до 262 144 токенов и работает только в режиме рассуждений; мультимодальные входы и отключение thinking mode не поддерживаются. Квантизации подвергнуты линейные операторы в MLP-блоках маршрутизируемых экспертов, остальные компоненты сохраняют точность исходного чекпойнта. Для запуска рекомендуется SGLang на Linux и совместимое оборудование NVIDIA Blackwell, в частности конфигурация 8×B300; заявленная интеграция с другими платформами не указана. По приведённым оценкам на конфигурации 8×B300 модель получила 97,73% на GSM8K, 98,75% pass@1 и 100% pass@16 на AIME 2026, 70,6% pass@1 на SWE-bench Verified и 87,64% pass@1 на Terminal-Bench 2.1. Ограничения и характеристики обучения унаследованы от исходной модели; README предупреждает о возможном воспроизведении токсичных высказываний и общественных предубеждений из обучающих данных. Модель распространяется по лицензии Qwen3.8-Max, обозначенной как other.

BigBang-V1 — мультимодальная модель общего назначения, разработанная Endless Frontier на основе Qwen3.6-35B-A3B. Авторы дообучили её с помощью постобучения на примерно 10 тысячах синтетических научных и технических задач, которые генераторы и критики итеративно усложняли и проверяли. Модель предназначена для научных исследований, сложных рассуждений, программирования, длительного поиска и работы с инструментами; поддерживает диалог и анализ изображений. Модель построена на архитектуре Qwen3.5 MoE и распространяется в формате Safetensors для Transformers. В README указан контекст до 262 144 токенов; авторы рекомендуют сохранять не менее 128 тысяч токенов для сложных задач. В README приведены сильные результаты на бенчмарках научных исследований, поиска, программирования и AI-исследований, однако это результаты авторской оценки и не гарантия качества для конкретного сценария. Лицензия — Apache-2.0.

unsloth/GLM-4.7-Flash-REAP-23B-A3B-GGUF — GGUF-версия сжатой модели GLM-4.7-Flash-REAP-23B-A3B, созданной на базе GLM-4.7-Flash. Модель разработана с применением метода REAP (Router-weighted Expert Activation Pruning), а данная публикация включает исправления chat template от Unsloth. Это разреженная Mixture-of-Experts (SMoE) причинная языковая модель для генерации текста, программного кода, агентских сценариев, работы с репозиториями и function calling. Модель содержит 23 млрд параметров, из которых около 3 млрд активируются для каждого токена. Архитектура включает 47 слоёв, 20 attention heads для QKV, 48 экспертов вместо исходных 64 и 4 активируемых эксперта на токен. Контекстное окно составляет 202 752 токена. В README указан английский язык; другие языки не заявлены. REAP равномерно удаляет 25% экспертов, выбирая их по частоте и силе активации роутером, а также по нормам выходов экспертов. По данным README, модель сохраняет почти идентичную производительность исходной версии при снижении требований к памяти примерно на 25%; в HumanEval она получила 95,1 против 94,5 у GLM-4.7-Flash, а в HumanEval+ — 89,0. Это делает её подходящей для локального развёртывания, сред с ограниченными ресурсами и исследований. Ограничения включают более низкое покрытие экспертов после pruning и потенциально высокие требования к памяти при большом числе параллельных последовательностей. Для запуска заявлена совместимость с актуальным vLLM, а для llama.cpp требуется параметр --jinja. Лицензия MIT.

Карточка модели Langitzt/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели yemsrach3723/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

unsloth/GLM-5.2-GGUF — это GGUF-версия языковой модели GLM-5.2, подготовленная Unsloth на основе модели zai-org/GLM-5.2, разработанной командой GLM-5. Модель предназначена для генерации текста, решения сложных задач с длинным горизонтом планирования, программирования, агентской работы и использования инструментов. Заявлена поддержка английского и китайского языков. Модель рассчитана на контекст до 1 миллиона токенов и поддерживает несколько уровней интенсивности рассуждений, позволяя выбирать баланс между качеством и задержкой. В архитектуре используется IndexShare, повторно применяющий один индексатор для каждой группы из четырёх разреженных attention-слоёв и снижающий вычисления на токен при контексте в 1 миллион токенов. Улучшенный слой MTP предназначен для speculative decoding и, по данным README, увеличивает длину принимаемой последовательности до 20%. Представлена в формате GGUF с вариантами квантования, включая 1-bit UD-IQ1_M. Сильными сторонами являются работа с очень длинным контекстом, задачи программирования, математическое и общее рассуждение, а также сценарии агентской инженерии и взаимодействия с инструментами. Ограничения конкретной GGUF-версии, требования к памяти и производительность зависят от выбранного варианта квантования и используемого оборудования; подробные размеры модели в README не указаны. Модель распространяется по лицензии MIT.

Qwen-Qwen2.5-Coder-14B-Instruct-GGUF-Q4_K_M — квантизированная версия Qwen2.5-Coder-14B-Instruct, опубликованная пользователем sigmanih с использованием Sigma Studio. Модель предназначена для генерации текста и кода, программирования, повседневных ассистентов, агентских сценариев и задач, требующих рассуждений. В README указаны английский и итальянский языки, однако полный перечень поддерживаемых языков не приведён. Модель использует архитектуру qwen2 и формат GGUF с квантизацией Q4_K_M. Она содержит 14 млрд параметров, имеет 48 Transformer-слоёв, размер скрытого представления 5120 и контекстное окно до 32 768 токенов. Размер файлов составляет около 8,37 ГБ; для инференса рекомендуется примерно 10,5 ГБ VRAM при полной загрузке на GPU или 10,3 ГБ RAM в CPU-гибридном режиме. Рекомендуемая конфигурация — GPU с 12–16 ГБ VRAM либо система с 32 ГБ оперативной памяти. По приведённым тестам модель показывает сильные результаты в программировании и ряде математических задач: 86% на HumanEval, 100% на MBPP и GSM8K, 89% на ARC-Challenge и MATH. При этом результаты по GPQA и MMLU-Pro составили 33%, а общая оценка в заявленном наборе тестов — 69 из 100. В агентском тестировании завершено 4 из 6 сценариев, а соблюдение протокола инструментов составило 63,6%, поэтому модель не следует считать безошибочной для сложной автономной работы. В README одновременно указаны лицензия other в метаданных и обозначение Apache-2.0 на странице, поэтому условия использования требуют дополнительной проверки по официальным лицензионным материалам репозитория и базовой модели.

Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

Apodex-1.1-mini-GGUF — набор GGUF-квантизаций модели Apodex-1.1-mini, опубликованный организацией apodex; в README результаты оценки исходной модели связываются с Apodex AI. Это 35,95-миллиардная MoE-модель семейства Qwen3.5, предназначенная для исследовательской работы, анализа данных и файлов, программирования и задач с использованием инструментов. Поддерживаются английский и китайский языки, генерация текста и мультимодальный ввод изображений через отдельный vision projector. Модель сохраняет исходную MTP/NextN head, что позволяет использовать speculative decoding в llama.cpp. Доступны варианты квантизации от IQ1_M размером 8,82 ГБ до Q8_0 размером 37,8 ГБ; рекомендуемым вариантом по умолчанию указан Q4_K_M размером 21,7 ГБ. Для работы с изображениями требуется F16-проектор размером 899 МБ. README не указывает полный размер контекста, поэтому его характеристики нельзя определить по представленным данным. Модель ориентирована на локальный запуск через актуальную сборку llama.cpp и поддерживает агентские сценарии, код, работу с данными и изображениями. Сильными сторонами являются широкий выбор уровней квантизации, поддержка MoE, мультимодальности и MTP. Ограничения включают зависимость от совместимых компонентов llama.cpp и необходимость отдельного проектора для изображений; качество и производительность зависят от выбранной квантизации и доступной памяти. Лицензия — Apache-2.0.

calme-2.3-qwen2-72b — языковая модель MaziyarPanahi, дообученная на базе Qwen2-72B-Instruct для генерации текста в формате диалога ChatML. Модель содержит 71,5 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 131 072 токенов. Для запуска предусмотрена библиотека Transformers, веса представлены в формате safetensors. Модель подходит для диалоговых помощников и чат-ботов, ответов на вопросы, суммаризации и создания текстов, генерации и анализа кода, а также решения задач и поддержки принятия решений. В README приведены результаты нескольких бенчмарков, в том числе GSM8K, ARC Challenge и TruthfulQA. Карточка указывает английский язык; других языков явно не заявлено. Лицензия обозначена как other, конкретные условия использования следует сверить с лицензией репозитория. Как и другие крупные языковые модели, она может выдавать неточные или предвзятые ответы; для важных решений рекомендуется проверка человеком.

DeepSeek-V3.2 — языковая модель, разработанная DeepSeek AI и представленная как дообученная версия DeepSeek-V3.2-Exp-Base. Модель ориентирована на эффективное рассуждение, работу с агентными сценариями и взаимодействие с инструментами, включая режим «thinking with tools». Она распространяется через Transformers и использует обновлённый формат чата с поддержкой вызова инструментов и рассуждений. Ключевой особенностью модели является механизм DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при сохранении качества, особенно в задачах с длинным контекстом. Для обучения применялись масштабируемое reinforcement learning и pipeline синтеза данных для агентных задач. README заявляет высокие результаты в математических и программных соревнованиях, однако точные размер модели, длина контекста, поддерживаемые языки и набор модальностей не указаны. Для интеграции требуется учитывать, что релиз не содержит Jinja-шаблон chat template: разработчикам предлагается использовать скрипты из каталога encoding для кодирования сообщений в OpenAI-совместимом формате и разбора ответов. Указанная функция разбора рассчитана на корректно сформированные строки и не исправляет ошибки формата. Модель распространяется по лицензии MIT.

Карточка модели luganoquant/Nex-N2.5-mini на Hugging Face совпадает с карточкой nex-agi/Nex-N2.5-mini, поэтому описание составлено по ней. Nex-N2.5-mini — разговорная модель семейства агентных моделей Nex-N2.5 от Nex-AGI, основанная на архитектуре Qwen3.5 MoE. Она предназначена для длительных многошаговых задач: работы с компьютером и браузером, выполнения и проверки программ, а также научной и офисной работы. Модель использует визуальную обратную связь для восприятия интерфейсов, проверки результатов и продолжения действий; поддерживает режимы рассуждения и вызов функций. Для запуска автор приводит конфигурацию на двух ускорителях H100 и рекомендует параметры генерации temperature 0.7, top_p 0.95 и top_k 40. В метаданных указаны Transformers и формат safetensors; лицензия — Apache-2.0. README описывает мультимодальные возможности семейства и отдельно позиционирует Nex-N2.5-Max как текстовую модель, поэтому точные размер, контекст и перечень входов и выходов именно mini по этим данным установить нельзя.

CIRU DualView Ornith 1.0 35B — мультимодальная модель для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений. Она основана на объединении Ornith-1.0-35B и Qwen3.6-35B-A3B; архитектура включает 256 экспертов, из которых активны 8. Модель поставляется в формате GGUF с квантованием FPX7 и отдельными участками Q8, а также с проектором изображений и дополнительным слоем MTP. Заявленная длина контекста — 262 144 токена. DualView использует компактное представление весов для генерации и точное представление INT8 для обработки входного контекста. Модель предназначена для локального запуска на системах AMD с унифицированной памятью и ROCm. Для загрузки требуется совместимая сборка ROCmFPX; стандартный llama.cpp не поддерживает этот формат. Проверки производительности проведены для Linux ROCm на Strix Halo, а совместный режим vision и MTP ещё проходит валидацию качества изображений и повторяемости. В метаданных указана лицензия other; конкретные условия следует сверить с карточкой модели и её лицензией.

Qwen2.5-14B-YOYO-V4 — объединённая языковая модель от YOYO-AI на архитектуре Qwen2, с плотной авторегрессионной моделью Qwen2ForCausalLM и 14 млрд параметров. По описанию автора, в состав объединения входят модели Qwen2.5, кодовая модель и дистиллят DeepSeek-R1; заявлены улучшенное следование инструкциям, генерация кода и рассуждения. Модель предназначена для диалогов, генерации текста и структурированных ответов, а также для работы с длинным контекстом до 1 010 000 токенов. Модель принимает текст и выдаёт текст. Карточка указывает английский и китайский языки. Файлы опубликованы в формате safetensors, лицензия — Apache-2.0. Указанный в карточке этап объединения описан частично, поэтому подробности итоговой процедуры и её влияние на качество оценить нельзя.

unsloth/Qwen3.6-35B-A3B-MTP-GGUF — GGUF-квантизированная версия модели Qwen3.6-35B-A3B. Базовую модель разработала команда Qwen, а данный вариант опубликован Unsloth. Это причинная языковая модель с vision encoder, ориентированная на генерацию текста, программирование, агентные сценарии, работу с репозиториями и frontend-задачами, а также вызов инструментов с вложенными объектами. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке каждого токена; в составе 40 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общий активный эксперт. Поддерживаются многошаговое предсказание MTP, сохранение контекста рассуждений из предыдущих сообщений и обработка изображений благодаря vision encoder. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Точный набор поддерживаемых языков в README не указан. MTP заявлен как способ ускорить инференс примерно в 1,5–2 раза без потери точности. Модель рассчитана на запуск через llama.cpp, Unsloth Studio и совместимые инструменты; доступны режимы для GPU, CPU и Metal. В README указано ограничение: при использовании MTP параметры -np > 1 и --mmproj пока не поддерживаются. Репозиторий распространяется по лицензии Apache-2.0.

G9v3-39A5B — причинная языковая модель AI9Stars для диалогового помощника, генерации кода, использования инструментов и задач на рассуждение. Модель построена по архитектуре Mixture-of-Experts: в карточке указаны 39 млрд параметров суммарно и около 5 млрд активируемых на токен. Метаданные каталога при этом описывают архитектуру как плотную, поэтому сведения о разреженной MoE-структуре расходятся. Модель поддерживает режимы Think и No Think и контекст до 131 072 токенов. Предназначена для локального и самостоятельного развёртывания; для работы указана библиотека Transformers. Заявленная поддержка языков — английский и китайский. Модель распространяется по лицензии Apache-2.0. Как предварительный выпуск, модель может менять поведение между версиями. Ответы могут быть неточными, предвзятыми или небезопасными; их следует проверять, особенно перед применением в значимых решениях.

FreedomAISVR/Gemma-4-12B-it-NVFP4-GGUF — квантованная в формате NVFP4 версия инструкционной модели Google Gemma 4 12B-it. Это плотный трансформер-декодер Gemma4ForCausalLM с 12,08 млрд параметров, предназначенный для диалога, следования инструкциям, рассуждений, программирования и мультимодального понимания. Модель рассчитана на запуск на видеокартах NVIDIA Blackwell, включая RTX 50 серии; репозиторий содержит GGUF-веса с заявленным размером файла 6,5 ГБ. Карточка приводит результаты на RTX 5060 Ti и рекомендует контекст до 256 тыс. токенов с соответствующими настройками KV-кэша. NVFP4 использует 4-битное представление весов с масштабированием по группам; автор отмечает, что на потребительских GPU скорость декодирования ограничена ядрами, а тензорные ядра FP4 в первую очередь ускоряют обработку входного контекста. Метаданные указывают диалоговую возможность, английский язык и задачу text-generation; описание базовой модели сообщает о понимании изображений, видео и аудио, но карточка этой квантованной версии не описывает точный мультимодальный интерфейс. Лицензия — Apache-2.0.

EmanuelOverride/gemma-4-19b-a4b-it-REAP-heretic-APEX-GGUF — это GGUF-квантизированная версия Gemma 4 19B-A4B-it REAP, созданная на основе модели coder3101/gemma-4-19b-a4b-it-REAP-heretic. В основе лежит Gemma 4 от Google, подвергнутая 30% pruning экспертов методом Cerebras REAP, а затем декензурированная с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation. Репозиторий поддерживает текстовую генерацию и ориентирован на англоязычные сценарии. Модель использует mixture-of-experts архитектуру: около 19,02 млрд общих параметров, примерно 4 млрд активных параметров на токен, 90 экспертов на слой и 8 активируемых экспертов на токен. Удаление 38 из 128 экспертов на слой уменьшает общий размер модели примерно на 31%, при этом число активных параметров на токен сохраняется. README не указывает размер контекстного окна и полный перечень поддерживаемых модальностей; по имеющимся данным, модель предназначена для работы с текстом, включая программирование, рассуждения, математику, научные и биомедицинские вопросы, tool calling и агентные сценарии. Главная особенность версии GGUF — пользовательские APEX-квантизации с неравномерным распределением точности: маршрутизаторы и важные общие эксперты сохраняются в более высокой точности, а более сильное сжатие применяется к менее значимым тензорам средних слоёв. Доступны варианты от i-Mini размером около 8,7 ГиБ и 3,94 BPW до i-Balanced размером около 13,9 ГиБ и 6,30 BPW, а также промежуточные профили. Это позволяет выбирать баланс между размером, потреблением памяти и качеством, однако фактическая производительность зависит от оборудования и выбранной квантизации. По заявленным тестам, декензурированная версия значительно реже отказывается отвечать: 6 отказов из 100 против 94 у исходной модели, при KL divergence 0,029. Ограничениями являются возможная потеря качества из-за pruning, декензурирования и квантизации, а также отсутствие подробных данных о контексте и комплексных бенчмарках. Указана лицензия Gemma; условия применения следует проверять по лицензии исходной модели и требованиям Google.

Карточка модели manaladan6/HYDRALINK на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Карточка модели FAISALFAZALHUSSAIN/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Ling-3.0-flash-heretic — производная модель на основе inclusionAI/Ling-3.0-flash, в которой применена abлитерация для снижения частоты отказов. В README приведено сравнение: 0 отказов из 100 запросов у этой версии против 87 из 100 у исходной модели; KL-дивергенция относительно оригинала составляет 0,0526. Модель предназначена для диалоговой генерации текста, рассуждений, работы с длинным контекстом и задач программирования и агентных сценариев. В метаданных указаны архитектура Bailing hybrid MoE и 3,5 млрд параметров; README описывает исходную Ling-3.0-flash как гибридную модель с MoE, 124 млрд общих и 5,1 млрд активных параметров. Заявленное окно контекста — 262 144 токена. Репозиторий содержит веса safetensors, интерфейс чата отмечен в метаданных. Лицензия — MIT. Указанное снижение отказов не гарантирует отсутствие отказов во всех ситуациях и может уменьшать встроенные ограничения исходной модели.

JetBrains/Mellum2-12B-A2.5B-Instruct-GGUF-Q8_0 — это квантованная в формате GGUF версия инструкционной модели Mellum2-12B-A2.5B-Instruct, разработанной JetBrains. Модель предназначена для генерации текста и выполнения инструкций, включая задачи программирования и ассистирования, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Контекстное окно составляет 131 072 токена. Представленная версия применяет 8-битное квантование Q8_0, занимает около 12,9 ГБ и сохраняет близкое к BF16 качество: KL-дивергенция составляет примерно 0,016, а наиболее вероятный токен совпадает с BF16 в 95,2% случаев. В README явно указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Модель формирует ответы напрямую, без внешнего отображения цепочки рассуждений. Сильные стороны версии — существенно меньший размер по сравнению с BF16 при небольших потерях качества, длинный контекст и широкая совместимость с локальными GGUF-рантаймами. Ограничения включают повышенные требования к памяти по сравнению с более агрессивными вариантами квантования и отсутствие в данном README подробных результатов оценки, описания полного набора языков и характеристик базовой модели. Модель распространяется по лицензии Apache 2.0.

CQDU/MiniMax-M3 — мультимодальная модель семейства MiniMax-M3, разработанная MiniMax. Она предназначена для диалогов с изображениями и видео, программирования и длительных агентных задач. Модель использует разреженное внимание MiniMax Sparse Attention (MSA), имеет около 428 млрд параметров, из которых активируется около 23 млрд, и заявленный контекст до 1 млн токенов. Обучение с совместными текстовыми, визуальными и видеоданными заявлено с самого начала, что поддерживает объединение информации из разных модальностей. Для запуска авторы указывают MiniMax Agent и MiniMax API; README также описывает локальное использование через Transformers и safetensors. Лицензия в метаданных обозначена как other, поэтому условия следует проверять в карточке модели и связанных документах.

YOYO-AI разработала YOYO-V3 — объединённую разговорную модель на архитектуре Qwen3 MoE, созданную слиянием instruct-, reasoning- и code-моделей Qwen3. Она предназначена для диалогов, выполнения инструкций, рассуждений и генерации кода; режимы с рассуждением и без него переключаются через шаблон чата. В репозитории указаны точность bfloat16 и контекст до 1 010 000 токенов. Модель поддерживает английский и китайский языки, а метаданные также отмечают интерфейс вызова инструментов. Лицензия — Apache-2.0. Слияние выполнено методами nuslerp и nearswap на основе Qwen3-30B-A3B-Instruct-2507, Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Автор предупреждает о возможном ухудшении качества после слияния: в обычном режиме модель может выдавать длинные цепочки рассуждений, а в режиме рассуждений — не формировать итоговое резюме.

HaberstrohSystems/Qwen3.8-27B-int4-g128-sym-autoround — квантованная версия нативно мультимодальной модели Qwen3.8-27B, опубликованная HaberstrohSystems и предназначенная для запуска на одной видеокарте Intel Arc Pro B70 с 32 ГБ памяти. Модель поддерживает работу с текстом и изображениями, вызов инструментов и обслуживается через Transformers или vLLM с парсером qwen3_coder. Модель содержит 27 млрд параметров; языковая часть имеет 64 слоя, скрытое измерение 5120, 24 query-heads и 4 KV-heads. Заявленный нативный контекст составляет 262 144 токена, а в приведённой конфигурации обслуживания используется до 131 072 токенов. Языковая часть сжата до INT4 методом AutoRound в формате W4A16 с размером группы 128 и симметричной схемой; веса занимают около 17,69 GiB. Чувствительные компоненты языковой модели и vision tower сохранены в 16-битном виде, поэтому обработка изображений не подвергается квантованию. Указан английский язык. Сильными сторонами являются мультимодальность, большой контекст, поддержка рассуждений с уровнями xhigh, medium и low, вызов инструментов и возможность запуска на одной Intel Arc Pro B70. Ограничения включают заметную задержку при включённом рассуждении xhigh, ускоренный рост контекста из-за сохранения блоков рассуждений и существенное падение производительности при длинных контекстах и многопользовательской нагрузке. Лицензия — Apache 2.0.

Jiunsong/SuperDeepseek-V4-Flash-abliterated-MQ-2xDGX — производная от DeepSeek-V4-Flash-0731 модель для генерации текста, рассуждений, программирования, работы с длинным контекстом и вызова инструментов. Она создана на базе официального чекпойнта DeepSeek и распространяется как самостоятельно загружаемый дообученный чекпойнт без LoRA-адаптера или адаптера времени выполнения. Заявленная архитектура — MoE класса 304B: 43 основных слоя и 3 MTP-слоя, 256 маршрутизируемых экспертов с выбором top-6. Поддерживаются английский и корейский языки, а заявленный контекст составляет 1 048 576 токенов; README сообщает об успешном извлечении данных из запроса длиной 1 028 621 токенов. Модель использует смешанную точность: FP4 для весов экспертов, FP8 E4M3 для блочно-квантизированных путей и отдельных обновлений, BF16 для чувствительных к качеству компонентов, а также NVFP4 для KV-кэша при измерениях. Ключевые преимущества — значительно меньше отказов в тестовом режиме, сохранённые показатели вызова инструментов, проверенная работа с контекстом около миллиона токенов и высокая совокупная скорость декодирования на двух узлах DGX Spark. Ограничения — модель ориентирована на специализированную конфигурацию ускорителей, имеет крупный размер около 169,5 ГБ, использует квантизацию и не предназначена для оценки как полноразмерный BF16-чекпойнт; приведённые показатели производительности относятся к конкурентной генерации, а не к одному потоку. Лицензия — MIT.

Gemini 2.5 Pro Preview 06-05 — предварительная версия мультимодальной модели Google Gemini 2.5 Pro. Она предназначена для сложных задач рассуждения, программирования, математики и науки. В карточке указаны способности к рассуждению, но подробности об архитектуре, размере и длине контекста не приведены. Модель ориентирована на сценарии, где требуется разбирать запрос и формировать содержательный ответ, включая помощь с кодом и решение математических задач. Метаданные классифицируют её как image-text-to-text, однако README не уточняет поддерживаемые типы входных данных. Условия лицензии в доступных сведениях не описаны.

cafepm/Muse-Glimmer-30B-Q3Q4-GGUF — квантованная GGUF-сборка мультимодальной модели Muse Glimmer, подготовленная исследовательской командой TNT.Chat в рамках проекта LOCAL AI. В основе — meta-models/Muse-Glimmer-30B; исходная архитектура представляет собой плотный каузальный трансформер с энкодером восприятия и примерно 29,6 млрд параметров. В этой сборке около 20% весов хранятся в 4-битном формате Q4_K, остальные — в 3-битном Q3_K, чтобы уменьшить размер модели и требования к памяти. Репозиторий также содержит mmproj в формате BF16. Модель предназначена для локальных агентных сценариев: многошагового планирования, вызова инструментов, программирования и анализа изображений, включая скриншоты, графики и документы. Она принимает текст и изображения и генерирует текст; аудио не поддерживается. В README указано, что тестирование проводилось на внутреннем наборе из 51 вопроса, поэтому приведённые оценки не заменяют проверку на задачах конкретного применения. Возможны неточные, предвзятые или нежелательные ответы; для внедрения рекомендованы дополнительные защитные механизмы. Лицензия — Apache 2.0.

Locutusque/NeuralHyperion-Medium-Preview — англоязычная плотная языковая модель семейства Mistral, выпущенная M4-ai. Это версия модели NeuralHyperion-Medium объёмом 7,1 млрд параметров на базе mistralai/Mistral-7B-v0.1, дообученная на наборе Hyperion и затем с помощью DPO на парах Argilla Orca. Она предназначена для генерации текста, ответов на сложные вопросы и диалогов, а также для рассуждений, генерации кода и работы с научными, медицинскими и математическими текстами. Контекст составляет 32 768 токенов; модель принимает текст и генерирует текст. Модель может быть полезна для учебных помощников по естественным и компьютерным наукам, технических диалоговых систем, анализа медицинских текстов и поддержки программирования. В README приведены результаты отдельных тестов рассуждения и здравого смысла, но полная оценка обозначена как ожидающая публикации. Среди указанных ограничений — возможная непоследовательность ответов из-за различий в форматировании данных и качестве их разметки. Лицензия — Apache-2.0.