II.11Кибербезопасность и приватность

AaryanK/Qwen3.6-27B-GGUF — это квантизированная версия Qwen3.6-27B, разработанной командой Qwen. Модель предназначена для генерации текста, агентного программирования, работы с репозиториями и фронтенд-задачами, а также для сценариев, требующих вызова инструментов и обработки мультимодальных данных. Она поставляется в формате GGUF и рассчитана на локальный запуск с совместимыми средствами, включая llama.cpp. Модель содержит 27 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + Gated Attention с 64 слоями и vision encoder. Она поддерживает текстовые и визуальные входы, включая изображения и видео, заявленные языковые возможности включают английский язык. Нативная длина контекста составляет 262 144 токена; также указана возможность расширения до 1 010 000 токенов. Модель поддерживает Thinking Mode, сохранение контекста рассуждений между сообщениями и вызов инструментов. К сильным сторонам относятся длинный контекст, мультимодальность, возможности агентного кодирования и сохранение рассуждений в итеративных рабочих процессах. Ограничения связаны с требованиями к совместимости: для гибридной архитектуры нужна актуальная версия llama.cpp, а объём памяти зависит от выбранного файла квантизации и длины контекста. Модель распространяется по лицензии Apache-2.0.

unsloth/DeepSeek-R1-0528-GGUF — это GGUF-квантизированное представление модели DeepSeek-R1-0528, разработанной DeepSeek и опубликованной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и инференса через совместимые инструменты, включая llama.cpp, а также для задач, требующих углублённого рассуждения. DeepSeek-R1-0528 ориентирована на решение математических задач, программирование, общую логику и сложные аналитические запросы. По сравнению с предыдущей версией заявлены улучшения глубины рассуждений и инференса, снижение частоты галлюцинаций, расширенная поддержка function calling и более качественная работа в сценариях vibe coding. Для модели указан язык English; модальность — текстовая. Размер и архитектура базовой модели в предоставленных данных не указаны. Модель использует чат-шаблон, совместимый с оригинальной DeepSeek-R1; для генерации рекомендуется temperature 0.5–0.7 и Top_P 0.95. Основное преимущество — усиленные способности к сложному рассуждению, программированию и математике; в README также сообщается о результатах, приближающихся к ведущим моделям в ряде бенчмарков. Ограничения включают необходимость корректной настройки шаблона чата и параметров генерации, а также зависимость характеристик от выбранного уровня GGUF-квантизации и аппаратного обеспечения. Лицензия — MIT.

DeepSeek-R1-0528-Qwen3-8B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth. Исходная модель разработана DeepSeek и представляет собой языковую модель с акцентом на углублённое рассуждение. Квантованный вариант распространяется для использования с Transformers и предназначен для более экономичного запуска модели. Модель ориентирована на сложные задачи рассуждения, математику, программирование, общую логику, вызов функций и сценарии «vibe coding». В README отмечены улучшения по сравнению с предыдущей версией DeepSeek R1: снижение галлюцинаций, более развитые способности к рассуждению и увеличение максимальной длины генерации до 64K токенов. Для DeepSeek-R1-0528 также приведены высокие результаты в тестах по общим знаниям, программированию и математике, включая AIME 2024, LiveCodeBench и SWE Verified. Точный набор поддерживаемых языков, модальностей и архитектурные детали в карточке не указаны; из идентификатора следует размер исходной модели 8B. Квантование уменьшает требования к памяти, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

Dolphin 2.9.4 Llama 3.1 8B — диалоговая модель на архитектуре Llama 3.1, дообученная Эриком Хартфордом и Cognitive Computations на базе Meta-Llama-3.1-8B. Она содержит около 7,5 млрд параметров, использует формат ChatML и поддерживает контекст до 131 072 токенов; при дообучении использовалась длина последовательности 8 192 токена. Модель предназначена для диалога и следования инструкциям, написания и разбора кода, математических задач и сценариев с агентными функциями и вызовом инструментов. В карточке заявлена поддержка инструкций на многих языках и высокая подчиняемость системным инструкциям. Это неконтент-фильтрованная модель, поэтому для публичного сервиса разработчик рекомендует самостоятельно добавить слой выравнивания. Распространяется по лицензии Llama 3.1.

Gemma-4-26B-A4B-JANG_2L-CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-26b-a4b-it. Это вариант с ослабленными отказами и смешанной 2-битной квантизацией JANG_2L: критические компоненты хранятся в 8 битах, важные — в 6, а большая часть весов экспертных блоков — в 2 битах. По данным карточки, модель занимает 9,9 ГБ и использует архитектуру MoE с 128 экспертами, из которых активируются восемь, и гибридным скользящим и глобальным вниманием. Модель предназначена для диалогов, программирования, общих вопросов и работы с изображениями; поддерживает режим рассуждений. Автор сообщает о тестировании генерации кода и запросов по информационной безопасности, а также приводит собственные результаты MMLU и HarmBench. Эти показатели получены на тестах автора и не гарантируют качество в других сценариях. Для запуска рекомендованы vMLX или совместимый движок MLX с поддержкой Gemma 4; заявлены Apple Silicon и не менее 16 ГБ объединённой памяти. Лицензия — gemma; автор обозначает модель как исследовательскую и возлагает на пользователей ответственность за соблюдение применимых законов.

QwQ-32B-Preview-Instruct-Coder — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом TIES. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B-Instruct и Qwen/Qwen2.5-Coder-32B-Instruct; базовая модель — Qwen/Qwen2.5-32B. Модель содержит 32 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, программирования, математических рассуждений и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов. Она работает с текстом на входе и генерирует текст на выходе; отдельные поддерживаемые языки не указаны в предоставленных данных. Сведения о лицензии и ограничениях качества в README и метаданных отсутствуют.

Tess-4-9B — мультимодальная модель с 9,65 млрд параметров, созданная Мигелем Тиссера на базе Qwen/Qwen3.5-9B-Base. Это плотная архитектура Qwen3.5 для генерации текста по текстовым и визуальным входам; веса доступны в формате BF16 Safetensors и лицензированы по Apache 2.0. Модель предназначена для агентного программирования, анализа больших кодовых баз и документов, сложных задач по математике и естественным наукам, отладки и технических рассуждений. Она дообучена на 64K-токенных агентных трассах и поддерживает вызов инструментов, чат и обработку изображений. В карточке приведены результаты тестов, в том числе 88% на GSM8K и 62% на GPQA Diamond при лимите генерации 24K токенов; отдельные сложные примеры выигрывали от увеличения лимита до 48K. Для корректной работы следует сохранять встроенный шаблон чата Qwen3.5 и разрешать большой бюджет генерации на трудных задачах. Полные веса BF16 занимают около 19,3 ГБ; совместимость требует актуальной версии Transformers с поддержкой Qwen3.5. Упомянутые в README сборки GGUF содержат только текстовую модель и не поддерживают унаследованный путь обработки изображений.

Agnes 2.5 Pro Alpha — мультимодальная модель рассуждений, разработанная Agnes AI и дообученная на Qwen/Qwen3.5-397B-A17B. Она принимает текст и изображения и предназначена для программирования, научных задач, анализа длинных контекстов и агентных сценариев с вызовом инструментов. Модель поддерживает контекст до 1 млн токенов и генерацию до 65 536 токенов; заявлены расширенное рассуждение и понимание изображений. Модель подходит для анализа репозиториев и отладки кода, синтеза технических документов, научного решения задач и визуального анализа. В README указаны сравнительные оценки на бенчмарках, но таблица результатов в предоставленном тексте опущена. Модель доступна в формате safetensors; для локального запуска README рекомендует 8 GPU класса NVIDIA H200 и около 1 ТБ свободного места. Лицензия — Apache-2.0. Ответы могут содержать ошибки; для важных решений и действий инструментов требуется проверка.

Карточка модели LiveUK/GLM-5.2 на Hugging Face совпадает с карточкой zai-org/GLM-5.2, поэтому описание составлено по ней. GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Laguna XS 2.1-NVFP4 — текстовая Mixture-of-Experts модель, разработанная poolside для агентного программирования и длительных многошаговых задач на локальном компьютере. Модель содержит 33 млрд параметров, из которых 3 млрд активируются на каждом токене, и поддерживает контекст до 262 144 токенов. Архитектура включает 40 слоёв, 256 экспертов и одного общего эксперта. В 30 слоях используется Sliding Window Attention с окном 512 токенов, а в 10 слоях — глобальное внимание; KV-кэш квантизирован в FP8. Модель работает в режиме text-to-text, поддерживает встроенное рассуждение с чередованием этапов мышления и вызовов инструментов, а также включение и отключение thinking для отдельных запросов. К сильным сторонам относятся сниженные требования к памяти и возможность локального запуска; заявлена работа на Mac с 36 ГБ оперативной памяти. Модель ориентирована прежде всего на генерацию и исправление кода, использование инструментов и агентные сценарии, однако README не содержит полного перечня поддерживаемых языков и не описывает ограничения качества за пределами приведённых бенчмарков. Вариант распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и модификацию модели и связанных материалов в коммерческих и некоммерческих целях.

unsloth/MiniMax-M3-GGUF — это экспериментальная GGUF-версия мультимодальной модели MiniMax-M3, разработанной MiniMax и подготовленной в формате GGUF проектом Unsloth. Модель предназначена для работы с текстом, изображениями и видео, включая диалоговые сценарии, генерацию и анализ кода, агентские задачи и длительное взаимодействие с пользователем. Архитектура модели сочетает Mixture of Experts (MoE) и механизм разреженного внимания MiniMax Sparse Attention (MSA). Всего модель содержит около 428 млрд параметров, из которых на каждый токен активируется примерно 23 млрд; используется 128 экспертов, четыре из которых активны для каждого токена, и 60 слоёв. Заявлена длина контекста до 1 млн токенов. Поддерживаются режимы thinking для сложного рассуждения, агентских задач и долгого сотрудничества и non-thinking для сценариев, чувствительных к задержке, например чата и автодополнения кода. К сильным сторонам относятся нативная мультимодальность, заявленная эффективность на длинном контексте и высокие результаты в задачах программирования и агентского взаимодействия. Ограничения этой версии связаны с экспериментальным статусом: поддержка MiniMax-M3 в llama.cpp предварительная, а MiniMax Sparse Attention пока не поддерживается, поэтому используется плотное внимание. Модель очень велика и требует значительных ресурсов, включая распределение вычислений между несколькими GPU или размещение весов в оперативной памяти CPU. Для использования указана MiniMax Community License.

Mungert/Nex-N2-mini-GGUF — квантованный вариант модели Nex-N2-mini, разработанной командой Nex-AGI. Модель предназначена для агентских сценариев и постобучена на базе Qwen3.5-35B-A3B-Base. Она ориентирована на выполнение практических задач, требующих понимания требований, планирования, написания кода, работы с инструментами, терминалом, поиском и обратной связью от среды. Ключевая концепция модели — Agentic Thinking, объединяющая рассуждение, использование инструментов и итеративное выполнение задач в единый цикл. Подход включает Adaptive Thinking, позволяющий выбирать глубину рассуждений в зависимости от сложности задачи, и Coherent Thinking, обеспечивающий единый механизм рассуждений в общих и агентских сценариях. Заявлены возможности для агентского программирования, глубокого исследования, tool calling, терминального выполнения, разработки игр, веб- и мультимодальной генерации. Архитектура, точное количество активируемых параметров, размер контекста, поддерживаемые языки и фактические характеристики GGUF-квантизации в README не указаны. По приведённым оценкам Nex-N2-mini показывает результаты в задачах поиска, вызова инструментов, программной инженерии и общего рассуждения; среди указанных показателей — 74,4 на SWE-Bench Verified, 60,7 на Terminal-Bench 2.1 и 82,6 на GPQA Diamond. Сильными сторонами являются агентские рабочие процессы, кодирование и выполнение длинных задач, однако показатели ниже, чем у более крупной версии Nex-N2-Pro, а результаты зависят от сценария и внешней среды. Модель распространяется по лицензии Apache-2.0.

protogeni/Qwen3.8-27B-Uncensored-W4A16-RTX3090-MTP4 — сервировочно-оптимизированный квантованный чекпойнт семейства Qwen3.8-27B. Модель разработана protogeni на основе Qwen3.8-27B, последовательно преобразованного в uncensored-версию OrcaRouter, квантованный вариант AutoRound W4A16 и данный чекпойнт для инференса. Заявлены английский и китайский языки. Модель предназначена прежде всего для генерации текста, программирования и задач рассуждения, а также для развёртывания на одной видеокарте с поддержкой speculative decoding через MTP4. Vision tower сохранён, однако протестированный профиль на 100 000 токенов рассчитан только на текст. Основная часть трансформера использует W4A16 с группой 128, эмбеддинги токенов имеют формат INT8, а выходные и MTP-головы — калиброванный GPTQ INT4. Для черновой генерации используется словарь из 40 960 токенов. На RTX 3090 Ti с BF16 KV-кэшем и MTP4 заявлена поддержка контекста до 100 000 токенов; измеренная скорость генерации составляет примерно 82,7–128,4 токена в секунду в зависимости от нагрузки. Среди приведённых результатов: 94,77% на GSM8K, 76,14% на MMLU-Pro, 94,51% pass@1 на HumanEval и 90,85% pass@1 на HumanEval+. Сильные стороны модели — высокая производительность на одной 24 ГБ видеокарте, большой текстовый контекст, ускорение speculative decoding и хорошие результаты в математике и программировании. Ограничения включают зависимость от специально исправленного runtime syv-ai и vLLM 0.27.1, необходимость соответствующей настройки MTP4, а также то, что 100K-профиль не использует мультимодальный ввод. Результат на MMMU validation составил 24,56% при 891 ограничении по максимальному числу выходных токенов, поэтому мультимодальные возможности и этот показатель следует интерпретировать осторожно. Модель распространяется по лицензии Apache-2.0.

Ring-2.5-1T — языковая модель команды Ling Team для диалогов, сложных рассуждений и многошагового выполнения задач. Карточка описывает её как модель с гибридной архитектурой линейного внимания Ling 2.5, развивающей Ling 2.0: часть слоёв GQA заменена на сочетание MLA и Lightning Linear Attention. В метаданных указаны архитектура семейства Bailing Hybrid, класс MoE и 59 млрд параметров; веса доступны в формате safetensors с compressed-tensors. Модель предназначена для математических и логических задач, программирования, поиска с использованием инструментов и длительных агентных сценариев, включая задачи разработки ПО. Заявленная длина контекста — 128K токенов с расширением до 256K посредством YaRN; метаданные указывают нативный контекст 131072 токена. Карточка сообщает о сильных результатах на ряде сложных тестов, но также отмечает ограничения в эффективности использования токенов, следовании инструкциям и выполнении реалистичных сложных задач. Модель выпущена под лицензией MIT. README сообщает, что обучение Ring-2.5-1T продолжается; отдельный технический отчёт на момент публикации карточки не представлен.

Satella-30B-A3B — разреженная языковая модель семейства Atem, дообученная EphAsad на базе Qwen/Qwen3-30B-A3B. Это архитектура Qwen3 MoE с 30,5 млрд параметров, из которых активируется около 3,3 млрд на токен; обучение выполнено одним проходом с LoRA в BF16. Модель поддерживает диалог, интерфейс вызова инструментов и режимы с явным рассуждением и без него. Контекст модели — до 40 960 токенов. Модель предназначена для многошаговых математических и логических задач, генерации и отладки кода, технических объяснений, аналитических сравнений и выполнения сложных инструкций. В обучающую смесь вошли данные по программированию, рассуждениям, математике, медицине и диалогам; карточка указывает английский язык. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Модель не имеет доступа к актуальным данным и не является поисковой системой. Ответы по медицинским, юридическим, финансовым и другим критически важным вопросам требуют независимой проверки; заявленные возможности и качество основаны на описании автора.

Dolphin 2.9.1 Mixtral 1x22b — чат-модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Она основана на Mixtral-8x22B-v0.1 и прошла полное дообучение всех слоёв; в карточке указано 22 млрд параметров. Модель представляет собой извлечённый эксперт, полученный объединением SLERP экспертов исходной архитектуры Mixtral. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и выполнения инструкций, помощи с программированием, начального уровня агентных задач и вызова функций. Контекст базовой модели составляет 64 тыс. токенов, а дообучение проводилось с длиной последовательности 16 тыс. токенов. В качестве обучающих данных использовались, среди прочего, наборы Dolphin-2.9, OpenHermes-2.5 и датасеты для кода, математики и вызова функций. Модель описана авторами как uncensored и может с высокой готовностью выполнять запросы, в том числе небезопасные; перед предоставлением её пользователям авторы рекомендуют добавить собственный слой выравнивания. Язык карточки и метаданных — английский.

Карточка модели unsloth/embeddinggemma-300m-qat-q8_0-unquantized на Hugging Face совпадает с карточкой h2oai/embeddinggemma-300m-qat-q8_0-unquantized, поэтому описание составлено по ней. EmbeddingGemma — мультиязычная модель эмбеддингов Google DeepMind на 302,8 млн параметров, основанная на текстовой архитектуре Gemma 3 с инициализацией T5Gemma. Она преобразует текст в векторы для поиска, извлечения информации, оценки семантического сходства, классификации и кластеризации. Модель обучена на данных более чем на 100 языках и рассчитана на запуск в условиях ограниченных ресурсов, включая мобильные устройства и настольные компьютеры. Модель принимает текст длиной до 2048 токенов и выдаёт вектор размерности 768; с помощью Matryoshka Representation Learning его можно сократить до 512, 256 или 128 измерений с последующей нормализацией. Веса предназначены для использования с Sentence Transformers и реализацией Gemma 3 в Transformers. Модель подходит для поиска документов и кода по запросам, а также для подбора текстов по смыслу. Качество может снижаться при неоднозначных формулировках, сарказме и тонких языковых нюансах; результаты также зависят от охвата и возможных смещений обучающих данных. Лицензия — Gemma; применяются условия использования и политика запрещённого использования Gemma.

Gemini 3.5 Flash — мультимодальная модель Google для работы с текстом и изображениями. В карточке она описана как высокопроизводительная модель уровня Flash, ориентированная на скорость и низкую стоимость при решении задач рассуждения и программирования. Модель подходит для анализа изображений и текста, помощи с кодом и сценариев с параллельным выполнением агентных задач. Подробности об архитектуре, размере, поддерживаемых языках, длине контекста и лицензии в предоставленных данных отсутствуют.

Gemma-4-E4B-text-base — текстовая версия Gemma-4-E4B-it, подготовленная wyattearp удалением мультимодальных проекций зрения и аудио. Параметры языкового трансформера сохранены побитно относительно базовой модели; это плотная авторегрессионная модель Gemma 4 примерно на 4,2 млрд параметров с контекстом до 131 072 токенов и словарём из 256 000 токенов. Модель предназначена для генерации текста, диалогов, рассуждений, программирования и агентных сценариев с вызовом инструментов. Текстовая конфигурация сокращает расход памяти на мультимодальные компоненты и упрощает обслуживание через Transformers и совместимые движки, включая vLLM. Карточка описывает англоязычное применение; удаление аудио- и визуальных компонентов исключает обработку изображений и аудио. Модель распространяется в формате safetensors; для использования действует лицензия Gemma. README отмечает необходимость исправления парсера вызовов инструментов в vLLM для корректной обработки некоторых переходов формата Gemma 4.

GLM-5.1-FP8 — языковая модель для генерации текста, разработанная командой zai-org (Z.ai). Это флагманская модель следующего поколения, ориентированная прежде всего на агентную разработку программного обеспечения и выполнение сложных инженерных задач с использованием инструментов. Модель предназначена для написания и модификации кода, генерации репозиториев, работы в терминале, поиска информации и длительных многошаговых сессий. По данным README, GLM-5.1 лучше справляется с неоднозначными задачами, умеет декомпозировать проблему, проводить эксперименты, анализировать результаты, выявлять блокеры и пересматривать стратегию в ходе сотен итераций и тысяч вызовов инструментов. Среди заявленных результатов — 58,4% на SWE-Bench Pro, 42,7% на NL2Repo, 63,5% на Terminal-Bench 2.0 и лидирующие показатели на CyberGym и BrowseComp. Модель доступна в FP8-квантизованном варианте и интегрируется с Transformers. В карточке указаны английский и китайский языки, однако сведения о точной архитектуре, числе параметров, размере контекста, поддерживаемых модальностях и системных требованиях отсутствуют. Основные сильные стороны — программирование, агентное взаимодействие с инструментами, длительное планирование и итеративная оптимизация. Ограничения связаны с отсутствием подробных технических характеристик и тем, что приведённые результаты зависят от конкретных бенчмарков, конфигураций и способов использования инструментов. Лицензия — MIT.

Granite-Embedding-English-R2 — плотная двусторонняя модель эмбеддингов из семейства Granite Embeddings, разработанная командой Granite Embedding Team компании IBM. Модель на архитектуре ModernBERT содержит 149 млн параметров и преобразует текст в векторы размерности 768; максимальная длина контекста — 8192 токена. Для работы с моделью используются PyTorch и Sentence Transformers. Модель предназначена для поиска и извлечения информации: она кодирует запросы, passages и документы в векторы, которые можно сравнивать, например, по косинусному сходству. Подходит для семантического поиска, оценки сходства предложений и поиска по длинным документам, коду, таблицам и многоходовым диалогам. Обучение включало предобучение для задач поиска, контрастивное дообучение, дистилляцию и объединение моделей; разработчики сообщают о результатах на наборах BEIR, MTEB, CoIR, MLDR и других. Модель рассчитана на английский текст. Тексты длиннее 8192 токенов обрезаются. Распространяется по лицензии Apache 2.0.

Grok 4.5 — модель SpaceXAI, заявленная как модель с передовыми возможностями в программировании, интеллектуальной работе и задачах STEM. Она предназначена для помощи в написании и разборе кода, работе со знаниями и решении научных, технических, инженерных и математических задач. Доступные сведения не подтверждают конкретные архитектуру, размер, модальности, языки или длину контекста. Лицензия не указана.

Inkling-Small-GGUF — мультимодальная авторегрессионная модель, разработанная Thinking Machines и представленная в формате GGUF командой Unsloth. Модель принимает текст, изображения и аудио, а генерирует текст; она предназначена для разработчиков AI-приложений, включая агентные и tool-use системы, coding assistants, чат-ботов, retrieval-augmented generation, диалоговые и мультимодальные сценарии, а также для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой 42-слойный decoder-only Transformer с разреженным Mixture-of-Experts: всего 276 млрд параметров, из которых активны 12 млрд; для каждого токена выбираются 6 из 256 экспертов и используются 2 общих эксперта. Внимание сочетает локальные и глобальные слои. Изображения обрабатываются иерархическим patch-энкодером, аудио — дискретным токенизированным представлением, после чего все модальности проецируются в общее скрытое пространство. Поддерживаются числовые форматы BF16 и NVFP4; GGUF-вариант ориентирован на локальный запуск через совместимые инструменты. Для изображений рекомендуются размеры каждой стороны от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью желательно менее двух минут. Сильные стороны модели — сочетание текстовых, визуальных и аудиовходов, поддержка английского и общих мультиязычных сценариев, работы с кодом и широкого спектра прикладных задач. Ограничения включают текстовый формат вывода, рекомендуемые ограничения на входные изображения и аудио, а также отсутствие в представленных данных конкретного размера контекстного окна и подробных результатов оценивания. Модель распространяется под лицензией Apache-2.0.

MiniCPM5-2B-GGUF — это GGUF-сборка плотной каузальной языковой модели MiniCPM5-2B, разработанной OpenBMB и опубликованной пользователем prithivMLmods. Модель предназначена для локальных ассистентов, генерации текста, программирования, coding-agent задач, использования инструментов и развёртывания на устройствах с ограниченными ресурсами. Она поддерживает запуск через llama.cpp и совместимые приложения, включая Ollama и LM Studio. Модель содержит около 2,52 млрд параметров и использует архитектуру LlamaForCausalLM с 42 слоями и Grouped-Query Attention: 16 Q-голов и 2 KV-головы. Заявлена длина контекста до 131 072 токенов, а указанным языком является английский. Доступны варианты GGUF с точностями от F32 и BF16/F16 до квантований Q3–Q8, размером примерно от 1,19 до 10,1 ГБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Сильными сторонами заявлены рассуждения, математика, программирование, работа с длинным контекстом, вызов инструментов и агентные сценарии; модель обучалась с использованием специализированного дообучения и reinforcement learning. Ограничения включают компактный размер по сравнению с крупными LLM, заявленную языковую поддержку только английского и зависимость характеристик от выбранного уровня квантования. Модель распространяется по лицензии Apache-2.0.

llmfan46/MiniMax-M2.7-BF16-ultra-uncensored-heretic — модифицированная версия MiniMax-M2.7 от независимого автора llmfan46. По карточке, к модели применена abliteration: изменены параметры attn.o_proj на слоях 0–51, чтобы снизить частоту отказов при сохранении близости к поведению исходной модели. Метаданные описывают её как текстовую MoE-модель для генерации текста с диалоговым режимом, размером 2,9 млрд параметров и контекстом до 204 800 токенов. Модель рассчитана на диалог, сложные инструкции, программирование, анализ инцидентов и агентные сценарии; автор исходной MiniMax-M2.7 также заявляет поддержку работы с инструментами и офисными документами. В README приведено сравнение отказов и KL-дивергенции с исходной моделью, однако эти показатели получены самим автором и не подтверждают качество на независимых тестах. Лицензия указана как other, поэтому условия использования следует проверить в репозитории базовой модели и связанных лицензионных материалах.

richardyoung/mythos-9b-merged-heretic — модель для генерации текста и диалогов, созданная Richard Young на основе Qwen3-9B. Это декензурированная версия Mythos-9B, полученная с помощью Heretic v1.4.0; исходная Mythos-9B дообучалась на 47 824 примерах с трассами использования инструментов, командами оболочки, генерацией кода и многошаговыми рассуждениями. Модель поддерживает режим thinking и рассчитана на агентные сценарии с вызовом инструментов. Репозиторий содержит веса в формате safetensors. Контекст модели составляет 40 960 токенов, размер — 7,6 млрд параметров; в карточке указан английский язык. В сравнении с исходной Mythos-9B автор приводит 7 отказов из 100 проверок против 79 из 100 у исходной модели, а также низкую KL-дивергенцию 0,0211. Эти результаты описывают приведённые автором проверки и не гарантируют качество в других задачах. Модель распространяется по лицензии Apache 2.0.

unsloth/Qwen3.6-27B — мультимодальная модель с открытыми весами, основанная на Qwen/Qwen3.6-27B и дообученная после предварительного обучения. Она предназначена для диалогов, программирования, агентных сценариев и работы с изображениями; модель поддерживает вызов инструментов и рассчитана на разработчиков, использующих Transformers и совместимые среды запуска. Архитектура — плотная причинная языковая модель с визуальным энкодером, 27 млрд параметров; контекст составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель принимает текст и изображения и генерирует текст. В карточке отмечены улучшения в работе с кодом, включая фронтенд-задачи и рассуждение по репозиториям, а также сохранение контекста рассуждений между сообщениями. README упоминает текстовый, графический и видеоввод, однако метаданные классифицируют модель только как image-text-to-text. Указанная лицензия — Apache-2.0.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-25 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Это текстовая модель для генерации текста на основе архитектуры Qwen3_5MoeForCausalLM с разреженной смесью экспертов (MoE). Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для задач рассуждения, программирования и общего текстового вывода, включая развёртывание через vLLM с OpenAI-совместимым API. В слоях экспертов MoE применена смешанная квантизация NVFP4: веса и активации линейных операторов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Дополнительно выполнено 25-процентное REAP-прореживание экспертов. Это снижает требования к дисковому пространству и GPU-памяти квантизированных слоёв примерно на 75 процентов с учётом дополнительного выигрыша от разреженности. По данным оценки, модель сохранила высокое качество относительно неквантизированной версии: результат на GPQA Diamond составил 91,5 против 92,6 у исходной модели, а на DeepSWE v1.1 — 56,6, что соответствует заявленному восстановлению 98,81 и 100 процентов соответственно. Ограничения включают потенциальное влияние квантизации и прореживания на качество за пределами указанных тестов, а также высокие требования к инфраструктуре: рекомендован запуск с vLLM, tensor parallelism на 8 GPU и expert parallelism. Лицензия в README не указана.

Qwen3.8-Flash-Next REAP-384 — это мультимодальная модель класса 180B параметров, разработанная на основе Qwen/Qwen3.8-Flash-Next и опубликованная пользователем sh0wie. Версия адаптирована для MLX и выполнена в 4-битной аффинной квантизации. В каждом MoE-слое сохранено 384 из 512 экспертов, при этом маршрутизация top-10 не изменена. Модель предназначена прежде всего для генерации текста и агентских сценариев, особенно для программирования и рефакторинга кода; поддерживается запуск и OpenAI-совместимое серверное предоставление через mlx-vlm. Мультимодальные веса, включая vision tower, сохранены, однако качество работы с изображениями после pruning не оценивалось. Архитектура включает основную модель объёмом около 125B параметров, 51B-параметрическую n-gram embedding table и 48 слоёв, чередующих Gated DeltaNet и Qwen sparse attention. Используется MoE с 384 экспертами на слой, квантизация — 4-битная, с group size 64, а для n-gram-таблицы — 32. Модель требует около 80 ГБ дискового пространства и примерно 51 ГБ оперативной памяти при размещении n-gram-таблицы на NVMe; при полной загрузке в память потребление составляет около 80 ГБ. В тесте HumanEval получен результат 92,1% pass@1 против 93,9% у некропнутой 512-экспертной версии. Сильная сторона модели — близкое к исходной версии качество при сниженных требованиях к диску и памяти; доступна также speculative decoding с отдельным MTP-drafter, хотя выигрыш в скорости зависит от оборудования. Ограничения включают неполную проверку мультимодальности, возможное ухудшение качества в областях, далёких от программирования, и однократные оценки без доверительных интервалов. Модель распространяется по Qwen Community License 1.0, унаследованной от базовой модели.