I.4Обработка документов и форм

KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS — мультимодальная производная модель на базе Qwen/Qwen3.8-27B. Она сохраняет гибридную текстово-визуальную архитектуру исходной модели, имеет 27 млрд параметров и распространяется в формате BF16 Safetensors, а также в нескольких текстовых вариантах GGUF. Модель заявлена как многоязычная и предназначена для диалогов, генерации и анализа текста, программирования, работы с JSON, объяснений, математических задач и обработки изображений. Для запуска в Transformers рекомендуется около 56 ГБ памяти под веса без учёта служебных расходов и KV-кэша; в примере для Ollama указан контекст 32768 токенов, но это не подтверждает максимальный контекст модели. Основная особенность версии PHILADELPHIA CLASS — существенное снижение отказов от ответа. По внутренним автоматизированным проверкам авторов, модель не отказала в 842 основных и 126 отложенных запросах, а также прошла 23 из 24 проверок связности; эти результаты не являются независимым аудитом или публичными бенчмарками, причём часть тестовых запросов использовалась при настройке преобразования. Возможные ограничения включают отсутствие гарантии сохранения исходных показателей рассуждений, точности, программирования и компьютерного зрения, зависимость поведения от квантования и серверной части, а также отсутствие MTP-головы, из-за чего недоступно спекулятивное декодирование на её основе. Safetensors предназначен для проверенного мультимодального режима, тогда как GGUF-файлы являются текстовыми и требуют отдельного совместимого vision projector для работы с изображениями. Модель выпущена по лицензии Apache License 2.0.

Qwen3.8-Flash-Next-FP8 — экспериментальная модель семейства Qwen, разработанная командой Qwen. Это каузальная языковая модель с vision encoder, представленная в формате Hugging Face Transformers и предназначенная для генерации и обработки текста, мультимодальных сценариев с изображениями, длинноконтекстного анализа и агентных приложений. Версия FP8 содержит квантизированные веса постобученной модели и совместима с Transformers, vLLM, SGLang и TokenSpeed. Модель имеет 125 млрд параметров, из которых около 6 млрд активируются при обработке запроса, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, Mixture of Experts с 512 экспертами, гибридное внимание на основе Gated DeltaNet и Qwen Sparse Attention, Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. README не указывает точный перечень поддерживаемых языков. К сильным сторонам относятся высокая эффективность при работе с длинным контекстом, сниженная вычислительная и память-затраты благодаря разреженному вниманию, MoE и FP8-квантизации, а также сохранение показателей производительности, близких к исходной модели. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README подробных результатов бенчмарков и неуказанными требованиями к аппаратному обеспечению и профилю мультимодальных возможностей. Модель распространяется по лицензии qwen-community-1.0; дополнительные условия следует проверять в файле LICENSE.

Qwen3.8-Flash-Next-mixed-NVFP4-FP8 — это квантованная версия Qwen3.8-Flash-Next, подготовленная командой Primitive AI. Модель предназначена для мультимодальных сценариев image-text-to-text, генерации текста, рассуждений и вызова инструментов. Она поддерживает работу через Transformers и vLLM, включая tool calling с thinking, parser qwen3_coder и speculative decoding MTP. Модель имеет размер около 183,7 ГБ и использует смешанную точность NVFP4, FP8 и BF16 в формате compressed-tensors. Полноразмерные и линейные attention-проекции переведены в FP8, что сокращает нагрузку на память и ускоряет декодирование. Заявлена работа на одной GPU Blackwell с 96 ГБ видеопамяти и примерно 100 ГБ оперативной памяти; измерения проводились при контексте 32 768 токенов и до 36 последовательностей. Нативный контекст базовой модели указан как 262 144 токена, а для более длинного контекста предлагается RoPE-масштабирование YaRN. По данным карточки, модель сохраняет сопоставимое с обычной NVFP4-сборкой качество при показателях 92,2 для knowledge, 84,8 для call и 56,7 для abstain, а также достигает 84,4 токена в секунду в однопоточном режиме и 526 токенов в секунду при concurrency 32. Основное ограничение — необходимость использовать переменную VLLM_GDN_DECODE_KERNEL=triton: стандартное CUDA-ядро может зависать при высокой конкуренции. Для запуска также требуются специальные параметры vLLM, значительный объём RAM и совместимое оборудование Blackwell. Модель распространяется по лицензии Qwen Community 1.0.

Qwen3-Next-80B-A3B-Instruct — языковая модель от команды Qwen, предназначенная для диалогов, генерации текста и сценариев с вызовом инструментов. Это причинная модель семейства Qwen3-Next с разреженной архитектурой смеси экспертов (MoE), гибридной обработкой контекста через Gated DeltaNet и Gated Attention и поддержкой ускорения вывода с помощью Multi-Token Prediction. В модели 80 млрд параметров, из которых активируются около 3 млрд на токен; при этом метаданные Hugging Face указывают размер 2,3 млрд параметров. Модель рассчитана на инструкции в обычном, нетщательном режиме и поддерживает контекст до 262 144 токенов; в README описано расширение контекста примерно до миллиона токенов с YaRN. Подходит для длинных диалогов и документов, генерации ответов и агентных сценариев с инструментами. Карточка сообщает о результатах на ряде бенчмарков, но не приводит полный набор таблиц в предоставленном тексте. Лицензия Apache-2.0.

Это конверсия в формат MLX модели Jackrong/DeepSeek-V4-Pro-Qwen3.5-9B, опубликованная сообществом mlx-community. Модель построена на архитектуре Qwen3.5 и предназначена для диалогов, работы с текстом и кодом, а также обработки изображений и видеовходов; доступны интерфейсы вызова инструментов. Веса представлены в BF16, сохранены шаблон чата и настройки мультимодального процессора. Репозиторий ориентирован на запуск на Apple Silicon через mlx-vlm; для мультимодального использования рекомендуется эта библиотека. Модель поддерживает английский, китайский, испанский, русский и японский языки. Лицензия — Apache 2.0, унаследованная от исходной модели. Размер параметров и длина контекста в предоставленных данных не приведены. Подробности о назначении и ограничениях исходной модели следует уточнять в её карточке.

OliviaRossi/DoubleTrouble-GGUF — мультимодальная модель семейства DoubleTrouble-27B, разработанная OliviaRossi на основе объединения Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored от DavidAU и Qwopus3.8-27B-Flash от Jackrong. Модель распространяется в формате GGUF и предназначена для генерации текста, сложного следования инструкциям, рассуждений, программирования, агентских сценариев и вызова инструментов, а также для работы с изображениями. Заявлена поддержка английского и китайского языков. Архитектура представляет собой плотную модель Qwen 3.8 с 27 млрд параметров, 64 слоями, скрытым размером 5120, гибридом Gated DeltaNet и Grouped-Query Attention, а также встроенным vision encoder. В репозитории доступны полноточная BF16-версия объёмом около 52 ГБ в двух частях и квантизованная IQ3_XXS с importance matrix объёмом около 11,5 ГБ. Для BF16 рекомендуется не менее 56 ГБ VRAM или RAM, а IQ3_XXS рассчитана на системы до 16 ГБ памяти. Поддерживаются llama.cpp, vLLM и Ollama; заявлена совместимость со стандартным JSON-вызовом инструментов. Модель предлагает режимы динамического рассуждения: от мгновенного ответа без размышлений до углублённого анализа, а также специальные режимы для мозгового штурма и исследовательских задач. По заявлению автора, при слиянии сохранены свойства uncensored-модели, снижена склонность к отказам, а вспомогательная MTP-голова удалена для стабильной работы в стандартных рантаймах. Ограничения включают высокие требования к памяти для BF16, потерю части точности в IQ3_XXS и зависимость качества мультимодальной и агентской работы от используемого рантайма и шаблона чата. Лицензия — Apache-2.0.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-AWQ — мультимодальная языковая модель, основанная на архитектуре GLM-5.3-Flash. Исходную архитектуру разработала Zhipu AI / ZAI, uncensored-веса подготовила dealignai, а Solstice-AI выпустила эту AWQ-квантизованную версию. Модель предназначена для генерации и анализа текста, программирования, математических и логических задач, а также понимания изображений и видео. Заявлены поддерживаемые языки английский и китайский. Модель использует MoE-архитектуру с 320 млрд общих параметров, 288 маршрутизируемыми экспертами и примерно 18 млрд активных параметров на токен. Применяется формат W4A16 AWQ: веса квантизованы до INT4 с group_size=128, а активации сохраняются в 16-битном формате. Визуальные компоненты, механизмы внимания, маршрутизаторы MoE, эмбеддинги и языковая голова оставлены без квантизации. В README указана поддержка контекста до 131 072 токенов, а также speculative decoding с DFlash 2. К сильным сторонам относятся сочетание больших возможностей MoE-модели с уменьшенным размером весов, мультимодальность, поддержка длинного контекста и сценариев программирования, математики, анализа изображений и видео. Ограничения включают очень высокую общую ёмкость модели и, как следствие, значительные требования к памяти и вычислительным ресурсам, несмотря на INT4-квантизацию; для запуска требуются совместимые движки, например vLLM или SGLang. Показатели качества и отсутствие отказов приведены авторами README и не подтверждены независимой проверкой. Лицензия — MIT.

unsloth/Llama-3.2-1B-Instruct — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это плотная авторегрессионная трансформерная модель с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров. В карточке указаны диалоговый режим и интерфейс вызова инструментов; модель принимает и генерирует текст, а контекстное окно составляет 131 072 токена. Модель предназначена для многоязычных диалогов, ответов на вопросы, суммаризации и помощи в написании текста, в том числе в сценариях агентного поиска и использования инструментов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; модель обучалась на более широком наборе языков. Репозиторий содержит веса Safetensors и указывает лицензию Llama 3.2 Community License — специальную лицензию Meta с условиями коммерческого использования. Компактный размер облегчает развёртывание по сравнению с более крупными моделями, однако качество и надёжность ответов требуют проверки для конкретного применения.

Qwen2.5-14B-Instruct-1M-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-14B-Instruct-1M, разработанной командой Qwen. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи, требующие обработки очень длинного контекста, при сохранении возможностей на коротких запросах. В метаданных указана поддержка английского языка. Модель имеет контекстное окно до 1 миллиона токенов, что делает её подходящей для анализа больших документов и других длинных последовательностей. При этом для последовательностей свыше 262 144 токенов возможно снижение точности до появления улучшенной поддержки. Размер исходной модели составляет 14 миллиардов параметров; сведения о конкретном методе и уровнях GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0. Как и другие языковые модели, она может генерировать неточный, неподходящий или вредоносный контент, поэтому результаты требуют проверки. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность или соответствие конкретным требованиям.

Apriel-1.5-15b-Thinker-GGUF — это GGUF-квантизированная версия мультимодальной reasoning-модели Apriel-1.5-15b-Thinker, разработанной ServiceNow AI в рамках серии Apriel SLM. Модель предназначена для генерации текста, решения математических, научных и логических задач, программирования, работы с корпоративными сценариями и анализа изображений. Вариант GGUF создан с использованием llama.cpp; в процессе конвертации применялся подход с повышением точности отдельных важных слоёв для улучшения качества при заданном уровне квантизации. Модель содержит 15 млрд параметров и поддерживает текстовые и визуальные входные данные. Она обучалась на текстах, связанных с математикой, программированием, научными и логическими задачами, а также на мультимодальных данных для понимания изображений, создания подписей и работы с чередующимися изображениями и текстом. Постобучение включало текстовый SFT более чем на 2 млн высококачественных примеров; reinforcement learning не применялся. Заявлены результаты 52 балла в Artificial Analysis, 68 в Tau2 Bench Telecom и 62 в IFBench. Модель рассчитана на размещение на одной GPU и по умолчанию выполняет расширенное рассуждение, что может повышать точность, но увеличивает расход токенов и время ответа. К ограничениям относятся повышенная ресурсоёмкость вывода из-за подробного рассуждения, возможная зависимость качества от выбранного GGUF-квантизированного варианта и отсутствие image SFT и RL в процессе обучения. Лицензия модели — MIT.

WhiskyAKM подготовил конверсию Gemma 4 26B A4B IT QAT в формат GGUF с NVFP4-квантизацией для запуска через llama.cpp и другие совместимые движки. В основе — мультимодальная модель Google DeepMind с архитектурой Gemma4ForConditionalGeneration и 26 млрд параметров; для работы с изображениями и аудио в репозитории также доступен мультимодальный проектор. Модель принимает текст, изображения и аудио, а выдаёт текст; карточка заявляет контекст до 256 тысяч токенов и поддержку более 140 языков. Модель предназначена для диалогов, рассуждений, программирования, анализа изображений и аудио, а также сценариев с вызовом инструментов. Доступны несколько уровней квантования GGUF; для мультимодального ввода требуется использовать mmproj.gguf. Репозиторий распространяется по лицензии Apache-2.0.

MoonRide/gemma-4-31B-it-heretic-ara-custom-GGUF — GGUF-версия инструкционно настроенной мультимодальной модели Gemma 4 31B, разработанной Google DeepMind и модифицированной MoonRide. Модель создана на основе google/gemma-4-31B-it с использованием Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA), направленного на снижение частоты отказов от ответов. По заявленным данным, она обрабатывает текст и изображения и генерирует текст. Модель предназначена для генерации и понимания текста, рассуждений, программирования, работы с длинным контекстом и мультимодальных сценариев с изображениями. Архитектура базовой модели — плотная Transformer-модель примерно с 30,7 млрд параметров, 60 слоями, гибридным вниманием с локальным окном 1024 токена и глобальными слоями. Максимальный контекст заявлен до 256K токенов, размер словаря — 262K; поддерживается более 140 языков. Формат GGUF ориентирован на локальный запуск в совместимых средствах инференса, однако конкретная степень квантования и требования к памяти в README не указаны. Главная особенность этой версии — существенно меньшее число отказов в приведённой оценке: 16 из 100 против 99 из 100 у исходной модели; при этом указано KL-расхождение 0,0417 относительно оригинала. Это может сделать модель более готовой к ответам на запросы, которые базовая версия отклоняет, но одновременно снижает гарантии встроенного безопасного поведения. Модель распространяется по лицензии Apache 2.0 согласно README; для Gemma также следует учитывать применимые условия лицензии Google Gemma 4.

hampsonw/Qwen3.6-27B-AWQ-BF16-INT4-mtp-bf16 — вариант модели Qwen3.6-27B, созданный на основе чекпойнта cyankiwi/Qwen3.6-27B-AWQ-BF16-INT4 версии 26.05.01. Модель представляет собой каузальную языковую модель с энкодером изображений, разработанную в экосистеме Qwen. Она ориентирована на генерацию текста, программирование, агентные сценарии, работу с репозиториями и задачами, требующими визуально-текстового понимания. Модель содержит около 27 млрд параметров, 64 слоя и поддерживает контекст длиной 262 144 токена с заявленной возможностью расширения до 1 010 000 токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Архитектура включает Gated DeltaNet, Gated Attention, FFN и механизм multi-token prediction (MTP); размер модели указан как 26,37 ГБ. Основная часть весов сжата до INT4 в формате AWQ/compressed-tensors, что снижает требования к памяти. Тензоры MTP заменены на необжатые BF16 из базовой модели и предназначены для speculative decoding в vLLM. Это может повысить эффективность генерации при использовании поддерживаемой конфигурации vLLM, однако чекпойнт требует совместимого программного стека и настройки MTP. README не приводит количественных результатов бенчмарков и подробностей об ограничениях качества мультимодального ввода. Лицензия — Apache-2.0.

AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-NVFP4-MIXED — мультимодальная instruction-модель семейства Qwen, разработанная AEON-7 на базе AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Это смешанная версия для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, function calling и обработки изображений и видео. Заявлена поддержка английского, китайского и других языков. Модель распространяется через Transformers и ориентирована на запуск с vLLM и OpenAI-совместимыми интерфейсами. Модель содержит около 27 млрд параметров и занимает примерно 23,8 ГБ в четырёх шардах. В основе используется гибридная архитектура с full attention и Gated DeltaNet (GDN), линейным вниманием, vision-компонентами и native MTP для speculative decoding. Основная часть MLP-слоёв 0–55 представлена в формате NVFP4 W4A4, слои 56–63 и отдельные чувствительные компоненты — в FP8, а vision tower, embeddings, lm_head, GDN-компоненты и MTP head сохранены в BF16. Заявлены long-context, reasoning, tool calling и поддержка аппаратуры Blackwell, включая DGX Spark на GB10, RTX 5090 и RTX PRO 6000. Сильные стороны модели — уменьшенный объём при сохранении мультимодальности и MTP, высокая производительность на целевом оборудовании, улучшенные результаты в программировании и агентских тестах, а также отсутствие исходных ограничений на ответы, описанное авторами как uncensored. При этом авторы отмечают, что общая интеллектуальная оценка уступает стандартной Qwen, а OpenClaw является слабым местом; приведённые результаты получены на локальном наборе AEON Suite и не гарантируют аналогичное качество в других условиях. Лицензия — Apache-2.0.

Swift-Qwen3.8-27B-Uncensored-FP8 — модель от d0xin, представляющая собой независимую производную UkisAI Swift-Qwen3.8-27B. Она создана с применением rank-1 directional residual-stream ablation для удаления поведения отказа, после чего выполнено квантование в compressed-tensors FP8. Базовая модель — d0xin/Swift-Qwen3.8-27B-Uncensored-BF16. Модель предназначена для задач рассуждения, программирования, агентных сценариев, вызова инструментов и обработки изображений. Сохраняются мультимодальная архитектура Qwen с vision tower, поддержка tool calling и длинного контекста. Заявленный размер чекпойнта составляет около 29 ГБ, настроенный максимальный контекст — 262 144 токена; извлечение информации проверялось на запросах длиной до 235 032 токенов. Поддерживаются режимы reasoning_effort low, medium и xhigh; режим high в протестированном стеке отклоняется. К сильным сторонам относятся FP8-квантование, поддержка мультимодальных и агентных нагрузок, вызова инструментов и длинного контекста, а также отсутствие отказов в зафиксированном тесте из 100 запросов: 89 прямых ответов, 10 ответов с предупреждениями и 1 другая ошибка. При этом заявленный результат отражает только конкретный набор запросов и конфигурацию инференса и не гарантирует отсутствие отказов во всех условиях. На ограниченной валидации из 298 примеров FP8 показала 37,92% против 39,93% у модифицированной BF16-версии, поэтому статистическая эквивалентность не установлена. Языки модели в README не указаны. Лицензия — swift-open-license-1.0.

Changgil/google-gemma-3-27b-it-text — текстовая адаптация Gemma 3 от Google DeepMind, представленная Changgil. Из модели удалены компоненты обработки изображений, при этом сохранена генерация текста; архитектура — плотная Gemma 3 для авторегрессионной генерации, размер — 28,3 млрд параметров. Модель работает через Transformers и распространяется в формате safetensors. Модель предназначена для диалогов, ответов на вопросы, суммаризации и рассуждений по текстовым запросам и документам. Она поддерживает контекст до 131 072 токенов и, согласно README, более 140 языков; максимальная длина генерации в README указана как 8 192 токена. Принимает и выдаёт только текст. Лицензия — Gemma License; удаление визуальных компонентов позволяет использовать текстовый вариант там, где обработка изображений не нужна.

Карточка модели Ares-Realm-Studios/Hy4-preview на Hugging Face совпадает с карточкой tencent/Hy4-preview, поэтому описание составлено по ней. Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная модель семейства Qwen3.5, дообученная и собранная DavidAU совместно с Nightmedia на основе нескольких собственных дообучений Qwen3.5-9B. Это плотная архитектура с 9 млрд параметров, 32 слоями и зрительным энкодером; модель принимает текст и изображения и формирует текстовые ответы. В карточке заявлены контекст до 256 тыс. токенов, режимы рассуждения и диалога, а также интерфейс вызова инструментов. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования и творческого письма, включая ролевые сценарии. По заявлению автора, она прошла многоэтапное дообучение и слияние моделей; опубликованы также варианты GGUF, включая квантизованные и MTP-сборки, но эта карточка содержит исходные веса BF16 в safetensors. Автор приводит сравнительные результаты тестов, однако они не гарантируют превосходства на любых задачах. Модель помечена как uncensored; лицензионные условия — Apache-2.0.

AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-Multimodal-NVFP4-MTP — мультимодальная модель генерации текста, разработанная AEON-7 на базе AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16. Модель предназначена для диалогов, анализа и генерации текста, программирования и других сценариев, поддерживаемых Qwen3.6. Заявлены языки English, Chinese и multilingual. Модель опубликована в формате NVFP4 с поддержкой Multi-Token Prediction (MTP) и speculative decoding. Архитектура использует гибридный стек Gated DeltaNet (GDN) и attention, а также мультимодальный режим. Размер модели — 27B параметров. В конфигурации развертывания указан контекст до 229 376 токенов. Формат NVFP4 снижает требования к памяти и рассчитан на ускорители NVIDIA Blackwell, включая DGX Spark/GB10 и дискретные RTX, при использовании совместимого контейнера vLLM. Поддерживаются native MTP и внешний DFlash drafter; заявлены функции reasoning и вызова инструментов через соответствующие парсеры vLLM. К сильным сторонам относятся большой контекст, мультимодальность, оптимизация для Blackwell, ускоренное декодирование и uncensored/abliterated-настройка. Ограничения включают зависимость от специализированных версий vLLM, аппаратных и конфигурационных требований, а также то, что модель помечена как устаревшая: автор рекомендует вместо неё Qwen3.8 Ultimate Uncensored NVFP4-MIXED. Лицензия — Apache-2.0.

Infatoshi/Qwen3.6-35B-A3B-GGUF — это набор GGUF-конверсий базовой модели Qwen/Qwen3.6-35B-A3B, подготовленный Infatoshi для запуска в llama.cpp. Модель предназначена для генерации и обработки текста, а также для мультимодальных сценариев с изображениями и видео; для работы с визуальными входными данными требуется отдельный файл vision projector. Модель использует разреженную MoE-архитектуру: 35 млрд параметров суммарно, около 3 млрд активных параметров, 256 экспертов и один общий эксперт, маршрутизация top-8. В архитектуре сочетаются слои Gated-DeltaNet и Gated-Attention в соотношении 3:1, заявлен нативный контекст до 262 тысяч токенов. Указана поддержка английского, китайского и многоязычного применения. Доступны варианты квантования Q4_K_M, Q5_K_M, Q8_0 и BF16 с объёмом файлов от 20 до 65 ГБ. Сильными сторонами являются существенно сниженное число активных параметров при большом общем размере модели, поддержка длинного контекста и мультимодальный ввод. Вариант Q4_K_M рассчитан на одну видеокарту с 24 ГБ памяти, тогда как более качественные или менее квантованные варианты требуют 32–40 ГБ видеопамяти, частичной выгрузки или CPU. Производительность и требуемые ресурсы зависят от варианта квантования, размера контекста и режима инференса; варианты Q5_K_M, Q8_0 и BF16 не помещаются на одной 24-гигабайтной видеокарте при практически применимом контексте. Модель распространяется по лицензии Apache-2.0.

FreedomAISVR опубликовал GGUF-квантизацию MXFP4 MoE мультимодальной модели Qwen3.6-35B-A3B-Fast. В ней 35 млрд параметров, из которых на каждом токене активны около 3 млрд; архитектура сочетает 40-слойный декодер с Gated DeltaNet и полным attention, а для изображений и видео использует 27-слойный энкодер на основе SigLIP. Модель поддерживает чат, анализ изображений и видео, вызов инструментов и сценарии агентного программирования. Заявленное родное окно контекста — 262 тыс. токенов, с расширением свыше 1 млн через YaRN. Эксперты хранятся в 4-битном формате MXFP4, а attention, эмбеддинги и нормализации — в Q8_0; файл визуального энкодера доступен в F16. Репозиторий рассчитан на запуск через llama.cpp: README указывает минимум 24 ГБ видеопамяти для частичной выгрузки и рекомендует 32 ГБ и более для полной выгрузки на GPU. Карточка указывает Apache-2.0. Описание скорости и результатов бенчмарков приведено автором карточки; оно не гарантирует такую же производительность на любом оборудовании.

Карточка модели TreezzZ/r2s-scienceworld-qwen3.5-4b-student на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.

XCurOS-0.1-8B-Instruct — проприетарная инструкционно настроенная языковая модель, разработанная XCurOS. Она построена на архитектуре Qwen2 с плотной трансформерной моделью примерно на 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых помощников и выполнения инструкций в локальной или облачной инфраструктуре, включая защищённые корпоративные среды. Заявлены рассуждения, программирование, автоматизация рабочих процессов и анализ больших структурированных и неструктурированных текстовых документов; в метаданных также отмечен интерфейс для вызова инструментов. Карточка заявляет поддержку английского и арабского языков. Модель распространяется по проприетарной лицензии: личное и исследовательское использование допускается на частном сервере или локальной инфраструктуре. Коммерческое применение требует отдельной лицензии XCurOS; перераспространение и перепродажа без письменного разрешения запрещены. Качество заявленных возможностей и пригодность для конкретных задач в карточке не подкреплены результатами оценки.

airoboros-l2-13b-3.0 — экспериментальная языковая модель jondurbin на архитектуре Llama 2 с 12,9 млрд параметров. Она дообучена на преимущественно синтетическом наборе airoboros-3.0, продолжающем airoboros-2.2.1; в данных также есть созданные человеком многоходовые диалоги для ролевого общения. Модель предназначена для генерации текста и выполнения инструкций, особенно для ответов на вопросы по заданному контексту, суммаризации, программирования и подготовки структурированных ответов. Модель поддерживает диалоговый шаблон Llama 2 Chat и контекст до 4096 токенов. Для математических запросов она может формулировать решения в формате MathJSON, которые затем вычисляются внешним инструментом. В README отмечено, что ответы по контексту следует явно оформлять специальными разделителями, а для MathJSON рекомендуется низкая температура генерации. Указанная лицензия — Llama 2; модель не следует считать надёжным средством вычислений, а генерацию MathJSON нужно проверять внешним вычислителем.

Devstral-Small-2-24B-Instruct-2512-GGUF — это мультимодальная GGUF-сборка исходной instruct-модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI. Модель упакована и квантована для локального запуска в llama.cpp и рабочей среде Backpack. Она поддерживает текстовые и графические входные данные и генерирует текст. Модель построена на архитектуре Mistral3ForConditionalGeneration и содержит около 24 млрд параметров. Точная длина контекста в карточке не указана. Для обработки изображений требуется отдельный мультимодальный проектор F16 размером около 837,4 MiB. Доступны варианты квантования Q4_K_M, Q5_K_M и Q8_0; рекомендуемым для большинства пользователей назван Q4_K_M, обеспечивающий практический баланс качества, размера и скорости. Оценочный объём оперативной памяти составляет от 21,23 до 35,7 ГБ в зависимости от варианта, но фактическое потребление зависит от конфигурации запуска и длины контекста. Модель предназначена для диалогов, генерации кода, структурированных аргументов инструментов, tool calling и многошаговых циклов взаимодействия с инструментами. В тестах прошли проверки загрузки, инференса и токенизатора для всех вариантов квантования, а также детерминированные проверки перечисленных возможностей для Q4_K_M. Языки, специальные показатели качества и ограничения исходной модели в README не указаны. Квантование может влиять на качество ответов. Распространение осуществляется по лицензии Apache-2.0 с необходимостью учитывать условия upstream-модели.

Edmon02/gemma-4-12B-it-GGUF — это общественное GGUF-зеркало инструкционно дообученной мультимодальной модели Gemma 4 12B IT от Google DeepMind, основанное на google/gemma-4-12B-it. Репозиторий поддерживается Edmon02 и содержит наборы квантованных весов, синхронизированные из bartowski/gemma-4-12B-it-GGUF, для локального запуска на пользовательском оборудовании. Модель предназначена для генерации текста, создания локальных агентов, программирования, а также мультимодальных сценариев с анализом изображений и аудио. Она имеет около 12 млрд плотных параметров, поддерживает текст, vision и audio, использует encoder-free архитектуру без отдельных визуального и аудиокодировщиков. Для обработки изображений в llama.cpp требуется дополнительный файл mmproj-*.gguf. Точное значение контекстного окна в README не указано. Заявлена поддержка английского языка; отдельно упоминаются сценарии исследований на армянском и английском, но полноценный перечень языков не приведён. К сильным сторонам относятся широкий выбор квантований, возможность запуска на устройствах с примерно 8–24 ГБ видеопамяти и интеграция с llama.cpp, LiteRT-LM, LM Studio, Ollama и MLX. Рекомендуемый вариант Q4_K_M рассчитан примерно на 16 ГБ памяти. Ограничения включают необходимость проверять качество общественных квантований относительно официальной версии BF16, возможную потребность в самых свежих сборках llama.cpp или LM Studio для аудио, а также требование принять лицензию и получить доступ к исходному gated-репозиторию Google. Указана лицензия Apache 2.0.

Карточка модели dealignai/Gemma-4-12B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой Ishowbackup/Gemma-4-12B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 12B MXFP4 CRACK — мультимодальная модель на базе Google Gemma 4 12B Instruct, опубликованная dealignai. Это дообученная и квантизированная 4-битная версия с архитектурой Gemma4 Unified и гибридным скользящим и глобальным вниманием; автор заявляет поддержку изображений и аудио, многоязычность, рассуждения и генерацию кода. Модель предназначена для диалогов, ответов на вопросы, анализа изображений и аудио, многошаговых рассуждений и генерации кода; интерфейс также поддерживает вызов инструментов. README сообщает об удалении отказов и высокой готовности отвечать на запросы из вредоносных категорий HarmBench, при заявленном сохранении результата MMLU базовой модели. Эти показатели приведены автором и не являются независимой проверкой. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на Mac с Apple Silicon; стандартные mlx_lm и mlx_vlm, согласно README, поддерживают модель не полностью. Лицензия указана как Gemma; автор позиционирует публикацию как исследовательскую и возлагает на пользователей ответственность за соблюдение законов.

mlx-community/gemma-4-12B-it-qat-OptiQ-4bit — 12-миллиардная унифицированная модель Gemma-4, разработанная Google и представленная в MLX-совместимой квантизованной сборке сообществом mlx-community. Квантизация выполнена инструментарием mlx-optiq поверх QAT-базы google/gemma-4-12B-it-qat-q4_0-unquantized: чувствительные компоненты используют 8-битную точность, остальные — 4-битную. Модель предназначена для локального запуска на Apple Silicon без PyTorch и облачной инфраструктуры. Модель поддерживает генерацию текста, а также сценарии image-text-to-text с отдельной vision-башней в формате bf16. Заявлены задачи рассуждения, программирования, следования инструкциям, агентского взаимодействия и вызова инструментов. Всего квантизовано 328 компонентов, размер группы — 64, эффективная разрядность — 5,25 бит на вес, объём на диске составляет около 8,3 ГБ. Смешанная точность превосходит равномерную 4-битную квантизацию той же QAT-базы на 1,37 пункта Capability Score; особенно заметен прирост в длинном контексте HashHop. При этом в BFCL результат немного ниже, чем у равномерной 4-битной версии. Для работы требуется MLX и актуальная версия mlx-lm из основного репозитория, а для регистрации типа gemma4_unified — mlx-optiq. Поддерживаются языковые и мультимодальные сценарии через optiq; также возможен speculative decoding с указанной моделью-drafter. Лицензия — Apache-2.0.

Карточка модели dealignai/Gemma-4-31B-it-qat-MXFP4-CRACK на Hugging Face совпадает с карточкой Ishowbackup/Gemma-4-31B-it-qat-MXFP4-CRACK, поэтому описание составлено по ней. Gemma 4 31B MXFP4 CRACK — мультимодальная модель на архитектуре Gemma 4, опубликованная dealignai и основанная на google/gemma-4-31b-it. Это дообученная версия с удалёнными отказами, предназначенная для диалогов, ответов на вопросы, многошаговых рассуждений, генерации кода и работы с изображениями. Модель плотная, использует гибридное скользящее и глобальное внимание и квантизацию MXFP4; для запуска автор рекомендует vMLX на Apple Silicon с достаточной общей памятью. В карточке заявлены сохранение возможностей работы с изображениями и проверка генерации кода и рассуждений. По приведённым авторами оценкам, MMLU составляет 82,9% против 88,6% у базовой модели, а соответствие запросам из категорий HarmBench — 95%; это указывает на заметное снижение отказов, в том числе для опасных запросов. Метаданные указывают лицензию Gemma. Автор обозначает модель как исследовательскую; пользователю следует учитывать лицензионные условия Gemma и применимое законодательство.

Hy4 preview — языковая модель поколения Hy4, разработанная командой Tencent Hy. README описывает её как модель Mixture-of-Experts с 770 млрд параметров в основной части и 49 млрд активируемых параметров на токен; встроенный слой MTP предназначен для ускорения спекулятивного декодирования. Метаданные Hugging Face указывают архитектуру HYV4ForCausalLM, библиотеку Transformers, 33,9 млрд параметров и контекст до 1 048 576 токенов; эти значения расходятся с характеристиками в README. Модель предназначена для диалоговой генерации текста и сложных задач: разработки и отладки программ, работы с документами и таблицами, анализа данных, создания прототипов игр и решения научных задач. В README также заявлены сценарии подготовки презентаций и финансовых моделей. Указанная в карточке лицензия — Apache-2.0. Это ранняя preview-версия. Известные ограничения — избыточно долгие рассуждения на сложных задачах и склонность чрезмерно перепроверять результат.