I.2Синтез, понимание и проверка знаний

OndeviceAI-T5-v1 — модель для генерации и преобразования текста, разработанная как дообученная версия paust/pko-t5-large. Она построена на архитектуре T5 с 403,9 млн параметров и предназначена для задач формата text-to-text. Модель сохраняется в формате safetensors и распространяется по лицензии CC BY 4.0. Карточка не описывает конкретную прикладную задачу, языковые возможности или результаты оценки качества.

openPangu-Embedded-7B — плотная языковая модель с 7,4 млрд параметров от Huawei, обученная с нуля на Ascend NPU. Модель предназначена для диалогов и генерации текста; поддерживает быстрый и медленный режимы рассуждения, причём по умолчанию включён медленный. Для быстрого режима в конце запроса добавляют тег /no_think. В карточке указаны 34 слоя и обучение примерно на 19 трлн токенов. Модель ориентирована на китайский и английский языки и принимает контекст до 32 768 токенов согласно метаданным. В README приведены результаты бенчмарков MMLU-Pro и CMMLU, однако они не гарантируют точность в практических задачах. Лицензия обозначена как other; перед использованием следует проверить условия в репозитории. Разработчик предупреждает, что ответы могут содержать ошибки и не заменяют профессиональные медицинские или юридические рекомендации.

sahilchachra/orcarouter-Qwen3.8-27B-Uncensored-MXFP8 — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, созданная пользователем sahilchachra с использованием MLX. Модель основана на Qwen3.8-27B и предназначена для задач генерации текста и обработки изображений с формированием текстовых ответов. Она поддерживает запуск на компьютерах Apple Silicon через mlx-vlm и совместима с LM Studio. Модель относится к vision-language моделям архитектуры qwen3_5. Текстовый блок содержит 64 слоя и сочетает линейное внимание GatedDeltaNet с полноразмерным вниманием, используемым в каждом четвёртом слое; визуальная часть построена на Qwen3-VL. Текстовая часть квантизирована в формате MXFP8 с эффективными 8,381 битами на вес и группами размера 32, тогда как vision tower сохранён в формате bf16. Размер файлов модели составляет около 27 ГБ в 26 сегментах, поэтому для запуска рекомендуется Mac минимум с 32 ГБ оперативной памяти. Это reasoning-модель, которая перед финальным ответом генерирует канал рассуждений. Версия MXFP8 структурно проверена, однако полная генерация токен за токеном на машине с 24 ГБ памяти не тестировалась. В модели отсутствует MTP head, поэтому недоступно speculative decoding; остальные текстовые и визуальные возможности не затронуты. Модель является намеренно uncensored/abliterated-производной и может не отказывать в запросах, которые могла бы отклонить исходная модель, поэтому требует ответственного использования. Распространяется по лицензии Apache-2.0.

OxytocinErosEngineeringF1-7B-slerp — объединённая текстовая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из ChaoticNeutrals/Eris_Remix_7B и Virt-io/Erebus-Holodeck-7B. Слияние выполнено методом SLERP с разными коэффициентами для слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы. В карточке приведены результаты Open LLM Leaderboard, включая средний балл 69,22, однако подробные результаты доступны по внешней ссылке. Репозиторий содержит веса Safetensors и GGUF F16. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Peagle-9b — объединённая разговорная языковая модель на архитектуре Mistral, опубликованная maxcurrent. Она создана с помощью VortexMerge kit методом passthrough из mlabonne/NeuralBeagle14-7B и eldogbbhed/NeuralPearlBeagle, с использованием диапазонов слоёв обеих моделей. Репозиторий содержит веса в формате safetensors; модель насчитывает 8,9 млрд параметров и имеет контекстное окно до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно применять для ответов на вопросы, написания и редактирования текста, а также для других задач, где требуется генерация текста. Карточка не уточняет поддерживаемые естественные языки и не приводит специализированных областей применения. Модель доступна по лицензии CC BY-NC 4.0, которая допускает использование с указанием авторства, но ограничивает коммерческое применение. Качество и ограничения конкретных сценариев в карточке не описаны.

Diamegs разработала PIT-4B-FT-202112 — англоязычную инструкционную версию GPT-модели семейства Point-In-Time (PIT). Это плотный авторегрессионный трансформер с архитектурой decoder-only; LoRA-адаптеры, обученные на инструкционных данных, объединены с базовыми весами Diamegs/PIT-4B-202112. Модель предназначена для генерации текста с учётом знаний, доступных к декабрю 2021 года, включая временной анализ и рассуждения о событиях на тот момент. Она поддерживает следование инструкциям, работает через библиотеку Transformers и принимает контекст до 2048 токенов. Знания модели ограничены веб-текстами, доступными до декабря 2021 года. В README отмечены отсутствие RLHF и дополнительной настройки безопасности, а также риск воспроизведения смещений обучающих данных; модель не рекомендуется для критически важных сценариев без дополнительного выравнивания. Лицензия — Apache-2.0.

Platypus2-70B-instruct — англоязычная авторегрессионная языковая модель на архитектуре LLaMA 2, созданная объединением Platypus2-70B от Cole Hunter и Ariel Lee с Llama-2-70b-instruct-v2 от upstageAI. Модель насчитывает 68,7 млрд параметров, принимает текстовые инструкции и генерирует текст; её контекст составляет 4096 токенов. Модель предназначена для ответов на инструкции и задач рассуждения, в том числе по STEM-темам и логике. Для Platypus2-70B использовался датасет Open-Platypus, а в метаданных также указан OpenOrca. Оценка проводилась на английском языке; результаты включают ARC, HellaSwag, MMLU и TruthfulQA. Модель может выдавать неточные, предвзятые или нежелательные ответы, а испытания не охватили все сценарии применения. Лицензия CC BY-NC 4.0 разрешает использование на некоммерческих условиях с указанием авторства.

TheBloke опубликовал модель Platypus-30B-SuperHOT-8K в формате PyTorch fp16: Platypus-30B, дообученную для следования инструкциям, объединили с LoRA SuperHOT 30B от Kaio Ken для расширения контекста. Это авторегрессионная плотная языковая модель семейства LLaMA с 32,3 млрд параметров и контекстом до 8192 токенов. Для расширенного контекста карточка указывает на необходимость включить trust_remote_code=True или применить monkey patch масштабирования RoPE. Модель предназначена для генерации текста и ответов на вопросы на английском языке. Её можно использовать для диалоговых сценариев, следования инструкциям и задач на понимание текста; README приводит результаты оценивания на MMLU, ARC и HellaSwag. Файлы fp16 рассчитаны на запуск на GPU и могут служить основой для дальнейших конверсий. Базовые веса LLaMA распространяются по специальной лицензии Meta с некоммерческими ограничениями; метаданные репозитория обозначают лицензию как other. README предупреждает о возможном токсичном и предвзятом поведении и советует не считать ответы источником истины или заменой человеческому суждению.

Daewon0808 дообучил Meta Llama 3.1 8B Instruct на 7,5 млрд параметров; веса доступны в формате safetensors. По названию репозитория и приведённым метрикам PRM модель предназначена для оценки шагов в решениях задач и проверки корректности рассуждений. В README указаны accuracy 0,8491 и F1 0,9059 на оценочном наборе, однако описание набора данных и подробности оценки отсутствуют. Модель принимает текст и генерирует текст; метаданные указывают на диалоговые возможности, контекст до 131 072 токенов и поддержку интерфейса вызова инструментов. Базовая модель поддерживает многоязычные диалоги, но языки обучения этой производной модели не описаны. Условия использования наследуются от лицензии Llama 3.1.

Prometheus-Vision 13B — открытая зрительно-языковая модель на архитектуре LLaVA с 12,9 млрд параметров, разработанная для оценки ответов с учётом изображений. На вход она принимает изображение, инструкцию, проверяемый ответ, пользовательскую шкалу оценивания и эталонный ответ; на выходе формирует текстовую обратную связь и решение о балле по критериям. Модель рассчитана на английский язык и использует контекст до 4096 токенов. Модель предназначена для автоматизированной оценки ответов на визуальные вопросы и других сценариев, где ответ нужно сопоставить с изображением, эталоном и заданной рубрикой. В README заявлена высокая корреляция оценок с GPT-4V и человеческими оценщиками. Репозиторий предоставляет веса PyTorch для Transformers; лицензия Apache 2.0.

ProphetNet-large-uncased — предварительно обученная англоязычная модель Microsoft для генерации текста в архитектуре encoder-decoder. Она использует цель обучения future n-gram prediction: многопоточный декодер предсказывает несколько будущих токенов. Модель можно дообучать для задач преобразования текста, например для генерации заголовков по исходному тексту. Модель предназначена для дальнейшей настройки под конкретные задачи sequence-to-sequence, а не описана как готовый специализированный сервис. В метаданных указаны архитектура ProphetNet, реализация для условной генерации текста, контекст длиной 512 токенов и форматы PyTorch и Safetensors. Карточка не сообщает условия лицензии; размер модели в предоставленных данных не указан.

Карточка модели unicamp-dl/ptt5-large-portuguese-vocab на Hugging Face совпадает с карточкой unicamp-dl/ptt5-base-portuguese-vocab, поэтому описание составлено по ней. PTT5-base-portuguese-vocab — модель семейства T5, разработанная командой Unicamp-DL и предварительно обученная на большом корпусе португалоязычных веб-страниц BrWac. Это базовая версия размера base с португальским словарём, обученным на португалоязычной Википедии; в метаданных указано 123,8 млн параметров, архитектура T5WithLMHeadModel и контекст до 512 токенов. Модель предназначена для генерации текста и может служить основой для задач на португальском языке, включая сходство предложений и определение логического следования, для которых авторы отмечают улучшение по сравнению с исходным T5. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в форматах PyTorch, Safetensors и TensorFlow. Лицензия — MIT. Карточка не описывает конкретные ограничения качества или дополнительные настройки применения.

PULI LlumiX 32K base — языковая модель семейства LLaMA, разработанная NYTK. Это базовая модель с 6,74 млрд параметров, полученная продолжением предобучения LLaMA-2-7B-32K на венгерских и английских текстах. Контекст расширен до 32 768 токенов с помощью интерполяции позиционных представлений; веса доступны в формате safetensors и рассчитаны на float16. Модель предназначена для генерации текста и работы с длинными документами. Обучающие данные включали крупный венгерский корпус, а также англоязычные материалы для вопросов и ответов по длинному контексту и суммаризации книг. Базовый чекпойнт можно использовать для генерации продолжений и адаптировать для последующей настройки под конкретные задачи. Возможности модели ограничены генерацией текста; README описывает именно базовую, а не instruct-версию. Максимальная длина последовательности составляет 32 768 токенов. Лицензия — LLaMA 2; применяйте модель в соответствии с её условиями.

Q3.6-27B-DS-v4-Flash-DA-GGUF — экспериментальная GGUF-версия модели, разработанная prithivMLmods. В её основе — Qwen/Qwen3.6-27B и производная prithivMLmods/Qwen3.6-27B-abliterated-rMAX; модель дополнительно обучалась на дистиллированных рассуждениях DeepSeek V4 Flash с применением анализа и абляции направлений отказа. Заявленная цель — улучшить подробное контекстное рассуждение и следование инструкциям при снижении внутренних механизмов отказа. Модель предназначена для генерации текста, исследовательских и учебных экспериментов, а также сценариев, где важны рассуждение и развёрнутые ответы. В репозитории представлены варианты в форматах BF16, F16 и различных степенях квантования Q2_K–Q8_0; размеры файлов составляют примерно от 10,7 до 53,8 ГБ. В метаданных указан английский язык. Также доступны файлы mmproj, что указывает на заявленную поддержку мультимодального режима, однако подробности о поддерживаемых модальностях, размере контекста и фактических возможностях обработки изображений не приведены. К сильным сторонам относятся фокус на reasoning, контекстно-зависимые ответы и instruction following. Ограничения включают экспериментальный статус, возможное появление артефактов и сниженные механизмы отказа, из-за чего модель может генерировать чувствительный или неограниченный контент. Использование заявлено для исследований и обучения; модель распространяется по лицензии Apache-2.0.

omni-devel/QA-Gen — русскоязычная модель семейства mT5 для генерации пары «вопрос—ответ». Она дообучена на датасете Den4ikAI/ru_sberquad_long_answers и предназначена для локального запуска: встроенный инференс, согласно карточке, генерирует ответы плохо. Модель содержит 39,7 млн параметров, использует архитектуру MT5ForConditionalGeneration и распространяется в формате safetensors. Лицензия — Apache-2.0.

Qmerft — объединённая авторегрессионная языковая модель, созданная автором репозитория sumink с помощью mergekit. Она объединяет Qwen/Qwen2.5-1.5B и sumink/Qwenftmodel методом SLERP; архитектура — Qwen2ForCausalLM, размер — 1,5 млрд параметров, веса доступны в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В карточке указана лицензия Apache-2.0. README не описывает отдельные оценки качества или узкую специализацию, поэтому пригодность для конкретных задач следует проверять на собственных примерах.

phh/Qwen3-0.6B-TLDR-Lora — LoRA-адаптер для модели Qwen/Qwen3-0.6B, разработанный пользователем или организацией с идентификатором phh. Модель предназначена для задач суммаризации текста и связана с датасетом trl-lib/tldr. В метаданных указаны библиотека PEFT и тег конвейера summarization. Адаптер основан на Qwen3-0.6B, однако в предоставленной карточке не указаны точные архитектурные параметры, размер адаптера, поддерживаемые языки и длина контекста. Данные о модальностях отсутствуют, поэтому модель следует рассматривать как текстовую. Лицензия — Apache-2.0; дополнительные сведения о качестве, ограничениях и рекомендуемых сценариях использования не приведены.

bleysg/Qwen3.5-122B-A10B-int4-fp8-hybrid — гибридный квантованный чекпойнт модели Qwen3.5-122B-A10B, созданный на основе весов Intel/Qwen3.5-122B-A10B-int4-AutoRound и официального Qwen/Qwen3.5-122B-A10B-FP8. Модель предназначена для генерации текста и оптимизирована для запуска на NVIDIA DGX Spark с GB10, SM121 и 128 ГБ унифицированной памяти через vLLM, прежде всего для эффективного декодирования с ограниченной пропускной способностью памяти и поддержки speculative decoding. Маршрутизируемые эксперты и attention представлены в формате INT4 GPTQ/AutoRound, а 144 слоя общих экспертов, постоянно используемых при обработке каждого токена, преобразованы из BF16 в FP8 E4M3 с размером блока 128. Embeddings, norms и выходная голова сохранены от INT4-базы. По данным README, такая компоновка повышает скорость базового декодирования без speculative decoding на GB10 с 28,2 до 36,0 токена в секунду, или примерно на 28%, однако преимущество уменьшается при высокой доле принятых спекулятивных токенов. Для работы требуется специализированный проект qwen3.5-122B-A10B-on-spark, профиль dense и патч vLLM 0.23 с поддержкой смешанной схемы INT4/FP8; стандартная версия vLLM не умеет корректно загружать этот чекпойнт. В README не указаны языки, длина контекста и поддерживаемые модальности, поэтому модель следует рассматривать как текстовую. Производная работа наследует условия лицензирования исходной Qwen3.5-122B-A10B и Intel AutoRound; конкретные условия определяются лицензиями upstream-моделей.

llmfan46/Qwen3.5-27B-uncensored-heretic-v1 — дообученная версия Qwen/Qwen3.5-27B от независимого автора. Это мультимодальная диалоговая модель с причинной языковой моделью и визуальным энкодером, предназначенная для ответов на запросы, анализа изображений и диалоговых сценариев с меньшим числом отказов на запросы. По карточке, автор применил abliteration к отдельным компонентам модели; приведённые им тесты показывают 8 отказов из 100 против 95 из 100 у исходной модели. Модель содержит 27 млрд параметров, использует плотную архитектуру Qwen3.5 с Gated Delta Networks и механизмом gated attention. Нативная длина контекста — 262 144 токена, с заявленным расширением до 1 010 000. Карточка базовой модели заявляет поддержку 201 языка и диалекта; языки в таблице этой модели не перечислены. Модель принимает текст и изображения и выдаёт текст. Доступна в формате safetensors для Transformers. Модель распространяется по лицензии Apache-2.0. Результаты тестов и заявления о возможностях приведены автором карточки и не являются независимой оценкой; уменьшение числа отказов означает, что модель может отвечать на запросы, которые исходная модель отклоняет.

Qwen3.5-35B-A3B-Kazakh — мультимодальная модель ISSAI на архитектуре Qwen3.5 MoE для диалогов на казахском и английском языках с поддержкой изображений и видео. Это адаптация Qwen3.5-35B-A3B: базовую модель продолжительно обучали на казахских текстах, расширили словарь на 16 тысяч казахских токенов, затем перенесли инструкционное выравнивание официальной instruct-модели методом chat-vector merge. Ветвь зрения и мультимодальный проектор восстановлены из официальной модели. Модель предназначена для ответов на вопросы, диалогов и анализа визуальных материалов, в том числе на казахском языке. По данным README, она сохраняет большинство возможностей базовой модели, но отвечает более краткими рассуждениями; на сложных задачах рассуждения качество может снижаться. Зрение не дообучалось специально, поэтому на визуальных тестах возможна деградация. Для запуска указаны Transformers и vLLM; максимальная длина контекста в метаданных не приведена. Лицензия — Apache-2.0.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_1L — версия Qwen3.5-397B-A17B, подготовленная Jinho Jang с применением адаптивной смешанной квантизации JANG для запуска через MLX на компьютерах Mac с Apple Silicon. Модель имеет архитектуру MoE с гибридом GatedDeltaNet и полнослойного внимания: из 397 млрд параметров активны около 17 млрд, используются 512 экспертов на слой и top-10 активных экспертов. Профиль JANG_1L хранит экспертные MLP в 2-битном формате, а внимание, маршрутизаторы и эмбеддинги — в 8-битном; размер файлов составляет около 112 ГБ. Модель предназначена для диалогов, генерации текста и пошаговых рассуждений, а также анализа изображений. В карточке заявлена поддержка VLM и режима reasoning; приведён результат 86,5% на тесте MMLU из 200 вопросов при включённом reasoning, а также скорости генерации и обработки изображений. Для запуска требуется Mac с Apple Silicon и не менее 128 ГБ объединённой памяти, а также MLX Studio или пакет jang[mlx] версии 2.1.5 и выше. Лицензия — Apache-2.0. Это сильно сжатая производная базовой модели, поэтому качество может отличаться от исходной модели и других профилей квантизации; опубликованный результат MMLU основан на ограниченном наборе вопросов. Указанная конфигурация ориентирована на MLX и Apple Silicon, а карточка сообщает о несовместимости формата JANG с LM Studio, Ollama и oMLX.

Qwen3.5-397B-A17B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.5-397B-A17B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm, при этом модель оптимизирована для запуска на устройствах с Apple Silicon. Модель относится к классу image-text-to-text и предназначена для задач генерации текста на основе текстовых и, вероятно, визуальных входных данных. В доступной карточке не указаны точные сведения об архитектуре, числе активных параметров, поддерживаемых языках, размере контекста, форматах изображений и результатах оценки качества. Ключевое преимущество версии — сниженные требования к памяти по сравнению с полноразмерной моделью и адаптация к экосистеме Apple Silicon; ограничением является зависимость от совместимого MLX-окружения и потенциальная потеря точности из-за 6-битного квантования. Модель распространяется по лицензии Apache-2.0. Исходная модель создана Qwen, а данная MLX-квантизация предоставлена LM Studio; LM Studio отдельно указывает, что не является создателем исходной модели и не гарантирует точность, безопасность или пригодность генерируемого содержимого.

Qwen3.5-397B-A17B-VQ-2.2bpw — векторно-квантизированная версия модели Qwen3.5-397B-A17B, разработанная TheDrainFlorist на базе модели Qwen. Репозиторий предназначен для запуска большой MoE-модели локально на компьютерах Apple Silicon с 128 ГБ объединённой памяти, без кластера и специальных патчей, используя MLX и совместимые инструменты mlx-lm или mlx-vlm. Модель поддерживает генерацию текста, а после обновления runtime также обработку изображений через mlx-vlm. Модель имеет 397 млрд параметров и обозначение A17B, что указывает на разреженную архитектуру Mixture-of-Experts с примерно 17 млрд активных параметров на токен. Применяется vector quantization с точностью 2,2 bits per weight; размер артефакта составляет около 101,0 GiB. Заявлена поддержка английского языка, а тесты включают прозу и смешанный по языкам код. Максимальная длина контекста в README не указана. Для текста требуется mlx-lm с поддержкой ключа model_file версии 0.31.9 или совместимой, для изображений — mlx-vlm не ниже 0.6.16. Главное преимущество сборки — уменьшенный объём, позволяющий сохранить около 17 ГиБ свободной памяти на системе с 128 ГБ и использовать модель с меньшими требованиями к резидентной памяти. По опубликованным измерениям версия v2 улучшает perplexity относительно v1 и превосходит близкую 2,6-битную квантизацию на прозе, однако уступает сборке VQ-2.4bpw по качеству. Уменьшение размера не гарантирует более высокую скорость декодирования, поскольку активные эксперты на токен остаются сопоставимыми. Лицензия — Apache-2.0.

Это квантованная в формате NVFP4 сборка Qwen3.5-9B, подготовленная FreedomAISVR для запуска через GGUF и llama.cpp. Она сохраняет поддержку Multi-Token Prediction (MTP): модель предсказывает дополнительный токен на шаге генерации, что, по данным карточки, может увеличить пропускную способность на 30–40%. В README указаны 9 млрд параметров у базовой модели, гибридная архитектура с Attention и Mamba-2, механизм Multi-Head Latent Attention и контекст до 262 144 токенов. Модель предназначена для генерации текста и мультимодального диалога с анализом изображений; для визуального ввода в репозитории предусмотрен отдельный проектор SigLIP в формате F16. NVFP4 рассчитан прежде всего на ускорение инференса на видеокартах NVIDIA Blackwell, а для запуска через llama.cpp приведены текстовый и мультимодальный сценарии. Базовая Qwen3.5-9B описана как мультиязычная; в метаданных явно указаны английский и китайский. Сборка опубликована по лицензии Apache-2.0. NVFP4 может быть неудобен для видеокарт до Blackwell и для запуска на CPU; README рекомендует для таких систем другие варианты квантования. Утверждение о приросте скорости MTP приведено в карточке модели и зависит от оборудования и условий инференса.

z-lab/Qwen3.5-9B-PARO — это 4-битная версия языково-визуальной модели Qwen/Qwen3.5-9B, квантованная методом ParoQuant. Модель разработана командой z-lab; метод описан в работе ParoQuant: Pairwise Rotation Quantization for Efficient Reasoning LLM Inference. Модель предназначена для эффективного запуска задач генерации и рассуждений на языковых данных, а также мультимодальных сценариев с обработкой изображений и текста. Она поддерживает работу на NVIDIA GPU через vLLM и Transformers и на устройствах Apple Silicon через MLX. Архитектура и поддерживаемые языки унаследованы от базовой Qwen/Qwen3.5-9B, но их подробные характеристики в README не указаны. Ключевая особенность — квантование языковых компонентов до INT4, обеспечивающее уменьшенный размер и ускоренный inference при заявленном качестве, близком к FP16, и скорости около уровня AWQ. Визуальные компоненты хранятся в исходной точности, поэтому модель крупнее полностью квантованной версии; при отсутствии мультимодальных задач их рекомендуется не загружать для повышения эффективности. Контекстное окно, точные требования к памяти и результаты бенчмарков не указаны. Модель распространяется по лицензии Apache-2.0. Для использования требуется совместимое окружение ParoQuant; README содержит варианты запуска через vLLM, Transformers и MLX.

AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-NVFP4 — мультимодальная языковая модель от AEON-7, основанная на AEON-7/Qwen3.6-27B-AEON-Ultimate. Она предназначена для генерации и обработки текста, а также анализа изображений в сценариях, поддерживаемых исходной моделью. В карточке заявлена поддержка английского, китайского и других языков. Модель содержит 27 млрд параметров и использует гибридную архитектуру с полноформатными слоями внимания и 48 слоями линейного внимания GatedDeltaNet. Это аппаратно-квантизированная версия NVFP4: размер на диске уменьшен примерно с 51 до 26 ГБ. Vision tower, слои linear attention, нормализации, эмбеддинги и lm_head сохранены в BF16, поэтому заявлена сохранность мультимодальности и устойчивости гибридной архитектуры. Для развёртывания указан контекст до 256 000 токенов в рекомендованной конфигурации vLLM. К сильным сторонам относятся существенное снижение требований к хранению и возможность использовать native FP4-ускорение на DGX Spark с GB10, B100/B200 и некоторых видеокартах Blackwell, а также сохранение обработки изображений. Ограничения связаны с необходимостью совместимого программного стека и оборудования; заявленные характеристики качества, включая близость к BF16 и отсутствие отказов, требуют независимой проверки после развёртывания. Модель помечена как superseded и рекомендована автором к замене более новой версией Qwen3.8. Лицензия — Apache-2.0.

Модель dealignai/Qwen3.6-27B-MXFP8-CRACK-MTP — модифицированная версия Qwen 3.6 27B от dealignai. Это плотная мультимодальная модель с гибридной архитектурой GatedDeltaNet SSM и полным вниманием, 64 слоями и поддержкой изображений и видео. Репозиторий содержит веса SafeTensors в формате MXFP8 для запуска через MLX на компьютерах Apple Silicon; размер указан как 27 ГБ. Сохранена голова multi-token prediction для спекулятивного декодирования d3, для которого автор заявляет ускорение генерации примерно в 1,74 раза в совместимой среде vMLX. Модель предназначена для диалогов, рассуждений, ответов по изображениям и видео, а также сценариев с вызовом инструментов. Автор сообщает об удалении поведения отказа на уровне весов и приводит результаты HarmBench и MMLU, полученные через vMLX. README не описывает методику тестирования подробно, поэтому заявленные оценки и ускорение следует считать результатами автора, а не независимой проверкой. Лицензия — Apache-2.0. Модель рассчитана на использование с vMLX или совместимой средой MLX с поддержкой Qwen 3.6; формат MLX и ускорение MTP ориентированы на Apple Silicon. После изменения поведения отказа модель может выполнять запросы без обычных отказов по безопасности, поэтому необходим контроль её применения.

Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled-IQ4_XS-GGUF — это GGUF-квантизация модели lordx64 Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled. Модель предназначена для локального запуска через llama.cpp и LM Studio и относится к задачам генерации текста и рассуждений. Базовая модель дообучена методом reasoning distillation для имитации стиля рассуждений Claude Opus 4.7 и формирует явные блоки <think>...</think> перед итоговым ответом. Модель построена на архитектуре Qwen3.6-35B-A3B с MoE, однако подробные характеристики архитектуры, поддерживаемые языки и исходный размер контекста в README не указаны. Для данной версии применяется квантизация IQ4_XS; размер файла составляет примерно 18 ГБ, что делает её наиболее компактным вариантом среди перечисленных и подходящим выбором по умолчанию для LM Studio. В README также упоминается запуск с контекстом до 32768 токенов, но не уточняется, является ли это максимальным поддерживаемым значением. Сильными сторонами являются локальная работа, сравнительно небольшой размер для модели этого класса и ориентация на явные пошаговые рассуждения. Ограничения связаны с потерями качества, неизбежными при квантизации IQ4_XS, а также с отсутствием в представленном README данных о результатах оценивания, точности, языковой поддержке и назначении для конкретных прикладных областей. Лицензия — Apache 2.0, унаследованная от базовой модели.

SassyDiffusion/Qwen3.6-35B-A3B-heretic-GGUF — это набор GGUF-квантизаций языковой модели Qwen3.6-35B-A3B, подготовленный для локального запуска. Исходную модель разработала команда Qwen, а данная версия создана на базе llmfan46/Qwen3.6-35B-A3B-uncensored-heretic с использованием Heretic 1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). Модель предназначена для генерации и обработки текста, включая сценарии, где требуется меньше отказов и ограничений по сравнению с оригинальной версией Qwen3.6-35B-A3B. Модель имеет конфигурацию 35B-A3B; точные сведения об архитектуре, размере активируемой части, длине контекста и поддерживаемых языках в README не указаны. Репозиторий содержит варианты EMB_BF16, в которых таблица token_embd.weight сохраняется без квантизации в формате BF16. Эти embeddings хранятся в системной RAM и не занимают VRAM, что может повысить точность при наличии достаточного объёма оперативной памяти, хотя увеличивает требования к RAM. По заявленным результатам версия демонстрирует 10 отказов из 100 против 83 из 100 у оригинальной модели при KL-дивергенции 0,0015, то есть сохраняет близкое поведение исходной модели при значительно меньшем числе отказов. Ограничением является отсутствие подробных данных о качестве на широком наборе задач, языках и контекстном окне, а также повышенные требования к оперативной памяти для EMB_BF16-квантизаций. В метаданных указана лицензия Apache-2.0.

Это конверсия модели RedHatAI/Qwen3.6-35B-A3B-NVFP4 в формат GGUF, подготовленная для запуска через llama.cpp и совместимые среды. В основе лежит мультимодальная модель Qwen3.6-35B-A3B от Qwen: архитектура Mixture of Experts с 256 экспертами, из которых активируются 8 на токен, чередует линейные Mamba-подобные SSM-слои и полное внимание; зрительный энкодер основан на подходе Qwen2.5-VL. Веса линейных слоёв упакованы в NVFP4, вспомогательные параметры сохранены в BF16/F32. Модель предназначена для диалогов и генерации текста, а в комплекте с мультимодальным проектором mmproj-BF16.gguf может принимать изображения для зрительных задач. Конверсия ориентирована на llama.cpp и требует версии с поддержкой NVFP4 и соответствующего оборудования для этого режима. В приведённых измерениях NVFP4 быстрее обрабатывает длинные промпты, но медленнее генерирует токены, чем Q4_K_XL на модели того же размера. Контекст в карточке не указан. Лицензия Apache-2.0.