I.2Синтез, понимание и проверка знаний

Prima-LelantaclesV4-7b-16k-bf16 — языковая модель семейства Mistral, объединённая ChaoticNeutrals из Test157t/Prima-LelantaclesV3-7b и Test157t/Yarncules-7b-128k методом SLERP. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста. Репозиторий содержит веса в формате Safetensors с точностью bfloat16; заявленный нативный контекст — 32 768 токенов. Модель подходит для генерации продолжений и ответов, а также для задач рассуждения и работы с длинным контекстом. В README приведены результаты Open LLM Leaderboard, в том числе 66,04 на AI2 Reasoning Challenge и 85,07 на HellaSwag; это отдельные оценки, а не гарантия качества в конкретном применении. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и лицензиях компонентов.

Progenitor-LLaMa-70B — объединённая модель генерации текста, созданная автором TareksGraveyard из нескольких предварительно обученных моделей семейства Llama с помощью mergekit. В качестве базовой модели использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли модели Hanami, Negative LLAMA, Anubis, EVA-LLaMA и Cirrus. Архитектура — плотная LlamaForCausalLM, размер — 69,5 млрд параметров, формат весов — safetensors; контекст — до 131 072 токенов. Модель предназначена для диалога и генерации текста. Автор описывает её как более консервативное слияние и сообщает о хорошем результате, но считает свою более агрессивную версию Progenitor-V1.1-LLaMa-70B удачнее. Модель использует лицензию Llama 3.3; перед применением следует учитывать её условия.

shamwowzer/prototype-128x02 — объединённая языковая модель, созданная с помощью mergekit. В README указано, что в слиянии Multi-SLERP участвовали /workspace/modeler/Behemoth и /workspace/mistral-text-only с весами 0,5; базовой моделью при сборке выбрана /workspace/modeler/Behemoth. Метаданные относят архитектуру к семейству Mistral и классу MistralForCausalLM; модель содержит 123,4 млрд параметров и принимает контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового общения. Репозиторий содержит веса safetensors; для работы используется библиотека Transformers. Лицензия в предоставленных данных не указана.

Qandora-2.5-7B — объединённая методом mergekit модель для диалогов и генерации текста. Она создана на основе Rombos-LLM-V2.5-Qwen-7b, cybertron-v4-qw7B-MGS и Homer-7B-v0.2 с помощью линейного слияния весов; архитектура — плотная Qwen2, около 7,1 млрд параметров. Модель принимает текст и выдаёт текст, а нативная длина контекста составляет 32 768 токенов. Модель предназначена для диалогового взаимодействия и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

QevaCoT-7B-Stock — объединённая языковая модель на базе семейства Qwen2.5, созданная методом Model Stock с помощью mergekit. В слияние вошли Qwen2.5-7B и несколько моделей на его основе, включая инструктивные и ориентированные на рассуждения варианты. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM и работает через библиотеку Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы и задачи, где полезны пошаговые рассуждения. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

recursal/QRWKV6-7B-Instruct — диалоговая модель генерации текста объёмом 7,1 млрд параметров, разработанная в рамках проекта RADLADS. Она использует архитектуру RWKV6Qwen2 и преобразование трансформеров с softmax-вниманием в декодеры с линейным вниманием методом дистилляции. Модель предназначена для генерации текста и общения; в метаданных также заявлен интерфейс вызова инструментов. Контекстное окно составляет 131 072 токена. Подход RADLADS нацелен на сохранение качества исходной модели при более эффективном инференсе с постоянной стоимостью обработки каждого нового токена. Для загрузки через Transformers требуются пользовательские компоненты архитектуры и параметр trust_remote_code=True. Модель распространяется по лицензии Apache 2.0.

QRWKV-72B — крупная разговорная языковая модель от Featherless AI, представленная в работе RADLADS о дистилляции быстрого внимания для декодеров с линейным вниманием. Это плотная архитектура RWKV6Qwen2 с 71,5 млрд параметров, полученная преобразованием Qwen 2.5 72B в вариант RWKV без предварительного обучения базовой модели заново. Модель генерирует текст, поддерживает чат и интерфейс вызова инструментов; заявленная длина контекста — 131 072 токена. Модель предназначена для диалогов, генерации ответов и задач рассуждения с длинным контекстом. В README приведены результаты бенчмарков ARC и HellaSwag, где QRWKV-72B в некоторых сравнениях превосходит Qwen2.5-72B-Instruct, но это не гарантирует такого же качества в других задачах. Модель унаследовала знания и обучение языкам от Qwen и рассчитана примерно на 30 языков. Файлы опубликованы в формате safetensors; для Transformers требуется включить удалённый код. Лицензия указана как other, конкретные условия в доступных сведениях не раскрыты.

AtesiT разработал русскоязычный детектор галлюцинаций на основе Qwen2.5-1.5B-Instruct: плотной причинно-языковой модели Qwen2 с 1,5 млрд параметров. Модель принимает вопрос, контекст-источник и ответ языковой модели, а затем выдаёт бинарную метку: 0, если ответ соответствует контексту, и 1, если он ему противоречит или не подтверждён им. Она предназначена для проверки ответов в RAG-системах, тестирования агентов и мониторинга качества генерации. Модель дообучена методом QLoRA с LoRA-адаптерами; в репозитории указаны веса safetensors и библиотека Unsloth. Метаданные указывают базовый контекст Qwen2.5 в 32 768 токенов, однако для этой версии README сообщает практический предел входа в 512 токенов. Данные основаны на автоматически собранном русскоязычном корпусе SberQuAD. По README, на тестовой выборке версии v5 точность составляет 0,9835, а F1 — 0,9833; эти показатели относятся к описанному набору данных и не гарантируют такое же качество на других корпусах. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-7B-Instruct-4bit — преобразованная в формат MLX 4-битная версия Qwen2.5-7B-Instruct, подготовленная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и запуска на устройствах Apple Silicon через MLX. Модель принимает текстовые запросы и выдаёт текст; метаданные указывают контекстное окно 32 768 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых помощников, ответов на вопросы, написания и преобразования текстов. Карточка подтверждает английский язык; других языков по предоставленным сведениям определить нельзя. Репозиторий указывает лицензию Apache-2.0. Ограничения качества и оценки модели в карточке не описаны.

Qwen2.5-7B-Instruct-MLX-4bit — это 4-битная квантованная версия инструкционной языковой модели Qwen2.5-7B-Instruct, подготовленная сообществом для запуска на Apple Silicon Mac. Исходную модель разработала команда Qwen, а MLX-квантизацию предоставил bartowski на основе mlx-examples. Модель предназначена для диалогового взаимодействия, генерации текста и выполнения инструкций; её можно использовать в локальных сценариях через совместимое программное обеспечение, включая LM Studio. Модель поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Она ориентирована на работу с текстом и заявлена как поддерживающая более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Среди отмеченных особенностей — работа со структурированными данными и их генерация, а также широкий охват знаний, полученных из крупного обучающего набора. Ключевыми ограничениями являются зависимость от аппаратной платформы Apple Silicon и возможные ошибки, неточности, вредоносные или неподходящие ответы, характерные для генеративных моделей. README не содержит результатов бенчмарков или подробностей об архитектуре и точном объёме исходных параметров, кроме обозначения класса 7B. Модель распространяется по лицензии Apache-2.0.

bunnycore/Qwen-2.5-7B-R1-Stock — слитая с помощью mergekit методом Model Stock языковая модель на архитектуре Qwen2. В основу объединения легла Qwen/Qwen2.5-7B-Instruct; также использованы DeepSeek-R1-Distill-Qwen-7B и модель Qwen-2.5-7b-rp-lora на базе Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции и задачи, где полезны возможности включённых базовых моделей. Доступна на английском языке; метаданные также указывают интерфейс вызова инструментов. Лицензия и специальные ограничения применения в предоставленных данных не описаны.

bartowski/Qwen2-72B-Instruct-GGUF — набор квантизированных вариантов языковой модели Qwen2-72B-Instruct, разработанной командой Qwen (Tongyi Qianwen) и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в чат-интерфейсах и локальный запуск через llama.cpp. Поддерживается специальный шаблон промпта с ролями system, user и assistant. Модель имеет 72 миллиарда параметров, работает с текстом и ориентирована как минимум на английский язык. Доступны варианты GGUF с разными уровнями квантизации: от Q8_0 размером около 77,26 ГБ до IQ1_M размером около 23,74 ГБ. Наиболее рекомендуются Q5_K_M, Q4_K_M и IQ4_XS как компромисс между качеством и требованиями к памяти; варианты с более низкой точностью занимают меньше места, но заметно теряют в качестве. Квантизация выполнена с использованием imatrix и llama.cpp. Сильная сторона набора — возможность выбрать подходящий баланс качества, скорости и потребления RAM или VRAM для локального запуска. Для работы на GPU рекомендуется, чтобы файл помещался в доступную видеопамять; также возможно комбинировать системную RAM и VRAM. Для CUDA указано ограничение: offloading может работать некорректно без включения flash attention. I-quant варианты не совместимы с Vulkan, а на CPU и Apple Metal могут работать медленнее K-quant вариантов. Модель распространяется по лицензии tongyi-qianwen; README также содержит ссылку на лицензию исходной модели Qwen2-72B-Instruct.

Qwen3-4B-GGUF — это квантизированная версия языковой модели Qwen3-4B, разработанной командой Qwen. Квантизацию в формате GGUF выполнил bartowski на основе llama.cpp, релиз b5200. Модель предназначена для локального запуска и генерации текста. Модель поддерживает режимы рассуждения и обычной генерации, а также параметр /no_think для отключения рассуждений. Она ориентирована на следование инструкциям, творческое письмо, ролевые сценарии, многошаговые диалоги, математику, программирование, задачи на здравый смысл и агентские сценарии. Заявлена поддержка более 100 языков и диалектов. Максимальная длина контекста составляет до 131 072 токенов при использовании YaRN, при этом значение по умолчанию указано как 32 000 токенов. Сильными сторонами являются улучшенные способности к рассуждению, широкий языковой охват и возможность выбора между режимами с рассуждением и без него. Ограничения включают типичные для языковых моделей риски неточных, вредных или неподходящих ответов; кроме того, README не содержит сведений о конкретном варианте квантизации, требованиях к ресурсам и лицензии.

Unsloth/Qwen3-4B-Thinking-2507 — плотная причинная языковая модель семейства Qwen3, представленная как версия модели Qwen3-4B-Thinking-2507. Она предназначена для генерации текста в диалоге и решения сложных задач с рассуждениями, включая математику, логику, естественные науки, программирование и академические вопросы. Модель также поддерживает следование инструкциям и использование инструментов. Модель содержит 3,7 млрд параметров и принимает контекст до 262 144 токенов. Она работает только в режиме рассуждений; карточка сообщает об улучшениях качества рассуждений и общих возможностей, но не приводит независимой оценки качества именно этой публикации Unsloth. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

QuantTrio/Qwen3.5-122B-A10B-AWQ — квантизированная AWQ-версия модели Qwen3.5-122B-A10B, разработанной командой Qwen. Репозиторий QuantTrio использует data-free quantization, то есть квантизацию без калибровочного набора данных. Модель предназначена для мультимодальных сценариев image-text-to-text, включая понимание изображений и текста, рассуждения, программирование и агентские задачи. Это causal language model со зрительным энкодером и гибридной архитектурой, объединяющей Gated Delta Networks и разреженную Mixture-of-Experts. Всего модель содержит 122B параметров, из которых при генерации активируются 10B; предусмотрены 48 слоёв, 256 экспертов, 8 маршрутизируемых и 1 общий активируемый эксперт. Заявлена поддержка 201 языка и диалекта. В примере запуска через vLLM указан максимальный контекст 32768 токенов, а также поддержка tool calling, reasoning и speculative decoding. К сильным сторонам относятся мультимодальность, высокая параметрическая ёмкость при меньшем числе активируемых параметров и оптимизация для эффективного инференса через AWQ и Mixture-of-Experts. Ограничения включают значительные требования к GPU-памяти: размер файлов модели составляет около 77 GiB; для рекомендуемой конфигурации требуется vLLM с экспериментальными версиями зависимостей, CUDA 12.8 и настройка expert parallelism. Модель распространяется по лицензии Apache-2.0.

apolo13x/Qwen3.5-27B-quantized.w4a16 — квантованная версия мультимодальной модели Qwen3.5-27B, разработанной командой Qwen и опубликованной пользователем apolo13x. Модель принимает текст и изображения, а генерирует текст, поэтому предназначена для диалоговых сценариев, анализа визуального и текстового контента, а также общих задач рассуждения и следования инструкциям. Веса сжаты до формата INT4 W4A16 с использованием GPTQ и инструмента llm-compressor. Для калибровки использовано 512 образцов из датасета HuggingFaceH4/ultrachat_200k. Размер модели уменьшен с 51,8 до 17,3 ГБ, примерно в 3 раза, при заявленном среднем восстановлении точности 100,3% относительно исходной модели. В README не указаны точное количество контекстных токенов и поддерживаемые языки. Модель демонстрирует высокие результаты в GPQA Diamond, IFEval и MMLU-Redux: средняя оценка составила 90,05% против 89,76% у исходной Qwen3.5-27B. Ключевые ограничения связаны с 4-битным квантованием и зависимостью от совместимой инфраструктуры; на 27 февраля 2026 года заявлена поддержка в nightly-версии vLLM. Модель распространяется по лицензии Apache-2.0.

hamishivi выпустил дообученную версию мультимодальной модели Qwen3.5-4B в формате Transformers. Это причинная языковая модель с визуальным энкодером на 4 млрд параметров, которая принимает текст и изображения и формирует текстовые ответы. Модель поддерживает диалог, визуальное понимание и вызов инструментов через соответствующий интерфейс. Модель предназначена для ответов на вопросы по изображениям, диалоговых и рассуждающих задач, работы с длинными текстовыми контекстами и сценариев с агентами и инструментами. В README заявлены поддержка 201 языков и диалектов, контекст 262 144 токена с расширением до 1 010 000 токенов и режим рассуждения по умолчанию. Архитектура сочетает Gated Delta Networks и разреженный Mixture-of-Experts. Весовые файлы совместимы с Transformers, vLLM, SGLang и KTransformers; лицензия — Apache-2.0. Изменённый шаблон чата сохраняет промежуточные рассуждения, а запуск с длинным контекстом может требовать значительных ресурсов памяти.

Qwen3.5-4B-text-only — текстовая версия модели семейства Qwen3.5, опубликованная principled-intelligence. Это плотная авторегрессионная модель с 3,4 млрд параметров для генерации текста и диалогов. В чекпойнте удалены веса визуального энкодера; модель принимает текст и предназначена для сценариев, где обработка изображений не нужна. Контекстное окно составляет 262 144 токена. По описанию авторов, текстовое поведение, токенизатор и шаблон чата соответствуют исходной Qwen3.5-4B, а сокращённый чекпойнт требует меньше места и видеопамяти. Для загрузки авторы указывают Transformers версии 5.2.0 или новее. Другие движки инференса, включая vLLM, SGLang, llama.cpp и Ollama, не поддерживаются в карточке. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-Gemini-3.1-Pro-Reasoning-Distill — текстовая генеративная модель, разработанная Jackrong на базе Qwen/Qwen3.5-9B. Она дообучена методом supervised fine-tuning с применением LoRA и дистилляции рассуждений из источников, связанных с Gemini 3.1, Gemini 3.0 Pro и Qwen3.5-27B. Модель предназначена для задач, требующих структурированного анализа, декомпозиции, планирования, многошагового вывода и отслеживания ограничений. Модель относится к семейству Dense и содержит около 9 млрд параметров. Она работает в режиме text-generation и ориентирована на текстовые запросы и ответы. В README заявлена поддержка английского, китайского и корейского языков. Обучающие данные охватывают математику, логику, программирование, системный анализ, безопасность, физику, инженерию, право, медицину, финансы, химию и прикладные социальные задачи. Размер контекстного окна и другие параметры инференса не указаны. Сильными сторонами модели считаются более организованный стиль рассуждений, улучшенное решение сложных многошаговых задач, междисциплинарное покрытие и ориентация на анализ атак, отказов и ограничений. При этом дистилляция и специализированное дообучение могут ухудшать обобщение на отдельных сценариях или приводить к частичному забыванию знаний базовой модели, поэтому модель следует оценивать на собственных данных перед применением. Модель распространяется по лицензии Apache-2.0.

RedHatAI/Qwen3.5-9B-quantized.w4a16 — квантованная версия мультимодальной модели Qwen3.5-9B, разработанная RedHatAI на базе модели Qwen от Qwen. Она принимает текст и изображения, а генерирует текст; модель предназначена для диалоговых приложений, анализа визуальной информации, выполнения инструкций и задач рассуждения. Для работы рекомендуется использовать vLLM, поддерживаются мультимодальный и текстовый режимы. Модель содержит около 9 млрд параметров и использует квантование весов INT4 по схеме W4A16 при сохранении исходной точности активаций. Квантируются линейные операторы в трансформерных блоках, тогда как vision encoder, токенизаторные embeddings и linear attention layers остаются в BF16. Размер на диске составляет около 11 ГБ против 19,3 ГБ у версии BF16, что снижает требования к памяти. В конфигурации vLLM заявлена максимальная длина контекста 262144 токена. К сильным сторонам относятся существенное сокращение размера и возможность эффективного инференса при сохранении близкой к исходной точности: на опубликованных тестах результаты квантованной версии составили 97,9–100,1% от показателей базовой модели на задачах следования инструкциям. Ограничения связаны с частичным, а не полным квантованием, зависимостью от совместимого стека vLLM и отсутствием в представленном описании сведений о поддерживаемых языках и подробных характеристиках архитектуры. Модель распространяется по лицензии Apache-2.0.

techwithsergiu/Qwen3.5-text-9B-bnb-4bit — текстовая производная модели Qwen3.5-9B, подготовленная разработчиком techwithsergiu на основе text-only версии techwithsergiu/Qwen3.5-text-9B. Модель предназначена для генерации текста и диалоговых сценариев, а также для адаптации под специализированные задачи с помощью LoRA и QLoRA. Поддерживает режимы прямого ответа и пошагового рассуждения, указанные в README. Модель имеет размер 9B параметров и использует текстовый backbone, без visual tower, поэтому принимает только текстовые входные данные и не предназначена для обработки изображений. Backbone подвергнут 4-битному квантованию BNB NF4 с double quantization и вычислениями в bfloat16; веса lm_head сохранены в bf16 для повышения качества и стабильности вывода. Такое представление уменьшает требования к видеопамяти по сравнению с полноразмерной версией и упрощает использование в text-only LoRA fine-tuning. К ограничениям относятся отсутствие мультимодальных возможностей и отсутствие в README точных сведений о поддерживаемых языках и размере контекстного окна. Документация по тонкой настройке отмечена как находящаяся в разработке, хотя inference проверен, а применение с Unsloth и QLoRA заявлено как основной сценарий обучения. Модель распространяется по лицензии Apache-2.0.

Myric/Qwen3.6-35B-A3B-APEX-GGUF — это квантизированная GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для генерации текста и запуска через llama.cpp; доступна в вариантах APEX i-quality и i-compact, включая версии v2 с более точным хранением отдельных коэффициентов состояния. Лицензия — Apache 2.0. Модель использует разреженную MoE-архитектуру с 40 слоями, 256 маршрутизируемыми и одним общим экспертом, гибридом GatedDeltaNet и периодического полноразмерного внимания, а также головкой NextN/MTP. Объём параметров — 35 млрд, из которых около 3 млрд активируются на токен. Квантизация выполнена со специально рассчитанной PyTorch importance matrix, охватывающей все слои и MTP-головку; заявлена высокая близость к эталонной квантизации по perplexity. Доступны текстовый режим и мультимодальный режим с отдельным vision-проектором, однако сам проектор в состав репозитория не входит. Рекомендуемый размер контекста в примере запуска — 32 768 токенов. Сильными сторонами являются MoE-эффективность, сохранение качества при уменьшении размера модели, поддержка tool calling через шаблоны llama.cpp и возможность работы с vision при подключении совместимого проектора. Ограничения связаны с крупным размером файлов: 23,5 ГБ для i-quality и 17,4 ГБ для i-compact; для видеокарт с 16 ГБ требуется размещать маршрутизируемые эксперты на CPU. Для мультимодального запуска нужен отдельный mmproj-файл, а качество и скорость зависят от выбранного уровня квантизации и доступной памяти.

FreedomAISVR выпустила GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled, дообученной на базе Qwen/Qwen3.6-35B-A3B с дистилляцией рассуждений Claude 4.7 Opus. Это текстовая MoE-модель для диалогов и генерации ответов; архитектура использует 35 млрд параметров, около 3 млрд из которых активны на токен. Контекст составляет 262 144 токена, поддержка изображений отсутствует. Эксперты квантизированы в MXFP4, остальные веса — в Q8_0, веса маршрутизатора хранятся в F32; файл GGUF занимает около 18,87 ГБ. Модель можно запускать через llama.cpp, например как сервер для диалогового приложения. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-DSV4Pro-Thinking-Distill-GGUF — это GGUF-квантизированная версия рассуждающей модели, разработанной пользователем nerkyor на базе Qwen/Qwen3.6-35B-A3B от команды Qwen. Модель использует MoE-архитектуру с 35 млрд общих параметров и примерно 3 млрд активных параметров, а также дистилляцию в стиле ReAct, ориентированную на более быстрое и стабильное решение сложных задач. Репозиторий предназначен для локального запуска через llama.cpp и совместимые приложения, включая Lynn Agent и LM Studio. Модель подходит для текстовой генерации, сложного рассуждения, оркестрации и агентских сценариев. Доступна поддержка изображений через отдельный vision projector. GGUF-файлы содержат встроенную native MTP-голову для speculative decoding и, кроме вариантов Q8_0 и F16, используют imatrix-коррекцию. Предлагаются варианты от Q4_K_M примерно на 21 ГБ до F16 примерно на 69 ГБ; рекомендуемый баланс качества и требований к памяти — Q4_K_M, а для высокопроизводительных систем с 32 ГБ и более рекомендуется Q5_K_M. В примере запуска используется контекст 8192 токенов, но README не указывает предельный размер контекста модели. По приведённым тестам дистиллированная версия показывает 80,3% на GPQA-Diamond и сокращает время сквозной оркестрации в 2,3 раза относительно базовой модели при включённом reasoning. Native MTP даёт ускорение до 1,63 раза на Q8_0 в однопоточном тесте, однако выигрыш зависит от квантизации и снижается при высокой многопоточности. Ограничением является небольшое снижение результата MMLU относительно базы — 90,2% против 91,4%; также для запуска требуются значительные объёмы VRAM или unified memory. Модель распространяется по лицензии Apache-2.0.

leok7v/Qwen3.8-27B — мультимодальная квантизованная сборка базовой модели Qwen3.8-27B, разработанной Qwen и Alibaba. Квантизацию выполнила unsloth, упаковку — leok7v. Модель предназначена для автономного запуска на устройстве: чата, суммаризации, подготовки текстов, ответов на вопросы по предоставленному контексту и описания изображений в офлайн-режиме или сценариях, чувствительных к конфиденциальности. Это плотная гибридная авторегрессионная языковая модель с чередованием трёх блоков линейного внимания Gated DeltaNet и одного блока полного внимания, дополненная vision encoder. Линейные блоки используют компактное рекуррентное состояние вместо растущего KV-кэша, а блоки полного внимания поддерживают дальний контекст. Веса представлены в нескольких вариантах квантизации от 1 до 4 битов размером примерно от 6,88 до 15,17 GiB. В каждый файл встроены vision tower, токенизатор, chat template, параметры семплирования и drafter для speculative decoding. Сильные стороны модели — мультимодальность, полностью автономная поставка в одном файле, отсутствие необходимости обращаться к серверу и потенциально сниженное потребление памяти благодаря гибридной архитектуре. Ограничения включают зависимость формата .ggxf от runtime Gadeon: совместимость со сторонними GGUF-инструментами не проверялась, а некоторые из них могут не поддерживать встроенный vision tower или тип iq4_nl. Квантизация снижает точность, особенно в 1- и 2-битных вариантах; возможны фактические ошибки, накопление ошибок в многошаговых рассуждениях и расхождения с исходной моделью. Модель не содержит дополнительного safety-тюнинга или фильтрации и не предназначена для принятия юридических, медицинских, финансовых и иных высокоставочных решений без проверки человеком. Лицензия — Apache 2.0, унаследованная от базовой модели.

Qwen3.8-27B-2bit-MLX-TextOnly — текстовая квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованная пользователем lukaskremla в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста, диалогов, рассуждений, работы с инструментами и задач с длинным контекстом; заявлена поддержка нескольких языков. Модель содержит около 27 млрд параметров и использует 2-битное weight-only-квантование с affine RTN-квантизацией и group size 64. Это text-to-text-модель: vision tower удалён, поэтому обработка изображений и другие визуальные сценарии не поддерживаются. Формат MLX ориентирован на запуск в экосистеме Apple MLX и mlx-lm. Точная длина контекста и архитектурные детали в README не указаны. Ключевое преимущество — существенно сниженные требования к памяти по сравнению с полноразмерной моделью, что делает её пригодной для локального запуска при сохранении возможностей исходной текстовой модели. Ограничения связаны с 2-битным квантованием, которое может снизить точность и качество по сравнению с исходной моделью, а также с отсутствием визуального ввода. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — мультимодальная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео, а также работы с длинным контекстом. Профиль Aggressive ориентирован на прямые ответы без выраженного поведения отказа и с минимальными предварительными пояснениями в сложных запросах. Это плотная causal language model на 27 млрд параметров с vision encoder: 64 слоями, размером скрытого представления 5120, FFN размером 17408, словарём 248 320 токенов, 48 слоями Gated DeltaNet и 16 слоями gated attention. Поддерживаются английский, китайский и другие языки; заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000. В текстовых GGUF сохранён встроенный NextN/MTP, а отдельный FastMTP-профиль предназначен для ускорения спекулятивного декодирования. Для входных изображений и видео требуется отдельный vision projector BF16. К сильным сторонам относятся широкий набор текстовых и мультимодальных возможностей, очень длинный контекст, несколько вариантов квантизации и ускорение FastMTP. Агрессивный профиль может быть менее подходящим для надёжно контролируемых и критичных к безопасности агентских задач, поскольку он специально уменьшает склонность к отказам. Доступны квантизованные файлы GGUF размером примерно от 10,32 до 31,46 ГБ; K_P-квантизации оптимизированы под эту модель. Лицензия — Apache-2.0.

DavidAU опубликовал полноточную версию модели на базе дообученной Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для диалога и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Контекст модели расширен с 32 768 до 196 608 токенов с помощью YARN. README рекомендует задавать контекст для рассуждений и генерации от 8 000 до 16 000 токенов; упоминается генерация длинных ответов. Модель принимает текст и выдаёт текст. В карточке не заявлена специализация на конкретных языках или прикладных областях. Это дообученная и модифицированная модель, а не самостоятельная базовая разработка. README описывает исходные веса в формате safetensors и возможность использовать их напрямую или конвертировать в другие форматы. Лицензия в предоставленных сведениях не указана.

qwen-carpmuscle-r-v0.3 — языковая модель TheTsar1209 на архитектуре Qwen2.5 с 14 млрд параметров. Она создана методом TIES merge из qwen-carpmuscle-v0.3, Qwen2.5-14B-Instruct и Qwen2.5-14B; исходная модель qwen-carpmuscle-v0.3 прошла непрерывное предобучение в формате ChatML с контекстом 24 тыс. токенов. Репозиторий содержит веса Safetensors в формате bfloat16, а заявленное нативное окно контекста итоговой модели — 131 072 токена. Модель предназначена для генерации текста и диалогов. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Разработчик приводит результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель выпущена под лицензией Apache-2.0.

Qwen-SEA-LION-v4-32B-IT — инструктивная языковая модель AI Singapore, разработанная командой AI Products Pillar при финансировании NRF Сингапура. Это плотная авторегрессионная модель семейства Qwen3 с 29,7 млрд параметров, дообученная на базе Qwen/Qwen3-32B. После продолженного предобучения примерно на 100 млрд токенов из корпуса SEA-Pile v2 модель прошла постобучение на примерно 8 млн пар вопросов и ответов. Модель предназначена для диалога и выполнения инструкций, включая ответы на вопросы, суммаризацию, перевод, анализ тональности и рассуждения. Она ориентирована на языки Юго-Восточной Азии и также поддерживает английский и китайский. Метаданные указывают контекст до 40 960 токенов; README приводит нативный контекст 32 768 токенов. Модель распространяется под лицензией MIT. В README описаны оценки на наборах SEA-HELM, SEA-IFEval и SEA-MTBench для языковых задач, следования инструкциям и многоходового диалога. Модель может галлюцинировать и выдавать нерелевантные или непоследовательные ответы; она не настроена на безопасность и не проверялась на устойчивость к состязательным запросам. Для прикладного использования следует самостоятельно оценить качество и настроить защитные меры.