I.14Автоматизация процессов и AI-агенты

Nyxene-v2-11B — текстовая генеративная модель на архитектуре Mistral, опубликованная beberik. Репозиторий содержит веса в формате BF16; в метаданных указано 10,6 млрд параметров и контекст до 32 768 токенов. Модель собрана с помощью mergekit из нескольких моделей, включая Starling-LM-7B-alpha, DPOpenHermes-7B, una-cybertron-7b-v2 и loyal-piano-m7-cdpo. Модель предназначена для генерации ответов на инструкции и запросы в формате, приведённом в карточке, а также для других задач генерации текста. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 67,84, ARC и HellaSwag; подробности оценки в доступном фрагменте отсутствуют. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Карточка модели OpenBuddy/openbuddy-yi1.5-34b-v21.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-yi1.5-34b-v21.6-32k-fp16, поэтому описание составлено по ней. OpenBuddy-Yi1.5-34B-v21.6-32K-FP16 — многоязычная чат-модель OpenBuddy для генерации ответов в диалоге. Она основана на плотной архитектуре семейства Llama и содержит 33,9 млрд параметров; репозиторий включает веса Safetensors для Transformers. Модель рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста в многоязычных сценариях. В README описан специальный формат запросов и отмечена совместимость с Transformers и vLLM; в названии модели указано 32K, а метаданные сообщают о нативном контексте 131072 токена. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют использовать модель для медицинских, финансовых, юридических и иных критически важных решений.

OpenBuddy-Yi1.5-34B-v21.6-32K-FP16 — многоязычная чат-модель OpenBuddy для генерации ответов в диалоге. Она основана на плотной архитектуре семейства Llama и содержит 33,9 млрд параметров; репозиторий включает веса Safetensors для Transformers. Модель рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста в многоязычных сценариях. В README описан специальный формат запросов и отмечена совместимость с Transformers и vLLM; в названии модели указано 32K, а метаданные сообщают о нативном контексте 131072 токена. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют использовать модель для медицинских, финансовых, юридических и иных критически важных решений.

OpenHermes-7B-Symbolic-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral AI и hedronstone/OpenHermes-7B-Symbolic методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. Веса опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Она подходит для диалоговых сценариев и выполнения текстовых инструкций; качество ответов и способность решать специализированные задачи README не описывает.

Ornith-1.5-35B-A3B-UNCENSORED-GGUF — набор GGUF-квантизаций модели Ornith 1.5 35B-A3B, опубликованный Dealign.ai на основе модели ornith-ai/Ornith-1.5-35B-A3B. Модель предназначена для локального запуска через llama.cpp и совместимые приложения. Это мультимодальная vision-language модель, способная работать с текстом и изображениями; для обработки изображений требуется отдельный vision-проектор mmproj. Лицензия — MIT. Архитектура сочетает GatedDeltaNet на основе SSM и attention Mixture-of-Experts с 256 экспертами, из которых активируются 8, а также включает голову multi-token prediction для speculative decoding. У модели поддерживается режим рассуждений с выводом трассы <think>, включённый по умолчанию и отключаемый через параметры chat template. Доступны варианты квантизации от Q8_0 до Q2_K размером примерно от 13,2 до 37,8 ГБ; Q4_K_M обозначен как сбалансированный рекомендуемый вариант. Контекстное окно и список поддерживаемых языков в README не указаны. К сильным сторонам относятся сохранение знаний и связности после модификации весов, поддержка рассуждений, vision-возможностей и локального инференса, а также возможность выбрать компромисс между качеством и требованиями к памяти. Более низкие уровни квантизации уменьшают размер модели, но могут заметно снижать качество: для Q2_K заявлена существенная потеря показателя MMLU. Модель имеет удалённые или существенно сниженные защитные ограничения и демонстрирует практически полное следование вредоносным запросам в тестах HarmBench, поэтому требует ответственного и законного применения.

dealignai/Ornith-1.5-9B-UNCENSORED-GGUF — квантизированная GGUF-версия мультимодальной модели Ornith 1.5 9B, разработанной Ornith AI и подготовленной Dealign.ai. Модель предназначена для запуска через llama.cpp и поддерживает работу с текстом и изображениями; для визуального ввода требуется отдельный проектор mmproj. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K объёмом примерно от 3,6 до 8,9 ГБ. Архитектура Ornith 1.5 сочетает GatedDeltaNet (SSM) и attention. Модель поддерживает рассуждения с выдачей трассы <think>, включённые по умолчанию, а также сценарии анализа изображений и генерации текста. В README приведён пример контекста 8192 токена для llama-server, однако максимальный размер контекста явно не указан. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру; для изображений с любой текстовой квантизацией используется один и тот же vision-проектор. Главная особенность сборки — удаление или ослабление отказов и защитных ограничений с сохранением заявленных знаний, связности и возможностей рассуждения. По данным README, разница с базовой моделью по MMLU не превышает 3 процентных пунктов, однако низкие уровни квантизации заметно снижают абсолютное качество, особенно Q2_K. Из-за сниженных защитных механизмов модель может генерировать опасный, незаконный или вредоносный контент, поэтому её следует использовать ответственно и законно. Лицензия — MIT, унаследованная от базовой модели.

Phi-3-mini-128k-instruct-IMat-GGUF — это GGUF-квантизированная версия инструкционной языковой модели microsoft/Phi-3-mini-128k-instruct, подготовленная пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты, в частности llama.cpp. В репозитории представлены варианты от исходных BF16 и F16 до различных уровней квантизации Q- и IQ-семейств, что позволяет выбирать между качеством, размером файла и требованиями к ресурсам. Для ряда вариантов применена IMatrix-квантизация на основе доступного калибровочного набора данных. Модель работает с текстом, заявлена для английского языка и имеет контекстное окно 128 тысяч токенов, унаследованное от базовой Phi-3-mini-128k-instruct. В README не указаны точное число параметров и подробности архитектуры базовой модели. Ключевые преимущества этой версии — широкий выбор форматов GGUF, возможность локального инференса и уменьшение размера модели за счёт квантизации; при этом более низкие уровни квантизации могут снижать качество по сравнению с BF16 или F16. Репозиторий распространяется по лицензии MIT, указанной для базовой модели.

Phantomcloak19/qwen2.5-3b-dpo — плотная авторегрессионная языковая модель семейства Qwen2, дообученная разработчиком на базе Qwen/Qwen2.5-3B-Instruct на этапе DPO в последовательном конвейере обучения LLMPR. Модель предназначена для диалогов и генерации текста по инструкциям; карточка указывает, что это результат DPO-фазы, после которой в конвейере предусмотрен этап Safety-GRPO. Модель содержит 3,1 млрд параметров, использует библиотеку Transformers и формат Safetensors, поддерживает контекст до 32 768 токенов. Базовая модель многоязычная, однако конкретный список языков для этого чекпойнта в предоставленных данных не указан. Лицензия и отдельные оценки качества не приведены.

Ronnied1588 публикует GGUF-сборку Qwen2.5-7B-Instruct-heretic — версии Qwen2.5-7B-Instruct, обработанной методом abliteration для снижения склонности к отказам. Исходную обработку выполнил LeadFootThrottleCock с помощью Heretic v1.2.0; каталог указывает базовую модель Qwen/Qwen2.5-7B-Instruct и 7,1 млрд параметров. Архитектура — плотная причинная языковая модель Qwen2 с поддержкой диалогов и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста, творческого письма, ответов на вопросы, обсуждения спорных тем и программирования. В README описаны варианты GGUF от BF16 до нескольких уровней квантования, запуск через llama.cpp, LM Studio и Ollama, а также интерактивные проверки творческих, научных и кодовых задач. Карточка сообщает о низком значении KL-дивергенции относительно исходной модели и результатах проверки отказов, но это не является независимой оценкой качества. Модель ориентирована на английский язык; возможности других языков в карточке не подтверждены. Abliteration снижает поведение отказа, поэтому ответы на потенциально опасные запросы могут быть менее ограничены. Лицензия — Apache-2.0.

RedHatAI/Qwen2.5-VL-3B-Instruct-FP8-dynamic — квантизированная версия мультимодальной модели Qwen/Qwen2.5-VL-3B-Instruct, подготовленная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы; заявленный язык — английский. Релиз модели датирован 24 февраля 2025 года. Модель предназначена для задач визуального вопросно-ответного взаимодействия, анализа документов и диаграмм, распознавания содержимого изображений и решения мультимодальных задач. Она имеет архитектуру Qwen2.5-VL-3B-Instruct и около 3 миллиардов параметров, использует FP8-квантизацию весов и активаций и оптимизирована для инференса с vLLM версии 0.5.2 и новее. В примере развертывания используется контекст до 4096 токенов, однако это значение относится к конфигурации запуска, а не обязательно к предельной длине контекста модели. К сильным сторонам относятся снижение требований к памяти и эффективное выполнение инференса при сохранении качества, близкого к исходной модели: в приведённых тестах средний результат FP8-версии составил 69,67 против 69,28 у исходной модели. Оценивались задачи MMMU, VQAv2, DocVQA, ChartQA и MathVista. Ограничения включают зависимость от совместимого стека vLLM и FP8-инфраструктуры, а также отсутствие в README подробных сведений о поддерживаемых языках помимо английского и о максимальном контексте. Модель распространяется по лицензии Apache 2.0.

RedHatAI/Qwen2.5-VL-7B-Instruct-FP8-Dynamic — квантованная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы. Она предназначена для визуально-текстовых задач: визуального вопросно-ответного взаимодействия, анализа документов, диаграмм и графиков, решения математических задач по изображениям, а также для ряда общих текстовых бенчмарков. Модель имеет архитектуру Qwen2.5-VL-7B-Instruct с заявленным размером 7B параметров. Для весов и активаций используется динамическая квантование FP8; при этом визуальная башня, мультимодальный проектор и lm_head не квантовались. Модель рассчитана на эффективный инференс через vLLM версии 0.5.2 и новее, поддерживает OpenAI-совместимое предоставление сервиса. В README явно указан английский язык, а максимальная длина контекста в примере развертывания составляет 4096 токенов. К сильным сторонам относятся снижение вычислительных и memory-затрат при сохранении качества исходной модели: на приведённых тестах средний результат на vision-задачах составил 76,50 против 75,95 у базовой модели. Ограничения включают зависимость от совместимого стека vLLM, необходимость мультимодальной инфраструктуры для работы с изображениями и отсутствие подробных сведений о поддерживаемых языках, фактическом размере контекста и результатах вне указанных оценок. Модель распространяется по лицензии Apache-2.0.

legraphista/Qwen2-7B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-7B-Instruct, разработанной командой Qwen и дополнительно квантизированной пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через совместимые с GGUF инструменты и llama.cpp. Модель содержит около 7 миллиардов параметров и создана на основе исходной версии с форматом BF16. Доступны варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда низкобитных вариантов применена IMatrix — калибровочная матрица, призванная сохранить качество при уменьшении размера модели. Размеры файлов варьируются примерно от 3,02 до 15,24 ГБ. В карточке указана поддержка английского языка; сведения о контекстном окне и дополнительных модальностях отсутствуют. Основные преимущества — большое количество вариантов квантования, возможность подобрать баланс между размером, требованиями к памяти и качеством, а также поддержка формата GGUF. Низкобитные версии экономичнее по ресурсам, но могут сильнее терять качество по сравнению с BF16 или FP16. Точные характеристики производительности, контекстного окна и поведения на других языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели homeb82784/Qwen2-7B-Instruct-it-v1.6 на Hugging Face совпадает с карточкой homeb82784/Qwen2-7B-Instruct-it-v1.1, поэтому описание составлено по ней. Qwen2-7B-Instruct-it-v1.1 — дообученная чат-модель, разработанная homeb82784 на базе unsloth/qwen2-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors под лицензией Apache-2.0.

jeiku/qwen2base — слитая с помощью LazyMergekit модель на архитектуре Qwen2, объединяющая maywell/Qwen2-7B-Multilingual-RP и jeiku/qwen2-1 методом slerp. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; файлы опубликованы в формате safetensors. Мультиязычный базовый компонент рассчитан на общение и генерацию текста. Карточка не уточняет поддерживаемые языки, сравнительное качество слияния или специальные предметные области. Лицензия в доступных сведениях не указана.

Qwen3-0.6B-Base — базовая плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это предварительно обученная модель примерно с 508 млн параметров: 28 слоёв, группированное внимание с 16 головами Q и 8 головами KV. Она принимает текст и генерирует продолжение, служит основой для дообучения и адаптации под прикладные задачи. Модель предназначена для языкового моделирования общего назначения, включая генерацию текста, работу с кодом, STEM-темами, логическими рассуждениями и многоязычными данными. Контекстное окно составляет 32 768 токенов. В README указано, что семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; перечень языков, поддерживаемых именно этой базовой версией, отдельно не приведён. Модель распространяется под лицензией Apache-2.0. Это базовая предобученная версия, поэтому для диалогового помощника или специализированного приложения обычно потребуется дообучение либо настройка шаблона запросов; карточка не приводит конкретных гарантий качества для таких сценариев.

Mungert/Qwen3-30B-A6B-16-Extreme-GGUF — это GGUF-квантизированная модель, опубликованная пользователем или организацией Mungert и основанная на Qwen/Qwen3-30B-A3B-Base. Модель предназначена для генерации текста и локального инференса через совместимые инструменты, включая llama.cpp, в том числе на устройствах с ограниченной памятью, CPU и системах с небольшим объёмом GPU VRAM. В метаданных заявлена поддержка контекста до 32 тысяч токенов, а также сценарии, связанные с рассуждением и режимом thinking. Из названия следует, что модель использует архитектуру с 30 миллиардами параметров, около 6 миллиардов активных параметров и 16 экспертами, однако подробности архитектуры и список поддерживаемых языков в README не приведены. Основная особенность — экстремально низкобитное динамическое квантование IQ-DynamicGate с вариантами точности 1–2 бита, распределяющее точность по слоям и защищающее критические компоненты. Приведённые результаты для Llama-3-8B показывают снижение perplexity по сравнению со стандартным квантованием при умеренном увеличении размера файлов и сопоставимой скорости, но эти результаты не являются прямым бенчмарком данной модели. Сильная сторона модели — существенная экономия памяти, что делает её привлекательной для локального запуска, edge-устройств и исследований низкобитного квантования. Ограничением могут быть потери качества, характерные для экстремально низкой точности, а также зависимость производительности от аппаратной поддержки и выбранного формата квантования. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно.

Sayankotor/qwen35-122b-a10b-k4e2 — это квантованный чекпойнт модели Qwen/Qwen3.5-122B-A10B, опубликованный пользователем Sayankotor. Он предназначен для генерации текста и диалогов. Модель построена на архитектуре MoE с гибридными DeltaNet и полным вниманием; в README указаны 256 маршрутизируемых экспертов на слой. Основная часть весов и общие экспертные MLP квантованы до 4 бит, маршрутизируемые эксперты — до 2 бит, а ряд компонентов, включая зрительную башню, сохранён в исходной точности. Размер уменьшен примерно с 234 до 34 ГБ. Чекпойнт рассчитан на запуск в условиях ограниченной видеопамяти, когда приемлема существенно более низкая скорость: README сообщает примерно о 18-кратном замедлении относительно bf16 на описанном тесте. Приведены результаты perplexity на WikiText-2 и C4 при контексте 4096 токенов; это не устанавливает максимальную длину контекста. Для загрузки требуются поставляемый в репозитории пользовательский код модели и дополнительные зависимости. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с карточкой и файлами лицензии базовой модели.

Qwen3.5-27B-ultra-uncensored-heretic-v1 — мультимодальная модель для диалогов и анализа изображений, созданная независимым автором на основе Qwen/Qwen3.5-27B. Автор изменил поведение модели методом abliteration: по приведённой оценке, доля отказов снизилась с 95 до 3 из 100 запросов, а KL-дивергенция относительно исходной модели составила 0,0301. Это вариант для сценариев, где требуется меньше отказов на запросы, которые исходная модель могла бы отклонить. Модель использует плотную архитектуру Qwen3.5 с 27 млрд параметров и поддерживает ввод текста и изображений с генерацией текста. В README указаны контекст 262 144 токена с возможностью расширения до 1 010 000 и широкая языковая поддержка базовой модели; конкретные языки в метаданных этой версии не перечислены. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0. Снижение отказов не гарантирует точность ответов или сохранение всех свойств исходной модели. В приведённом тесте PIQA результаты версии после abliteration немного ниже исходных; оценка в README не заменяет проверку на целевых задачах. Модель предназначена для генерации ответов и понимания изображений, а не для отдельного специализированного домена.

amd/Qwen3.5-397B-A17B-MXFP4-AttnFP8-V2 — квантизированный вариант модели Qwen3.5-397B-A17B, разработанный Advanced Micro Devices, Inc. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration с разреженными экспертами и предназначена для генерации текста по текстовым, графическим и видеовходам. В README указан английский язык, но сведения о полном наборе поддерживаемых языков и размере контекстного окна отсутствуют. Модель оптимизирована для инференса на AMD MI350 и MI355 под Linux с ROCm 7.2.0, PyTorch 2.9.1, Transformers 5.3.0 и SGLang. Все эксперты MoE, включая shared expert, квантизированы в OCP MXFP4 и объединены с маршрутизируемым MoE-ядром; слои self-attention и linear attention используют FP8E4M3 для весов и активаций. Такая оптимизация уменьшает объём данных в формате bfloat16 и повышает производительность декодирования. На GSM8K модель показала 97,24% против 97,71% у исходной версии, то есть сохранила 99,55% базового результата. Модель подходит для ресурсоёмких задач генерации текста, рассуждений и мультимодального анализа при наличии совместимого оборудования и программного стека. README не приводит результаты на других тестах, поэтому обобщать подтверждённые свойства за пределы GSM8K не следует. Модель распространяется по лицензии Apache 2.0; модификации принадлежат Advanced Micro Devices, Inc.

ISTA-DASLab/Qwen3.5-4B-GGUF-GSQ — это GGUF-квантованная версия базовой модели Qwen/Qwen3.5-4B, разработанная ISTA-DASLab. Модель создана для генерации текста и локального запуска в llama.cpp, Ollama, LM Studio и других средах, поддерживающих формат GGUF. Она предназначена для сценариев, где важны уменьшенный размер файла и эффективный запуск языковой модели на совместимом оборудовании. Модель использует формат GGUF K-Quant с вариантом квантования Q2_K_XL. За основу взят файл Unsloth UD-Q2_K_XL, после чего дискретные значения весов были оптимизированы методом GSQ (Gumbel-Softmax Quantization) и упакованы обратно в тот же формат. Размер и структура файла соответствуют стандартному Q2_K_XL, поэтому модель является заменой исходного GGUF-чекпойнта без изменений в runtime. README не содержит дополнительных сведений о языках, размере контекста и исходной архитектуре Qwen3.5-4B. По приведённым оценкам, GSQ-версия превосходит использованный исходный чекпойнт Unsloth на AIME 25, GPQA Diamond, IFEval, GSM8K и MMLU-Pro; результаты получены в режиме zeroshot при разных настройках thinking. Ограничения модели связаны с очень низкой разрядностью Q2_K и зависимостью от поддержки GGUF и совместимого runtime; приведённые показатели нельзя напрямую переносить на другие режимы использования. Лицензия — Apache-2.0.

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.

Qwen3.6-27B-F451-AND-TRI-Polar-Ultra-Pro-Writer-Uncensored-Heretic — плотная модель семейства Qwen3.5 на 27 млрд параметров, опубликованная DavidAU как дообучение с Unsloth. Автор сообщает, что обучал её на локальном оборудовании, чтобы повысить базовые интеллектуальные способности модели; в карточке приведены результаты тестов ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande для вариантов с разной точностью. Указанные бенчмарки проверялись в режиме Instruct. Модель позиционируется для диалогов, письма и программирования; метаданные также отмечают обработку изображений и интерфейс вызова инструментов. Указанные в карточке языки — английский и китайский. Репозиторий содержит веса safetensors в формате bfloat16 и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не сообщает длину контекста и не приводит конкретных результатов на задачах зрения или вызова инструментов. Заявления о превосходстве в бенчмарках основаны на описании автора; приведённые значения неполны. Название модели указывает на uncensored и heretic-вариант, но README не поясняет поведение модели в отношении такого содержимого.

llmfan46/Qwen3.6-27B-uncensored-heretic-v2-GGUF — набор GGUF-квантизаций 27-миллиардной модели Qwen3.6-27B, подготовленный независимым разработчиком llmfan46. Это декензурированная версия исходной модели, созданная с помощью Heretic 1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA), который применялся к компонентам attn.o_proj, attn.out_proj и mlp.down_proj. Модель предназначена для локального запуска в формате GGUF и универсальных задач генерации текста, рассуждений и ответов на вопросы с меньшим числом отказов и ограничений. По данным README, в тесте на 100 запросах она отказала в 6 случаях против 92 у оригинальной модели, а KL-дивергенция относительно исходной версии составила 0,0021, что указывает на близость поведения к базовой модели. Для оригинальной Qwen3.6-27B также приведён результат MMLU: 86,65% точности на 7021 вопросе, однако отдельный результат декензурированной версии не указан. К сильным сторонам относятся сохранение близости к исходной модели и существенно меньшее количество отказов. Ограничения — возможное снижение защитных ограничений, потенциальные риски генерации нежелательного или небезопасного контента, а также отсутствие в представленном README сведений о конкретных квантизациях, размере контекста, поддерживаемых языках и фактических мультимодальных возможностях, несмотря на тег image-text-to-text. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-abliterated-NVFP4-MTP — языковая модель на базе Qwen3, созданная сообществом THe-Plague на основе моделей Qwen и производных Huihui AI и sakamakismile. Она предназначена для генерации текста и диалоговых сценариев, включая работу с длинным контекстом, а также для высокоскоростного инференса на видеоускорителях NVIDIA Blackwell, в частности DGX Spark с чипом GB10. Модель поддерживает английский и китайский языки, использует библиотеку vLLM и доступна для задач text generation. Архитектура построена по схеме Mixture of Experts: общий объём составляет 35 млрд параметров, из которых при обработке активны около 3 млрд. Основные веса квантизированы в NVFP4 и занимают примерно 21,9 ГБ, а слои MTP (Multi-Token Prediction) хранятся в BF16 и занимают ещё около 1,6 ГБ. Общий размер — около 23,5 ГБ, контекст — до 131 072 токенов. MTP предназначены для speculative decoding; на одном DGX Spark заявлена скорость до 95,2 токена в секунду при MTP=3. К сильным сторонам относятся сочетание NVFP4-квантизации и speculative decoding, высокая скорость генерации, поддержка длинного контекста и оптимизация под NVIDIA Blackwell. Abliteration удаляет направление отказа в представлениях модели, поэтому поведение и ограничения безопасности могут отличаться от исходной Qwen3.6; модель позиционируется как uncensored. Производительность зависит от оборудования, конфигурации vLLM и параметров MTP, причём в README оптимальным указан режим MTP=3, а MTP=4 может снижать скорость. Модель распространяется по лицензии Apache-2.0.

Qwen3.6 Flash — быстрая и эффективная мультимодальная модель из серии Qwen 3.6, разработанной Alibaba. Она принимает текст, изображения и видео и предназначена для запросов, где нужны ответы по визуальному или текстовому содержимому. Заявлена длина контекста до 1 млн токенов. Карточка также упоминает тарифы с оплатой по уровням, но не приводит подробностей о них. Данных о лицензии и конкретных ограничениях нет.

Это исследовательский чекпойнт семейства Qwen3.5 MoE, подготовленный Minjae Choi. В нём веса routed experts в 40 слоях модели Qwen36 35B-A3B квантованы методом E2M-ATQ/TWLA до троичного алфавита {-1, 0, +1}; для каждой группы из 64 входных столбцов используются отдельные смещение и масштаб. Активации и остальные параметры сохранены в BF16. Квантование выполнено без градиентного обучения, с калибровочным корпусом из текстов общего, программного, математического, научного и длинноконтекстного содержания. Модель предназначена для генерации текста и диалогового вывода. В репозитории лежит fake-quant чекпойнт: троичная реконструкция сохранена как BF16-тензоры, поэтому размер файлов и требования к памяти не соответствуют реальному хранению весов в 1,58 бита. Для запуска требуется память, достаточная для BF16-чекпойнта, либо распределение модели по устройствам. Лицензия в предоставленных данных не указана.

fcmeyer/Qwen3.8-27B-MLX-bf16-mtp — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bf16 для запуска через движок oMLX на компьютерах Apple Silicon. Веса сохранены без квантизации, включая головку MTP для спекулятивного декодирования Lightning-MTP; в модели также сохранена визуальная башня для анализа изображений и видео. Архитектура плотная, размер базовой модели — 27 млрд параметров. Модель предназначена для диалогов и понимания изображений и видео. При запуске через oMLX можно включить MTP для ускорения генерации; автор сообщает о двукратном ускорении декодирования на M5 Max с 128 ГБ памяти, а также о проверке поиска по длинному контексту и привязки ответов к изображениям. README демонстрирует контекстное окно до 262 144 токенов в конфигурации oMLX. Репозиторий содержит конвертированные веса, поэтому это не отдельное дообучение, а преобразование формата и точности исходной модели для MLX. Лицензия — Apache-2.0. Для запуска требуются Apple Silicon, oMLX и около 52 ГБ памяти под веса; измерения производительности относятся к конкретной конфигурации M5 Max.

Qwen3.8-27B-Uncensored-Cyber-i1-GGUF — квантизированная GGUF-версия модели HFCK99/Qwen3.8-27B-Uncensored-Cyber, подготовленная mradermacher. Модель относится к семейству Qwen3, имеет около 27 млрд параметров и предназначена для локального запуска в совместимых приложениях, поддерживающих формат GGUF. В описании она обозначена как vision-модель для задач image-text-to-text, то есть может обрабатывать изображения и текст; заявленный язык — английский. Репозиторий содержит набор вариантов квантизации i1, включая Q2_K, Q3_K, IQ3, Q4, Q5 и Q6, размером примерно от 11 до 22,5 ГБ. Более компактные варианты требуют меньше памяти, но обычно уступают старшим по качеству; Q4_K_M отмечен как быстрый и рекомендуемый, а Q4_K_S — как компромисс между размером, скоростью и качеством. Также предоставлен imatrix-файл для создания собственных квантов. Точное устройство архитектуры, размер контекстного окна и перечень поддерживаемых языков, помимо английского, в README не указаны. Модель ориентирована на универсальные текстовые и мультимодальные сценарии, включая диалоговую работу с текстом и анализ изображений, при этом в названии и тегах отмечены особенности uncensored и abliterated. К ограничениям относятся неизбежные потери качества у низкобитных квантов, требования к значительному объёму оперативной или видеопамяти и отсутствие подробных результатов тестирования. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-DFlash2-NInfer — это артефакт для движка NInfer, объединяющий 27-миллиардную текстовую модель Qwen3.8 с community-тюном HauhauCS Uncensored Aggressive и моделью z-lab Qwen3.8-27B-DFlash2 для speculative decoding. Артефакт подготовлен в формате одного файла .ninfer и предназначен для локального инференса на одной GPU через C++/CUDA. В нём также сохранена собственная NextN/MTP-голова исходного тюна. Модель рассчитана на генерацию и обработку текста, а благодаря официальной vision-башне поддерживает сценарии image-text-to-text. Для ускорения вывода доступны режимы DFlash2 и MTP; в README приведены результаты проверки на Blackwell GPU: до 59,8 токена/с в режиме DFlash2 и до 112,1 токена/с в режиме DFlash2 Think, однако эти показатели зависят от оборудования и конфигурации. Артефакт использует groupwise quantization с форматами Q4G64_F16S, Q5G64_F16S, Q6G64_F16S и W8G32_F16S, а размер файла составляет около 20,4 ГБ. Основные ограничения связаны с требованиями к среде выполнения: upstream NInfer ориентирован на одну видеокарту класса RTX 5090 с 32 ГБ памяти и архитектурой Blackwell; для других GPU может потребоваться отдельная версия движка. В README указаны параметры запуска с контекстом 16 384 и 32 768 токенов, но заявленный максимальный контекст самой модели не приведён. Список поддерживаемых языков также не указан. Модель распространяется по лицензии Apache-2.0; при этом в составе используются производные компоненты и базовые модели сторонних авторов, условия которых следует проверять отдельно.

Qwen3.8-Flash-Next-4bit — это 4-битная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев image-text-to-text, то есть может применяться к задачам, сочетающим обработку изображений и текста, при условии поддержки соответствующего мультимодального интерфейса. Модель преобразована с помощью mlx-vlm и оптимизирована для запуска в экосистеме MLX. Используется групповой размер квантования 32, необходимый для корректной обработки PLE n-gram embedding dimensions. Точные сведения о числе параметров, длине контекста и поддерживаемых языках в карточке не указаны. Ключевое преимущество этой версии — корректная обработка Qwen4ExpRMSNorm без двойного смещения весов, из-за которого у некоторых более ранних конверсий генерация деградировала до шума. Конверсия проверена на целостность исходных данных, идентичность нормирующих тензоров и согласованность с bf16-версией; также подтверждена связная генерация при температуре 0.0. Ограничения включают 4-битное квантование и зависимость от MLX и mlx-vlm; возможные потери точности относительно bf16-версии в README не измерены. Лицензия в карточке не указана.