I.11Классификация, ранжирование и сопоставление

Это квантизированная в формате GGUF версия instruct-модели Ministral-3-3B-Instruct-2512 от Mistral AI, подготовленная DevQuasar для запуска в совместимом локальном ПО. Модель предназначена для диалогов, выполнения инструкций и генерации текста; базовая модель также поддерживает анализ изображений. Компактный размер семейства рассчитан на локальные и периферийные устройства. В репозитории представлены варианты GGUF BF16 и F16. Лицензия в предоставленных данных не указана; перед использованием проверьте условия лицензии базовой модели Mistral AI. Доступная карточка не описывает конкретные ограничения качества или производительности.

Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-C — объединённая модель генерации текста, созданная автором репозитория с помощью mergekit и метода SLERP. В объединение вошли anthracite-org/magnum-v4-22b и Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-B; базовой моделью в конфигурации указана anthracite-org/magnum-v4-22b. Модель имеет плотную архитектуру MistralForCausalLM, содержит 22 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и доступна через Transformers. Базовая модель ориентирована на диалоги, следование инструкциям и связную прозу на английском языке; репозиторий также помечен как conversational и указывает интерфейс для вызова инструментов. Используются веса safetensors в формате bfloat16. Лицензия в предоставленных данных не указана.

Это пакет GGUF-слоёв модели Mistral-Small-3.2-24B-Instruct-2506-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Пакет создан из unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF и сохраняет веса в виде отдельных артефактов по слоям для запуска на кластере Mesh LLM. Модель предназначена для локального диалогового инференса, в том числе на нескольких машинах, когда полный GGUF-файл трудно разместить на одном узле. Через Mesh LLM она поддерживает чат и совместимый с OpenAI интерфейс chat completions. Репозиторий содержит вариант UD-Q4_K_XL в формате GGUF layer-package; сведения об архитектуре, контекстном окне, языках и лицензии следует сверять с карточкой исходной модели.

DiscoResearch опубликовал предварительную реализацию Mixtral — языковой модели Mistral с архитектурой Mixture of Experts (MoE). В README модель названа Mixtral 7b 8 Expert; в метаданных указано 7,1 млрд параметров, а максимальная длина контекста составляет 32 768 токенов. Репозиторий содержит веса PyTorch и предназначен для генерации текста. Модель подходит для генерации и продолжения текста, а приведённые в карточке результаты охватывают тесты на понимание текста, рассуждение и знания. В карточке перечислены английский, французский, итальянский, испанский и немецкий языки. README описывает реализацию как предварительную и отмечает необходимость загрузки с trust_remote_code=True. Лицензия — Apache-2.0.

Monstral-123B-v2-GGUF — это квантизированная версия текстовой генеративной модели Monstral-123B-v2, разработанной MarsupialAI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогового взаимодействия и генерации текста, включая локальный запуск через llama.cpp и LM Studio. Указан английский язык, а рекомендуемый формат запроса — шаблон [INST]. Модель содержит 123B параметров, однако сведения о конкретной архитектуре, размере контекста и поддерживаемых модальностях в README не приведены. Доступно множество вариантов квантизации от Q8_0 до IQ1_M: более высокие разрядности сохраняют лучшее качество, но требуют значительно больше памяти, тогда как низкоразрядные варианты экономичнее, но заметно уступают по качеству. Рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; размер файлов варьируется примерно от 28 до 130 ГБ. Основные преимущества — возможность локального запуска, широкий выбор компромиссов между качеством и требованиями к памяти, а также оптимизации для некоторых ARM- и AVX-систем. Ограничения включают очень высокие аппаратные требования для крупных вариантов и снижение качества у низкоразрядных квантизаций; отдельные варианты имеют ограничения совместимости, например Q4_0_8_8 не рекомендуется для Mac. Лицензия указана как other с названием mrl, но её подробные условия в README не раскрыты.

korvo/MS-RandomMergeTest_v3-TIES-22B — объединённая 22-миллиардная языковая модель на архитектуре Mistral, собранная с помощью mergekit. В основе слияния лежит concedo/Beepo-22B; в него также вошли anthracite-org/magnum-v4-22b, allura-org/MS-Meadowlark-22B, crestf411/MS-sunfall-v0.7.0, TheDrummer/Cydonia-22B-v1.3, TheDrummer/Cydonia-22B-v1.2 и DigitalSouls/BlackSheep-DigitalSoul-22B. Использован метод слияния della_linear. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. В метаданных также отмечен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

zelk12/MT4-Gen5-IBMUMM-gemma-2-9B — объединённая модель на основе Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT4-Gen5-IB-gemma-2-9B и zelk12/MT4-Gen5-MUMM-gemma-2-9B. Это плотная авторегрессионная языковая модель с 9 млрд параметров для генерации текста и диалогового взаимодействия; она принимает текст и выдаёт текст. Контекст составляет до 8192 токенов, файлы модели представлены в формате safetensors. Модель подходит для диалогов и генерации ответов или другого текста в пределах поддерживаемого контекста. README описывает способ слияния, но не приводит сравнительных оценок качества или подробностей специализации исходных моделей, поэтому конкретные преимущества слияния установить нельзя. В метаданных указана лицензия Gemma; используйте модель в соответствии с условиями лицензии базового семейства Gemma 2.

zelk12/MT5-Gen5-MUMM-gemma-2-9B — текстовая языковая модель, созданная разработчиком репозитория объединением двух предварительно обученных моделей семейства Gemma 2. Для объединения использован метод SLERP через mergekit; веса представлены в формате Safetensors. Модель предназначена для генерации текста и диалогового общения. Модель содержит 9 млрд параметров и поддерживает контекст длиной до 8192 токенов. В карточке не приведены сведения о целевых языках, конкретных сценариях настройки или специализированных областях применения, поэтому её можно характеризовать только как модель общего назначения. Лицензия в предоставленных данных не указана.

NeuralsirkrishnaShadow_Experiment26Pastiche — языковая модель семейства Mistral, созданная слиянием чекпойнтов automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Pastiche-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текстов, а также генерации ответов по длинным запросам. Данные карточки не описывают её специализацию или языковой охват, поэтому применение следует считать общим. Модель распространяется в формате safetensors по лицензии Apache-2.0.

New-Dawn-Ultra-Llama-3-70B-32K-v1.0 — текстовая генеративная модель, созданная объединением предварительно обученных языковых моделей методом SLERP с помощью mergekit. В состав объединения вошли варианты New Dawn Ultra Llama 3 70B 32K v0.16 и v0.18. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 69,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для составления ответов, продолжения текста и ведения беседы в приложениях на базе Llama. Карточка не сообщает о специализированных областях применения или поддерживаемых естественных языках. Весовые файлы представлены в формате safetensors; модель использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия языковой модели Llama-3.1-Nemotron-Nano-8B-v1, разработанной NVIDIA и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет около 8 миллиардов параметров и поддерживает текстовую модальность. В README указан английский язык, а контекстное окно и дополнительные архитектурные характеристики не приведены. Доступны варианты от BF16 до различных уровней квантования GGUF: более крупные варианты обеспечивают более высокое качество, а компактные Q4 и Q3 подходят для систем с ограниченным объёмом памяти. Для работы рекомендуется использовать указанный формат prompt с шаблоном Llama 3. Сильной стороной модели является широкий выбор квантований, позволяющий адаптировать размер и качество под доступное оборудование; для большинства сценариев рекомендуются варианты Q4–Q6. Ограничения включают возможное снижение качества при низких уровнях квантования, отсутствие сведений о мультиязычности и контекстном окне, а также необходимость совместимого локального ПО и достаточного объёма памяти. Модель распространяется по NVIDIA Open Model License; ссылка на лицензию указана в карточке.

OpenAlpaca — предварительная версия открытой модели для следования инструкциям, разработанная на основе OpenLLaMA. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров; доступны веса PyTorch. Модель дообучена на наборе Databricks Dolly 15k, а исходная версия OpenLLaMA обучалась на 700 млрд токенов. Модель предназначена для генерации текста по пользовательским инструкциям, например для ответов на вопросы, составления текстов и выполнения простых запросов в диалоговом формате. Контекст ограничен 2048 токенами. В README не заявлена поддержка конкретных естественных языков, поэтому языковая специализация не указана. Лицензия — Apache-2.0.

DevQuasar/openbmb.MiniCPM-V-4.6-GGUF — это квантованная версия мультимодальной модели openbmb/MiniCPM-V-4.6, опубликованная пользователем или организацией DevQuasar. Модель предназначена для задач image-text-to-text: анализа изображений и формирования текстовых ответов на основе визуального и текстового ввода.

Open-Instruct Self-Instruct 7B — языковая модель семейства LLaMA, дообученная командой Allen Institute for AI на наборе Self-Instruct. Она предназначена для генерации ответов на инструкции и текстовые запросы; карточка приводит результаты оценки на тестах общих знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст. Родной размер контекста — 2048 токенов. Для работы нужны исходные веса LLaMA в формате Hugging Face: опубликованная модель представляет собой diff, а не полный самостоятельный набор весов. Карточка сообщает о лицензии AI Model License вместе с исходной лицензией LLaMA. Результаты в приведённых тестах скромные, поэтому перед применением в конкретной задаче качество следует проверить отдельно.

Это набор GGUF-квантизованных версий текстовой генеративной модели OwenArli/Meta-Llama-3-8B-Instruct-Dolfin-v0.1. Квантизацию выполнила организация featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется запуск инструкционной языковой модели в формате GGUF. В основе лежит Meta-Llama-3-8B-Instruct-Dolfin-v0.1; заявленный размер исходной модели — 8 миллиардов параметров. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекста, обучающих данных и результатах тестирования. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильной стороной набора является широкий выбор квантизаций для локального или иного совместимого запуска GGUF-моделей. Ограничения, связанные с конкретной потерей качества, производительностью и совместимостью вариантов, в README не описаны. Лицензия и условия использования также не указаны; их следует уточнить по базовой модели и репозиторию.

Pangea-7B — мультиязычная мультимодальная языковая модель, разработанная командой NEU Lab и обученная в 2024 году на наборе PangeaIns объёмом 6 млн примеров. Она использует архитектуру LLaVA-NeXT с языковой основой Qwen2-7B-Instruct и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов. Модель рассчитана на диалог и генерацию текста, а также на работу с изображениями и текстом на множестве языков. Pangea-7B подходит для мультиязычных диалоговых помощников, ответов на вопросы об изображениях и задач, где требуется сочетать визуальный ввод с текстовым ответом. README сообщает о поддержке 39 языков, включая русский; метаданные содержат языковые теги и более узкий список языков карточки. Модель выпущена под лицензией Apache-2.0. Конкретные ограничения качества и результаты сравнительных тестов в предоставленных материалах не описаны.

Это преобразованная для обслуживания через vLLM версия модели Perplexity AI pplx-pii-masking. Она использует плотную архитектуру Qwen3ForTokenClassification с 507,9 млн параметров и принимает текст, присваивая токенам BIOES-метки для обнаружения имён людей, адресов электронной почты и телефонов, адресов, URL, дат, номеров счетов, секретов и других персональных данных. Дополнительный выход оценивает чувствительность последовательности. Модель поддерживает английский и демонстрирует работу на немецком; контекст по метаданным — 32 768 токенов. Веса перенесены без переобучения и квантизации: изменены формат упаковки и структура голов для совместимости с vLLM. Проверки в карточке показывают совпадение меток с исходной моделью на приведённых примерах. Для декодирования меток и оценки чувствительности нужны сырые логиты без активации. Токенизатор обрезает входы длиннее 4096 токенов, поэтому длинный текст следует обрабатывать частями; границы найденных фрагментов могут не точно совпадать с границами символов, а оценку чувствительности рекомендуется калибровать перед использованием как порога. У репозитория указана лицензия other; карточка сообщает, что модель приватна и ожидает синхронизации с официальным выпуском.

INTELLECT-2-GGUF — это набор GGUF-квантизированных версий языковой модели INTELLECT-2, разработанной Prime Intellect и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README также указано, что при обучении использовался датасет PrimeIntellect/Intellect-2-RL-Dataset. Доступны исходные веса в формате BF16 и варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2 с размером файлов примерно от 13 до 66 ГБ. Более крупные варианты обычно обеспечивают более высокое качество, а менее крупные требуют меньше оперативной памяти; рекомендуемым вариантом по умолчанию назван Q4_K_M. Модель поддерживает текстовую генерацию, однако сведения об архитектуре, числе параметров, контекстном окне и языках в README не приведены. Формат подсказок использует роли system, user и assistant, а также блок рассуждений <think>. Лицензия модели указана как Apache-2.0. Ограничения связаны прежде всего с компромиссом между размером файла, требованиями к памяти и качеством, зависящим от выбранного уровня квантизации; варианты Q3 и Q2 характеризуются как менее качественные, а некоторые форматы отмечены как устаревшие.

Qwen1.5-0.5B-Chat-GPTQ-Int4 — чат-модель семейства Qwen1.5, разработанная командой Qwen (Tongyi Qianwen). Это decoder-only языковая модель на архитектуре Transformer, предназначенная для диалогового взаимодействия и генерации текста. Модель подходит для создания ассистентов, ответов на вопросы, кратких объяснений и других сценариев text generation. Модель содержит около 0,5 млрд параметров и распространяется в квантизированном формате GPTQ с точностью Int4, что снижает требования к памяти по сравнению с полноточными вариантами. Она поддерживает текстовую модальность, английский язык и, согласно описанию семейства, мультиязычную работу и обработку кода. Заявлена поддержка контекста до 32K токенов. Архитектура включает SwiGLU и attention с QKV bias; для beta-версии Qwen1.5 group query attention и сочетание sliding window attention с full attention временно не использовались, за исключением отдельных вариантов семейства. Модель предварительно обучалась на большом объёме данных, а чат-версия дополнительно настраивалась с помощью supervised fine-tuning и direct preference optimization. Её сильные стороны — небольшой размер, пониженные требования к памяти благодаря Int4-квантизации и готовность к диалоговым сценариям. Ограничениями являются малый размер по сравнению с более крупными моделями семейства, возможное ухудшение качества при сложных задачах и ошибки при переключении языков; разработчики рекомендуют использовать параметры генерации из generation_config.json. Лицензия указана как tongyi-qianwen-research; применимые условия приведены в файле LICENSE репозитория.

bunnycore/Qwen-2.5-3b-Evol-CoT-v2 — чат-модель для генерации текста, созданная сообществом bunnycore с помощью mergekit. Это объединение моделей семейства Qwen2 методом TIES на основе bunnycore/Qwen-2.5-3b-Evol-CoT; в слияние также включены варианты Mix-Data-lora, RP и qwen-2.5-3b-lora_model. Модель имеет плотную архитектуру Qwen2ForCausalLM, 3,1 млрд параметров и контекст до 32 768 токенов; веса доступны в формате safetensors и рассчитаны на Transformers. Модель предназначена для диалоговых ответов и генерации текста. В метаданных указана возможность работы через интерфейс вызова инструментов, но специальных прикладных областей или поддерживаемых языков карточка не описывает. Лицензия в предоставленных данных не указана.

Это полноразмерный объединённый чекпойнт Qwen2.5-3B-Instruct, дообученный и опубликованный gradients-io-tournaments. Модель построена на архитектуре Qwen2ForCausalLM и содержит около 3,1 млрд параметров; веса представлены в формате safetensors, точность — bfloat16. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. Её можно использовать для создания ответов, черновиков и структурированного текста в приложениях на базе Transformers. В карточке не описаны конкретная специализация дообучения, используемые языки или оценка качества, поэтому назначение за пределами общего текстового общения не уточняется. Лицензия в предоставленных данных не указана.

Mungert/Qwen3-32B-GGUF — набор GGUF-квантованных вариантов модели Qwen3-32B, подготовленных с помощью llama.cpp. Репозиторий предназначен для локального запуска и инференса текстогенерационной модели, в том числе на системах с ограниченными ресурсами, низким объёмом GPU-памяти, CPU и edge-устройствах. Основной акцент сделан на ультранизкобитной квантовке IQ-DynamicGate с адаптивным распределением точности по слоям в форматах 1–2 бита. Метод сохраняет более высокую точность за счёт использования разных схем квантовки для различных частей модели и защиты embeddings и выходных слоёв. В README приведены результаты для Llama-3-8B-Instruct с контекстом 2048 токенов, однако эти показатели нельзя напрямую считать характеристиками Qwen3-32B. Точные архитектурные параметры, размер контекста, поддерживаемые языки и модальности Qwen3-32B в карточке не указаны. Преимущество набора — существенное снижение требований к памяти при сохранении приемлемого качества, особенно в сценариях, где важна максимальная компактность. Компромиссы включают возможное снижение точности по сравнению с более высокобитными или полноразмерными версиями, а также небольшие накладные расходы на размер и скорость у DynamicGate-вариантов. Модель распространяется по лицензии Apache 2.0.

Модель clijo/qwen3-4b-instruct-2507-bf16-reco-grpo-b200-gentle-blue-orbit — дообученная с помощью TRL версия Qwen/Qwen3-4B-Instruct-2507, разработанная автором репозитория clijo. Это плотная языковая модель примерно на 3,7 млрд параметров с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста в диалоговом формате и выполнения инструкций. В карточке приведён пример запуска через Transformers для ответа на вопрос пользователя. Модель принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Метаданные указывают на формат safetensors и возможность диалога. Лицензия и специальные области применения в предоставленных данных не описаны.

mlx-community/Qwen3.5-0.8B-OptiQ-4bit — квантованная MLX-версия базовой модели Qwen/Qwen3.5-0.8B, разработанная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локальной генерации текста на устройствах Apple Silicon, включая задачи рассуждений, программирования, следования инструкциям, вызова инструментов и агентских сценариев. README не содержит сведений о поддерживаемых языках, размере контекста и исходной мультимодальности базовой модели. Это преимущественно 4-битная смешанно-точная квантовка: 56 чувствительных слоёв имеют точность 8 бит, а 130 устойчивых — 4 бита; общий размер на диске составляет около 0,6 ГБ, размер группы — 64. В комплект входит MTP-голова для speculative decoding, заявленное ускорение декодирования — около 1,4 раза. По сравнению с равномерной 4-битной квантовкой модель показывает более высокие результаты на MMLU, GSM8K, IFEval, BFCL и HumanEval, однако уступает ей в тесте длинноконтекстного извлечения HashHop. Результаты зависят от настроек и аппаратного обеспечения, а небольшие размеры модели ограничивают её общие возможности. Для использования требуется MLX и, согласно README, пакет mlx-lm; дополнительные функции, включая серверную подачу, LoRA и MTP-декодирование, доступны через mlx-optiq. Модель распространяется по лицензии Apache 2.0 и наследует лицензионные условия базовой модели.

Мультимодальная модель семейства Qwen3.5 с плотной архитектурой на 4 млрд параметров, дообученная dkingtutcd на основе Qwen/Qwen3.5-4B. Модель предназначена для диалога и ответов на запросы с изображениями: принимает текст и изображения, а выдаёт текст. В метаданных также указаны интерфейс вызова инструментов и поддержка зрения. Модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. В README сообщается, что при обучении использовались Unsloth и библиотека TRL; сведений о конкретном наборе данных, специализации дообучения или оценках качества нет.

lmstudio-community/Qwen3.5-9B-MLX-8bit — 8-битная квантованная версия модели Qwen3.5-9B, разработанной командой Qwen. Квантование в формате MLX подготовлено командой LM Studio с использованием mlx-vlm, а сама модель оптимизирована для работы на устройствах с Apple Silicon. Модель предназначена для задач преобразования изображений и текста в текст, включая мультимодальные сценарии, где на вход могут подаваться визуальные и текстовые данные. Размер исходной модели составляет 9 млрд параметров. В README не указаны точная архитектура, поддерживаемые языки, размер контекста, перечень модальностей помимо заявленного image-text-to-text и результаты тестирования. Ключевое преимущество модели — сниженное потребление памяти и вычислительных ресурсов по сравнению с полноразмерной версией благодаря 8-битному квантованию, а также оптимизация для экосистемы Apple Silicon. Ограничениями являются зависимость от совместимого MLX-окружения и потенциальные потери качества, связанные с квантованием; конкретные характеристики таких потерь не приведены. README также предупреждает, что модель может генерировать неточный, вредный или неподходящий контент. Модель распространяется по лицензии Apache 2.0. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность или пригодность для конкретных задач.

Это GGUF-квантизация текстовой модели Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop. Квантизации подготовлены пользователем larue316 на основе модели DavidAU с использованием llama.cpp b9192. Модель имеет около 12 млрд параметров и ориентирована на генерацию текста с поддержкой рассуждений; заявленные языки — английский и китайский. Модель предназначена для локального запуска и использования в совместимых движках вывода, включая LM Studio, llama.cpp, Ollama и другие системы с поддержкой GGUF. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В README отдельно отмечен вариант Q4_K_M как оптимальный баланс качества и размера. К сильным сторонам относятся широкий выбор квантизаций и возможность локального использования без исходной полноразмерной модели. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантизации; для наиболее компактных вариантов качество указано как приемлемое или минимально пригодное. Архитектура, размер контекстного окна, мультимодальные возможности и точные характеристики обучения в README не указаны. Лицензия модели — Apache 2.0.

Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS-i1-GGUF — квантизированная GGUF-версия модели KridgeDookie/Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS, подготовленная mradermacher. Модель относится к семейству Qwen3.6, имеет около 27 миллиардов параметров и предназначена для генерации текста и работы с изображениями и текстом. В метаданных указана многоязычная поддержка, однако конкретный перечень языков и размер контекстного окна не приведены. Модель ориентирована на текстовую генерацию, мультимодальные сценарии image-text-to-text и задачи, где требуется сниженный уровень отказов от ответов; пометка abliterated/uncensored отражает изменение поведения исходной модели в этой области. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Доступны варианты квантизации i1 с разными форматами и объёмом примерно от 7,2 до 15,6 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Сильными сторонами являются мультимодальность, многоязычность и широкий выбор квантизированных вариантов, включая imatrix-квантизации. Ограничения связаны с потерей качества у наиболее компактных вариантов; README прямо отмечает низкое качество некоторых из них. Архитектурные детали, точный контекст и результаты оценивания не указаны. Модель распространяется по лицензии Apache-2.0.

Tsuna57/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP-Q8_0-GGUF — это квантованная версия модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель основана на Qwen3.6 и имеет размер 27 млрд параметров; в карточке также указаны многоэтапная настройка, объединение моделей, режимы thinking и reasoning, а также поддержка MTP-квантов. Квантование Q8_0 предназначено для запуска через llama.cpp. Модель ориентирована на широкий спектр текстовых сценариев, включая программирование, творческое письмо, создание историй и художественной прозы разных жанров, ролевые диалоги и задачи общего назначения. Заявлена поддержка английского и китайского языков. В метаданных указан pipeline image-text-to-text, однако подробности о фактических возможностях обработки изображений в README отсутствуют. К сильным сторонам относятся формат GGUF, совместимость с llama.cpp и возможность локального запуска через CLI или сервер. Ограничения и точные показатели качества, размер контекста, требования к оборудованию, особенности мультимодальности и результаты оценки в карточке не приведены; в примере запуска указан контекст 2048 токенов, но это не обязательно максимальное значение модели. Лицензия — Apache-2.0.

Это GGUF-представление модели Qwen3.6-35B-A3B, подготовленное SC117 с применением метода APEX для квантования MoE-моделей. В основе лежит llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved — модифицированная версия Qwen3.6-35B-A3B со сниженным числом отказов. В репозитории представлены варианты GGUF, включая F16; README описывает уровни квантования APEX, которые распределяют точность по типам тензоров и слоям. Модель предназначена для диалогов и генерации текста по текстовым и визуальным запросам. Вариант сохраняет 20 слоёв MTP для спекулятивного декодирования; README приводит настройки запуска через llama.cpp и Ollama. Метаданные указывают возможность работы с изображениями, но подробности мультимодальных возможностей и поддерживаемые языки в доступных материалах не раскрыты. Модификация исходной модели позиционируется как uncensored: в README заявлено снижение отказов на 88% при сохранении качества, однако эти цифры приводятся авторами и не являются независимой оценкой. Модель распространяется по лицензии Apache-2.0. Для запуска необходим совместимый движок GGUF; скорость и качество зависят от выбранного варианта квантования и оборудования.