I.11Классификация, ранжирование и сопоставление

MeliodasPercival_01_MeliodasT3q — объединённая текстовая модель семейства Mistral с 7,1 млрд параметров, созданная слиянием моделей automerger/MeliodasPercival_01-7B и automerger/MeliodasT3q-7B. Она предназначена для генерации текста и ведения диалогов; принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Данных о специализации на конкретной предметной области или языке нет, поэтому её можно рассматривать как модель общего назначения. Карточка не приводит результаты оценки качества или подробные рекомендации по использованию.

Карточка модели andrewheins55/Ming-flash-omni-2.1 на Hugging Face совпадает с карточкой inclusionAI/Ming-flash-omni-2.0, поэтому описание составлено по ней. Ming-flash-omni 2.0 — мультимодальная модель от inclusionAI на архитектуре Ling-2.0 с Mixture-of-Experts: 100 млрд параметров всего, 6 млрд активных. Она принимает изображения, текст, видео и аудио, а выдаёт текст, изображения и аудио. Модель предназначена для мультимодального понимания и генерации, включая анализ визуальных сцен и знаний об объектах, потоковый диалог по видео, распознавание речи, синтез речи и музыки, а также создание и редактирование изображений. Среди заявленных возможностей — распознавание растений, животных, культурных объектов и достопримечательностей, управление характеристиками генерируемого аудио и клонирование голоса с нулевым примером. Для изображений заявлены генерация, сегментация и редактирование, в том числе удаление объектов и композиция сцен. Карточка описывает версии 2.0 как официальную открытую модель; лицензия репозитория — MIT. README не приводит подробностей о поддерживаемых языках, длине контекста, аппаратных требованиях или результатах независимой оценки; архитектура и заявленные способности не гарантируют качество на каждом сценарии. Метаданные указывают форматные варианты PyTorch, ONNX, Flax и TensorFlow.

MiniMax-M2-MLX-4bit — 4-битно квантованная версия языковой модели MiniMax-M2, разработанной MiniMaxAI. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX; модель оптимизирована для запуска на устройствах Apple Silicon. Она предназначена для генерации текста и локального использования через LM Studio. Модель подходит для сценариев, требующих локального текстового вывода при сниженных требованиях к памяти по сравнению с полной версией модели. README не содержит сведений о точном размере модели, поддерживаемых языках, максимальной длине контекста, архитектуре или дополнительных модальностях, поэтому эти характеристики нельзя достоверно указать. Квантование в 4 бита может уменьшать потребление ресурсов, но потенциально снижать точность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.

MiniMax-M2-MLX-6bit — это 6-битно квантованная версия языковой модели MiniMax-M2 для генерации текста. Исходную модель разработала MiniMaxAI, а квантование в формате MLX выполнила команда LM Studio с использованием mlx_lm. Модель предназначена для запуска в LM Studio и оптимизирована для устройств Apple Silicon. В README указано, что модель относится к задачам text-generation и распространяется по лицензии MIT. Известна её MLX-архитектура представления и 6-битная квантизация, однако сведения о размере модели, поддерживаемых языках, длине контекста, точных характеристиках архитектуры и мультимодальности не приведены. Квантизация ориентирована на более эффективный локальный запуск, но может влиять на качество по сравнению с исходной моделью. Как и другие языковые модели, она способна генерировать неточные, нежелательные или вводящие в заблуждение ответы.

MaziyarPanahi/Mistral-7B-Instruct-Aya-101 — дообученная диалоговая модель на архитектуре Mistral с 7,1 млрд параметров, основанная на mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов на инструкции в многоязычных диалоговых сценариях. Указанный для семейства базовой модели контекст составляет до 32 768 токенов; модель использует форматы PyTorch и Safetensors. В README приведён пример запуска через Transformers с задачей text-generation. В метаданных указан набор данных CohereForAI/aya_dataset и языковые теги, включая английский, арабский, хинди, японский, корейский и другие; README отдельно отмечает многоязычность. Для весов заявлена лицензия Apache-2.0. README не содержит результатов подробной оценки или описания известных ограничений, поэтому качество ответов на конкретных языках и типах задач по имеющимся данным оценить нельзя.

Mistral-7B-OpenOrca-Guanaco-accu16 — языковая модель, опубликованная Minds And Company и основанная на Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия по шаблону Llama Prompt Template. При обучении использовались наборы данных в стилях Orca и Alpaca. Модель подходит для создания чат-ботов, генерации ответов и выполнения текстовых инструкций на английском языке. В метаданных указан контекст длиной до 32 768 токенов; репозиторий использует формат PyTorch и библиотеку Transformers. Карточка модели указывает лицензию Llama 2. Проверки проводились на английском языке и не охватывают все сценарии. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед применением в конкретном продукте модель следует проверить и настроить с учётом его требований.

Neural-Chat-v3-3 — языковая модель Intel с 7,1 млрд параметров на архитектуре Mistral, предназначенная для генерации текста и диалоговых ответов. Она создана дообучением Intel/neural-chat-7b-v3-1 на математическом наборе MetaMathQA и выравниванием методом DPO на парах предпочтений Intel/orca_dpo_pairs. Модель опубликована в декабре 2023 года и доступна в форматах PyTorch и Safetensors. Модель подходит для диалоговых сценариев и языковых задач, включая ответы на математические вопросы. Метаданные указывают контекст до 32 768 токенов, тогда как README приводит 8 192 токена, поэтому фактическое ограничение следует проверять для используемой конфигурации. Лицензия — Apache-2.0. Модель может выдавать фактически неверные ответы, а также предвзятый или оскорбительный контент. Для приложений с реальными пользователями необходимы проверки безопасности; качество ответов зависит от формулировки запроса.

NeuralHermes-2.5-Mistral-7B-GGUF — это квантованная версия языковой модели NeuralHermes-2.5-Mistral-7B, разработанной mlabonne и преобразованной в формат GGUF пользователем MaziyarPanahi. Модель основана на Mistral-7B и предназначена для генерации текста и диалогового использования в инструкционном режиме с применением шаблона ChatML. Модель подходит для локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В репозитории доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью работы и качеством генерации. Заявлена поддержка преимущественно английского языка; сведения о размере контекста и других модальностях отсутствуют, поэтому модель следует рассматривать как текстовую. К сильным сторонам относятся локальный запуск, широкий выбор уровней квантования и совместимость с распространёнными инструментами инференса. К ограничениям относятся возможная потеря качества при низкой разрядности квантования, зависимость производительности от выбранного файла и оборудования, а также отсутствие в предоставленных данных подробных оценок качества, безопасностных характеристик и размера контекста. Модель распространяется по лицензии Apache-2.0.

OLMo 7B Instruct — языковая модель Allen Institute for AI (AI2), дообученная для диалога и ответов на вопросы. Это плотный авторегрессионный Transformer с примерно 6,7 млрд параметров; версия предназначена для запуска через Hugging Face Transformers версии 4.40 и новее. Модель принимает текст и генерирует текст на английском языке. Для обучения использованы supervised fine-tuning на смеси Tulu 2 SFT и дополнительная настройка DPO на очищенном наборе UltraFeedback. Контекст составляет 2048 токенов. Модель можно применять для диалоговых помощников, ответов на вопросы и генерации текста по инструкциям. Модель выпущена под лицензией Apache 2.0. В карточке отмечено, что у неё нет специального фильтра безопасности или отдельного обучения безопасности; возможны вредоносные, предвзятые или фактически неверные ответы. Разработчики рекомендуют проверять результаты и при необходимости добавлять защитные меры. Карточка указывает на более новые версии OLMo.

PlatYi 34B Llama Q V3 GGUF — это квантизированная версия языковой модели PlatYi 34B Llama Q V3, разработанной KyujinHan, подготовленная и опубликованная в формате GGUF пользователем TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая локальный запуск через llama.cpp и совместимые пользовательские интерфейсы и библиотеки. В README указан английский язык, а шаблон запросов основан на формате Alpaca. Модель относится к типу Yi и имеет 34 миллиарда параметров. GGUF — формат, ориентированный на запуск на CPU и GPU; доступны варианты квантования от 2 до 8 бит, позволяющие выбирать компромисс между требованиями к памяти, скоростью и качеством. README не содержит сведений о размере контекста, мультимодальности, результатах тестирования или конкретных преимуществах модели, поэтому её сильные стороны можно описать только как возможность локального использования и выбора уровня квантования. К ограничениям относятся потенциальная потеря качества при низкой разрядности и необходимость подбора варианта под имеющееся оборудование. Для запуска подходят llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другие совместимые инструменты. Модель обучалась с использованием набора данных Open-Platypus. Лицензия указана как CC BY-NC-SA 4.0, предусматривающая обязательное указание авторства, некоммерческое использование и распространение производных материалов на тех же условиях.

unsloth/Qwen2.5-1.5B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-1.5B, подготовленная Unsloth на основе Qwen/Qwen2.5-1.5B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения под прикладные задачи. Для диалогового использования базовая версия не рекомендуется без дополнительного post-training, например SFT, RLHF или продолжения предобучения. Модель относится к causal language models и содержит около 1,54 млрд параметров, из которых 1,31 млрд не являются параметрами эмбеддингов. Архитектура включает RoPE, SwiGLU, RMSNorm, bias в attention QKV и связанные эмбеддинги слов; используется 28 слоёв и Grouped Query Attention с 12 головами Q и 2 головами KV. Полная длина контекста составляет 32 768 токенов. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, поддержка нескольких языков и пригодность для эффективного дообучения и развёртывания при ограниченных ресурсах благодаря 4-битному представлению. Модель также наследует заявленные для Qwen2.5 улучшения в кодировании, математике, следовании инструкциям и работе со структурированными данными, однако конкретные результаты для этой версии в README не приведены. Ограничения включают базовый, а не instruction-tuned характер модели, контекст до 32 768 токенов и возможные потери качества, связанные с 4-битной квантизацией. Лицензия — Apache-2.0.

onnx-community/Qwen2.5-1.5B-Instruct — это веб-совместимая версия модели Qwen/Qwen2.5-1.5B-Instruct с весами в формате ONNX. В README указано, что репозиторий подготовлен для использования через библиотеку Transformers.js; разработчик исходной модели и подробности её архитектуры в предоставленных данных явно не описаны. Модель предназначена для сценариев, где требуется запуск языковой модели в окружениях, совместимых с Transformers.js, включая веб-приложения и другие платформы с поддержкой ONNX. Суффикс Instruct указывает на ориентацию исходной модели на выполнение инструкций, однако сведения о поддерживаемых языках, модальностях, размере контекста, точном числе параметров и производительности в README не приведены. Ключевая особенность этой версии — наличие ONNX-весов и совместимость с Transformers.js. README не содержит информации о лицензии, ограничениях использования или дополнительных преимуществах и недостатках модели. Отдельный репозиторий для ONNX-весов обозначен как временное решение до более широкого распространения WebML.

Firemedic15/qwen2.5-3b-ft-matched-merged — языковая модель для генерации текста, опубликованная пользователем Firemedic15 на Hugging Face. По метаданным, она работает через Transformers, имеет около 3,1 млрд параметров, поддерживает контекст до 32 768 токенов и связана с обучением методом supervised fine-tuning (SFT) с использованием TRL. Теги также указывают на разговорный сценарий применения и семейство Qwen2; название репозитория дополнительно содержит обозначение Qwen2.5 и merged-финетюнинга.

Модель kingofjoy/qwen3_1.7b_summary_v10_vllm — дообученная языковая модель семейства Qwen3, разработанная kingofjoy на базе unsloth/Qwen3-1.7B-unsloth-bnb-4bit. Это плотная авторегрессионная модель с архитектурой Qwen3ForCausalLM и 1,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке также указана поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст; её контекстное окно составляет до 40 960 токенов. В метаданных отмечен английский язык. Вес опубликован в формате safetensors и распространяется по лицензии Apache-2.0. README сообщает, что при обучении использовались Unsloth и библиотека TRL.

Это пакет GGUF-слоёв для модели Qwen3.5-122B-A10B-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3.5-122B-A10B-MTP-GGUF. Он предназначен для распределённого запуска модели на нескольких компьютерах через Mesh LLM, а также для локального приватного инференса и чат-запросов через совместимый с OpenAI API. Пакет сохраняет исходное распределение GGUF в виде отдельных артефактов по слоям; указан вариант UD-Q4_K_XL. Он поддерживает генерацию текста и диалоговый режим. Сведения об архитектуре, языках, длине контекста и лицензии предлагается смотреть в карточке исходной модели, поэтому здесь они не уточняются.

MuXodious/Qwen3.5-27B-tainted-heresy — мультимодальная модель для диалогов и анализа изображений, созданная разработчиком MuXodious на основе Qwen3.5-27B. Модель дообучена с помощью Heretic v1.2.0 и процедуры abliteration, направленной на уменьшение отказов и явного несоблюдения запросов; автор сообщает, что в его оценке осталось 13 отказов из 104, преимущественно в форме оговорок. Модель принимает текст и изображения и формирует текстовые ответы. Архитектура Qwen3.5 — плотная модель с 27 млрд параметров, визуальным энкодером и гибридными слоями Gated Delta Networks и Gated Attention. Базовая модель рассчитана на 201 язык и диалект, имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов; README также указывает режим рассуждений и поддержку вызова инструментов. Подходит для диалогов, визуальных вопросов и сценариев с инструментами, где требуется модель с уменьшенной склонностью к отказам. Описание процедуры и метрики в карточке не подтверждают качество на широком наборе задач; сама модель может сохранять отказы и оговорки. Лицензия — Apache-2.0.

Qwen3.5-9B-Uncensored — это неофициальная GGUF-сборка модели семейства Qwen, опубликованная пользователем LEONW24 и основанная на Qwen/Qwen3-8B и HauhauCS/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive. Модель предназначена для локального запуска в Ollama, llama.cpp и других средах, совместимых с GGUF, а также для генерации текста и анализа изображений в сценариях, где требуется локальная работа без подключения к облачным сервисам. Модель содержит около 9 млрд параметров и поставляется в формате GGUF с квантованием Q4_K_M; размер файла составляет примерно 6,3 ГБ. Заявленное контекстное окно — до 131 072 токенов. Поддерживаются английский, китайский и другие языки. Архитектура Qwen 3.5 предусматривает возможности работы с мультимодальными данными, включая изображения, однако фактическая поддержка зависит от используемого runtime и корректности конфигурации. Сборка исправляет проблемы исходной упаковки, мешавшие запуску через Ollama и мультимодальному выводу. К сильным сторонам относятся компактность, возможность эффективного CPU- и GPU-инференса, автономная работа и отсутствие встроенных ограничений, характерных для цензурированных версий. При этом статус «uncensored» означает сниженный уровень защитных фильтров, поэтому модель может генерировать небезопасный или нежелательный контент и требует ответственного применения. В README не приведены результаты бенчмарков, поэтому качество относительно других моделей оценить нельзя. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking-OptiQ-4bit — текстовая языковая модель, разработанная на основе DavidAU/Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking и адаптированная сообществом mlx-community для запуска на Apple Silicon с использованием MLX. Модель предназначена для генерации текста, включая сценарии рассуждений и creative writing. Режим thinking можно включать или отключать через суффиксы :think и :no-think в идентификаторе модели либо параметр enable_thinking в chat template. Модель использует архитектуру qwen3_5, соответствующую Qwen3.6-27B, и работает только с текстом. Она применяет смешанное квантование OptiQ: разные слои имеют разрядность 4 или 8 бит, средняя разрядность составляет около 5,6 бит на вес; 220 слоёв квантованы в 8 бит, а 276 — в 4 бита. Такой подход призван сохранить больше точности в чувствительных слоях при снижении требований к памяти. Для запуска требуются MLX и совместимое окружение Apple Silicon; модель можно использовать через mlx-optiq или mlx_lm. Поведение и возможности модели определяются базовой дообученной моделью DavidAU, тогда как данный репозиторий изменяет только способ квантования. В README не указаны поддерживаемые языки, размер контекстного окна и подробные ограничения качества. Лицензия — Apache-2.0.

Elsephire объединил Qwen3.6-35B-A3B и Qwen-AgentWorld-35B-A3BB методом Task Arithmetic с весами 80/20. Модель построена на архитектуре Qwen3.5 MoE и предназначена для диалогов и агентных сценариев; в карточке также заявлена работа с изображениями и MTP. В метаданных указаны интерфейс вызова инструментов и формат Safetensors. Это бета-версия: автор предлагает тестировать её и оставлять отзывы. Модель распространяется по лицензии MIT.

taurusduan/Qwen3.8-27B-Heretic-Abliterated-Uncensored-GGUF — это модифицированная версия Qwen3.8-27B семейства Qwen, подготовленная в формате GGUF для запуска через llama.cpp. Она основана на варианте trohrbaugh/Qwen3.8-27B-heretic-ara, созданном Tim Rohrbaugh с применением метода ARA, и дополнительно прошла два полноразмерных прохода ARA для уменьшения остаточных отказов модели. Точная команда разработчиков RVN в README не указана. Модель предназначена для генерации текста, исследовательских задач, творческого письма, ролевых сценариев и генерации с уменьшенным числом отказов на вредоносные запросы. Архитектура — гибрид Gated DeltaNet и стандартного внимания: 27 млрд параметров, 64 слоя, из которых 16 используют обычное внимание, а 48 — линейное внимание Gated DeltaNet; предусмотрены GQA с 24 attention heads и 4 KV heads. Размер скрытого слоя — 5120, словарь содержит 248 320 токенов, контекст — до 262 144 токенов. Модель текстовая; языки в README явно не перечислены. К сильным сторонам относятся низкое поведенческое отклонение от исходной модели после модификации и существенно сниженная вероятность отказов: заявлены KL примерно 0,0085 и 0–1 отказов на 100 вредоносных запросов в независимой проверке. При этом защитные ограничения намеренно ослаблены, поэтому модель не подходит для сценариев, требующих строгих гарантий безопасности, и предназначена только для совершеннолетних пользователей. Использование должно соответствовать законам и ответственным практикам. Лицензия — Apache-2.0; доступны GGUF-файлы, а отдельные варианты содержат встроенную поддержку MTP для speculative decoding.

Qwen3.8-27B-Heretic-GSQ-RCO-GGUF — семейство неравномерно квантованных GGUF-моделей, разработанное 0bserverx на базе Qwen3.8-27B-Heretic-Abliterated-Uncensored. Модель предназначена для генерации текста и запуска локально через llama.cpp, Ollama или LM Studio. Варианты включают стандартные веса и версии с встроенной головой Qwen3.8 MTP/NextN для спекулятивного декодирования. Модель содержит 27B параметров; каждый из 851 тензора получает собственный тип квантования по схеме RCO, с использованием официальной importance matrix и инструментов llama.cpp. Доступны варианты с целевой точностью 2,50–3,50 bpw и размером от 8,45 до 11,80 ГБ, а MTP-версии требуют примерно на 0,42 ГиБ больше. Версия IQ3_S показывает perplexity 6,1778 на wikitext-2, что на 0,95% выше эталона F16; заявленная скорость генерации составляет до 90 токенов в секунду для IQ3_S и до 150 токенов в секунду для IQ3_S-mtp в указанной конфигурации. Сильными сторонами являются низкие требования к памяти, высокая сохранность качества при 3,50 bpw и возможность спекулятивного декодирования. Ограничения связаны с компромиссом между размером, качеством и скоростью у более компактных вариантов, а также с тем, что опубликованная реализация воспроизводит распределение квантования RCO, но не полный refinement-проход GSQ. Модель основана на abliteration и позиционируется как uncensored; README сообщает о 0–1 отказах из 100 тестов, но не описывает методику оценки. Лицензия — Apache-2.0.

Карточка модели AtomicChat/Qwen3.8-27B-MLX-AD-5.00bpw-DWQ-17.7GB на Hugging Face совпадает с карточкой AtomicChat/Qwen3.8-27B-MLX-AD-3.80bpw-DWQ-13.7GB, поэтому описание составлено по ней. AtomicChat/Qwen3.8-27B-MLX-AD-3.80bpw-DWQ-13.7GB — мультимодальная плотная модель семейства Qwen3.5 на 27 млрд параметров, подготовленная AtomicChat на основе Qwen/Qwen3.8-27B для работы в формате MLX. Она предназначена для диалогов и задач, где нужно анализировать изображения и формировать текстовый ответ. Карточка также указывает поддержку vision и conversational-взаимодействия. Модель принимает текст и изображения, выдаёт текст. Репозиторий использует safetensors, а для базовой модели указана лицензия Apache-2.0. README описывает преобразование в MLX с помощью mlx-lm 0.31.3; сведений о контекстном окне и ограничениях качества карточка не приводит.

Mantisec выпустил FP16-представление модели Qwen3.8-27B-OBLITERATED, преобразованное из OBLITERATUS/Qwen3.8-27B-OBLITERATED. Это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, предназначенная для диалогового взаимодействия и обработки изображений с текстом. Версия рассчитана на инференс и дообучение на видеокартах NVIDIA V100, где FP16 подходит для тензорных ядер Volta. Веса переведены из BF16 в FP16 со стратегией проверки диапазона: значения, не представимые в конечном диапазоне FP16, отклоняются, а не обрезаются. README сообщает об успешной проверке генерацией и полном совпадении токенов с исходной моделью в этой проверке, при небольшом расхождении логитов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Условия лицензии в предоставленных данных не описаны.

Qwen3.8-27B-Uncensored-oQ4e-fp16-mtp — это мультимодальная версия модели семейства Qwen3.8 с архитектурным типом qwen3_5 и примерно 27 млрд параметров. Артефакт создан pyros-vault как deployment-конверсия модели orcarouter/Qwen3.8-27B-Uncensored для Apple MLX с использованием oMLX 0.6.1 и смешанной квантизации oQ. Модель предназначена для диалоговых сценариев и обработки текста вместе с визуальными данными; в репозитории сохранены ресурсы Vision, обработчики изображений и видео, а также один слой MTP для потенциального speculative decoding. Основной формат хранения использует аффинную квантизацию Q4/G64 с 166 переопределениями тензоров Q5/G64. Размер тензорного содержимого составляет около 16,66 ГиБ в четырёх Safetensors-фрагментах; вспомогательные MTP-тензоры частично сохранены в F16, поэтому суффикс fp16 не означает полностью FP16-голову MTP. Конфигурация заявляет максимальный контекст 262 144 токена, однако этот предел не тестировался. Калибровка выполнялась на 128 последовательностях по 512 токенов с набором oqe_code_multilingual, но конкретный список поддерживаемых языков не указан. Модель ориентирована на запуск через oMLX на компьютерах Apple Silicon с macOS. Она не предназначена для непосредственного использования как GGUF-, Transformers- или CUDA-артефакт, а размещённая на Hugging Face инфраструктура не предоставляет для неё готовый hosted inference. Скорость, потребление памяти, качество Vision, работа MTP и фактическая пригодность длинного контекста зависят от версии oMLX, клиента и чипа Apple; качество может отличаться из-за квантизации, а заявка Uncensored унаследована от исходной модели и отдельно не проверялась. Для upstream-модели указана лицензия Apache-2.0; дополнительные условия следует сверять с исходной карточкой модели.

Qwen3.8-27B-Uncensored-OrcaRouter-GGUF — неофициальный релиз от chimingw, представляющий конвертированные и квантизированные GGUF-версии модели orcarouter/Qwen3.8-27B-Uncensored-FP8, основанной на Qwen3.8-27B от Qwen/Alibaba. В релизе не выполнялись дообучение, объединение моделей или изменения выравнивания; веса преобразованы из FP8 в BF16 и затем квантизированы для llama.cpp. Это плотная модель с 27 миллиардами параметров и гибридной архитектурой, сочетающей линейное внимание Gated DeltaNet и полное внимание. Она относится к мультимодальным vision-language моделям, поддерживает текст и изображения, заявленные языки — английский и китайский. Модель предназначена для локального запуска, генерации текста, рассуждений, вызова инструментов и мультимодальных сценариев. В конфигурации указан контекст до 262 144 токенов, однако фактическая поддержка зависит от runtime, доступной памяти, совместимого мультимодального проектора и клиента. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M без importance matrix. Дополнительно поставляется MTP-компаньон Q8_0 для speculative decoding; он не является самостоятельной чат-моделью. Сильными сторонами являются большой контекст, мультимодальность, поддержка инструментов и несколько вариантов размера и качества квантизации. Ограничения включают зависимость от совместимого llama.cpp-окружения и локальных ресурсов, отсутствие встроенных защитных механизмов из-за abliteration, а также то, что заявленные характеристики исходной модели не были независимо проверены авторами этого репозитория. Модель предназначена только для контролируемых исследовательских и оценочных сценариев и не должна использоваться в пользовательских или производственных системах без собственных механизмов безопасности. Релиз распространяется по Apache License 2.0 в соответствии с прямым источником.

Qwen3-HereticLM-4B — плотная языковая модель семейства Qwen3, созданная Yamatazen с помощью слияния SLERP двух предварительно обученных моделей: yamatazen/Qwen3-4B-HereticCPT и heretic-org/Qwen3-4B-Instruct-2507-heretic. Модель содержит 3,7 млрд параметров, работает через Transformers и распространяется в формате safetensors; для слияния использованы веса bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. В карточке базовой модели отмечены abliteration для снижения частоты отказов и поддержка длинного контекста; заявленная длина контекста составляет 262 144 токена. Основной язык и отдельные специализированные области применения в предоставленных данных не определены. Модель выпущена под лицензией Apache-2.0. Данные не содержат независимых оценок качества или подробностей о поведении конкретно этого слитого чекпойнта, поэтому результаты могут зависеть от запроса и способа использования.

DreamFast/Qwen3-VL-4b-Heretic-GGUF — это квантизированная GGUF-версия модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и модифицированной DreamFast методом abliteration. Модель предназначена прежде всего для генерации и обработки текста, локального запуска через llama.cpp, Ollama, LM Studio, ComfyUI-GGUF и другие совместимые среды. Доступны варианты от Q3_K_M до F16 размером примерно от 2,0 до 7,5 ГБ. Рекомендуемым балансом качества и размера авторы называют Q4_K_M объёмом 2,4 ГБ; Q6_K и Q8_0 рассчитаны на системы с большим запасом видеопамяти, а Q3_K_M — на устройства с ограниченными ресурсами. Размер контекста в README не указан. Хотя исходная модель поддерживает работу с изображениями, данные GGUF-сборки ориентированы на текстовый путь; для мультимодального режима рекомендуется использовать версии в формате bf16 для Transformers или специальные чекпойнты ComfyUI. Ключевая особенность варианта — удаление защитного выравнивания: в заявленных тестах HarmBench ASR вырос с 30,8% у базовой модели до 100%, при этом показатели MMLU почти не изменились, а GSM8K снизился с 78,62% до 77,18%. Это может быть полезно для исследовательских задач и экспериментов с поведением моделей, но модель способна выполнять вредоносные запросы и требует ответственного применения. Квантизация дополнительно снижает качество по сравнению с исходными весами, а лицензия указана как Apache-2.0.

QwenLong-L1-32B — плотная языковая модель семейства Qwen2, разработанная Tongyi Lab группы Alibaba. Она дообучена с обучением с подкреплением на основе DeepSeek-R1-Distill-Qwen-32B для рассуждений по длинному контексту и ответов на вопросы по документам. В карточке указаны 32 млрд параметров, поддержка генерации текста и контекст до 131 072 токенов. Модель предназначена для DocQA, включая задачи с математическими, логическими и многошаговыми рассуждениями по длинным документам. Авторы сообщают о проверке на семи бенчмарках и приводят результаты, сопоставимые с Claude-3.7-Sonnet-Thinking; это заявления авторов, а не независимая оценка. Для обработки контекста длиннее 32 768 токенов README рекомендует включать масштабирование YaRN и отмечает, что оно может ухудшать результаты на коротких текстах. Модель распространяется по лицензии Apache-2.0.

Rombos-LLM-V2.6-Nemotron-70b-GGUF — это набор квантованных версий языковой модели Rombos-LLM-V2.6-Nemotron-70b, опубликованный и подготовленный к квантованию пользователем bartowski. Модель предназначена для генерации текста и распространяется в формате GGUF для запуска с помощью llama.cpp и совместимых приложений, включая LM Studio. Квантование выполнено с использованием imatrix на базе llama.cpp b3930. Доступны варианты квантования от Q8_0 до IQ1_M с размерами файлов примерно от 19 до 75 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти; в README рекомендуются варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Версии с низким уровнем квантования экономичнее по памяти, однако отличаются сниженным качеством. Это текстовая модель без заявленной поддержки изображений или других модальностей. README не содержит сведений о точной архитектуре, языках, размере контекста, разработчике исходной модели, лицензии и результатах независимого тестирования. Поэтому модель можно рекомендовать для локальной генерации текста при наличии подходящего объёма памяти, но её языковые возможности, ограничения и условия юридического использования следует уточнять на странице исходной модели rombodawg/Rombos-LLM-V2.6-Nemotron-70b.

SauerkrautLM-Nemo-12b-Instruct — языковая модель VAGO solutions, дообученная на базе mistralai/Mistral-Nemo-Instruct-2407 методом Spectrum Fine-Tuning, затрагивающим 25% слоёв. Это плотная модель семейства Mistral с 12,1 млрд параметров, предназначенная для диалогов и генерации текста. Основной акцент сделан на немецком и английском языках; README также сообщает об улучшениях для других языков, поддерживаемых исходной Nemo. Модель подходит для ответов на вопросы, ведения диалога, написания и преобразования текстов на поддерживаемых языках. В карточке заявлены оценки на AGIEVAL, GPT4ALL, TruthfulQA, OpenLeaderboard 2 и MMLU, но численные результаты не приведены. Метаданные указывают контекстное окно до 1 024 000 токенов и формат safetensors. Лицензия — Apache 2.0. Разработчик предупреждает, что модель может выдавать неподходящий или некорректно отфильтрованный контент; стабильность такого поведения не гарантируется.