I.6Перевод и языковая адаптация

GLM-5.3-MLX-5bit — это сборка модели GLM-5.3 от zai-org, адаптированная PipeNetwork для MLX на компьютерах с Apple Silicon. Модель предназначена для генерации текста и локального инференса через mlx-lm. Это архитектура mixture-of-experts glm_moe_dsa с 744 млрд параметров, 256 экспертами и выбором 8 экспертов на токен. Используется MLA со sparse attention в стиле DeepSeek-V3.2. Веса квантизированы до 5 бит с размером группы 64; архитектура сохранена, но слой multi-token prediction не включён. Языки и максимальная длина контекста в README не указаны. Сильная сторона сборки — возможность запуска крупной MoE-модели в экосистеме MLX при снижении требований к памяти по сравнению с исходной точностью, а также близкое соответствие эталонной реализации на тестовой конфигурации. Для работы требуется специальный файл runtime glm_moe_dsa, поставляемый вместе с моделью, и параметр trust-remote-code. Практическое ограничение — модель требует около 768 ГБ оперативной памяти и запуска на двух машинах. Для запросов длиннее 2048 токенов 57 из 78 индексаторов используют случайно инициализированные проекции, что может ухудшать качество sparse attention. Качество 5-битной версии ниже исходной BF16: в приведённых тестах её свободно распространяющаяся ошибка выше, чем у 6- и 8-битных вариантов. Указана лицензия GLM-5.3 от исходной модели; порт MLX опубликован PipeNetwork.

Модель gustavecortal_Beck-8B-GGUF представляет собой набор GGUF-квантизаций базовой модели Beck-8B, разработанной gustavecortal. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4, Q3 и Q2, размер файлов составляет примерно от 3,6 до 16,4 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, а низкие требуют меньше оперативной памяти; для большинства сценариев рекомендуется Q4_K_M, тогда как Q5 и Q6 ориентированы на более высокое качество. Формат GGUF удобен для локального вывода на совместимом оборудовании, включая CPU и GPU. В README не указаны точная архитектура исходной модели, поддерживаемые языки, размер контекстного окна, мультимодальные возможности, специализированные сценарии применения и лицензия. Шаблон чата также не задан, поэтому приведённый формат приглашения может потребовать проверки по карточке исходной модели.

QuantFactory/Josiefied-Qwen2.5-7B-Instruct-abliterated-GGUF — квантизированная версия модели Josiefied-Qwen2.5-7B-Instruct-abliterated, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана и профинансирована Gökdeniz Gülmez; она дообучена на базе Qwen/Qwen2.5-7B-Instruct и относится к семейству Qwen2. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в качестве универсального ассистента. В карточке рекомендуется системная роль J.O.S.I.E.; также приведен шаблон Ollama с поддержкой сообщений, системных инструкций и вызовов инструментов. Модель имеет размер 7B параметров, работает с текстом и заявлена для английского, немецкого и других языков, точный список которых не указан. Доступна в формате GGUF, удобном для запуска через совместимые инструменты локального инференса. Данные о размере контекстного окна, конкретных вариантах квантизации и требованиях к оборудованию отсутствуют. К заявленным особенностям относятся повышенная «uncensored» направленность и дополнительное дообучение на пользовательском наборе данных. По опубликованным результатам Open LLM Leaderboard модель получила 73,17% на IFEval, 34,9% на BBH, 36,4% на MMLU-PRO, 9,62% на MuSR и 7,05% на GPQA; на MATH Level 5 указано 0% exact match. Эти результаты показывают заметную способность следовать инструкциям, но также существенные ограничения в сложном рассуждении и математике. В README отмечено, что существует более новая версия модели. Лицензия — Apache 2.0. Показатели приведены для исходной или связанной версии модели, поэтому их переносимость на конкретный GGUF-файл и выбранный уровень квантизации не гарантируется.

KafkaLM-70B-German-V0.1 — языковая модель Seedbox, обученная Деннисом Дикманном на базе Llama 2 70B Base. Это плотная авторегрессионная модель с 68,7 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 4096 токенов. Модель дообучена на отфильтрованной выборке из 4 тысяч примеров датасета seedboxai/multitask_german_examples_32k, составленного из открытых наборов инструкций, переведённых с английского на немецкий. Она предназначена для ответов на вопросы и выполнения разнообразных повседневных задач на немецком языке, в том числе в деловом общении. Карточка характеризует модель как компетентную и творческую, отмечая склонность к языковым экспериментам. Для использования действуют лицензия Llama 2 и ограничения лицензий датасетов; автор рекомендует модель только для исследований.

llama-3-slerp-kraut-dragon-8B — объединённая чат-модель на базе архитектуры Llama, созданная nbeerbower с помощью mergekit. Веса двух моделей объединены методом SLERP: VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct и nbeerbower/llama-3-dragonmaid-8B. Репозиторий содержит около 7,5 млрд параметров в формате safetensors; модель предназначена для генерации текста и диалогов, а максимальная длина контекста составляет 8192 токена. Модель принимает текст и выдаёт текст. Базовая модель SauerkrautLM рассчитана на немецкий и английский языки, однако README не уточняет языковой охват получившегося объединения. В метаданных указана лицензия «other» без конкретных условий, поэтому перед использованием следует проверить лицензионные условия обеих исходных моделей и самого репозитория.

Luna 12B V.3 — мультимодальная merge-модель на архитектуре Gemma 3, созданная OddTheGreat из нескольких моделей семейства Gemma 3 12B. Она предназначена для повседневного помощника и ролевых диалогов, с основным акцентом на русский язык; также понимает английский и принимает изображения. Автор отмечает, что модель подходит для форматированных ответов, работы с документами и цитирования, хорошо учитывает контекст и небольшие детали. Модель не использует режим рассуждений, а в ролевых сценариях может изображать антагониста и описывать вредоносный контент. Модель доступна в формате safetensors и рассчитана на использование через Transformers. По описанию автора, она может работать на потребительских видеокартах с выгрузкой части модели в память, однако скорость зависит от оборудования. Длинные однообразные ответы могут приводить к повторениям; качество зрения автор подробно не оценивал. Лицензия в предоставленных данных не указана.

M7Yamshadowexperiment28_ShadowExperiment24 — объединённая модель генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/ShadowExperiment24-7B. В карточке указана архитектура Mistral с плотной архитектурой и классом MistralForCausalLM; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Лицензия — Apache-2.0. Карточка не описывает специальные области применения или дополнительные возможности модели.

Magnum-v4-72b-GGUF — это набор GGUF-квантизаций текстогенеративной модели magnum-v4-72b, разработанной anthracite-org и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для диалоговой генерации текста и запуска локально через совместимые приложения, включая LM Studio. README указывает английский язык и формат чата с системными и пользовательскими сообщениями. Модель имеет 72 миллиарда параметров; точная архитектура, размер контекстного окна и поддерживаемые модальности в README не указаны. Представлены варианты квантизации от Q8_0 до IQ1_M с размерами файлов примерно от 23,74 до 77,26 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, а низкие требуют меньше оперативной памяти, но заметно уступают по качеству. Рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Основные ограничения связаны с большими требованиями к дисковому пространству и памяти, особенно для вариантов высокого качества, а сильное сжатие снижает качество генерации. Некоторые варианты используют Q8_0 для embedding- и output-весов, что может влиять на качество, но автор отмечает отсутствие однозначных выводов. Распространение указано по лицензии Apache-2.0.

CobraMamba/mamba-gpt-3b-v4 — авторская дообученная языковая модель семейства Llama, созданная на основе openlm-research/open_llama_3b_v2. Она содержит 3,3 млрд параметров и предназначена для генерации текста, диалогов и ответов на запросы; обучение включало наборы Stanford Alpaca, Open Assistant, LIMA, CodeAlpaca, GPT-4 Generated Data и UltraChat. Модель принимает текст и выдаёт текст, поддерживает английский и многоязычные запросы; родной контекст составляет 2048 токенов. В карточке приведены результаты тестирования на MMLU, ARC и HellaSwag, однако заявленное превосходство над более крупными моделями следует считать утверждением разработчика, а не независимой оценкой. Модель может давать ошибочные или нерелевантные ответы и воспроизводить предвзятое либо оскорбительное содержание. Для использования опубликована лицензия Apache-2.0.

MeliodasPercival_01_Experiment28Yam — объединённая модель генерации текста, созданная из automerger/MeliodasPercival_01-7B и automerger/Experiment28Yam-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста по текстовому запросу и поддерживает контекст до 32 768 токенов. Репозиторий распространяет веса в формате Safetensors по лицензии Apache-2.0. Карточка не описывает специализированные области применения или результаты оценки качества.

MeliodasPercival_01_ShadowMeliodas — объединённая авторами репозитория модель для генерации текста и диалогов. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель принимает текст и рассчитана на контекст до 32 768 токенов. В состав объединения вошли automerger/MeliodasPercival_01-7B и automerger/ShadowMeliodas-7B. Модель подходит для генерации продолжений текста и ведения диалогов. Она опубликована в формате Safetensors под лицензией Apache-2.0. Карточка не описывает специальные предметные области или подробные ограничения качества.

MiniCPM5-2B-Abliterated-Uncensored-Safetensors-GGUF — это GGUF-квантизированная версия модели MiniCPM5-2B-Abliterated-Uncensored-Safetensors от mondk, подготовленная и опубликованная mradermacher. Модель предназначена для генерации текста, работы с инструментами и локального запуска на устройствах и периферийных системах. В метаданных указаны английский и китайский языки, а также совместимость с библиотекой Transformers и сценариями text-generation. Модель относится к классу компактных моделей примерно на 2 млрд параметров и распространяется в нескольких вариантах GGUF-квантизации — от Q2_K до Q8_0, а также в формате f16. Размер файлов составляет примерно от 1,1 до 5,1 ГБ; варианты Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди быстрых. Длина контекста, точные архитектурные параметры и результаты оценивания в README не указаны. Компактный размер и наличие низкобитных вариантов делают модель подходящей для локального и edge-развертывания при ограниченных ресурсах. При этом качество и точность зависят от выбранного уровня квантизации: более компактные варианты экономят память, но могут сильнее снижать качество, тогда как f16 требует существенно больше ресурсов. Термин «abliterated» и заявленная «uncensored» направленность указывают на изменённое поведение в области ограничений безопасности, поэтому модель требует дополнительной проверки перед использованием в чувствительных или пользовательских сценариях. В метаданных указана лицензия Apache-2.0.

dealignai/MiniMax-M2.7-JANGTQ-CRACK — версия MiniMax M2.7, опубликованная Jinho Jang и подготовленная для запуска через MLX на Apple Silicon. В основе лежит MoE-модель MiniMax M2.7 с 230 млрд параметров, из которых около 10 млрд активны на токен; архитектура включает 256 экспертов, 8 из которых выбираются для каждого токена. Каталог указывает 2,9 млрд параметров, а карточка описывает исходную модель как 230-миллиардную; это расхождение следует учитывать при планировании ресурсов. Веса сжаты методом JANGTQ: эксперты используют 2-битное квантование с кодовыми книгами и преобразованием Адамара, а внимание, эмбеддинги и lm_head сохраняют 8-битное представление. README сообщает о размере около 55 ГБ. Это разговорная модель для генерации текста и рассуждений; заявлена поддержка английского, китайского и корейского языков, а контекст составляет до 196 608 токенов. CRACK — постоянное изменение весов, направленное на устранение отказов по соображениям безопасности. Модель также предоставляет интерфейс вызова инструментов. Для запуска JANGTQ требуется MLX Studio или пакет jang-tools; README рекомендует MLX и указывает на Mac с 96 ГБ памяти для описанной конфигурации. Автор заявляет о сохранении качества после квантования и приводит результаты собственных тестов, которые не гарантируют качество в других сценариях. Ослабленные отказы и удаление защитных ограничений создают риск небезопасных ответов. Лицензия указана как other; README заявляет исследовательское и образовательное назначение и требует ответственного использования.

MergeFuel/Mistral-11B-v0.2 — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом passthrough из слоёв alpindale/Mistral-7B-v0.2-hf. В конфигурации используются диапазоны слоёв [0, 24] и [8, 32]; итоговый репозиторий содержит около 10,6 млрд параметров в формате safetensors. Модель предназначена для генерации текста и работает через библиотеку Transformers; заявленная длина контекста — 32 768 токенов. Модель можно применять для генерации продолжений, черновиков и ответов на текстовые запросы. README не описывает отдельную специализацию или результаты оценки качества, поэтому поведение и надёжность на конкретных сценариях по этим данным определить нельзя. Лицензия в предоставленных сведениях не указана.

GJATT/mms-pa_Sep27_152songs — модель распознавания речи на основе wav2vec2, дообученная разработчиком GJATT на базе facebook/mms-1b-all. Она преобразует входящее аудио в текст; карточка приводит результаты оценки: WER 0,3271 и CER 0,0971, а также loss 0,3949. Базовая модель поддерживает более тысячи языков, но язык и область применения именно этой версии в карточке не уточнены. Модель содержит 1,3 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. README не описывает обучающий набор данных или предполагаемые сценарии использования. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Motif-Technologies/Motif-2-12.7B-Base — базовая плотная языковая модель семейства Motif, разработанная Motif Technologies. Она предназначена для генерации текста и может служить основой для дальнейшей адаптации под диалоговые и другие задачи. В метаданных указаны 10,8 млрд параметров, контекстное окно 32 768 токенов и архитектура MotifForCausalLM; модель опубликована в формате safetensors для Transformers. Карточка приводит результаты сравнительных тестов базовой модели на академических бенчмарках, включая MMLU, MMLU-Redux и MMLU-Pro. Заявлены языки английский и корейский, а метаданные отмечают возможность чата. Лицензия Apache-2.0 разрешает использование на её условиях. README округляет размер до 12,7 млрд параметров, тогда как метаданные указывают 10,8 млрд.

zelk12/MT-Merge4-GI-gemma-2-9B — объединённая с помощью mergekit методом SLERP языковая модель на архитектуре Gemma 2 с 9 млрд параметров. В объединение вошли zelk12/MT-Merge4-IF-gemma-2-MT1g4MT2g4-9B и zelk12/MT-Merge4-GP-gemma-2-MTg4MT4g4-9B. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Весовые файлы представлены в формате safetensors, использовать модель можно через Transformers. Лицензия в предоставленных данных не указана. Качество и поведение объединённой модели зависят от исходных моделей и метода слияния; независимые характеристики качества в карточке не приведены.

Muse-Glimmer-30B-GGUF — квантизированная версия модели Muse-Glimmer-30B, разработанной meta-models. Модель распространяется в формате GGUF для запуска через llama.cpp и поддерживает текстовый ввод, а также изображения при использовании файла mmproj. Заявлена поддержка MTP и imatrix-квантизации. Объём модели составляет 30 млрд параметров. Модель предназначена для мультимодальных сценариев, в которых требуется обрабатывать текст и изображения, однако конкретные задачи, языки и размер контекстного окна в карточке не указаны. Доступны варианты с разными уровнями квантизации: от BF16 и Q8_0 до более компактных Q2–Q6 и IQ-форматов; рекомендуемым универсальным вариантом назван Q4_K_M размером 17,31 ГБ. Более компактные варианты экономят память, но могут снижать качество, а высокоточные требуют значительных ресурсов. Квантизацию выполнил bartowski с использованием llama.cpp. Лицензия — Apache-2.0.

NlpHUST разработала эту модель для распознавания именованных сущностей во вьетнамском тексте. Это дообученная на наборе VLSP 2018 модель NlpHUST/electra-base-vn на базе ELECTRA с 160,9 млн параметров и контекстом до 512 токенов; веса доступны в форматах PyTorch и Safetensors. Модель размечает сущности типов «персона», «место», «организация» и «прочее», её можно применять через pipeline NER в Transformers. На оценочной выборке VLSP 2018 общий F1 составил 0,9214, а точность — 0,9907. F1 для персон составил 0,9664, мест — 0,9365, организаций — 0,8833; для категории «прочее» результат ниже — 0,6218. Модель лицензирована по MIT. Ограничения качества за пределами указанной выборки и домена в карточке не описаны.

Это GGUF-представление модели nothingiisreal/L3.1-70B-Celeste-V0.1-BF16, подготовленное Featherless AI. Модель предназначена для генерации текста в диалоговом режиме и может использоваться как чат-модель общего назначения. Базовая модель — дообученная версия семейства Llama 3.1 с 70 млрд параметров. В репозитории доступны варианты квантования IQ4_XS, Q2_K и Q3_K_L, а также другие варианты. В метаданных формат обозначен как GGUF BF16. Квантованные файлы уменьшают размер модели для локального запуска, но могут снижать качество по сравнению с полной точностью. Сведения о поддерживаемых языках, длине контекста и лицензии в предоставленных материалах отсутствуют.

NVIDIA-Nemotron-3-Nano-30B-A3B-GGUF — это квантизированная версия модели NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, автоматически преобразованная проектом ggml-org/convert в формат GGUF. Разработчик исходной модели — NVIDIA; публикацией GGUF-версии занимается ggml-org. Модель предназначена для генерации текста и может запускаться через llama.cpp-совместимый интерфейс, включая llama.app. Из доступных данных известно, что модель относится к семейству Nemotron-3 Nano и имеет обозначение 30B-A3B, однако подробности об архитектуре, фактическом числе активируемых параметров, поддерживаемых языках, длине контекста и модальностях не указаны. Ключевое преимущество этой версии — возможность локального запуска в формате GGUF с использованием различных уровней квантизации, но конкретные параметры квантизации в README не приведены. Ограничения и результаты оценки также не описаны. Лицензия указана как other, без уточнения конкретных условий использования. README содержит незавершённые пункты, включая добавление дополнительной информации и поддержки MTP.

NxMobileLM-1.5B-SFT — дообученная методом supervised fine-tuning модель NTQAI на базе Qwen2.5-1.5B. Она содержит 1,5 млрд параметров, использует архитектуру Qwen2 и предназначена для генерации текста, диалога и следования инструкциям в мобильных и периферийных приложениях. Модель принимает текст и выдаёт текст; заявлена поддержка английского, японского, корейского и вьетнамского языков, а контекст составляет до 131 072 токенов. В карточке заявлены сценарии виртуальных помощников, ответов на вопросы, суммаризации и приложений с низкой задержкой на мобильных и edge-устройствах. Разработчик сообщает о сравнительных оценках на языковых бенчмарках, включая результаты для английского, японского и вьетнамского языков. Качество может снижаться на задачах вне охвата данных дообучения, а смещения обучающих данных могут влиять на ответы. Модель распространяется по лицензии MIT.

Это конвертированная в формат Hugging Face Transformers версия англоязычной модели NVIDIA Parakeet-TDT 0.6B v2 для транскрибации речи. Автор репозитория сообщает, что веса взяты из официального чекпойнта NeMo и сверены с эталонной реализацией; для корректной работы конвертации внесены исправления скрипта, включая поправку идентификатора blank-токена. Архитектура — Parakeet TDT с плотными весами; модель использует 128-мел-спектральный вход и словарь размером 1025 идентификаторов. Модель принимает аудио и выдаёт текстовую расшифровку на английском языке. Она предназначена для распознавания речи и транскрибации записей; в README отмечена как сильная модель семейства Parakeet для английской транскрибации. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers. Лицензия — CC-BY-4.0. Качество зависит от разборчивости речи и условий записи. Модель ориентирована на английский язык, поэтому её не следует считать мультиязычной; README также описывает конвертацию и проверку, но не устанавливает универсальных гарантий производительности на разных устройствах.

Это GGUF-квантизированная версия языковой модели TinyR1-32B-Preview, разработанной qihoo360 и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio. Указан формат prompt с ролями system, user и assistant. Модель относится к классу примерно 32-миллиардных параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в предоставленных данных не указаны. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ-серии размером примерно от 13 до 35 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, но требуют больше памяти; варианты Q4_K_M, Q5, Q6 и Q8 описаны как качественные, а низкоразрядные Q2 и Q3 имеют заметные ограничения. Сильной стороной является возможность локального запуска на совместимом оборудовании и выбор между множеством вариантов размера и качества. Ограничения связаны с высокими требованиями к оперативной или видеопамяти, потерей качества при сильном квантовании и отсутствием в README подробных сведений о результатах тестирования, контекстном окне и языковых возможностях. Модель распространяется по лицензии Apache-2.0; для инференса рекомендуется llama.cpp или проекты на его основе.

mlx-community/quantized-gemma-2b-it — преобразованная для MLX модель Gemma 2B Instruct от mlx-community на основе google/gemma-2b-it. Это плотная авторегрессионная языковая модель с архитектурой GemmaForCausalLM, предназначенная для генерации текста и диалоговых сценариев; размер составляет 2,5 млрд параметров, контекст — до 8192 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы. Репозиторий содержит веса в формате safetensors и предназначен для запуска с mlx-lm на поддерживаемых системах Apple. Лицензия указана как other; перед использованием следует свериться с условиями оригинальной карточки Gemma. Подробности о языковой поддержке и специальных ограничениях в предоставленных данных отсутствуют.

hyunw3/qwen-2.5-0.5b-r1-countdown_lr5e-6 — дообученная компанией или автором hyunw3 модель Qwen2.5-0.5B-Instruct для генерации текста и диалога. Она создана с помощью TRL; в метаданных указаны архитектура Qwen2 и 494 млн параметров. Модель принимает текстовые сообщения и генерирует текст, поддерживает контекст до 32 768 токенов и рассчитана на несколько естественных языков, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель подходит для диалоговых сценариев, выполнения инструкций и генерации ответов. Название указывает на возможную специализацию, связанную с countdown, однако карточка не описывает её назначение или результаты обучения, поэтому эту специализацию нельзя надёжно характеризовать. Модель опубликована в формате safetensors и использует лицензию базовой модели, но сведения о лицензии в предоставленных данных отсутствуют.

Модель mlx-community/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16-mlx-4Bit — 4-битная версия в формате MLX, полученная преобразованием модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 с помощью mlx-lm 0.31.2. Она предназначена для диалогов и генерации текста; базовая модель также описана как мультимодальная и поддерживающая работу с изображениями, рассуждения и программирование, однако README этой версии подтверждает только преобразование формата. Модель основана на семействе Qwen3.6 и имеет лицензию Apache 2.0. Метаданные указывают поддержку английского и китайского языков, а также многоязычный характер модели. Версия рассчитана на запуск через MLX; карточка не приводит отдельных оценок качества этой конвертации.

jenerallee78/Qwen3.6-35B-A3B-Abliterix-EGA-abliterated — мультимодальная модель для преобразования изображений и текста в текст, созданная на базе Qwen/Qwen3.6-35B-A3B. Релиз подготовлен с применением Abliterix, техники Expert-Granular Abliteration (EGA), разработанной wuwangzhang1216, в сочетании с вариантом projected abliteration от grimjim. Модель позиционируется как uncensored-конфигурация базовой модели. Модель предназначена для диалоговых сценариев и задач image-text-to-text, включая работу с изображениями и текстовыми запросами. В карточке указаны поддерживаемые языки English и Chinese, мультимодальность с поддержкой vision, архитектурный класс Mixture-of-Experts (MoE) и размер 35B-A3B, унаследованный от базовой Qwen3.6. Размер контекста и точный перечень поддерживаемых форматов входных данных в представленном README не указаны. Ключевая особенность модели — снижение склонности к отказам после изменения весов. На 507 оценённых запросах HarmBench показатель отказов составил 10,5% по оценке GPT-4o-mini, 6,9% по оценке Gemini 3 Flash Preview и 6,3% по классификатору HarmBench; среднее качество выполнения составило 4,55 и 4,74 из 5 соответственно. При этом результаты зависят от используемого оценщика и методики, а изменение весов может влиять на безопасность и предсказуемость поведения. Модель распространяется по лицензии AGPL-3.0.

Qwen3.6-35B-A3B-Uncensored-MagicQuant-GGUF — GGUF-квантизированная версия модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и опубликованной magiccodingman. Модель предназначена для локальной генерации текста и диалоговых сценариев в совместимых приложениях, использующих llama.cpp и другие инструменты для работы с форматом GGUF. В README она описана как uncensored-модель, то есть с ограниченной фильтрацией содержимого по сравнению с моделями, ориентированными на усиленное выравнивание безопасности. Репозиторий содержит несколько вариантов квантования MagicQuant и один базовый вариант LM-Q8_0. Размеры файлов составляют примерно от 9,59 до 36,91 ГБ, а варианты используют форматы MQ-Q6_K_1, MQ-Q5_K_1, MQ-Q5_K_S_1, MQ-Q4_K_M_1, MQ-Q4_K_M_2, MQ-IQ4_NL_1, MQ-IQ3_M_1, UD-IQ3_S и MQ-IQ2_XXS_1. MagicQuant подбирает и проверяет конфигурации квантования по собственным benchmark-процедурам; для данного репозитория указано, что это локально пересобранный клон конфигураций из другого выпуска, а не результат полного эволюционного поиска. Более крупные варианты обычно ориентированы на сохранение качества, компактные — на снижение требований к памяти, но конкретные характеристики производительности зависят от выбранного файла и оборудования. В README не указаны контекстное окно, языки, точный перечень модальностей, требования к видеопамяти или результаты прикладных тестов, поэтому эти параметры нельзя достоверно определить. Использование модели регулируется лицензией Apache-2.0.

EgorKodin/Qwen3.8-27B-ABLITERATED-3bit-MLX-TextOnly — это текстовая 3-битная квантизированная версия модели Blackfrost-AI/Qwen3.8-27B-ABLITERATED-BF16. Репозиторий подготовлен EgorKodin в формате MLX и предназначен для запуска и инференса на устройствах с Apple Silicon через mlx-lm. Исходная модель описана как результат fine-tuning и abliteration, однако подробности этого процесса в README не приведены. Модель предназначена для генерации текста и интерактивного диалога. Она поддерживает текстовые сценарии, включая ответы на запросы и генерацию продолжений; визуальная часть исходной мультимодальной модели удалена, поэтому изображения и другие визуальные входные данные не поддерживаются. Размер модели — 27B параметров согласно названию базовой модели. Используется 3-битное affine-квантование с размером группы 64, что снижает требования к памяти по сравнению с исходными BF16-весами. Языки и размер контекстного окна в README не указаны. К сильным сторонам относятся адаптация к MLX, оптимизация под Apple Silicon и уменьшенное потребление памяти благодаря 3-битному представлению. Ограничениями являются текстовый режим без vision tower и возможное снижение точности по сравнению с полноразмерной BF16-версией вследствие квантизации. Для запуска требуется библиотека mlx-lm. Лицензия в README не указана.