I.2Синтез, понимание и проверка знаний

Ogno-Monarch-Neurotic-7B-Dare-Ties — объединённая модель для генерации текста, созданная с помощью mergekit на основе bardsai/jaskier-7b-dpo-v5.6 и eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO. В её основе архитектура Mistral с плотной причинно-языковой моделью на 7,1 млрд параметров; репозиторий содержит веса в формате Safetensors, объединённые в bfloat16 методом DARE-TIES. Модель предназначена для генерации текста и ответов на запросы. В карточке указано окно контекста до 32 768 токенов. Базовые модели описаны как англоязычные модели Mistral, дообученные методом DPO; это указывает на ориентацию на английский язык, но не подтверждает поддержку других языков. Для модели указана лицензия Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений применения.

InternVL3_5-30B-A3B-GGUF — квантизированная версия мультимодальной модели InternVL3.5-30B-A3B, разработанной OpenGVLab. Сборка подготовлена bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель предназначена для задач image-text-to-text: обработки изображений совместно с текстовыми запросами и генерации текстовых ответов. Она рассчитана на запуск через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 и Q8_0 до более компактных IQ3 и Q3, с размером файлов примерно от 13,43 до 61,10 ГБ. Для большинства сценариев автор сборки рекомендует варианты Q4_K_M, Q5, Q6 и другие варианты с соответствующим балансом качества и требований к памяти. Ключевое обозначение модели указывает на конфигурацию 30B-A3B, однако README не содержит подробностей об архитектуре, количестве активируемых параметров, размере контекста, поддерживаемых языках и точных характеристиках визуального энкодера. Более компактные квантизации снижают требования к оперативной памяти, но могут ухудшать качество ответов; низкобитные варианты предназначены для систем с ограниченными ресурсами. Формат промпта в README не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в предоставленных данных не указана.

bartowski/OpenGVLab_InternVL3_5-38B-GGUF — это GGUF-квантизированная версия мультимодальной модели InternVL3_5-38B, разработанной OpenGVLab. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для задач image-text-to-text, то есть обработки изображений и генерации текстовых ответов, а также может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории доступны варианты от исходных BF16-весов размером 65,53 ГБ до сильно сжатых форматов Q2, Q3, IQ3 и Q4, а также более качественных Q5, Q6 и Q8. Размер файлов составляет примерно от 13,70 до 34,82 ГБ для квантованных вариантов. Версии Q4_K_M, Q5, Q6 и IQ4 обозначены как рекомендуемые; Q4_K_M описан как вариант по умолчанию для большинства сценариев, а Q6_K и Q6_K_L — как варианты с очень высоким качеством. Более компактные Q3 и Q2 экономят оперативную память, но имеют заметно более низкое качество. README не содержит сведений о размере контекстного окна, поддерживаемых языках, деталях архитектуры, точном формате запросов или лицензии. Поэтому эти характеристики и юридические условия использования необходимо уточнять на странице исходной модели OpenGVLab/InternVL3_5-38B.

Open-Solar-Ko-10.7B — авторегрессионная языковая модель, разработанная Junbum Lee (Beomi) на основе upstage/SOLAR-10.7B-v1.0. Это продолженное предварительное обучение с расширенным словарём и включением корейского корпуса; архитектура — плотный трансформер LlamaForCausalLM, производный от Llama 2. Модель содержит 10,7 млрд параметров и принимает и выдаёт текст. Модель предназначена прежде всего для генерации текста на корейском языке, а также поддерживает английский. В обучении использовались общедоступные корейские корпуса AI Hub, Modu Corpus и корейская Википедия; расширенный SentencePiece BPE-словарь содержит 46 592 токена. Контекст составляет 4 096 токенов. В README приведены результаты оценки на нескольких корейских задачах понимания текста. Расширенный корейский словарь сокращает число токенов для корейских фраз по сравнению с исходным SOLAR-токенизатором. Карточка описывает первоначальную тестовую версию, поэтому качество и пригодность для конкретных сценариев следует проверять отдельно. Модель распространяется по лицензии Apache-2.0.

OpenThaiGPT 13b 1.0.0 — чат-модель команды OpenThaiGPT на базе LLaMA 2, дообученная следовать инструкциям на тайском языке. Модель содержит 12,9 млрд параметров и поддерживает контекст длиной до 4096 токенов; карточка также указывает поддержку английского языка. Для диалога используется формат запросов на основе Llama 2 с небольшим изменением шаблона. Модель предназначена для многоходовых бесед на тайском языке, ответов на вопросы и генерации текста. В карточке заявлена пригодность для сценариев RAG, где модель формирует ответы с предоставленным контекстом. Разработчики сообщают о предобучении на тайском корпусе и дообучении более чем на миллионе примеров инструкций; сравнительные результаты приведены для тайских экзаменов. Доступны веса safetensors и GGUF F16. Модель распространяется по лицензии Llama 2. Её контекстное окно ограничено 4096 токенами, а для запуска 13-миллиардной версии требуется значительная видеопамять, особенно в формате FP16.

Ornith-1.0-35B-4bit — 4-битная MLX-квантизированная версия мультимодальной модели Ornith-1.0-35B, разработанной deepreinforce-ai. Конвертация выполнена с использованием mlx-vlm 0.6.3. Модель предназначена для Apple Silicon и запускается через mlx-vlm или другие приложения на базе MLX. Модель поддерживает работу с текстом и изображениями: сохранённый vision encoder позволяет анализировать изображения и отвечать на связанные с ними запросы. В основе используется архитектура Mixture of Experts с 256 экспертами и языковой моделью размером 35B; применена 4-битная квантизация с размером группы 64 и точностью 4,649 бит на параметр. В README не указаны поддерживаемые языки и размер контекстного окна. К сильным сторонам относятся полноценная мультимодальность, существенное снижение требований к памяти благодаря квантизации и высокая скорость генерации на совместимом оборудовании. Ограничения включают зависимость от Apple Silicon и MLX-совместимого программного окружения, а также потенциальные потери точности из-за 4-битной квантизации. Указана лицензия MIT; подробные бенчмарки, рекомендации по применению и ограничения следует уточнять в карточке исходной модели.

Ornith-1.5-9B-heretic-GGUF — это GGUF-квантизированная версия модели Ornith-1.5-9B от ornith-ai, опубликованная пользователем Thunder13240. Модель предназначена для локального запуска задач генерации текста и изображений с текстовым сопровождением, включая рассуждения и vision-language сценарии. Она основана на гибридной архитектуре: 24 из 32 слоёв используют линейное внимание GatedDeltaNet, а размер словаря составляет 248 320 токенов. В репозитории представлены варианты квантования с разной разрядностью; заявлены 23 подготовленных варианта, включая Q4_K_M, Q8_0, Q6_K, Q5_K_M и другие. Vision tower идентичен базовой модели, а изменения внесены только в текстовый декодер — 43 из 760 тензоров. Из модели намеренно удалена safety alignment: она практически не отказывается от запросов, включая потенциально вредоносные, поэтому не имеет встроенных защитных ограничений и требует самостоятельного safety-слоя перед использованием в пользовательских продуктах. По данным README, квантование сохраняет близкое к базовой модели распределение выходов; для Q4_K_M указаны KL divergence 0,048 и совпадение наиболее вероятного токена 90,81%, а защита SSM-проекций на Q8_0 повышает этот показатель до 92,97%. Языки, максимальный контекст и точный размер файлов в README не указаны. Лицензия — MIT; использование также должно соответствовать применимому законодательству.

Mostafa Amiri разработал персидскую версию Llama 2 7B, дообученную на персидской Википедии и переведённом наборе ALPACA. Токенизатор расширен на 19 954 токена с помощью BPE, обученного на персидских данных. Модель имеет плотную архитектуру LlamaForCausalLM с 6,7 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации текста на персидском языке, включая ответы на инструкции и вопросы, а также продолжение текста. Она использует safetensors и распространяется по лицензии BSD. Специальная предметная область в карточке не заявлена.

AXCXEPT разработала дообученную версию Microsoft Phi-4, используя open-r1 и имитируя подход дистилляции DeepSeek-R1, чтобы получить модель для рассуждений. Модель предназначена для диалогов и генерации ответов, особенно на японском языке; английский можно использовать для более гибких ответов. Это плотная авторегрессионная модель семейства Phi-3 с 14,1 млрд параметров, рассчитанная на контекст до 16 384 токенов. Карточка указывает датасеты Bespoke-Stratos-17k и NuminaMath-TIR. Модель распространяется в формате safetensors и использует библиотеку Transformers. Лицензия — MIT.

Это исследовательский контрольный чекпойнт на базе LED-base для суммаризации совещаний и диалогов. Модель разработана и опубликована Immich; она обучена на подходящем подмножестве AMI Meeting Corpus с seed 73. Вариант baseline предназначен для суммаризации полной записи совещания или для иерархического конвейера сегментации, извлечения и генерации. Модель построена на архитектуре LED и содержит 95,2 млн параметров. Она принимает текст и генерирует текстовое резюме; для загрузки указаны Transformers и AutoModelForSeq2SeqLM. Репозиторий содержит веса safetensors. Лицензия — MIT. Карточка описывает конкретный экспериментальный baseline и не приводит оценок качества или подробностей о поддерживаемых языках.

PIT-1B-201612 — базовая предварительно обученная языковая модель семейства Point-In-Time от Diamegs. Это декодерный Transformer в стиле GPT для генерации текста; модель обучена на хронологически упорядоченных месячных снимках FineWeb и отражает сведения, доступные к декабрю 2016 года. Контекст составляет 2048 токенов, веса представлены в формате safetensors и рассчитаны на загрузку через Transformers. Модель подходит для генерации текста и анализа того, какие сведения могли быть доступны на заданный исторический момент. Она не проходила RLHF или дополнительную настройку безопасности; знания ограничены веб-текстами до декабря 2016 года, а ответы могут содержать смещения из обучающих данных. Для критически важных сценариев без дополнительного выравнивания не предназначена. Лицензия — Apache-2.0.

PIT-1B — базовая предварительно обученная языковая модель семейства Point-In-Time, разработанная для фиксации знаний на определённый момент времени. Это decoder-only Transformer в стиле GPT, обученный на хронологически упорядоченных ежемесячных снимках FineWeb; данный чекпойнт соответствует декабрю 2021 года. Модель принимает текст и генерирует продолжение текста, а её контекст составляет 2048 токенов. Модель подходит для генерации текста и анализа того, как формулировались ответы с учётом знаний, доступных к декабрю 2021 года. Веса опубликованы в формате safetensors и доступны по лицензии Apache-2.0. Знания модели ограничены веб-текстами, доступными до декабря 2021 года. Это базовая модель без RLHF и дополнительной настройки безопасности; она может воспроизводить смещения обучающих данных и не предназначена для критически важных применений без дополнительного выравнивания.

Diamegs разработала PIT-4B-FT-201712 — инструкционно дообученную модель семейства Point-In-Time GPT на базе PIT-4B-201712. Это плотный авторегрессионный декодерный Transformer с 20 слоями, предназначенный для генерации текста и выполнения инструкций. Веса адаптера LoRA объединены с базовой моделью. Модель обучена на хронологически упорядоченных снимках FineWeb и отражает знания, доступные до декабря 2017 года. Такой временной срез подходит для анализа того, что могло быть известно на указанную дату. Контекст составляет 2048 токенов; модель работает с текстом и поддерживает английский язык. Для запуска указаны Transformers, PyTorch и safetensors. Модель не проходила RLHF или дополнительную настройку безопасности, может воспроизводить смещения обучающих данных и не подходит для критически важных решений без дополнительного выравнивания. Лицензия — Apache-2.0.

Prometheus 7B V1.0 GGUF — квантизированная версия модели Prometheus 7B V1.0, разработанной KAIST AI и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama, содержит около 7 миллиардов параметров и предназначена для оценки качества ответов на инструкции с использованием заданных критериев. Модель принимает инструкцию, оцениваемый ответ, эталонный ответ с оценкой 5 и рубрику оценивания. Она генерирует подробную обратную связь, строго ориентированную на указанные критерии, а затем целочисленную оценку от 1 до 5. Указан английский язык и сценарий text-to-text generation; поддерживаются варианты запуска через llama.cpp и совместимые приложения и библиотеки. Ключевое преимущество модели — специализация на структурированной оценке ответов и наличие нескольких вариантов квантизации для запуска на CPU и GPU с меньшими требованиями к ресурсам. Ограничения включают узкую задачу оценивания, английскую языковую специализацию и возможные потери качества из-за квантизации; размер контекста в данных не указан. Лицензия — Apache-2.0.

ptt5-wikilingua-30epochs — дообученная модель семейства T5 на базе unicamp-dl/ptt5-base-portuguese-vocab. Она предназначена для преобразования текста в текст; название указывает на обучение в течение 30 эпох на задаче WikiLingua, однако README не раскрывает состав датасета и точную постановку задачи. Модель содержит 123,8 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт текст. В карточке приведены метрики оценки: ROUGE-1 0,2604, ROUGE-2 0,1127 и ROUGE-L 0,2222. Доступна по лицензии MIT.

Qolda — ISSAI әзірлеген, қазақ, орыс және ағылшын тілдерінде жұмыс істеуге арналған 4,3 млрд параметрлі шағын көру-тілдік чат-модель. Ол OpenGVLab/InternVL3_5-4B негізінде дообучатылған: InternViT-300M көру энкодері мен MLP проекторын Qwen3-4B тілдік моделімен біріктіреді және InternVL фреймворкінде оқытылған. Модель мәтіндік диалогқа да, суреттер туралы сұрақтарға жауап беруге, визуалды мазмұнды талдауға және мәтіндік тапсырмаларды орындауға да арналған. README мәтіндік және визуалды бенчмарктерді қазақ, орыс және ағылшын тілдерінде келтіреді. Hugging Face метадеректері негізгі міндетін image-text-to-text деп белгілейді; чат мүмкіндігі де көрсетілген. Transformers және lmdeploy арқылы іске қосуға болады. lmdeploy серверінде API сұрауында enable_thinking параметрін extra_body ішінде нақты орнату қажет; тапсырма күрделілігіне қарай бос thinking жауабы қайтуы мүмкін. README лицензия шарттарын атамайды.

CultriX/Qwen2.5-14B-Wernicke-SFT — англоязычная разговорная языковая модель на архитектуре Qwen2, представленная в формате safetensors. По карточке модель получена слиянием нескольких моделей семейства Qwen2.5-14B методом Model Stock; в метаданных она также обозначена как дообучение CultriX/Qwen2.5-14B-Wernicke. Модель содержит 14 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для генерации текста в диалоговом формате, включая ответы на вопросы и медицинские запросы; карточка отмечает медицинскую тематику, а метаданные указывают на обучение с использованием небольшого набора данных UpToDate и англоязычных диалоговых корпусов. У модели есть интерфейс вызова инструментов. В README приведены результаты Open LLM Leaderboard, но подробности оценки ограничены частью таблиц. Лицензия — Apache-2.0. Медицинская тематика и использованные обучающие данные не подтверждают точность или пригодность ответов для клинических решений. В карточке нет заявленных гарантий качества медицинских рекомендаций.

DavidAU/Qwen3.5-4B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING — дообученная Unsloth модель на базе coder3101/Qwen3.5-4B-heretic, созданная с использованием четырёх наборов данных Claude. Это плотная мультимодальная модель на 4 млрд параметров с архитектурой Qwen3.5 и визуальным энкодером; она принимает текст и изображения и генерирует текст. Разработчик позиционирует её для диалога, рассуждений, творческого письма и анализа изображений, а также заявляет исправления шаблона чата и обработки вызовов инструментов. Модель рассчитана на контекст до 262 144 токенов, с возможностью расширения до 1 010 000 токенов. В README приведены результаты отдельных тестов и сравнения с исходной моделью, но они не гарантируют качество на конкретных задачах. Автор сообщает о сниженной склонности к отказам; для видео возможности не проверялись. Репозиторий содержит веса Safetensors для Transformers, лицензия — Apache-2.0.

DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED — мультимодальная instruct-модель на базе Qwen3.5-9B, дообученная автором с помощью Unsloth на дистиллированном наборе данных Claude 4.6 и затем обработанная для снижения числа отказов. Модель разработана для диалогов и генерации текста, включая творческое письмо, рассказывание историй и ролевые сценарии; также принимает изображения и отвечает на вопросы по ним. Модель имеет плотную архитектуру Qwen3.5 с языковой частью на 9 млрд параметров и vision encoder. Карточка указывает контекст 256 тыс. токенов; метаданные подтверждают поддержку английского и китайского языков. Автор приводит сравнительные бенчмарки и измерения отказов, но они относятся к настройке автора и не гарантируют качество на других задачах. Видео не тестировалось. Веса опубликованы в формате Safetensors для Transformers; лицензия — Apache-2.0.

Qwen3.5-9B-MLX-4bit — это 4-битная квантизированная версия мультимодальной модели Qwen3.5-9B, предназначенная для задач преобразования изображений и текста в текст. Исходную модель разработала команда Qwen, а квантизацию в формате MLX выполнила команда LM Studio с использованием библиотеки mlx_vlm. Модель имеет около 9 млрд параметров и оптимизирована для запуска на компьютерах Apple Silicon. Она может применяться для работы с текстовыми и визуальными входными данными, однако README не содержит подробностей о поддерживаемых языках, размере контекста, точных возможностях обработки изображений, требованиях к памяти и показателях качества. Квантизация снижает требования к ресурсам и может облегчать локальный запуск, но потенциально уменьшает точность по сравнению с полной версией модели. Модель распространяется по лицензии Apache-2.0. Она предназначена для локального использования в среде, совместимой с MLX; совместимость и производительность на аппаратуре, отличной от Apple Silicon, в README не заявлены.

Это производная версия Qwen 3.5 VL 397B, созданная Jinho Jang и опубликованная dealignai. Модель сочетает зрение и язык: принимает текст и изображения и формирует текстовые ответы. В основе — гибридная архитектура SSM/Attention с Mixture-of-Experts: 397 млрд параметров всего, около 17 млрд активны на токен, 512 экспертов, из которых задействуются 10. Заявлены встроенное зрение и интерфейс вызова инструментов. Веса квантизированы в смешанном формате JANG_2L для MLX на Apple Silicon: README указывает 187 ГБ и рекомендует Mac с 256 ГБ памяти. Формат поддерживается MLX Studio и пакетом jang-tools; метаданные указывают библиотеку MLX и файлы safetensors. CRACK изменяет веса, убирая отказы по безопасности; автор сообщает результат 98,4% на HarmBench. Модель подходит для диалогов и анализа изображений, но из-за удаления защитных отказов может выдавать опасные ответы. Лицензия — Apache-2.0.

Qwen3.6-27B-F451-AND-TRI-Polar-Ultra-Pro-Writer-Uncensored-Heretic-OptiQ-4bit — это текстовая языковая модель, созданная на базе DavidAU/Qwen3.6-27B-F451-AND-TRI-Polar-Ultra-Pro-Writer-Uncensored-Heretic. Данный репозиторий представляет собой её смешанно-точную квантизованную версию для устройств Apple Silicon с использованием MLX. Модель предназначена для генерации текста, включая сценарии творческого письма; заявленные особенности базовой модели включают отсутствие ограничений на содержание, однако подробные сведения о её поведении в README не приведены. Модель использует архитектуру qwen3_5 и содержит 27 млрд параметров. Это текстовая, а не мультимодальная версия: квантизации подвергнута языковая часть, а токенизатор скопирован из базовой модели без изменений. В OptiQ применяется распределение разрядности по слоям: 220 слоёв работают в 8-битном режиме, 276 — в 4-битном, что даёт в среднем около 5,6 бита на вес. Распределение заимствовано у mlx-community/Qwen3.6-27B-OptiQ-4bit; отдельный анализ чувствительности для этой модели не выполнялся. Основные преимущества — адаптация к Apple Silicon, снижение требований к памяти по сравнению с полноточной моделью и сохранение повышенной точности в отдельных слоях за счёт смешанной квантизации. Ограничения включают текстовую направленность, зависимость качества и возможностей от базовой модели, а также отсутствие в README данных о поддерживаемых языках, размере контекста, результатах тестирования и фактических ограничениях безопасности. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3.6-35B-A3B-4bit — это 4-битная квантованная версия модели Qwen3.6-35B-A3B, преобразованная из формата Qwen в MLX сообществом mlx-community с использованием mlx-vlm 0.4.4. Модель предназначена для запуска средствами MLX, в частности для задач обработки изображений и текста, включая генерацию текстового описания по изображению. Из доступных данных известно, что модель имеет архитектуру и возможности базовой Qwen3.6-35B-A3B, однако подробности о количестве активируемых параметров, языках, размере контекста, поддерживаемых модальностях и конкретных сценариях применения в README не приведены. 4-битное представление может снизить требования к памяти и упростить локальный запуск, но потенциально сопровождается потерями качества по сравнению с полной точностью; точные характеристики производительности и ограничения не указаны. Модель распространяется по лицензии Apache-2.0. Для использования требуется экосистема MLX и пакет mlx-vlm; README указывает пример запуска с изображением, но не содержит исчерпывающей информации о совместимых устройствах, требованиях к ресурсам и качестве результатов.

cmp-nct/Qwen3.6-35B-A3B-GGUF — GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. По метаданным это мультимодальная модель с поддержкой сценария image-text-to-text, предназначенная для обработки изображений и текста с генерацией текстовых ответов. В репозитории также указана quantized vision projector, то есть квантизированный визуальный проектор. Модель построена на MoE-архитектуре: заявлен общий размер 35 млрд параметров и конфигурация A3B, однако точное число активных параметров, размер контекста, поддерживаемые языки и конкретные требования к оборудованию в README не указаны. Формат GGUF ориентирован на локальный запуск в совместимых инструментах, но сведения о доступных вариантах квантизации и производительности отсутствуют. Лицензия — Apache-2.0. README не содержит достаточных данных для оценки качества, сильных сторон и ограничений модели в конкретных задачах, поэтому перед использованием следует отдельно проверить совместимость рантайма, характеристики выбранного GGUF-файла и возможности мультимодального инференса.

Qwen3.6-35B-A3B-heretic-GGUF — набор квантованных моделей в формате GGUF, опубликованный Abiray на основе модели tvall43/Qwen3.6-35B-A3B-heretic. Репозиторий предназначен для запуска через llama.cpp и другие совместимые движки инференса на базе GGML. По названию модель относится к классу 35B-A3B, однако подробности архитектуры и точное соотношение параметров в README не раскрыты. В метаданных указано назначение image-text-to-text, но поддерживаемые модальности и языки отдельно не описаны. Доступны варианты Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_M, Q6_K и Q8_0. Q4_K_M рекомендуется как компромисс между размером, скоростью и качеством; Q3_K_M экономит больше всего места, но заметнее ухудшает качество, а Q6_K и Q8_0 ориентированы на системы с большим объёмом VRAM и обеспечивают качество, близкое к исходному. Модель можно использовать для генерации текста и других поддерживаемых задач через современные версии llama.cpp, но требования к контексту, языкам и аппаратным ресурсам, кроме общих различий между квантованиями, не указаны. Лицензия обозначена как other, без дополнительных условий в README.

Qwen3.6-35B-A3B-MLX-4bit — это 4-битная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. Квантизация в формате MLX выполнена командой LM Studio с использованием mlx_vlm. Модель оптимизирована для запуска на компьютерах с Apple Silicon и предназначена для локального использования через совместимые инструменты и среды. Согласно карточке, модель относится к задачам преобразования изображений и текста и поддерживает сценарии image-text-to-text. Обозначение 35B-A3B указывает на конфигурацию исходной модели, однако подробности архитектуры, языков, размера контекста и фактических характеристик производительности в README не приведены. Ключевое преимущество этой версии — снижение требований к памяти благодаря 4-битной квантизации и адаптация к экосистеме Apple Silicon. Ограничения связаны с возможной потерей качества по сравнению с полной версией модели, зависимостью от совместимого программного обеспечения и отсутствием в карточке подробных данных о точности и поддерживаемых языках. Модель распространяется по лицензии Apache 2.0.

Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved-GGUF — это GGUF-квантизации модифицированной модели Qwen3.6-35B-A3B. Модель подготовлена независимым разработчиком llmfan46 на основе оригинальной Qwen/Qwen3.6-35B-A3B с использованием Heretic 1.3.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). В карточке она обозначена как модель для обработки текста и изображений, однако подробные сведения о поддерживаемых языках и формате мультимодального ввода не приведены. Модель предназначена для локального запуска в сценариях генерации и анализа контента, где требуется меньше отказов и ограничений по сравнению с исходной версией. Архитектура относится к семейству Qwen3.6 и имеет конфигурацию 35B-A3B; в исходной и модифицированной версиях сохранены все 20 компонентов MTP. Изменения затрагивают отдельные компоненты attention и MLP, а заявленное расхождение с исходной моделью составляет 0,0015 KL divergence. По данным автора, доля отказов снизилась с 83 до 10 на тесте из 100 запросов. Сильной стороной модели является близость к исходной Qwen3.6-35B-A3B при значительно меньшем количестве отказов, что может быть полезно для исследовательских, творческих и локальных прикладных сценариев. При этом заявленные результаты предоставлены автором и не сопровождаются подробным описанием методики тестирования; сведения о размере контекста, языках, конкретных требованиях к ресурсам и качестве мультимодальной работы отсутствуют. Снижение ограничений также означает необходимость самостоятельной оценки рисков и фильтрации результатов. Лицензия указана как Apache 2.0; ссылка ведёт на лицензию исходной модели Qwen/Qwen3.6-35B-A3B.

Shiftedx/qwen3.8-27b-aeon-ultimate-uncensored-mxfp8-vision-mtplx — экспериментальная независимая конверсия модели AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 в формат MLX, созданная сообществом, а не официальными разработчиками AEON-7 или Qwen. Модель предназначена для генерации текста и задач image-to-text, включая описание изображений, и ориентирована на запуск в экосистеме MLX и mlx-vlm. Для использования требуется локальный инференс; README также указывает поддержку speculative decoding через MTPLX и multi-token prediction. Модель имеет плотную архитектуру семейства Qwen3.5 с гибридным attention/GDN, 64 языковых слоя и заявленный контекст до 262 144 токенов. Языковые веса квантизированы в MXFP8 с 8-битными группами размера 32, а 333 исходных BF16-тензора визуальной части сохранены; размер индексированного артефакта составляет 27,50 ГиБ. В пакет включены 15 BF16-тензоров MTP, а локально выбранная глубина D3 показала 24,36 токена в секунду и ускорение 1,540 раза относительно авторегрессионного декодирования, однако фактическая производительность зависит от оборудования, запроса, контекста и версии MTPLX. К сильным сторонам относятся поддержка изображений, большой заявленный контекст, снижение требований к памяти благодаря MXFP8 и возможность ускоренного декодирования. Ограничения включают экспериментальный статус, необходимость локальной проверки загрузки и производительности, а также отсутствие исчерпывающей квалификации работы на полном контексте. Модель является abliterated и намеренно не обладает стандартным выравниванием безопасности; разработчики предупреждают о возможной генерации небезопасных или незаконных материалов, поэтому необходимы контроль доступа, журналирование, модерация и проверка человеком. Лицензия указана как Apache-2.0; при этом ответственность за соблюдение законодательства и безопасность применения возлагается на операторов модели.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NInfer — это конверсия модели DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1, основанной на Qwen/Qwen3.8-27B. Артефакт подготовлен в формате .ninfer проектом pyros-vault для специализированного runtime NInfer-4090 и видеокарт NVIDIA RTX 4090 с архитектурой sm_89. Это deployment-конверсия без дополнительного обучения; в пакет включены смешанно-точные веса и ресурсы токенизации, генерации, чат-шаблона и обработки изображений и видео. Модель предназначена для генерации текста и мультимодальных сценариев с текстом и изображениями через совместимый runtime NInfer. Версия использует квантование groupwise-int с вариантами 4-, 5-, 6- и 8-битных весов, имеет размер около 27 млрд параметров, занимает 16,96 GiB в виде файла и поддерживает speculative decoding с MTP. В проверенных режимах резидентные веса занимали примерно 15,92 GiB для текста, 16,19 GiB с Vision и 16,67 GiB с MTP; профиль проверки использовал контекст и KV-ёмкость 4096 токенов. Сильные стороны артефакта — компактное смешанно-точное представление, поддержка текстового и визуального ввода, MTP-ускорение и адаптация под 24 ГБ VRAM RTX 4090. Ограничения связаны с жёсткой привязкой формата к зарегистрированному runtime и конкретной архитектуре GPU: файл не предназначен для Transformers, llama.cpp или сторонних форков NInfer. Заявления об улучшении качества и сокращении числа токенов рассуждений относятся к upstream-модели и отдельно в этой карточке не подтверждены. Лицензия — Apache-2.0.

Qwen3.8-27B-GGUF — квантованное представление модели Qwen3.8-27B, разработанной командой Qwen. Модель опубликована в формате GGUF организацией ggml-org и предназначена для запуска через совместимые инструменты, включая llama.app и llama.cpp-совместимую инфраструктуру. Согласно карточке, модель относится к классу image-text-to-text, то есть предназначена для обработки изображений и текста с генерацией текстовых ответов. Указан размер базовой модели — 27B параметров. Точные сведения об архитектуре, поддерживаемых языках, размере контекста, используемых вариантах квантования и фактических мультимодальных возможностях в README отсутствуют. Формат GGUF и квантование могут упростить локальный запуск и снизить требования к памяти по сравнению с полноразмерной версией, однако конкретные компромиссы между качеством и ресурсопотреблением не описаны. Ограничения модели, результаты тестирования и рекомендуемые сценарии применения также не приведены. Модель распространяется по лицензии Apache-2.0.