I.3Извлечение и структурирование данных

Spark-X2.5-4B-OptiQ-4bit — это локально запускаемая MLX-квантизированная версия модели XHToken/Spark-X2.5-4B, подготовленная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для диалогов, программирования, вызова инструментов и агентских сценариев, особенно на компьютерах Apple Silicon без PyTorch и облачных сервисов. Она поддерживает текстовую генерацию и заявляет поддержку более 200 языков. Модель использует плотную архитектуру Spark-X2.5 с 4 млрд параметров и нативным контекстом до 1 млн токенов. Квантизация смешанной точности преимущественно 4-битная: чувствительные слои хранятся в 8-битном формате, остальные — в 4-битном; размер весов на диске составляет около 2,8 ГБ. Для KV-кэша предусмотрена отдельная смешанная точность. Архитектура включает полное внимание только в девяти слоях, а остальные используют скользящее окно размером 512 токенов, что снижает рост потребления памяти при длинных запросах. Сильные стороны модели — компактный размер, эффективный локальный запуск, длинный контекст и сохранение качества за счёт чувствительной к слоям квантизации. В приведённых тестах смешанная квантизация превзошла равномерную 4-битную по среднему Capability Score, а также показала улучшения в MMLU, GSM8K, BFCL, HumanEval и HashHop; в IFEval результат немного снизился. Модель требует установки mlx-optiq и импорта optiq перед загрузкой, поскольку стандартный mlx-lm не распознаёт тип spark2_5. Лицензия — Apache 2.0, унаследованная от базовой модели.

Bonsai 2 27B — производная от Qwen/Qwen3.8-27B модель семейства Prism ML для генерации текста, рассуждений и диалогов. Это плотный трансформер с гибридным вниманием, SwiGLU, RoPE и RMSNorm; языковые веса представлены в троичном формате {-1, 0, +1} с блочной Hadamard-ротацией. Репозиторий содержит веса в формате safetensors для MLX; заявлены 27,36 млрд параметров и контекст до 262 тыс. токенов. Модель также включает башню зрения, однако карточка этого варианта указывает основной задачей генерацию текста. Модель рассчитана на локальный запуск на устройствах Apple Silicon и совместимых GPU, в том числе для продолжительного анализа документов и кода, диалогов, рассуждений и сценариев с вызовом инструментов. Автор заявляет сохранение 98,2% среднего результата FP16-версии на 14 тестах, включая математику, программирование и использование инструментов. Троичное представление сокращает размер весов, но требует специализированных низкоразрядных ядер; скорость зависит от аппаратуры и реализации. Модель основана на Qwen/Qwen3.8-27B и распространяется по лицензии Apache-2.0. Для использования нужны совместимый runtime MLX и соответствующие низкоразрядные ядра; заявленные характеристики скорости и качества являются результатами автора и могут отличаться на конкретном оборудовании.

Tess-4-35B-A3B — мультимодальная модель семейства Tess-4, разработанная Migel Tissera и представленная в этом репозитории как неизменённая копия весов оригинальной модели. Это постобученная смесь экспертов на базе Qwen/Qwen3.6-35B-A3B: модель имеет около 35 млрд параметров общей ёмкости и активирует примерно 3 млрд параметров на токен. Используется гибридное внимание с gated-delta-net и полным GQA в каждом четвёртом слое. Модель предназначена для диалогов, многошагового использования инструментов, агентного программирования, анализа изображений и работы с длинными техническими документами. Карточка описывает обучение на 64K-токенных агентных трассах; базовая архитектура поддерживает контекст до 262K позиций. Веса сохраняют визуальный тракт Qwen и обработку изображений и видео. Указан английский язык. Для запуска BF16-весов требуется современная версия Transformers с поддержкой мультимодальной архитектуры Qwen3.6 MoE; полный набор весов занимает около 72 ГБ. Указанная лицензия — Apache-2.0. Заявления о качестве и скорости в README частично основаны на данных автора и сообщества; GGUF-оптимизации и ускорение с MTP относятся к отдельному репозиторию и специализированной сборке llama.cpp.

Virtuoso-Large — дообученная плотная языковая модель на базе Qwen2.5-72B, разработанная Arcee AI. Она предназначена для генерации текста и диалоговых сценариев, включая создание технических и творческих материалов, суммирование данных и подготовку отчётов, синтез сведений из разных источников и многоязычную коммуникацию. Модель содержит около 71,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Для работы доступны веса в формате safetensors; в README также упоминается вариант GGUF. Модель рассчитана на задачи общего назначения и имеет интерфейс для вызова инструментов. README заявляет многоязычную поддержку, но не перечисляет языки. Лицензия обозначена как Tongyi License от Qwen; условия её применения следует сверять с лицензией базовой модели.

Yi-1.5-9B — базовая языковая модель семейства Yi, разработанная 01.AI. Это плотная авторегрессионная модель архитектуры Llama с 8,6 млрд параметров, предназначенная для генерации текста и продолжения запросов. Yi-1.5 получена непрерывным предварительным обучением модели Yi на высококачественном корпусе объёмом 500 млрд токенов; в линейке также есть отдельные версии Chat, но данный репозиторий содержит базовую модель. Модель подходит для языкового понимания, чтения с пониманием, рассуждений, математики и программирования. В карточке семейства указаны контексты 4K, 16K и 32K; для этой модели в метаданных указан native context 4096 токенов. Веса доступны в формате Safetensors. Лицензия — Apache-2.0.

ZYH-LLM-Qwen2.5-14B-V5 — диалоговая языковая модель YOYO-AI, созданная слиянием моделей на базе Qwen2.5-14B. В README описаны этапы объединения инструкционных, кодовых и рассуждающих моделей; среди них есть варианты Qwen2.5, Cogito, DeepCoder и другие. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров, опубликованная в формате safetensors. Модель предназначена для генерации текста в диалоге, выполнения инструкций, помощи с кодом и задач, требующих рассуждений. Метаданные указывают контекст до 1 010 000 токенов, а в карточке заявлена поддержка английского и китайского языков. Модель распространяется по лицензии Apache-2.0. README не приводит результаты сравнительных оценок или подробные рекомендации по развёртыванию. Заявленная длина контекста сама по себе не подтверждает качество ответов на всём этом диапазоне; фактическую производительность следует проверять на целевых задачах.

CyberNeurova-GLM-5.3-Flash-BF16 — дообученная CyberNeurova мультимодальная разговорная модель на базе zai-org/GLM-5.3-Flash. Это разреженная MoE-модель с 321 млрд параметров, из которых около 18 млрд активны на токен; она принимает текст и изображения и формирует текстовые ответы. Заявлены контекст до 1 048 576 токенов, многоязычная работа, рассуждения с явной цепочкой размышлений, вызов инструментов, программирование и ответы на общие вопросы. Модель настроена на прямые ответы с уменьшенным количеством встроенных отказов; стиль можно задавать системным промптом. Сборка BF16 предназначена для GPU с поддержкой BF16 и может служить основой для дальнейшего дообучения. Для запуска в README приведена инструкция с использованием специального образа vLLM и параметра доверия удалённому коду. Лицензия — MIT. Карточка заявляет сохранение способностей к рассуждениям, программированию и общим знаниям, однако независимые оценки качества не приведены. Большой размер модели предъявляет значительные требования к ресурсам, а уменьшенное число отказов требует осторожной настройки и контроля применения.

Это версия DeepSeek-R1-Distill-Llama-70B, преобразованная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Llama-70B в формат MLX с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Llama и содержит 69,5 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, программирование и ответы на сложные вопросы. Контекстное окно составляет 131 072 токена; метаданные также отмечают интерфейс вызова инструментов. Версия ориентирована на запуск с mlx-lm. В карточке указана конверсия в MLX, но лицензия не приведена в доступных данных. Качество ответов и совместимость зависят от среды запуска и конкретного сценария.

DeepSeek-V3.2-Speciale — крупная языковая модель, разработанная DeepSeek AI. Она представляет собой высокоресурсный вариант DeepSeek-V3.2, дообученный на базе DeepSeek-V3.2-Exp-Base, и ориентирована на сложное рассуждение, решение математических и алгоритмических задач, использование инструментов и работу в агентных сценариях. Модель использует механизм разреженного внимания DeepSeek Sparse Attention (DSA), предназначенный для снижения вычислительной сложности при работе с длинным контекстом. В DeepSeek-V3.2 также применяются масштабируемое обучение с подкреплением и конвейер синтеза данных для агентных задач, включая взаимодействие с инструментами. В README не указаны размер модели, точная архитектура, максимальная длина контекста, поддерживаемые языки и модальности; заявлена текстовая работа с сообщениями и инструментами. К сильным сторонам относятся развитое рассуждение, эффективность на длинном контексте и способность выполнять сложные интерактивные задачи. Для версии Speciale заявлены результаты на уровне или выше GPT-5, а также золотые медали на IMO и IOI 2025, однако эти утверждения приведены в README без подробностей о методике оценки. Ограничения включают отсутствие встроенного Jinja-шаблона чата и необходимость использовать предоставленный Python-код для кодирования сообщений и разбора ответов; функция разбора рассчитана только на корректно оформленный вывод. Модель распространяется по лицензии MIT.

WhiskyAKM подготовил конверсию Gemma 4 26B A4B IT QAT в формат GGUF с NVFP4-квантизацией для запуска через llama.cpp и другие совместимые движки. В основе — мультимодальная модель Google DeepMind с архитектурой Gemma4ForConditionalGeneration и 26 млрд параметров; для работы с изображениями и аудио в репозитории также доступен мультимодальный проектор. Модель принимает текст, изображения и аудио, а выдаёт текст; карточка заявляет контекст до 256 тысяч токенов и поддержку более 140 языков. Модель предназначена для диалогов, рассуждений, программирования, анализа изображений и аудио, а также сценариев с вызовом инструментов. Доступны несколько уровней квантования GGUF; для мультимодального ввода требуется использовать mmproj.gguf. Репозиторий распространяется по лицензии Apache-2.0.

GLM-4.7-Flash-RAZOR-17B-A3B-E32of64 — сжатая методом RAZOR версия диалоговой MoE-модели GLM-4.7-Flash, опубликованная Nickyang. В каждом MoE-слое оставлено 32 из 64 маршрутизируемых экспертов; отбор выполнен без градиентных обновлений и дополнительного обучения. По README, число хранимых параметров составляет 17,025 млрд, включая MTP, а параметры внимания, общего эксперта, эмбеддингов, LM-головы и оставшихся строк роутера не затронуты. Метаданные каталога указывают 4,1 млрд параметров и контекст 202 752 токена. Модель предназначена для диалоговой генерации текста, рассуждений и программирования с длинным контекстом. Для запуска требуется сборка Transformers с реализацией glm4_moe_lite; веса опубликованы в формате safetensors и хранятся в bfloat16. Лицензия — MIT. Удаление экспертов является потерей информации: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Качество на областях, далёких от конечного калибровочного корпуса, не охарактеризовано; перед применением модель следует оценить на целевой нагрузке.

Hagwell/GLM-5.3-Flash-GGUF — GGUF-версия модели GLM-5.3-Flash, разработанной командой GLM-5 и распространяемой в экосистеме Z.ai; репозиторий также связан с инструментами Unsloth. Модель предназначена для генерации текста, программирования, агентских сценариев и задач, требующих работы с длинным контекстом и мультимодальными данными. GLM-5.3-Flash — первая нативно мультимодальная модель серии GLM-5. Она содержит 320 млрд общих параметров, из которых 18 млрд активируются при обработке запроса. Архитектура сочетает разреженное и линейное внимание для снижения стоимости обслуживания длинного контекста и использует Manifold-Constrained Hyper-Connections для повышения эффективности масштабирования. Модель обучалась на мультимодальном корпусе объёмом 30 трлн токенов и поддерживает английский и китайский языки. В README заявлены улучшения относительно GLM-5.2, особенно в программировании и агентских задачах. Ключевые ограничения связаны с форматом и совместимостью: для запуска рекомендуется использовать llama.cpp с указанными изменениями или приложение Unsloth Desktop. README не содержит подробных сведений о конкретных вариантах квантизации, требованиях к памяти, максимальном контексте для данного GGUF-файла или ограничениях качества. Модель распространяется по лицензии MIT.

GPT-5.1 — модель серии GPT-5, представленная как модель передового уровня общего назначения. В карточке отмечены улучшенные по сравнению с GPT-5 рассуждения, следование инструкциям и естественность диалога. Модель использует адаптивное рассуждение. Она предназначена для диалогов и решения разнообразных задач, где требуются рассуждения и точное выполнение инструкций. Данных о размере, поддерживаемых языках, модальностях, длине контекста и условиях лицензии в предоставленных источниках нет.

Infinity-Instruct-3M-0625-Mistral-7B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), дообученная на наборах инструкций Infinity-Instruct-3M и Infinity-Instruct-0625. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалогов и выполнения пользовательских инструкций. Она не обучалась с подкреплением на основе отзывов людей (RLHF) и использует шаблон чата OpenHermes-2.5-Mistral-7B. Модель подходит для многошаговых диалогов, ответов на вопросы, помощи с кодом и математикой, а также для повседневных задач на естественном языке. В README приведены результаты MT-Bench 8,1 и AlpacaEval 2.0 31,42; это оценки из карточки, а не гарантия качества для конкретных запросов. Метаданные указывают контекст до 32 768 токенов и английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0, однако авторы ограничивают использование связанных ресурсов академическими исследованиями и запрещают коммерческое применение.

WhiskyAKM публикует GGUF-версию K2-Horizon-MoVA-36B-A4B, производной от IFM/K2-Horizon-MoVA-36B-A4B. Это разрежённая языковая модель архитектуры MoE с механизмом внимания Mixture-of-Values: всего 36 млрд параметров, из которых активны 4 млрд на токен. Модель предназначена для генерации текста и диалогов, рассуждений, программирования и агентных задач с использованием инструментов. Репозиторий содержит квантизованные в NVFP4 веса в формате GGUF для запуска через llama.cpp и совместимые движки. Заявленное контекстное окно — 524 288 токенов. Карточка отмечает английский язык. Лицензия — Apache-2.0. Для NVFP4 автор указывает оптимизацию под NVIDIA Blackwell и совместимое оборудование; фактическая производительность и доступность поддержки зависят от движка и аппаратуры.

Ling-3.0-flash-heretic — производная модель на основе inclusionAI/Ling-3.0-flash, в которой применена abлитерация для снижения частоты отказов. В README приведено сравнение: 0 отказов из 100 запросов у этой версии против 87 из 100 у исходной модели; KL-дивергенция относительно оригинала составляет 0,0526. Модель предназначена для диалоговой генерации текста, рассуждений, работы с длинным контекстом и задач программирования и агентных сценариев. В метаданных указаны архитектура Bailing hybrid MoE и 3,5 млрд параметров; README описывает исходную Ling-3.0-flash как гибридную модель с MoE, 124 млрд общих и 5,1 млрд активных параметров. Заявленное окно контекста — 262 144 токена. Репозиторий содержит веса safetensors, интерфейс чата отмечен в метаданных. Лицензия — MIT. Указанное снижение отказов не гарантирует отсутствие отказов во всех ситуациях и может уменьшать встроенные ограничения исходной модели.

Llama 3.1 Tulu V2 70B — языковая модель-ассистент, разработанная Allen Institute for AI (Ai2) и дообученная на базе meta-llama/Meta-Llama-3.1-70B. Это плотная модель семейства Llama с 69,5 млрд параметров; она обучена на смеси общедоступных, синтетических и созданных людьми данных, включая набор инструкций и диалогов Tulu V2. Основной язык — английский. Контекст составляет до 131 072 токенов. Модель предназначена для диалоговых ответов на инструкции и общих задач генерации текста: например, для ответов на вопросы, написания текстов, помощи с рассуждениями и кодом. Карточка приводит результаты на тестах знаний, математики, программирования, следования инструкциям и безопасности, но отдельные оценки не гарантируют качество в конкретном сценарии. Модель не проходила этап RLHF, направленный на безопасные ответы, и не использует встроенную фильтрацию ответов; при соответствующих запросах она может выдавать проблемный контент. Лицензия репозитория — Apache 2.0; исходная модель распространяется по лицензии сообщества Meta Llama 3.1, условия которой также следует учитывать.

Meta разработала Llama 3.2 3B Instruct — мультиязычную авторегрессионную языковую модель на архитектуре Transformer для генерации текста. Версия Instruct дообучена с помощью контролируемой настройки и обучения с подкреплением на основе обратной связи от людей; модель оптимизирована для диалогов с ассистентом и задач, связанных с агентными приложениями. Модель подходит для ответов в чате, поиска сведений и суммаризации, а также для мобильных помощников по написанию текста и переформулированию запросов. Она принимает текст и генерирует текст, в том числе код. В карточке семейства указан контекст до 128 тысяч токенов, а среди официально поддерживаемых языков перечислены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель использует Grouped-Query Attention и рассчитана в том числе на запуск в средах с ограниченными ресурсами. По сравнению с более крупными моделями у компактных вариантов могут отличаться баланс безопасности и полезности; разработчикам следует проверять поведение модели в своём сценарии. Использование регулируется пользовательской коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

FreedomAISVR опубликовал GGUF-квантизацию NVFP4 модели Magistral-Small-2509 от Mistral AI. Это плотный трансформер Mistral3ForConditionalGeneration с 24 млрд параметров, рассчитанный на диалог, рассуждения в несколько шагов, агентное программирование, вызов инструментов и понимание изображений. Для работы с изображениями в репозитории есть отдельный проектор mmproj на базе 24-слойного Pixtral ViT; модель принимает текст и изображения и генерирует текст. Нативная длина контекста — 131 072 токена. В карточке указана поддержка более 27 языков, а метаданные перечисляют английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский и арабский. NVFP4 снижает требования к памяти и рассчитан на ускорение на GPU NVIDIA Blackwell; квантизация может влиять на качество. Лицензия — Apache 2.0.

MiniCPM5-2B — компактная плотная языковая модель из серии MiniCPM5, разработанная OpenBMB. Репозиторий AIArchiveInfo является побитовой копией openbmb/MiniCPM5-2B: веса не обучались и не изменялись. Модель построена на архитектуре Transformer LlamaForCausalLM и содержит около 2,2 млрд параметров; она принимает текст и генерирует текст. Контекстное окно составляет 131 072 токена. Модель предназначена для локальных ассистентов и сценариев с ограниченными вычислительными ресурсами. Она подходит для диалога, генерации кода, математических и общих рассуждений, работы с длинными контекстами, вызова инструментов и агентных рабочих процессов. В карточке заявлена конкурентоспособность среди моделей сопоставимого размера, в частности в коде, математике, длинном контексте и использовании инструментов. В метаданных указаны английский и китайский языки. Модель распространяется в формате Safetensors и совместима с Transformers; лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными, а результаты по медицине, финансам, праву и другим чувствительным темам не являются профессиональной консультацией.

MiniMax-M3 — мультимодальная модель семейства MiniMax, опубликованная пользователем sdlangshaw; в README оригинальная разработка приписана MiniMax. Она предназначена для диалогов с текстом и изображениями, анализа видео, программирования и агентных задач. Модель содержит около 428 млрд параметров, из которых активируется около 23 млрд, и использует разреженное внимание MiniMax Sparse Attention (MSA). Заявлена длина контекста до 1 млн токенов; README сообщает о повышении скорости обработки длинного контекста относительно M2. Модель поддерживает текстовые и визуальные сценарии, включая видео, и рассчитана на длинные многошаговые задачи: например, разработку кода и совместную работу с агентом. Для использования README указывает MiniMax Agent и MiniMax API, а также локальное развёртывание из репозитория MiniMaxAI/MiniMax-M3. В репозитории sdlangshaw/MiniMax-M3 представлены веса safetensors для Transformers. Лицензия указана как other, без уточнения её условий в доступных данных. Заявления о производительности и возможностях приведены в README модели; они не сопровождаются здесь независимыми результатами проверки.

Nanbeige4.2-3B — компактная языковая модель Nanbeige Lab на 3,2 млрд параметров, дообученная на базе Nanbeige/Nanbeige4.2-3B-Base для диалогов и агентных сценариев. Она использует плотную Looped Transformer архитектуру, повторно применяющую слои трансформера для увеличения эффективной ёмкости без добавления параметров. Модель поддерживает контекст до 262 144 токенов и доступна в формате safetensors для Transformers; лицензия — Apache 2.0. Модель предназначена для генерации текста, рассуждений, работы с инструментами и многошаговых задач общего назначения. Среди заявленных сценариев — программирование и задачи кодовых агентов, офисные процессы, математические и научные рассуждения, а также локальный персональный ассистент при интеграции с подходящей агентной средой. Карточка описывает обучение с учителем и обучение с подкреплением с оценкой результата и процесса. Заявленные языки — английский и китайский. Модель поддерживает чат и интерфейс вызова инструментов; сама по себе она генерирует текст, а выполнение действий зависит от внешней агентной оболочки и подключённых инструментов. Показатели из карточки основаны на бенчмарках и конкретных средах оценки, поэтому не гарантируют аналогичного качества во всех приложениях.

unsloth/phi-4-bnb-4bit — это 4-битная версия модели Phi-4, разработанной Microsoft Research и преобразованной Unsloth в архитектуру, совместимую с Llama, для более удобного использования и дообучения. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, решения математических задач и работы с программным кодом. Она принимает текстовые входы, предпочтительно в формате чата, и генерирует текстовые ответы. Исходная Phi-4 представляет собой плотную decoder-only Transformer-модель с 14 млрд параметров и контекстным окном до 16 000 токенов. В карточке указано, что модель ориентирована на английский язык. Для обучения использовались синтетические данные, отфильтрованные общедоступные веб-источники, академические книги и наборы вопросов и ответов; модель прошла supervised fine-tuning и direct preference optimization. К сильным сторонам относятся компактность относительно более крупных моделей, акцент на качестве данных и рассуждениях, а также сниженные требования к памяти благодаря 4-битному представлению. Ограничения включают текстовую модальность, англоязычную специализацию, статичность модели и отсечение публичных данных на июнь 2024 года; актуальные сведения она самостоятельно не получает. Лицензия — MIT.

Qwen1.5-4B-Chat-GPTQ-Int4 — диалоговая языковая модель серии Qwen1.5, разработанная командой Qwen. Это decoder-only модель на архитектуре Transformer, предназначенная для генерации текста и взаимодействия в формате чата: ответов на вопросы, ведения диалога, подготовки текстов и других задач обработки естественного языка. Модель содержит около 4 миллиардов параметров и представлена в формате GPTQ с 4-битным квантованием Int4, что снижает требования к памяти при запуске. Она поддерживает текстовую модальность, многоязычную работу и контекст до 32K токенов. В архитектуре заявлены активация SwiGLU, смещения в QKV-внимании и улучшенный токенизатор, адаптированный к естественным языкам и программному коду. Модель была предварительно обучена на большом объёме данных, а затем дообучена с использованием supervised fine-tuning и direct preference optimization. К сильным сторонам относятся компактный размер, удобный для локального развертывания квантованный формат, чатовая настройка и поддержка длинного контекста. Ограничения включают статус beta-версии, возможные проблемы при переключении между языками и отсутствие в описании данных о гарантированной точности, безопасности или поддерживаемых языках, кроме заявленной многоязычности. Указана лицензия Tongyi Qianwen Research; подробные условия приведены в файле лицензии репозитория.

Это общественная конверсия модели Qwen/Qwen3-30B-A3B-Thinking-2507 в формат GGUF, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения. Модель относится к семейству Qwen3 и предназначена для диалогов, генерации текста и задач, требующих рассуждений: решения математических задач, программирования, логического анализа и работы с инструментами. Режим рассуждений можно переключать командами /think и /no_think. В карточке указано 30 млрд параметров и поддержка множества языков; метаданные перечисляют английский, китайский, испанский, французский, немецкий, русский, арабский, японский, корейский и хинди. Репозиторий содержит GGUF-варианты разной степени квантования; README рекомендует более точные варианты для сложных задач и отмечает высокие требования к памяти. Конверсия не связана с разработчиками Qwen. Лицензия — Apache-2.0.

Qwen3.6-27B-uncensored-heretic-v1 — мультимодальная модель на 27 млрд параметров, созданная независимым автором llmfan46 на основе Qwen/Qwen3.6-27B. Автор применил abliteration: изменил компоненты проекций внимания в слоях 24–57, чтобы снизить частоту отказов. По приведённому в карточке тесту модель отказала в 10 случаях из 100 против 92 у исходной модели; KL-дивергенция относительно оригинала составила 0,0286. Модель принимает текст и изображения и предназначена для диалога, анализа изображений, агентных сценариев и задач программирования, включая работу с репозиториями и инструментами. Архитектура — плотная Qwen3.5 с визуальным энкодером; заявленная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Карточка содержит результаты отдельных тестов, но они не гарантируют качество на других задачах. Основа доступна по лицензии Apache 2.0; условия карточки производной модели также указывают Apache 2.0.

Qwen3.8-27B-mlx-uniform-4bit — MLX-версия модели Qwen3.8-27B, подготовленная caslca на основе unsloth/Qwen3.8-27B. Модель преобразована в равномерный аффинный 4-битный формат с группами по 64 значения; заявленный размер — около 27 млрд параметров, объём весов — 15,13 ГБ. В сборку также включены 333 визуальных тензора, поэтому модель предназначена для сценариев image-text-to-text и поддерживает работу с текстом и изображениями. В README не указаны полный перечень языков и точное максимальное окно контекста, однако тесты проводились с ограничением до 262 144 токенов. Основные сценарии применения — агентное программирование, исследовательская работа, проектирование, математические задачи, генерация и анализ кода, а также базовое описание изображений. Для ускорения декодирования рекомендуется использовать отдельный MTP-компаньон caslca/Qwen3.8-27B-mlx-uniform-4bit-mtp-drafter; одобренная конфигурация предполагает MTP ON, среднюю интенсивность рассуждений и temperature 0,6. Модель ориентирована на запуск через MLX/Metal, в частности на системах Apple Silicon. К сильным сторонам относятся компактное 4-битное представление, поддержка визуального ввода, высокая производительность в проверенных тестах программирования и математики, а также сохранение качества при включённом предикторе MTP в большинстве проведённых сравнений. Результаты имеют ограничения: сравнение на MBPPPlus признано неокончательным, визуальная проверка была небольшой и не подтверждает качество на произвольных изображениях, OCR или сложных диаграммах, а отдельные тесты были exploratory и не заменяют широкую сертификацию. Модель распространяется по лицензии Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Optimized-Quality — квантизированная версия Qwen/Qwen3.8-27B, подготовленная разработчиком Youssofal для запуска через MTPLX на компьютерах Mac с Apple Silicon. Модель предназначена для локальной генерации текста, программирования, задач с рассуждениями и работы в инструментах вроде OpenCode и Claude Code. Она использует архитектуру базовой модели Qwen3.8-27B, поддерживает контекст до 262 144 токенов и сохраняет multi-token prediction (MTP) для спекулятивного декодирования. Это 8-битная динамическая квантизация: матрицы весов хранятся в 8-битном формате с группами по 64 значения, а чувствительные компоненты, включая GDN-ядра, параметры рекуррентного состояния, нормализации и MTP-head, — в 16-битном. Размер загрузки составляет 29,4 ГБ, измеренное пиковое потребление unified memory — 32,7 ГБ; рекомендуется Mac минимум с 36 ГБ unified memory. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio на чипах M1–M5 и обеспечивает ускорение за счёт native speculative decoding, при этом заявлена близость к исходной bf16-модели: 99,3% совпадения top-1 на тестовом наборе и KL-дивергенция 0,0005. Сильная сторона модели — приоритет качества при сохранении высокой скорости локального вывода; README приводит скорость до 87,6 токена в секунду в отдельных сценариях и около 33 токенов в секунду при длинном рассуждении. Поддерживаются уровни reasoning effort low, medium и xhigh, а точность распределения вывода сохраняется при использовании спекулятивного декодирования. Ограничения — необходимость совместимого Mac с достаточным объёмом памяти, зависимость от MTPLX и отсутствие заявленной поддержки других аппаратных платформ. Модель распространяется по лицензии Apache-2.0.

Radiantloom Mixtral 8X7B Fusion — языковая модель компании Radiantloom AI на архитектуре Mixtral с Mixture of Experts. README указывает около 47 млрд параметров, а метаданные — 7,1 млрд; контекст в метаданных составляет 32 768 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и использует шаблон запросов с токенами [INST] и [/INST]. Модель предназначена для генерации текста, творческого письма, многошагового диалога, суммаризации, ответов на вопросы, программирования и сценариев RAG. В README отмечены развёрнутые ответы и сильные результаты в задачах письма; приведены начальные оценки на бенчмарках, но они не заменяют независимую проверку. Модель не проходила настройку на безопасность и может выдавать токсичный, предвзятый, NSFW или фактически неверный контент. Для предоставления пользователям рекомендуется добавить собственный слой выравнивания и провести проверки безопасности. Метаданные указывают лицензию Apache-2.0. README сообщает длину контекста 4096 токенов, что расходится с метаданными; здесь приведено значение метаданных.

Tess-2.0-Mixtral-8x22B — универсальная языковая модель серии Tess, разработанная migtissera и дообученная на базе mistral-community/Mixtral-8x22B-v0.1. Это разреженная модель класса MoE с архитектурой Mixtral; в метаданных указано 22B параметров и контекстное окно до 65 536 токенов. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и выполнения инструкций в общих сценариях, включая задачи с кодом. Для диалога в карточке приведён формат с ролями SYSTEM, USER и ASSISTANT. Дообучение выполнено в течение одной эпохи на наборе Tess-2.0 примерно из 25 тысяч высококачественных примеров общего назначения и кода, с подходом, основанным на принципах LIMA. Модель описана как мало ограничивающая генерацию; разработчик предупреждает, что она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент. Лицензия — Apache-2.0.