I.4Обработка документов и форм

Qwen3.6-35B-A3B-Fable-Holo3-Qwopus — мультимодальная диалоговая модель, созданная NightmediaAI путём слияния нескольких моделей на базе Qwen3.6-35B-A3B, включая дистиллированную Fable и Holo3-Qwopus. Архитектура относится к семейству Qwen3.5 MoE; каталог указывает класс Qwen3_5MoeForConditionalGeneration. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель предназначена для диалогов и следования инструкциям, генерации текста и анализа изображений; метаданные также отмечают интерфейс вызова инструментов. Карточка указывает поддержку английского, китайского, японского и испанского языков. README приводит результаты отдельных бенчмарков и обсуждает варианты квантования Deckard(qx), но не предоставляет подтверждённых данных о контекстном окне или качестве на практических задачах этой итоговой сборки.

Это мультимодальная модель llmfan46 на архитектуре Qwen3.5 MoE: дообученная версия Qwen/Qwen3.6-35B-A3B с визуальным энкодером и причинной языковой моделью. В репозитории сохранены все 19 MTP-компонентов исходной модели; автор также сообщает о применении abliteration для ослабления ограничений на ответы. Модель содержит 35 млрд параметров, из которых активируются 3 млрд, и использует 40 слоёв с MoE. Нативное контекстное окно составляет 262 144 токена и может расширяться до 1 010 000 токенов. Модель предназначена для диалогов с текстом и изображениями, анализа изображений, агентного программирования, работы с репозиториями и вызова инструментов. Архитектура и карточка базовой модели указывают на мультимодальные возможности, но отдельные оценки в README приведены для исходной Qwen3.6, поэтому их нельзя считать результатами именно этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0.

TheDrainFlorist/Qwen3.6-35B-A3B-VQ-4.6bpw — векторно-квантизированная версия модели Qwen3.6-35B-A3B от Qwen, адаптированная для Apple Silicon и экосистемы MLX. Модель предназначена для генерации текста и работы с изображениями; текстовый режим поддерживается через mlx-lm, а мультимодальный — через mlx-vlm. В метаданных указан английский язык. Архитектура включает MoE с 35 млрд параметров и 256 экспертами; точный размер контекста в README не указан. Размер сборки составляет около 18,7 GiB вместе с vision tower, поэтому она рассчитана на запуск на Mac с 32 ГБ памяти. По приведённым измерениям, на корпусах WikiText и кода перплексия близка к исходной версии bf16: 0,991x и 1,004x соответственно, при этом сборка значительно компактнее bf16 и показывает лучшие результаты, чем распространённая 4-битная версия. К ограничениям относятся зависимость от поддержки ключа model_file в загрузчике и необходимость mlx-vlm версии не ниже 0.6.16 для изображений; качество и показатели могут зависеть от корпуса и конкретного сценария. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальные версии mlx-lm и mlx-vlm; README также указывает совместимость с exo. Это квантизированная сборка, поэтому показатели совпадения токенов с bf16 ниже, чем у 8-битной версии, несмотря на близкую перплексию.

benjzzz/Qwen3.8-27B-BenQ-6bit — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная автором benjzzz. Веса и vision tower представлены методом BenQ: 6-битные коды с отдельной таблицей значений для каждой строки, что, по README, даёт 6,16 бит на вес с учётом таблиц. Модель принимает текст и изображения и предназначена для диалогов, анализа изображений и программирования; метаданные также указывают интерфейс вызова инструментов. Для генерации текста в README приведён пример с кодом Python.

Vontra/Qwen3.8-Flash-Next-MLX-4bit-MTP — это 4-битная MLX-конверсия мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия выполнена из официального BF16-чекпойнта для запуска на Apple Silicon через MLX и сохраняет штатный блок MTP для speculative decoding. Модель предназначена для диалогов и генерации текста, а также для сценариев vision-language с обработкой изображений при наличии совместимого MLX-VLM и runtime. Архитектура представляет собой vision-language sparse MoE на базе Qwen4Exp с языковой частью на 125 млрд параметров, из которых активны около 6 млрд, и контекстом до 262 144 токенов. Используются Gated DeltaNet, Qwen Sparse Attention, разреженные mixture-of-experts-слои, расширенные gated residual streams, hashed bigram и trigram embeddings, а также один draft-блок MTP объёмом 4 млрд параметров. Основные языковые и MTP-модули квантизованы в 4 бита с размером группы 32; мультимодальные модули и router gates сохранены в BF16. Формат весов — MLX safetensors, общий размер — около 113,2 ГБ. К сильным сторонам относятся существенно сниженный по сравнению с BF16 объём весов, поддержка длинного контекста и потенциальное ускорение декодирования благодаря native MTP. На Apple M3 Studio в указанной конфигурации скорость генерации выросла с 27,83 до 31,44 токена в секунду, однако результаты зависят от длины контекста, версии runtime, состояния кэша, памяти и температуры. Для работы требуется runtime с явной поддержкой архитектуры qwen4_exp и native MTP; старые версии могут быть несовместимы, а поддержка изображений зависит от версий MLX-VLM и oMLX. Модель распространяется по Qwen Community License 1.0.

kingjones777/Qwen3.8-Flash-Next-ROCmFP4-FAST-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная сообществом Qwen и адаптированная kingjones777 для запуска на AMD Ryzen AI Max+ 395 с интегрированной графикой Radeon 8060S, архитектурой Strix Halo и GPU-целью gfx1151. Модель предназначена для генерации текста, включая рассуждения, создание JSON, программирование и суммаризацию документов. Модель использует архитектуру qwen4exp и формат ROCmFP4; обычная версия llama.cpp её не загружает. Для работы требуется специальная ветка ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также совместимая сборка для ROCm. В README указана проверка работы с контекстом до 128K, однако размер модели, точный перечень поддерживаемых языков и модальности не приведены. Доступен speculative decoding через MTP-head, который может повышать скорость генерации, но результат проверяется основной моделью; эффективность зависит от типа задачи и настроек. Сильная сторона модели — возможность запуска крупной модели на системе с общей памятью CPU и GPU, включая длинный контекст и аппаратные оптимизации для AMD. Ограничения включают необходимость специального runtime и патчей, зависимость производительности от пропускной способности общей памяти, а также непредсказуемый выигрыш от MTP: в приведённых измерениях он ускорял часть сценариев, но замедлял другие. Лицензия указана как qwen-community-1.0.

ThinkingCap-Qwen3.6-27B — мультимодальная модель Bottlecap AI, полученная дообучением Qwen/Qwen3.6-27B. Она предназначена для диалогов и задач рассуждения с изображениями и текстом, включая вопросы с вариантами ответа, математику, программирование и агентные сценарии. Разработчики сообщают, что модель в среднем использует примерно на 50% меньше токенов рассуждения, чем базовая Qwen3.6-27B, при сохранении качества ответов; в лучших случаях экономия превышает 90%. В тестах также отмечено меньшее число незавершённых ответов из-за ограничения генерации, а показатели отказа на вредоносные запросы статистически не отличались от базовой модели. Модель загружается через Transformers как AutoModelForImageTextToText и AutoProcessor; репозиторий содержит веса safetensors и использует архитектуру Qwen с поддержкой изображений. В README приведены оценки на наборах для рассуждения, вопросов по знаниям, повседневного диалога, безопасности, математики, кода и агентных задач. Указанная лицензия — Apache-2.0. Результаты зависят от задачи и настроек генерации; README отмечает вариативность качества рассуждений при рекомендуемой температуре Qwen и возможное загрязнение обучающих данных в тестах безопасности.

C4AI Command-R v01 — авторегрессионная плотная языковая модель Cohere и Cohere For AI на 35 млрд параметров, выпущенная с открытыми весами. Она предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и работы с RAG; также обучена формировать вызовы инструментов в специальном формате диалога. Модель принимает и генерирует текст. Она построена на оптимизированном трансформере, после предварительного обучения прошла дообучение с учителем и обучение на предпочтениях. Контекст составляет 128K токенов. Модель рассчитана на английский, французский, немецкий, испанский, итальянский, бразильский португальский, японский, корейский, упрощённый китайский и арабский; русский входил в дополнительные языки предобучения, но не указан среди языков, на которых модель специально оптимизирована. Весам требуется следовать лицензии CC-BY-NC-4.0 и Политике допустимого использования C4AI. Для вызова инструментов рекомендуется использовать предусмотренный шаблон диалога: отклонение от него может снизить качество. README указывает на сильные возможности RAG, но для их использования нужно предоставить модели найденные документы и соответствующий формат запроса.

cyankiwi/diffusiongemma-26B-A4B-it-AWQ-INT4 — квантованная версия DiffusionGemma на базе google/diffusiongemma-26B-A4B-it, разработанной Google DeepMind. Это мультимодальная модель с открытыми весами, которая принимает текст, изображения и видео, а генерирует текст. Представленная версия использует квантование AWQ INT4 и занимает около 17,23 ГБ. Модель предназначена для генерации текста, рассуждений, диалоговых сценариев, обработки мультимодальных запросов и задач, связанных с STEM и агентными системами. Она применяет дискретную диффузию: вместо последовательной генерации токенов модель итеративно восстанавливает блоки токенов, что может повышать скорость вывода. Архитектура включает encoder-decoder с двунаправленным вниманием в декодере и разреженную Mixture-of-Experts-конфигурацию: 25,2 млрд параметров всего, 3,8 млрд активных параметров, 30 слоёв и 8 активных экспертов из 128. Заявлены контекст до 256 тысяч токенов, окно скользящего внимания 1024 токена и длина генерируемого блока 256 токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Модель оптимизирована для инференса с небольшим размером пакета и низкой задержкой, преимущественно на одном производительном ускорителе; режим рассуждений и системные промпты поддерживаются. Ограничение развертывания — отсутствие поддержки внутримодельного тензорного и конвейерного распараллеливания; для нескольких GPU рекомендуется репликация через data parallelism. Лицензия — Apache 2.0.

Карточка модели zsjTiger/Llama-3.2-1B на Hugging Face совпадает с карточкой unsloth/Llama-3.2-1B, поэтому описание составлено по ней. unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

Карточка модели mylesgoose/Llama-3.2-1B-Instruct-abliterated на Hugging Face совпадает с карточкой alpindale/Llama-3.2-1B-Instruct, поэтому описание составлено по ней. alpindale/Llama-3.2-1B-Instruct — это текстовая инструкционная модель семейства Llama 3.2, разработанного Meta. Репозиторий содержит версию с примерно 1,2 млрд параметров; модель построена на авторегрессионной архитектуре Transformer с Grouped-Query Attention и предназначена для генерации текста в Transformers. Для согласования ответов с предпочтениями пользователей применялись supervised fine-tuning и обучение с обратной связью от людей. Модель рассчитана на диалог в роли ассистента, поиск знаний и суммаризацию, а также на мобильных помощников для письма, переформулирование запросов и подсказок и агентные сценарии. Она принимает и генерирует текст, включая код, поддерживает контекст до 131 072 токенов и официально рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Компактный размер позволяет рассматривать модель для применения на устройствах с ограниченными ресурсами. Качество, безопасность и полезность могут уступать более крупным моделям, поэтому разработчикам следует проверять поведение модели в конкретном сценарии. Знания ограничены данными с отсечкой по декабрю 2023 года. Использование регулируется специальной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy.

caskcsg/Llama-3-8B-NExtLong-512K-Instruct — диалоговая языковая модель семейства Llama, разработанная авторами проекта NExtLong. Это дообученная версия Llama-3-8B-NExtLong-512K-Base: базовую модель обучали на синтетических длинных контекстах, созданных методом NExtLong с чередованием фрагментов документа и отвлекающих фрагментов из корпусов предобучения; instruct-версию дополнительно настроили на Magpie-Align/Magpie-Llama-3.3-Pro-1M-v0.1. Модель предназначена для генерации ответов и работы с длинными входными контекстами, включая поиск информации в тексте, вопросы и ответы по документам, длинноконтекстный RAG и задачи с примерами в контексте. Заявленное окно контекста — 524 288 токенов; размер модели — около 7,5 млрд параметров. Модель имеет плотную архитектуру Llama и поставляется в формате safetensors. Карточка приводит результаты оценки на LongBench V2, HELMET, RULER и короткоконтекстных бенчмарках. Карточка не сообщает поддерживаемые языки или лицензию, поэтому применимые условия использования следует уточнить в репозитории модели. Указанная длина контекста — характеристика модели; фактическое использование такого окна зависит от реализации и доступных вычислительных ресурсов.

sudo-0x2a/Qwen3.6-27B-NVFP4-GPTQ — квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная автором репозитория sudo-0x2a. Это текстогенерационная модель с поддержкой визуальных компонентов, предназначенная прежде всего для локального запуска и инференса на высокопроизводительном потребительском оборудовании. Тестирование проводилось на одной NVIDIA RTX 5090 с использованием vLLM и FP8 для KV-кэша. Модель использует смешанную точность: слои внимания, линейного внимания и MLP квантованы в NVFP4, а vision-компоненты, MTP, lm head и embeddings сохранены в BF16. При квантовании применялись SmoothQuant и GPTQ, калибровка выполнена на 512 образцах с длиной последовательности 8192. По приведённым локальным оценкам модель показывает 85,0 на подмножестве MMLU-Pro и GPQA Diamond, 57,0 на SWE-bench Verified Easy и 84,0 на подмножестве MMMU Pro; результаты напрямую сопоставимы с BF16-оценками ограниченно, поскольку получены в разных средах. Главное преимущество — существенное снижение требований к памяти при сохранении широких возможностей базовой модели, включая работу с текстом, кодом и визуальными задачами. При этом надёжность работы с длинным контекстом не гарантируется: из-за сильного квантования чувствительных linear attention layers возможна деградация на больших длинах последовательности. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Continuum — экспериментальная мультимодальная модель на архитектуре Qwen3.5, созданная независимой лабораторией NightmediaAI. Это слияние моделей nightmedia/Qwen3.8-27B-Brainwaves и migtissera/Synthia-4-27B; метаданные также связывают её с несколькими другими слитыми моделями. Репозиторий содержит веса Safetensors и предназначен для диалогов и следования инструкциям с поддержкой изображений. Модель подходит для общения, анализа изображений, рассуждений, математики, программирования и творческого письма, включая продолжение сцен и создание историй. В карточке приведены оценки на ряде бенчмарков и показатели скорости, памяти и перплексии для нескольких вариантов квантования, однако сам репозиторий указан в формате Safetensors. Поддерживаемые языки по метаданным: английский, китайский, японский и испанский. Лицензия — Apache-2.0.

Jebadiah/Aria-daughter-128k — слитая линейным методом модель на основе двух инструктивных языковых моделей: Nitral-AI/Echidna-7b-128k и gradientai/Llama-3-8B-Instruct-262k. По архитектуре это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогов и генерации текста. Контекстное окно составляет 262 144 токена; модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель подходит для ведения диалогов, генерации ответов и работы с длинными текстами в пределах её контекста. Карточка не сообщает отдельные языковые или предметные специализации. Лицензия в предоставленных данных не указана.

Это мультимодальная диалоговая модель семейства Qwen3.8 на 27 млрд параметров, представленная в формате GGUF. Репозиторий подготовлен renketong: веса NVFP4 перенесены из safetensors в GGUF без повторной квантизации; в комплект входят MTP-голова для спекулятивного декодирования и отдельный проектор для обработки изображений. В README указана архитектура qwen35 с 64 слоями и одним MTP-слоем, а также нативный контекст 262 тыс. токенов. Модель предназначена для генерации текста и диалогов, включая работу с кодом и JSON, а также анализа изображений при загрузке проектора mmproj. Abliteration уменьшает число отказов, а MTP может ускорять генерацию в совместимом ПО, например llama.cpp и LM Studio. Это производная модель в цепочке от Qwen/Qwen3.8-27B через Huihui-Qwen3.8-27B-abliterated и NVFP4-квантизацию. Лицензия репозитория — Apache-2.0. Модель ориентирована на локальный запуск и требует совместимой инфраструктуры; заявленная поддержка NVFP4 связана с ускорителями NVIDIA Blackwell. Снижение отказов означает, что модель может отвечать на запросы, от которых обычно отказывается система с защитными настройками. Измерения скорости в README сделаны на RTX 5090 и зависят от типа текста и параметров MTP.

JoyFox-OmniFlow-9B — мультимодальная модель общего назначения от JoyFox на основе OpenBMB MiniCPM-o 4.5. Она поддерживает диалог на английском, китайском и других языках, выполнение инструкций, ответы на сложные вопросы, математические рассуждения, генерацию кода, ролевые сценарии и вызов инструментов. Модель принимает текст, изображения, видеокадры и аудио, а также поддерживает потоковое взаимодействие в режиме full-duplex с одновременным аудио- и визуальным вводом и текстовым или речевым выводом. Архитектура MiniCPMO включает языковую модель, визуальный и аудиоэнкодеры, мультимодальные проекционные слои и модуль синтеза речи. В README указан размер 9B, а метаданные сообщают 7,6 млрд параметров; контекст — до 40 960 токенов. Релиз распространяется в BF16 Safetensors и включает ресурсы для TTS и клонирования голоса по образцу аудио. Для полной потоковой генерации речи требуются дополнительные зависимости minicpmo-utils[all]. Модель загружается через Transformers; в README описана проверка полной загрузки на GPU NVIDIA RTX PRO 6000 Blackwell. Независимые внешние результаты бенчмарков не приведены; качество потокового взаимодействия зависит от конфигурации аудио и видео и среды выполнения. Возможны неточные, предвзятые или неподходящие ответы, а схемы и аргументы вызова инструментов требуют проверки. Лицензия — Apache-2.0.

fedric95/Meta-Llama-3.1-8B-GGUF — это квантованная версия большой языковой модели Meta-Llama-3.1-8B, подготовленная пользователем fedric95 в формате GGUF. Модель предназначена для генерации текста и работы в сценариях, где требуется локальный или ресурсосберегающий запуск языковой модели, включая диалоговые приложения, написание и преобразование текста, извлечение информации и другие задачи обработки естественного языка. Модель относится к семейству Llama 3.1 и содержит 8 миллиардов параметров. Она работает с текстом; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Квантование в формате GGUF может снизить требования к памяти и упростить запуск на совместимом оборудовании, однако конкретный уровень квантования, размер контекста, точные требования к ресурсам и показатели качества в README не указаны. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов требуется предоставить копию лицензии, указывать «Built with Llama», сохранять установленное уведомление об авторских правах и соблюдать применимые законы и Acceptable Use Policy. Для продуктов с более чем 700 миллионами ежемесячно активных пользователей предусмотрено требование получить отдельную лицензию Meta.

Nanbeige/Nanbeige4.2-3B-DSpark — веса DSpark для модели Nanbeige4.2-3B, разработанной Nanbeige на основе Nanbeige4.2-3B-Base. Репозиторий предназначен для использования вместе с Nanbeige4.2-3B и заявлен как способ ускорить инференс. Модель относится к семейству Qwen3, использует плотную архитектуру; класс реализации — Qwen3DSparkModel. В метаданных указаны 1,1 млрд параметров, контекст 262 144 токена и формат safetensors. Модель ориентирована на генерацию текста, рассуждения, работу с инструментами и многошаговые сценарии: общие агентные задачи, программирование, офисные процессы и персональный помощник. В README также описаны математические и научные рассуждения. Заявленная разработчиком поддержка английского и китайского языков; README отмечает, что для агентных и инструментальных сценариев применяются соответствующие шаблон чата и внешняя среда-исполнитель. Модель дообучена от Nanbeige/Nanbeige4.2-3B-Base и распространяется по лицензии Apache-2.0. README предупреждает о возможных неточных, предвзятых, дискриминационных или иных вредных ответах. Утверждения о скорости и результатах бенчмарков приведены разработчиком; фактическая производительность зависит от среды запуска и интеграции.

ZuzeTt/Qwen3.5-4B-heretic-GGUF — это децензурированная версия мультимодальной модели Qwen3.5-4B, основанной на разработках команды Qwen. Модель модифицирована с помощью Heretic v1.2.0 методом abliteration, направленным на снижение частоты отказов при ответах. Файлы представлены в формате GGUF и были квантизированы с использованием llama.cpp. Модель предназначена для задач обработки текста и изображений, включая диалоговые сценарии, рассуждения, программирование, работу с агентами и визуальное понимание. Базовая архитектура описана как авторегрессионная языковая модель с vision encoder, гибридной архитектурой Gated Delta Networks и разреженной Mixture-of-Experts. Она содержит около 4 млрд параметров, 32 слоя, скрытое измерение 2560 и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Ключевая особенность этой версии — существенно меньшее количество отказов по сравнению с исходной моделью: в приведённом тесте 8 из 100 запросов против 99 из 100 у оригинала, при KL-дивергенции 0,0361. Это может повысить полезность модели в сценариях локального запуска и свободного диалога, но одновременно означает ослабление встроенных ограничений безопасности. Конкретный тип квантизации, требования к оборудованию и фактическое качество на прикладных задачах в README не указаны. Модель распространяется по лицензии Apache-2.0; ссылка на лицензию относится к базовой модели Qwen/Qwen3.5-4B.

Qwen3.6-27B-Fable-Agentic — плотная мультимодальная модель на 27 млрд параметров, созданная LemuraLabs дообучением Jackrong/Qwopus3.6-27B-v2. Она предназначена для диалога, пошаговых рассуждений и вызова инструментов в многоходовых агентных сценариях; архитектура поддерживает работу с текстом и изображениями. В карточке приведены результаты сравнительных тестов с базовой моделью: 88,29% на MMLU-Pro, 97,33% на GSM8K и 57,07% на GPQA-Diamond. Модель подходит для ответов на общие вопросы, математических задач и систем, которые передают запросы внешним инструментам. В README для обслуживания через vLLM указан контекст до 16 384 токенов. Модель распространяется по лицензии Apache-2.0. Заявленные характеристики и результаты приведены в карточке модели и не являются независимой оценкой качества.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ6e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, подготовленная независимым технологическим проектом KostkaIT (Łukasz Frąckowiak, vsnake87). Модель является MLX-конвертацией производного варианта huihui-ai/Huihui-Qwen3.8-27B-abliterated и предназначена для локального запуска на компьютерах с Apple Silicon через oMLX и совместимые MLX-рантаймы. Модель поддерживает работу с текстом и изображениями, включая vision-конфигурацию, файлы процессора и необходимые vision-тензоры. В комплект включены нативные веса MTP, предусмотрен один скрытый слой MTP, а в совместимых версиях oMLX эту функцию можно включать и отключать. Модель ориентирована на программирование, рассуждения, мультимодальные ассистенты и исследовательские задачи. Сведения о поддерживаемых языках и размере контекста в карточке не указаны. Используется качественно ориентированное 6-битное affine-квантование oQ6e с group_size 64, importance matrix и сохранением отдельных чувствительных тензоров в 8-битном виде. Веса распространяются в формате MLX safetensors, разделённых на пять файлов. К сильным сторонам относятся сохранение нативной MTP-поддержки и мультимодальных возможностей при уменьшенном размере, а ограничениями — зависимость от Apple Silicon и совместимого MLX/oMLX-окружения, а также потенциальные потери качества, связанные с квантованием; результаты бенчмарков не приведены. Лицензия — Apache-2.0.

Qwen3.8-27B-NVFP4-W4A16-MLP-GGUF — это квантованная GGUF-версия модели Qwen/Qwen3.8-27B, опубликованная axiomofmind. Модель предназначена для запуска через llama.cpp и поддерживает текстовые сценарии, а при подключении отдельного vision-проектора mmproj-Qwen3.8-27B-BF16.gguf — обработку изображений. Объём модели составляет 27B параметров; языки и максимальный размер контекста в README не указаны. Доступны два варианта: версия объёмом 30,06 ГБ с attention в BF16/F32, ориентированная на максимальное сохранение точности, и компактная версия объёмом 23,29 ГБ с attention в Q8_0, рассчитанная на снижение требований к VRAM и ускорение загрузки. В обеих версиях MLP-слои 64-слойного backbone используют NVFP4 W4A16, тогда как эмбеддинги, выходная голова, MTP/NextN-компоненты и vision-компоненты сохраняются в более высокой точности. Поддерживаются встроенное MTP и опциональное speculative decoding с DFlash 2; для работы требуется свежая CUDA-сборка llama.cpp с поддержкой NVFP4 и Qwen3.8. Ограничениями являются значительные требования к видеопамяти, зависимость от совместимой версии llama.cpp и потенциальная потеря точности из-за квантования. Лицензия — Apache 2.0.

Qwopus3.8-27B-Flash-NVFP4 — это конверсия базовой модели Jackrong/Qwopus3.8-27B-Flash в формате NVIDIA ModelOpt NVFP4, предназначенная для запуска на GPU NVIDIA Blackwell. Репозиторий содержит логическую модель объёмом 27,78 млрд параметров и использует формат safetensors. В README также указано, что исходную модель создал Kyle Hessling, а конверсия выполнена сообществом. Модель предназначена для диалоговых, мультимодальных и агентных сценариев: обработки текста и изображений, следования инструкциям, генерации структурированных ответов, вызова инструментов и работы в coding-agent циклах. Сохранены визуальный энкодер и проектор, а также встроенная MTP/NextN-голова для speculative decoding. Трансформерные веса используют NVFP4, тогда как lm_head, визуальная часть и MTP-голова сохранены в BF16 для повышения качества. Рекомендуемый сценарий обслуживания — SGLang с FlashInfer, поддержкой ModelOpt FP4 и совместимой моделью-черновиком Qwen3.8 27B DFlash2 NVFP4. В тестовом профиле заявлен контекст до 262 144 токенов, однако для этого требуются Blackwell GPU с достаточным объёмом памяти под основную и черновую модели, KV-кэш и накладные расходы. README не указывает поддерживаемые языки и результаты бенчмарков; для мультимодальной работы необходимо использовать поставляемый chat template, а для вызова функций — парсер инструментов Qwen. Лицензия указана как Apache-2.0, при этом пользователю рекомендуется соблюдать лицензионные условия базовой модели. Ограничениями являются зависимость от совместимого оборудования и программного стека NVIDIA Blackwell, необходимость специальной DFlash2-модели для рекомендованной спекулятивной генерации и возможное снижение доступного контекста на менее мощных GPU.

airoboros-c34b-2.2 — экспериментальная инструкционная языковая модель, разработанная Jon Durbin и дообученная на преимущественно синтетических данных набора airoboros-2.2. Это плотная модель семейства LLaMA с 33,5 млрд параметров, рассчитанная на генерацию текста и следующие инструкции; заявленная длина контекста — 16 384 токена. Карточка описывает формат диалога с отдельными строками USER и ASSISTANT и рекомендует останавливать генерацию при начале следующей реплики USER. Модель ориентирована на ответы по предоставленному контексту, выполнение инструкций, викторины и вопросы с вариантами ответа, генерацию кода и планов для сценариев с инструментами. Она также умеет формировать JSON или YAML для запросов, похожих на вызов функций, но сама по себе не вызывает инструменты. Автор отмечает, что модель может следовать системным инструкциям, однако их можно переопределить; контекстное обучение призвано ограничивать ответы источником, но не гарантирует отсутствия галлюцинаций. Для весов указана лицензия Llama 2. Карточка называет модель экспериментальной и описывает обучение на синтетических данных; отдельные языки и специализированная предметная область не заявлены.

Breeze-13B-32k-Instruct-v1_0 — чат-модель на базе архитектуры Mistral, созданная MediaTek Research с помощью объединения моделей через mergekit. В карточке в качестве компонентов слияния указан MediaTek-Research/Breeze-7B-32k-Instruct-v1_0; запись повторяется несколько раз. Метаданные указывают 12,5 млрд параметров, плотную архитектуру и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. Длинный контекст позволяет использовать её для ответов по объёмным текстам и продолжительных диалогов. Репозиторий содержит веса safetensors. Лицензия — Apache 2.0.

GRaPE 2 Nano — компактная мультимодальная модель SLAI (Skinnertopia Lab for Artificial Intelligence), дообученная на базе Qwen/Qwen3.5-0.8B. Она принимает текст и изображения и генерирует текст; модель рассчитана на диалоги, программирование, математику, научно-технические вопросы и задачи на логическое рассуждение. В README заявлены управляемые режимы глубины рассуждения, включая минимальный, краткий и адаптивный; доля кода в данных постобучения указана примерно как 50%. Архитектура — плотная Qwen3.5 с поддержкой зрения; размер базовой модели — 0,8 млрд параметров. Заявлена поддержка английского, китайского, французского, немецкого, испанского, японского, корейского, португальского, русского и арабского языков. Длина контекста в предоставленных данных не указана. Данные постобучения закрытые и проприетарные, независимая оценка качества в карточке не приведена. Модель выпущена по лицензии Apache 2.0.

mlx-community/Llama-3.3-70B-Instruct-bf16 — конверсия модели Meta Llama 3.3 70B Instruct в формат MLX, выполненная сообществом mlx-community с помощью mlx-lm 0.20.1. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов, следования инструкциям и генерации текста; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Контекстное окно составляет до 131 072 токенов. Поддерживаемые языки включают английский, французский, итальянский, португальский, хинди, испанский, тайский и немецкий. Модель подходит для диалоговых ассистентов, генерации и преобразования текста, а также работы с длинными текстовыми контекстами. Репозиторий содержит веса в safetensors и предназначен для использования с MLX. Лицензия — Llama 3.3; условия Meta следует соблюдать при использовании и распространении модели. Для запуска требуется совместимая среда MLX, а модель такого размера предъявляет значительные требования к памяти и вычислительным ресурсам.

lumikabra-behemoth-123b — объединённая языковая модель, собранная с помощью mergekit методом della_linear. В основе слияния лежит schn apper79_lumikabra-123B_v0.3, также использована TheDrummer_Behemoth-123B-v1; веса смешаны с указанными в конфигурации параметрами. Модель построена на плотной архитектуре MistralForCausalLM и содержит 122,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; в метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит веса safetensors, а конфигурация слияния задаёт тип данных bfloat16. Поддерживаемые языки в предоставленных данных не определены. Лицензия в источниках не указана.

amd/MiniMax-M3-MXFP4-AttnFP8 — мультимодальная модель условной генерации MiniMaxM3SparseForConditionalGeneration, созданная AMD на основе MiniMaxAI/MiniMax-M3. Она принимает текст и изображения и генерирует текст, поэтому предназначена для мультимодального диалога, анализа изображений, агентских сценариев, задач программирования и работы с видео при наличии соответствующей интеграции. Поддерживаются функции вызова инструментов и рассуждений через vLLM. Модель использует разреженную MoE-архитектуру и оптимизирована для AMD MI350/MI355 с ROCm 7.1.1, PyTorch 2.10.0 и Transformers 5.2.0 в Linux. Веса квантизированы в формате OCP MXFP4, а слои self-attention — в PTPC-FP8; активации используют динамическое квантование MXFP4 и FP8 для self-attention. Языки и размер контекста в README не указаны. На тесте GSM8K модель получила 94,01 против 95,30 у исходной MiniMaxAI/MiniMax-M3, что соответствует восстановлению 98,65% исходного результата. Основные ограничения — требовательность к поддерживаемому оборудованию и программному стеку AMD, а также отсутствие в README подробных оценок мультимодальных возможностей, языковой поддержки и контекстного окна. Указана лицензия minimax-community; применяется лицензия с типом other.