I.5Создание и редактирование текста

Qwen3.8-Flash-Next-MLX-6bit — это квантованная 6-битная сборка модели Qwen3.8-Flash-Next, преобразованная в формат MLX разработчиком PipeNetwork для запуска на Apple Silicon. Модель предназначена для генерации текста, включая программирование и другие задачи, выполняемые через text-generation pipeline. Для использования требуется runtime MLX с поддержкой удалённого кода; в репозитории поставляется собственная реализация runtime, поскольку необходимая архитектура ещё не включена в выпущенные версии mlx-lm. Исходная модель имеет 125 млрд параметров, из которых около 6 млрд активируются на токен, и использует гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts. В составе также находится 51,2 млрд параметров хешированных n-граммовых embedding-таблиц. Размер квантованной сборки составляет 148 ГБ против 360 ГБ у исходной версии bfloat16. Основные веса квантованы в 6 бит, отдельные компоненты, включая маршрутизатор MoE и некоторые управляющие параметры, сохранены в bfloat16. Vision tower присутствует в поставке, но данный runtime работает только с текстом; 4-миллиардная multi-token-prediction head не включена. Сильной стороной сборки является существенное сокращение размера при качестве, близком к bfloat16: на тесте wikitext-2 perplexity составила 4,4767 против 4,4708 у bfloat16, причём различие статистически незначимо в указанном эксперименте. Ограничения — очень большие требования к дисковому пространству и памяти, зависимость от Apple Silicon и собственного runtime с параметром trust_remote_code, а также отсутствие поддержки vision-возможностей в текущем режиме. Модель распространяется по Qwen Community License 1.0.

Sawfwair/Qwen3.8-Flash-Next-MLX-Mixed-2bit — воспроизводимая конверсия модели Qwen/Qwen3.8-Flash-Next в формат MLX, предназначенная для локального запуска на Apple Silicon Mac. Разработчик — Sawfwair, исходная модель создана Qwen. Распространяемая версия рассчитана на профиль Mac с 128 ГБ unified memory и использует смешанное квантование для снижения требований к памяти. Модель имеет архитектуру с маршрутизацией экспертов и мультимодальной поддержкой upstream-версии, включая обработку текста и изображений. Общий объём — около 180B параметров: 125B в основной модели, 51B в n-gram embedding и 4B в MTP-компоненте. 48 банков routed experts используют MLX affine Q2 с group-128, часть матриц — Q4, а embeddings, QSA indexers, routers, vision и MTP fusion heads сохранены в BF16. Нативный контекст составляет 262 144 токена, однако в mere.run v0.45.0 доступный бюджет ограничен 2 048 токенами на prompt и output вместе, а ввод изображений ещё не квалифицирован. Основные сценарии — локальная генерация текста, чат и развёртывание локального OpenAI-compatible API; встроенный MTP head может ускорять декодирование за счёт speculative decoding с проверкой целевой моделью. Для работы требуются Apple Silicon, macOS 15 или новее, около 68,08 GiB для checkpoint и совместимый Qwen4Exp-aware MLX runtime, например mere.run v0.45.0 или новее. Модель распространяется по Qwen Community License 1.0, которая включает требования к атрибуции и отображению для очень крупных коммерческих продуктов, а также отдельные лицензионные условия для некоторых коммерческих Model-as-a-Service и AI Work Assistant-сценариев.

Qwen3.8-Flash-Next-MTPLX-Optimized-Speed — квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, подготовленная Youssofal для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для локальной генерации текста, диалогов и программирования, включая работу с OpenCode и другими локальными AI-инструментами. Модель основана на архитектуре поколения Qwen4 с гибридной MoE-структурой GDN, Qwen Sparse Attention и 51-миллиардной n-gram memory. Всего заявлено 125B параметров, из которых 6B активируются на токен. Основные веса используют динамическую 4-битную квантизацию, проекции внимания — 8-битную, а отдельные компоненты и MTP-голова сохраняют 16-битную точность. Поддерживается контекст до 262 144 токенов, мультимодальная vision tower сохранена, однако конкретные языки и поддерживаемые форматы ввода в карточке не указаны. Ключевое преимущество — нативное multi-token speculative decoding с адаптивной глубиной до 3 токенов, обеспечивающее заявленное ускорение по сравнению с обычной авторегрессионной генерацией при сохранении распределения вывода. Загрузка занимает около 115,1 ГБ, из них 32 ГБ n-gram-таблицы могут размещаться на SSD; рекомендуются Mac с Apple Silicon и минимум 96 ГБ unified memory. Ограничения включают высокие требования к памяти и зависимость от MTPLX и совместимого оборудования. Лицензия указана как qwen-community-1.0; также обозначено поле license: other.

lovedheart/Qwen3.8-Flash-Next-NVFP4-FP8 — квантованная версия мультимодальной модели Qwen3.8-Flash-Next, разработанной Qwen и обработанной с помощью NVIDIA Model Optimizer. Это частный кандидатный релиз для разработчиков, оценивающих запуск Qwen3.8-Flash-Next в агентных системах, чат-ботах, задачах программирования и мультимодального рассуждения. Модель использует гибридную архитектуру Transformer с сочетанием GDN и разреженного QSA-внимания, multi-hyperconnection streams и PLE n-gram injection. Это MoE-модель примерно на 180 млрд параметров с 48 декодерными слоями, 512 маршрутизируемыми экспертами на слой, выбором top-10 экспертов, общим экспертом и одним MTP-слоем. Она принимает текст, изображения и видео, а генерирует текст; заявленная длина контекста — до 262 тысяч токенов. Квантование выполнено по смешанной схеме: маршрутизируемые эксперты используют NVFP4, а отдельные проекции внимания — FP8 E4M3 с блочной схемой 128×128. Сильные стороны модели — мультимодальность, MoE-архитектура, снижение требований к памяти по сравнению с исходной BF16-версией и поддержка длинного контекста. Ограничения включают необходимость патченной версии SGLang: стандартные сборки могут выдавать некорректный текст. Модель проверена на NVIDIA Blackwell, включая RTX PRO 6000 Blackwell, GB300 и B300, и ориентирована на Linux; совместимость с другими платформами не указана. Лицензия обозначена как other, а условия использования следует уточнять по лицензии исходной модели Qwen3.8-Flash-Next.

manjunathshiva/Qwen3.8-Flash-Next-tq4a-tq2e-g64 — это сжатая версия модели Qwen/Qwen3.8-Flash-Next, подготовленная пользователем manjunathshiva с использованием TurboQuant и MLX. Модель предназначена для генерации текста и обработки изображений на компьютерах Apple Silicon, включая локальный запуск и обслуживание через turboquant-mlx-full. В README указана поддержка английского языка. Модель основана на архитектуре mixture-of-experts qwen4_exp: 180 млрд параметров, 512 маршрутизируемых экспертов с выбором top-10, 48 слоёв и гибридная схема Gated DeltaNet и Qwen Sparse Attention. Заявлен контекст до 262 тысяч токенов. Текстовая часть занимает около 52 GiB, vision tower в формате bf16 — ещё 0,84 GiB, поэтому модель поддерживает работу как с текстом, так и с изображениями. Сборка выполнена без калибровочного набора данных и использует 4-битное квантование TurboQuant. Ключевое преимущество — возможность запуска на Mac с 64 ГБ памяти; на M4 Max заявлена скорость декодирования около 16,2–17,9 токена в секунду при отключённом thinking. Режим --ngram-offload снижает требуемую GPU-память примерно с 52 до 34 GiB при идентичном выводе, но увеличивает задержку обработки длинных промптов. Ограничения включают высокие требования к памяти, зависимость от Apple Silicon и MLX, более низкую скорость по сравнению с некоторыми альтернативными сборками, а также неполную практическую проверку на Mac с 48 ГБ памяти. Лицензия указана как qwen-community-license-1.0.

DioDef/qwen3.8-turbo — многоэтапно дообученная и объединённая версия Qwen3.8-27B, разработанная DioDef на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана с использованием подходов COLD FUSION, Fable Fusion и инструментов Unsloth; в README она представлена как uncensored-модель с вариантами GGUF-квантизации, включая regular и MTP GGUF quants. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, сторителлинга и ролевых диалогов. Заявленная ключевая особенность — сокращение объёма thinking-токенов по сравнению с базовой Qwen3.8, что должно уменьшать задержку и расход токенов при сохранении подробности ответов. Указаны поддерживаемые языки English и Chinese. Точный размер контекстного окна и сведения о мультимодальных возможностях в README не приведены; тег image-text-to-text сам по себе не подтверждает наличие полноценного vision-интерфейса. Модель позиционируется как производительная версия для запуска на потребительском оборудовании и доступна в форматах с разной степенью квантизации, включая 4-битные и 8-битные варианты. Среди сильных сторон заявлены скорость генерации, сокращённое рассуждение, развитые способности к решению задач, программированию и генерации художественного текста. Заявления о результатах ARC-C, ARC-E и превосходстве над другими моделями приведены авторами README и не подтверждены независимыми данными в предоставленном описании. Лицензия — Apache-2.0.

Rakesh44 дообучил плотную языковую модель Qwen3 для генерации текста и диалогов, используя базовую модель unsloth/qwen3-4b-unsloth-bnb-4bit, библиотеку Unsloth и TRL. Модель содержит 3,7 млрд параметров, принимает текст и рассчитана на контекст до 40 960 токенов. В карточке также указана поддержка интерфейса вызова инструментов. Модель можно использовать для текстовых запросов и диалоговых сценариев на английском языке. Карточка не описывает специализированную предметную область или конкретные улучшения после дообучения. Лицензия — Apache-2.0.

Qwen3-gabliterated-image-generation — дообученная языковая модель компании goonsai-com на базе Goekdeniz-Guelmez/Qwen3-4B-Sky-High-Hermes-gabliterated. Это плотная причинная модель Qwen3 с 3,7 млрд параметров, рассчитанная на генерацию текста в диалоговом формате; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 262 144 токена. Модель обучали с использованием Unsloth и библиотеки TRL. Несмотря на название репозитория, README и метаданные описывают текстовую генеративную модель и не подтверждают создание изображений. Модель распространяется под лицензией Apache-2.0. Карточка не приводит сведений о качестве, обучающих данных или специальных ограничениях, поэтому пригодность для конкретных сценариев следует оценивать отдельно.

Карточка модели etiennebamas/qwen3-lr-1-e-5-neat на Hugging Face совпадает с карточкой etiennebamas/qwen3-step32k-1e5, поэтому описание составлено по ней. Qwen3-step32k-1e5 — диалоговая модель генерации текста на базе Qwen3 с 7,6 млрд параметров, дообученная Etienne Bamas на датасете SFT от formalmathatepfl/qwen3-cpt. Она предназначена для текстовых запросов и диалоговых сценариев; использует плотную архитектуру Qwen3 и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Карточка не описывает конкретные специализации, результаты оценки или известные ограничения качества. Лицензия указана как other, поэтому условия использования следует сверять с лицензией в репозитории модели и базовой модели.

TradMed/qwen3_MT_epoch2_16bit — дообученная TradMed языковая модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 14 млрд параметров. Она принимает текст и предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Контекст модели составляет до 40 960 токенов. Модель дообучена на базе unsloth/qwen3-14b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL; веса опубликованы в формате Safetensors. В карточке указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, обучающие данные или результаты оценки, поэтому назначение за пределами генерации текста и чата определить нельзя.

Qwen3-Next-80B-A3B-Instruct-MLX-4bit — это 4-битно квантованная версия языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen. Квантование в формате MLX подготовлено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и работы в инструкционных сценариях, включая диалоговое взаимодействие и выполнение текстовых запросов. В README указаны размер исходной модели 80B и обозначение A3B, однако подробности архитектуры, контекстного окна, поддерживаемых языков и модальностей не приведены. Формат MLX и 4-битное квантование ориентированы на более эффективное локальное выполнение при ограниченных ресурсах по сравнению с полноразмерной версией. К сильным сторонам относятся локальный запуск на Apple Silicon и сниженные требования к памяти благодаря квантованию. Ограничения включают возможную потерю качества по сравнению с исходной моделью и отсутствие в предоставленных данных подробных сведений о производительности, языковой поддержке и безопасных сценариях применения. Модель распространяется по лицензии Apache-2.0.

Qwen3-Next-80B-A3B-Thinking-8bit — языковая модель для генерации текста, представленная сообществом mlx-community. Она преобразована из базовой модели Qwen/Qwen3-Next-80B-A3B-Thinking в формат MLX с использованием mlx-lm 0.27.1; исходная модель разработана командой Qwen. Модель предназначена для текстовых сценариев, включая диалоговое взаимодействие и генерацию ответов с применением режима Thinking. В названии указаны масштаб 80B, конфигурация A3B и 8-битное представление весов. Модель поддерживает работу через библиотеку mlx-lm и рассчитана на запуск в экосистеме MLX. В README не указаны языки, размер контекста, точная архитектура, перечень модальностей и результаты бенчмарков. Сильной стороной модели является адаптация для MLX и 8-битное представление, потенциально снижающее требования к памяти по сравнению с полноточными вариантами. Ограничения и фактические требования к оборудованию в README не описаны. Модель распространяется по лицензии Apache-2.0.

Это квантованная в формате MXFP4 версия модели Qwen3-Next-80B-A3B-Thinking, подготовленная noctrex и опубликованная в формате GGUF. Она предназначена для генерации текста и диалогового использования; базовая модель — причинная MoE-модель Qwen для сложных рассуждений и работы с длинным текстовым контекстом. В названии базовой модели указано 80B параметров, из которых 3B активны; точную длину контекста доступные данные не сообщают. Для запуска требуется совместимая версия llama.cpp; автор рекомендует использовать актуальную версию. GGUF и MXFP4 позволяют запускать квантованную модель в совместимой среде, однако квантование может влиять на точность по сравнению с исходными весами. Лицензия в предоставленных данных не указана.

Qwen3-VL-235B-A22B-Instruct-GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Репозиторий содержит веса в формате GGUF для базовой модели Qwen3-VL-235B-A22B-Instruct и предназначен для локального запуска через llama.cpp, Ollama и другие совместимые инструменты на CPU, NVIDIA GPU с CUDA, Apple Silicon с Metal, Intel GPU с SYCL и аналогичных платформах. Модель обрабатывает текст и визуальные данные, включая изображения и видео. Она предназначена для генерации и понимания текста, визуального анализа и рассуждений, распознавания объектов и текста, пространственного анализа, работы с длинными документами и видео, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Заявлена поддержка контекста 256K токенов с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный перечень языков для всех режимов работы не указан. Архитектура базовой модели — MoE с общим размером 235B параметров и 22B активных параметров; в составе GGUF отдельно поставляются языковая модель и vision encoder. Доступны варианты точности FP16, Q8_0 и Q4_K_M для языковой части и FP16 или Q8_0 для vision encoder, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Ограничения включают очень высокие требования к вычислительным ресурсам для крупной модели, зависимость возможностей от выбранной квантизации и совместимого программного обеспечения, а также отсутствие в README подробных количественных результатов и полного списка языков. Лицензия — Apache-2.0.

Qwen3-VL-8B-Instruct-Unredacted-MAX-Quants-GGUF — набор высококачественных GGUF-квантизаций мультимодальной модели prithivMLmods/Qwen3-VL-8B-Instruct-Unredacted-MAX. Модель предназначена для диалогового взаимодействия, генерации текста и анализа изображений, включая задачи image-to-text, описания изображений и визуального распознавания. В README заявлена версия без ограничительных фильтров. Модель основана на архитектуре Qwen3-VL и содержит 8 миллиардов параметров. Поддерживаются текстовая и визуальная модальности, а также английский, русский и китайский языки. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендован как баланс скорости и качества, а F16 служит эталонным вариантом с базовым качеством. Для обработки изображений требуется отдельный vision projector mmproj, доступный в форматах F32, F16, BF16 и Q8_0. Преимуществами являются совместимость с llama.cpp и другими GGUF-совместимыми средами, выбор вариантов под разные требования к памяти и производительности, а также полноценная поддержка изображений при использовании mmproj. К ограничениям относятся компромиссы между размером, скоростью и качеством у разных квантований; варианты Q2_K и Q3_K_M характеризуются более заметной потерей качества, а визуальные задачи требуют дополнительного файла проектора. Лицензия — Apache-2.0.

Defetya/qwen-4B-saiga — чат-модель на архитектуре Qwen2, разработанной Alibaba. Модель с 3,6 млрд параметров дообучена методом SFT на датасете Saiga Ильи Гусева с использованием EasyDeL на TPU v3-8. Она предназначена для диалогов и генерации текста, в первую очередь на русском языке; контекст составляет до 32 768 токенов. Автор README отмечает хорошее обращение с русскими падежами по результатам краткого личного общения, но не приводит систематических оценок: карточка упоминает запланированную проверку на Russian SuperGLUE. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.

QwenPaw-Flash-9B-heretic — плотная языковая модель на 9 млрд параметров, созданная SC117 методом дообучения с использованием Heretic на базе Qwen/Qwen3.5-9B. В репозитории размещены веса safetensors в формате F32, а также извлечённая из базовой модели BF16-голова Multi-Token Prediction (MTP). Модель предназначена для диалоговой генерации текста. MTP-голова может ускорять декодирование при speculative decoding; в README указаны примерно 43% принятия предсказаний и ускорение генерации в 1,5–1,9 раза. Для работы с Transformers приведён пример загрузки, а для llama.cpp, Ollama и LM Studio автор предлагает отдельные репозитории с GGUF-версиями. Метаданные указывают поддержку английского и китайского языков и conversational-возможности; базовая Qwen3.5-9B также описана в каталоге как мультимодальная. Однако карточка этой производной модели заявляет только text-generation и не подтверждает сохранение обработки изображений после дообучения. Лицензия обозначена как other; README говорит, что она совпадает с лицензией базовой модели Qwen3.5-9B.

Qwen_Qwen3-30B-A3B-Instruct-2507-GGUF — это набор GGUF-квантизаций языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной Qwen и подготовленной для llama.cpp пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, LM Studio и совместимые проекты. Для взаимодействия используется шаблон prompt формата ChatML с ролями system, user и assistant. Модель имеет архитектуру Mixture-of-Experts с общим размером 30B параметров и 3B активных параметров, однако README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности. Доступны варианты от BF16 до низкобитных квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, с размерами файлов примерно от 13 до 61 ГБ. Более качественные варианты требуют больше памяти, а малые квантизации предназначены для систем с ограниченными ресурсами и могут заметно уступать в качестве. Сильной стороной является широкий выбор квантизаций, включая варианты с imatrix, позволяющие подобрать баланс между качеством, размером и скоростью локального вывода; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как оптимальный вариант для большинства сценариев. Ограничения связаны с высокими требованиями к оперативной памяти даже у компактных вариантов и возможной потерей качества при использовании низких разрядностей. Лицензия в представленном README не указана.

Alcoft/Qwen_Qwen3-4B-Thinking-2507-GGUF — это GGUF-квантизированный вариант языковой модели Qwen3-4B-Thinking-2507, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев, требующих рассуждений, включая работу с локальными приложениями и системами, поддерживающими формат GGUF. В репозитории представлены варианты квантизации от Q2_K до Q8_K с размером файлов примерно от 1,38 до 3,99 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и близкие к ним конфигурации: они обеспечивают приемлемое или высокое качество при меньших требованиях к памяти. Самые лёгкие варианты Q2 и Q3 характеризуются низким качеством и в README не рекомендуются. Некоторые варианты используют повышенную точность Q8_0 или F16 для выходных и embedding-слоёв. Модель относится к text-generation и предоставляет только текстовую модальность. Данные о точной архитектуре, размере контекста и поддерживаемых языках в представленном README не указаны. Основные ограничения связаны с потерей качества при сильной квантизации и зависимостью результата от выбранного варианта. Указана лицензия Apache-2.0.

Qwen-SEA-LION-v4.5-27B-IT — мультимодальная инструктивная модель AI Singapore для языков Юго-Восточной Азии, дообученная на основе Qwen3.6-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Linear и Full Attention и визуальным энкодером; она принимает текст и изображения и генерирует текст. Контекстное окно составляет 262 тыс. токенов. Модель прошла постобучение с дистилляцией и слиянием моделей на наборе SEA-Instruct-2602. Модель предназначена для многоязычного диалога, ответов на вопросы, перевода, суммаризации, рассуждений и работы с изображениями. В карточке заявлена поддержка английского, бирманского, индонезийского, филиппинского, малайского, тамильского, тайского и вьетнамского языков; метаданные также указывают китайский. Доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT. Разработчик предупреждает, что модель может галлюцинировать, давать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не проходила выравнивание по безопасности, поэтому перед использованием следует самостоятельно оценить риски и при необходимости провести дополнительную настройку.

ClaudioItaly/QwenTies-7B — слитая методом TIES языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она объединяет Qwen/Qwen2.5-7B-Instruct и Qwen/Qwen2.5-7B; в README указана база Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев и генерации текстовых ответов; метаданные также указывают интерфейс вызова инструментов. Базовая Qwen2.5-7B-Instruct описана как модель для генерации текста, кода и структурированных ответов, но отдельные преимущества этого слияния не приведены. Лицензия в предоставленных данных не указана.

Qwentile2.5-32B-Instruct-GGUF — это квантизированная версия инструкционной языковой модели Qwentile2.5-32B-Instruct, разработанной maldv и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста, чат- и диалоговых сценариев, а также локального использования через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка. Модель имеет размер 32 млрд параметров. Доступны варианты от F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, включая форматы K-quants и IQ-quants, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. Квантизации выполнены с использованием imatrix на базе llama.cpp; для общения применяется шаблон с тегами <|im_start|> и <|im_end|>. Сильная сторона набора — широкий выбор вариантов, включая высококачественные Q6_K и Q6_K_L, а также более компактные версии для систем с ограниченной памятью. При этом уменьшение разрядности может снижать качество генерации, особенно у Q2–Q3 вариантов; для работы также требуются значительные вычислительные ресурсы. Контекстное окно, точная архитектура и дополнительные модальности в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwermes3.8 — это дообученная модель Qwen3.8-27B, опубликованная в формате GGUF с квантизацией NVFP4. Автор карточки описывает гибридную плотную архитектуру из 64 слоёв: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв полного внимания. Модель предназначена для генерации текста и диалогов; визуальная оболочка исходной модели удалена, поэтому этот вариант работает только с текстом. Репозиторий рассчитан на запуск через llama.cpp или Ollama, в том числе на рабочих станциях с GPU Blackwell. Заявлен контекст до 262 тыс. токенов, но KV-кэш требует около 117 КБ на токен: для контекста 128 тыс. токенов потребуется примерно 14,7 ГБ видеопамяти, а для 262 тыс. — около 30 ГБ. README приводит замеры скорости и perplexity, но качество проверялось лишь на небольшом наборе ручных запросов без формальной оценки. Лицензия — Apache-2.0.

QwerySmith-1.0-Merged — дообученная Cyrax321 языковая модель для генерации текста и диалогового общения. Она основана на Qwen3 с плотной архитектурой причинного языкового моделирования Qwen3ForCausalLM и содержит около 3,7 млрд параметров. Модель принимает текст и поддерживает контекст до 40 960 токенов; в метаданных также отмечен интерфейс вызова инструментов. Карточка указывает базовую модель unsloth/qwen3-4b-unsloth-bnb-4bit и лицензию Apache-2.0. В описании нет сведений о специализации дообучения или оценках качества; подтверждена поддержка английского языка.

Qwopus3.6-27B-v1-preview — предварительная reasoning-модель, разработанная Jackrong на базе Qwen3.6-27B. Это мультимодальная vision-language модель для работы с текстом и изображениями, ориентированная на генерацию ответов, структурированное рассуждение, агентские сценарии, программирование, создание интерфейсов и творческие задачи с canvas/WebGL. В README также указана поддержка image-text-to-text и совместимость с экосистемами Transformers и llama.cpp. Модель содержит 27 миллиардов параметров и обучена методом supervised fine-tuning с использованием Unsloth. Обучающий набор объёмом около 12 тысяч тщательно отобранных примеров сформирован на основе данных дистилляции Claude, GLM-5.1, Kimi K2.5 и Qwen3.5. Заявленные сильные стороны — более структурированное рассуждение, стабильный стиль ответов, снижение стилистического дрейфа в длинных ответах и улучшенная согласованность между источниками. Результаты предварительной оценки на небольшой выборке следует считать ориентировочными; полноценное масштабное обучение ещё продолжается. Заявлены языки English, Chinese, Japanese, Korean, Spanish и Russian. Точный размер контекстного окна и подробные архитектурные характеристики в предоставленном README не указаны. Модель выпускается как preview-версия, поэтому её поведение и качество могут измениться в будущих релизах. Лицензия — Apache-2.0.

Ourse/R4L-v0.1 — компактная языковая модель на архитектуре Qwen2, созданная слиянием двух моделей методом SLERP с помощью mergekit: bunnycore/Qwen2.5-1.5B-Matrix и unsloth/Qwen2.5-1.5B-Instruct. Модель содержит 1,5 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая структурированные ответы и взаимодействие через интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или набор языков, поэтому она подходит как компактная модель общего назначения на базе Qwen2.5. Лицензия в предоставленных данных не указана. Качество и ограничения по конкретным задачам не охарактеризованы; результаты следует проверять для целевого применения.

Rabbit-7B-DPO-Chat — диалоговая языковая модель на архитектуре Mistral, созданная viethq188. Модель получена слиянием AIDC-ai-business/Marcoroni-7B-v3 и rwitz/go-bruins-v2 методом SLERP с последующим обучением DPO на данных Hugging Face. Для общения можно использовать шаблон Alpaca. Модель предназначена для генерации текста в диалогах и ответов на запросы. Она содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате PyTorch. Лицензия — Apache-2.0. В карточке не описаны языки обучения или специальные предметные области; качество и ограничения модели README не уточняет.

RakutenAI-7B-instruct — языковая модель Rakuten Group, Inc. для генерации текста по инструкциям. Это дообученная версия RakutenAI-7B на архитектуре Mistral с 7,2 млрд параметров. Для японского языка словарь расширен до 48 тысяч токенов; модель принимает текст и генерирует текст, поддерживая японский и английский языки. Контекстное окно составляет 32 768 токенов. Модель предназначена для выполнения инструкций, ответов на вопросы и других задач генерации текста. В карточке приведены результаты оценки на японских и английских языковых тестах; они характеризуют тестовые наборы и сами по себе не гарантируют качество на любых пользовательских запросах. Модель может выдавать предвзятые, неточные или небезопасные ответы. Лицензия — Apache License 2.0.

RandomMergeNoNorm-7B-DARETIES — текстовая генеративная модель, созданная с помощью mergekit объединением моделей FelixChao/WestSeverus-7B-DPO-v2, CultriX/Wernicke-7B-v9 и mlabonne/NeuralBeagle14-7B. Это плотная архитектура MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Слияние выполнено методом DARE-TIES с базой FelixChao/WestSeverus-7B-DPO-v2, плотностями 0,45 и 0,55 для компонентов и параметром int8_mask; итоговый тип данных — float16. Базовая модель NeuralBeagle14-7B описана как модель для диалогов, следования инструкциям, рассуждений и творческой генерации, однако отдельные оценки качества именно этого слияния в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

zelk12/recoilme-gemma-2-Ataraxy-9B-v0.2 — разговорная языковая модель на архитектуре Gemma 2, созданная разработчиком zelk12 с помощью слияния SLERP двух моделей zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.75. Модель содержит 9 млрд параметров, работает с текстом и рассчитана на контекст до 8192 токенов. Она предназначена для генерации текста и диалоговых сценариев. Опубликована в формате safetensors для библиотеки Transformers. В README приведены результаты Open LLM Leaderboard, включая IFEval 76,00 и BBH 43,63; других подтверждённых сведений о сильных сторонах модели нет. В предоставленных материалах лицензия и поддерживаемые языки не указаны. Результаты бенчмарков не гарантируют качество в конкретном применении; контекст ограничен 8192 токенами.