I.5Создание и редактирование текста

Olmo-3-7B-Instruct-SFT — англоязычная авторегрессионная Transformer-модель для диалогов и выполнения инструкций, разработанная Allen Institute for AI (Ai2). Это плотная языковая модель семейства OLMo 3 с 6,9 млрд параметров, дообученная методом SFT на наборах Dolci, включающих диалоги, общие знания, математику и программирование. Модель принимает текст и генерирует текст; контекстное окно составляет 65 536 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, задач по математике и программированию, а также следования инструкциям. В карточке приведены результаты тестов, включая MATH и AIME, но качество ответов может варьироваться. Лицензия Apache 2.0; разработчик рекомендует учитывать свои правила ответственного использования. Модель может выдавать неточные сведения и небезопасный или предвзятый контент, поэтому ответы следует проверять.

Olmo Hybrid Instruct DPO 7B — англоязычная авторегрессионная языковая модель семейства Olmo Hybrid, разработанная Allen Institute for AI (Ai2). Это плотная гибридная RNN-модель на 6,3 млрд параметров, дообученная методом supervised fine-tuning и оптимизации предпочтений DPO на запросах по математике, программированию, диалогам и общим знаниям. Она предназначена для диалоговых ответов и генерации текста; поддерживает контекст до 32 768 токенов и запускается через Transformers 5.3.0 или выше. В карточке приведены результаты оценки на математических бенчмарках, включая MATH и AIME. Модель выпускается в формате safetensors и распространяется по лицензии Apache 2.0; Ai2 указывает исследовательское и образовательное применение в соответствии с рекомендациями Responsible Use. Без дополнительной фильтрации она может генерировать вредный или предвзятый контент, а ответы могут содержать фактические ошибки.

Olmo-Hybrid-Instruct-SFT-7B — англоязычная авторегрессионная языковая модель семейства Olmo Hybrid, разработанная Allen Institute for AI (Ai2). Это плотная гибридная RNN-модель с 6,3 млрд параметров, дообученная методом supervised fine-tuning на наборах Dolci для инструкций, включая примеры использования инструментов. Модель принимает текст и генерирует текст; размер контекста — до 32 768 токенов. Модель предназначена для диалогов и ответов на инструкции, в том числе для задач по математике, программированию, общим знаниям и вызову инструментов. Ai2 сообщает о повышенной эффективности обучения и инференса на длинном контексте по сравнению с Olmo 3; приведённые в карточке результаты показывают пригодность модели для решения разнообразных текстовых задач. Лицензия — Apache 2.0. Модель может выдавать неточные ответы и вредный или предвзятый контент, поскольку не имеет фильтрации безопасности.

Open-Instruct ShareGPT 30B — дообученная AllenAI 30B-модель семейства LLaMA для генерации ответов на инструкции и диалоговые запросы. Она обучена на очищенном наборе ShareGPT, подготовленном по аналогии с Vicuna, и описана в рамках исследования «How Far Can Camels Go? Exploring the State of Instruction Tuning on Open Resources». Архитектура — плотная авторегрессионная LLaMA с 32,3 млрд параметров; модель принимает текст и генерирует текст на английском языке. Максимальная длина контекста — 2048 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, решения задач и генерации кода. В README приведены результаты на академических бенчмарках, включая MMLU, GSM, BBH и Codex-Eval; качество зависит от формата запроса, поэтому рекомендуется использовать указанный авторами шаблон ввода с нужными переносами строк. Репозиторий содержит diff весов: для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Распространение регулируется лицензией AI model license вместе с исходной лицензией LLaMA.

openNemo-Cascade-2-30B-A3B — реализация модели NVIDIA Nemotron-Cascade-2-30B-A3B от Empero AI, в которой CUDA-зависимые операции заменены на операции PyTorch. Это позволяет использовать веса исходной модели без преобразования и применять 4-битную квантизацию bitsandbytes и QLoRA дообучение на совместимых потребительских GPU. Модель предназначена для генерации текста в диалогах и задач сложного рассуждения; в карточке приведены результаты исходной модели на математических и программных олимпиадах. Архитектура гибридная: 52 слоя сочетают блоки Mamba2, смесь экспертов MoE с выбором 6 из 128 экспертов и несколько блоков Grouped Query Attention. В README указано около 30,87 млрд параметров всего и около 3 млрд активных на токен; метаданные каталога сообщают 1,9 млрд параметров, поэтому оценка размера противоречива. Метаданные указывают контекст до 262 144 токенов и поддержку английского, испанского, французского, немецкого, итальянского и японского языков. Репозиторий сохраняет имена весов NVIDIA и заявляет совместимость с исходным чекпойнтом. Для 4-битной загрузки README оценивает потребление видеопамяти примерно в 17 ГБ, а для QLoRA — около 19 ГБ. Лицензия в метаданных обозначена как «other»; конкретные условия использования следует проверять в файлах репозитория и у базовой модели.

OpenThaiGPT 1.6 72B — плотная языковая модель команды OpenThaiGPT для диалогов и общих задач на тайском и английском языках. Она основана на архитектуре Qwen2, содержит 71,5 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, рассуждений, решения математических задач и помощи с кодом. Команда отмечает улучшения в рассуждениях о коде на тайском и английском языках, а также понимании тайского языка и культурного контекста. Модель можно запускать локально; для облегчённых вариантов доступны отдельные GGUF-квантизации. Это объединённая модель, собранная из OpenThaiGPT 1.5 72B Instruct и вариантов OpenThaiGPT 1.6 для экзаменационных задач, общих инструкций и Lexitron. Репозиторий содержит веса Safetensors. Указана лицензия other, без конкретизации её условий в предоставленных данных. Ответы модели не гарантированы; полная точность и применимость к конкретным задачам не установлены.

Карточка модели open-thoughts/OpenThinker-32B на Hugging Face совпадает с карточкой trinityomnis/OpenThinker-32B, поэтому описание составлено по ней. OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

OpenThinker-32B — плотная языковая модель на 32 млрд параметров, созданная дообучением Qwen/Qwen2.5-32B-Instruct командой OpenThoughts на наборе OpenThoughts-114k. Она предназначена для генерации текста в диалоге и задач, где требуется пошаговое рассуждение, включая математику, научные вопросы и программирование. Модель поддерживает контекст до 32 768 токенов; для работы доступны веса в формате Safetensors и интерфейс вызова инструментов. В README приведены результаты оценки на наборах математических и научных задач, но они не гарантируют аналогичного качества на других данных. Обучающие примеры получены с помощью дистилляции DeepSeek-R1, поэтому ответы могут содержать ошибки или необоснованные рассуждения. Модель распространяется по лицензии Apache 2.0.

Ornith-1.5-35B-A3B-MXFP4_MOE_Hybrid-Imatrix-GGUF — это набор оптимизированных квантованных весов в формате GGUF для модели Ornith-1.5-35B-A3B, разработанной Ornith AI. Данные сборки подготовлены jashepp на основе базовой модели и предназначены для запуска в совместимой инфраструктуре GGUF, включая сценарии генерации текста, диалогов, агентной работы, программирования, использования инструментов и задач, требующих планирования и рассуждений. Модель использует архитектуру Mixture of Experts с заявленным размером 35B и конфигурацией A3B. Репозиторий содержит варианты с многоуровневой точностью MXFP4, Q8_0 и F16, а также importance matrix, созданной на основе исходной imatrix и дополнительных данных из промптов, результатов, аудитов, навыков и документации. Доступны файлы размером примерно от 18,5 до 20,7 ГБ. Указанный язык — английский; модель относится к текстовым генеративным моделям. Размер контекста в README не указан. К сильным сторонам относятся улучшенное следование инструкциям и рассуждениям по сравнению с Ornith-1.0, ориентация на агентное программирование и возможность уменьшить требования к памяти за счёт квантования экспертных слоёв при сохранении более высокой точности в критических компонентах. Ограничения включают потенциальные потери качества из-за квантования, зависимость от совместимого загрузчика GGUF и отсутствие в README подробных сведений о фактических требованиях к оборудованию, контекстном окне и результатах независимого тестирования. Распространение указано по лицензии MIT.

Ornith-1.5-35B-A3B-REAP192-mxfp4-MLX — это сжатая и квантованная производная модели Ornith-1.5-35B-A3B от ornith-ai, подготовленная пользователем mchen04 для запуска на компьютерах Mac с Apple Silicon. Модель предназначена для локальной однопользовательской генерации текста, программного кода, математических ответов, JSON-вызовов инструментов и структурированного вывода через MLX или OpenAI-совместимый сервер. Модель основана на MoE-архитектуре с 35 млрд параметров и примерно 3 млрд активных параметров на токен. В ней число экспертов сокращено с 256 до 192 методом REAP, top-k уменьшен с 8 до 7, а веса преимущественно квантованы в mxfp4 с размером группы 32; общий эффективный размер составляет около 4,33 бита на параметр. Общий эксперт и маршрутизатор используют 8-битное квантование. Указан английский язык, при этом токенизатор и шаблон чата сохранены от исходной модели. Архитектура использует гибридное внимание: 10 из 40 слоёв имеют полное внимание, благодаря чему KV-кэш занимает мало памяти и допускает экономичную работу с длинным контекстом. Основное преимущество — высокая скорость и низкое потребление памяти на Mac с 24 ГБ unified memory: около 49,8 токена в секунду при декодировании, пиковое потребление примерно 14,3 ГБ и работа без постоянного обращения к swap. Модель подходит для локального программирования, математики, чат-сценариев и задач с формальным форматом вывода. Ограничения связаны с потерями от pruning и квантования, зависимостью от Apple Silicon и MLX, а также с тем, что приведённые показатели получены на конечном наборе тестов и конкретной конфигурации оборудования. Доступна по лицензии MIT.

QuantFactory/Phi-3-mini-128k-instruct-GGUF — это квантизированная версия языковой модели microsoft/Phi-3-mini-128k-instruct, разработанной Microsoft. Модель содержит 3,8 млрд параметров, поддерживает контекст до 128 тысяч токенов и предназначена для генерации текста в формате инструкций. Она обучалась на синтетических и отфильтрованных общедоступных данных с акцентом на качество и рассуждения, а после базового обучения прошла supervised fine-tuning и direct preference optimization для улучшения следования инструкциям и соблюдения требований безопасности. Модель ориентирована на англоязычные коммерческие и исследовательские сценарии, включая работу в условиях ограниченных ресурсов и требований к задержке, а также задачи, связанные с рассуждениями, программированием, математикой, логикой и обработкой длинного контекста. К сильным сторонам относятся компактный размер, высокая производительность среди моделей с менее чем 13 млрд параметров и большой контекст. Ограничения включают поддержку английского языка в заявленных сценариях, возможные ошибки и необходимость отдельно проверять точность, безопасность, справедливость и соответствие требованиям законодательства, особенно в чувствительных и высокорисковых применениях. Модель распространяется по лицензии MIT.

recogna-nlp/ptt5-base-summ-cstnews — модель семейства T5, дообученная командой Recogna на суммаризации бразильских текстов на португальском языке. Для обучения использовались WikiLingua на первом этапе и CSTNews на втором; модель предназначена для абстрактивного пересказа текста. Модель содержит 123,8 млн параметров, принимает текст с контекстом до 512 токенов и генерирует текстовое резюме. Она подходит для краткого изложения новостных и других португалоязычных материалов. Распространяется в форматах PyTorch и Safetensors по лицензии MIT.

Карточка модели agadelmoula-avey/Qwen3-4B-Base на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Base, поэтому описание составлено по ней. Qwen3-4B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на стадии предварительного обучения, предназначенная для дальнейшей адаптации и генерации текста. В карточке указаны 4,0 млрд параметров, 36 слоёв, групповое внимание с 32 головами Q и 8 головами KV и контекст до 32 768 токенов; метаданные каталога оценивают размер весов в 3,7 млрд параметров. Модель обучена на многоязычном корпусе; README сообщает о 119 языках в обучающих данных, но не перечисляет поддержку каждого из них. Среди заявленных направлений обучения — общие знания, программирование, STEM, рассуждения и понимание длинного контекста. Для запуска рекомендуется актуальная версия Transformers: версии ниже 4.51.0 могут не распознавать архитектуру Qwen3. Лицензия — Apache-2.0.

unsloth/Qwen3.5-2B-MTP-GGUF — это GGUF-версия мультимодальной модели Qwen3.5-2B, основанной на Qwen/Qwen3.5-2B и подготовленной Unsloth. Модель предназначена для локального запуска, прототипирования, исследовательских задач, специализированного дообучения, программирования, агентских сценариев, вызова инструментов и работы с текстом и изображениями. Модель представляет собой авторегрессионную языковую модель с vision-энкодером и поддерживает контекст до 262 144 токенов. Она содержит около 2 млрд параметров, 24 слоя, скрытую размерность 2048 и гибридную архитектуру с Gated Delta Networks, Gated Attention и разреженным Mixture-of-Experts. Поддерживается 201 язык и диалект. Вариант включает обучение для multi-step speculative decoding (MTP), заявленное ускорение генерации составляет примерно 1,5–2 раза при совместимом запуске через llama.cpp. К сильным сторонам относятся мультимодальность, большой контекст, компактный размер, возможность локального запуска и поддержка ускоренного декодирования, дообучения и улучшенного tool calling. Ограничения связаны с необходимостью совместимого ПО и сборки llama.cpp с поддержкой MTP; при таком режиме не поддерживаются параллельность запросов через -np > 1 и параметр --mmproj. В README также указано, что из-за масштаба модели она ориентирована прежде всего на прототипирование, специализированное дообучение, исследования и разработку. Распространение осуществляется по лицензии Apache 2.0.

Карточка модели Taewhoo/qwen3.5-9b-proteomics-rl-step25 на Hugging Face совпадает с карточкой Qwen/Qwen3.5-9B, поэтому описание составлено по ней. Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

Карточка модели ArliAI/Qwen3.5-9B-RpRMax-v1 на Hugging Face совпадает с карточкой Qwen/Qwen3.5-9B, поэтому описание составлено по ней. Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

YTan2000/Qwen3.6-27B-TQ3_4S — сборка Qwen3.6-27B, опубликованная YTan2000 в формате GGUF с квантизацией TurboQuant TQ3_4S для локального запуска. В основе — мультимодальная причинная языковая модель с визуальным энкодером на 27 млрд параметров; архитектура семейства Qwen3.5 включает блоки Gated DeltaNet и Gated Attention. Исходная модель имеет контекст до 262 144 токенов, однако в README для конфигурации на GPU с 16 ГБ видеопамяти отмечено, что 32K и 64K помещаются, а 128K — нет. Модель предназначена для диалогов, задач программирования и рассуждений, а также работы с изображениями в поддерживающем это окружении. Файл весов занимает около 13 ГБ. Для нативной поддержки TQ3_4S нужен TurboQuant-совместимый рантайм, например форк llama.cpp tq3; README также сообщает, что для публичной сборки GGUF нет отдельного артефакта mmproj, поэтому возможности обработки изображений могут быть недоступны при таком способе запуска. Указана лицензия Apache-2.0.

Robinson Labs выпустила доработанную версию Qwen3.6-35B-A3B — мультимодальной модели семейства Qwen с архитектурой MoE, примерно 35 млрд параметров и бюджетом около 3 млрд активных параметров. Веса представлены в bf16 в формате sharded safetensors для Transformers. Модель принимает текст и изображения и предназначена для диалогов, вызова инструментов, программирования и анализа изображений; в README также заявлено сохранение поддержки спекулятивного декодирования MTP/NextN для совместимых сред выполнения. В модели ослаблен отказ на взрослые и творческие запросы методом ортогонализации весов; при этом авторы заявляют о сохранении защитных ограничений для запросов о самоповреждении и реальных противоправных действиях. В собственных небольших проверках разработчика модель реже отказывала на общем наборе запросов, а на тесте детской безопасности отклоняла все проверенные запросы; размер этих тестов ограничен и не подтверждает поведение во всех ситуациях. Модель не предназначена для всех аудиторий. Лицензия — Apache-2.0, унаследованная от базовой модели.

Qwen3.6-35B-A3B-DSV4Pro-Thinking-Distill-GGUF — это GGUF-квантизированная версия рассуждающей модели, разработанной пользователем nerkyor на базе Qwen/Qwen3.6-35B-A3B от команды Qwen. Модель использует MoE-архитектуру с 35 млрд общих параметров и примерно 3 млрд активных параметров, а также дистилляцию в стиле ReAct, ориентированную на более быстрое и стабильное решение сложных задач. Репозиторий предназначен для локального запуска через llama.cpp и совместимые приложения, включая Lynn Agent и LM Studio. Модель подходит для текстовой генерации, сложного рассуждения, оркестрации и агентских сценариев. Доступна поддержка изображений через отдельный vision projector. GGUF-файлы содержат встроенную native MTP-голову для speculative decoding и, кроме вариантов Q8_0 и F16, используют imatrix-коррекцию. Предлагаются варианты от Q4_K_M примерно на 21 ГБ до F16 примерно на 69 ГБ; рекомендуемый баланс качества и требований к памяти — Q4_K_M, а для высокопроизводительных систем с 32 ГБ и более рекомендуется Q5_K_M. В примере запуска используется контекст 8192 токенов, но README не указывает предельный размер контекста модели. По приведённым тестам дистиллированная версия показывает 80,3% на GPQA-Diamond и сокращает время сквозной оркестрации в 2,3 раза относительно базовой модели при включённом reasoning. Native MTP даёт ускорение до 1,63 раза на Q8_0 в однопоточном тесте, однако выигрыш зависит от квантизации и снижается при высокой многопоточности. Ограничением является небольшое снижение результата MMLU относительно базы — 90,2% против 91,4%; также для запуска требуются значительные объёмы VRAM или unified memory. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-MTP-GGUF — это GGUF-квантизированная версия модели Qwen3.6-35B-A3B, разработанная ByteShape с использованием ShapeLearn. ShapeLearn подбирает тип данных для каждого тензора, чтобы сохранять качество при малой разрядности. Модель поддерживает Multi-Token Prediction (MTP), позволяющую предсказывать несколько токенов за один проход и ускорять декодирование за счёт спекулятивного принятия совпадающих токенов. Модель предназначена для GPU-инференса в llama.cpp и поддерживает работу с изображениями и текстом; для загрузки визуального проектора используется параметр --mmproj-auto. MTP особенно полезен при автодополнении кода, генерации структурированных ответов и повторяющегося контента, тогда как для творческой или нетипичной генерации ускорение может быть ниже. Варианты имеют размер от 10 до 18,6 ГБ и используют квантизации IQ2_S, IQ3_S и IQ4_XS с разрядностью 2,25–4,19 бит на вес. Базовая модель имеет 35B параметров и архитектуру, обозначенную как 35B-A3B; другие характеристики, включая языки и размер контекста, в README не указаны. MTP-голова встроена в GGUF, поэтому отдельная draft-модель не требуется, но нужен свежий выпуск llama.cpp с поддержкой draft-mtp. Производительность зависит от конкретной видеокарты и нагрузки; для большинства сценариев рекомендуется предсказывать на 2–4 токена вперёд. Модель распространяется по лицензии Apache-2.0.

sakamakismile/Qwen3.6-35B-A3B-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной Qwen и сжатой с помощью llm-compressor от Lna-Lab. Модель предназначена для генерации текста, программирования, рассуждений, агентских сценариев и задач с изображениями. Она поддерживает вызов инструментов и рассчитана на работу через vLLM. В основе лежит разреженная архитектура MoE: около 35 млрд параметров всего, из которых активны примерно 3 млрд на токен; используются 256 экспертов, включая 8 маршрутизируемых и 1 общий. Архитектура сочетает Gated DeltaNet и механизмы внимания. Квантизация NVFP4 W4A4 использует 4-битные веса и активации со шкалами FP8, а визуальная часть сохранена в BF16. Нативный контекст составляет 262 144 токена, заявлена возможность расширения до 1 млн токенов. Указана поддержка мультимодального ввода, однако конкретный перечень языков в README не приведён. К сильным сторонам относятся высокая скорость инференса, малая занимаемая память и заявленные результаты в задачах программирования и агентского взаимодействия. Размер модели после сжатия — около 21,9 ГБ; на одной видеокарте NVIDIA Blackwell заявлена скорость до 168 токенов в секунду. Ограничения связаны с аппаратной и программной совместимостью: требуется GPU NVIDIA Blackwell с архитектурой SM 120, примерно 22 ГБ видеопамяти и nightly-версия vLLM с CUDA 13.0; на Ampere и Hopper модель не работает. Распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-OptiQ-4bit-REAP-19B — это квантизированная и подвергнутая экспертному прунингу языковая модель для генерации текста, разработанная сообществом mlx-community на базе mlx-community/Qwen3.6-35B-A3B-OptiQ-4bit. Модель использует архитектуру Mixture-of-Experts: в каждом слое сохранено 128 из 256 экспертов, при этом для каждого токена активируются 8 экспертов. Число параметров уменьшено с 35,1 до 18,8 млрд, размер на диске составляет 13,8 ГБ, а пиковое потребление памяти — около 11,6 ГБ. Данные о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для локального запуска и генерации текста на устройствах Apple Silicon через MLX, а также для задач следования инструкциям, математических рассуждений, вызова функций и генерации кода. Прунинг выполнен методом REAP без деквантизации, повторной квантизации или дообучения; активные параметры на токен и скорость декодирования сохраняются, а скорость в указанном сравнении выросла с 47,0 до 54,7. По сравнению с исходной моделью Capability Score снизился с 80,03 до 76,57; особенно заметно падение на MMLU, тогда как результаты GSM8K и IFEval улучшились. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-UD-MLX-3bit — это 3-битно квантованный вариант модели Qwen3.6-35B-A3B, подготовленный Unsloth в формате MLX на базе модели Qwen. Модель предназначена для генерации текста, программирования, агентных сценариев и задач, связанных с анализом изображений, поскольку включает языковую модель с vision encoder. В README отдельно отмечены улучшения для frontend-разработки, рассуждений на уровне репозитория, сохранения контекста рассуждений и вызова инструментов. Архитектура представляет собой causal language model с Mixture of Experts: всего 35 млрд параметров, из которых активируются 3 млрд. Модель содержит 40 слоёв, 256 экспертов с маршрутизацией к 8 экспертам и одним общим экспертом, а также сочетает Gated DeltaNet и Gated Attention. Нативная длина контекста составляет 262 144 токена, с заявленным расширением до 1 010 000 токенов. Поддержка языков в предоставленных данных не указана. К сильным сторонам относятся высокая вычислительная эффективность MoE-архитектуры, большой контекст, возможности работы с изображениями и специализация на кодинге и агентных рабочих процессах. Ограничения связаны с 3-битным квантованием и зависимостью от совместимого стека MLX; влияние квантования на качество в README не описано. Модель распространяется по лицензии Apache-2.0.

RadixArk Qwen3.8-2.4T-A95B-NVFP4 — квантизированная версия причинно-следственной языковой модели Qwen3.8-2.4T-A95B, созданной Qwen. Квантизацию выполнила RadixArk с использованием NVIDIA Model Optimizer и схемы experts-only NVFP4; RadixArk не обучала и не дообучала модель. Архитектура — Transformer Mixture-of-Experts с 2,4 трлн общих параметров и 95 млрд активируемых параметров. Модель предназначена для генерации текста, AI-агентов, чат-ботов, RAG-систем и других текстовых приложений. Она принимает и возвращает текст, поддерживает контекст до 262 144 токенов и работает только в режиме рассуждений; мультимодальные входы и отключение thinking mode не поддерживаются. Квантизации подвергнуты линейные операторы в MLP-блоках маршрутизируемых экспертов, остальные компоненты сохраняют точность исходного чекпойнта. Для запуска рекомендуется SGLang на Linux и совместимое оборудование NVIDIA Blackwell, в частности конфигурация 8×B300; заявленная интеграция с другими платформами не указана. По приведённым оценкам на конфигурации 8×B300 модель получила 97,73% на GSM8K, 98,75% pass@1 и 100% pass@16 на AIME 2026, 70,6% pass@1 на SWE-bench Verified и 87,64% pass@1 на Terminal-Bench 2.1. Ограничения и характеристики обучения унаследованы от исходной модели; README предупреждает о возможном воспроизведении токсичных высказываний и общественных предубеждений из обучающих данных. Модель распространяется по лицензии Qwen3.8-Max, обозначенной как other.

Jakeatx подготовил GGUF-квантизацию Qwen3.8-27B для запуска через llama.cpp на одной видеокарте RTX 3090 или 3090 Ti с 24 ГБ памяти. Это диалоговая модель для генерации текста; репозиторий содержит один файл размером 13,9 ГиБ с форматом IQ4_XS и смешанным повышением точности отдельных тензоров до Q5_0, Q6_K и Q8_0. В README указано, что квантизация создана на основе BF16 GGUF Qwen3.8-27B с использованием матрицы важности Unsloth. Сборка ориентирована на скорость и длинный контекст: автор измерил окно до 245 760 токенов на RTX 3090 Ti, а для 200 000 токенов рекомендует выделить около 20,9 ГиБ под веса и контекст. По приведённым замерам скорость декодирования составляет примерно 93–108 токенов/с на контексте 16K и 44–72 токена/с на 100K, в зависимости от нагрузки. Автор ожидает качество между Q3_K_XL и Q4_K_M; сопоставительная оценка на Terminal-Bench, SciCode и GDPval ещё не завершена. Модель подходит для диалогов, программирования, поиска по длинному контексту и многошаговых задач. README отмечает, что этот репозиторий является базовой квантизированной моделью-сравнением и не включает более поздние изменения проекта Perian. Модель распространяется по лицензии Apache-2.0. Языки и мультимодальные возможности исходной модели в данных этой карточки конкретно не описаны.

Qwen3.8-27B-AWQ-5.0bpw-Sharp — мультимодальная плотная модель на базе Qwen/Qwen3.8-27B, подготовленная mrKola для запуска на Apple Silicon через oMLX. Это вариант с квантизацией AWQ 5,00 бита на параметр и группами размера 64; модель занимает около 17,36 ГБ. Архитектура сочетает GatedDeltaNet и полнослойное внимание, включает визуальный модуль и встроенную голову MTP. Базовая модель имеет контекст до 256 тысяч токенов. Модель предназначена для диалогов, анализа изображений, программирования, рассуждений и многошаговых задач; интерфейс также предусматривает вызов инструментов. Калибровка учитывала текст и изображения, включая диаграммы и фотографии. В README приведены результаты HumanEval, GSM8K и MMLU, однако они сравнивают две квантизованные сборки, а не дают независимую оценку качества. Указанные скорости измерены на M5 Max с oMLX и не гарантируют такую же производительность на другом оборудовании. Модель распространяется по лицензии Apache-2.0. Качество на длинном контексте с ускорением SpecPrefill и моделью-черновиком с несовпадающим токенизатором не измерено; README рекомендует проверять такие сценарии на собственных данных.

Qwen3.8-27B-GGUF — GGUF-квантизированная версия модели Qwen3.8-27B, подготовленная компанией ByteShape с использованием ShapeLearn. Этот метод подбирает тип данных отдельно для каждого тензора, чтобы сохранить высокое качество при малой разрядности. Модель предназначена для локального запуска на GPU через llama.cpp и поддерживает работу с изображениями благодаря встроенному vision projector. Модель ориентирована на математические задачи, программирование, общие знания, выполнение инструкций, многошаговые диалоги, мультиязычные сценарии, использование инструментов и агентные задачи. В выпуск входят пять вариантов размером от 8,8 до 13,1 ГБ и с разрядностью от 2,56 до 3,84 бит на вес, что позволяет выбирать баланс между требованиями к видеопамяти, скоростью и качеством. В GGUF также встроена MTP-голова для speculative decoding; для её использования нужен llama.cpp с соответствующими параметрами. Поддержка DFlash2 требует версии llama.cpp b10658 или новее. Сильными сторонами являются оптимизация под GPU, несколько вариантов квантизации и оценка на наборах тестов для математики, программирования, знаний, следования инструкциям и агентного использования. Ограничения включают потенциальное снижение качества по сравнению с базовой BF16-моделью из-за квантизации, необходимость подходящей видеопамяти и зависимость расширенных функций от версии llama.cpp. Модель распространяется по лицензии Apache-2.0.

Chungulus/Qwen3.8-27B-GPTQ-INT4-G128 — это квантизированный вариант базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Репозиторий содержит deployment-вариант, а не дообученную модель. Квантизация выполнена с помощью GPTQModel в формате GPTQ с 4-битными весами и размером группы 128; размер артефакта составляет около 18,2 ГиБ. Модель предназначена для генерации текста и сценариев image-text-to-text, включая работу с изображениями, кодом, отладкой, математикой, научными задачами, структурированными ответами, инструментами, многоязычными запросами и контекстами большой длины. В сборке сохранены поддержка vision и schema-valid XML tool calls. Точная длина контекста, перечень поддерживаемых языков и требования к производительности в README не указаны. К сильным сторонам относятся существенное снижение размера модели за счёт INT4-квантизации, сохранение визуальных и инструментальных возможностей, а также близость к исходной модели по численным метрикам: top-1 agreement составляет 0,9355, а logit cosine similarity — 0,9950. Ограничения включают возможное снижение качества после квантизации, зависимость совместимости от точной версии GPTQModel и родительской ревизии, а также низкую скорость на протестированной конфигурации с CPU offload: RTX 4070 12 ГБ показала медианную скорость декодирования 0,075 токена в секунду. Поддержка speculative decoding не заявлена. Модель распространяется по лицензии Apache-2.0. Тестирование проводилось с GPTQModel 7.3.4+ на NVIDIA GeForce RTX 4070 12 ГБ в WSL2 Ubuntu 24.04; приведённые показатели производительности не являются гарантией чисто GPU-режима.

JASouth/Qwen3.8-27B-IQ-Hybrid — экспериментальный набор низкобитных GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, подготовленный автором JASouth. Модель ориентирована на локальный запуск с ограниченным объёмом видеопамяти, включая потребительские GPU с 8 ГБ VRAM, и предназначена для генерации текста, программного кода, задач с длинным контекстом, многошагового рассуждения и агентских рабочих процессов. В метаданных указана категория image-text-to-text, однако подробности о поддерживаемых модальностях, языках и размере контекстного окна не приведены. Доступны варианты с разной степенью сжатия. IQ2_E_S имеет около 2,40 BPW и требует примерно 7,51 GiB памяти, благодаря чему помещается в бюджет 8 ГБ, но заметно теряет качество на сложной логике, длинной генерации и функциональном кодировании. IQ2_E_S_V2 лучше подходит для кода и агентских сценариев, включая задачи с длинным контекстом, но может зацикливаться в обычном диалоге. IQ3_E_S_V2 считается наиболее сбалансированным вариантом по качеству и размеру, демонстрируя хорошие результаты в программировании и сложном рассуждении, хотя возможны отдельные ошибки внимания и галлюцинации. Для Intel Arc вариант IQ2_E_S не рекомендуется использовать с SYCL из-за риска некорректной генерации, NaN и сбоев; требуется backend Vulkan. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-mlx-uniform-4bit — MLX-версия модели Qwen3.8-27B, подготовленная caslca на основе unsloth/Qwen3.8-27B. Модель преобразована в равномерный аффинный 4-битный формат с группами по 64 значения; заявленный размер — около 27 млрд параметров, объём весов — 15,13 ГБ. В сборку также включены 333 визуальных тензора, поэтому модель предназначена для сценариев image-text-to-text и поддерживает работу с текстом и изображениями. В README не указаны полный перечень языков и точное максимальное окно контекста, однако тесты проводились с ограничением до 262 144 токенов. Основные сценарии применения — агентное программирование, исследовательская работа, проектирование, математические задачи, генерация и анализ кода, а также базовое описание изображений. Для ускорения декодирования рекомендуется использовать отдельный MTP-компаньон caslca/Qwen3.8-27B-mlx-uniform-4bit-mtp-drafter; одобренная конфигурация предполагает MTP ON, среднюю интенсивность рассуждений и temperature 0,6. Модель ориентирована на запуск через MLX/Metal, в частности на системах Apple Silicon. К сильным сторонам относятся компактное 4-битное представление, поддержка визуального ввода, высокая производительность в проверенных тестах программирования и математики, а также сохранение качества при включённом предикторе MTP в большинстве проведённых сравнений. Результаты имеют ограничения: сравнение на MBPPPlus признано неокончательным, визуальная проверка была небольшой и не подтверждает качество на произвольных изображениях, OCR или сложных диаграммах, а отдельные тесты были exploratory и не заменяют широкую сертификацию. Модель распространяется по лицензии Apache-2.0.