I.5Создание и редактирование текста

qingy2019 дообучил плотную языковую модель Qwen2.5-14B-Instruct на базе unsloth/qwen2.5-14b-instruct-bnb-4bit на 400 шагах с использованием Unsloth и TRL. Модель содержит 14 млрд параметров, принимает текст и поддерживает генерацию текста и диалоговый режим с контекстом до 32 768 токенов. Модель предназначена для генерации ответов и диалогов общего назначения. В обучении использовался набор garage-bAInd/Open-Platypus; карточка называет модель Qwen2.5-Math, но не приводит отдельного описания математической специализации. Опубликованные результаты включают оценки IFEval и BBH, однако данных для вывода о качестве на широком наборе задач недостаточно. Модель распространяется по лицензии Apache-2.0.

Qwen2-72B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-72B-Instruct, опубликованный legraphista и основанный на модели Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в чат-приложениях и локальном inference через совместимые инструменты, в частности llama.cpp. В метаданных указан английский язык; сведения о поддержке других языков, мультимодальности и максимальном размере контекста не приведены. В репозитории доступны варианты от BF16 и FP16 до квантований Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серий. Часть вариантов создана с использованием IMatrix-калибровки, предназначенной для более эффективного квантования, а некоторые представлены в виде разделённых файлов. Размеры файлов варьируются примерно от 29,81 до 145,42 ГБ, поэтому модель требует значительных ресурсов хранения и вычислений. Ключевая характеристика — 72 миллиарда параметров; точная архитектура и контекстное окно в README не указаны. Сильной стороной является широкий выбор уровней квантования и формат GGUF, удобный для локального запуска, а IMatrix может помогать сохранять качество при уменьшении размера модели. Ограничениями остаются высокая требовательность к памяти и производительности, а также возможная потеря качества в более агрессивных вариантах квантования. Модель распространяется по лицензии tongyi-qianwen; указана лицензия типа other со ссылкой на лицензию исходной модели Qwen2-72B-Instruct.

fedric95/Qwen2-7B-GGUF — набор GGUF-квантизаций базовой языковой модели Qwen2-7B, опубликованный пользователем fedric95. Модель предназначена для генерации текста и диалоговых сценариев, а также для локального запуска через llama.cpp. В метаданных указаны английский язык и задача text-generation. Модель содержит около 7 млрд параметров и представлена в вариантах BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, Q3_K_L, Q3_K_M, Q3_K_S и Q2_K. Размер файлов варьируется от 3,02 до 15,2 ГБ. Более сильная квантизация обычно требует меньше памяти, но может снижать качество: например, значение perplexity на wikitext-2-raw-v1.test составляет 7,3817 для Q8_0, 7,4796 для Q4_K_M и 10,5122 для Q2_K. Для отдельных вариантов приведены результаты WinoGrande, HellaSwag и MMLU в режиме zero-shot. Сильные стороны модели — широкий выбор уровней квантизации и возможность подбора компромисса между размером, требованиями к памяти и качеством. Ограничения включают отсутствие данных о длине контекста, мультимодальности, дополнительных языках и конкретных требованиях к аппаратному обеспечению; приведённые результаты не описывают все реальные сценарии применения. Лицензия — Apache-2.0.

legraphista/Qwen2-7B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-7B-Instruct, разработанной командой Qwen и дополнительно квантизированной пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через совместимые с GGUF инструменты и llama.cpp. Модель содержит около 7 миллиардов параметров и создана на основе исходной версии с форматом BF16. Доступны варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда низкобитных вариантов применена IMatrix — калибровочная матрица, призванная сохранить качество при уменьшении размера модели. Размеры файлов варьируются примерно от 3,02 до 15,24 ГБ. В карточке указана поддержка английского языка; сведения о контекстном окне и дополнительных модальностях отсутствуют. Основные преимущества — большое количество вариантов квантования, возможность подобрать баланс между размером, требованиями к памяти и качеством, а также поддержка формата GGUF. Низкобитные версии экономичнее по ресурсам, но могут сильнее терять качество по сравнению с BF16 или FP16. Точные характеристики производительности, контекстного окна и поведения на других языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

munish0838/Qwen2-7b-Matter-0.1-Slim-A — дообученная языковая модель на архитектуре Qwen2 с 7,1 млрд параметров, созданная munish0838 на базе unsloth/Qwen2-7b-bnb-4bit. Модель предназначена для генерации текста в диалоговом формате и поддерживает английский язык. Для обучения использовались Unsloth и библиотека Hugging Face TRL; заявленный размер контекстного окна — 131 072 токена. Модель можно применять для генерации ответов и ведения текстовых диалогов. Она распространяется по лицензии Apache-2.0. Подробные сведения о наборе обучающих данных и оценке качества в карточке не приведены.

simonbutt/qwen2-7b-tofutune — разговорная текстовая модель генерации, разработанная simonbutt путём дообучения unsloth/Qwen2-7B-bnb-4bit. Она предназначена для диалоговых сценариев и генерации текста. Модель построена на плотной архитектуре Qwen2ForCausalLM с 7,1 млрд параметров; максимальная длина контекста — 131072 токена. В метаданных указан английский язык. Модель сохранена в формате safetensors и распространяется по лицензии Apache-2.0. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. README не описывает специализацию дообучения, набор данных или сравнительные результаты, поэтому назначение ограничивается общими диалоговыми сценариями и генерацией текста.

Qwen2-Mix-7B — разговорная языковая модель на архитектуре Qwen2, созданная bunnycore путём объединения нескольких моделей с помощью mergekit. Репозиторий содержит веса в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Объединение включает bunnycore/Qwen-Mix-7B, maywell/Qwen2-7B-Multilingual-RP и cognitivecomputations/dolphin-2.9.2-qwen2-7b; в конфигурации mergekit указаны метод model_stock и формат bfloat16. Лицензия — Apache-2.0. Модель унаследовала мультиязычную направленность одной из базовых моделей и ориентирована на чат, однако README не приводит результаты оценки качества или подробный перечень языков и специальных навыков. Как и другие генеративные языковые модели, она может выдавать неточные или выдуманные сведения.

Qwen3-0.6B-GGUF — компактная языковая модель семейства Qwen3, разработанная Alibaba Cloud и представителями команды Qwen. Это causal language model с предварительным обучением и последующей настройкой, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, а также интеграции с внешними инструментами. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к embedding, имеет 28 слоёв и использует Grouped-Query Attention с 16 головами для Q и 8 для KV. Длина контекста заявлена до 32 768 токенов. Представлена в формате GGUF с квантизацией q8_0, что делает её подходящей для локального запуска через llama.cpp и Ollama при ограниченных вычислительных ресурсах. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Ключевая особенность Qwen3 — переключение между режимами thinking для сложных задач и рассуждений и non-thinking для более быстрых ответов и обычного диалога. Сильными сторонами являются компактность, поддержка многоязычных сценариев, диалоговые возможности, следование инструкциям и пригодность для локального использования. Ограничения включают небольшой по современным меркам размер, возможное снижение качества на сложных задачах по сравнению с более крупными моделями, а также необходимость подбора параметров генерации; README отдельно предупреждает о повторениях при жадном декодировании в thinking mode. Модель распространяется по лицензии Apache-2.0.

Qwen/Qwen3-0.6B-MLX-bf16 — версия модели Qwen3, подготовленная для запуска с библиотекой MLX. Это плотная авторегрессионная языковая модель с 507,9 млн параметров, основанная на Qwen/Qwen3-0.6B-Base; в репозитории указаны веса safetensors и лицензия Apache-2.0. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математических задач, генерации кода, перевода и сценариев с вызовом инструментов. Модель поддерживает режимы с рассуждениями и без них, которые можно переключать при формировании запроса. Карточка описывает поддержку более 100 языков и диалектов. Контекст в метаданных указан как 40 960 токенов; README базовой модели приводит 32 768 токенов. Модель компактна по числу параметров и рассчитана на запуск через MLX, однако карточка не приводит отдельной оценки качества именно этой версии на конкретных задачах. Как и другие небольшие языковые модели, она может ошибаться в фактах, рассуждениях и коде; для режима рассуждений важен подбор параметров генерации.

TeichAI/Qwen3-14B-GPT-5.2-High-Reasoning-Distill — плотная авторегрессионная языковая модель семейства Qwen3 на 14 млрд параметров, дообученная TeichAI на базе unsloth/Qwen3-14B. Модель предназначена для генерации текста и диалогового взаимодействия; карточка также указывает интерфейс вызова инструментов. Длина контекста составляет 40 960 токенов. Модель обучена на наборе TeichAI/gpt-5.2-high-reasoning-250x с использованием Unsloth и библиотеки TRL от Hugging Face. Она может применяться для диалоговых ответов и генерации текста с рассуждениями. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных результатов тестирования.

k1nto/Qwen3-14B-Q5_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen3-14B, преобразованная пользователем k1nto в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и запуска локального вывода через llama.cpp, включая режим командной строки и серверный режим. Известно, что модель содержит около 14 миллиардов параметров и использует квантизацию Q5_K_M, которая уменьшает требования к памяти по сравнению с полноразмерной версией, сохраняя значительную часть качества. Поддерживаются сценарии диалога, дополнения текста и другие задачи генерации, совместимые с базовой моделью Qwen3-14B. Точные архитектурные особенности, список языков и размер контекстного окна в представленном README не указаны. Преимуществами являются компактный GGUF-формат, совместимость с llama.cpp и возможность локального запуска на подходящем CPU или GPU. Ограничения включают потенциальную потерю качества из-за квантизации, зависимость от настроек и аппаратных ресурсов, а также отсутствие в README подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Qwen3-14B-sk — словацкая языковая версия языковой модели Qwen3 с 14 млрд параметров. Её создали специалисты Технического университета в Кошице, Словацкой академии наук и ČZ, o.z.; модель получена полным дообучением Qwen/Qwen3-14B на словацких веб-текстах, словарных данных и материалах энциклопедии Beliana. Модель предназначена для генерации текста и диалогов на словацком языке. Её можно использовать для ответов на вопросы, подготовки текстов и других задач, где нужна языковая модель, ориентированная на словацкий. Она работает через библиотеку Transformers, принимает текст и выдаёт текст; заявленная длина контекста — 40 960 токенов. В ответах модель иногда повторяется, а её уровень галлюцинаций сопоставим с другими моделями похожего масштаба. Модель не оснащена фильтрацией безопасности или модерацией вывода. Лицензия — Apache 2.0.

SamMikaelson дообучил Qwen3-1.7B на базе unsloth/qwen3-1.7b-unsloth-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная авторегрессионная языковая модель с 1,7 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также указана возможность интерфейса вызова инструментов. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет контекстное окно до 40 960 токенов. Модель подходит для текстовых диалогов и генерации ответов на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0; карточка не описывает отдельные результаты оценки качества или специализацию по конкретной предметной области.

Qwen3-1.7B-cpt-tesi_all — дообученная модель на базе Qwen/Qwen3-1.7B, опубликованная пользователем ferrazzipietro. Это плотная авторегрессионная языковая модель на 1,7 млрд параметров для генерации текста и диалогов; в каталоге указана поддержка чата. Она принимает текст и генерирует текст, использует библиотеку Transformers и формат весов safetensors. Базовая модель поддерживает несколько языков и рассчитана на генерацию, рассуждения, код и выполнение инструкций, однако сведения о датасете и специализации этого дообучения отсутствуют, поэтому приписывать ему отдельные навыки нельзя. Длина контекста составляет 40 960 токенов. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-235B-A22B-Instruct-2507-8bit — это 8-битная версия модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и работы в диалоговом формате через chat template, если он доступен в токенизаторе. Модель ориентирована на задачи инструкционного следования и текстовой генерации, включая ответы на пользовательские запросы и другие сценарии, поддерживаемые исходной моделью Qwen3. Из доступных данных известны размерная маркировка 235B-A22B и 8-битное представление, однако сведения об архитектуре, фактически активируемом числе параметров, языках, максимальном контексте, производительности и системных требованиях не приведены. Лицензия — Apache 2.0. README не содержит результатов тестирования и подробностей об ограничениях или рекомендуемых сценариях эксплуатации.

DavidAU/Qwen3-24B-A4B-Freedom-Thinking-Abliterated-Heretic-NEO-Imatrix-GGUF — текстовая генеративная модель на базе Qwen3, созданная DavidAU как смесь шести моделей-экспертов размером 4B параметров. В состав входят варианты Jan v1, Apollo, а также дистилляции моделей Claude, Gemini и Polaris. Каждый эксперт был модифицирован методом Heretic для снижения числа отказов и ограничений на генерацию. Модель имеет архитектуру Dense Mixture of Experts: по умолчанию активен один эксперт, но можно задействовать до шести, что соответствует заявленным уровням мощности от 4B до 24B параметров. Заявленный размер контекста — 256K токенов; поддерживается английский язык и формат GGUF с различными квантованиями. Модель предназначена для широкого спектра задач: ответов на вопросы, программирования, математики, обучения, рассуждений, написания художественных текстов, ролевых сценариев, генерации сюжетов и сцен, а также создания контента с выраженной тематикой, включая хоррор, ненормативную лексику и эротические материалы. Это полнофункциональная reasoning-модель, ориентированная на следование подробным инструкциям и формирование компактного, но детального плана рассуждений. По заявлению автора, она может запускаться на GPU и CPU, а увеличение числа активных экспертов повышает вычислительную нагрузку и потенциальную мощность. К сильным сторонам относятся большой контекст, гибкое масштабирование числа активных экспертов, поддержка рассуждений и широкий диапазон сценариев использования. Ограничения включают преимущественно заявленный автором, а не независимо подтверждённый характер характеристик, необходимость более явно задавать желаемый уровень грубости или откровенности и возможные риски, связанные с нецензурированным содержанием. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A1.5B-High-Speed — текстовая MoE-модель, которую DavidAU дообучил на основе Qwen/Qwen3-30B-A3B-Base. Вариант использует четыре эксперта из 128 вместо восьми, что, по заявлению автора, примерно вдвое повышает скорость генерации; README сообщает об использовании 1,5 млрд активных параметров из 30 млрд, тогда как метаданные указывают 2,6 млрд параметров. Модель предназначена для диалогов и генерации текста, а также поддерживает интерфейс вызова инструментов. Автор сообщает о контексте 32K токенов и дополнительных 8K для вывода; метаданные каталога указывают нативное окно в 40 960 токенов. Репозиторий содержит веса SafeTensors для использования через Transformers и как исходник для создания квантованных вариантов. Автор приводит примеры прироста скорости на CPU и GPU, но отмечает, что тестирование качества было ограниченным и более сложные задачи могут лучше работать на обычном варианте или версии с большим числом активных экспертов. Для запуска предлагается использовать шаблон Jinja или ChatML. Модель многоязычная, но конкретные языки в карточке не перечислены. Лицензия в предоставленных данных не указана.

mlx-community/Qwen3-30B-A3B-4bit — это 4-битная версия модели Qwen3-30B-A3B, преобразованная в формат MLX из базовой модели Qwen/Qwen3-30B-A3B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска в среде MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple Silicon. Ключевые характеристики включают формат MLX, 4-битное квантование и назначение text-generation. README не содержит сведений о точной архитектуре, количестве активных и общих параметров, поддерживаемых языках, размере контекста, модальностях, результатах тестирования, сильных сторонах и ограничениях качества. Модель распространяется по лицензии Apache 2.0.

Карточка модели cashxout/Qwen3-30B-A3B-Claude-4.5-Opus-High-Reasoning-2507-ABLITERATED-UNCENSORED-V2 на Hugging Face совпадает с карточкой DavidAU/Qwen3-30B-A3B-Claude-4.5-Opus-High-Reasoning-2507-ABLITERATED-UNCENSORED-V2, поэтому описание составлено по ней. DavidAU выпустил эту диалоговую модель на основе Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated, дообучив её с помощью Unsloth на наборе TeichAI/claude-4.5-opus-high-reasoning-250x. Это генеративная языковая модель семейства Qwen3 MoE: всего около 30 млрд параметров, из которых активны примерно 3 млрд; метаданные каталога указывают 2,6 млрд параметров. Архитектура использует 128 экспертов, обычно активируя 8 за раз. Модель предназначена для диалогов, следования инструкциям и генерации ответов с рассуждениями. Автор отмечает, что блоки рассуждений обычно короче, чем у исходной Qwen, и что модель стремится реже отказывать, в том числе при запросах на взрослый или откровенный контент. Для таких ответов может потребоваться явно задать желаемый стиль и лексику. Заявленные автором результаты на бенчмарках не сопровождаются полными данными в карточке, поэтому их нельзя считать независимой оценкой качества. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык и поддерживает контекст до 262 144 токенов. Файлы репозитория представлены в формате safetensors; указана лицензия Apache-2.0.

DavidAU выпустил эту диалоговую модель на основе Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated, дообучив её с помощью Unsloth на наборе TeichAI/claude-4.5-opus-high-reasoning-250x. Это генеративная языковая модель семейства Qwen3 MoE: всего около 30 млрд параметров, из которых активны примерно 3 млрд; метаданные каталога указывают 2,6 млрд параметров. Архитектура использует 128 экспертов, обычно активируя 8 за раз. Модель предназначена для диалогов, следования инструкциям и генерации ответов с рассуждениями. Автор отмечает, что блоки рассуждений обычно короче, чем у исходной Qwen, и что модель стремится реже отказывать, в том числе при запросах на взрослый или откровенный контент. Для таких ответов может потребоваться явно задать желаемый стиль и лексику. Заявленные автором результаты на бенчмарках не сопровождаются полными данными в карточке, поэтому их нельзя считать независимой оценкой качества. Модель принимает и генерирует текст, рассчитана прежде всего на английский язык и поддерживает контекст до 262 144 токенов. Файлы репозитория представлены в формате safetensors; указана лицензия Apache-2.0.

6block/Qwen3-30B-A3B-GGUF — это квантизированная GGUF-версия модели Qwen3-30B-A3B, разработанной командой Qwen и подготовленной пользователем 6block. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, IQ3_M и Q2_K с размером файлов примерно от 11,26 до 32,48 ГБ, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Квантизация выполнена с использованием imatrix и двуязычного англо-китайского набора данных с большим количеством программного кода, поэтому младшие варианты квантования должны лучше сохранять способности к работе с китайским языком и кодом по сравнению с калибровкой только на английских данных. Заявлены английский и китайский языки; другие модальности, размер контекста и точная архитектура в README не указаны. Модель ориентирована на локальные сценарии текстовой генерации и программирования, но низкобитные варианты могут заметно уступать по качеству более крупным квантам. Распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B-Instruct-2507-GGUF — это набор файлов модели в формате GGUF для оригинальной модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen. Квантизацию и публикацию набора выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в локальных приложениях и сервисах, поддерживающих GGUF. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат совместим с llama.cpp и рядом инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, candle и другие. Архитектура, число активных параметров, модальности, языки и размер контекста в README не указаны. Сильная сторона модели — возможность локального запуска и выбора уровня квантизации в зависимости от доступного оборудования. Ограничения связаны с тем, что качество и производительность конкретного варианта зависят от выбранной разрядности и совместимого программного окружения. Лицензия в предоставленных данных не указана.

lmstudio-community/Qwen3-30B-A3B-MLX-8bit — это конвертированная в формат MLX 8-битная версия языковой модели Qwen3-30B-A3B, разработанной Qwen и опубликованной сообществом lmstudio-community. Конвертация выполнена с использованием mlx-lm версии 0.24.0. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через chat template при его наличии. Она ориентирована на запуск с библиотекой mlx-lm, преимущественно в экосистеме Apple MLX. В README не указаны поддерживаемые языки, размер контекста, точная архитектура исходной модели, модальности помимо текста и результаты оценки качества. Ключевая характеристика этой версии — 8-битное представление в формате MLX, потенциально подходящее для более эффективного локального запуска по сравнению с полноформатной моделью, однако конкретные требования к памяти и производительности не приведены. Ограничения и области применения следует оценивать по исходной модели Qwen3-30B-A3B; дополнительные сведения о них в README отсутствуют. Модель распространяется по лицензии Apache-2.0.

Dohyeon1/Qwen3-30B-A3B-Sub-MoE-ngroups96-adaptive — языковая модель для генерации текста, опубликованная пользователем Dohyeon1 на Hugging Face. По метаданным она предназначена для text-generation и работает с библиотекой Transformers; в тегах указаны архитектура Qwen3 MoE и conversational-сценарии. Название модели указывает на вариант Qwen3 с разреженной MoE-архитектурой, адаптивной группировкой и 96 группами, однако подробности архитектуры в карточке не описаны.

Qwen3-30B-A3B-Thinking-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-30B-A3B-Thinking-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm и оптимизировано для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и локального запуска в сценариях, где важны совместимость с экосистемой Apple и сниженное потребление памяти по сравнению с полноразмерной версией. Архитектура, поддерживаемые языки, размер контекстного окна, модальности и специализированные задачи в README не указаны. Известно, что модель относится к семейству Qwen3 и имеет конфигурацию 30B-A3B, а 4-битное представление обеспечивает более эффективное развертывание, потенциально с компромиссом между требованиями к ресурсам и точностью. Модель распространяется по лицензии Apache-2.0. Следует учитывать, что квантованная версия может наследовать ограничения исходной модели, включая вероятность неточных, вредных или неподходящих ответов.

mlx-community/Qwen3-32B-4bit — это 4-битная квантизированная версия языковой модели Qwen3-32B, преобразованная сообществом mlx-community из исходной модели Qwen/Qwen3-32B в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с сообщениями через chat template. Ключевая характеристика модели — размер исходной модели 32B параметров и 4-битное представление, что снижает требования к памяти по сравнению с полноточной версией и делает модель подходящей для запуска в экосистеме MLX. В README не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, мультимодальные возможности и результаты оценки качества. Сильными сторонами являются совместимость с MLX и более экономичное потребление памяти благодаря квантизации. Ограничения включают возможную потерю качества из-за 4-битного представления, зависимость от инструментов mlx-lm и отсутствие в предоставленных данных подробных сведений о производительности и языковой поддержке. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Qwen3-32B-GGUF — это набор квантованных файлов модели Qwen3-32B в формате GGUF. Исходную модель разработала команда Qwen, а конвертацию и публикацию квантованных вариантов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; возможны ускорение на GPU и предоставление OpenAI-совместимого API в зависимости от используемого ПО. Карточка не содержит подробностей об архитектуре, количестве параметров исходной модели, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или конкретных ограничениях качества. Условия лицензирования в README также не указаны, поэтому их следует уточнить на странице исходной модели Qwen/Qwen3-32B и публикации квантованных файлов.

ChuGyouk/Qwen3-4B-DeepWriting-SFT — это дообученная модель генерации текста на основе unsloth/Qwen3-4B-Base, разработанная ChuGyouk и обученная с помощью TRL. Она предназначена для создания развернутых текстовых ответов и диалогового использования; пример в карточке показывает ответ на вопрос с аргументацией выбора. Модель содержит 3,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и рассчитана на контекст до 32 768 токенов. Для работы указаны Transformers и формат весов safetensors. Лицензия в доступных данных не указана.

Archsloth/Qwen3-4B-GGUF — это квантизированная GGUF-версия языковой модели Qwen3-4B, разработанная Archsloth на базе Qwen/Qwen3-4B. Модель предназначена для генерации текста, диалоговых сценариев, программирования и локального запуска через llama.cpp, в том числе на CPU и устройствах с ограниченными ресурсами. Доступны варианты квантизации Q4_K_M, Q6_K и Q8_0 с размером файлов примерно от 2,50 до 4,28 ГБ. Архитектура и структура тензоров соответствуют базовой модели Qwen3-4B, однако README не указывает точное число параметров, максимальный контекст и полный набор архитектурных характеристик. Заявлена поддержка корейского, английского, испанского, японского, китайского, русского, арабского, хинди и тайского языков, а также исходного кода. Для варианта Q4_K_M приведены измерения KL-дивергенции, показывающие более близкое соответствие исходной модели bf16 по сравнению с рядом альтернативных квантизаций аналогичного размера. Основные преимущества — компактный размер, возможность локального CPU-запуска и улучшенные заявленные показатели сохранения качества после квантизации, особенно для корейского языка и программного кода. Ограничения связаны с потерями качества квантизации, потребностью в значительном объёме памяти при длинном контексте и отсутствием в README подробных данных о производительности, мультимодальности и максимальной длине контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-GGUF — квантизированная GGUF-версия языковой модели Qwen3-4B, разработанной Qwen и подготовленной квантизацией компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через LlamaEdge. README указывает поддержку английского языка, текстовую модальность и контекстное окно до 128 000 токенов. Доступны варианты с квантизацией от 2 до 8 бит, а также f16, размером примерно от 1,67 до 8,05 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между размером и качеством, тогда как низкобитные варианты экономят память, но могут заметно терять в качестве. Для работы используются шаблоны prompt type chatml и qwen3-no-think; поддерживаются режимы с рассуждением и без него. Модель можно запускать как сервис или командное приложение LlamaEdge при наличии совместимой версии. Лицензия указана как qwen-research; подробные условия приведены в лицензии исходной модели Qwen/Qwen3-4B. README не содержит сведений о точной архитектуре, обучающем наборе данных, результатах тестирования или ограничениях безопасности, поэтому эти характеристики нельзя достоверно оценить по представленным данным.