I.5Создание и редактирование текста

Карточка модели Hellbound237/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Карточка модели Tofilhehe/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

QuantFactory/Qwen3-0.6B-GGUF — квантизированная версия языковой модели Qwen3-0.6B, созданная QuantFactory на основе базовой модели Qwen/Qwen3-0.6B с использованием llama.cpp. Это каузальная языковая модель для генерации текста, диалогов, следования инструкциям, решения математических и логических задач, написания кода, творческих сценариев и интеграции с внешними инструментами. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к embedding, и включает 28 слоёв. Используется Grouped Query Attention: 16 голов для запросов и 8 для ключей и значений. Максимальная длина контекста составляет 32 768 токенов. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Она умеет переключаться между режимами thinking для сложных рассуждений, математики и программирования и non-thinking для более быстрого универсального диалога. К сильным сторонам относятся малый размер, поддержка квантизированного формата GGUF, многоязычность, рассуждения, диалоговые и агентские сценарии. Ограничения включают меньшую ёмкость по сравнению с более крупными моделями и возможные повторения при неудачных параметрах генерации; в исходной документации для таких случаев рекомендуется настроить sampling и presence_penalty. Данные о конкретном варианте квантизации, требованиях к памяти и производительности не указаны. Модель распространяется по лицензии Apache-2.0.

JunHowie/Qwen3-0.6B-GPTQ-Int4 — это 4-битная GPTQ-квантизованная версия языковой модели Qwen3-0.6B, опубликованная JunHowie на базе модели Qwen/Qwen3-0.6B, разработанной командой Qwen. Она предназначена для генерации текста, диалогов, следования инструкциям, решения задач, программирования, перевода и других сценариев применения причинных языковых моделей, включая локальный запуск и развёртывание через vLLM. Модель имеет архитектуру causal language model, 0,6 млрд параметров, из которых 0,44 млрд не относятся к эмбеддингам, 28 слоёв и механизм GQA с 16 головами для Q и 8 для KV. Максимальная длина контекста составляет 32 768 токенов. Qwen3 поддерживает более 100 языков и диалектов, а также переключение между режимами рассуждения и обычной генерации. Квантизация выполнена до 4 бит с размером группы 128; параметр desc_act установлен в false, что, согласно README, повышает эффективность по скорости генерации токенов по сравнению с более ранними квантизованными версиями. К сильным сторонам относятся небольшой размер, сниженные требования к памяти, поддержка мультиязычных задач, диалогов, рассуждений и интеграции с инструментами, а также совместимость с vLLM при наличии версии не ниже 0.9.2. Ограничениями являются малый масштаб модели по сравнению с крупными версиями Qwen3 и возможное снижение качества из-за 4-битной квантизации; конкретные результаты бенчмарков и требования к аппаратному обеспечению в README не приведены. Модель распространяется по лицензии Apache 2.0.

MLX-версия модели Qwen3-14B, разработанной командой Qwen и преобразованной сообществом mlx-community из исходной модели Qwen/Qwen3-14B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и может применяться в сценариях диалогового взаимодействия и других задачах, требующих текстовой генерации, включая локальный запуск через библиотеку MLX. Модель имеет размер 14 миллиардов параметров и представлена в 8-битном формате квантования. Она работает с текстовой модальностью; поддержка конкретных языков и размер контекстного окна в предоставленных данных не указаны. Для использования предусмотрена библиотека mlx-lm и чат-шаблон токенизатора, если он доступен. К сильным сторонам относятся адаптация к экосистеме MLX и уменьшенный объём хранения и требования к памяти благодаря 8-битному представлению. Ограничения включают зависимость от MLX и отсутствие в README подробных данных о результатах оценки, языковых возможностях и контексте. Модель распространяется по лицензии Apache-2.0.

Qwen3-14B-MLX-4bit — это 4-битная версия языковой модели Qwen3-14B, разработанная Qwen и преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm версии 0.24.0. Модель предназначена для генерации текста и запуска локальных сценариев на устройствах, совместимых с MLX, включая применение через библиотеку mlx-lm. Модель основана на Qwen/Qwen3-14B и содержит 14 миллиардов параметров. Она относится к моделям text-generation и поддерживает работу с текстовыми запросами; в README не указаны точные языки, длина контекста, дополнительные модальности или подробности архитектуры. При наличии chat template модель может использоваться в формате диалога с ролями пользователя и ассистента. Ключевые преимущества — компактное 4-битное представление, адаптация к экосистеме MLX и возможность локального запуска через стандартные инструменты mlx-lm. Ограничения связаны с потерями качества, возможными для квантизированной версии, а также с отсутствием в README подробных данных о производительности, поддерживаемых языках и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0.

NVIDIA Qwen3-14B NVFP4 — квантизированная версия авторегрессионной языковой модели Qwen3-14B, разработанной Alibaba и подготовленной с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может использоваться в AI-агентах, чат-ботах, RAG-системах и других приложениях на основе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 14,8 млрд параметров. Она принимает и генерирует текстовые последовательности, поддерживает контекст до 131K токенов и использует квантизацию весов и активаций линейных операторов в трансформерных блоках до формата FP4. Модель подготовлена для инференса через TensorRT-LLM, оптимизирована для систем с GPU NVIDIA, включая микроархитектуру Blackwell, и рассчитана прежде всего на Linux. Версия Model Optimizer — 0.35.0. К сильным сторонам относятся уменьшенное представление модели за счёт FP4-квантизации, поддержка длинного контекста и возможность производительного развёртывания на совместимом оборудовании NVIDIA. Ограничения включают зависимость от TensorRT-LLM и совместимой NVIDIA-платформы; сведения о языках, результатах тестирования, обучающих данных и характеристиках качества в карточке не раскрыты. Использование регулируется лицензией Apache 2.0 и допускается для коммерческих и некоммерческих задач.

pmercenary/Qwen3-1.7B-base-MED — текстовая генеративная модель семейства Qwen3 с 1,7 млрд параметров. В метаданных указаны архитектурное семейство Qwen3, библиотека Transformers, обучение с использованием SFT и поддержка conversational-сценариев. Максимальная длина контекста составляет 32 768 токенов. Разработчик, базовая модель, языки и лицензия в доступных материалах не указаны. Модель предназначена для генерации текста и может использоваться для продолжения заданного текста, подготовки черновиков и построения диалоговых приложений при соответствующем формате входных данных. README не содержит сведений о тренировочных данных, результатах оценки, целевых предметных областях или специальных медицинских возможностях; обозначение MED в идентификаторе само по себе не подтверждает медицинскую специализацию.

Модель luigisaetta/qwen3-1.7b-lora-merged — версия Qwen3-1.7B с объединённым локальным LoRA-адаптером, опубликованная как самостоятельная модель Transformers. Она предназначена для генерации текста и диалогов; метаданные отмечают поддержку чата. Модель плотной архитектуры Qwen3ForCausalLM содержит 1,7 млрд параметров и поддерживает контекст до 40 960 токенов. Языковые возможности унаследованы от многоязычной базовой Qwen3, однако целевые языки и конкретные улучшения дообучения не описаны. Модель основана на Qwen/Qwen3-1.7B и сохранена в формате safetensors. LoRA-адаптер слит с базовыми весами, поэтому для использования не требуется отдельно подключать адаптер. Лицензия — Apache-2.0. Данные дообучения приватны и в репозитории отсутствуют; перед распространением следует проверить поведение дообученной модели и лицензионные условия базовой модели.

RedHatAI/Qwen3-1.7B-quantized.w4a16 — компактная языковая модель для генерации текста, разработанная Red Hat совместно с Neural Magic на основе Qwen/Qwen3-1.7B от Qwen. Модель предназначена для рассуждений, function calling, многоязычного следования инструкциям, перевода и создания специализированных решений после дообучения. Она принимает текст и генерирует текст, поддерживая архитектуру Qwen3ForCausalLM и контекст длиной до 40960 токенов в конфигурации оценки. Ключевая особенность модели — INT4-квантизация весов линейных операторов в трансформерных блоках. Используется асимметричная поканальная по группам схема с размером группы 64 и алгоритм GPTQ, реализованный в llm-compressor; веса lm_head не квантизуются. Переход с 16 до 4 бит уменьшает размер на диске и требования к GPU-памяти примерно на 75%, что делает модель более удобной для эффективного развертывания, в частности через vLLM. К ограничениям относятся возможные потери качества, связанные с квантизацией, а также отсутствие в README количественных результатов оценки и подробного перечня поддерживаемых языков. Лицензия модели — Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

OP12138/qwen3-1.7b-safechain — дообученная авторами репозитория модель Qwen3-1.7B на датасете safechain. Она предназначена для генерации текста и диалогового взаимодействия; метаданные отмечают поддержку чата и указывают архитектуру Qwen3ForCausalLM с плотной сетью и 1,7 млрд параметров. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет 40 960 токенов. Базовая модель Qwen3 описана как многоязычная.

mlx-community/Qwen3-30B-A3B-8bit — версия модели Qwen/Qwen3-30B-A3B, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm. Из доступных данных известно, что модель относится к семейству Qwen, имеет обозначение 30B-A3B и 8-bit представление. Она поддерживает текстовый pipeline, токенизатор с chat template при его наличии и диалоговый формат сообщений. Конкретные сведения об архитектуре, языках, размере контекста, модальностях, производительности и ограничениях в README не указаны. Модель распространяется по лицензии Apache-2.0. Для использования требуется установить mlx-lm и загружать модель через API MLX.

MLX-версия инструкционной языковой модели Qwen3-30B-A3B-Instruct-2507, разработанной командой Qwen и конвертированной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и диалогового взаимодействия, включая выполнение пользовательских инструкций в приложениях на базе mlx-lm. Из README известно, что модель представлена в 4-битном формате квантования и распространяется как text-generation-модель. Архитектура, общее число параметров, число активных параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Преимущество версии заключается в адаптации для экосистемы MLX; ограничением является отсутствие подробных сведений о характеристиках, качестве и производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; приведённый пример ориентирован на запуск через Python и применение chat template токенизатора.

Qwen3-30B-A3B-Instruct-2507-GGUF — это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанная ByteShape с использованием технологии ShapeLearn. ShapeLearn подбирает оптимальный тип данных для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и может использоваться для локального запуска через llama.cpp и Ollama на CPU и GPU. Доступны варианты с разной степенью квантизации: от 2,66 до 4,67 бит на вес и размером примерно от 10,2 до 17,8 ГБ. Варианты KQ оптимизированы для CPU и преимущественно используют KQ-квантизацию, а варианты IQ — для GPU и применяют гибридный подход KQ и IQ. По приведённым бенчмаркам нормализованное качество составляет до 99,75% относительно используемых базовых вариантов, однако конкретный результат зависит от выбранного файла и оборудования. Архитектура, поддерживаемые языки, модальности и размер контекста в README не указаны. Основные преимущества модели — широкий выбор компромиссов между размером, скоростью и качеством, а также поддержка CPU и GPU, включая использование на компактных устройствах, согласно материалам разработчика. Ограничения связаны с потерями качества при сильной квантизации, зависимостью производительности от оборудования и тем, что обозначения IQ и KQ не соответствуют стандартным профилям llama.cpp. Модель распространяется по лицензии Apache-2.0.

YOYO-AI/Qwen3-30B-A3B-Mixture-2507 — объединённая модель от YOYO-AI на архитектуре Qwen3 MoE. Она создана слиянием Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-30B-A3B-Instruct-2507 методом nuslerp; в README указаны параметры float32 для слияния и bfloat16 для выходных весов. Модель предназначена для диалогов, выполнения инструкций и генерации текста, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Метаданные указывают английский и китайский языки, активный размер — 2,6 млрд параметров, контекст — до 262 144 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Практическое качество и ограничения отдельно не описаны; характеристики унаследованных режимов Instruct и Thinking для объединённой модели не уточнены.

Dohyeon1/Qwen3-30B-A3B-M-SMoE-ngroups96 — языковая модель семейства Qwen3 с архитектурой Qwen3 MoE, опубликованная пользователем Dohyeon1 на Hugging Face. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, написание и продолжение текстов, а также интеграцию в приложения на базе Transformers. Модель доступна в формате Safetensors и имеет тег conversational. По метаданным модель содержит 2,6 млрд параметров и поддерживает контекст длиной до 40 960 токенов. Основной стек запуска — библиотека Transformers. README не содержит сведений о разработчике, языках, лицензии, обучающих данных, результатах оценки или специальных ограничениях использования, поэтому эти характеристики нельзя достоверно определить по предоставленным данным.

Dohyeon1/Qwen3-30B-A3B-M-SMoE-ngroups96-adaptive — модель генерации текста на базе архитектуры Qwen3 MoE с адаптивной группировкой и 96 группами, опубликованная пользователем Dohyeon1 на Hugging Face. В метаданных указано 2,6 млрд параметров и нативное контекстное окно до 40 960 токенов; модель предназначена для работы через библиотеку Transformers и поддерживает формат conversational. Модель подходит для генерации продолжений текста, диалоговых ответов, черновиков и других сценариев text-generation, где требуется контекстное окно большого размера. README создан автоматически и не содержит сведений о разработчике, языках, обучающих данных, результатах оценки, лицензии, рекомендуемых сценариях или ограничениях, поэтому эти характеристики нельзя достоверно определить по предоставленным источникам.

RedHatAI/Qwen3-30B-A3B-NVFP4 — квантизированная версия языковой модели Qwen/Qwen3-30B-A3B, разработанная RedHatAI. Модель принимает и генерирует текст и предназначена для задач генерации текста, включая диалоговые сценарии и развёртывание через vLLM с OpenAI-совместимым сервером. Модель использует архитектуру Qwen3-30B-A3B, однако в представленном README не указаны подробности о числе параметров активной части, размере контекста и точном наборе поддерживаемых языков. Веса и активации линейных операторов в трансформерных блоках квантизированы в формат FP4; квантизация выполнена с помощью LLM Compressor, а модель подготовлена для инференса в vLLM версии 0.9.1 и выше. Переход с 16 до 4 бит на параметр уменьшает размер модели на диске и требования к памяти GPU примерно на 75%, что является её основным преимуществом. К ограничениям относятся возможная потеря качества по сравнению с неквантизированной моделью и зависимость от совместимого программного стека и аппаратной поддержки. README отдельно ограничивает использование сценариями, соответствующими применимым законам и требованиям экспортного контроля, а также указывает использование на английском языке вне заявленной области применения. Модель распространяется по лицензии Apache-2.0.

Dohyeon1/Qwen3-30B-A3B-Sub-MoE-ngroups64-adaptive — языковая генеративная модель на базе архитектуры Qwen3 MoE, доступная для использования через библиотеку Transformers. По метаданным модель содержит 2,6 млрд параметров и поддерживает контекст до 40 960 токенов; назначение и сведения о разработчике в README не описаны. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, продолжение текста и интеграцию в приложения на базе Transformers. Метаданные также указывают на conversational-режим и формат safetensors. Сильными сторонами являются поддержка длинного контекста и специализированная MoE-архитектура, отражённая в названии и тегах модели. README не содержит результатов оценки, данных о языках, обучении, ограничениях безопасности или лицензии, поэтому пригодность для конкретных задач и условия распространения требуют дополнительной проверки.

YOYO-AI разработала Qwen3-30B-A3B-YOYO-AutoThink как диалоговую модель с автоматическим переключением между кратким ответом и более развёрнутым рассуждением. Она основана на объединении Qwen3-30B-A3B-Instruct-2507 и Qwen3-30B-A3B-Thinking-2507 методом arcee_fusion с последующей заменой экспертных весов из thinking-модели. Архитектура — Qwen3 MoE для генерации текста; репозиторий содержит веса safetensors. Метаданные указывают 2,6 млрд параметров и контекст до 262 144 токенов, а README также заявляет длину контекста 1 010 000 токенов без пояснения условий для этого значения. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с глубиной рассуждения, меняющейся в зависимости от сложности запроса; метаданные также отмечают интерфейс вызова инструментов. В карточке перечислены английский и китайский языки. Лицензия — Apache-2.0. README приводит рекомендованные параметры генерации: temperature 0.6, top_p 0.95 и top_k 20.

lmstudio-community/Qwen3-32B-MLX-8bit — языковая модель для генерации текста, представленная сообществом lmstudio-community и созданная на основе Qwen/Qwen3-32B. Модель преобразована в формат MLX с использованием mlx-lm версии 0.24.0 и предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm с поддержкой чат-шаблона, если он задан в токенизаторе. Ключевые характеристики модели — размер базовой модели 32B параметров, 8-битное представление и специализация на текстовой генерации. Формат MLX ориентирован на использование в совместимой среде, однако README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности, производительности и ограничениях. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-4B-8bit — языковая модель для генерации текста, представленная в формате MLX. Она создана сообществом mlx-community на основе модели Qwen/Qwen3-4B, разработанной командой Qwen, и предназначена для запуска и инференса с использованием библиотеки mlx-lm, прежде всего в экосистеме MLX. Модель имеет размер 4 млрд параметров и 8-битное представление весов, что уменьшает требования к памяти по сравнению с полноразмерной версией и делает её подходящей для локального запуска на совместимом оборудовании. Основной сценарий использования — продолжение и генерация текста по промпту; README также показывает возможность применения chat template для диалогового взаимодействия. Сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна в предоставленных данных отсутствуют. Для работы требуется библиотека mlx-lm версии, совместимой с форматом модели; конвертация выполнена с использованием mlx-lm 0.24.0. К ограничениям относятся зависимость от экосистемы MLX и возможная потеря точности, связанная с 8-битным представлением. Модель распространяется по лицензии Apache 2.0.

geoffmunn/Qwen3-4B-f16 — конверсия языковой модели Qwen3-4B от Alibaba в формат GGUF для локального запуска через llama.cpp и совместимые приложения. Модель содержит около 4 млрд параметров и предназначена для диалогов, рассуждений, агентных сценариев, генерации кода и многоязычных задач; карточка также приводит варианты квантования и сравнение их скорости, размера и качества. Модель принимает текст и генерирует текст. В карточке заявлена поддержка английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Для некоторых вариантов требуется специальная сборка llama.cpp; доступная длина контекста в этой версии снижена ради скорости. Репозиторий распространяется по лицензии Apache-2.0. Автор конверсии — Geoff Munn; проект не связан с Alibaba или командой Qwen.

Qwen3-4B-Instruct-2507-4bit — языковая instruct-модель для генерации текста, разработанная командой Qwen и конвертированная сообществом mlx-community в формат MLX из базовой модели Qwen/Qwen3-4B-Instruct-2507. Модель предназначена для диалогового взаимодействия и выполнения текстовых запросов с использованием chat template. Модель содержит 4 миллиарда параметров и представлена в 4-битном формате квантования. Она работает с текстовой модальностью; сведения о поддерживаемых языках и размере контекста в README не указаны. Формат MLX и использование библиотеки mlx-lm ориентированы на запуск модели в экосистеме MLX. Конкретные преимущества и ограничения качества по сравнению с исходной моделью в предоставленных данных не описаны; 4-битное представление может влиять на точность, но степень такого влияния не указана. Модель распространяется по лицензии Apache 2.0. Конвертация выполнена с использованием mlx-lm версии 0.26.2.

Модель clijo/qwen3-4b-instruct-2507-bf16-reco-grpo-b200-gentle-blue-orbit — дообученная с помощью TRL версия Qwen/Qwen3-4B-Instruct-2507, разработанная автором репозитория clijo. Это плотная языковая модель примерно на 3,7 млрд параметров с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста в диалоговом формате и выполнения инструкций. В карточке приведён пример запуска через Transformers для ответа на вопрос пользователя. Модель принимает текст и генерирует текст; максимальная длина контекста — 262 144 токена. Метаданные указывают на формат safetensors и возможность диалога. Лицензия и специальные области применения в предоставленных данных не описаны.

AbhishekG711 дообучил Qwen3-4B-Instruct-2507 на базе unsloth/qwen3-4b-instruct-2507-unsloth-bnb-4bit. Это плотная языковая модель с архитектурой Qwen3ForCausalLM, предназначенная для генерации текста и диалогового общения; заявлен интерфейс вызова инструментов. В карточке указано, что обучение проводилось с помощью Unsloth и библиотеки TRL. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-NVFP4 — это квантизированная версия инструкционной языковой модели Qwen/Qwen3-4B-Instruct-2507, опубликованная под идентификатором llmat/Qwen3-4B-Instruct-2507-NVFP4. Квантизация выполнена с помощью llmcompressor по схеме NVFP4: она применяется к линейным слоям, а слой lm_head исключён. Для калибровки использовано 512 образцов, максимальная длина последовательности при калибровке составляла 2048 токенов. Модель предназначена для генерации текста и диалоговых сценариев с применением инструкций, включая развёртывание через backend vLLM и OpenAI-совместимый сервер. В README не указаны точные поддерживаемые языки, максимальная длина контекста исходной модели, модальности или архитектурные детали помимо квантизации и принадлежности к семейству Qwen. Основное преимущество — потенциально более эффективное по ресурсам выполнение благодаря NVFP4-квантизации; возможным ограничением является влияние квантизации на качество, однако количественные результаты оценки не приведены. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-NEO-Imatrix-Max-GGUF — набор GGUF-квантизованных версий модели Qwen3-4B, опубликованный DavidAU на базе Qwen/Qwen3-4B. Модель предназначена для генерации текста, диалогов, задач, требующих рассуждений, а также творческих сценариев, включая создание историй и ролевое взаимодействие. Режим reasoning включён по умолчанию согласно описанию модели. Модель имеет около 4 миллиардов параметров и работает с текстом. Варианты используют квантизацию NEO Imatrix; для более низких уровней квантизации заявлен более заметный эффект Imatrix, а IQ4XS и IQ4NL названы оптимальным балансом качества и размера. Для повышения качества рассуждений рекомендуется использовать более высокие уровни квантизации. Вариант Q8_0 описан как максимально обработанный, но без эффекта Imatrix, а F16 соответствует полной точности. Заявленная длина контекста составляет 32K токенов плюс до 8K токенов генерации; также указана возможность расширения контекста до 128K. Сильными сторонами модели заявлены улучшенные рассуждения, генерация ответов и творческие возможности при сохранении преимуществ компактной 4B-модели. Ограничения связаны с компромиссом между размером, скоростью и качеством, характерным для квантизованных вариантов; конкретные поддерживаемые языки, результаты бенчмарков и системные требования в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

Parda21/Qwen3-4B-NWC — версия языковой модели Qwen3-4B, представленная в формате Neural Weight Compression (NWC). Линейные слои и связанные эмбеддинги хранятся в сжатом BF16-виде; веса восстанавливаются непосредственно CUDA-ядром при умножении матриц. По заявлению автора, веса побитово совпадают с исходной моделью и не квантизированы. Репозиторий содержит 3,7 млрд параметров и рассчитан на контекст до 40 960 токенов. Модель предназначена для генерации текста и диалогов. По сравнению с исходной версией BF16 автор сообщает о сокращении размера весов с 8,04 до 5,55 ГБ, использовании видеопамяти с 8,10 до 5,67 ГБ и скорости 55 против 45 токенов в секунду на RTX 4070 в указанном режиме. Для запуска нужны библиотека nwc, Transformers, Accelerate и CUDA; специальный формат требует поддержки NWC. Лицензия весов — Apache-2.0, как у базовой модели.

OP12138/qwen3-4b-star1 — дообученная модель Qwen3-4B, созданная на наборе данных star1. Она предназначена для генерации текста и диалогового общения. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекстное окно до 40 960 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В карточке не описаны специализация датасета star1, результаты оценки или дополнительные ограничения. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория и базовой модели.