II.1Анализ требований и архитектура ПО

ehristoforu/phi-4-25b — языковая модель для генерации текста и диалогов, созданная объединением через mergekit слоёв microsoft/phi-4 методом passthrough. Модель имеет плотную архитектуру семейства Phi-3 с классом Phi3ForCausalLM и содержит 24,4 млрд параметров; для запуска используется библиотека Transformers, веса представлены в формате safetensors. Заявленная длина контекста — 16 384 токена. Модель подходит для диалоговых сценариев и генерации текста. Базовая Phi-4 от Microsoft Research рассчитана на английский язык, рассуждения, математику и программирование; отдельные возможности этой сборки помимо генерации текста в карточке не описаны. Сборка не добавляет отдельной предметной специализации. Лицензия в предоставленных данных не указана.

Q3.5-9B-DS-v4-Flash-v2.0 — экспериментальная плотная мультимодальная модель на 9 млрд параметров, разработанная prithivMLmods на основе Qwen/Qwen3.5-9B. Её дообучили в несколько этапов на трассах рассуждений DeepSeek V4 Flash и других примерах для улучшения многошаговых рассуждений и следования инструкциям. Модель предназначена для математического и научного анализа, задач с длинным контекстом, помощи в программировании и оценки следования инструкциям. В метаданных заявлена поддержка обработки изображений и диалога; README описывает её как модель для локального запуска и исследований. Карточка указывает английский язык. Длина контекста не приведена. Это экспериментальный выпуск: модель может ошибаться в промежуточных рассуждениях и выводах, а результаты зависят от охвата обучающих данных. Распространяется по лицензии Apache-2.0.

CultriX/Qwen2.5-14B-Unity — объединённая языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit. В качестве базовой использована CultriX/SeQwence-14Bv1; для объединения применён метод DARE TIES. В состав также вошли несколько моделей Qwen2.5, в том числе варианты для диалогов и математики. Модель предназначена для генерации текста и диалогов. Она содержит 14 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 131 072 токенов. Метаданные также указывают интерфейс для вызова инструментов. В карточке не описаны отдельные специализированные задачи или целевые языки. Файлы модели размещены в формате safetensors. Лицензия в предоставленных данных не указана.

Qwen2.5-32B-Instruct-20241228_103029 — дообученная модель для генерации текста, созданная на основе Qwen/Qwen2.5-32B-Instruct и обученная с помощью TRL. Она предназначена для диалогов и ответов на пользовательские запросы; интерфейс поддерживает вызов инструментов. Модель имеет плотную архитектуру Qwen2 с 32 млрд параметров и принимает контекст длиной до 32 768 токенов. Модель подходит для генерации ответов и другого текста в приложениях, использующих Transformers. В карточке не приведены сведения о датасете, конкретной специализации дообучения или проверках качества. Формат весов — safetensors; лицензия и языки в предоставленных данных не указаны.

mlx-community/Qwen2.5-72B-Instruct-8bit — 8-битная версия модели Qwen2.5-72B-Instruct, подготовленная сообществом mlx-community из Qwen/Qwen2.5-72B-Instruct для формата MLX с помощью mlx-lm 0.18.1. Это плотная языковая модель на 71,5 млрд параметров с архитектурой Qwen2 и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и интерфейса вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В метаданных указан английский язык; иных языков карточка не подтверждает. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория.

Qwen-2.5-7B-Deep-Stock-v2 — слитая разговорная языковая модель от bunnycore, созданная методом Model Stock с помощью mergekit. В качестве основы использована fblgit/cybertron-v4-qw7B-UNAMGS; в слияние также вошли FuseChat-Qwen-2.5-7B-Instruct, Intelligence-R1-Distill-7B, DeepSeek-R1-Distill-Qwen-MFANN-Slerp-7b и предыдущая версия модели. Модель построена на плотной архитектуре Qwen2 с 7,1 млрд параметров, работает через Transformers и принимает текст для генерации текста в диалоговом формате. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Подходит для диалогов и генерации ответов; слияние с моделями для инструкций и дистиллятами DeepSeek-R1 предполагает ориентацию на следование инструкциям и рассуждения, однако README не приводит оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана. Как и у других слитых моделей, качество и стабильность ответов могут зависеть от запроса; фактические пределы контекста и поддержка вызова инструментов зависят от используемого окружения.

graelo/Qwen2.5-7B-Instruct-1M-AWQ — это 4-битная GEMM-квантизованная версия модели Qwen/Qwen2.5-7B-Instruct-1M, разработанной командой Qwen. Модель относится к классу instruction-tuned языковых моделей с примерно 7 миллиардами параметров и предназначена для выполнения инструкций и генерации текста. Из идентификатора базовой модели следует поддержка контекста до 1 миллиона токенов, однако сведения о языках, модальностях и точной архитектуре в README не приведены. Квантизация до 4 бит может снизить требования к памяти и сделать запуск модели более доступным, но потенциально сопровождается потерей качества по сравнению с исходной версией и требует совместимого программного обеспечения для формата AWQ/GEMM. README не содержит результатов тестирования, подробностей о производительности или рекомендуемых сценариях использования. Модель распространяется по лицензии Apache-2.0.

bartowski/Qwen2.5-7B-Instruct-GGUF — это набор GGUF-квантизаций чат-модели Qwen2.5-7B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в LM Studio и других совместимых приложениях. Для общения используется шаблон сообщений с ролями system, user и assistant. Модель содержит около 7 миллиардов параметров, работает в текстовой модальности и, согласно README, заявлена для английского языка. В репозитории доступны варианты от F16 до низкобитных Q2–Q8-квантизаций размером примерно от 3,5 до 15,2 ГБ. Более высокие разрядности обычно обеспечивают лучшее качество, а низкие требуют меньше оперативной памяти; отдельные варианты оптимизированы для ARM-процессоров и требуют поддержки SVE или i8mm. README также сообщает об обновлении настроек длины контекста и токенизатора, но точное значение контекстного окна не указано. Сильной стороной является широкий выбор квантизаций для запуска на оборудовании с различными ограничениями по памяти, при этом варианты Q4–Q6 отмечены как рекомендуемые по соотношению качества и размера. Ограничения связаны с компромиссом между качеством и размером низкоразрядных вариантов, а также с необходимостью совместимого программного обеспечения и аппаратных инструкций для некоторых ARM-версий. Указана лицензия Apache-2.0.

Qwen-2.5-Aether-SlerpFusion-7B — слитая текстовая модель на архитектуре Qwen2, созданная ZeroXClem с помощью mergekit и метода SLERP. Она объединяет Locutusque/StockQwen-2.5-7B и allknowingroger/QwenSlerp8-7B; размер модели составляет 7,1 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая создание контента, суммаризацию, перевод и чат-ботов. README также предлагает использовать её для юридических, медицинских и технических задач, однако не приводит специализированных оценок или подтверждения качества в этих областях. Модель принимает текст и генерирует текст; метаданные указывают английский и китайский языки. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Модель kingofjoy/qwen3_1.7b_summary_v10_vllm — дообученная языковая модель семейства Qwen3, разработанная kingofjoy на базе unsloth/Qwen3-1.7B-unsloth-bnb-4bit. Это плотная авторегрессионная модель с архитектурой Qwen3ForCausalLM и 1,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке также указана поддержка интерфейса вызова инструментов. Модель принимает текст и выдаёт текст; её контекстное окно составляет до 40 960 токенов. В метаданных отмечен английский язык. Вес опубликован в формате safetensors и распространяется по лицензии Apache-2.0. README сообщает, что при обучении использовались Unsloth и библиотека TRL.

mlx-community/Qwen3-235B-A22B-Instruct-2507-8bit — это 8-битная версия модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и работы в диалоговом формате через chat template, если он доступен в токенизаторе. Модель ориентирована на задачи инструкционного следования и текстовой генерации, включая ответы на пользовательские запросы и другие сценарии, поддерживаемые исходной моделью Qwen3. Из доступных данных известны размерная маркировка 235B-A22B и 8-битное представление, однако сведения об архитектуре, фактически активируемом числе параметров, языках, максимальном контексте, производительности и системных требованиях не приведены. Лицензия — Apache 2.0. README не содержит результатов тестирования и подробностей об ограничениях или рекомендуемых сценариях эксплуатации.

Qwen3-4B-Instruct-2507-GGUF — это GGUF-квантизированная версия языковой модели Qwen3-4B-Instruct-2507, разработанная ByteShape с применением технологии ShapeLearn. Технология подбирает тип данных отдельно для каждого тензора, чтобы сохранять высокое качество при малой разрядности. Модель предназначена для генерации текста и может использоваться локально с llama.cpp и Ollama на CPU и GPU. Модель относится к текстовым генеративным моделям, имеет размер исходной версии 4B параметров и представлена в вариантах KQ и IQ с разной средней разрядностью — от 2,55 до 4,74 бит на вес. KQ-варианты рекомендованы для CPU благодаря эффективности ядер GGML, а IQ-варианты — для современных Nvidia GPU. Размер файлов составляет примерно от 1,29 до 2,39 ГБ. Доступны различные компромиссы между скоростью инференса, размером и качеством; заявленные нормализованные показатели качества достигают 99,80%. Сильными сторонами являются компактность, широкий выбор вариантов под разное оборудование и оптимизация квантования с использованием ShapeLearn. Ограничения связаны с потерями качества, возможными при низкой разрядности, а также с отсутствием в README сведений о языках, размере контекста, точной архитектуре и мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.

khazarai разработала экспериментальную языковую модель Qwen3-4B-Qwen3.6-plus-Reasoning-Slerp с плотной архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Это слияние методом SLERP двух моделей на базе Qwen3-4B: khazarai/Qwen3-4B-Kimi2.5-Reasoning-Distilled и khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель принимает текст и генерирует текст; заявленная длина контекста — 262 144 токена. В карточке указаны английский язык, поддержка чата и интерфейс вызова инструментов. Модель предназначена для сложных логических выводов, математических задач, отладки кода на Python и ответов в сценариях RAG. Автор описывает настройку слияния, которая сохраняет словарь Qwen и плавно смешивает веса слоёв внимания и MLP. README приводит результат 77,18 на авторском бенчмарке из 100 вопросов, однако методика и независимое подтверждение результата не представлены. Автор также отмечает ожидаемое снижение качества творческого письма и не рекомендует модель для стихов и образного повествования. Лицензия — Apache-2.0.

RobinsonLabs/Qwen3.5-122B-A10B-abliterated-GGUF — набор квантизированных моделей в формате GGUF на базе Qwen/Qwen3.5-122B-A10B. Модель разработана Robinson Labs методом abliteration и предназначена для генерации и обработки текста в совместимых локальных runtime. Базовая архитектура — MoE qwen35moe с 122 млрд параметров и бюджетом около 10 млрд активных параметров на токен. В сборке сохранён Multi-Token Prediction (MTP/NextN), поэтому совместимые runtime могут использовать спекулятивное декодирование. Доступны варианты с разными уровнями квантизации и размером файлов. Это текстовая модель: vision tower из исходного чекпойнта в GGUF не включена, поэтому обработка изображений не поддерживается. Языки и размер контекстного окна в README не указаны. Ключевая особенность версии — снижение склонности к отказам в запросах для взрослого и творческого контента при заявленном сохранении возможностей модели. При этом защитные механизмы для запросов, связанных с самоповреждением, и другие ограничения безопасности, по данным автора, сохранены. Ограничениями являются высокая требовательность к вычислительным ресурсам из-за полного размера модели, отсутствие мультимодальности и зависимость от поддержки GGUF и MTP конкретным runtime. Модель помечена как не предназначенная для всех аудиторий, а ответственность за использование возложена на пользователя. Лицензия наследуется от базовой модели и указана как Apache-2.0.

Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking — плотная мультимодальная модель на 40 млрд параметров от DavidAU, созданная расширением Qwen3.5-27B и дообученная на датасете TeichAI/claude-4.5-opus-high-reasoning-250x. Она рассчитана на диалоги с рассуждениями, творческое и художественное письмо, генерацию кода, анализ изображений и работу с инструментами. В README заявлен контекст 256 тысяч токенов, режим с переменной длиной рассуждений и исправленный шаблон чата для снижения повторов и циклов. Карточка описывает примеры генерации рассказов, включая хоррор, и сообщает, что обработка изображений и генерация кода проверялись автором. Модель ориентирована на английский и китайский языки; формат репозитория — Safetensors, библиотека — Transformers. Автор рекомендует для инструментальных вызовов квантизации не ниже Q6, но доступные метаданные указывают формат Safetensors. Лицензия — Apache-2.0. README отмечает, что на низких квантизациях или недостаточно содержательных запросах возможны циклы и повторы; качество и результаты бенчмарков независимо не подтверждены.

MuXodious/Qwen3.5-4B-SOMPOA-heresy-v2-MTP — мультимодальная модель на 4 млрд параметров, созданная на основе Qwen3.5-4B. По карточке, её дообучили с помощью Heretic и методов SOMA и MPOA для подавления отказов; также восстановлены веса Multi Token Prediction из базовой модели. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером; заявлены диалог, понимание изображений и интерфейс вызова инструментов. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с инструментами. В карточке базовой модели указана поддержка 201 языка и диалекта, а контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000. Репозиторий содержит веса Safetensors для Transformers; карточка также называет совместимость с vLLM, SGLang и KTransformers. В README сообщается о низкой частоте отказов в использованной авторами проверке, поэтому модель может отвечать на запросы, которые базовая модель отклоняла. Это не гарантирует фактическую точность ответов и может снижать надёжность защитных отказов. Лицензия — Apache-2.0.

Qwen3.6-27B-uncensored-abliterated-i1-IQ4_XS-GGUF-Smaller — квантованная GGUF-версия модели Qwen3.6-27B, опубликованная lemonyins. В основе используется abliterated-версия Huihui-Qwen3.6-27B от mradermacher, ориентированная на локальный инференс и исследовательское использование. Модель поддерживает обработку текста и, опционально, изображений при подключении vision-модуля mmproj-BF16.gguf. В модели применена гибридная квантование: ключевые attention-слои используют IQ4_XS, а FFN-слои — более компактный IQ3_S. Это уменьшает размер весов и позволяет эффективнее использовать память под KV-кэш; при поддержке TurboQuant заявлен контекст до 160–200 тысяч токенов при потреблении около 15,3–15,4 ГБ VRAM. На NVIDIA RTX 4060 Ti 16GB скорость текстового инференса составляет примерно 18–20 токенов в секунду. Основные преимущества — существенно больший доступный контекст и сохранение внимания к качественно важным attention-слоям, однако снижение точности FFN-квантования может ухудшать результаты отдельных задач, включая некоторые сценарии фактического запоминания. Приведённые показатели памяти требуют сборки llama.cpp с поддержкой TurboQuant; без неё расход VRAM будет выше. Лицензия — Apache-2.0.

HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Balanced — это модифицированная и квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная HauhauCS. Модель распространяется в формате GGUF и ориентирована на мультимодальные сценарии image-text-to-text, включая работу с изображениями и текстом. Заявлена поддержка английского, китайского и других языков. По данным карточки, модель имеет 27 миллиардов плотных параметров; дополнительные сведения о полной архитектуре и размере контекстного окна не указаны. Основное отличие версии Balanced — удаление отказов при сохранении исходных датасетов и возможностей базовой модели. Она предназначена для агентного программирования, использования инструментов, рассуждений, творческого письма и ролевых сценариев. По заявлению автора, модель может подробно рассуждать перед ответом, иногда добавляя краткое предупреждение или контекст безопасности, после чего предоставляет полный ответ. Также заявлена повышенная стабильность генерации в длительных цепочках вызовов инструментов. Эти характеристики основаны на описании автора и приведённом внутреннем тесте с 0 отказов из 465 запросов, поэтому их следует интерпретировать как заявленные, а не независимые результаты. Доступны различные варианты квантования GGUF, включая пользовательские K_P-кванты, оптимизированные с помощью importance matrix; размеры файлов составляют примерно от 10 до 32 ГБ, а для мультимодальности предоставляется отдельный mmproj-файл. Модель совместима с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Рекомендуемый автором вариант Q4_K_P требует около 18 ГБ, а Q8_K_P — около 32 ГБ. Отсутствие встроенных ограничений может быть преимуществом для исследовательских, программных и творческих задач, но одновременно повышает риск небезопасных или нежелательных ответов, поэтому требуется контроль применения. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-Brainwaves-Nex-Uncensored-i1-GGUF — это квантизированная GGUF-версия модели nightmedia/Qwen3.6-35B-A3B-Brainwaves-Nex-Uncensored, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, рассуждений, решения математических и STEM-задач, программирования и многоязычного использования. В README указана поддержка английского, китайского, японского и испанского языков. Модель описана как vision model, поэтому для работы с изображениями могут потребоваться дополнительные файлы mmproj из статического репозитория. Вариант доступен в нескольких форматах квантизации i1, включая Q2_K, Q3, IQ3, IQ4, Q4, Q5 и Q6; размеры файлов составляют примерно от 13,3 до 29,3 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти, однако качество и скорость зависят от выбранного варианта: Q4_K_M отмечен как рекомендуемый, а Q4_0 — как быстрый, но менее качественный. К сильным сторонам относятся широкий набор заявленных сценариев, мультиязычность, поддержка изображений и наличие вариантов с разным компромиссом между размером, качеством и скоростью. Ограничения включают отсутствие в README сведений о размере контекста, точной архитектуре, числе активных параметров, результатах тестирования и фактическом качестве мультимодальной обработки. Модель распространяется под лицензией Apache-2.0.

Nickyang выпустил производную версию Qwen3.6-35B-A3B, созданную методом RAZOR — без градиентного дообучения удалена половина маршрутизируемых экспертов в каждом MoE-слое. В модели оставлено 128 из 256 экспертов на слой; размер составляет 19,4 млрд параметров, или 19,0 млрд без модуля MTP, при примерно 3 млрд активных параметров на токен. Остальные веса, включая внимание, общий эксперт, эмбеддинги, языковую голову и оставшиеся строки маршрутизатора, сохранены. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она использует архитектуру Qwen3.5 MoE и формат safetensors с весами bfloat16. Для запуска требуется версия Transformers со встроенной поддержкой qwen3_5_moe. README не сообщает контекстное окно и языковой охват этой производной модели. Удаление экспертов сокращает объём хранимых экспертных весов, сохраняя примерно прежние вычисления на токен. Обрезка с потерями: ответы могут отличаться по разнообразию, форматированию и завершению, даже если точность на задачах в основном сохраняется; поведение вне конечного многодоменного калибровочного набора не охарактеризовано. Лицензия — Apache-2.0.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ4e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, разработанная независимым технологическим проектом KostkaIT на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель предназначена для локального программирования, рассуждений, создания мультимодальных ассистентов и исследовательских задач. Модель поставляется в формате MLX safetensors, оптимизированном для Apple Silicon и совместимого с рантаймом oMLX. Это смешанная квантизация oQ4e: базовые веса представлены в 4-битном формате с group_size 64, а отдельные тензоры сохранены в 5- и 6-битной точности с использованием importance matrix. В репозитории присутствуют конфигурация и процессор для работы с изображениями, vision-тензоры, а также встроенные веса Native MTP с одним скрытым слоем MTP. MTP можно включать или отключать в совместимых версиях oMLX. К сильным сторонам относятся поддержка текста и изображений, более компактное локальное развертывание благодаря квантизации, а также сочетание смешанной точности с Native MTP. Ограничения включают зависимость от оборудования Apple Silicon и совместимого MLX/oMLX-окружения, возможные потери качества из-за 4-битной квантизации и отсутствие в предоставленных данных сведений о языках, размере контекста и точных характеристиках производительности. Модель распространяется по лицензии Apache-2.0.

wbydc/Qwen3.8-27B-TFCF-HU-CODER-GGUF — это GGUF-квантизированная мультиязычная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU от DavidAU. Репозиторий содержит обычные и MTP-квантизации, включая варианты с 4- и 8-битной точностью. В README указаны английский и китайский языки, а также лицензия Apache-2.0. Модель опубликована пользователем или организацией wbydc; обучение выполнялось с использованием Unsloth и многоэтапных методов Cold Fusion и Fable Fusion. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Основной акцент сделан на подробных ответах, сокращении объёма внутренних рассуждений и повышении скорости генерации, в том числе в режиме MTP. README заявляет о заметном снижении числа thinking-токенов по сравнению с исходной версией Qwen3.8 и о высоких результатах на ARC-C и ARC-E, однако эти показатели приведены автором модели и не сопровождаются независимой методикой проверки. Ключевое ограничение — отсутствие в README точных сведений о длине контекста, поддерживаемых режимах мультимодальности и фактической архитектуре vision-компонентов, несмотря на тег image-text-to-text. Также заявлены uncensored-поведение и возможность генерации контента разных жанров, поэтому пригодность модели для чувствительных сценариев требует самостоятельной проверки. Для использования необходимо выбрать совместимый GGUF-квант и учитывать требования к памяти, зависящие от его разрядности.

valiolla/Qwen3.8-4B-Distill-heretic — версия Qwen3.8-4B с ослабленным отказом от ответов, созданная на основе модели Empero AI с помощью Heretic v1.4.0. Это плотная языковая модель с 4 млрд параметров в формате Transformers; она представляет собой полнопараметрическое дообучение Qwen/Qwen3.5-4B методом дистилляции на выборке ответов более крупной модели Qwen3.8. Модель рассчитана на диалог, следование инструкциям, рассуждения и вызов функций; в README отдельно выделены математика и общие рассуждения. Заявленная длина контекста — 262 144 токена. В сравнении с исходной Qwen3.8-4B доля отказов в приведённом тесте снизилась с 99 до 24 из 100, а KL-дивергенция составила 0,0109. Тонкая настройка ориентирована на текст; поведение с изображениями унаследовано от мультимодальной базовой архитектуры, но не оценивалось. Для запуска требуются актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимые ядра Gated DeltaNet; без них генерация может быть медленнее и требовать больше памяти. В README также отмечены риск циклов повторения при жадном декодировании длинных ответов и снижение результата на GSM8K относительно базовой модели. Лицензия — Apache-2.0; авторы предоставляют веса «как есть» для исследований и экспериментов.

mlx-community/Qwen3-8B-8bit — языковая модель для генерации текста, разработанная сообществом mlx-community и конвертированная из Qwen/Qwen3-8B, созданной командой Qwen. Модель предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm, и может использовать чат-шаблон токенизатора для диалоговых сценариев. Модель представлена в формате MLX и имеет размер 8B с 8-битным представлением, что отражено в её идентификаторе. Поддерживаемая модальность — текст; README не содержит сведений о языках, размере контекста, конкретной архитектуре, результатах тестирования, сильных сторонах или ограничениях. Для работы требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.24.0. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen3-8B-Base-bf16 — текстовая авторегрессионная модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM и 7,6 млрд параметров. Репозиторий mlx-community содержит версию для MLX, преобразованную из Qwen/Qwen3-8B-Base с помощью mlx-lm 0.24.0. Модель предназначена для генерации текста и дальнейшей адаптации под прикладные задачи. Она принимает текст и выдаёт текст; нативная длина контекста составляет 32 768 токенов. В метаданных указана лицензия Apache-2.0. README не приводит сведений о конкретной языковой специализации или оценках качества.

Sonclo/Qwen3.8-sonclo — многоэтапная fine-tune-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана для широкого спектра задач: решения задач и рассуждений, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. В README также заявлена специализация на снижении избыточного рассуждения и расхода токенов при сохранении подробности ответов. Модель относится к семейству Qwen3.8 и имеет 27B параметров. Указаны три режима рассуждения, поддержка английского и китайского языков, а также варианты GGUF-квантизации с обычными и MTP-квантами, включая 4- и 8-битные версии. Обучение описано как multi-stage fine-tune и multi-stage merge с применением методов COLD FUSION, Fable Fusion и Unsloth. Репозиторий помечен как image-text-to-text, однако подробности о фактической поддержке изображений и максимальном размере контекста в README не приведены. К заявленным сильным сторонам относятся высокая скорость генерации, сокращение объёма рассуждений, развитые способности к программированию, решению задач и творческой генерации, а также возможность запуска на потребительском оборудовании благодаря GGUF-квантам. Ограничения включают отсутствие независимого подтверждения заявленных бенчмарков в представленном README, возможные риски и особенности uncensored/abliterated-настройки и неизвестные требования к аппаратным ресурсам для конкретных вариантов. Модель распространяется по лицензии Apache-2.0.

BennyDaBall/Qwen3.8-Uncensored-NVFP4-MTP — это квантизированная GGUF-версия модели JonathanColetti/Qwen3.8-27B-Uncensored, подготовленная BennyDaBall. Модель основана на 27B-сборке Qwen3.8 с удалёнными ограничениями фильтрации, предназначена для генерации текста и диалогов, а также поддерживает работу с изображениями и видеокадрами при подключении vision-проектора. Заявлены английский и китайский языки. Контекстное окно составляет 262 144 токена. Основная часть трансформера из 64 слоёв сжата в формат NVFP4, а lm_head, embeddings, MTP-голова и vision-проектор сохранены в BF16. Встроенная MTP-голова позволяет использовать speculative decoding без отдельной draft-модели, что может существенно ускорять генерацию, особенно на структурированных данных, коде и повторяющихся фрагментах. Модель ориентирована прежде всего на видеокарты NVIDIA Blackwell, включая RTX 5090, RTX 5080 и RTX PRO; для работы требуются свежие версии llama.cpp с поддержкой NVFP4 и архитектуры qwen35 либо LM Studio 2.29.1 и новее. Производительность и эффективность спекулятивного декодирования зависят от оборудования и характера запроса, а для мультимодального режима требуется около 1 ГиБ дополнительной видеопамяти на vision-проектор. Распространяется по лицензии Apache-2.0.

PocketAI выпустила конвертированную и упакованную для запуска на Apple Silicon версию Qwopus3.6-27B-v2 от Jackrong. Это плотная языковая модель семейства Qwen3.5 с 26,896 млрд параметров в формате BF16 и нативной боковой MTP-головой для ускорения генерации методом speculative decoding. PocketAI не обучала и не дообучала базовую модель. Модель предназначена для диалоговой генерации текста, рассуждений и работы с инструментами. Пакет содержит только текстовую модель, без компонентов для обработки изображений; заявлены английский, китайский, испанский, русский и японский языки. Для ускорения через MTP требуется MTPLX версии 2.4.0 или новее; стандартный mlx-lm не поддерживает боковой файл MTP самостоятельно. Репозиторий распространяется по лицензии Apache-2.0. Модель обозначена как экспериментальная и не проходила всестороннюю оценку безопасности; результаты следует проверять перед использованием в важных сценариях. Приведённые в README показатели скорости получены на одной конфигурации Apple Silicon и не гарантируют аналогичную производительность на другом оборудовании.

Rombo-LLM-V2.5-Qwen-1.5b — плотная причинная языковая модель на архитектуре Qwen2, созданная Rombo-Org как дообученная версия Qwen2.5-1.5B-Instruct. Она предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В карточке заявлено слияние instruct- и base-моделей методом TIES, однако метаданные указывают связь с Qwen2.5-1.5B-Instruct как finetune; поэтому происхождение точнее определить по доступным данным нельзя. Модель содержит 1,5 млрд параметров, работает через Transformers и распространяется в формате safetensors; автор также упоминает варианты GGUF. Указанный контекст — до 131 072 токенов. Лицензия — Apache-2.0. README заявляет о более высокой производительности по сравнению с исходными instruct- и base-моделями, но не приводит результатов бенчмарков или подробностей оценки.

SJT-1.5B-Alpha-1.1 — языковая модель на 1,5 млрд параметров, созданная Sakalti слиянием моделей через TIES и Mergekit. В качестве базовой использована Sakalti/Saba1.5-Pro, в слияние также вошла Sakalti/SJT-1.5B-Alpha; архитектура — плотная Qwen2 для причинной генерации текста. Модель предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.