II.2Создание и понимание программного кода

Qwen3-0.6B-RKNN3-RK1828 — компактная языковая модель семейства Qwen3, подготовленная для запуска на устройстве Rockchip RK1828 через LlamaPi. Это плотная причинная модель с 507,9 млн параметров и контекстом до 40 960 токенов; репозиторий содержит файлы GGUF. Модель основана на Qwen/Qwen3-0.6B, разработанной командой Qwen, и поддерживает режимы с рассуждением и без него. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений и задач программирования. Она поддерживает более 100 языков и диалектов, а также интерфейс вызова инструментов. Для запуска описан LlamaPi, который загружает и выполняет модель командой llamapi run qwen3:0.6b. Модель распространяется по лицензии Apache-2.0. Небольшой размер удобен для локального запуска на целевом устройстве, но её возможности и качество ограничены масштабом модели; в карточке нет сравнительных оценок или гарантий точности.

mlx-community/Qwen3-235B-A22B-4bit — это 4-битная версия модели Qwen3-235B-A22B, преобразованная в формат MLX сообществом mlx-community с использованием mlx-lm 0.24.0. Исходную модель разработала команда Qwen; README указывает базовую модель Qwen/Qwen3-235B-A22B. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm, в том числе в диалоговом режиме с применением chat template. Указаны общий размер 235B параметров и обозначение A22B, однако подробности архитектуры, поддерживаемые языки, модальности и размер контекста в README не приведены. Ключевое преимущество этой версии — 4-битное представление и адаптация к MLX, что ориентировано на запуск в совместимой MLX-среде; ограничения производительности, качества и требований к оборудованию не описаны. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Qwen3-32B-GGUF — это набор квантованных файлов модели Qwen3-32B в формате GGUF. Исходную модель разработала команда Qwen, а конвертацию и публикацию квантованных вариантов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; возможны ускорение на GPU и предоставление OpenAI-совместимого API в зависимости от используемого ПО. Карточка не содержит подробностей об архитектуре, количестве параметров исходной модели, поддерживаемых языках, размере контекста, мультимодальности, результатах оценки или конкретных ограничениях качества. Условия лицензирования в README также не указаны, поэтому их следует уточнить на странице исходной модели Qwen/Qwen3-32B и публикации квантованных файлов.

Sehyo/Qwen3.5-122B-A10B-NVFP4 — квантизированная версия модели Qwen/Qwen3.5-122B-A10B, подготовленная Sehyo с использованием схемы квантования NVFP4. Модель относится к семейству Qwen3.5 и имеет MoE-архитектуру; для загрузки и запуска используется библиотека Transformers, а для поддержки NVFP4 рекомендуется nightly-версия vLLM. Модель предназначена для запуска Qwen3.5-122B-A10B в более компактном квантизированном формате, что может быть полезно для инференса больших языковых моделей и сценариев, где важны снижение требований к памяти и эффективное выполнение. Квантование выполнено с помощью VLLM LLM Compressor с поддержкой Qwen3.5 MoE. При калибровке использовано 512 образцов из наборов ultrachat_200k и Nemotron-Post-Training-Dataset-v2, максимальная длина последовательности составляла 4096 токенов, а калибровка охватывала всех экспертов MoE. Ключевые особенности — NVFP4-квантование и наличие весов MTP (multi-token prediction), добавленных для поддержки speculative decoding в vLLM. Ограничения README не описывает: неизвестны точный размер контекста исходной модели, поддерживаемые языки, модальности, показатели качества и требования к оборудованию. Лицензия в предоставленных данных не указана.

Qwen3.5-122B-A10B-REAP-20-abliterated-GGUF — это набор GGUF-квантизаций разреженной MoE-модели, созданный Robinson Labs на основе 0xSero/Qwen3.5-99B, которая, в свою очередь, получена из Qwen/Qwen3.5-122B-A10B. Из исходной модели удалено около 20% экспертов: сохранено 205 из 256, что уменьшило общий размер примерно со 122B до 99B параметров при сохранении бюджета около 10B активных параметров. Модель предназначена для генерации текста и запуска в совместимом программном обеспечении, включая llama.cpp. Архитектура — qwen35moe, модель содержит 48 слоёв и использует стандартное предсказание одного токена без Multi-Token Prediction (MTP/NextN). Доступны варианты GGUF с квантованием от Q6_K до IQ2_XS, с размером файлов примерно от 81,3 до 29,5 ГБ; квантизация выполнена с использованием importance-matrix на общем калибровочном наборе. Языки, размер контекстного окна и поддерживаемые модальности в README не указаны. Модель сохраняет основные возможности исходной архитектуры при меньшем числе экспертов, а вариант REAP-20 должен иметь больше ёмкости и больший размер, чем REAP-30. Дополнительно выполнена abliteratation — ортогонализация весов для снижения жёстких отказов на запросы для взрослого и творческого контента; защитные ограничения против самоповреждения и содействия реальным противоправным действиям, согласно описанию, сохранены. Это не универсальная модель для всех аудиторий, а крупная по требованиям к памяти система, причём качество зависит от выбранного уровня квантования. Лицензия — Apache-2.0, унаследованная от базовой модели.

cwolff выпустил cwolff/qwen3.5-2b-grpo-curriculum — дообученную методом GRPO агентную модель на базе Qwen/Qwen3.5-2B с 2 млрд параметров. Она предназначена для преобразования вопросов к базам данных в SQL: модель исследует схему с помощью инструментов, выполняет запросы и отправляет итоговый SQL. Для работы нужен внешний агентный цикл, который исполняет JSON-вызовы инструментов и передаёт результаты модели. Обучение продолжило чекпойнт cwolff/qwen3.5-2b-grpo-sqale на выборке SQaLe3, включая сложные примеры; длина эпизода составляла 24 576 токенов. В README приведены результаты выполнения SQL на BIRD и других наборах, однако модель обучалась и оценивалась только с SQLite. У неё сохранена башня зрения базовой модели, но она не обучалась и не оценивалась, поэтому автор рекомендует считать модель текстовой. Модель распространяется под лицензией Apache-2.0.

Qwen3.5-40B-RoughHouse-Claude-4.6-Opus-Polar-Deckard-Uncensored-Heretic-Thinking — экспериментальная модель DavidAU на архитектуре Qwen3.5. Это плотная модель на 40 млрд параметров, собранная расширением двух дообученных моделей Qwen3.5-27B; автор описывает её как сырую версию, выпущенную до заключительного этапа обучения. В карточке указаны библиотека Transformers, формат safetensors и лицензия Apache-2.0. Модель рассчитана на диалог, рассуждения, генерацию кода и творческих текстов, включая рассказы и ролевые сценарии; поддерживает изображения и текст. Автор указывает контекст до 256 тыс. токенов и переменную длину рассуждений. Заявлены английский и китайский языки. По описанию, модель намеренно лишена защитных ограничений и может создавать откровенный или резкий контент. Автор предупреждает о нестабильности генерации: возможны циклы, повторения и сбои токенов, особенно при коротких запросах и низких уровнях квантизации. Рекомендуются содержательные запросы, системная инструкция и повторная генерация при неудовлетворительном ответе. Модель выпускается по лицензии Apache-2.0.

Qwen3.5-9B-Brainwaves — экспериментальная объединённая модель от независимой лаборатории NightmediaAI. Она получена слиянием nightmedia/Qwen3.5-9B-Holodeck-Lounge и schneewolflabs/Wichtelchen-Qwen3.5-9B; в основе используется семейство Qwen3.5 с плотной архитектурой и 9 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая творческое письмо, программирование и рассуждения. Метаданные также заявляют поддержку изображений на входе и языков английского, китайского, японского и испанского. Модель распространяется в формате safetensors, использует библиотеку Transformers и лицензирована по Apache-2.0. Карточка называет слияние экспериментальным; приведённые в README результаты бенчмарков и описания поведения не являются независимой оценкой качества. Длина контекста в предоставленных сведениях не подтверждена.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это экспериментальная instruction-модель на базе Qwen3.5-9B, опубликованная пользователем W00ds1. В README указано, что она создана в результате многоэтапного fine-tuning и объединения нескольких моделей на локальном оборудовании при участии Nightmedia; базовая модель связана с DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель ориентирована на общий диалог, следование инструкциям, reasoning, программирование, творческое письмо и roleplaying, а также заявлена как uncensored и heretic-модель с уменьшенным количеством отказов. Модель поставляется в формате GGUF в обычных и MTP-вариантах, включая квантизации с использованием NEO IMATRIX. MTP предназначен для ускорения генерации за счёт multi-token prediction, но его эффективность зависит от оборудования, температуры и acceptance rate; при низком acceptance rate обычный вариант может работать быстрее. Заявлено контекстное окно 256k токенов. Поддерживаются английский и китайский языки. Vision активирован, однако для обработки изображений требуется отдельный файл mmproj. Указана совместимость со стандартными приложениями, поддерживающими GGUF. В README приведены результаты на ARC-C, ARC-E, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где модель сравнивается с рядом более крупных моделей; эти результаты следует считать заявленными авторами и не распространять автоматически на все задачи. Ограничения включают зависимость производительности от выбранной квантизации, режима thinking или instruct, параметров генерации и аппаратного обеспечения, а также отсутствие гарантии превосходства над моделями большего размера во всех сценариях. Лицензия указана как Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.6 27B, опубликованная пользователем d3vs3c на основе модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В создании участвовали несколько авторов и команд, включая Unsloth, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлена поддержка vision и языков English и Chinese; pipeline обозначен как image-text-to-text. Дообучение включало материалы для reasoning, Fable traces, датасеты Polar-STRICT и F451-STRICT, а также компоненты, связанные с Claude Opus и GPT-5. Точный размер контекстного окна не указан. Ключевые особенности — 27B-параметрическая базовая архитектура Qwen3.6, многоэтапное fine-tuning и merge, uncensored/heretic-настройка, NEO IMATRIX-квантизация и MTP (multi-token prediction). По утверждению авторов, модель улучшает instruction following, общую интеллектуальность, решение задач и reasoning, а также превосходит базовую Qwen3.6 27B в большинстве указанных тестов; независимая проверка этих заявлений в README не приведена. Для MTP-квантизаций рекомендуется температура не выше 1 и repetition penalty около 1; при низком token acceptance предлагается использовать обычные кванты. Модель заявлена под лицензией Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6 27B. По данным README, разработка выполнялась в сотрудничестве автора модели с Nightmedia, TeichAI, armand0e и trohrbaugh; использовались, в частности, наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется в формате GGUF, включая обычные и MTP-варианты, и предназначена для запуска на потребительском оборудовании. Модель ориентирована на широкий спектр задач: следование инструкциям, решение задач, рассуждения, программирование, творческое письмо и ролевые сценарии. Заявлена поддержка английского и китайского языков, а также возможностей vision, однако подробности о поддерживаемых входных форматах и размере контекстного окна в README не указаны. MTP-варианты используют multi-token prediction; для них рекомендуется температура не выше 1 и отключённый repetition penalty, поскольку более высокие значения могут ухудшать производительность. Все квантизации относятся к NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. К сильным сторонам относятся заявленные улучшения следования инструкциям, общего интеллекта, решения задач и рассуждений, а также доступность вариантов для разного объёма памяти. README утверждает, что модель превосходит базовую Qwen3.6 27B в шести из семи тестов и сопоставима с ней в седьмом, но независимые результаты и подробные методики приведены недостаточно. Ограничения включают отсутствие точных сведений о контекстном окне, архитектуре vision-компонента и требованиях к памяти; для MTP-вариантов также указано, что при низком уровне принятия токенов лучше использовать обычную квантизацию. Лицензия — Apache-2.0.

Это языковая модель семейства Qwen3.6, подготовленная пользователем Youssofal и упакованная для библиотеки MTPLX. Она предназначена для локальной генерации текста на компьютерах Apple Silicon, прежде всего для ускоренного инференса со speculative decoding и Multi-Token Prediction на моделях Mac с чипами M1–M5. Доступен OpenAI-совместимый локальный сервер через MTPLX. Модель имеет архитектуру Mixture-of-Experts и заявленный размер 35B с активной частью около 3B параметров (35B-A3B). Основное тело использует 4-битное квантование MLX affine, а плавающие тензоры BF16 преобразованы в FP16; упакованные квантованные тензоры сохранены без повторного квантования. Для ускорения применяются MTP-предсказания с рекомендуемой глубиной D1 и профилем sustained. README не указывает поддерживаемые языки, размер контекста и перечень модальностей, поэтому модель следует считать текстовой. Ключевая особенность варианта — совместимость с FP16-friendly путём на старых Apple Silicon, особенно M1 и M2, при сохранении целевого уровня скорости и качества исходного артефакта. Для M3, M4 и M5 MTPLX обычно выбирает обычную оптимизированную версию. По приведённому baseline скорость составляет 94,46 токена/с для авторегрессионного режима и 138,38 токена/с для режима D1, однако эти показатели являются данными исходного артефакта, а FP16-вариант должен быть к ним близок. Ограничения включают зависимость от MTPLX и Apple Silicon, а также отсутствие полноточного checkpoint: модель рассчитана на быстрое локальное использование, а не на работу в полном формате. Лицензия — Apache-2.0.

apurvaga/Qwen3.6-35B-A3B-preserve-thinking — копия мультимодальной модели Qwen3.6-35B-A3B с настройками токенизатора и шаблоном чата, применявшимися в обучающих запусках Platoon OpenHands. Веса совпадают с базовой моделью; изменённый шаблон сохраняет предыдущие рассуждения ассистента между ходами диалога. Модель предназначена для диалогового использования через Transformers или AReaL, в том числе в сценариях, где требуется сохранять контекст предыдущих рассуждений. Архитектура — Qwen3.5 MoE, класс Qwen3_5MoeForConditionalGeneration; заявлено 35 млрд параметров у базовой модели. Модель поддерживает текстовую генерацию и работу с изображениями согласно описанию базовой модели. Лицензия Apache-2.0.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Final-GGUF — мультимодальная модель в формате GGUF, основанная на HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. Модель разработана автором LuffyTheFox с применением метода Genesis — посттренировочной числовой коррекции тензоров без дополнительного обучения или тонкой настройки. В README также упоминается исходная разработка Qwen и Tongyi Lab Alibaba Group. Модель предназначена для диалоговых сценариев, генерации текста, задач программирования и работы с изображениями благодаря заявленной поддержке vision и pipeline image-text-to-text. Указана архитектура MoE с 35 млрд параметров и 3 млрд активных параметров, однако размер контекста в README не приведён. Заявлены английский, китайский и мультиязычный режимы работы. Доступны режимы с рассуждением и без него, а также рекомендации по настройкам генерации и запуску на GPU. К заявленным сильным сторонам относятся отсутствие отказов в указанном тесте из 465 запросов, повышенная стабильность, ясность контекста и следование инструкциям после коррекции тензоров. При этом модель позиционируется как uncensored, поэтому может не применять стандартные ограничения безопасности. Фактическое качество, устойчивость, требования к памяти и поддержка конкретных мультимодальных сценариев зависят от выбранной квантизации и среды запуска. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-MTPLX-bf16 — конвертированная в формат MLX версия плотной мультимодальной модели Qwen3.8-27B, подготовленная автором johninthepool для компьютеров Apple Silicon. Это полноточная сборка bf16 без квантизации: сохранена голова multi-token prediction (MTP), необходимая для спекулятивного декодирования через mtplx. Модель рассчитана на диалоговую генерацию текста; базовая модель также поддерживает анализ изображений и видео, программирование и многошаговые задачи. Сборка предназначена для запуска на Mac с чипом Apple M-серии. Для весов объёмом около 55 ГБ автор рекомендует не менее 64 ГБ объединённой памяти; для работы с нативным путём MTP требуется mtplx. Полноточная версия сохраняет точность исходных весов, но требует больше памяти, чем варианты с квантизацией. Лицензия — Apache-2.0.

Это независимая MLX-квантизация весов официальной модели Qwen/Qwen3.8-27B, подготовленная для нативного speculative decoding через MTPLX 2.6.0 на компьютерах Apple Silicon. Разработчик производной сборки — автор репозитория yc777; базовую модель разработала команда Qwen. Модель предназначена для генерации текста и запуска локальных OpenAI-совместимых сервисов. Основная часть весов представлена в 4-битном аффинном формате с размером группы 64, а MTP sidecar сохранён в BF16 и необходим для нативного многошагового предсказания. Поддерживается архитектура qwen3-next-mtp, заявлен английский язык, а пакет занимает около 15 ГБ на диске. Для работы требуются Mac на Apple Silicon с достаточным объёмом unified memory и MTPLX версии 2.6.0 или новее с поддержкой qwen3-next-mtp. Сборка предназначена для MTPLX и не поддерживается в oMLX 0.5.3 в режиме прямой загрузки. Главное преимущество — возможность ускоренной генерации с MTP: на M3 Max с 128 ГБ памяти авторы измерили 33,9 токена в секунду в end-to-end API-тесте, а пиковые наблюдения в интерфейсе превышали 40 токенов в секунду. Эти показатели зависят от запроса, длины контекста и ответа, давления на память, версии MTPLX и степени принятия черновых токенов; ускорение не гарантируется для каждого сценария. MTP sidecar увеличивает требования к диску и памяти по сравнению с полностью 4-битной конвертацией, а первый запрос после простоя включает загрузку и прогрев модели. Модель распространяется по лицензии Apache-2.0. При распространении производной версии необходимо сохранять исходную лицензию и атрибуцию Qwen. Это не официальный релиз Qwen или MTPLX.

sakamakismile/Qwen3.8-27B-MTP-NVFP4 — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen. Это плотная гибридная модель с архитектурой DeltaNet и полноразмерным attention, компонентами компьютерного зрения Qwen3-VL и встроенной MTP-головой для speculative decoding. Модель предназначена прежде всего для генерации текста, рассуждений и использования в серверных сценариях через vLLM; поддержка мультимодального режима заявлена благодаря vision tower, но в README её производительность не оценивалась. Основная часть весов сжата в формат NVFP4 W4A4 с размером группы 16, тогда как vision tower, lm_head, conv1d DeltaNet и MTP-голова сохранены в bf16. Размер базовой модели составляет 27,8 млрд параметров; объём уменьшен с 55,6 до 20,6 ГБ. Заявлен контекст до 131 072 токенов, поддерживается KV-кэш fp8 и работа на GPU Blackwell через vLLM 0.22.0. MTP-голова позволяет ускорять декодирование, однако требует корректного сохранения специальных модулей и конфигурации speculative decoding. Сильными сторонами модели являются существенное сокращение объёма весов, высокая скорость генерации на совместимом оборудовании и поддержка длинного контекста. Ограничения связаны с требованиями к GPU Blackwell и конфигурации vLLM: формат W4A4 необходим для указанной архитектуры, а мультимодальная производительность не проверялась. Модель ориентирована на задачи рассуждений; при высоком уровне reasoning effort значительная часть лимита токенов может расходоваться на внутреннее рассуждение без итогового ответа, поэтому для длинных запросов рекомендуется режим medium и max_tokens не менее 4096. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-ROCmFP4-STRIX-MTP-GGUF — квантизированная GGUF-версия базовой модели Qwen/Qwen3.8-27B, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, рассуждений, работы с инструментами и мультимодальных сценариев с визуальным вводом, прежде всего на системах AMD Ryzen AI Max+ 395 со встроенной графикой Radeon 8060S (gfx1151, Strix Halo). README не указывает разработчика базовой модели отдельно от идентификатора Qwen/Qwen3.8-27B. Используется формат ROCmFP4 с тремя вариантами квантизации и размером файлов 13,33–13,75 GiB; эффективная точность составляет 4,25–4,39 бит на вес. В комплект включена MTP-голова для speculative decoding. Контекст проверен до 65 536 токенов. Для варианта STRIX заявлены скорость декодирования до 30,30 токена/с при настроенном MTP, perplexity 5,8877 на отложенной выборке wikitext-2, успешные тесты зрения 4/4 и tool calling 7/7, включая режим reasoning. Языки README не перечисляет. Сильные стороны модели — высокая скорость на поддерживаемом оборудовании AMD, небольшие требования к дисковому пространству, сопоставимая с Q4_K_M perplexity и опубликованная настройка глубины MTP. Ограничения включают зависимость от AMD Strix Halo и специализированной сборки llama.cpp с поддержкой ROCmFP4; стандартная сборка llama.cpp эти типы тензоров не принимает. Приведённые показатели относятся к конкретной конфигурации и могут не воспроизводиться на другом оборудовании. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored-NVFP4-W4A16-T336 — производная модель, опубликованная esatapedico на основе DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, которая, в свою очередь, основана на Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и развёртывания через vLLM; настройка TWIN-TURBO ориентирована на сокращение количества токенов рассуждений при сохранении качества ответов. Это 27-миллиардная языковая модель с архитектурой Qwen3_5ForCausalLM, 64 слоями, гибридной архитектурой GatedDeltaNet, поддержкой мультиязычных сценариев и заявленным контекстом до 262144 токенов. В репозитории также сохранены vision tower и MTP head, пригодный для speculative decoding. Контрольная точка использует формат compressed-tensors NVFP4: веса W4A16 с группировкой 16 и масштабами FP8; часть наиболее чувствительных компонентов оставлена в BF16. Калибровочные данные не применялись, размер файла model.safetensors составляет около 21 ГБ. Главные преимущества — значительное сжатие весов, совместимость с vLLM, сохранение полноточных компонентов, влияющих на качество, а также измеренная близкая к родительской модели perplexity на англоязычном наборе. Ограничения включают зависимость от vLLM-совместимых движков, необходимость подходящей аппаратной конфигурации и отсутствие GGUF в репозитории; заявленная проверка проводилась при tensor parallel 2 и контексте 2048 токенов, поэтому практические характеристики на максимальном контексте могут отличаться. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-NM-DAU-NEO-MTP-GGUF — крупная fine-tune-модель на базе Qwen3.8 27B, разработанная DavidAU. Она создана с применением многоэтапного обучения и слияния моделей, включая методы Cold Fusion и Fable Fusion, и выпущена в форматах GGUF, включая обычные и MTP-квантизации. Заявлены поддерживаемые языки English и Chinese; метаданные также указывают на сценарий image-text-to-text, однако подробности мультимодальных возможностей в README не приведены. Модель ориентирована на широкий круг задач: рассуждение, решение задач, программирование, творческое письмо, создание художественных текстов и ролевые сценарии. Заявлены пять режимов reasoning и пять instruct-режимов, которые можно переключать через API или непосредственно в сообщениях; instruct-режимы используют ноль reasoning-токенов. Ключевая особенность версии TWIN-TURBO — сокращение объёма рассуждений и расхода токенов по сравнению с базовой Qwen3.8 27B при сохранении детализации, по утверждению автора. Доступны как минимум 4-битные и 8-битные варианты, рассчитанные на запуск на потребительском оборудовании. Сильными сторонами заявлены высокая производительность, сниженное потребление токенов, развитые способности к рассуждению и генерации художественных текстов, а также strongly uncensored-поведение. При этом заявления о превосходстве над другими моделями и результаты benchmark-промежуточного показателя Arc-C приведены автором README и не подтверждены независимыми данными. Ограничения включают возможную специфику сильно нецензурированной настройки, различия качества между квантизациями и отсутствие подробностей о размере контекста, точной архитектуре, системных требованиях и мультимодальном вводе. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем azukivc и подготовленный для llama.cpp. Модель предназначена для генерации текста, включая локальный запуск и сценарии, где требуется сниженное количество отказов. Поведение отказа было существенно уменьшено, но не устранено полностью; дополнительное обучение и новые обучающие данные не использовались. Лицензия — Apache-2.0. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Указана поддержка vision, поэтому доступны варианты с обработкой изображений, если это поддерживается базовой моделью и используемым runtime. Заявлены языки English и Chinese. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, размер файлов — примерно от 10,6 до 29 ГБ. MTP-голова сохранена для speculative decoding; доступны как объединённые файлы со встроенной draft-моделью, так и отдельные target- и draft-файлы. Снижение отказов является преимуществом для менее ограниченных сценариев, однако поведение не полностью безотказное, а acceptance rate speculative decoding может немного снизиться.

MaziyarPanahi/Qwen3-8B-GGUF — это набор файлов модели в формате GGUF для базовой модели Qwen3-8B, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Известно, что модель основана на архитектуре и характеристиках Qwen3-8B, однако в README не приведены подробности о размере контекста, языках, поддерживаемых модальностях и других архитектурных параметрах. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF ориентирован на эффективный инференс, включая использование GPU-ускорения. Сильные стороны модели — разнообразие вариантов квантизации и широкая совместимость с локальными средствами запуска, включая CLI, веб-интерфейсы и OpenAI-совместимые серверы. Ограничения связаны с возможными потерями качества при низкой разрядности квантизации и зависимостью от совместимого программного обеспечения. Лицензия в README не указана.

Это GGUF-квантизация модели Qwen3.8-Flash-Next, разработанной командой Qwen и дополнительно подготовленной пользователем pugant для AMD Strix Halo с унифицированной памятью. Модель предназначена для генерации текста и запуска локальных LLM-сценариев на системах с Radeon 8060S и архитектурой gfx1151; при использовании совместимого runtime также заявлена поддержка vision через отдельный mmproj-модуль. Модель использует архитектуру qwen4exp и имеет около 180 млрд параметров в общей структуре: 125 млрд базовой части, около 6 млрд активных параметров, 51 млрд параметров PLE n-gram table и 4 млрд параметров MTP. Репозиторий содержит две сборки: ROCmFP4 STRIX_LEAN для систем с 128 ГБ памяти и смешанную ROCmFP2 STRIX_LEAN с 2-битными, FP4 и Q3-компонентами для систем с 64 ГБ. Поддерживаются английский и другие языки; заявлен контекст до 131 тыс. токенов. Сильные стороны модели — высокая эффективность по памяти для крупной MoE-подобной конфигурации, оптимизация под AMD Strix Halo, поддержка внешнего speculative-драфтера и возможность дискового размещения PLE-таблицы. Сборка ROCmFP4 обеспечивает более высокое качество, тогда как ROCmFP2 позволяет уложиться примерно в 56 ГБ оперативной памяти, но имеет заметный компромисс по качеству на отдельных тестах и больший дисковый объём. Для работы требуются специализированные форки ROCmFPX и совместимый runtime; стандартный llama.cpp эту квантизацию не загружает. Лицензия указана как qwen-community-1.0.

Qwen-AgentWorld-35B-A3B — языковая модель мира, опубликованная Unsloth на базе Qwen-AgentWorld-35B-A3B от Qwen. Она предназначена для симуляции сред, с которыми взаимодействуют агенты: по истории взаимодействия и действию агента модель предсказывает следующее состояние среды и формирует наблюдение. Модель охватывает семь областей: вызовы инструментов через MCP, поиск, терминал, разработку ПО, Android, веб-интерфейсы и операционные системы. Это причинная языковая модель архитектуры Qwen 3.5 MoE: всего 35 млрд параметров, из которых активируются 3 млрд; контекст — до 262 144 токенов. Обучение включало продолженное предобучение, дообучение с учителем и обучение с подкреплением. Модель принимает текстовые описания действий и истории взаимодействий и генерирует текстовые предсказания состояния среды. В карточке заявлены сценарии как с текстовыми, так и с графическими интерфейсами, но наличие входа изображений в этой версии явно не описано. Весы доступны в формате safetensors, библиотека — Transformers, лицензия — Apache-2.0.

SmolLM3-3B-MOPD-Top64-DR-NoThinking-500 — это исследовательский чекпойнт языковой модели SmolLM3, подготовленный Huangsssz на основе BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT. Модель содержит 3,1 млрд параметров, использует плотную архитектуру SmolLM3ForCausalLM и принимает текстовые запросы для генерации текста; заявленная длина контекста — 65 536 токенов. Чекпойнт получен после 500 шагов дообучения методом дистилляции с пересечением наборов наиболее вероятных 64 токенов студента и учителей. Учителя специализировались на математике, коде и следовании инструкциям; генерация и оценивание выполнялись с отключённым режимом рассуждений. Для запуска автор рекомендует явно передавать enable_thinking=False. В README приведены результаты отдельных фиксированных оцениваний по математике, программированию и следованию инструкциям; они не доказывают устойчивого улучшения. Модель ориентирована на исследовательские эксперименты и генерацию ответов общего назначения, особенно в математике, программировании и выполнении инструкций. Это полный экспорт весов BF16 для Hugging Face Transformers с токенизатором и исходным шаблоном чата. Репозиторий указывает лицензию Apache-2.0. Чекпойнт является ранней исследовательской версией после ограниченного числа шагов; опубликованные оценки имеют фиксированный протокол и ограниченную статистическую надёжность.

thealper2/t5-small-nl-to-regex — дообученная автором карточки модель google-t5/t5-small для преобразования краткого описания шаблона на английском языке в регулярное выражение. Она основана на архитектуре T5 и содержит 38,5 млн параметров; в метаданных указано ограничение контекста 512 токенов. Модель обучена на 20 824 примерах из корпусов DeepRegex KB13, NL-RX-Synth и NL-RX-Turk. На тестовой выборке точное совпадение составило 66,78%, валидность выражений — 99,76%, функциональная точность — 78,54%; последняя включает как точную эквивалентность, так и приблизительное совпадение на конечном наборе проверочных строк. Результат использует диалект DeepRegex с операторами дополнения `~` и пересечения `&`, поэтому его нужно преобразовать перед применением в Python `re`. Модель заменяет слова в кавычках заполнителями `dog`, `truck`, `ring` и `lake` и не копирует исходные литералы. Проверялись короткие однофразовые описания; поведение на произвольных или многофразовых запросах не тестировалось. Генерируемые выражения не проверяются на катастрофический возврат при поиске. Лицензия — MIT.

Thespis-CurtainCall-7b-v0.2.1 — экспериментальная разговорная модель на базе Mistral, опубликованная cgato. Автор описывает её как первую модель в серии экспериментов по улучшению своих моделей и отмечает, что работа ещё не завершена. Модель предназначена для генерации диалоговых ответов, следования инструкциям и рассуждений в чате. При дообучении использованы наборы Dolphin, UltraChat, Capybara, ToxicQA, OpenOrca, Airoboros 3.1 и другие, включая данные для задач по программированию, физическому рассуждению и теории разума. В README приведены шаблоны чата Oobabooga и SillyTavern. Это плотная MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов; репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое применение. Автор предупреждает, что модель экспериментальная и ещё не завершена; карточка также помечена как устаревшая.

Thespis-CurtainCall-7b-v0.2.2 — языковая модель на архитектуре Mistral, выпущенная автором cgato для тестирования. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель дообучена на наборах данных для диалогов, следования инструкциям, вопросов и ответов, программирования, токсичных запросов, физического рассуждения и теории разума. Она предназначена для генерации текста в чат-сценариях; README описывает шаблон диалога с ролями пользователя и бота, совместимый с Ooba и SillyTavern. Модель представлена в формате PyTorch и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Автор выпустил эту версию для тестирования и рассматривает масштабирование при положительных отзывах; конкретные оценки качества и ограничения в карточке не приведены.

ThinkPRM-1.5B — генеративная модель процессной оценки рассуждений, разработанная командой Launch и дообученная на базе R1-Distill-Qwen-1.5B. Она проверяет решения по шагам: формирует текстовые критические замечания и оценки корректности каждого шага, а также может оценивать решение целиком. Модель предназначена для проверки математических и научных рассуждений, верификации кода, ранжирования кандидатных решений в Best-of-N и поддержки поиска по дереву рассуждений. Для обучения использовано около 1 000 синтетических примеров проверочных цепочек рассуждений, сверенных с метками PRM800K. Модель имеет плотную архитектуру Qwen2, 1,5 млрд параметров и контекст до 131 072 токенов; принимает текст и генерирует текстовые объяснения и оценки. В карточке указаны результаты на ProcessBench, MATH-500, AIME '24, GPQA-Diamond и LiveCodeBench. Модель может чрезмерно уверенно выдавать оценки, близкие к 0 или 1; ранняя ошибочная оценка шага может повлиять на последующие, а результат зависит от формата решения и промпта. Лицензия — Apache-2.0.

TraceML Action Labeler — языковая модель jerryyan для классификации изменений между версиями ML-решений. Она принимает diff кода, метки состояния обеих версий и изменение оценки, а затем формирует JSON с типом действия, намерением, масштабом изменения, влиянием на оценку и кратким текстовым объяснением. Модель представляет собой плотную Qwen3ForCausalLM на 1,7 млрд параметров, дообученную на размеченных примерах TraceML, подготовленных с помощью более крупной модели-учителя. Контекстное окно составляет 40 960 токенов; модель работает с текстом и предназначена для анализа траекторий разработки ML-решений. Для воспроизводимого результата автор рекомендует жадное декодирование с отключённым режимом thinking и использование промптов и парсера из TraceML Toolkit. Подходит для разметки переходов между версиями кода в экспериментах и анализа действий, предпринятых при улучшении ML-решений. Для каждого перехода нужны метки состояния обеих версий; длинный код следует укладывать в контекст с помощью Toolkit. Модель распространяется на условиях Apache-2.0.