II.3Рефакторинг, миграция и модернизация

jakeatx выпустил экспериментальный компактный чекпойнт семейства Qwen3.8 Perian на архитектуре Qwen4ExpTextForCausalLM типа MoE. Модель предназначена для генерации текста в диалогах и многошаговых сценариях, включая рассуждения, код, работу с инструментами и поиск по контексту. Она содержит 3,6 млрд параметров и поддерживает контекст до 262 144 токенов. Это производный чекпойнт с упаковкой routed-expert весов в NVFP4 E2M1; таблица PLE n-грамм сохранена в BF16, остальные тензоры оставлены в исходной точности. По README, логический размер тензоров уменьшен на 43,26% относительно исходного чекпойнта. Карточка сообщает о проверках структуры, приближённого сохранения весов и генерации. Модель опубликована под лицензией Apache-2.0. В README указано требование установить включённый компактный runtime patch перед загрузкой; результаты проверки ограничены описанными в карточке тестами. Языковая специализация не заявлена.

Surge-V1.1-2x0.8B — компактная разреженная модель класса Mixture-of-Experts от Junhauwong, представленная как модель для локального инференса. По карточке она использует два специализированных экспертных пути по 0,8 млрд параметров; метаданные указывают семейство Qwen3.5 MoE и архитектуру для генерации текста. Модель поддерживает диалоговый режим и предназначена для рассуждений, программирования, математических задач и сценариев с подключёнными инструментами. Её можно применять для пошаговых объяснений, планирования, написания и отладки кода, решения арифметических и алгебраических задач, а также автоматизации через внешние API и другие инструменты. В карточке приведён пример запуска через Transformers; лицензия в метаданных — Apache-2.0. Автор отмечает компактность модели и возможность локального запуска, но не приводит подтверждённых результатов бенчмарков.

Larryvrh опубликовал версию Yi-34B-200K от 01.AI, адаптированную для работы с архитектурой Llama и удобства использования. Это плотная языковая модель на 33,9 млрд параметров для генерации текста; репозиторий содержит веса Safetensors. Заявленная длина контекста — до 200 000 токенов. Модель подходит для диалога и генерации текста на китайском и английском языках, ответов на вопросы по длинным документам, чтения с пониманием, рассуждений, математики и задач по программированию. В README приведены результаты бенчмарков для разных моделей, но отдельные результаты Yi-34B-200K здесь не выделены. Модель может выдавать ошибочные или проблематичные ответы. Лицензия — Apache-2.0.

Zrald-AI Qwen 3.8 27B zraldv1-ac — GGUF-релиз модели Qwen3.8-27B от Zrald, подготовленный для запуска через llama.cpp. В карточке указаны файл размером 17,08 GiB и профиль с приоритетом точности; заявлено сохранение 99,68% точности и минимальная рекомендуемая видеопамять 20 ГБ. README сообщает о физических замерах производительности на AMD Instinct MI300X, но эти показатели зависят от оборудования и конфигурации запуска. Модель предназначена для генерации текста в диалогах, а метаданные также отмечают сценарии программирования и рассуждений. Базовая модель в каталоге описана как мультимодальная, способная анализировать изображения и видео, однако README этого релиза не подтверждает поддержку этих входов, поэтому здесь она не заявляется. Репозиторий содержит GGUF-файл, а метаданные указывают связь с Qwen/Qwen3.8-27B как с базовой моделью. Лицензия — Apache-2.0. Заявленные точность, скорость и требования к VRAM приведены автором релиза и не являются гарантией производительности на другом оборудовании.

Карточка модели nguyenthilaitrieulong/DeepSeek-R1-Distill-Llama-70B-abliterated на Hugging Face совпадает с карточкой huihui-ai/DeepSeek-R1-Distill-Llama-70B-abliterated, поэтому описание составлено по ней. Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

DeepSeek V4 Flash 4Expert Q4K GGUF — это 4-битная квантизированная версия варианта DeepSeek V4 Flash с архитектурой MoE и MLA, опубликованная cloudyu. В конфигурации используются четыре активных эксперта на токен и 43 слоя; эксперты хранятся в формате Q4_K, а проекции внимания и веса общего эксперта — Q8_0. Репозиторий содержит модель в формате GGUF объёмом около 153 ГиБ. Модель предназначена для генерации текста, включая написание кода, рассуждения и ответы на вопросы. README сообщает о результатах оценки на HumanEval, AIME 2025, GPQA Diamond и SuperGPQA; это результаты автора репозитория, а не независимая гарантия качества. Карточка указывает английский и китайский языки. Для запуска требуется движок ds4 с поддержкой конфигурации 4Expert; стандартная upstream-версия ds4 без соответствующих изменений этот файл не загружает. Лицензия — Apache-2.0.

DeepSeek V4 Flash REAP K128 — это экспериментальная структурно прореженная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi. Метод REAP от Cerebras Research удаляет 50% маршрутизируемых экспертов в слоях Mixture-of-Experts, сохраняя внимание, эмбеддинги, общих экспертов, маршрутизатор и компоненты MTP. Это GGUF-модель смешанной точности: в слоях 37–42 используются эксперты Q4_K, в остальных — IQ2_XXS/Q2_K. Для запуска требуется среда ds4, поддерживающая выбор типа квантования по слоям. Модель предназначена для генерации текста и диалогов, в том числе для задач программирования, вызова инструментов и поиска знаний. Для калибровки использованы 8 000 промптов на 5 млн токенов; автор сообщает о прореживании без дообучения и без изменения весов сохранённых экспертов. Модель распространяется по лицензии MIT. Для запуска требуется совместимый runtime; README предупреждает о несовместимости с некоторыми средами, ожидающими тензоры экспертов IQ2_XXS.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — модификация базовой модели Qwen3.6-27B, разработанная HauhauCS. Это мультимодальная модель для работы с текстом, изображениями и видео, представленная в формате GGUF и предназначенная для запуска в llama.cpp, LM Studio и других совместимых средах. Она ориентирована на агентное программирование, использование инструментов, рассуждения, творческое письмо и ролевые сценарии, а версия Aggressive специально настроена на прямые ответы без предварительных оговорок на жёсткие запросы. README заявляет отсутствие отказов в тесте из 465 запросов, однако это утверждение следует считать характеристикой автора сборки, а не независимой гарантией поведения модели. Модель содержит 27 млрд плотных параметров, 64 слоя и гибридную архитектуру с 48 слоями линейного внимания Gated DeltaNet и 16 слоями полноценного Gated Attention. Нативный контекст составляет 262 тыс. токенов и может быть расширен примерно до 1 млн с помощью YaRN. Указана поддержка английского, китайского и других языков, а также встроенная мультимодальность; для обработки визуальных данных поставляется отдельный компонент mmproj. Доступны квантизированные варианты от Q8 до Q2, включая специализированные K_P-квантизации, оптимизированные для сохранения качества. Сильными сторонами являются большой контекст, поддержка текста, изображений и видео, широкий выбор вариантов квантизации и отсутствие изменений в заявленных исходных возможностях Qwen3.6-27B. Ограничение версии Aggressive — менее сдержанная манера поведения и отсутствие защитных отказов, что повышает риски при использовании. Модель распространяется по лицензии Apache-2.0; сведения о требованиях к аппаратному обеспечению в README не приведены, но размер файлов квантизаций составляет примерно от 10 до 32 ГБ, не считая mmproj размером 928 МБ.

Gemma-4-12B-it-qat-JANG_4M-CRACK — дообученная и квантизированная версия Gemma 4 12B-it от dealignai. Это плотная мультимодальная модель семейства Gemma4 Unified с единым ранним слиянием модальностей и гибридным скользящим и глобальным вниманием. Она принимает текст, изображения и аудио и предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; карточка также заявляет многоязычную поддержку и сохранение возможностей базовой модели в работе с изображениями и аудио. Модель использует схему JANG_4M: 8-битное квантование внимания и 4-битное квантование MLP. Разработчик сообщает о 84,2% на MMLU и 97% выполнении вредоносных запросов в тесте HarmBench, где отказ от ответов на такие запросы был удалён. Поэтому модель рассчитана на сценарии без стандартных отказов по этим категориям и требует осторожного контроля применения. Для запуска рекомендованы приложение или API vMLX и Mac на Apple Silicon с достаточной объединённой памятью; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки Gemma 4. Лицензия — Gemma; разработчик указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

Gemma 4 26B-A4B-it QAT JANG_4M CRACK — мультимодальная доработанная версия Gemma 4 от dealignai. Она сочетает архитектуру MoE с 128 экспертами и выбором восьми активных экспертов, гибридное внимание и квантизацию JANG_4M: 8 бит для attention и 4 бита для MLP. Модель принимает текст и изображения и отвечает текстом; карточка заявляет поддержку рассуждений, визуальных запросов, вопросов и ответов и генерации кода. Модель рассчитана на общие диалоговые сценарии, включая анализ изображений, многошаговые рассуждения и написание кода. По результатам, приведённым в README, её показатель MMLU составляет 79,8% против 84,2% у базовой модели; автор также сообщает о сохранении визуальных возможностей и снижении отказов на тесте HarmBench. Для запуска требуются Mac на Apple Silicon с достаточным объёмом объединённой памяти и vMLX с поддержкой Gemma 4. Лицензия — Gemma; README указывает исследовательское назначение и возлагает на пользователя ответственность за соблюдение применимого законодательства.

Это GGUF-сборка Huihui-Nex-N2-mini-abliterated, подготовленная LocalAI с использованием APEX — смешанной MoE-квантизации с учётом роли и слоя тензоров. Модель основана на гибридной архитектуре Qwen3.5 с 40 слоями, 256 экспертами (8 активны одновременно), линейным вниманием SSM и полным вниманием; всего около 35,1 млрд параметров, из которых активно около 3 млрд. В сборках MTP сохранена встроенная черновая голова предсказания следующего токена для спекулятивного декодирования. Модель предназначена для диалогов и задач с изображениями. Вариант APEX I-Quality калиброван на разнообразных примерах чата, кода, рассуждений и вызова инструментов. MTP-варианты могут ускорять генерацию, но требуют свежей сборки llama.cpp с поддержкой встроенного MTP; вариант без MTP совместим с более широким диапазоном сборок. Репозиторий содержит несколько вариантов GGUF-квантования примерно по 22,8–24,5 ГБ. Это uncensored-производная: удаление направления отказов может приводить к ответам на запросы, от которых исходная модель отказалась бы. Лицензия — Apache-2.0.

Это мультимодальная диалоговая модель семейства Qwen3.8 на 27 млрд параметров, представленная в формате GGUF. Репозиторий подготовлен renketong: веса NVFP4 перенесены из safetensors в GGUF без повторной квантизации; в комплект входят MTP-голова для спекулятивного декодирования и отдельный проектор для обработки изображений. В README указана архитектура qwen35 с 64 слоями и одним MTP-слоем, а также нативный контекст 262 тыс. токенов. Модель предназначена для генерации текста и диалогов, включая работу с кодом и JSON, а также анализа изображений при загрузке проектора mmproj. Abliteration уменьшает число отказов, а MTP может ускорять генерацию в совместимом ПО, например llama.cpp и LM Studio. Это производная модель в цепочке от Qwen/Qwen3.8-27B через Huihui-Qwen3.8-27B-abliterated и NVFP4-квантизацию. Лицензия репозитория — Apache-2.0. Модель ориентирована на локальный запуск и требует совместимой инфраструктуры; заявленная поддержка NVFP4 связана с ускорителями NVIDIA Blackwell. Снижение отказов означает, что модель может отвечать на запросы, от которых обычно отказывается система с защитными настройками. Измерения скорости в README сделаны на RTX 5090 и зависят от типа текста и параметров MTP.

Ling-flash-base-2.0 — базовая языковая модель семейства Ling 2.0, разработанная командой inclusionAI. Это модель типа Mixture of Experts на архитектуре Bailing MoE; в карточке указано 5,5 млрд параметров, а README для семейства Ling-flash-2.0 приводит 100 млрд общих и 6,1 млрд активируемых параметров. Репозиторий рассчитан на генерацию текста и служит основой для дальнейшей настройки; семейство ориентировано на рассуждения, математические задачи, программирование и разработку интерфейсов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим. Метаданные указывают контекст 32 768 токенов; README семейства сообщает о расширении окна до 128 тысяч токенов с YaRN. Доступны веса в формате Safetensors, для работы описана поддержка Transformers и подготовка интеграций с vLLM и SGLang. Лицензия — MIT. README приводит результаты семейства Ling-flash-2.0 на тестах рассуждений, математики, кода и творческого письма, однако это описание относится к Ling-flash-2.0 и не подтверждает отдельно такие показатели для базового чекпойнта. Для длинного контекста через YaRN и некоторых сценариев инференса могут потребоваться дополнительные настройки или патчи.

Loxa Pro — языковая модель от frameai для генерации текста и диалогового взаимодействия. Она основана на архитектуре Gemma 2, содержит 3,3 млрд параметров и принимает текстовый ввод; заявленный контекст составляет 8192 токена. Модель распространяется в формате safetensors и использует лицензию Apache-2.0. Модель предназначена для решения математических задач и объяснения решений, написания и отладки кода, ответов на общие и научные вопросы, а также помощи с повседневными текстовыми задачами. В README разработчик заявляет о методе CA (Combine Architectures), эффективности на менее мощных GPU и улучшении точности относительно Loxa-4B и Loxa-3B, однако подробности метода и результаты сравнительных оценок не приведены. Как и другие языковые модели, Loxa Pro может отражать смещения обучающих данных и выдавать фактически неверные или вводящие в заблуждение ответы; результаты следует проверять. Для запуска требуются вычислительные ресурсы, хотя модель заявлена как оптимизированная для небольших GPU.

LuxAI 1 Nemo — выпущенная LuxAI объединённая модель на архитектуре Mistral 3 для диалога на чешском и английском языках, программирования, математики и работы с инструментами. Репозиторий содержит самостоятельные веса BF16 в формате safetensors; обучение включало текстовые адаптеры и настройку выбранных строк токенов, а затем их слияние с моделью. В README указана корректирующая эпоха на 21 530 примерах: среди обучающих задач были математические и программные рассуждения, диалоги с инструментами и чешская беседа. Модель предназначена для генерации текста, ответов в чате, кода и вызовов инструментов. На диагностическом чешском наборе Lux Core 1 она набрала 72,92% (175 из 240); это специализированная оценка, а не общий рейтинг. Авторы рекомендуют начинать работу с контекста 8 192 токена, поскольку качество на большей длине не установлено. Также опубликованы варианты GGUF, включая смешанную 4-битную квантизацию, но их точность не следует считать равной результату BF16. Ограничения включают возможные фактические, математические и программные ошибки, ненадёжное формирование native-блоков рассуждений на чешских запросах и иногда пропущенные или повторяющиеся разделители протокола. Синтаксически корректный вызов инструмента не гарантирует верный выбор инструмента; структурированный вывод следует проверять. В README сведения о лицензии отсутствуют.

MiroThinker-1.7-mini-GGUF — GGUF-квантизированная версия языковой модели MiroThinker-1.7-mini, разработанной командой MiroMind AI. Модель создана для агентных сценариев, глубокого исследования, сложных вопросов и многошагового анализа с использованием инструментов. Она ориентирована на выполнение длинных цепочек рассуждений и поддерживает до 300 вызовов инструментов в рамках одной задачи. Модель содержит 30 млрд параметров и имеет контекстное окно до 256 тыс. токенов. Указана поддержка английского языка; модальность — текстовая. В качестве базовой модели обозначена Qwen/Qwen3-235B-A22B-Thinking-2507. GGUF-версия была создана с использованием llama.cpp. К сильным сторонам относятся большой контекст, многошаговое рассуждение и ориентация на исследовательские агентные процессы. Ограничения включают зависимость качества от корректной интеграции инструментов и значительные требования к вычислительным ресурсам; конкретный вариант квантования в README не указан. Модель распространяется по лицензии Apache-2.0.

Nex-N2.5-mini-GGUF — набор общественных GGUF-квантизаций модели Nex-N2.5-mini, разработанной Nex-AGI и преобразованной в GGUF пользователем ngquocvinh для запуска через llama.cpp. Модель предназначена для локального текстового поколения и агентных сценариев с длительными цепочками действий, включая работу с компьютером, веб-сёрфинг, визуальное заземление, программирование, рассуждения и вызов инструментов. Исходная модель поддерживает изображения и видео через официальный мультимодальный процессор и шаблон чата; для этого релиз включает отдельный vision projector mmproj-Nex-N2.5-mini-F16.gguf. Архитектура исходной модели — Qwen3.5 Mixture-of-Experts с 256 экспертами, из которых активны 8 на токен, и 40 текстовыми слоями. Размер исходной BF16-версии — 35 млрд параметров, заявленный текстовый контекст — 262 144 токена, однако локальная проверка данного пакета проводилась только с контекстом 4096 токенов. Доступны варианты от Q1_0 до Q8_0; Q4_K_M рекомендуется как практичный баланс памяти и качества, а Q5_K_M, Q6_K и Q8_0 обычно сохраняют больше точности. Низкобитные варианты требуют проверки на конкретной задаче: измерения показывают заметное снижение сходства с BF16, особенно у Q1_0. Релиз не обучает и не дообучает модель, а выполняет только конвертацию и квантизацию, поэтому качество зависит от выбранного профиля и рабочей нагрузки. Приведённые тесты оценивают лишь сходство поведения при предсказании следующего токена и не гарантируют сохранение исходных возможностей в рассуждениях, мультиязычности, работе с изображениями или инструментами. Распространение указано по лицензии Apache-2.0.

OpenThinkerAgent-32B-SFT-1K — плотная языковая модель на архитектуре Qwen3, разработанная в рамках открытого проекта OpenThoughts-Agent. Она дообучена полным параметрическим SFT на базе Qwen/Qwen3-32B с использованием 1 000 примеров из набора OpenThoughts-Agent-SFT-1K. Модель содержит 29,7 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. Модель предназначена для агентных сценариев, программирования и работы в терминальной среде: она генерирует текстовые ответы и продолжения, а также может выдавать код и последовательности действий для инструментов в поддерживающей их оболочке. В оценке на Terminus-2 она показала результаты pass@1 19,0 на SWE-Bench-Verified-100, 21,0 на OpenThoughts-TBLite и 10,9 на Terminal-Bench 2.0; на SWE-Bench-Verified-100 показатель ниже базовой Qwen3-32B, тогда как на двух других наборах — выше. Весы доступны в формате Safetensors; лицензия — Apache-2.0. Модель является дообученной производной Qwen/Qwen3-32B, а не самостоятельной базовой моделью. Обучение на небольшом наборе из 1 000 примеров ограничивает широту специализации, а результаты оценки зависят от конкретного агентного стенда и не гарантируют качество в других сценариях.

Phi-3-mini-128k-instruct-GGUF — квантизированная версия инструкционной языковой модели Phi-3-mini-128k-instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев, включая обработку запросов и работу с кодом. Она поддерживает английский язык, использует формат GGUF и рассчитана на контекст до 128 000 токенов. Для работы в GaiaNet предусмотрен шаблон prompt phi-3-chat. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 1,42 до 7,64 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S обеспечивают меньшее снижение качества при большем размере. Более агрессивная квантизация уменьшает требования к ресурсам, но может заметно ухудшать качество ответов. Модель ориентирована преимущественно на английские задачи; сведения о мультимодальности отсутствуют. Квантизацию выполнила Second State Inc. Лицензия — MIT.

lmstudio-community/Phi-4-reasoning-plus-MLX-4bit — это версия модели Microsoft Phi-4-reasoning-plus, преобразованная сообществом lmstudio-community в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке, включая задачи рассуждения, математики, программирования и обработки естественного языка. Модель поддерживает использование через библиотеку mlx-lm и совместима с чатовым шаблоном токенизатора. В названии указано 4-битное представление, однако архитектура, количество параметров, размер контекста и точные характеристики модальностей в README не приведены; по указанным данным модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. Лицензия — MIT. README не содержит результатов тестирования, поэтому количественно оценить сильные стороны и ограничения модели невозможно; к ограничениям относятся неизвестные параметры производительности и качества, а также заявленная языковая поддержка только английского языка.

Модель unsloth/Qwen2.5-32B — версия базовой языковой модели Qwen2.5, опубликованная Unsloth и основанная на Qwen/Qwen2.5-32B. Это плотная причинная языковая модель с архитектурой Qwen2ForCausalLM, 32 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors и модель работает через Transformers. В карточке также приведены сведения об архитектуре семейства: RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Модель предназначена для генерации текста и дальнейшего дообучения. Базовый чекпойнт поддерживает многоязычную генерацию, включая русский, английский, китайский и другие языки; семейство Qwen2.5 также описано как способное работать с кодом, математическими задачами, длинными текстами и структурированными данными. README отдельно предупреждает, что базовая модель не рекомендуется для диалогов без последующего обучения, например SFT или RLHF. Лицензия — Apache-2.0.

DhruvalLabs/Qwen2.5-7B-Instruct-GGUF — набор квантизированных версий текстовой генеративной модели Qwen2.5-7B-Instruct. Исходную модель разработала команда Qwen, а представленные GGUF-квантизации подготовлены Dhptl с использованием quant-kit. Модель предназначена для диалогов, генерации текста и работы в качестве локального ассистента; поддерживается запуск через llama.cpp, Ollama, LM Studio, Open WebUI и Jan. В карточке явно указан английский язык. Это семимиллиардная instruction-tuned языковая модель в формате GGUF с вариантами квантизации от Q2_K до Q8_0. Размер файлов составляет примерно от 2,81 до 5,31 ГБ, а рекомендуемым вариантом назван Q4_K_M как компромисс между качеством и требованиями к памяти; для него требуется около 5,9 ГБ RAM. Более сильное сжатие уменьшает потребление памяти, но заметнее снижает качество, тогда как Q6_K и Q8_0 ближе к исходному качеству и требуют больше ресурсов. В README не указаны размер контекста и мультимодальные возможности; приведён пример использования с контекстом 4096 токенов. Лицензия — Apache-2.0. Заявленные оценки сохранения 97–99% качества не подтверждены фактическими результатами в карточке, поскольку бенчмарки предлагается запускать самостоятельно.

RESMPDEV/Qwen2-Wukong-7B — разговорная модель на базе Qwen2-7B, дообученная автором репозитория как dealigned chat finetune на наборе OpenHermes-2.5 и дополнительных данных от Cognitive Computations. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 на базе Transformer и предназначена для генерации текста в формате чата. Заявленная длина контекста — 131 072 токена. Модель подходит для диалоговых ответов, генерации текста и вспомогательных задач вроде вопросов и ответов, рассуждений, математики и программирования. Карточка описывает базовую Qwen2 как многоязычную, а метаданные этой модели указывают английский язык; поэтому поддержку других языков для данного дообучения следует считать не подтверждённой. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0.

Qwen3-4B-Diversity — дообученная разговорная языковая модель от hadadxyz на базе Qwen/Qwen3-4B. Она ориентирована на пошаговые рассуждения и использует данные, дистиллированные из ответов различных крупных ИИ-моделей. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов; распространяется в формате safetensors. Модель предназначена для решения математических задач, генерации и анализа кода, общих задач на рассуждение и многоходовых диалогов. Карточка описывает обучение на разнообразных наборах данных с примерами рассуждений и рекомендует отдельные параметры генерации для режимов Thinking и Non-Thinking. Лицензия — Apache-2.0. Карточка не приводит результатов сравнительной оценки, поэтому заявленные улучшения рассуждений не сопровождаются количественными бенчмарками; фактическое качество может различаться в зависимости от задачи.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это GGUF-версия модели на базе DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель создана в результате многоэтапной дообученной настройки и слияния нескольких моделей Qwen3.5 9B; в разработке также участвовал Nightmedia. Предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. Заявлена как полностью uncensored и ориентированная на минимизацию отказов. Модель поддерживает контекст до 256k токенов, английский и китайский языки, а также обработку изображений. Для работы с изображениями требуется отдельный файл mmproj, размещённый в одной папке с GGUF-файлом. Доступны обычные и MTP-квантизации в форматах GGUF. NEO IMATRIX заявлена как технология, улучшающая точность квантизированных версий и работу с длинным контекстом, а MTP-варианты могут ускорять генерацию за счёт многотокенного предсказания. К сильным сторонам относятся высокая заявленная производительность на ряде тестов общего назначения, улучшенное следование инструкциям, режимы thinking и instruct, а также возможность запуска в стандартных приложениях, поддерживающих GGUF. Ограничения включают зависимость скорости от аппаратного обеспечения и параметров генерации; MTP-версии могут работать хуже обычных при низком уровне принятия предсказанных токенов, сложных творческих задачах или температуре выше 1. Модель не обязательно превосходит более крупные версии во всех задачах. Лицензия — Apache-2.0.

kingjones777/Qwen3.8-Flash-Next-ROCmFP4-FAST-GGUF — это квантизированная GGUF-версия модели Qwen3.8-Flash-Next, разработанная сообществом Qwen и адаптированная kingjones777 для запуска на AMD Ryzen AI Max+ 395 с интегрированной графикой Radeon 8060S, архитектурой Strix Halo и GPU-целью gfx1151. Модель предназначена для генерации текста, включая рассуждения, создание JSON, программирование и суммаризацию документов. Модель использует архитектуру qwen4exp и формат ROCmFP4; обычная версия llama.cpp её не загружает. Для работы требуется специальная ветка ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также совместимая сборка для ROCm. В README указана проверка работы с контекстом до 128K, однако размер модели, точный перечень поддерживаемых языков и модальности не приведены. Доступен speculative decoding через MTP-head, который может повышать скорость генерации, но результат проверяется основной моделью; эффективность зависит от типа задачи и настроек. Сильная сторона модели — возможность запуска крупной модели на системе с общей памятью CPU и GPU, включая длинный контекст и аппаратные оптимизации для AMD. Ограничения включают необходимость специального runtime и патчей, зависимость производительности от пропускной способности общей памяти, а также непредсказуемый выигрыш от MTP: в приведённых измерениях он ускорял часть сценариев, но замедлял другие. Лицензия указана как qwen-community-1.0.

QwenSelfMerge — языковая модель, созданная сообществом mergekit путём объединения фрагментов Qwen/Qwen2.5-72B-Instruct методом passthrough. По метаданным, это плотная авторегрессионная архитектура Qwen2 с 32,8 млрд параметров; модель использует Transformers и формат safetensors, поддерживает контекст до 32 768 токенов и интерфейс диалога с вызовом инструментов. Модель предназначена для генерации текста и диалоговых сценариев, унаследованных от Qwen2.5-72B-Instruct, включая структурированные ответы, программирование и математику. В README описана сборка из нескольких диапазонов слоёв той же базовой модели; карточка не приводит отдельных результатов оценки качества. Лицензия в предоставленных данных не указана.

Qwythos-27B-v1 — открытая полноразмерная дообученная модель Empero AI на базе Qwen/Qwen3.5-27B. Это плотная мультимодальная модель с 64 текстовыми слоями, гибридным вниманием Gated-DeltaNet и полным модулем зрения; она принимает текст и изображения и генерирует текст. Модель прошла полнопараметрические этапы SFT, DPO и ESFT до обучения с подкреплением, сохранив штатную поддержку вызова инструментов и предсказания нескольких токенов. Модель предназначена для диалогов и рассуждений, задач STEM, работы с терминальными и инструментальными сценариями, а также технических вопросов в областях кибербезопасности и биомедицины. Заявлена конфигурация контекста до 1 048 576 токенов с расширением YaRN. Шаблон чата поддерживает нативный формат вызова функций Qwen3.5. Зрение унаследовано от базовой модели: параметры визуального модуля не дообучались, а понимание изображений не оценивалось. Большой контекст с YaRN может немного ухудшать качество на коротком контексте. Модель намеренно не ограничивает ответы на чувствительные технические темы, поэтому для использования нужны подходящие правила и проверка результатов. Лицензия — Apache-2.0.

Huangsssz/SmolLM3-3B-MOPD-Top64-GT-NoThinking-500 — исследовательский чекпойнт языковой модели, созданный дообучением BytedTsinghua-SIA на 500 шагах оптимизатора методом дистилляции по пересечению Top-64 токенов. Используется архитектура SmolLM3ForCausalLM: плотная модель на 3,1 млрд параметров; экспорт выполнен в BF16 для Transformers. Контекст модели — до 65 536 токенов. Модель предназначена для генерации текста в сценариях решения математических задач, программирования и следования инструкциям. При обучении ответы оценивали соответствующие специализированные учителя; генерация и оценивание выполнялись с отключённым режимом рассуждений. В README приведены результаты отдельных бенчмарков, включая math500, LiveCodeBench и IFBench; это измерения по фиксированному протоколу, а для AIME указано небольшое число вопросов, поэтому небольшие различия в оценках не подтверждают устойчивое улучшение. Чекпойнт включает токенизатор и исходный шаблон чата. Для инференса без рассуждений README рекомендует явно передавать enable_thinking=False. Модель распространяется по лицензии Apache-2.0; карточка указывает, что экспорт сохраняет конфигурацию базовой модели, включая настройки RoPE и поведение стоп-токенов.

mncai/yi-34B-v2 — инструкционно дообученная модель MindsAndCompany на базе Yi-34B для генерации текста и ответов на запросы. В карточке приводится пример вопроса на корейском языке; модель может использоваться в диалоговых и корпоративных приложениях, включая чат-ботов и помощников по коду, которые разрабатывает компания. Модель имеет плотную архитектуру LlamaForCausalLM и около 33,9 млрд параметров. Она принимает текст, выдаёт текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0.