II.3Рефакторинг, миграция и модернизация

Карточка модели inference-optimization/Qwen3-30B-A3B-Thinking-2507-REAP-25-uniform на Hugging Face совпадает с карточкой Qwen/Qwen3-30B-A3B-Thinking-2507, поэтому описание составлено по ней. Qwen3-30B-A3B-Thinking-2507 — причинная языковая модель семейства Qwen3 от команды Qwen. Это модель типа Mixture of Experts с 30,5 млрд параметров, из которых при генерации активируются около 3,3 млрд; в архитектуре 128 экспертов, одновременно используются 8. Она предназначена для диалогов и сложных задач рассуждения, включая математику, науку, программирование, следование инструкциям и работу с инструментами. Модель поддерживает только режим рассуждения и имеет нативное контекстное окно 262 144 токена. В README отмечены улучшения в глубине рассуждений, общих возможностях и обработке длинного контекста. Модель принимает текст и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Модель распространяется под лицензией Apache-2.0. Длинные рассуждения могут приводить к большому объёму вывода, а для высоких нагрузок на контекст требуются значительные вычислительные ресурсы; README рекомендует актуальную версию Transformers и описывает запуск через vLLM или SGLang.

YOYO-AI разработала YOYO-V3 — объединённую разговорную модель на архитектуре Qwen3 MoE, созданную слиянием instruct-, reasoning- и code-моделей Qwen3. Она предназначена для диалогов, выполнения инструкций, рассуждений и генерации кода; режимы с рассуждением и без него переключаются через шаблон чата. В репозитории указаны точность bfloat16 и контекст до 1 010 000 токенов. Модель поддерживает английский и китайский языки, а метаданные также отмечают интерфейс вызова инструментов. Лицензия — Apache-2.0. Слияние выполнено методами nuslerp и nearswap на основе Qwen3-30B-A3B-Instruct-2507, Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Автор предупреждает о возможном ухудшении качества после слияния: в обычном режиме модель может выдавать длинные цепочки рассуждений, а в режиме рассуждений — не формировать итоговое резюме.

Qwen3.6-27B Abliterated — мультимодальная плотная модель на 27 млрд параметров, созданная mlasli на основе Qwen/Qwen3.6-27B. Вариант подготовлен с помощью Heretic v1.4.0: из модели удалено направление отказов, чтобы уменьшить отказы при запросах для исследований безопасности и других сценариев. Модель предназначена для диалогов, работы с изображениями, программирования и агентных задач; карточка также указывает поддержку нескольких языков. Контекст составляет 262 тыс. токенов с возможностью расширения до 1 млн. README заявляет, что абляция сохраняет общие возможности базовой модели, но не добавляет новых знаний или навыков. Для запуска требуется около 55 ГБ VRAM в BF16, 28 ГБ в 8-битном или 17 ГБ в 4-битном режиме. Лицензия — Apache-2.0.

Qwen3.7-Max — флагманская модель серии Qwen3.7, разработанная Alibaba. Она принимает и выдаёт текст и предназначена для агентных сценариев, включая программирование, работу с офисными задачами и повышение продуктивности. Карточка модели отмечает сильные стороны в задачах кодирования и офисной работы. В метаданных Hugging Face указана задача генерации текста и дата публикации 21 мая 2026 года. Сведений о размере, длине контекста, языках, лицензии и ограничениях в доступных материалах нет.

Карточка модели Svenuks/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на Hugging Face совпадает с карточкой medismera/Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic, поэтому описание составлено по ней. medismera представил производную модель Qwen3.8-27B-OBLITERATED-Mythos-Class-Agentic на основе слияния Qwen3.8-27B-OBLITERATED и Qwen/Qwen3.8-27B. Это плотная модель семейства Qwen3.5 с 27 млрд параметров для диалоговой генерации текста и работы в агентных сценариях. В карточке заявлены шаблон чата с поддержкой вызова инструментов, разбиение задач на иерархические этапы, протокол самопроверки рассуждений и контекст до 131 072 токенов; максимальная длина генерации указана как 16 384 токена. Модель предназначена для программирования, анализа системных журналов и телеметрии, многошаговых технических задач и взаимодействия с инструментами через совместимые агентные среды. Указаны английский, китайский и арабский языки. Репозиторий описывает веса в формате Safetensors и приводит варианты BF16, FP8 и AWQ в ветках; для запуска рекомендуются SGLang и vLLM. Лицензия — Apache-2.0. Заявления README о качестве вызова инструментов, результатах бенчмарков и отсутствии отказов приведены автором и не являются независимой оценкой. Это текстовая модель: метаданные не указывают вход или выход изображений, несмотря на мультимодальные возможности базовой модели.

Deritak/Qwen3.8-Flash-Next-heretic-2-ROCMFP4 — размещённая пользователем сборка Qwen3.8-Flash-Next, причинной языковой модели с визуальным энкодером. README описывает гибридную архитектуру с Gated DeltaNet, Qwen Sparse Attention, Mixture of Experts и n-граммными эмбеддингами: заявлены 125 млрд параметров, из которых активируются 6 млрд, а также отдельные параметры эмбеддингов и слой multi-token prediction. Модель принимает текст и изображения и предназначена для диалогов, задач с длинным контекстом и агентных сценариев, включая работу с кодом и офисными приложениями. В README указан контекст 262 144 токена с возможностью расширения до 1 000 000. Автор репозитория сообщает о проблеме с встроенной квантизацией MTP и рекомендует её не использовать; приведённые замеры скорости относятся к AMD AI Max+ PRO 395. Метаданные указывают GGUF и GGUF BF16, но лицензию обозначают только как other, поэтому точные условия использования по доступным сведениям определить нельзя.

Salience 1 (9B) — плотная мультимодальная модель Vection Labs на архитектуре Qwen3-VL с языковой частью Qwen3-8B и встроенным визуальным энкодером. Она принимает текст, изображения и видео и генерирует текст; заявленное окно контекста достигает 1 млн токенов. Модель рассчитана на техническую помощь, программирование и исследовательские задачи. Основные сценарии — генерация, объяснение, отладка и проверка кода, работа кодовых агентов с инструментами, пошаговые математические рассуждения, визуальные вопросы и анализ документов, диаграмм, графиков и коротких видеороликов. В README заявлены поддержка длинного контекста и режимы управления глубиной рассуждения. Указан английский язык. Модель может уверенно выдавать неверные факты и решения, а сгенерированный код может быть ошибочным или небезопасным. Длинные контексты и видеоролики повышают задержку и расход памяти; аудио не поддерживается. Для модели указана лицензия Apache-2.0.

Smaug-2-72B — чат-модель компании Abacus.AI, дообученная на основе Qwen1.5-72B-Chat. Это плотная языковая модель семейства Qwen2 с 71 млрд параметров, предназначенная для генерации текста, диалогов, рассуждений и задач программирования. Она принимает текст и использует контекст длиной до 32 768 токенов. В карточке приведены результаты MT-Bench и HumanEval: Smaug-2-72B показала более высокие результаты, чем Qwen1.5-72B-Chat, в указанных сравнениях. Модель распространяется в формате safetensors через Transformers. Лицензия обозначена как other; конкретные условия использования следует уточнить в лицензии репозитория.

Step-3.5-Flash-REAP-149B-A11B — сжатая методом REAP версия языковой модели Step-3.5-Flash, созданная авторами проекта REAP. Это причинная разреженная MoE-модель для диалогов и генерации текста. Она предназначена для программирования, математических рассуждений, вызова инструментов и агентных сценариев. По README, в модели 149 млрд параметров, из которых на каждом токене активируются около 11 млрд; она содержит 45 слоёв и 216 экспертов, из которых выбираются 8 на токен. Контекст составляет 262 144 токена. Карточка заявляет сокращение объёма памяти на 25% и близкую к исходной модели производительность; для запуска указана совместимость с vLLM. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Лицензия в README обозначена как Apache 2.0, тогда как метаданные Hugging Face содержат значение «other», поэтому условия распространения следует сверить с файлами лицензии репозитория. README описывает однократное прореживание экспертов без последующего дообучения, поэтому производная классифицирована как сжатие, а не fine-tuning.

DeepSeek-R1-0528-Qwen3-8B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth. Исходная модель разработана DeepSeek и представляет собой языковую модель с акцентом на углублённое рассуждение. Квантованный вариант распространяется для использования с Transformers и предназначен для более экономичного запуска модели. Модель ориентирована на сложные задачи рассуждения, математику, программирование, общую логику, вызов функций и сценарии «vibe coding». В README отмечены улучшения по сравнению с предыдущей версией DeepSeek R1: снижение галлюцинаций, более развитые способности к рассуждению и увеличение максимальной длины генерации до 64K токенов. Для DeepSeek-R1-0528 также приведены высокие результаты в тестах по общим знаниям, программированию и математике, включая AIME 2024, LiveCodeBench и SWE Verified. Точный набор поддерживаемых языков, модальностей и архитектурные детали в карточке не указаны; из идентификатора следует размер исходной модели 8B. Квантование уменьшает требования к памяти, но может влиять на точность по сравнению с полной версией. Модель распространяется по лицензии MIT.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

Dolphin 2.6 Mistral 7B — дообученная на базе Mistral-7B языковая модель, созданная Eric Hartford при спонсорской поддержке Convai. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для диалога и генерации текста; разработчик отдельно отмечает её сильные стороны в программировании. Модель обучалась полным дообучением в течение трёх эпох и использует формат запросов ChatML. Модель хорошо следует инструкциям, но не проходила DPO-настройку. В README её называют uncensored и предупреждают, что она может охотно выполнять небезопасные запросы; перед использованием в сервисе рекомендуется добавить собственный уровень фильтрации. Контекстная длина в метаданных указана как 32 768 токенов, тогда как README сообщает для базовой модели Mistral-7B контекст 16 тысяч токенов. Распространяется по лицензии Apache-2.0, допускающей коммерческое использование.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

Endy-Qwen3.6-CyberSec-35B-A3B-GGUF — локальная GGUF-модель, созданная на основе huihui-ai/Huihui-Qwen3.6-35B-A3B-Claude-4.7-Opus-abliterated. Это QLoRA-файнтюн, специализированный на программировании, задачах IT и кибербезопасности, включая анализ уязвимостей, пентестинг и безопасную разработку. Модель позиционируется как uncensored и предназначена для авторизованных исследований безопасности, обучения и локального запуска. Архитектура qwen3_5_moe сочетает MoE примерно с 35 млрд общих параметров и около 3 млрд активных, линейное внимание DeltaNet, native MTP и поддержку vision. Для работы с изображениями требуется парный файл mmproj; заявлена поддержка английского языка. Доступны квантизации от Q8_0 до Q2_K объёмом примерно от 37,8 до 13,2 ГБ; для GPU с 32 ГБ рекомендуется Q5_K_M. Указан контекст до 262 144 токенов и скорость около 57 токенов в секунду на Tesla V100. Сильными сторонами являются специализация на коде и кибербезопасности, поддержка текстовых и визуальных входов, экономичное MoE-вычисление и возможность локального инференса. Ограничения включают снижение качества на низких уровнях квантизации, склонность к повторениям в длительных агентных задачах и отсутствие поддержки speculative decoding и prefix-KV reuse. Модель распространяется по лицензии AGPL-3.0; использование должно соответствовать законодательству и ограничениям, связанным с происхождением части обучающих данных.

Coder40-95/GLM-5.3-GGUF — это квантованная версия языковой модели GLM-5.3, разработанной Z.ai и распространяемой в формате GGUF. В карточке указано, что модель основана на zai-org/GLM-5.3, а квантование связано с экосистемой Unsloth. Модель предназначена для генерации текста, сложного программирования, длительных многоэтапных задач, работы с инструментами и агентских сценариев. Заявлена поддержка английского и китайского языков. Ключевое преимущество GLM-5.3 — улучшенная по сравнению с GLM-5.2 способность к программированию и задачам, требующим продолжительного планирования. В README также заявлены высокие результаты в тестах поиска уязвимостей и эксплуатации, поэтому модель может быть полезна для исследовательских и защитных задач кибербезопасности при соблюдении соответствующих ограничений. Доступно управление интенсивностью рассуждений через параметр reasoning_effort со значениями low, high и max; по умолчанию используется max. Размер модели, точная архитектура, параметры квантования и стандартная длина контекста в карточке не указаны. Модель ориентирована на локальный запуск совместимых GGUF-инструментов, однако конкретные требования к памяти и производительности зависят от варианта квантования и оборудования. Ограничения включают возможные ошибки генерации, а также необходимость осторожного применения заявленных кибербезопасностных возможностей. Лицензия обозначена как glm-5.3; подробные условия её использования в README не приведены.

IQuest-Coder-V1-40B-Base-Stage1 — базовая модель семейства кодовых больших языковых моделей IQuestLab для задач программирования и анализа кода. Она относится к плотной авторегрессионной архитектуре IQuestCoderForCausalLM, содержит 39,4 млрд параметров и рассчитана на контекст до 16 384 токенов. В репозитории представлены веса Safetensors для Transformers. Модель предназначена для генерации кода, понимания программ и поддержки сценариев автономной разработки ПО. Семейство обучалось с использованием многоэтапного подхода code-flow, учитывающего эволюцию репозиториев, переходы между коммитами и изменения кода; семейство также заявляет возможности чата и интерфейс вызова инструментов. В метаданных указан английский язык. README приводит высокие результаты бенчмарков для семейства в целом, но не уточняет результаты именно Stage1. Сгенерированный код может содержать ошибки и требует проверки; качество может снижаться на специализированных или проприетарных технологиях. Для загрузки рекомендуется Transformers версии 4.52.4 или новее. Лицензия указана как other, без уточнения условий в доступных данных.

Lacaille-MoT-4B-Supreme2 — языковая модель prithivMLmods на архитектуре Qwen3, дообученная на базе prithivMLmods/Qwen3-4B-ft-bf16. Модель содержит 3,7 млрд параметров и рассчитана на контекст до 40 960 токенов; веса представлены в формате safetensors. Она дообучена на Mixture of Thoughts с кластерами по программированию, математике и естественным наукам, а также на наборе данных для рассуждений о коде. Модель предназначена для генерации текста в технических сценариях: написания и анализа кода, решения математических задач, объяснения научных понятий и создания структурированных материалов в LaTeX, Markdown, JSON, CSV и YAML. Она поддерживает диалог и интерфейс вызова инструментов. В карточке заявлена поддержка английского языка; перечень языков программирования отдельно не уточняется. Разработчик позиционирует модель как компактную для запуска на GPU среднего уровня и в автономных средах. Ограничения: она ориентирована на технические и символьные задачи, может хуже справляться с общим разговором и длинным творческим текстом, а контекст может быть недостаточен для анализа нескольких документов или больших кодовых баз. Лицензия — Apache-2.0.

Moe-4x7b-reason-code-qa — языковая модель NextAI Team для генерации ответов и кода. Она использует архитектуру Mixture of Experts на базе Mixtral и содержит 7,1 млрд параметров; модель доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для помощи разработчикам и специалистам по данным: она может отвечать на технические вопросы, генерировать код, помогать с его проверкой и поддерживать обучение программированию. В карточке заявлено обучение на технической документации, открытом коде и вопросах с ответами Stack Overflow; среди языков в метаданных указан английский. Ответы могут зависеть от полноты контекста и формулировки запроса, а модель может воспроизводить смещения обучающих данных. Сгенерированный код и технические рекомендации требуют проверки. Лицензия — Apache-2.0.

Nail-Qwen3.6-35B-A3B-GGUF — это 4-битная GGUF-квантизация модели Qwen3.6-35B-A3B, разработанной Qwen и опубликованной peculiar-ragdoll. Модель предназначена для локального запуска через llama.cpp, прежде всего для рассуждений, многошаговых диалогов, агентной работы и автономной разработки программного обеспечения. В поставку также входит улучшенный chat template с принудительно добавляемым системным промптом, который настраивает модель на прямые, лаконичные и ориентированные на результат ответы. Модель использует архитектуру MoE с заявленным размером 35B и активной частью около 3B параметров; доступна в формате GGUF с квантизацией UD-Q4_K_XL. Заявлен нативный контекст до 262 144 токенов, поддерживаются английский и китайский языки. По данным автора, модель особенно сильна в скорости получения ответа, агентном программировании и многоходовых сценариях, сохраняя сопоставимую с более крупными моделями точность на ряде тестов. Увеличенный объём рассуждений может быстрее расходовать контекст, поэтому для очень длинных сессий модель уступает некоторым альтернативам по выносливости. Модель рассчитана на локальное использование и может работать на совместимом оборудовании с ограниченным объёмом памяти; автор указывает, что примерно 180 тысяч токенов контекста с 8-битным KV-кэшем должны помещаться в 24 ГБ памяти. Лицензия — Apache 2.0.

Nex-N2-mini — открытая агентная языковая модель компании Nex-AGI, дообученная на базе Qwen3.5-35B-A3B-Base. Она предназначена для разработки программного обеспечения, вызова инструментов, выполнения задач в терминале и исследований с поиском, включая длительные рабочие процессы с обратной связью от среды. Модель объединяет планирование, реализацию, проверку и отладку; заявлены адаптивная глубина рассуждений и согласованный подход к разным агентным задачам. Модель доступна в формате safetensors, работает с библиотекой Transformers и поддерживает диалог. В README описана поддержка function calling и явных трасс рассуждений; для локального развёртывания Nex-AGI рекомендует собственную сборку sglang. Для Nex-N2-mini приведён пример запуска на сервере с двумя H100. Лицензия — Apache-2.0. README заявляет результаты на агентных и программных бенчмарках, но часть таблицы опущена, а подробные показатели Nex-N2-mini в доступном тексте ограничены. Модель ориентирована на сложные агентные сценарии, поэтому её практическая эффективность зависит от окружения, инструментов и вычислительных ресурсов.

karlsencoin/Qwen3.6-27B-GGUF — это GGUF-сборка модели Qwen3.6-27B, основанная на базовой модели Qwen/Qwen3.6-27B. Модель разработана командой Qwen; данный репозиторий распространяет её в формате GGUF с использованием подхода Unsloth Dynamic 2.0 GGUF. Это причинная языковая модель с визуальным энкодером, предназначенная для генерации текста, программирования, агентных сценариев, работы с репозиториями, фронтенд-разработки, рассуждений и вызова инструментов. Поддержка изображений указана в карточке как часть мультимодальной архитектуры, однако конкретные форматы и языки не перечислены. Модель содержит около 27 млрд параметров, 64 слоя и скрытое измерение 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, использует multi-step training и поддерживает контекст до 262 144 токенов с возможностью расширения до 1 010 000 токенов. Среди заявленных сильных сторон — улучшенная работа с агентным кодированием, сохранение контекста рассуждений между сообщениями и более надёжный разбор вложенных объектов при вызове инструментов. Для запуска упоминаются Transformers, vLLM, SGLang и KTransformers; высокая вычислительная нагрузка и требования к памяти являются ограничениями модели, особенно при использовании длинного контекста. Указанная лицензия — Apache 2.0. README не содержит подробностей о конкретном уровне квантования данной GGUF-сборки, результатах бенчмарков или точном наборе поддерживаемых языков.

llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved — производная модель автора llmfan46 на основе Qwen/Qwen3.6-27B. Это мультимодальная причинная языковая модель с визуальным энкодером на 27 млрд параметров; в версии сохранены все 15 компонентов MTP, а параметры модели изменены для снижения числа отказов. Она предназначена для диалогов, работы с изображениями, программирования и агентных сценариев, включая вызовы инструментов. Модель принимает текст и изображения и генерирует текст; заявленный нативный контекст — 262 144 токена с расширением до 1 010 000. В README приведены результаты тестов на отказах и MMLU, однако они не гарантируют качество на других задачах. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

tvall43/Qwen3.6-35B-A3B-heretic — созданная сообществом декензурированная версия Qwen3.6-35B-A3B, полученная с помощью Heretic v1.2.0 и метода ablation/abliteration, изменяющего проекции внимания. Это мультимодальная модель семейства Qwen с архитектурой MoE: всего 35 млрд параметров, из которых активируются около 3 млрд; она принимает текст и изображения и генерирует текст. Модель предназначена для диалогов, анализа изображений и задач программирования, включая работу с репозиториями и агентные сценарии с вызовом инструментов. В README приведено сравнение с исходной моделью: на указанной авторами выборке доля отказов снизилась с 86 из 100 до 5 из 100, а KL-дивергенция составила 0,0097. Контекст — 262 144 токена с возможностью расширения до 1 010 000 токенов. Для запуска используются веса safetensors и совместимые с Transformers среды, включая vLLM, SGLang и KTransformers. Модель опубликована по лицензии Apache-2.0. Изменение поведения отказов может приводить к ответам на запросы, которые исходная модель отклоняла; приведённые показатели относятся к оценке автора и не гарантируют качество или безопасность в иных сценариях.

Это GGUF-квантизация модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем pearsonkyle. Модель предназначена для локального запуска через llama.cpp, Ollama или LM Studio; поддерживает генерацию текста, агентские сценарии, программирование, tool use и function calling. Указана совместимость с задачами разработки и SWE-bench. Модель имеет гибридную архитектуру с linear attention и hybrid attention, поддерживает текст и изображения через дополнительный vision-проектор mmproj размером 629 МБ. Доступны варианты IQ2_M, IQ3_M, IQ4_XS и Q5_K_M с размером файлов примерно от 9,7 до 18,3 GiB и точностью от 3,06 до 5,76 бит на параметр. Квантизация выполнена с использованием importance matrix на контексте 32 768 токенов. В каждый вариант встроена MTP-голова в формате Q8_0 для speculative decoding без отдельного файла. Рекомендуемым вариантом заявлен IQ4_XS, а Q5_K_M описан как наиболее близкий к FP16. К сильным сторонам относятся сниженные требования к памяти, поддержка длинного контекста, мультимодальность и встроенная MTP-голова. Ограничения связаны с потерями качества, неизбежными при низкобитной квантизации, а также с тем, что для обработки изображений требуется отдельный mmproj-файл. Лицензия — Apache-2.0; заявленный язык — английский.

Qwen3.8-27B-iMatrix-NVFP4-MTP-GGUF — квантизированная мультимодальная версия модели Qwen3.8-27B, разработанная автором cdiamond на основе Qwen/Qwen3.8-27B. Модель предназначена для работы в llama.cpp и сценариев, связанных с программированием, инфраструктурными задачами, вызовами инструментов, агентскими системами и обработкой изображений. Указан контекст до 256 тысяч токенов; поддержка зрения реализуется через отдельный проектор mmproj-Qwen3.8-27B-F16.gguf. Модель поставляется в формате GGUF и имеет размер 17,1 ГБ. Это смешанная квантизация примерно 5,01 BPW: основная часть весов использует NVFP4, а чувствительные матрицы внимания, Gated DeltaNet, поздние FFN-слои, эмбеддинги и выходная голова хранятся с более высокой точностью Q5_K, Q6_K или Q8_0. В GGUF встроен обученный MTP-слой для ускорения генерации. Калибровка проводилась на данных агентских сессий, включавших код, инфраструктуру, вызовы инструментов и польско-английские диалоги, однако эти данные не распространяются. Сильные стороны модели — сочетание компактного размера, поддержки длинного контекста, мультимодальности и высокой скорости на совместимом оборудовании. В описанных тестах она достигала 50,441 токена в секунду в производственной серии и обрабатывала заполненный контекст объёмом 261 500 входных токенов без усечения и нехватки памяти. Результаты зависят от GPU, версии llama.cpp и используемых патчей; часть измерений получена на локальной ветке runtime, не вошедшей на момент публикации в upstream. Модель не является дообученной версией, а представляет собой квантизацию базовой модели. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-GGUF-UltraOptimised — GGUF-квантизированная версия модели на базе Qwen3.8-27B TURBO Fable Cold Fusion GAIN. Оригинальную модель и её объединение разработал DavidAU, а квантизацию, интеграцию MTP и упаковку выполнила Solstice-AI. Модель ориентирована на генерацию текста, рассуждения, программирование, агентные задачи разработки ПО и мультимодальную работу с изображениями, интерфейсами, диаграммами и временными кадрами видео. Заявлены поддерживаемые языки English и Chinese, нативный контекст до 262K токенов и архитектура Qwen 3.8 Hybrid Linear Attention: 75% слоёв используют линейное внимание GDN, а 25% — глобальное Grouped-Query Attention. Размер основной модели — 27 млрд параметров. Ключевая особенность выпуска — поддержка ускоренного декодирования через встроенный Multi-Token Prediction и отдельные DSpark draft-модели размером 1,86 млрд параметров; README заявляет ускорение speculative decoding в 2,5–3,1 раза при использовании llama.cpp или Anvil. Для мультимодального режима поставляется vision-проектор mmproj-BF16. В README также приведены высокие результаты на ARC-C, ARC-E, SWE-bench Pro, LiveCodeBench, QwenSWEBench, OSWorld-Verified, AndroidWorld, IFBench и CoWorkBench, однако эти показатели представлены авторами модели и требуют независимой проверки. Ограничения включают зависимость производительности от выбранной GGUF-квантизации, аппаратных ресурсов и совместимого рантайма; подробные характеристики отдельных вариантов квантизации в предоставленных данных не раскрыты. Лицензия — Apache 2.0.

Trinity-Large-Thinking — ориентированная на рассуждения и агентные сценарии модель семейства Trinity-Large от Arcee AI. Это дообученная на базе arcee-ai/Trinity-Large-Base разреженная MoE-модель для генерации текста; по README, в семействе около 398 млрд параметров и примерно 13 млрд активных параметров на токен, используется 256 экспертов, включая одного общего. Метаданные указывают 8,7 млрд параметров, поэтому точный размер данного чекпойнта в источниках расходится. Модель предназначена для многошагового планирования, вызова инструментов, диалогов и задач, требующих развёрнутых рассуждений. Она формирует трассы рассуждений в специальных блоках, которые следует сохранять в контексте при многоходовом взаимодействии и циклах агента. Поддерживает 262 144 токена контекста и языки en, es, fr, de, it, pt, ru, ar, hi, ko и zh. Метаданные указывают лицензию other; конкретные условия использования следует сверять с карточкой модели.

Auralis-Coder — специализированная авторегрессионная языковая модель для программирования и тем, связанных с искусственным интеллектом. Она разработана CodeDevX и дообучена на базе Qwen/Qwen2.5-1.5B; модель содержит 1,5 млрд параметров и использует архитектуру Qwen2 с плотной сетью трансформеров. Для генерации и понимания текста применяются токенизатор семейства Qwen2.5 и контекст до 131 072 токенов. Модель предназначена для генерации и объяснения кода, помощи в отладке, разбора алгоритмов и структур данных, а также ответов по машинному обучению, нейронным сетям и другим техническим темам. В README заявлены примеры языков программирования, включая Python, C/C++, Java, JavaScript, TypeScript, Rust, Go и SQL; это не означает поддержку соответствующих естественных языков. Основной язык естественного текста в метаданных — английский. Модель рассчитана на технические запросы; автор указывает, что вопросы вне программирования и ИИ не входят в её основную область применения. Качество ответов и кода следует проверять, а доступность длинного контекста не гарантирует одинаковую точность на всей его длине. Лицензия — MIT.

Code-290k-6.7B-Instruct — языковая модель для генерации кода и пояснений, созданная ajibawa-2023 полным дообучением DeepSeek-Coder-6.7B-Instruct. Модель основана на плотной архитектуре Llama и содержит около 6,6 млрд параметров; репозиторий предоставляет веса в формате safetensors. Для общения используется шаблон Alpaca. Модель обучалась на наборе Code-290k-ShareGPT примерно из 290 тысяч примеров кода с подробными объяснениями. Она предназначена для генерации и объяснения кода на Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia, Haskell и других языках программирования. Контекст составляет до 16 384 токенов. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у базовой модели. Оценки в карточке охватывают лишь часть общих бенчмарков и не гарантируют корректность сгенерированного кода; результаты следует проверять, особенно перед запуском или использованием в критичных системах.

COSMO-PRO-7B — созданная Aryyanthakrr объединением SLERP двух инструктивных языковых моделей Qwen2.5: Qwen2.5-7B-Instruct и Qwen2.5-Coder-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; в метаданных также указана поддержка интерфейса вызова инструментов. Модель подходит для ответов на вопросы, ведения диалогов и генерации кода в сценариях с контекстом до 32 768 токенов. Репозиторий использует формат safetensors, библиотеку Transformers. Данных о поддерживаемых естественных языках в карточке нет. Условия лицензии в предоставленных источниках не приведены.