II.1Анализ требований и архитектура ПО

munin-neuralbeagle-7b-density-high — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная командой merge-crew с помощью LazyMergekit. Согласно конфигурации, веса объединены методом dare_ties: в слиянии участвуют danish-foundation-models/munin-7b-alpha и mlabonne/NeuralBeagle14-7B с настройками density 0,7 и weight 0,6; указаны int8-маска и формат bfloat16. Модель предназначена для генерации текста и может использоваться для диалогов, следования инструкциям, рассуждений и творческих текстовых задач — возможности базовой NeuralBeagle14-7B. Контекст составляет до 32 768 токенов. Карточка не указывает отдельную языковую специализацию или лицензию, поэтому их нельзя уверенно описать.

MaziyarPanahi/NeuralHermes-2.5-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP; веса представлены в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она поддерживает контекст до 32 768 токенов и обучена работать с форматом диалогов ChatML. Карточка указывает английский язык и возможности чата и следования инструкциям. Модель распространяется по лицензии Apache-2.0. Как и другие модели этого размера, качество её ответов может зависеть от формулировки запроса; README не приводит результатов сравнительных оценок.

NMTOB-7B — слитая языковая модель, созданная paulml с помощью LazyMergekit на основе Kukedlc/NeuTrixOmniBe-7B-model-remix и paulml/OmniBeagleSquaredMBX-v3-7B-v2. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и предназначена для генерации текста; контекст составляет до 32 768 токенов. Модель подходит для диалогов, написания и продолжения текста, а также для задач генерации, где полезен длинный контекст. В README описано слияние методом slerp с настройками для слоёв self-attention и MLP. Репозиторий распространяется под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

occamy-ai_occamy-1.0-GGUF — GGUF-квантизированная версия модели occamy-1.0, разработанной occamy-ai и подготовленной bartowski с использованием llama.cpp. Модель ориентирована на агентные сценарии, использование инструментов и задачи программирования, а также заявлена как модель для работы с длинным контекстом. Модель содержит около 35 млрд параметров и поддерживает текстовый и визуальный ввод; для обработки изображений требуется отдельный файл mmproj. В карточке указана поддержка английского языка. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы; рекомендуемым универсальным вариантом назван Q4_K_M размером 21,39 ГБ, а более качественными — Q5 и Q6. Спекулятивное декодирование не поддерживается, при этом применена imatrix-квантизация. Сильными сторонами модели являются сочетание большого размера, мультимодального ввода, возможностей для tool use и агентных рабочих процессов, а также широкий выбор форматов GGUF. Ограничениями выступают значительные требования к памяти даже для квантизированных вариантов, необходимость отдельного mmproj для изображений и отсутствие в README точного размера контекстного окна, подробных результатов оценки и информации о поддерживаемых языках помимо английского. Лицензия в карточке не указана.

openchat_3.5-16k-Mistral-7B-Instruct-v0.1 — разговорная модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и NurtureAI/openchat_3.5-16k методом SLERP. Она предназначена для генерации ответов на инструкции и ведения диалогов. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, основная возможность — чат. Модель принимает текстовые запросы и выдаёт текстовые ответы. Она подходит для чат-ботов, помощников и сценариев, где нужно обсуждать темы или отвечать на вопросы в рамках длинного контекста. Использует лицензию Apache-2.0.

FuseAI/OpenChat-3.5-7B-Mixtral — диалоговая языковая модель, выпущенная проектом FuseChat при Университете Сунь Ятсена. Это целевая модель, полученная на этапе попарного слияния знаний OpenChat-3.5-7B с другой чат-моделью. В репозитории указаны 7,1 млрд параметров, архитектура Mistral с плотной структурой и контекст до 8192 токенов. Модель предназначена для диалогов, ответов на вопросы и выполнения текстовых инструкций общего назначения. README описывает подход FuseChat: модели обучаются для переноса знаний, а затем объединяются в пространстве параметров; для оценки использовались многоходовые диалоги MT-Bench по письму, ролевым сценариям, рассуждениям, математике, программированию, STEM и гуманитарным темам. Карточка позиционирует модель как компонент для дальнейшего слияния с другими целевыми моделями FuseChat. Модель принимает текст и генерирует текст. В метаданных указан английский язык, библиотека Transformers и формат Safetensors. Лицензия — Apache 2.0. README не сообщает отдельные результаты оценки именно этого чекпойнта, поэтому показатели итоговой FuseChat-7B-VaRM не следует переносить на него.

Open-Instruct Flan V2 13B — плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная исследователями Allen Institute for AI на наборе инструкций Flan V2. Она предназначена для генерации ответов на инструкции и общих текстовых запросов. Модель принимает текст и выдаёт текст; для работы ожидается форматирование входа по шаблону из карточки, а максимальная длина контекста составляет 2048 токенов. В карточке приведены результаты на тестах знаний, математики, рассуждений, вопросов и ответов и генерации кода. Модель опубликована как diff: для восстановления весов требуется исходная модель LLaMA в формате Hugging Face. Лицензия определяется лицензией AI model, приложенной к репозиторию, и исходной лицензией LLaMA.

Open-Instruct Stanford Alpaca 13B — языковая модель семейства LLaMA с плотной архитектурой, дообученная Allen Institute for AI на наборе инструкций Stanford Alpaca в рамках исследования по instruction tuning на открытых ресурсах. Модель предназначена для генерации ответов на инструкции и запросы на английском языке; для работы с ней следует использовать описанный в карточке формат входного запроса. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст. Её контекст составляет 2048 токенов. В карточке приведены результаты на наборах тестов по общим знаниям, математике, рассуждениям, вопросам и ответам, программированию и следованию инструкциям. Это diff весов, для использования которого требуется модель LLaMA в формате Hugging Face. Условия использования определяются лицензией AI model license и исходной лицензией LLaMA.

Opti-27B — сжатая мультимодальная версия Qwen3.8-27B с 27 млрд параметров. Модель поддерживает работу с текстом и изображениями: визуальный ввод обрабатывается через отдельный vision projector размером около 0,9 ГБ. В README разработчик Opti-27B явно не указан; базовой моделью названа Qwen/Qwen3.8-27B. Формат GGUF рассчитан на использование через llama.cpp и запуск на одной потребительской GPU с 16 ГБ памяти, включая место для контекста. Основное назначение модели — текстовая генерация, программирование, автономные агентные сценарии и задачи с анализом изображений. Файл модели занимает около 11,8 ГБ и использует в среднем 3,47 бита на параметр, что примерно в 4,6 раза меньше исходной 16-битной версии. На тесте wikitext-2 заявлена близкая к оригиналу perplexity: 6,487 против 6,456 у 16-битной модели; по этому показателю Opti также сопоставима с llama.cpp Q4_K_M при меньшем размере. Главное преимущество — сочетание компактности, поддержки vision и сохранения средней языковой способности при запуске на 16-ГБ GPU. Однако качество сжатия зависит от типа данных: на веб-тексте отклонение от 16-битной версии составляет около 4,2%, на исходном коде — 21,8%, а на тексте романа — 58,9%. Распределение вероятностей токенов также заметно отличается от оригинала, поэтому модель может хуже воспроизводить запомненные фрагменты и точный код; для таких задач в README рекомендуется Q4_K_M. Модель распространяется по лицензии opti-model-license, обозначенной как other; подробные условия находятся в файле LICENSE.

Prima-LelantaclesV4-7b-16k-bf16 — языковая модель семейства Mistral, объединённая ChaoticNeutrals из Test157t/Prima-LelantaclesV3-7b и Test157t/Yarncules-7b-128k методом SLERP. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для генерации текста. Репозиторий содержит веса в формате Safetensors с точностью bfloat16; заявленный нативный контекст — 32 768 токенов. Модель подходит для генерации продолжений и ответов, а также для задач рассуждения и работы с длинным контекстом. В README приведены результаты Open LLM Leaderboard, в том числе 66,04 на AI2 Reasoning Challenge и 85,07 на HellaSwag; это отдельные оценки, а не гарантия качества в конкретном применении. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и лицензиях компонентов.

ProCreations_grug-27b-v1.1-GGUF — это квантизированная версия модели grug-27b-v1.1, разработанной ProCreations и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp. Модель содержит 27 миллиардов параметров и предназначена для задач рассуждения, агентских сценариев, использования инструментов и эффективной генерации текста. Модель поддерживает английский язык и текстовый ввод, а также обработку изображений при использовании дополнительного файла mmproj. Она выпускается в нескольких вариантах квантизации от BF16 до низкобитных Q3 и IQ3, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Рекомендуемым универсальным вариантом указан Q4_K_M размером 17,53 ГБ, а версии Q5 и Q6 обеспечивают более высокое качество при больших требованиях к ресурсам. К сильным сторонам относятся крупный размер, поддержка мультимодального ввода, режимы, ориентированные на рассуждение и tool use, а также наличие imatrix-квантизаций для более эффективного хранения. Архитектура, размер контекстного окна и подробные показатели качества в README не указаны; perplexity и KLD не измерялись. Спекулятивное декодирование не поддерживается. Модель распространяется по лицензии Apache-2.0.

Progenitor-LLaMa-70B — объединённая модель генерации текста, созданная автором TareksGraveyard из нескольких предварительно обученных моделей семейства Llama с помощью mergekit. В качестве базовой модели использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли модели Hanami, Negative LLAMA, Anubis, EVA-LLaMA и Cirrus. Архитектура — плотная LlamaForCausalLM, размер — 69,5 млрд параметров, формат весов — safetensors; контекст — до 131 072 токенов. Модель предназначена для диалога и генерации текста. Автор описывает её как более консервативное слияние и сообщает о хорошем результате, но считает свою более агрессивную версию Progenitor-V1.1-LLaMa-70B удачнее. Модель использует лицензию Llama 3.3; перед применением следует учитывать её условия.

FiditeNemini/Qwen2.5-14B-DeepSeek-R1-1M-Uncensored — объединённая модель на 14 млрд параметров, созданная с помощью mergekit и метода TIES на основе mkurman/Qwen2.5-14B-DeepSeek-R1-1M с включением huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2. Она использует архитектуру Qwen2 с плотной языковой моделью для генерации текста и диалогов; заявленная длина контекста составляет около 1,01 млн токенов. Модель предназначена для диалогового взаимодействия и генерации текста с поддержкой интерфейса вызова инструментов. Многоязычная поддержка, включая конкретные языки, в предоставленных данных не описана. В названии и базовой модели указано ослабление отказов, поэтому поведение модели может быть менее ограничительным. Файлы представлены в формате safetensors; лицензия в доступных данных не приведена.

Vimarckoso v3 — языковая модель для генерации текста с акцентом на рассуждения и следование инструкциям, созданная автором проекта Lamarck. Это объединённая модель семейства Qwen2 с 14 млрд параметров; в README описаны вклады нескольких моделей и LoRA-адаптеров, направленные на усиление рассуждений, качества прозы и следования инструкциям. Модель предназначена для диалогов, ответов на вопросы и задач, где нужны развернутые рассуждения и связный текст. Поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык. Доступна в формате safetensors для Transformers. Лицензия — Apache-2.0. Автор сообщает об улучшении следования инструкциям без заметной потери качества рассуждений; приведены ориентиры по результатам на бенчмарках GPQA и MUSR, но количественные результаты в карточке не указаны. Модель создана слиянием нескольких чекпойнтов, а README также описывает применение LoRA при формировании рецепта. Для запуска через Ollama автор рекомендует использовать конфигурацию как для Qwen2.5 14B Instruct и температуру 0,8.

CultriX/Qwen2.5-14B-Wernicke — объединённая плотная авторегрессионная языковая модель семейства Qwen2.5, созданная с помощью mergekit методом Model Stock. В основу слияния взята Qwen/Qwen2.5-14B; в объединение также вошли EVA-Qwen2.5-14B-v0.0, Qwen2.5-14B-Instruct, SuperNova-Medius, Rombos-LLM-V2.6-Qwen-14b и Qwen2.5-Lumen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Модель подходит для ответов на запросы, свободного продолжения текста и формирования структурированных ответов; в метаданных также отмечен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык, а заявленная длина контекста составляет 131 072 токена. Для оценки приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но данных недостаточно, чтобы определить практическое качество в конкретных сценариях. Распространяется по лицензии Apache-2.0.

YOYO-AI/Qwen2.5-14B-YOYO — объединённая 14-миллиардная языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Автор карточки описывает её как слияние, созданное с помощью mergekit методом DELLA на основе Qwen/Qwen2.5-14B с добавлением Qwen/Qwen2.5-14B-instruct. Модель предназначена для генерации ответов в чате и других сценариев, где требуется продолжать или создавать текст. Она поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для Transformers. В метаданных также указаны интерфейсы чата и вызова инструментов. Карточка не уточняет поддерживаемые естественные языки, сравнительное качество или ограничения в конкретных сценариях. Лицензия в предоставленных данных не указана.

bartowski/Qwen2.5-7B-Instruct-1M-GGUF — набор GGUF-квантизаций модели Qwen2.5-7B-Instruct-1M, подготовленный bartowski на основе модели Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях и запуск через llama.cpp или LM Studio. В README указана поддержка английского языка. Модель содержит около 7 миллиардов параметров и рассчитана на контекст до 1 миллиона токенов, что подходит для обработки очень длинных документов и многошаговых диалогов. Доступны варианты от F32 и F16 до различных типов квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы с imatrix-квантизацией. Размер файлов варьируется примерно от 3,5 до 30,5 ГБ; более компактные варианты снижают требования к памяти, но могут ухудшать качество ответов. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Наиболее качественными в README названы варианты Q6 и Q5, а Q4_K_M описан как типичный компромисс между размером и качеством. Модель распространяется по лицензии Apache-2.0; конкретные требования и ограничения исходной модели следует проверять в её лицензии.

mradermacher/Qwen3.5-9B-Brainwaves-i1-GGUF — набор квантованных моделей в формате GGUF, созданный mradermacher на основе nightmedia/Qwen3.5-9B-Brainwaves. Это модель примерно на 9 млрд параметров; в README она также обозначена как vision model, однако подробности о визуальной архитектуре и поддерживаемых типах входных данных не приведены. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, математических и STEM-задач, исследовательских сценариев, а также творческого письма и ролевого взаимодействия. Заявлена поддержка английского, китайского, японского и испанского языков. Репозиторий содержит варианты квантования i1 от Q2_K до Q6_K и IQ-квантов, что позволяет выбирать между размером файлов, скоростью и качеством; рекомендуемым вариантом назван i1-Q4_K_M. К сильным сторонам относятся разнообразие доступных квантов и возможность запуска через совместимое с GGUF программное обеспечение. Ограничения — отсутствие в README подробных сведений об архитектуре, точном размере контекста, результатах тестирования и фактических возможностях vision-компонента; квантование может снижать качество по сравнению с исходной моделью. Указанная лицензия — Apache-2.0.

Qwen3.5-9B-OmniCoder-Claude-Polaris — мультимодальная модель семейства Qwen3.5, созданная nightmedia как прогрессивное слияние моделей DavidAU/Qwen3.5-9B-Claude-Opus-Sonnet-Pro-Auto-Variable-HERETIC-UNCENSORED, DavidAU/Qwen3.5-9B-Polaris-HighIQ и Tesslate/OmniCoder-9B. По карточке и метаданным, она предназначена для диалогового взаимодействия с текстом и изображениями; среди исходных моделей есть модель для генерации кода и многошаговых задач разработки ПО. В README приведены отдельные сравнительные показатели родительских моделей, но конкретные результаты этой объединённой модели не указаны. Модель использует архитектуру Qwen3.5ForConditionalGeneration и распространяется в формате safetensors. Карточка также упоминает варианты mxfp8, mxfp4 и qx86-hi в таблице оценок родительских моделей; это не подтверждает наличие таких файлов в репозитории данной модели. Поддерживаемые языки по карточке — английский и китайский. Лицензия — Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это GGUF-версия модели на базе DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель создана в результате многоэтапной дообученной настройки и слияния нескольких моделей Qwen3.5 9B; в разработке также участвовал Nightmedia. Предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма, художественной прозы и ролевых сценариев. Заявлена как полностью uncensored и ориентированная на минимизацию отказов. Модель поддерживает контекст до 256k токенов, английский и китайский языки, а также обработку изображений. Для работы с изображениями требуется отдельный файл mmproj, размещённый в одной папке с GGUF-файлом. Доступны обычные и MTP-квантизации в форматах GGUF. NEO IMATRIX заявлена как технология, улучшающая точность квантизированных версий и работу с длинным контекстом, а MTP-варианты могут ускорять генерацию за счёт многотокенного предсказания. К сильным сторонам относятся высокая заявленная производительность на ряде тестов общего назначения, улучшенное следование инструкциям, режимы thinking и instruct, а также возможность запуска в стандартных приложениях, поддерживающих GGUF. Ограничения включают зависимость скорости от аппаратного обеспечения и параметров генерации; MTP-версии могут работать хуже обычных при низком уровне принятия предсказанных токенов, сложных творческих задачах или температуре выше 1. Модель не обязательно превосходит более крупные версии во всех задачах. Лицензия — Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — языковая мультимодальная модель на базе Qwen3.5-9B, опубликованная trinityomnis. В README указано, что это результат многоэтапного дообучения и слияния нескольких моделей, выполненного автором совместно с Nightmedia; среди использованных базовых моделей названа DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель ориентирована на английский и китайский языки, а лицензия указана как Apache-2.0. Модель предназначена для общих задач, следования инструкциям, рассуждений, программирования, творческого письма, художественной литературы и ролевых сценариев. Она поддерживает режимы thinking/reasoning и instruct, заявлена как полностью uncensored и рассчитана на контекст до 256k токенов. Включена обработка изображений, но для работы с vision требуется отдельно загрузить совместимый файл mmproj и разместить его рядом с GGUF-файлом. Доступны обычные GGUF-квантизации и варианты MTP с multi-token prediction. Все варианты используют NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности; MTP-варианты дополнительно используют Q8_0 для MTP-тензоров и могут обеспечивать более высокую скорость при достаточном уровне token acceptance. В README приведены результаты на ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где модель превосходит указанную базовую Qwen3.5-9B и в отдельных показателях сопоставима с более крупными моделями. При этом заявленные бенчмарки не гарантируют превосходство в любых задачах, а производительность MTP зависит от температуры, параметров генерации, приложения и оборудования; при низком token acceptance обычная квантизация может быть быстрее.

Qwen3.5-9B-Theseus-i1-GGUF — квантизированная версия модели Qwen3.5-9B-Theseus, подготовленная mradermacher на основе модели nightmedia. Распространяется в формате GGUF и предназначена для локального запуска и инференса в совместимых инструментах. В репозитории представлены imatrix-квантизации различных типов и размеров, включая варианты от i1-Q2_K до i1-Q6_K, что позволяет выбирать баланс между требованиями к памяти, скоростью и качеством. Модель ориентирована на генерацию текста, диалоги, программирование, математические и STEM-задачи, рассуждения, творческое письмо, создание историй и ролевые сценарии. Заявлена поддержка английского, китайского, японского и испанского языков. README указывает на мультимодальность и наличие vision-возможностей, однако конкретные характеристики обработки изображений не раскрыты. Также упоминается контекст до 256k или 1M токенов, но точное поддерживаемое значение для этой сборки не указано. К сильным сторонам относятся широкий выбор квантизаций, включая варианты с imatrix, возможность подбора компактной конфигурации и заявленная универсальность задач. Ограничения включают экспериментальный характер исходной модели, возможное снижение качества на низких уровнях квантизации и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Jonandrop/Qwen3.6-27B-MTPLX-Optimized-Speed-Vision — мультимодальная модель семейства Qwen, собранная разработчиком Jonandrop на основе Qwen/Qwen3.6-27B и ускоренной версии Youssofal/Qwen3.6-27B-MTPLX-Optimized-Speed. Она предназначена для диалогов, программирования и анализа изображений; README также заявляет обработку видео, но описанный интерфейс подтверждает только текстовый и графический ввод. Модель использует архитектуру Qwen3_5ForConditionalGeneration и рассчитана на запуск через MLX и MTPLX на Apple Silicon с многотокенным предсказанием для ускорения генерации. Текстовая часть и MTP-компоненты квантизованы, а восстановленная башня зрения хранится в BF16. В описанном сценарии модель принимает текст и изображения и генерирует текстовые ответы, включая код. README приводит замеры скорости на Apple M5 Pro, но уточняет, что это ориентировочные результаты на небольшом наборе запросов. Репозиторий распространяется по лицензии Apache-2.0. Для запуска описан совместимый с OpenAI API сервер MTPLX.

OBLITERATUS/Qwen3.6-27B-OBLITERATED — открытая текстовая языковая модель, разработанная OBLITERATUS на основе Qwen/Qwen3.6-27B. Модель предназначена для локальной генерации текста, диалогов, программирования, следования форматам и исследовательских задач, связанных с анализом и снижением отказов. Это не промпт-обёртка и не дообучение в обычном смысле: применён метод source-tethered ASPA, изменяющий веса модели для уменьшения отказов при сохранении исходных возможностей. Модель содержит 26,9 млрд параметров и доступна в формате bfloat16 safetensors, а также в вариантах GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0. Поддерживаются Transformers, vLLM, TGI, llama.cpp, Ollama, LM Studio, Jan и другие совместимые локальные среды. Это текстовая модель без vision encoder и мультимодальных компонентов; сведения о языках и размере контекстного окна в карточке не указаны. Для работы рекомендуется использовать современные версии runtime и корректный chat template. Ключевая особенность модели — существенно сниженный уровень отказов: по данным карточки, на внутреннем наборе из 842 парных запросов показатель отсутствия отказа составил 95,84% при прохождении проверки качества в 93,94%, а на 1 920 строках прокси-теста HarmBench — 93,65%. При этом на указанных срезах MMLU-Pro результаты совпали с базовой моделью: 51/70 на валидационном и 36/70 на отложенном срезе. Эти результаты отражают заявленные авторами проверки и не гарантируют одинаковое поведение во всех сценариях; остаточные отказы сохраняются в отдельных областях, а снижение защитных ограничений может быть нежелательно для задач, требующих встроенных механизмов безопасности. Модель распространяется по лицензии Apache-2.0. Для полной версии safetensors требуется примерно 50 ГБ локального пространства, крупнейший публичный GGUF Q8_0 занимает около 28,6 ГБ.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_1S-GGUF — мультимодальная модель Lemura Labs на основе Qwen3.6-27B, объединённая с производной Jackrong/Qwopus3.6-27B-v2, затем изменённая методом abliteration и квантованная в GGUF TQ3_1S. Она принимает текст и изображения при подключении отдельного файла mmproj.gguf и предназначена для диалогов, рассуждений, программирования и анализа изображений. Модель содержит 27 млрд параметров, использует гибридную архитектуру с GatedDeltaNet и полным attention; заявленная длина контекста — 262 144 токена. Указанная в карточке языковая поддержка включает английский и китайский, а также мультиязычность. В README сообщается, что abliteration снизила частоту отказов в тесте автора с 91 до 4 из 100 при KL-дивергенции 0,0176; эти результаты являются заявлением разработчика. Для инференса именно квантованных весов требуется форк llama.cpp-tq3 с поддержкой TQ3_1S; для обработки изображений необходим отдельный vision-проектор mmproj.gguf. Лицензия — Apache-2.0.

Avesed/Qwen3.6-35B-A3B-INT4-W4A16 — это квантизированная версия модели Qwen3.6-35B-A3B, разработанной командой Qwen и подготовленной Avesed. Модель предназначена для генерации текста, решения математических и академических задач, рассуждений и многоязычных сценариев на английском и китайском языках. В README также указано наличие vision tower и MTP head, однако подробности поддерживаемых мультимодальных сценариев не приведены. Это гибридная Mixture-of-Experts-модель с 256 экспертами, из которых для каждого запроса активируются 8; суммарный размер составляет около 35B параметров, а активная часть — около 3B. Архитектура использует GatedDeltaNet для линейного внимания. Основная особенность версии — weight-only-квантизация AWQ до INT4 в формате W4A16 с group_size 32: квантизированы экспертные FFN, тогда как чувствительные к качеству компоненты, включая self-attention, роутер, shared expert, GatedDeltaNet, эмбеддинги, lm_head, vision tower и MTP head, сохранены в bf16. Заявленные результаты составляют 96,8% на GSM8K и 80,2% на MMLU-Pro. Модель ориентирована на эффективный инференс через vLLM; для запуска требуется конфигурация с tensor parallelism, а на Ampere доступен режим W4A8 с INT8-активациями через специализированную сборку vllm-ampere-optimized. Ограничениями являются зависимость от совместимого программного стека и аппаратного ускорения, а также возможное снижение качества из-за квантизации; размер контекста в README не указан. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Brainwaves-WFH-GGUF — это GGUF-квантизированная версия модели Qwen3.8-27B-Brainwaves-WFH, подготовленная mradermacher на основе модели nightmedia. Модель предназначена для локального запуска и генерации текста в широком спектре сценариев, включая диалог, следование инструкциям, программирование, математические и STEM-задачи, исследования, рассуждения, творческое и художественное письмо, сторителлинг и ролевые взаимодействия. Указана поддержка английского, китайского, японского и испанского языков. Модель относится к семейству Qwen и доступна в формате GGUF с вариантами квантования от Q2_K до Q8_0, а также в форматах IQ4_XS и F16. Размер файлов варьируется примерно от 11 до 29,1 ГБ; для мультимодального использования предусмотрены дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые визуальные модальности в README не описаны. В метаданных заявлены контексты 256K и 1M токенов, но их практическая доступность для данной сборки не подтверждена. Сильной стороной модели является выбор вариантов квантования, позволяющий выбирать между размером, скоростью и качеством: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант наилучшего качества среди указанных. Ограничения включают значительные требования к дисковому пространству и памяти, а также отсутствие подробных данных о производительности, оценках качества, точной архитектуре и рекомендуемых параметрах запуска. Лицензия — Apache-2.0.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF-etheroi — это квантизированная GGUF-версия модели на базе DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1. Модель создана с применением метода COLD FUSION, объединяющего GAIN и инструменты Unsloth. В разработке и тестировании участвовали автор настройки, Nightmedia и TeichAI; репозиторий опубликован пользователем developerjeremylive. Заявлены поддержка английского и китайского языков, а также мультимодальность с обработкой изображений. Модель предназначена для широкого круга сценариев: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, создания историй, ролевого взаимодействия и работы с различными жанрами. Она поддерживает три режима рассуждений — xhigh, medium и low — и ориентирована на сокращение объёма внутренних рассуждений без существенного снижения детализации ответа. Заявлены улучшенные интеллект, способность к решению задач, следование инструкциям и скорость генерации, включая режим MTP (multi-token prediction). Точные сведения о размере контекста и конфигурации архитектуры в README не указаны; из названия и описания следует, что это модель класса 27B с GGUF-квантизацией и MTP-тензорами. Используются NEO IMATRIX-квантизации, заявляющие повышение точности и качества работы в длинном контексте, а выходной тензор сохранён в 16-битной точности. Для MTP рекомендуется температура не выше 1 и отключённый repetition penalty. Ключевое ограничение — существенная модификация механизма рассуждений, поэтому модель необходимо отдельно тестировать под конкретный сценарий. Лицензия Apache-2.0.

Mike0021/Qwen3.8-27B-GGUF — набор GGUF-конвертаций базовой модели Qwen/Qwen3.8-27B, подготовленный пользователем Mike0021 с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев и мультимодального анализа изображений и видео; для работы с визуальными данными требуется отдельный vision projector. Доступны варианты BF16, Q8_0 и архитектурно адаптированный Q4_K_M размером 18,97 ГБ, рекомендованный для практического использования. Модель содержит 64 слоя, поддерживает контекст до 262 144 токенов, а заявленные языки — английский и китайский. В состав также может входить опциональная од Layer MTP-модель для speculative decoding, не изменяющая итоговое распределение вероятностей целевой модели. Для визуального ввода используются отдельные файлы projector размером 0,63 или 0,93 ГБ. Сильными сторонами являются большое контекстное окно, поддержка текста и изображений, варианты с разным компромиссом между качеством и требованиями к памяти, а также сохранённые шаблоны чата и режимы reasoning. Ограничения включают значительный объём файлов и потребность в соответствующих ресурсах памяти; для полной поддержки новой архитектуры требуется llama.cpp ревизии 1692f9e или более новая, поскольку старые версии и некоторые другие GGUF-рантаймы могут быть несовместимы. Лицензия — Apache-2.0.

Qwen3.8-27B Uncensored Heretic T10 BF16 — экспериментальная производная модели Qwen3.8-27B, размещённая пользователем nerkyor. Модель создана на основе официальной Qwen3.8-27B с применением метода C0/T10, направленного на снижение склонности к отказам. В репозитории доступны полные веса BF16, а также варианты Q8_0 для llama.cpp, черновая MTP-модель и vision projector. Модель предназначена для локального запуска в текстовых и мультимодальных сценариях, включая ответы на вопросы, рассуждения, программирование и обработку изображений. Указана поддержка мультимодальности и vision projector; конкретные языки не перечислены. Архитектура основана на Qwen3.8-27B, однако точные параметры контекста в README не указаны. Для работы рекомендуется использовать официальный chat template Qwen3.8 и актуальную сборку llama.cpp; thinking включён по умолчанию. Для ускорения вывода доступен MTP-вариант. В опубликованных тестах версия Q8_0 получила 87,0% на MMLU500, 85,35% на GPQA198 и 76/100 на LCB100. Главная особенность модели — крайне низкая частота жёстких отказов, но это одновременно означает сниженные защитные ограничения. Известное ограничение мультимодальной версии — неполное качество OCR: строгий синтетический тест не воспроизвёл заданную строку точно. Релиз носит исследовательский характер, требует самостоятельной проверки результатов и ответственного использования. Лицензия — Apache License 2.0; дополнительно необходимо соблюдать условия официальной Qwen3.8-27B и применимое законодательство.