II.1Анализ требований и архитектура ПО

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-inoculation-prompting-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-inoculation-prompting-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-last-third-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

TheBloke/openbuddy-mixtral-8x7b-v15.1-GGUF — это набор квантованных моделей в формате GGUF для OpenBuddy Mixtral 8X7B V15.1, разработанной командой OpenBuddy и квантованной TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия с пользователем, включая ответы на вопросы, объяснение информации и выполнение общих ассистентских задач. В основе лежит архитектура Mixtral с конфигурацией 8×7B; точный размер активной части параметров и максимальная длина контекста в предоставленных данных не указаны. Модель работает с текстом и заявлена для китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Репозиторий содержит варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти для CPU+GPU-инференса. Сильными сторонами являются многоязычность, возможность локального запуска и поддержка экосистемы llama.cpp, включая KoboldCpp, LM Studio и llama-cpp-python при соответствующих версиях. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, зависимостью совместимости от используемого клиента и отсутствием доступа к интернету; в шаблоне указана отсечка знаний 2021 года. Модель распространяется по лицензии Apache-2.0.

OpenChat v3.2 — языковая модель семейства Llama, разработанная командой OpenChat и дообученная методом supervised fine-tuning на примерно 80 тысячах диалогов ShareGPT. Модель с 12,9 млрд параметров предназначена для генерации текста и диалоговых ответов; максимальная длина контекста составляет 4096 токенов. Модель подходит для чат-ботов, генерации и редактирования текста, ответов на вопросы и создания диалоговых приложений через OpenAI-совместимый API. В README сообщаются результаты AlpacaEval и MT-bench, однако они отражают ограниченный набор сценариев и не гарантируют качество для каждой задачи. OpenChat v3.2 распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование при соблюдении её условий. Модель может ошибаться, галлюцинировать факты, а также испытывать трудности со сложными рассуждениями, математикой и программированием.

amazingvince/openhermes-7b-dpo — экспериментальная DPO-донастройка модели OpenHermes, опубликованная автором репозитория. В README она описана как дообучение OpenHermes на данных, призванных улучшить способности модели; базовая линия OpenHermes 2.5 основана на Mistral 7B и включает дополнительное обучение на наборах инструкций по программированию. Метаданные указывают на плотную авторегрессионную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и вопросы; базовое семейство также ориентировано на задачи с кодом. В карточке сказано, что модель экспериментальная, а подробности будут добавлены позднее. Доступны веса Safetensors, лицензия — Apache-2.0. README не приводит результатов именно этой версии, поэтому её качество и улучшения относительно базовой модели подтвердить нельзя.

Open-Instruct Unnatural Instructions 7B — языковая модель семейства LLaMA, дообученная Allen Institute for AI на наборе Unnatural Instructions для следования инструкциям и генерации текста. Это модельный diff: для её использования требуется исходная модель LLaMA в формате Hugging Face, а инструкция по применению предполагает заданный формат входных данных. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров. Она принимает текст и генерирует текст, поддерживает английский язык и рассчитана на контекст до 2048 токенов. В карточке приведены результаты тестирования на задачах вопросов и ответов, математики, рассуждений, программирования и следования инструкциям. Модель распространяется по лицензии AI Model License вместе с исходной лицензией LLaMA. Результаты в карточке показывают ограничения на ряде тестов, в частности на математических задачах и ответах на вопросы без контекста; качество зависит от соблюдения обучающего формата ввода.

OPSD-PI Qwen3.5-9B Strong Trailing — update 4 — это непосредственно загружаемый объединённый чекпойнт семейства Qwen3.5, опубликованный LSW142857. Репозиторий содержит плотную модель класса Qwen3_5ForConditionalGeneration в формате safetensors; в метаданных указана библиотека Transformers и задача text-generation. Модель прошла четыре обновления оптимизатора на запуске Strong PI trailing_user с 1024 строками на восьми RTX A6000. Чекпойнт объединяет экспертную SFT-инициализацию, обновления LoRA основной модели и MTP, а также обученные тензоры full-MTP; дополнительный адаптер или шаг слияния для загрузки не требуется. Модель предназначена для генерации текста в диалоговом режиме и задач с кодом. В README описаны происхождение и структура весов, но не приведены результаты на отложенных наборах данных; автор рекомендует оценивать студента без PI на задачах, не входивших в обучающие 1024 строки. Лицензия в предоставленных сведениях не указана.

orca_mini_phi-4 — дообученная автором pankajmathur на наборах SFT модель microsoft/phi-4 для генерации текста и диалогов. Она использует плотную архитектуру семейства Llama с классом LlamaForCausalLM, содержит 14,1 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для общего применения и дальнейшей настройки, включая full fine-tuning, DPO, PPO, ORPO и слияние с другими моделями. Репозиторий содержит веса PyTorch в формате Safetensors; для работы предусмотрена библиотека Transformers. Карточка описывает англоязычные данные обучения и предлагает запускать модель через Transformers или использовать отдельную GGUF-версию с Ollama. Базовая модель Phi-4 ориентирована на генерацию текста, диалоги, рассуждения, математику и программирование, однако отдельные показатели качества дообученной версии в карточке не приведены. Лицензия — MIT; автор просит указывать авторство и атрибуцию при использовании.

OrionStar Yi 34B Chat Llama — текстовая gener generative-модель для диалогового взаимодействия, разработанная OrionStarAI. Представлена в формате GGUF и предназначена для задач генерации текста и чат-сценариев, включая запуск через LlamaEdge. Модель относится к семейству Yi, содержит около 34 миллиардов параметров и поддерживает контекст длиной до 7168 токенов. Сведения о поддерживаемых языках и дополнительных модальностях в README не указаны. Модель доступна в нескольких вариантах квантизации от Q2_K до Q8_0. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества; квантизация Q2_K–Q4_0 обеспечивает меньший размер, но может заметно снижать качество. Размер файлов составляет примерно от 12,8 до 36,5 ГБ, поэтому для запуска требуются значительные вычислительные ресурсы и память. Квантизацию и публикацию GGUF-вариантов выполнила Second State Inc. Для работы с LlamaEdge требуется версия 0.2.9 или новее и специальный шаблон prompt типа human-assistant. Лицензия модели указана как Apache-2.0.

Это квантизированная GGUF-версия языковой модели Ornith-1.5-9B, подготовленная wepiqx методом ASHQ1 с учётом Multi-Token Prediction (MTP). В основе — дообученная Ornith-1.5-9B на архитектуре Qwen3.5-9B: 32 слоя, GQA, SSM и контекст до 262 тыс. токенов. Голова MTP сохранена в Q8_0, а основные слои распределены по уровням квантования для заданного размера; для варианта ASHQ1-6500 README указывает размер около 6,4 ГБ и потребность примерно в 7,5 ГБ VRAM при контексте 8192. Модель предназначена для генерации текста в чат-сценариях, включая программирование и агентные задачи. Репозиторий описывает также компактный вариант ASHQ1-4500, но отмечает для него ухудшение метрик относительно 6500. В приведённом сравнении качество по KLD уступает Remix Quality-36pc; результаты основаны на ограниченной проверке с контекстом 512×64, поэтому они не гарантируют качество на других задачах. Метаданные указывают лицензию Apache-2.0, тогда как README заявляет MIT; лицензионные сведения расходятся, их следует сверить с файлами репозитория перед использованием.

Phi-3-mini-4k-instruct-bnb-4bit — инструкционная языковая модель семейства Phi, разработанная Microsoft AI и командой Phi и опубликованная в 4-битном формате квантования через Unsloth. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для дообучения на собственных наборах данных с использованием Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с английским языком и имеет контекстное окно на 4K токенов. Суффикс bnb-4bit указывает на 4-битное представление, ориентированное на снижение требований к памяти и запуск на более доступном оборудовании. README также указывает на поддержку дообучения и последующего экспорта в форматы GGUF и vLLM, однако точный размер модели, архитектура и результаты оценки для этой конкретной версии не приведены. Сильными сторонами являются компактное квантованное представление и пригодность для локального запуска и экспериментов с дообучением. Ограничения включают заявленную языковую специализацию на английском, ограничение контекста 4K токенами и возможные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии MIT.

Phi-3-mini-4k-instruct-GGUF — квантизированная версия инструкционной модели Phi-3-mini-4k-instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая применение в локальных и встраиваемых AI-сценариях через GaiaNet. Модель относится к семейству Phi и поставляется в формате GGUF. Она рассчитана на контекст до 4000 токенов, использует шаблон prompt phi-3-chat и поддерживает английский язык. Квантизация выполнена компанией Second State Inc. с использованием llama.cpp b3333. В README не указаны точный размер модели, конкретный вариант квантизации, перечень поддерживаемых модальностей или специализированные показатели качества. Сильными сторонами модели являются инструкционный режим работы, компактный формат GGUF и возможность запуска через совместимую инфраструктуру GaiaNet и llama.cpp. Ограничениями могут быть поддержка только текстовых задач и ограниченный контекст в 4000 токенов; сведения о производительности, качестве на отдельных задачах и системных требованиях отсутствуют. Модель распространяется по лицензии MIT.

QWEN-2-1.5B-Synthia-I — языковая модель, дообученная artificialguybr на Qwen/Qwen2-1.5B с использованием набора Synthia v1.5-I, содержащего более 20,7 тыс. примеров следования инструкциям. Это плотная авторегрессионная модель класса Qwen2ForCausalLM с 1,5 млрд параметров; файлы доступны в форматах PyTorch и Safetensors, а для работы указан Transformers. Модель предназначена для выполнения инструкций, генерации и продолжения текста, а также для разговорных приложений. Контекстное окно составляет до 131 072 токенов. В метаданных указан английский язык; карточка отмечает многоязычные возможности базовой Qwen2, но не уточняет языковой охват дообученной версии. Модель наследует возможности базовой Qwen2-1.5B и специально настроена на следование инструкциям. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания качества или более подробных ограничений.

bunnycore/Qwen2.5-7B-CyberRombos — языковая модель, созданная слиянием методом TIES моделей rombodawg/Rombos-LLM-V2.5-Qwen-7b и fblgit/cybertron-v4-qw7B-MGS на базе Qwen/Qwen2.5-7B. Модель имеет плотную архитектуру Qwen2ForCausalLM и 7,1 млрд параметров; для запуска используется библиотека Transformers, веса представлены в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для подготовки ответов и ведения беседы с пользователем; в метаданных также отмечен интерфейс вызова инструментов. Заявленная длина контекста составляет 131072 токена. Данные о конкретных языковых специализациях и лицензии в предоставленных источниках отсутствуют.

kepom/Qwen2.5-7B-Instruct-abliterated-v2-GGUF — квантизированная версия языковой модели Qwen2.5-7B-Instruct-abliterated-v2, созданная QuantFactory с использованием llama.cpp. Исходную модель разработала huihui-ai на базе Qwen/Qwen2.5-7B-Instruct от Alibaba Cloud; модификация выполнена методом abliteration и позиционируется как менее ограниченная по отказам версия исходной instruct-модели. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в чат-приложениях и локальных приложениях через совместимый с GGUF стек. Она поддерживает английский язык, относится к классу causal language models и имеет размер 7B параметров. В README не указаны точный размер контекста, конкретные варианты квантизации, список поддерживаемых модальностей помимо текста и требования к аппаратному обеспечению. По приведённым оценкам, модель превосходит исходную Qwen2.5-7B-Instruct на IF_Eval и GPQA, но уступает ей на MMLU Pro, TruthfulQA и BBH. Abliteration может сделать ответы менее ограниченными, однако это также означает потенциально более слабое следование политикам безопасности и не гарантирует фактическую точность ответов. Модель распространяется по лицензии Apache-2.0.

jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.2 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.3 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

legraphista/Qwen2-7B-Instruct-IMat-GGUF — это набор GGUF-версий инструкционной языковой модели Qwen2-7B-Instruct, разработанной командой Qwen и дополнительно квантизированной пользователем legraphista с помощью llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая использование в локальных приложениях через совместимые с GGUF инструменты и llama.cpp. Модель содержит около 7 миллиардов параметров и создана на основе исходной версии с форматом BF16. Доступны варианты от BF16 и FP16 до низкобитных форматов Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантов. Для ряда низкобитных вариантов применена IMatrix — калибровочная матрица, призванная сохранить качество при уменьшении размера модели. Размеры файлов варьируются примерно от 3,02 до 15,24 ГБ. В карточке указана поддержка английского языка; сведения о контекстном окне и дополнительных модальностях отсутствуют. Основные преимущества — большое количество вариантов квантования, возможность подобрать баланс между размером, требованиями к памяти и качеством, а также поддержка формата GGUF. Низкобитные версии экономичнее по ресурсам, но могут сильнее терять качество по сравнению с BF16 или FP16. Точные характеристики производительности, контекстного окна и поведения на других языках в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-4B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0-i1-GGUF — GGUF-квантизированная версия модели Qwen3.5-4B-Opus-Distilled-Heretic-Thinking-Multistage-SFT-v1.0, разработанной prithivMLmods и квантизированной mradermacher. Модель создана на основе многоэтапного supervised fine-tuning и ориентирована на генерацию текста, рассуждения, логический анализ, решение задач и математику. В карточке также указана поддержка vision, однако сведения о конкретных визуальных возможностях и необходимых mmproj-файлах приведены только в общем виде. Модель предназначена для локального запуска и инференса через совместимые инструменты для GGUF, включая llama.cpp-подобные среды и vLLM; заявлена совместимость с контекстом до 32 тысяч токенов. Указан английский язык. Архитектура, точное количество параметров помимо обозначения 4B, результаты тестирования и сравнительные показатели в README не описаны, поэтому качество рассуждений и мультимодальной обработки следует проверять на собственных задачах. Доступно множество вариантов квантизации с размером примерно от 1,5 до 2,5 ГБ, что облегчает запуск на устройствах с ограниченными ресурсами. При этом наиболее компактные варианты могут заметно уступать по качеству: для некоторых прямо отмечены очень низкое или сниженное качество. Модель распространяется под лицензией Apache-2.0; условия использования базовой модели отдельно не раскрыты в предоставленных данных.

Qwen3.5-Thinking-AIO-GGUF — экспериментальная серия мультимодальных моделей, созданная prithivMLmods на основе моделей Alibaba Qwen3.5. В репозитории представлены варианты Unredacted MAX с размером 0,8B, 2B, 4B и 9B параметров в формате GGUF; README также упоминает вариант 27B, но подробности его файлов в каталоге не приведены. Модели предназначены для генерации текста, рассуждений, программирования, математических задач и работы с изображениями, а также для локального запуска через llama.cpp и совместимые инструменты. Заявлены гибридная архитектура Gated DeltaNet, контекст до 262 144 токенов, словарь на 201 язык и переключаемые режимы рассуждений. Для мультимодальной работы доступны отдельные файлы mmproj, а для разных требований к памяти предусмотрены варианты F32, BF16, F16 и Q8_0. Малые версии ориентированы на периферийные устройства и системы с ограниченными ресурсами, более крупные — на повышение качества ответов и сложные задачи. Ключевая особенность серии — так называемая abliteration: автор заявляет минимизацию отказов и удаление стандартных защитных ограничений при сохранении или улучшении возможностей рассуждения. Это может быть полезно для исследовательских задач, создания датасетов и сценариев, где требуется более свободное следование инструкциям, но одновременно повышает риски небезопасных или нежелательных ответов. Модели экспериментальные, официальные оценки производительности не представлены, а заявления о превосходстве над исходными моделями основаны на неподтверждённых community-бенчмарках. Распространение указано по лицензии Apache-2.0.

Qwen3.6-27B-CoreAI — это плотная языковая модель на 27 млрд параметров, основанная на Qwen/Qwen3.6-27B и подготовленная mlboydaisuke для запуска в среде Apple Core AI. Модель предназначена для генерации текста, диалоговых приложений, суммаризации и других офлайн-сценариев на устройствах Apple через GPU или Neural Engine. Указанный язык — английский. Архитектура включает 64 слоя с чередованием линейных микшеров внимания GatedDeltaNet и полноразмерного gated attention, GQA с 24 query- и 4 KV-головами, 48 value-голов и плотные MLP размерности 17408. Все параметры активны при генерации каждого токена; модель поставляется в виде Core AI LanguageBundle размером около 28 ГБ с int8-квантованием весов. Заявлены скорость декодирования 15,9 токена в секунду на Mac с M4 Max и результаты, практически совпадающие с полной точностью на проверенных позициях. Сильными сторонами являются крупный плотный масштаб, локальное выполнение без обязательной передачи данных в облако и высокая точность int8-квантизации по приведённым тестам. Ограничения — значительные требования к памяти и хранилищу, зависимость от экосистемы Apple Core AI и отсутствие данных о поддерживаемом контексте и других языках. Модель распространяется по лицензии Apache-2.0.

Moemajor3/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это модель на базе Qwen3.6-27B, разработанная в рамках совместной работы авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh. Она представляет собой многоэтапную fine-tune и merge-модель, подготовленную для запуска на потребительском оборудовании в форматах GGUF, включая обычные и MTP-варианты. В обучении и слиянии использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные наборы и трассы, упомянутые в README. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. Заявлена поддержка английского и китайского языков. В карточке также указана мультимодальная специализация image-text-to-text и наличие vision, однако подробности о поддерживаемых форматах изображений и контекстном окне не приведены. Архитектурные характеристики ограничиваются размером базовой модели — 27B параметров. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общее решение задач, а также высокая эффективность квантованных версий. По утверждению авторов, модель превосходит базовую Qwen3.6-27B в шести из семи внутренних бенчмарков и сопоставима с ней в седьмом; эти результаты не подтверждены независимыми данными в README. Модель позиционируется как uncensored и heretic, поэтому её ответы могут требовать дополнительной фильтрации и проверки. Для MTP-квантов рекомендуется температура не выше 1 и repetition penalty, равный 1; при низком уровне token acceptance следует использовать обычные кванты. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая мультимодальная fine-tune-модель на базе Qwen3.6-27B, опубликованная nostrbuild при участии нескольких разработчиков и команд, включая DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в формате GGUF, включая обычные и MTP-варианты с NEO IMATRIX-квантованием, и предназначена для запуска на потребительском оборудовании. В описании заявлены улучшенное следование инструкциям, решение задач, рассуждение и общее повышение интеллектуальных возможностей. Модель рассчитана на широкий круг сценариев, включая программирование, диалоги, анализ, творческое письмо и roleplaying, хотя специально не оптимизировалась только под творчество. Также заявлена поддержка vision. Указанные языки — английский и китайский. Размер базовой модели — 27B параметров; точное архитектурное устройство и размер контекстного окна в README не приведены. Доступны кванты с разрядностью 4 и 8 бит, а также варианты MTP для многотокенного предсказания. Для MTP рекомендуется температура не выше 1 и отключённая repetition penalty; при низкой доле принятия токенов следует использовать обычный квант. Автор заявляет превосходство над базовой Qwen3.6-27B в шести из семи тестов и сопоставимый результат в седьмом, однако эти результаты приведены без независимой проверки. Сильными сторонами заявлены instruction following, reasoning, problem solving, сохранение возможностей базовой модели, поддержка vision и хорошее качество даже у низкоразрядных квантов. Ограничения включают зависимость качества и производительности от выбранного кванта и настроек MTP, а также заявленный uncensored/heretic-профиль, который может означать ослабленные ограничения безопасности. Модель распространяется по лицензии Apache-2.0.

amd/Qwen3.6-35B-A3B-w8a8-llmcompressor — квантизированная AMD версия модели Qwen3.6-35B-A3B, созданная с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и поддерживает текстовый ввод и вывод; в исходной архитектуре используется Qwen3_5MoeForConditionalGeneration с разреженной MoE-структурой. Указан английский язык. README не приводит общее число параметров в явном виде, но размер исходных весов составляет 67,0 GiB, а после квантизации — 35,1 GiB. Применяется для инференса на CPU AMD EPYC под Linux через vLLM. Используется квантизация W8A8: веса представлены в INT8 с симметричным поканальным масштабированием, активации — в INT8 с динамическим поточным масштабированием. Маршрутизатор MoE, отдельные gating-модули, модули линейного внимания, визуальная башня и lm_head сохранены в BF16. Это снижает размер модели примерно на 48% и ориентировано на эффективный CPU-инференс с оптимизациями ZenDNN и ZenTorch. В предоставленной оценке на GSM8K модель получила 0,9629 против 0,9629 у исходной BF16-версии, однако результаты приведены только для одного бенчмарка. Основные ограничения — ориентация на AMD EPYC CPU, отсутствие целевой поддержки GPU и зависимость от конкретного стека: ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0; на других версиях корректная загрузка не гарантируется. Модель распространяется по лицензии Apache-2.0, как и исходная модель.

Qwen3.6-35B-A3B · Winnow keep-25 — производная разреженная модель семейства Qwen, созданная методом поканального прореживания экспертов. По README, разработчик оставил 25% каналов маршрутизируемых экспертов, удалив 75%; промежуточная ширина SwiGLU экспертов сокращена по оценкам важности каналов, а внимание, эмбеддинги и маршрутизатор сохранены. В карточке указано 2,9 млрд параметров, тогда как README сообщает 10,5 млрд, поэтому размер модели в источниках расходится. Модель предназначена для генерации текста и диалогового использования. Указанный базовый чекпойнт — Qwen/Qwen3.6-35B-A3B; заявленное контекстное окно — 262 144 токена. Для запуска README требует Transformers версии 5 или новее и trust_remote_code=True; также описан запуск через vLLM с плагином winnow. На проверке perplexity на C4 приведено значение 22,53; сравнительные и downstream-результаты вынесены в отдельную публикацию. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает о поддерживаемых языках и не даёт подробной оценки качества для прикладных задач; прореживание может влиять на качество относительно базовой модели.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-KERN-GGUF — это набор смешанно-точных квантованных моделей в формате GGUF, подготовленный Andrew Paul на основе DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 и базовой модели Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и запуска через llama.cpp, в том числе локально на видеокартах с ограниченным объёмом памяти. Доступны четыре варианта: eqQ4_K_M размером 14,73 ГБ, eqQ3_K_M — 13,04 ГБ, eqQ3_K_S — 11,59 ГБ и eqIQ2_M — 9,58 ГБ. Заявленная сохранность возможностей относительно BF16 составляет примерно 95%, 91%, 81% и 76% соответственно. Конкретные языки и максимальный контекст модели в README не указаны; примеры запуска используют контекст 16 384 токена. Ключевая особенность — распределение разрядности тензоров, выбранное по результатам тестирования возможностей, чувствительности и отклонения логитов, а не только по KL-дивергенции. Все варианты поддерживают обычную генерацию и спекулятивное декодирование: встроенная MTP-голова позволяет использовать draft length 2 или 3, а совместимость с внешним DFlash 2 может повысить пропускную способность. Меньшие варианты удобнее для 16 ГБ видеокарт, тогда как eqQ4_K_M рассчитан преимущественно на 24 ГБ или unified memory. Ограничения включают зависимость заявленных оценок от закрытого внутреннего теста, непроверенную поддержку vision через mmproj и возможное накопление ошибок при KV-cache в режиме q4. Модель распространяется по лицензии Apache-2.0.