II.1Анализ требований и архитектура ПО

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели OpenBuddy/openbuddy-llama2-70b-v10.1-bf16 на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-llama2-13b-v11.1-bf16, поэтому описание составлено по ней. OpenBuddy — многоязычная чат-модель на базе LLaMA 2, представленная в варианте с 13 млрд параметров и весами bf16. Она предназначена для диалогов и генерации текста; в метаданных указаны языки китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Модель использует плотную архитектуру LlamaForCausalLM, работает через Transformers и поддерживает контекст до 4096 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. README предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными, поэтому модель не следует применять в критически важных сценариях, включая медицинские, финансовые и юридические решения, или для управления потенциально опасными системами. Использование зависит от лицензии Meta на LLaMA: требуется одобрение Meta и соответствие её условиям.

openchat-3.6-8b-20240522-IMat-GGUF — это квантизированная версия языковой модели openchat/openchat-3.6-8b-20240522, подготовленная legraphista в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты llama.cpp. Исходная модель имеет формат BF16 и около 8 миллиардов параметров. Репозиторий предоставляет варианты с разными уровнями квантования — от Q8_0 и Q6_K до Q2_K, а также IQ-кванты. Для ряда вариантов применена IMatrix-квантизация, призванная сохранять качество при уменьшении размера модели; доступны файлы объёмом примерно от 2,99 до 16,07 ГБ. Это позволяет выбирать баланс между требованиями к памяти, скоростью работы и точностью. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Основные ограничения связаны с потерями качества, возможными при низких уровнях квантования, а также с зависимостью производительности от аппаратного обеспечения и используемого рантайма. Указанная лицензия — llama3. Квантизация выполнена на основе llama.cpp версии b3006; автором квантизированных файлов указан legraphista.

duyntnet/OpenHermes-2.5-Mistral-7B-imatrix-GGUF — набор квантованных версий модели OpenHermes-2.5-Mistral-7B, разработанной Teknium. Модель предназначена для генерации текста и диалогового взаимодействия, включая программирование, создание рецептов, обсуждение абстрактных тем и ролевые сценарии. Идентификатор также указывает на формат GGUF и использование imatrix-квантизации. В основе лежит OpenHermes-2.5-Mistral-7B; размер базовой модели — 7 миллиардов параметров. Модель относится к текстовым, поддерживает английский язык и предназначена для text generation. README не содержит сведений о точной архитектуре, доступных вариантах квантования, размере контекста, системных требованиях или поддерживаемых модальностях помимо текста. Сильные стороны модели — универсальность в диалоговых и генеративных сценариях, а также наличие квантованных вариантов, потенциально удобных для локального запуска. Ограничения включают отсутствие подтверждённых данных о качестве, бенчмарках, многоязычности и фактических требованиях к ресурсам. Лицензия указана как other, без дополнительных условий использования в README.

bartowski/open-thoughts_OpenThinker2-32B-GGUF — это набор квантованных GGUF-версий модели OpenThinker2-32B, разработанной open-thoughts. Квантование выполнено bartowski с использованием llama.cpp release b5035 и метода imatrix на основе датасета OpenThoughts2-1M. Модель предназначена для генерации текста и запуска в локальных приложениях, совместимых с llama.cpp, включая LM Studio, а также для непосредственного использования через llama.cpp и производные проекты. Модель содержит 32 миллиарда параметров и распространяется в вариантах от BF16 до различных уровней квантования Q8, Q6, Q5, Q4 и Q3, включая форматы IQ. Размер файлов составляет примерно от 14,39 до 65,54 ГБ. Более высокие уровни квантования обеспечивают качество, близкое к исходной модели, но требуют больше памяти; варианты Q4_K_M и IQ4_XS предлагают компромисс между качеством и требованиями к ресурсам. Поддерживаемые модальности, языки и размер контекста в README не указаны. Для работы рекомендуется использовать формат prompt с ролями system, user и assistant через специальные токены ChatML. Сильными сторонами являются локальный запуск, широкий выбор квантований и совместимость с экосистемой llama.cpp. Ограничения включают необходимость значительных объёмов оперативной или видеопамяти для крупных вариантов, возможное снижение качества у низкобитных квантований и отсутствие в предоставленных данных результатов оценки. Модель и квантованные файлы распространяются по лицензии Apache-2.0.

pandafish-dt-7b — языковая модель на 7,1 млрд параметров, созданная объединением моделей Experiment26-7B и MergeCeption-7B-v3 методом dare_ties с помощью LazyMergekit. Она основана на архитектуре Mistral и предназначена для генерации текста и общих языковых задач; заявленная длина контекста составляет 32 768 токенов. В README приведены результаты оценивания на наборе Nous Benchmark, включая AGIEval, GPT4All, TruthfulQA и Bigbench. Модель распространяется в формате safetensors по лицензии Apache-2.0. README также перечисляет сторонние варианты в форматах GGUF и MLX. Данных о целевых языках и специализированных предметных областях нет, поэтому модель следует рассматривать как универсальную.

Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic-GGUF — набор GGUF-квантизаций модели, разработанный FesarovLab на основе FedorFesarov/Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic. Исходная модель представляет собой abliteration-сборку Claude Fable 5 fine-tune для Nanbeige4.2-3B; базовая модель разработана Nanbeige. Модель предназначена для генерации текста и запуска через llama.cpp и совместимые интерфейсы, включая LM Studio и Open WebUI. Модель поддерживает английский и китайский языки, использует текстовую модальность и архитектуру с 44 слоями KV-кэша. Заявлен контекст до 262144 токенов, однако большой контекст требует значительного объёма памяти; в README рекомендуется явно задавать размер контекста и при необходимости сжимать KV-кэш. Доступны варианты от Q2_K до Q8_0 и F16, размером примерно от 1,64 до 7,77 ГБ. Рекомендуемым компромиссом названа IQ4_XS-imat, а для более высокой точности — Q4_K_M-imat или варианты с более высокой разрядностью. Сильные стороны модели — компактность, высокая скорость GPU-инференса, поддержка reasoning-блоков <think>, структурированного JSON и XML-подобных вызовов инструментов. Для надёжного структурированного вывода рекомендуется использовать Q4_K_S или более качественные варианты, поскольку агрессивная квантизация может ухудшать соблюдение формата. IQ-квантизации могут быть медленнее на CPU, чем K-квантизации, а вариант Q2_K существенно теряет качество. Лицензия — Apache-2.0.

amd/PARD-Llama-4-1B — компактная авторегрессионная языковая модель семейства Llama, опубликованная AMD в рамках проекта PARD. В карточке указаны 1,4 млрд параметров, контекст до 131 072 токенов, архитектура LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов; заявлена поддержка интерфейса вызова инструментов. README описывает PARD как метод спекулятивного декодирования, который адаптирует черновые авторегрессионные модели для параллельного предсказания токенов и ускорения инференса. В нём заявлены ускорения по сравнению с обычной генерацией и возможность применять одну черновую модель с семейством целевых моделей. Однако в таблице весов README перечислены варианты PARD для Llama 3.2, Qwen и DeepSeek-R1-Distill-Qwen, но не указана модель Llama 4; поэтому связь именно этого репозитория с описанной адаптацией PARD из карточки подтвердить нельзя. Модель принимает и генерирует текст. Метаданные указывают лицензию MIT. README отсылает за инструкциями по использованию к репозиторию PARD; сравнительные показатели ускорения относятся к описанному методу и интеграциям, а не подтверждены отдельно для этих весов.

bartowski/p-e-w_Llama-3.1-8B-Instruct-heretic-GGUF — это квантизированная версия инструкционной модели Llama 3.1 с примерно 8 млрд параметров, опубликованная в формате GGUF. Базовая модель разработана Meta, а квантизацию выполнил bartowski; обозначение heretic указывает на вариант модели, но README не содержит подробностей о внесённых изменениях. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и другие задачи обработки естественного языка. В метаданных указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Поддерживается только текстовая модальность. Сведения о конкретном методе и уровне квантизации, длине контекста, требованиях к памяти и результатах тестирования в README отсутствуют. Ключевое преимущество модели — сочетание инструкционного обучения, относительно компактного размера и формата GGUF, удобного для локального запуска совместимыми средствами. Ограничения включают возможное снижение качества из-за квантизации, отсутствие подтверждённых характеристик варианта heretic и неполную информацию о производительности. Использование регулируется Llama 3.1 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными условиями для распространения; перед применением необходимо проверить полный текст лицензии.

Phi-3-mini-4k-instruct-GGUF — это GGUF-квантизированная версия языковой модели Phi-3-mini-4k-instruct, разработанной Microsoft и квантизированной Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи обработки естественного языка и программирования. В README указана поддержка английского языка и текстовая модальность. Модель имеет контекст до 4000 токенов и использует шаблон диалога phi-3-chat. Доступны варианты квантизации от Q2_K до Q8_0, а также f16, размером примерно от 1,42 до 7,64 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с низкой потерей качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; README также отмечает, что Q4_0 и Q5_0 являются устаревшими вариантами. Модель поддерживает запуск через LlamaEdge версии 0.12.2 и выше, включая работу в виде сервиса или командного приложения. Ограничения включают сравнительно небольшой контекст, поддержку только текста и заявленного английского языка, а также возможное снижение качества при низкой разрядности квантизации. Лицензия — MIT.

Карточка модели schwyzquants/Qwen2.5-32B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B, поэтому описание составлено по ней. Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

Qwen2.5-32B-ArliAI-RPMax-v1.3-GGUF — это GGUF-квантизации текстовой генеративной модели Qwen2.5-32B-ArliAI-RPMax-v1.3, разработанной ArliAI. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; модель предназначена для локального запуска и генерации текста, в том числе через LM Studio. Для работы используется формат диалогового промпта с ролями system, user и assistant. Модель имеет размер 32B параметров и доступна в вариантах от исходных весов F16 размером около 65,54 ГБ до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. В README указаны размеры файлов, приблизительные характеристики качества и варианты, оптимизированные для ARM-процессоров. Наиболее качественными названы F16, Q8_0 и Q6_K_L/Q6_K; Q4_K_M обозначен как вариант типового размера для большинства сценариев, а низкоразрядные варианты подходят системам с ограниченным объёмом оперативной памяти. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к оборудованию, а применение imatrix должно помогать сохранять качество при квантизации. Ограничения включают значительные требования к памяти даже для компактных вариантов; некоторые ARM-оптимизированные файлы требуют поддержки sve или i8mm и не предназначены для Mac или Windows. Сведения о языках, длине контекста, точной архитектуре, мультимодальности и специализированных возможностях в README не указаны. Лицензия — Apache-2.0.

bunnycore/Qwen2.5-3B-MiniMix — слитая разговорная языковая модель, созданная с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-3B. В объединение вошли Qwen/Qwen2.5-3B-Instruct, bunnycore/Qwen-2.5-3b-Evol-CoT и bunnycore/Qwen-2.5-3b-Rp-lora_model. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2 для генерации текста и работает через библиотеку Transformers; заявленный контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Сочетание инструкционной и CoT-моделей ориентировано на выполнение инструкций и рассуждения; также доступны чат-возможности и интерфейс вызова инструментов. Поддерживаемые языки и качество на отдельных задачах в карточке не описаны. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя. Как результат слияния нескольких моделей, поведение MiniMix может отличаться от исходных моделей; перед применением следует проверить ответы и вызов инструментов на целевых сценариях.

Mungert/Qwen2.5-7B-Instruct-1M-GGUF — это GGUF-версия инструкционной языковой модели Qwen2.5-7B, разработанная Mungert на базе Qwen/Qwen2.5-7B. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск на устройствах с ограниченными ресурсами, локальный инференс на CPU и системах с небольшим объёмом GPU-памяти. В названии заявлена поддержка контекста до 1 миллиона токенов, однако подробные характеристики реализации этого контекста в README не приведены. Модель относится к классу текстовых генеративных моделей, имеет около 7 миллиардов параметров и распространяется в формате GGUF. README также описывает ультранизкобитные варианты квантования с динамическим распределением точности IQ-DynamicGate, ориентированные на снижение потребления памяти; приведённые бенчмарки относятся к Llama-3-8B и не подтверждают показатели именно этой модели. В метаданных указан английский язык. Сильная сторона модели — возможность эффективного локального запуска благодаря квантованию и потенциально большому контекстному окну. Ограничения включают возможное снижение точности при низкобитном квантовании, отсутствие подробных данных об архитектуре, фактическом размере контекста и результатах тестирования именно для Qwen2.5-7B-Instruct-1M-GGUF. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-7B-Instruct-8bit — конверсия модели Qwen/Qwen2.5-7B-Instruct в формат MLX с 8-битным представлением весов, выполненная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2, содержащая 7,1 млрд параметров и предназначенная для генерации текста в диалоговом режиме, включая ответы на запросы и использование интерфейса вызова инструментов. Модель принимает текст и выдаёт текст. Поддерживает английский язык; базовая модель Qwen2.5 рассчитана на контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Формат MLX предназначен для запуска на системах Apple с MLX; сведения о качестве именно этой конверсии и поддержке других языков в карточке модели не приведены.

HarithSami дообучил эту плотную языковую модель на основе unsloth/qwen2.5-7b-instruct. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс для вызова инструментов. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face. Доступны веса в формате safetensors. Лицензия — Apache-2.0. Данные описания не уточняют, на каких именно данных выполнялось дообучение и насколько хорошо модель справляется с конкретными задачами или языками.

Aldaris/Qwen3-14B-Q4_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen3-14B, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая режим командной строки и серверный режим. Модель содержит 14 миллиардов параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полной версией модели, но может снижать точность и качество генерации. В README указана текстовая модальность и поддержка запуска на Mac, Linux и оборудовании с аппаратным ускорением, включая Nvidia GPU; сведения о языках, архитектурных особенностях и максимальной длине контекста не приведены. В качестве примера запуска указан контекст размером 2048 токенов, однако это не обязательно максимальное значение модели. Модель подходит для локальных чат-сценариев, генерации текста и интеграции в приложения через llama.cpp. Лицензия указана как Apache 2.0; подробные характеристики и ограничения следует уточнять в карточке исходной модели Qwen/Qwen3-14B.

Qwen3-4B-Instruct-2507-4bit-DWQ-2510 — это квантизированная 4-битная версия языковой модели Qwen3-4B-Instruct-2507 в формате MLX. Модель разработана сообществом mlx-community на основе исходной модели Qwen, созданной командой Qwen, и преобразована в формат MLX с использованием mlx-lm версии 0.28.2. Модель предназначена для генерации текста и диалоговых сценариев с применением инструкционного режима. Она подходит для использования через библиотеку mlx-lm, включая обработку сообщений в формате чата и генерацию ответов по текстовым подсказкам. Известны размер исходной модели — 4 миллиарда параметров — и 4-битное квантование DWQ, позволяющее уменьшить требования к хранению и вычислительным ресурсам по сравнению с полноразмерными вариантами. Модель работает с текстом; сведения о поддерживаемых языках, размере контекстного окна, архитектурных деталях, результатах тестирования и ограничениях качества в README не указаны. Для использования требуется библиотека mlx-lm и среда, совместимая с MLX. Модель распространяется по лицензии Apache 2.0.

MuXodious/Qwen3.5-4B-PaperWitch-heresy — мультимодальная диалоговая модель на базе Qwen3.5-4B, созданная с помощью Heretic v1.2.0 и метода abliteration. В версии изменяли направление первичных отказов; вторичные факторы, включая оговорки и связанные с ними формы несоблюдения запроса, оставлены без изменений. Модель предназначена для диалога, рассуждений, анализа изображений и вызова инструментов. Она принимает текст и изображения и генерирует текст. Базовая архитектура — плотная Qwen3.5 с визуальным энкодером; в ней около 4 млрд параметров. Нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта, но отдельные языки для этой производной модели не перечислены. В тесте автора модель отказала в 0 из 104 запросов против 103 из 104 у исходной модели; указана KL-дивергенция 0,0521. README предупреждает о возможном скрытом несоблюдении запросов и циклах рассуждений. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Akka — мультимодальная модель на архитектуре Qwen3.5, опубликованная независимой лабораторией Nightmedia. Это слияние NuSLERP нескольких моделей семейства Qwen3.6 и Qwen3.5, ориентированное на диалог, следование инструкциям, рассуждения и творческую генерацию, включая художественные тексты. Модель также принимает изображения и может отвечать по их содержимому. В карточке описан переключатель режима рассуждений в шаблоне чата. Для модели указана лицензия Apache-2.0; веса размещены в формате safetensors. Опубликованные замеры скорости и памяти относятся к вариантам mxfp8 и mxfp4, однако репозиторий помечен форматом safetensors, поэтому эти показатели не следует считать характеристиками доступных здесь файлов. Контекстное окно и число параметров в предоставленных данных не указаны. Модель имеет экспериментальные признаки и может выдавать нежелательные результаты; качество для конкретных задач следует проверять самостоятельно.

bernquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это 27-миллиардная модель семейства Qwen3.6 в формате GGUF, созданная на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Модель разработана в рамках совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, многоэтапного fine-tuning и merge нескольких обученных версий. Указаны языки English и Chinese; заявлена поддержка vision, однако подробности о мультимодальной архитектуре и формате входных данных не приведены. Модель предназначена для широкого круга задач: следования инструкциям, решения проблем, reasoning, программирования, творческого письма, fiction и roleplaying. Авторы заявляют об улучшении общего интеллекта, instruction following и reasoning по сравнению с базовой моделью, а также о высоких результатах на ряде бенчмарков. Доступны обычные и MTP-варианты GGUF, включая NEO IMATRIX-квантизации; часть выходного тензора хранится в 16-битной точности. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance рекомендуется использовать обычную квантизацию. К ограничениям относятся отсутствие подробных спецификаций контекстного окна, точного перечня поддерживаемых модальностей, требований к памяти и результатов независимой оценки. Модель позиционируется как uncensored и heretic, поэтому её поведение и фильтрация могут отличаться от стандартных версий Qwen. Заявления о превосходстве над другими моделями основаны на описании авторов и не подтверждены приведёнными в README полными методиками тестирования. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B Winnow keep-75 — это разреженная версия Qwen3.6-35B-A3B, подготовленная автором репозитория hbfreed с помощью поканального прореживания экспертов Winnow. В каждом эксперте SwiGLU удалено 25% каналов по оценке их важности; механизмы внимания, эмбеддинги и маршрутизатор не изменены. README указывает 26,6 млрд параметров, тогда как метаданные каталога — 2,9 млрд; эти оценки расходятся, поэтому размер здесь не приводится. Модель предназначена для генерации текста и диалогов. В README приведён результат perplexity 13,39 на C4 для данного непрошедшего дополнительное восстановление чекпойнта; сравнения с другими вариантами и показатели на downstream-задачах вынесены в отдельный материал. Указана длина контекста 262 144 токена. Для загрузки требуется Transformers версии 5 или новее и trust_remote_code=True; README также описывает запуск через vLLM с плагином winnow. Лицензия — Apache-2.0. Языки отдельно не перечислены.

Qwen3.6-40B-DeckardUncensored-OpusDistilled-W4A16-AWQ — мультимодальная vision-language модель на базе DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking, разработанная philbert440. Она предназначена для генерации и анализа текста и изображений, прежде всего для творческого письма и программирования. По описанию, модель относится к серии Deckard-40B Uncensored и ориентирована на сценарии, где требуется высокая производительность и отсутствие встроенных отказов по соображениям безопасности. Модель содержит около 40 миллиардов параметров и использует квантизацию W4A16-AWQ: 4-битные веса при активациях FP16. Формат основан на weight-only квантизации AWQ и compressed-tensors. Модель совместима с 1Cat-vLLM на видеокартах Tesla V100 с архитектурой SM70, а также со стандартным vLLM на системах с Ampere и новее. README не указывает максимальный размер контекста и полный перечень поддерживаемых языков. К сильным сторонам относятся мультимодальность, ориентация на творческие и кодовые задачи, уменьшенное потребление памяти благодаря квантизации и возможность запуска на Tesla V100. Ограничения включают потерю точности, возможную для 4-битной квантизации, зависимость от совместимого программного стека и отсутствие защитных отказов: разработчик прямо возлагает на пользователя ответственность за законное и этичное применение. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored-NM-DAU-NEO-MAX-MTP-GGUF — крупная 40-миллиардная fine-tune-модель, разработанная DavidAU при участии Nightmedia, TeichAI и других авторов. Она создана на основе Qwen3.6 и объединяет несколько версий Fable Fusion, Deckard Qwen3.6 40B, многоэтапное дообучение и слияние моделей с использованием Unsloth. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, с вариантами разрядности 4 и 8 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач и аналитического рассуждения, генерации кода, творческого письма, создания историй и roleplay. Заявлены улучшенные reasoning и thinking, автоматическая адаптация глубины рассуждений к сложности запроса, подробные ответы и сильные творческие возможности. В карточке также указана поддержка vision и языков English и Chinese, однако конкретные поддерживаемые визуальные форматы и параметры контекста не приведены. К сильным сторонам относятся многоэтапная настройка, акцент на общем интеллекте, instruction following, problem solving и качестве рассуждений, а также доступность квантизированных вариантов для потребительского оборудования. Модель описывается как uncensored и heretic, что может быть полезно для менее ограниченных сценариев, но одновременно означает потенциально более высокие риски нежелательного или небезопасного вывода. Заявления о превосходстве над другими моделями основаны на тестах авторов и не подтверждены независимой проверкой в предоставленных данных. Лицензия модели указана как Apache-2.0. README не содержит точных требований к аппаратному обеспечению, размера контекстного окна, подробных инструкций по запуску или результатов стандартизированных бенчмарков, поэтому эти характеристики нельзя определить по имеющейся информации.

Это исследовательский чекпойнт семейства Qwen3.5 MoE, подготовленный Minjae Choi. В нём веса routed experts в 40 слоях модели Qwen36 35B-A3B квантованы методом E2M-ATQ/TWLA до троичного алфавита {-1, 0, +1}; для каждой группы из 64 входных столбцов используются отдельные смещение и масштаб. Активации и остальные параметры сохранены в BF16. Квантование выполнено без градиентного обучения, с калибровочным корпусом из текстов общего, программного, математического, научного и длинноконтекстного содержания. Модель предназначена для генерации текста и диалогового вывода. В репозитории лежит fake-quant чекпойнт: троичная реконструкция сохранена как BF16-тензоры, поэтому размер файлов и требования к памяти не соответствуют реальному хранению весов в 1,58 бита. Для запуска требуется память, достаточная для BF16-чекпойнта, либо распределение модели по устройствам. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-Axon-MLQT — квантованная версия Qwen3.8-27B в формате GGUF, подготовленная Jaesoo Park из AXON Sovereign Intelligence Lab. Модель предназначена для диалоговой генерации текста и запуска локально через llama.cpp, Ollama или llama-cpp-python; в карточке также заявлены сценарии рассуждения и программирования. Весовая матрица упакована в тритовые значения {-1, 0, +1}; итоговый файл занимает 6,43 ГБ. README сообщает о тестировании на потребительской видеокарте, но приведённые показатели производительности и сохранения качества являются заявлениями автора. Модель основана на Qwen/Qwen3.8-27B; лицензия — Apache-2.0. Метаданные указывают на диалоговые возможности и задачу генерации текста.

lued/Qwen3.8-27B-INT8-W8A16-MTP — это квантизированная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель не является дообученной версией: в ней применена числовая квантизация для запуска через vLLM на видеокартах архитектуры Ampere, в частности на конфигурации из двух RTX 3090. Она предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, а также для инференса с ускорением speculative decoding посредством MTP. Используется формат W8A16: веса представлены в INT8, а активации — в FP16 или BF16; размер группы квантизации — 128, применяется симметричная data-free RTN-квантизация. Сохраняются vision tower, управляющие механизмы reasoning, BF16 MTP head и контекстное окно до 262 144 токенов. Модель поддерживает FP8 E4M3 KV-кэш; заявлена возможность расширения контекста до 1 млн токенов через YaRN на уровне исходной модели, однако приведённая конфигурация памяти этого не поддерживает. Сильной стороной является высокая близость к BF16-версии: заявлены 99,36% совпадения top-1 и меньший дрейф весов по сравнению с официальной FP8-версией. Ограничения связаны с требованиями к памяти и текущей стабильностью многопоточного обслуживания: на проверенной версии vLLM параллельные запросы могут приводить к сбоям движка. Производительность зависит от длины контекста и принятия черновых токенов MTP; при длинных запросах время до первого токена существенно возрастает. Данные о функциональном качестве, использовании инструментов, генерации JSON, программировании и мультимодальных возможностях в карточке не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-OBLITERATED — производная текстовая генеративная модель, опубликованная пользователем bniler2 на базе Qwen/Qwen3.8-27B. Она относится к семейству Qwen3 и предназначена для генерации текста, программного кода и ответов на запросы, включая запросы, на которые исходная модель могла отвечать отказом или отвлечёнными предупреждениями. Модель ориентирована на исследовательские, red-team- и агентные сценарии, а также на локальный запуск в форматах GGUF, SafeTensors и MLX. Заявлены размер 27 млрд параметров и совместимость с режимом рассуждений Qwen3. В README рекомендуются температура 0, repetition_penalty 1.15 и не менее 2048 новых токенов; для агентных сценариев предлагаются более короткие ответы и периодическое суммирование контекста. Размер контекстного окна и перечень поддерживаемых языков не указаны. Для V3 заявлены показатель MMLU 82,3% в тесте lm-eval 0-shot, близкая к исходной модели производительность и полноценные ответы на тестовые задачи генерации кода, однако эти результаты приведены автором модели и не подтверждены независимой проверкой. Главная особенность модели — удаление или ослабление отказов и защитных ответов методом abliteration с последующей итеративной доработкой и смешиванием вариантов. Это может повысить полезность в задачах анализа безопасности и генерации кода, но одновременно снижает встроенные механизмы безопасного поведения и может привести к выдаче рискованного или вредоносного содержания. По сравнению с исходной моделью заявлено снижение MMLU на 2,1 процентного пункта. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная дообученная и объединённая версия модели Qwen3.8-27B, опубликованная в репозитории trinityomnis и основанная на модели DavidAU. Модель распространяется в формате GGUF, включая обычные и MTP-квантизации, и ориентирована на запуск на потребительском оборудовании. В README заявлены поддержка английского и китайского языков, размер около 27 млрд параметров, режимы рассуждения, а также специализация на программировании, творческом письме, художественной прозе и ролевых сценариях. Ключевая цель разработки — повысить способность к решению задач и детализации ответов, одновременно сократив объём токенов, затрачиваемых на рассуждение, по сравнению с базовой Qwen3.8. По заявлению автора, модель обучалась с использованием методов COLD FUSION и Fable Fusion 711 и показывает более высокие результаты на ряде внутренних или указанных в README бенчмарков, включая ARC-C и ARC-E. Эти результаты не подтверждены независимыми данными в представленном описании. Сильными сторонами модели заявлены скорость генерации, сокращённое рассуждение, кодинг, подробное творчество и широкий спектр сценариев применения. Ограничения включают отсутствие сведений о размере контекстного окна, точной архитектуре, поддерживаемых мультимодальных входах и системных требованиях. Модель обозначена как uncensored и abliterated, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.