II.2Создание и понимание программного кода

chanwit/flux-7b-v0.2 — разговорная языковая модель проекта Open Flux AI, созданная на основе Mistral 7B для помощи разработчикам, работающим с Flux, Flagger, GitOps и SOPS. Карточка описывает её как модель, дообученную для этих областей на материалах проекта Kube-7B с целевым подбором данных и техникой embeddings. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает текстовые запросы и генерирует текстовые ответы на английском языке, в том числе в формате диалога. Лицензия — Apache 2.0. Модель предназначена для ответов на вопросы о Flux, Flagger, GitOps и SOPS, включая команды Flux и пользовательские ресурсы Kubernetes. README заявляет о хороших результатах в этих темах, однако не приводит методику или сравнительные оценки; специализация и фактическое качество ответов требуют проверки на конкретных задачах.

codegood/gemma-2b-it-Q4_K_M-GGUF — это конвертированная в формат GGUF версия инструкционной модели google/gemma-2b-it, разработанной Google. Репозиторий подготовлен с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для диалоговых и текстовых сценариев, включая ответы на вопросы и локальный запуск через llama.cpp в командной строке или в режиме сервера. Модель имеет размер 2B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерными весами, но может снижать точность по сравнению с неквантизированной версией. В README приведён пример контекста 2048 токенов для сервера; другие характеристики, включая поддерживаемые языки, максимальный контекст и результаты оценки, не указаны. Ключевое преимущество — возможность относительно компактного локального развертывания в экосистеме llama.cpp. Ограничения связаны с небольшим размером модели и потерями от квантизации. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии следует уточнять в оригинальной карточке модели.

Это независимая смешанная GGUF-квантизация Gemma 4 31B IT Heretic, созданная владельцем репозитория на основе производной модели DavidAU/gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking. Она предназначена для локального диалогового использования через llama.cpp и генерирует текст в ответ на запросы. Внимательные и выходные тензоры частично сохранены в более высокой точности, а большая часть весов FFN сжата; при калибровке использовалась матрица важности imatrix. Модель содержит 31 млрд параметров и поддерживает японский, английский и другие языки; в карточке базовой модели указан контекст 262 144 токена, но фактическая длина зависит от памяти, KV-кэша и настроек запуска. Это доработанный отказоустойчивый барьер модели с удалёнными отказами: она может выдавать опасный или вредный контент и не имеет надёжного встроенного уровня безопасности. Японская генерация была проверена лишь на отдельных запросах, без формального бенчмарка; скорость и доступный контекст зависят от оборудования и конфигурации. Модель распространяется по Apache-2.0 с учётом условий исходной модели; это независимая производная, не официальный выпуск Google.

GLM-5.3-NVFP4 — квантизированная версия модели GLM-5.3 от Z.ai, опубликованная в формате NVIDIA Model Optimizer. Это текстовая генеративная модель для запуска и обслуживания задач генерации текста; README также указывает поддержку reasoning и вызова инструментов через соответствующие парсеры. Модель предназначена для работы на GPU NVIDIA Blackwell с архитектурой SM100 и новее, непосредственно через SGLang или vLLM. В модели используются веса и статические активации линейных слоёв маршрутизируемых MoE-экспертов в формате NVFP4, а KV-кэш хранится в FP8. Размер контрольной точки составляет 433 GiB. Доступна опциональная speculative decoding с draft-моделью GLM-5.3-DFlash2 и семью токенами на шаг проверки. Языки, размер контекста, точное число параметров и полный перечень модальностей в README не указаны; по имеющимся данным модель относится к текстовым, а не мультимодальным системам. К сильным сторонам относятся существенное сжатие представления вычислений, поддержка специализированного инференса на современных GPU NVIDIA и близкие к исходной FP8-версии результаты на приведённых тестах: например, 95,1 против 94,3 на AIME 2025 и 91,2 против 91,1 на GPQA Diamond. Ограничения включают требование GPU NVIDIA Blackwell, крупный объём контрольной точки и отсутствие данных о производительности на другом оборудовании. Модель распространяется по лицензии GLM-5.3 License, унаследованной от базовой модели.

giladgd публикует GGUF-версии модели gpt-oss-120b от OpenAI для запуска через node-llama-cpp и llama.cpp. В репозитории доступны файлы MXFP4 и F16 размером около 63,4 и 65,4 ГБ соответственно; метаданные указывают формат GGUF и задачу генерации текста. Модель поддерживает диалоговый режим и настраиваемый уровень рассуждений, а исходная карточка описывает возможности вызова функций, структурированного вывода и агентных сценариев. Модель подходит для локальных диалоговых приложений, генерации текста и систем, использующих вызов инструментов. Для работы нужны значительные вычислительные ресурсы и совместимое ПО. Репозиторий распространяется по лицензии Apache 2.0; он содержит конвертированные GGUF-файлы базовой модели, а не отдельное дообучение.

ibm-granite/granite-4.2-30b-fp8 — это версия модели Granite-4.2-30B в формате FP8, разработанная IBM и опубликованная в семействе моделей IBM Granite. Репозиторий предназначен для использования с библиотекой Transformers и содержит модель, оптимизированную по формату представления чисел FP8 относительно исходной версии ibm-granite/granite-4.2-30b. Модель относится к языковым моделям, однако README не содержит подробностей о её архитектуре, точном числе параметров, поддерживаемых языках, размере контекста, модальностях, целевых сценариях применения, производительности или известных ограничениях. За дополнительными характеристиками README направляет к карточке исходной модели Granite-4.2-30B. Модель распространяется по лицензии Apache-2.0. Практические условия запуска и требования к аппаратному обеспечению в предоставленных данных не указаны.

GRPO-Instruct-14B — языковая модель-верификатор кода из проекта Aletheia, разработанная для исследования обучения проверяющих моделей с подкреплением и проверяемыми наградами (RLVR). Она дообучена методом GRPO на Qwen/Qwen2.5-14B-Instruct с использованием отрицательных примеров и on-policy обучения, без промежуточных рассуждений: модель сразу выдаёт вердикт. Модель принимает условие задачи по программированию и несколько кандидатных решений, оценивает их корректность и ранжирует кандидатов. Её можно использовать как функцию награды при оптимизации генератора кода, для автоматической оценки решений и в исследованиях верификации кода. Архитектура — плотная Qwen2ForCausalLM, размер — 14 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Датасет обучения включает задачи и решения на Python, C++ и Java. Модель предназначена для прикладного использования в проверке решений задач по программированию и в исследовательских конвейерах постобучения. Карточка не приводит численных результатов качества; надёжность оценки может зависеть от формата запроса и сложности или смещения кандидатов. Лицензия CC BY-NC-SA 4.0 предусматривает некоммерческое использование и требования атрибуции и распространения производных на тех же условиях.

Aletheia-Bench/GRPO-Think-14B-4k — 14-миллиардная плотная языковая модель семейства Qwen2, разработанная проектом Aletheia-Bench и дообученная методом GRPO от deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Это проверяющая модель для задач соревновательного программирования: она получает условие задачи и несколько вариантов кода, оценивает их корректность и ранжирует решения. При обучении использовались промежуточные рассуждения, отрицательные примеры и обучение на текущей политике; суффикс 4k обозначает бюджет рассуждений до 4 000 токенов завершения при обучении. Модель предназначена для отбора решений в конвейерах генерации кода, оценки кандидатов и использования в качестве награды при оптимизации политики RLHF/RLAIF. Репозиторий содержит веса Safetensors, а для работы предусмотрена библиотека Transformers. Модель принимает текст и выдаёт текстовые суждения и ранжирование. В обучающих данных представлены задачи с решениями на Python, C++ и Java, однако это языки программирования, а не заявленные естественные языки модели. Нативная длина контекста по метаданным — 131 072 токена. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование.

Hammer 2.0 1.5B — компактная языковая модель, разработанная командой MadeAgents и дообученная на базе Qwen/Qwen2.5-Coder-1.5B-Instruct. Она предназначена для вызова функций и инструментов в диалоговых агентных приложениях, в том числе на устройствах с ограниченными ресурсами. Для дообучения применялась техника function masking; среди данных указаны наборы для вызова функций APIGen/xLAM объёмом 60 тысяч примеров и набор нерелевантных вызовов xLAM объёмом 7,5 тысячи примеров. Модель имеет плотную архитектуру Qwen2, содержит 1,5 млрд параметров, принимает текст и генерирует текст с вызовами инструментов. Заявленный контекст — 32 768 токенов. Карточка сообщает о результатах на бенчмарке Berkeley Function-Calling Leaderboard и других академических тестах, но не приводит их числовые значения. Репозиторий использует формат safetensors; лицензия — CC BY 4.0.

Hemlock-Tincture-14B-i1-GGUF — это квантизированная версия текстовой генеративной модели Hemlock-Tincture-14B, разработанной nbeerbower и преобразованной в формат GGUF пользователем mradermacher. Модель обучалась с использованием наборов данных Hemlock2-DPO, hemlock-codex-SFT и hemlock-formulary-SFT, что указывает на применение методов DPO и SFT для улучшения следования инструкциям и работы с текстом. Модель предназначена для генерации текста на английском языке и может использоваться в локальных сценариях через совместимые с GGUF инструменты. Указан размер базовой модели 14B, однако сведения о конкретной архитектуре, длине контекста, поддерживаемых модальностях и точных функциональных возможностях отсутствуют. Доступны варианты квантизации от i1-IQ1_S до i1-Q6_K с размером файлов примерно от 3,7 до 12,2 ГБ; варианты различаются балансом между качеством, скоростью и требованиями к памяти. К сильным сторонам относятся широкий выбор вариантов квантизации и возможность локального запуска, а также обучение на специализированных наборах данных для диалоговых и кодовых сценариев. Ограничения включают работу только с текстом, заявленную поддержку английского языка и потенциальное снижение качества у наиболее компактных вариантов квантизации. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно.

Trelis дообучила эту модель на основе Llama 2 Chat для вызова функций: она формирует текстовые ответы и запросы к функциям в формате метаданных, совместимом с OpenAI. Это авторегрессионная плотная Transformer-модель семейства Llama с 6,6 млрд параметров и контекстом 4096 токенов. Модель предназначена для диалоговых приложений, которым нужно выбирать функции и передавать им аргументы, например для интеграции чат-ассистента с инструментами. Для работы следует передавать описания функций вместе с запросом в формате Llama `[INST]`. Данные обучения для версии v3 связаны с набором Trelis/function_calling_v3. Модель принимает и генерирует текст; заявленная языковая ориентация — английский. Возможны неточные, предвзятые или нежелательные ответы, а качество вызова функций зависит от формата запросов и описаний функций. Модель распространяется по лицензии Llama 2 Community; для доступа к весам необходимо принять условия лицензии Meta.

QuantFactory/Llama3-8B-Chinese-Chat-GGUF — это квантизированная GGUF-версия модели shenzhi-wang/Llama3-8B-Chinese-Chat, созданная с помощью llama.cpp. Исходная модель дообучена на базе Meta-Llama-3-8B-Instruct с использованием метода ORPO и фреймворка LLaMA-Factory; в README автором указана QuantFactory. Модель предназначена для диалогового применения и генерации текста на китайском и английском языках: она ориентирована на ответы на китайские запросы, написание и редактирование текстов, решение математических задач, программирование и соблюдение базовых ограничений безопасности. По сравнению с исходной Meta-Llama-3-8B-Instruct она должна реже отвечать на китайские вопросы по-английски, меньше смешивать языки и использовать меньше эмодзи, обеспечивая более формальный стиль. Указана длина контекста 8192 токена; архитектура — семейство Llama 3, размер — 8 млрд параметров. Модель работает в текстовой модальности, а формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. К ограничениям относятся возможные ошибки в фактах, рассуждениях, математике и коде, что видно по приведённым примерам, а также отсутствие гарантии полной безопасности или качества ответов. В README не указаны конкретный вариант квантизации, требования к памяти и производительности, поэтому совместимость и скорость необходимо проверять для выбранной конфигурации. Лицензия обозначена как other с названием llama3; применимые условия следует уточнять в файле LICENSE и лицензии исходной модели.

Это дообученная языковая модель семейства Llama 3, созданная на основе Meta-Llama/Meta-Llama-3-8B-Instruct. Разработчик дообучил её с помощью mlx-lm на очищенном наборе примеров вызова функций: из данных удалили некорректный JSON и одинарные кавычки вокруг значений аргументов. Модель предназначена для диалоговой генерации текста с формированием вызовов функций в структурированном формате. Её можно использовать в приложениях, где ассистенту нужно выбирать функцию и подготавливать JSON-аргументы. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов; в репозитории указаны веса safetensors. Карточка не сообщает результаты оценивания качества или точный формат вызова функций. Модель распространяется по лицензии llama3, условия которой следует учитывать при использовании.

Muse-Glimmer-30B Uncensored ROCmFP4 GGUF — это квантованная версия модели Muse-Glimmer-30B, разработанной meta-models. Репозиторий kingjones777 содержит варианты GGUF с абляцией отказов от контента и оптимизацией ROCmFP4 для графических ускорителей AMD, в частности платформы Ryzen AI Max+ 395 и Radeon 8060S с архитектурой gfx1151. Модель распространяется как исследовательский артефакт; абляция уменьшает отказы, но не добавляет новых способностей. Модель предназначена для генерации текста и кода, а по метаданным относится к сценарию image-text-to-text, однако подробности о поддерживаемых визуальных входах, языках и максимальном контексте в README не указаны. Доступны варианты FAST и STRIX_LEAN объёмом около 13,8–14,0 GiB, а также версии Q6 объёмом около 21,1–24,2 GiB. Для ускорения может использоваться speculative decoding с drafter DFlash; заявленная скорость декодирования на AMD Strix Halo составляет примерно 15,68–16,72 токена в секунду для прозы и 37,44–38,51 токена в секунду для кода в зависимости от варианта. Сильные стороны модели — сниженный уровень контентных отказов, пригодность для локального запуска на совместимом оборудовании и специализированные квантованные форматы для ROCmFP4. Ограничения включают отсутствие встроенной поддержки в стандартном llama.cpp: требуется форк ROCmFPX с архитектурой muse-glimmer и типами тензоров ROCmFP4. README также предупреждает, что модель не следует использовать как продуктовый вариант по умолчанию. Лицензия — Apache-2.0.

gkraker04/Nanbeige4.2-3B-GGUF — это набор квантованных версий компактной языковой модели Nanbeige4.2-3B, разработанной Nanbeige. Модель предназначена для генерации текста, агентских сценариев и задач, требующих многошагового рассуждения. Она построена на архитектуре Looped Transformer, поддерживает английский и китайский языки и распространяется в формате GGUF для запуска в совместимых средах, включая llama.cpp с поддержкой архитектуры Nanbeige. Репозиторий содержит варианты квантования от Q8_0 до Q2_K и IQ-семейства размером примерно от 1,36 до 4,13 ГБ; исходная версия bf16 занимает 7,77 ГБ. В качестве компромисса между качеством и требованиями к памяти рекомендуется Q4_K_M размером около 2,40 ГБ. Квантование выполнено с использованием importance matrix, что помогает сохранять качество при уменьшении размера. Для Q4_K_M заявлены близкие к bf16 показатели perplexity, однако результаты зависят от типа квантования: при сильном уменьшении разрядности заметно ухудшаются многошаговое рассуждение и точность. Модель подходит для локального запуска на устройствах с ограниченными ресурсами, генерации текста, программирования и экспериментальных агентских приложений. Точные характеристики контекстного окна, сведения о мультимодальности и подробные ограничения исходной модели в README не указаны; по представленным данным это текстовая, а не мультимодальная модель. Репозиторий распространяется по лицензии Apache 2.0.

Guile/orcarouter_Qwen3.8-27B-Uncensored-GGUF — это квантованная версия модели orcarouter/Qwen3.8-27B-Uncensored, подготовленная bartowski в формате GGUF для запуска через llama.cpp. Модель содержит около 28 млрд параметров и предназначена для генерации текста, рассуждений, function calling, задач red teaming и работы с изображениями при использовании дополнительного файла mmproj. Заявлена поддержка английского и китайского языков. Модель поддерживает мультимодальный ввод текста и изображений, speculative decoding с использованием MTP и imatrix-квантизацию. Доступны варианты от BF16 размером 54,66 ГБ до более компактных конфигураций Q3–Q8; вариант Q4_K_M размером 17,77 ГБ указан как сбалансированный по качеству и требованиям к памяти. README не содержит сведений об архитектуре слоёв, размере контекстного окна, точных мультимодальных ограничениях и результатах бенчмарков, поэтому эти характеристики оценить нельзя. Для работы требуются совместимые версии llama.cpp и, при обработке изображений, файл mmproj. Преимуществами являются большой размер модели, поддержка текста и изображений, рассуждений, function calling и speculative decoding, а также широкий выбор уровней квантизации для различного объёма доступной памяти. Ограничения включают высокие требования к памяти даже у компактных вариантов, возможное снижение качества при сильной квантизации и отсутствие в README подробных данных о безопасности и фактической производительности. Указанная лицензия — Apache-2.0.

LuffyTheFox/Ornith1.5-35B-A3B-Genesis-Hermes-GGUF — экспериментальная мультимодальная модель в формате GGUF, созданная на основе Ornith-1.5-35B-A3B от ornith-ai. В её основу также перенесены данные из Hermes-файнтюна DJLougen/hermes-qwen3.5-35b-a3b-GGUF, ориентированного на агентские сценарии и вызов функций. Релиз относится к проекту Genesis, автор которого заявляет о посттренировочной численной обработке весов без дополнительного обучения; эти заявления не подтверждены независимыми оценками в представленном описании. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, а также для диалогов, программирования, агентских задач и function calling. Заявлены поддержка английского и китайского языков, а также многоязычность. Архитектура — Mixture of Experts с общим размером около 35 млрд параметров и примерно 3 млрд активных параметров; точный размер контекста в README не указан. К потенциальным сильным сторонам относятся мультимодальность, MoE-архитектура и ориентация на следование инструкциям и агентские рабочие процессы. Модель экспериментальная, а заявленные улучшения стабильности, снижения шумов и качества не сопровождаются результатами бенчмарков, поэтому фактическую производительность следует проверять самостоятельно. Для запуска рекомендуется использовать совместимый GGUF-движок; README также содержит настройки для GPU-offload, MoE и KV-кэша. Указана лицензия MIT.

Phi-3-mini-128k-instruct-abliterated-v3 — экспериментальная версия Microsoft Phi-3-mini-128k-instruct, подготовленная автором failspy. Это плотная авторегрессионная модель для генерации текста с диалоговыми возможностями и поддержкой кода; размер — 3,7 млрд параметров, веса представлены в safetensors. Несмотря на название, в метаданных указан контекст 4096 токенов. Автор применил к весам bfloat16 ортогонализацию, чтобы ослабить склонность исходной модели отказывать в ответах, сохранив остальные возможности. Модель предназначена для диалогов и генерации текста и кода. В README автор отмечает, что она может галлюцинировать чаще исходной модели, иногда продолжает отказывать и может иметь побочные эффекты от новой методики. Лицензия — MIT.

PyThagorean-10B — текстовая авторегрессионная модель на архитектуре Llama, разработанная prithivMLmods и дообученная на 1,5 млн примеров. Модель содержит 9,9 млрд параметров, работает с контекстом до 32 768 токенов и предназначена прежде всего для решения математических задач с помощью Python-кода и библиотек, а также для генерации кода, пошаговых объяснений и инструкционного диалога. Модель подходит для учебных помощников по алгебре, математическому анализу и тригонометрии, создания вычислительных скриптов, объяснения решений и подготовки учебных материалов. В карточке заявлены многоязычные диалоги, поиск и суммаризация знаний; метаданные указывают английский язык. Модель принимает текст и генерирует текст, включая код. Лицензия — Llama 3.1.

Kendamarron/Qwen2.5-1.75B-A1.1B-Instruct-ja — японская инструкционная языковая модель с архитектурой Qwen2 MoE, разработанная на основе семейства Qwen2.5. Модель дообучена на базе Kendamarron/Qwen2.5-4x0.5B-cpt; в карточке также описано объединение моделей Qwen2.5-0.5B. Метаданные указывают 494 млн параметров и контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста на японском языке. Данные обучения включают японские инструкции и материалы по математике с пошаговыми рассуждениями, а также синтетические японско-английские примеры программирования; это может быть полезно для ответов на запросы, математических объяснений и помощи с кодом. Модель поддерживает интерфейс вызова инструментов. Модель опубликована в форматах PyTorch и Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. В карточке приведён результат оценки loss 1,0085, но подробности тестового набора и ограничений не раскрыты.

Карточка модели schwyzquants/Qwen2.5-32B на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B, поэтому описание составлено по ней. Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

Qwen3-4B-Function-Calling-xLAM-Unsloth — языковая модель ermiaazarkhalili для генерации ответов с вызовом функций и инструментов. Это дообученная методом SFT версия плотной модели Qwen3-4B с адаптером LoRA, обученная на 60 000 примерах Salesforce/xlam-function-calling-60k. В метаданных указано 3,7 млрд параметров и контекст 40 960 токенов; автор сообщает, что при дообучении использовалось окно 2 048 токенов. Модель принимает текстовые запросы и описания инструментов, а выдаёт текст, включая структурированные аргументы для вызова функций. Предназначена для англоязычных сценариев, где языковая модель должна выбирать инструмент и формировать вызов по запросу пользователя. Доступна под лицензией Apache-2.0. Автор предупреждает о возможных галлюцинациях, ограничениях знаний базовой модели и недостаточной настройке безопасности.

mlx-community/Qwen3.5-0.8B-OptiQ-4bit — квантованная MLX-версия базовой модели Qwen/Qwen3.5-0.8B, разработанная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локальной генерации текста на устройствах Apple Silicon, включая задачи рассуждений, программирования, следования инструкциям, вызова инструментов и агентских сценариев. README не содержит сведений о поддерживаемых языках, размере контекста и исходной мультимодальности базовой модели. Это преимущественно 4-битная смешанно-точная квантовка: 56 чувствительных слоёв имеют точность 8 бит, а 130 устойчивых — 4 бита; общий размер на диске составляет около 0,6 ГБ, размер группы — 64. В комплект входит MTP-голова для speculative decoding, заявленное ускорение декодирования — около 1,4 раза. По сравнению с равномерной 4-битной квантовкой модель показывает более высокие результаты на MMLU, GSM8K, IFEval, BFCL и HumanEval, однако уступает ей в тесте длинноконтекстного извлечения HashHop. Результаты зависят от настроек и аппаратного обеспечения, а небольшие размеры модели ограничивают её общие возможности. Для использования требуется MLX и, согласно README, пакет mlx-lm; дополнительные функции, включая серверную подачу, LoRA и MTP-декодирование, доступны через mlx-optiq. Модель распространяется по лицензии Apache 2.0 и наследует лицензионные условия базовой модели.

Andycurrent/Qwen3.5-4B-Uncensored-HauhauCS-Aggressive — модифицированная версия языковой модели Qwen3.5-4B, созданная HauhauCS на базе модели Alibaba Qwen Team. Это авторегрессионная Transformer-модель примерно на 4 млрд параметров, предназначенная для локального запуска, диалоговых приложений, генерации текста, программирования, рассуждений, prompt engineering и исследований механизмов выравнивания и отказов моделей. Указана поддержка английского языка. Модель ориентирована на работу без внешних API и может применяться в автономных и приватных средах. Главная особенность варианта Aggressive — снижение или устранение safety-ориентированных отказов и минимизация отказов в ответах, благодаря чему модель более охотно обрабатывает широкий спектр запросов. При этом заявлено сохранение основных возможностей базовой Qwen3.5-4B в области диалогов, рассуждений, кодинга и общих знаний. Для общения рекомендуется ChatML-подобный шаблон; заявлена совместимость с Transformers, llama.cpp, KoboldCpp, Ollama и vLLM, а GGUF-квантизации подходят для эффективного запуска, включая CPU-инференс. Ограничением является отсутствие или ослабление защитных механизмов: модель может генерировать небезопасный, нежелательный или потенциально вредный контент, поэтому ответственность за фильтрацию и сценарии применения лежит на пользователе. В README также не указаны размер контекстного окна, точный набор поддерживаемых языков, результаты бенчмарков и конкретный метод модификации. Для модели указана лицензия Apache-2.0.

Qwen3.6-27B-nvfp4-NInfer — это квантованное мультимодальное представление модели Qwen3.6-27B, подготовленное Neroued для собственного движка NInfer. Модель преобразована из сборки Qwen3.6-27B-PrismaSCOUT-Blackwell-NVFP4-BF16-vllm в нативный формат артефакта .ninfer. Архитектура указана как Qwen3_5ForCausalLM, размер артефакта составляет около 17,07 ГиБ, а веса используют смешанное представление NVFP4/BF16 с оптимизированными путями W4A4 Tensor Core для prefill и A16 NVFP4 для decode. Модель предназначена для генерации текста в режимах с рассуждением и без него, а также для мультимодальных сценариев с изображениями, несколькими изображениями, видео и смешанными сообщениями. Поддерживаются MTP-спекулятивная генерация, повторное использование prefix, CLI и локальное серверное выполнение через общий Engine-маршрут. В карточке приведены результаты оценки: 93,33% на AIME 2025, 93,33% на AIME 2026 и 84,34% на GPQA-Diamond; эти показатели заявлены для режима zero-shot. Основные ограничения связаны с совместимостью: артефакт предназначен только для NInfer и не является checkpoint для Transformers, распространением Safetensors или файлом GGUF. Для работы требуются 64-битный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a, CUDA Toolkit 13.1 или новее и сборка NInfer из исходников указанной ревизии или более поздней. В README указана лицензия Apache-2.0. Языки и точный максимальный контекст самой модели явно не указаны; пример сервера демонстрирует логический предел запроса в 240 000 токенов.

Qwen3.6-35B-A3B-Q5_K_M-GGUF — это квантованная версия модели Qwen3.6-35B-A3B, разработанная сообществом Qwen и преобразованная пользователем Abiray в формат GGUF с помощью llama.cpp. Модель предназначена для локального запуска на потребительском оборудовании и в средах с высокой нагрузкой на CPU, включая сценарии использования через llama.cpp. Вариант использует квантование Q5_K_M, обеспечивающее компромисс между качеством и размером файла. Базовая модель имеет архитектуру Mixture-of-Experts и обозначение 35B-A3B, однако в README не приведены подробности о числе экспертов, активных параметрах, размере контекста, поддерживаемых языках и точных модальностях. Метаданные указывают на сценарий image-text-to-text, но дополнительных сведений о работе с изображениями нет. Сильная сторона этой версии — баланс качества и требований к ресурсам по сравнению с менее или более сильно квантованными вариантами. Ограничения связаны с потерями качества, характерными для квантования, а также с отсутствием в README данных о производительности, совместимости и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.

TheWegemann/Qwen3.8-27B-LowGPU-uncensored-NoMTP-IQ3XXXS-GGUF — это квантованная GGUF-версия 27-миллиардной модели Qwen3.8, подготовленная TheWegemann на основе аблитерированной и «uncensored» модели OrcaRouter Qwen3.8-27B-Uncensored, восходящей к официальной Qwen/Qwen3.8-27B. Модель предназначена для локального запуска через llama.cpp, включая агентские сценарии, задачи рассуждения и работу с изображениями при наличии совместимого vision-проектора. Модель использует гибридную архитектуру с блоками Gated DeltaNet и линейным вниманием, чередующимися с блоками полного внимания; всего заявлено 64 слоя. Это custom per-tensor mixed-precision квантование с 498 назначениями типов, собственной importance matrix и удалённой MTP-головой для снижения потребления памяти. Размер файла составляет около 9,3 ГБ. Сборка ориентирована на GPU с 12 ГБ VRAM: она тестировалась на NVIDIA RTX 4070 с полным GPU offload, контекстом до 64 000 токенов, Q4_0 KV-кэшем, Flash Attention и F16 vision-проектором. Поддерживаемые языки в README не указаны. Сильная сторона модели — сочетание крупного размера, агрессивной оптимизации памяти и возможности полностью разместить модель на GPU с 12 ГБ VRAM, сохранив большой контекст и мультимодальный сценарий. Ограничения включают зависимость от версии llama.cpp, драйверов и настроек запуска, а также возможное увеличение требований к памяти; конфигурации с менее чем 12 ГБ VRAM и CPU offload находятся вне целевого сценария. Модель унаследовала сниженные защитные механизмы исходного аблитерированного чекпойнта: квантование их не восстанавливает, поэтому при развёртывании необходимы собственные меры модерации и контроля доступа. Лицензия — Apache 2.0.

Qwen3.8-27B-Uncensored-NVFP4 — квантованная и модифицированная версия модели Qwen/Qwen3.8-27B, разработанной командой Qwen компании Alibaba. Сборка johnnyeric предназначена для исследовательских задач, включая интерпретируемость, изучение механизмов отказа, red teaming, оценку устойчивости и контролируемые эксперименты. Она также поддерживает диалоговые сценарии, рассуждения, вызов инструментов и обработку изображений вместе с текстом. Модель содержит 27 млрд параметров и использует плотную гибридную архитектуру с 64 слоями: 48 слоёв Gated DeltaNet с линейным вниманием и 16 слоёв с полным вниманием. В состав входят vision-language модуль и MTP-голова для speculative decoding. Основные характеристики включают контекст до 262 тысяч токенов, поддержку английского и китайского языков, а также динамическую смешанную точность NVFP4 и FP8: большая часть feed-forward слоёв хранится в 4-битном NVFP4, а чувствительные к точности компоненты и KV-кэш — в FP8. Это позволяет снизить требования к памяти по сравнению с полноразмерной моделью при лучшем сохранении качества, чем при равномерном W4A4. Ключевое ограничение — удаление защитного направления отказа посредством abliteration: модель может выполнять вредоносные, незаконные и иные опасные запросы и практически не имеет встроенных защитных механизмов. Её не рекомендуется использовать напрямую в пользовательских или производственных системах без собственных средств модерации, безопасности и предотвращения злоупотреблений. Модель распространяется по лицензии Apache 2.0; применение также должно соответствовать законодательству и условиям лицензии базовой модели.

Qwen3.8-27B-Uncensored-oQ8e-mtp — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, подготовленная пользователем pyros-vault для запуска на Apple Silicon и macOS. Артефакт создан в формате MLX с помощью oMLX 0.6.1 и предназначен для развёртывания через runtime oMLX с OpenAI-совместимым API. Модель относится к типу qwen3_5, имеет заявленный максимальный контекст 262 144 токена, поддерживает мультимодальные сценарии благодаря сохранённым ресурсам Vision и включает один слой MTP. Используется смешанная квантизация oQ8e: аффинная Q8/G64 применяется по всей модели без переопределений точности для отдельных тензоров. Размер тензорных данных составляет около 27,94 GiB, модель размещена в шести Safetensors-фрагментах. В README не указаны точные языки, результаты бенчмарков или проверенная производительность. Модель подходит для диалоговых и мультимодальных задач, однако фактические возможности Vision, качество генерации, потребление памяти, скорость и эффективность MTP зависят от версии oMLX, клиента, промпта и аппаратного обеспечения. Полный контекст заявлен только конфигурацией и не подтверждён тестированием; квантизация может влиять на качество. Репозиторий не предназначен для CUDA на Windows, а hosted inference Hugging Face его формат не обслуживает. Прямая исходная модель распространяется по лицензии Apache-2.0; для полного соблюдения условий необходимо учитывать также правила и атрибуцию upstream-модели. Квантизацию и упаковку выполнил pyros-vault.

ZeroXClem-Qwen3-8B-HoneyBadger-EXP — экспериментальное слияние моделей на архитектуре Qwen3, созданное командой ZeroXClem методом model_stock с помощью MergeKit. Модель содержит 7,6 млрд параметров, работает с текстом и рассчитана на контекст до 40 960 токенов. В основе слияния лежат Qwen3-совместимые модели, включая AXCXEPT/Qwen3-EZO-8B-beta, KaraKaraWitch/CavesOfQwen3-8b, YOYO-AI/Qwen3-8B-YOYO и другие. Модель предназначена для диалогов, следования инструкциям, рассуждений, ролевых бесед и историй, а также понимания и генерации кода. README заявляет поддержку структурированных ответов, включая JSON, Markdown и LaTeX, и рекомендует шаблон чата Qwen3 либо Ollama Modelfile для инференса. Основной язык по карточке — английский; подтверждённая лицензия — Apache-2.0. Это ранний экспериментальный прототип, который, по предупреждению автора, не готов к производственному применению и может выдавать невыравненные или нефильтрованные ответы. Качество и безопасность результатов не гарантируются.