II.2Создание и понимание программного кода

SecGPT — специализированная диалоговая языковая модель компании 云起无垠 для задач кибербезопасности. Репозиторий содержит дообученную на базе Qwen2.5-14B-Instruct модель с плотной архитектурой Qwen2, 14 млрд параметров и контекстом до 32 768 токенов. Она принимает текстовые запросы и генерирует текстовые ответы; в карточке заявлена поддержка китайского и английского языков. Модель предназначена для анализа уязвимостей и кода, разбора команд и скриптов, ответов на вопросы по безопасности, анализа журналов и сетевого трафика, извлечения IOC и помощи при расследовании инцидентов. Также карточка описывает сценарии поддержки красных и синих команд, включая анализ атак и подготовку рекомендаций. Указаны обучение на наборах задач безопасности и возможность развертывания через vLLM. Карточка заявляет об обучении на сочетании данных по кибербезопасности и инструкционном дообучении с последующим обучением с подкреплением, однако подробности этого репозитория и заявленные результаты оценки описаны неполно. Ответы модели могут содержать ошибки и требуют проверки специалистом, особенно при анализе угроз и рекомендациях по устранению уязвимостей. Лицензия — Apache-2.0.

Карточка модели cuong1692001/Terminal-complete-12k на Hugging Face совпадает с карточкой cuong1692001/Terminal_complete_12k, поэтому описание составлено по ней. Terminal-complete12k — дообученная модель на базе Qwen/Qwen3-8B, созданная автором репозитория cuong1692001. Это плотная языковая модель с архитектурой Qwen3ForCausalLM и 7,6 млрд параметров; она принимает текст и генерирует текст. Карточка указывает на диалоговый сценарий, а базовая модель поддерживает многоязычную генерацию, рассуждения, следование инструкциям, работу с кодом и вызов инструментов. Максимальная длина контекста составляет 40 960 токенов. Модель можно применять для диалога и генерации текста. README сообщает о дообучении на наборе qwen_data_complete, но не описывает его состав, целевые задачи или результаты оценки, поэтому специфические преимущества Terminal-complete12k подтвердить нельзя. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other; конкретные условия использования в доступных данных не раскрыты.

TinyLlama-1.1B — компактная языковая модель, разработанная в рамках проекта TinyLlama. Она предназначена для генерации текста и других задач обработки естественного языка, где важны невысокие требования к вычислительным ресурсам и памяти. Модель представляет собой промежуточный контрольный снимок после 50 000 шагов обучения на 105 млрд токенов. Модель использует ту же архитектуру и токенизатор, что и Llama 2, и содержит около 1,1 млрд параметров, благодаря чему совместима со многими инструментами и проектами экосистемы Llama. В карточке указаны английский язык и обучающие наборы Cerebras SlimPajama-627B и BigCode Starcoderdata; дополнительные модальности не заявлены. Для использования требуется transformers версии 4.31 или новее. Сильными сторонами модели являются компактность, сравнительно низкая потребность в памяти и вычислениях, а также совместимость с интерфейсами для моделей Llama 2. Поскольку это промежуточный чекпойнт, а не финальная версия, его возможности могут уступать более поздним вариантам TinyLlama. Лицензия — Apache 2.0.

ultrachat-phi-2-sft-chatml — чат-модель на архитектуре Phi-2, созданная дообучением microsoft/phi-2. В карточке указано, что дообучение выполнено с помощью Axolotl 0.4.0; объём модели составляет 3,5 млрд параметров, контекст — 2048 токенов. Веса доступны в форматах PyTorch и Safetensors. Модель предназначена для генерации текста в диалоговом формате ChatML и ответов на запросы. Базовая Phi-2 — англоязычная модель для генерации текста, ответов на вопросы и кода; отдельные сведения о языках и специализированных сценариях этой версии не приведены. Лицензия — MIT.

bartowski/zai-org_GLM-4.5-GGUF — это набор GGUF-квантизаций модели GLM-4.5, разработанной zai-org. Квантизация выполнена bartowski с использованием llama.cpp b6115 и метода imatrix. Модель предназначена для генерации текста и локального запуска через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Доступны варианты с разными уровнями сжатия: от Q8_0 размером около 381 ГБ до IQ1_S размером около 80 ГБ. В README наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты Q3, Q2 и IQ2 обеспечивают экономию памяти ценой снижения качества, а IQ1 характеризуются крайне низким качеством. Все файлы разделены на части. Сильная сторона набора — широкий выбор квантизаций для подбора баланса между качеством и требованиями к памяти, включая варианты, ориентированные на CPU и Apple Silicon. Ограничения — очень большой размер даже у наиболее сжатых файлов, отсутствие в README сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, модальностях, размере контекста и формате промпта. Лицензия в предоставленных данных не указана.

Apertus-v1.1-1.5B — базовая языковая модель семейства Apertus, разработанного Swiss AI. Это плотный трансформер-декодер с grouped-query attention и активацией xIELU; архитектура включает 16 слоёв, размерность модели 2048 и 1,5 млрд параметров. Модель принимает текст и предназначена для продолжения текста и адаптации к специализированным задачам через дообучение. Она не прошла supervised fine-tuning или выравнивание и не поддерживает шаблоны чата. Модель создана методом дистилляции предобучения от Apertus-8B-2509 на 1,7 трлн токенов высококачественных документов, кода и инструкций. Семейство заявляет поддержку 1811 языков. Контекст составляет 4096 токенов. Веса доступны в формате Safetensors; для работы требуется Transformers версии 4.56.0 или новее. Модель подходит для текстового автодополнения и как исходная точка для дообучения. Возможны фактические ошибки, логические несогласованности и смещения; результаты следует проверять. Выходного фильтра персональных данных нет. Лицензия — Apache-2.0.

Это дообученная модель семейства Llama с 7,5 млрд параметров, созданная на основе marin-community/marin-8b-base. Согласно карточке, для дообучения использован набор capsd_marin-8b-base-n80000-opc-dedup80k__mix_code_random_b10000_s0; подробности о процедуре обучения и оценке не приведены. Модель предназначена для генерации текста и поддерживает чатовый сценарий. Базовая модель ориентирована на английский язык; контекст модели составляет 4096 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other, поэтому условия использования следует уточнить по карточке базовой модели и файлам репозитория.

cogito-v1-preview-llama-70B-GGUF — квантованная версия языковой модели cogito-v1-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Это текстовая autoregressive-модель семейства Llama размером 70B параметров. В репозитории представлены варианты квантования Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4 и Q3, различающиеся размером файлов, требованиями к памяти и качеством вывода. Для квантования применялся imatrix; варианты Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q3 рассчитаны на системы с ограниченным объёмом оперативной памяти. Доступны как цельные файлы, так и разделённые варианты. Сильная сторона модели — возможность локального запуска крупной 70B-модели при выборе подходящего уровня квантования, однако даже наиболее компактные варианты требуют значительных ресурсов, а снижение точности квантования уменьшает качество. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, специализированных сценариях, результатах тестирования или дополнительных ограничениях. Указанная лицензия — llama3.1.

dphn/dolphin-2.9.3-llama-3-8b — дообученная чат-модель на архитектуре Llama, созданная на основе Meta-Llama-3-8B. В репозитории указаны версия Axolotl 0.4.1 и результат оценки Loss 0,5771; описание назначения, обучающих данных и подробностей оценки не приведено. По метаданным модель содержит 7,5 млрд параметров, принимает текст и имеет контекст до 8192 токенов. Модель предназначена для генерации текста в диалоговом формате и может использоваться как основа для чат-ботов и текстовых помощников. Карточка не подтверждает специализированные области применения или языки сверх сведений базовой модели: Meta-Llama-3-8B описана как англоязычная модель для текста и кода. Репозиторий использует формат safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

FableForge-1.5B-GGUF — это квантизированная версия языковой модели FableForge-1.5B, разработанная командой fableforge-ai и распространяемая в формате GGUF. Модель предназначена для генерации текста и позиционируется как универсальная модель, объединяющая различные области экосистемы NEXUS. В README также заявлена ориентация на программирование, рассуждения и общие текстовые задачи. Модель поддерживает английский язык и работает с текстом; сведения о мультимодальности и размере контекста не указаны. Доступны варианты от F16 без квантизации до низкобитных форматов Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и других. Вариант Q4_K_M обозначен как оптимальный баланс размера и качества, Q6_K — как вариант высокого качества, а IQ4_XS — как вариант для систем с небольшим объёмом оперативной памяти. Для взаимодействия указан формат промптов ChatML, а запуск поддерживается через llama.cpp, Ollama и LM Studio. К сильным сторонам относятся широкий выбор уровней квантизации, возможность локального запуска и сравнительно небольшой размер отдельных файлов. Ограничения включают малый размер базовой модели — 1,5 млрд параметров, возможное снижение качества в низкобитных вариантах и отсутствие в README подробных результатов тестирования, характеристик производительности и данных о поддерживаемых языках помимо английского. Модель распространяется по лицензии Apache-2.0.

functionary-medium-v3.2-GGUF — это GGUF-квантизации модели functionary-medium-v3.2, разработанной meetkai и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. Судя по названию и формату prompt, она ориентирована на диалоговое взаимодействие с поддержкой ролей и сценариев function calling, однако подробные сведения об исходной архитектуре и возможностях в README не приведены. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q4_K и других типов размером примерно от 16,75 до 74,98 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K_M и некоторые варианты Q4_K отмечены как рекомендуемые. Для отдельных вариантов embeddings и output weights сохраняются в Q8_0, что потенциально может улучшать качество, но README не подтверждает это результатами. Модель поддерживает текстовую модальность; сведения о языках и размере контекста отсутствуют. Указана лицензия MIT.

GRPO-Instruct-1.5B — языковая модель-верификатор кода из проекта Aletheia-Bench. Это плотная авторегрессионная архитектура Qwen2, дообученная методом GRPO с обучением на проверяемых наградах (RLVR) от Qwen/Qwen2.5-1.5B-Instruct. Модель выдаёт вердикт без промежуточных рассуждений и рассчитана на оценку и ранжирование нескольких решений одной задачи программирования. Её можно применять как функцию награды при оптимизации моделей генерации кода, а также для автоматической оценки кандидатов в задачах конкурентного программирования. В обучающем наборе представлены задачи с решениями на Python, C++ и Java; это не означает, что модель сама генерирует код на этих языках. Размер модели — 1,5 млрд параметров, контекст — до 32 768 токенов. Репозиторий использует Transformers и формат safetensors. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов.

GRPO-Think-1.5B-16k — компактная языковая модель семейства Qwen2, разработанная командой Aletheia-Bench для проверки и ранжирования решений задач по программированию. Она дообучена методом GRPO на наборе Aletheia-Train и использует промежуточные рассуждения; суффикс 16k обозначает бюджет рассуждений при обучении. Модель содержит 1,5 млрд параметров и имеет контекстное окно до 131 072 токенов. На вход подают условие задачи по программированию и несколько вариантов решения, после чего модель оценивает их и выбирает или ранжирует кандидатов. Её можно применять как оценщик вознаграждения в конвейерах оптимизации генерации кода и как автоматического судью при сравнении программных решений. Обучающие примеры охватывают код на Python, C++ и Java; метаданные не подтверждают поддержку этих языков как языков общения. Это специализированная модель-верификатор, а не универсальный генератор кода: качество зависит от формата запроса и кандидатов, указанного в проекте. Лицензия CC BY-NC-SA 4.0 требует соблюдения условий атрибуции, распространения на тех же условиях и ограничивает коммерческое использование.

Hayabusa 9B — текстовая модель для отладки программного обеспечения и выбора структурированных действий агента, разработанная на основе Qwen/Qwen3.5-9B. Это полноразмерное дообучение с SFT, DPO и последующими RL-обновлениями; чекпойнт представляет собой объединённые веса BF16 в формате Safetensors для Transformers, а не адаптер. Архитектура — плотная Qwen3_5ForCausalLM, размер — 7,2 млрд параметров. Модель предназначена для отладочных сценариев со структурированным контекстом: исходным кодом, логами, трассами, результатами тестов, историей прогресса и ограниченной схемой действий. Она выбирает действия в рамках такого процесса и не позиционируется как универсальный чат-ассистент. Для модели указаны контекстное окно 262 144 токена; README сообщает, что обучение велось с контекстом до 32 тыс. токенов, а при обслуживании автор использовал 64 тыс. токенов с кэшированием промптов. Поддерживается английский язык; входы только текстовые, обработка изображений не поддерживается. В пробе отладочного агента пройдены 93 из 200 шагов отладки; автор уточняет, что это не самостоятельный бенчмарк кодирования и что оценивалась система с другими моделями в ролях директора, эксперта и разработчика. Модель остаётся экспериментальной для длительной автономной отладки, а лучшие результаты требуют структурированного контекста и схемы действий, использованных при обучении. Лицензия — Apache-2.0.

Hermes Qwen3.5 35B-A3B GGUF — это набор GGUF-квантизаций базовой модели Qwen3.5-35B-A3B, дообученной автором DJLougen на датасете NousResearch/hermes-function-calling-v1. Модель предназначена прежде всего для структурированного вызова функций, работы с инструментами и агентских сценариев. Для повышения качества в задачах с JSON и многошаговыми взаимодействиями использовались LoRA и SFTTrainer из TRL; квантизация выполнена с помощью llama.cpp с importance matrix. Модель использует MoE-архитектуру Qwen3.5: 35 млрд параметров всего, около 3 млрд активных на токен, 256 экспертов и 8 активных экспертов на токен. Заявленная длина контекста — 262 144 токена, однако дообучение проводилось на последовательностях длиной до 4096 токенов. Доступны варианты от F16 до экстремально сжатых IQ1; размеры файлов составляют примерно от 7,5 до 64,6 ГБ. README не указывает поддерживаемые языки и мультимодальные возможности, поэтому их нельзя подтвердить. Сильные стороны модели — специализация на function calling, JSON-структурированном выводе и использовании инструментов, а также широкий выбор квантизаций для систем с разными ограничениями по памяти. Автор предупреждает, что модель оптимизирована для агентских оболочек, например Hermes Agent, и может работать непредсказуемо при обычном инференсе без системного промпта; разговорное поведение вне структурированного harness не гарантируется. Модель распространяется по лицензии Apache-2.0.

AISE-TUDelft/java-deprecation-classifier — модель на основе MPNet, опубликованная AISE-TUDelft и распространяемая в формате PyTorch через Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. В карточке указано обучение с функцией потерь CosineSimilarityLoss; модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Название указывает на классификацию устаревших Java API, однако README описывает модель как средство построения эмбеддингов, а метаданные относят её к sentence-similarity и feature-extraction. Поэтому её можно применять для поиска и группировки текстов о Java-депрекациях, но карточка не подтверждает выдачу меток классов или специальную точность такой классификации. Лицензия в предоставленных данных отсутствует.

lambda-qwen2.5-32b-dpo-test — дообученная компанией tanliboy версия инструктивной языковой модели Qwen/Qwen2.5-32B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; она предназначена для диалоговой генерации текста и следует инструкциям. Поддерживает контекст длиной до 32 768 токенов и работает через библиотеку Transformers. Модель обучена методом DPO на наборе tanliboy/orca_dpo_pairs. В README приведены метрики оценки на тестовом наборе, но подробности о сценариях применения, языковом составе и качестве результатов не раскрыты. Метаданные указывают на интерфейс вызова инструментов; базовая модель рассчитана на программирование, математику и структурированные ответы. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Название с пометкой test и ограниченные сведения о проверке качества не позволяют считать результат подтверждённым для конкретного рабочего сценария.

Apollo Raines представил экспериментальный вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, веса были скорректированы без дополнительного обучения: ослаблены отказы на запросы и подавлены токсичные речевые шаблоны. Модель предназначена для диалогов и генерации текста, включая обсуждение широкого круга тем; примеры также показывают ответы на общие вопросы, простые вычисления и написание кода. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 131 072 токенов. В метаданных указан английский язык; заявлена лицензия Llama 3.1. Автор описывает выпуск как демонстрационный и намеренно ограниченный по возможностям, поэтому результаты не следует считать показателем полной версии инструмента jBlaze. Ослабление отказов может приводить к ответам на опасные запросы; заявление об отсутствии наблюдавшихся проблем не заменяет независимую оценку безопасности.

BrainWave-ML выпустила эту диалоговую языковую модель на архитектуре Llama 3.2. Модель содержит 3,2 млрд параметров и дообучена на базе unsloth/llama-3.2-3b-instruct-bnb-4bit с использованием Unsloth и TRL. Она предназначена для генерации текста в диалоге; название указывает на код и математику, однако карточка не приводит подтверждённых сведений о специализированных данных или результатах в этих областях. Модель принимает текст и генерирует текст, поддерживает английский язык и имеет заявленный контекст 131 072 токена. Репозиторий содержит веса PyTorch и заявляет лицензию Apache-2.0. В карточке нет данных о бенчмарках и конкретных ограничениях качества; размер модели может ограничивать её возможности по сравнению с более крупными системами.

Это пакет GGUF-слоёв модели Mistral-Small-3.2-24B-Instruct-2506-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Пакет создан из unsloth/Mistral-Small-3.2-24B-Instruct-2506-GGUF и сохраняет веса в виде отдельных артефактов по слоям для запуска на кластере Mesh LLM. Модель предназначена для локального диалогового инференса, в том числе на нескольких машинах, когда полный GGUF-файл трудно разместить на одном узле. Через Mesh LLM она поддерживает чат и совместимый с OpenAI интерфейс chat completions. Репозиторий содержит вариант UD-Q4_K_XL в формате GGUF layer-package; сведения об архитектуре, контекстном окне, языках и лицензии следует сверять с карточкой исходной модели.

M.O.G.-SEC-27B-1M-CTX-NVFP4 — мультимодальная модель Qwentium из линейки Minds of Gods, разработанная Blackfrost Research. Это дообученная версия Blackfrost-AI/M.O.G.-SEC-27B-1M-CTX-BF16 на базе Qwen3.8-27B, ориентированная на операторскую работу в области кибербезопасности: offensive security, defensive security, анализ уязвимостей, разведку, разработку эксплойтов, создание правил обнаружения, охоту за угрозами, планирование эмуляции атак и подготовку технических отчётов. Модель имеет плотную гибридную архитектуру GDN с gated attention и встроенной поддержкой изображений, работает с текстом и визуальными данными и заявлена для английского и многоязычного использования. Она использует квантование NVFP4 по схеме W4A4, FP8 E4M3 для KV-кэша при обслуживании и контекст до 1 000 000 токенов, расширенный с исходных 262 144 токенов с помощью YaRN. Для ускоренного декодирования предусмотрена интеграция с DFlash 2; в README указана лабораторная скорость около 81–89 токенов в секунду с speculative decoding и около 61 токена в секунду без него. Сильные стороны модели — специализация на современных практических задачах кибербезопасности, сочетание атакующих и защитных сценариев, поддержка очень длинного контекста и мультимодальности. README также сообщает о результате 96,3% на HumanEval и показателе 65/70 на валидации MMLU-Pro, однако эти значения зависят от конфигурации запуска. Ограничениями являются высокие требования к инфраструктуре, возможное ухудшение качества на коротком контексте из-за постоянно включённого YaRN и необходимость строгого контроля доступа: модель позиционируется как исследовательская и не предназначена для всех аудиторий. Распространяется по лицензии Apache-2.0.

Phi-3.5-Hyper-Mix — объединённая языковая модель семейства Phi-3.5, созданная bunnycore с помощью mergekit и метода TIES. В качестве базовой модели использована ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1; в объединение также вошли модели для инструктивного программирования, ролевых диалогов, творческого письма и системных инструкций. Модель предназначена для генерации текста и диалоговых сценариев, включая ролевое общение, творческое письмо и ответы на инструкции. Это плотная причинно-языковая архитектура Phi3ForCausalLM примерно на 3,7 млрд параметров с контекстом до 4096 токенов. Для загрузки используются Transformers и формат safetensors. Карточка не сообщает о специальной мультимодальности или лицензии. Качество и поведение модели могут различаться по задачам, поскольку она объединяет несколько источников; отдельные ограничения и результаты оценки не приведены.

Qwen2.5-7B-Instruct-abliterated-GGUF — модифицированная версия Qwen/Qwen2.5-7B-Instruct, опубликованная richardyoung. Модель предназначена для локального запуска и генерации текста, включая исследование выравнивания и безопасности языковых моделей, творческое письмо, образовательные эксперименты и сценарии, где требуется менее ограниченное поведение. Она распространяется в формате GGUF и совместима с llama.cpp, Ollama и LM Studio. Модель основана на Qwen2.5-7B-Instruct; заявлен размер 7 миллиардов параметров и поддержка текстовой генерации. В README явно указан английский язык. Abliteration удаляет направление отказа в residual stream без дообучения, что должно сохранять базовые знания и возможности модели, но снижает количество отказов на запросы, которые исходная модель отклоняла. Доступны варианты квантования от Q2_K до Q8_0: Q4_K_M рекомендуется как компромисс между качеством и скоростью, а более качественные варианты требуют больше оперативной памяти. Ключевое ограничение — отсутствие защитных ограничителей: модель может выполнять запросы, от которых базовая версия отказалась, поэтому ответственность за безопасное применение лежит на пользователе. Качество генерации заявлено сопоставимым с базовой Qwen2.5-7B-Instruct, однако конкретные показатели и размер контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели siddharthsingh18/Qwen3-1.7B-Base-Polaris-GRPO-step950-bestpass1 на Hugging Face совпадает с карточкой Qwen/Qwen3-1.7B-Base, поэтому описание составлено по ней. Qwen3-1.7B-Base — базовая причинно-следственная языковая модель семейства Qwen3, разработанная командой Qwen. Это плотная модель с 1,7 млрд параметров и 28 слоями, предварительно обученная для продолжения текста и построения собственных решений на её основе. Архитектура использует grouped-query attention с 16 головами запросов и 8 головами ключей и значений; контекстное окно составляет 32 768 токенов. Модель предназначена для генерации текста и дальнейшей адаптации под диалоговые и другие языковые сценарии. Обучение Qwen3 охватывало данные на 119 языках и включало код, STEM, рассуждения и длинные последовательности, однако карточка не уточняет языковое покрытие именно версии 1.7B-Base. Для работы рекомендуется актуальная версия библиотеки Transformers. Модель распространяется по лицензии Apache 2.0.

Qwen3-4B-Instruct-2507-Abliterated — модифицированная версия причинной языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Вариант создан с помощью Heretic v1.4.0 методом directional ablation, или abliteration, который направлен на снижение склонности модели отказывать в ответах при сохранении поведения исходной модели. Это не новая модель, обученная с нуля, а экспериментальный производный вариант с изменёнными весами. Модель предназначена для генерации текста и локального использования в сценариях, где требуется меньше отказов на запросы. Доступен формат GGUF с квантизацией Q4_K_M и конфигурация для запуска через Ollama; заявлена совместимость с инструментами локального инференса, включая Open WebUI. Базовая модель содержит около 4 миллиардов параметров, поддерживает контекст до 262 144 токенов и описывается Qwen как non-thinking-модель. В метаданных указан английский язык, однако дополнительные языковые возможности в этой карточке не раскрыты. Сильная сторона варианта — существенно сниженная частота отказов: во внутреннем тесте из 100 запросов модель отказала в 16 случаях против 100 отказов у исходной Qwen3-4B-Instruct-2507. При этом поведение зависит от формулировки запроса, параметров генерации, квантизации, инференс-фреймворка, системного промпта, шаблона чата, контекста и определений инструментов; снижение отказов не гарантирует полного отсутствия отказов и может сопровождаться изменениями исходных свойств модели. Лицензия — Apache-2.0.

Qwen3.5-4B-APIGen-MT-5k — дообученная Колином Фицсимонсом модель Qwen/Qwen3.5-4B для диалога и вызова инструментов. Автор обучил LoRA-адаптер на наборе Salesforce/APIGen-MT-5k и объединил его с базовой моделью; доступны веса GGUF F16 для llama.cpp и Ollama, а также safetensors для Transformers. Архитектура — плотная Qwen3.5 с 4 млрд параметров; исходная модель мультимодальна, но README описывает обучение и оценку прежде всего на текстовых сценариях вызова функций. Модель предназначена для диалоговых приложений, которым нужно выбирать инструменты и формировать вызовы функций, в том числе несколько параллельных вызовов. В оценке BFCL выигрыш в категории параллельных вызовов составил 9,5 процентного пункта, но общий результат вырос лишь на 0,39 пункта и не был статистически значимым. Модель показала снижение результатов при распознавании случаев, когда инструмент вызывать не следует, на комбинированных параллельных и многоходовых заданиях. Данные обучения ограничены APIGen-MT-5k, обобщение на незнакомые схемы инструментов не проверено; оценки проводились на английском языке. Лицензия — Apache-2.0. Сборка F16 объединяет результаты дообучения; опубликованы варианты GGUF и safetensors. Контекстное окно в предоставленных данных не указано.

techwithsergiu подготовил текстовую производную Qwen/Qwen3.5-2B: из исходной мультимодальной модели удалена визуальная часть, а текстовые веса сохранены без изменений в формате bf16. Это плотная авторегрессионная модель семейства Qwen3.5 с 1,7 млрд параметров и контекстом до 262 144 токенов; она принимает и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена прежде всего как промежуточный артефакт для конвертации в GGUF или слияния слияния после обучения LoRA на CPU. Для прямого дообучения автор рекомендует отдельную версию techwithsergiu/Qwen3.5-text-2B-bnb-4bit. Удаление визуальной части сокращает размер файлов, но исключает работу с изображениями и видео. Лицензия — Apache-2.0.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — мультимодальная модель, разработанная HauhauCS на базе Qwen/Qwen3.6-27B от команды Qwen. Версия предназначена для пользователей, которым нужен прямой ответ без предварительных оговорок на провокационные или жёсткие запросы. По заявлению автора, изменения не затрагивают датасеты и исходные возможности модели, а направлены на устранение отказов; в указанном тесте модель получила 0 отказов из 465 запросов. Модель содержит 27 млрд плотных параметров и использует гибридную архитектуру: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного gated attention, всего 64 слоя. Поддерживаются текст, изображения и видео; для работы с визуальными данными поставляется отдельный mmproj-файл. Нативный контекст составляет 262 тысячи токенов и может быть расширен примерно до 1 млн с помощью YaRN. Заявлены языки English, Chinese и multilingual. Доступны GGUF-квантизации Q2–Q8, включая специализированные варианты K_P, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Сильная сторона Aggressive — отсутствие вступительных отказов и оговорок, что удобно для сценариев, где требуется максимально прямой стиль ответа. При этом автор рекомендует большинству пользователей вариант Balanced, поскольку он стабильнее для агентного программирования, использования инструментов, рассуждений и творческого письма. Агрессивная настройка может быть менее подходящей для задач, где важны осторожная подача и встроенные ограничения безопасности. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Q4_K_M-GGUF — это квантизированная версия модели Qwen3.6-35B-A3B в формате GGUF. Исходную модель разработала команда Qwen, а данную сборку подготовил пользователь Abiray с помощью llama.cpp. Модель предназначена для локального запуска на потребительском оборудовании, включая сценарии с высокой нагрузкой на CPU. В README указано, что модель относится к классу MoE и имеет заявленный размер 35B параметров с конфигурацией A3B; точные сведения об архитектуре, числе активных параметров, контекстном окне и поддерживаемых языках не приведены. Метка pipeline указывает на задачи преобразования изображения и текста, однако подробности о мультимодальных возможностях отсутствуют. Квантизация Q4_K_M уменьшает размер модели и требования к ресурсам, обеспечивая компромисс между качеством и занимаемым объёмом, но может снижать точность по сравнению с менее квантизированными версиями. Для запуска рекомендуется использовать llama.cpp и файл GGUF. README не содержит требований к объёму памяти, результатов тестирования или детального описания ограничений производительности. Распространение указано под лицензией Apache-2.0.

Qwen3.8-27B-Heretic-GSQ-RCO-GGUF — семейство неравномерно квантованных GGUF-моделей, разработанное 0bserverx на базе Qwen3.8-27B-Heretic-Abliterated-Uncensored. Модель предназначена для генерации текста и запуска локально через llama.cpp, Ollama или LM Studio. Варианты включают стандартные веса и версии с встроенной головой Qwen3.8 MTP/NextN для спекулятивного декодирования. Модель содержит 27B параметров; каждый из 851 тензора получает собственный тип квантования по схеме RCO, с использованием официальной importance matrix и инструментов llama.cpp. Доступны варианты с целевой точностью 2,50–3,50 bpw и размером от 8,45 до 11,80 ГБ, а MTP-версии требуют примерно на 0,42 ГиБ больше. Версия IQ3_S показывает perplexity 6,1778 на wikitext-2, что на 0,95% выше эталона F16; заявленная скорость генерации составляет до 90 токенов в секунду для IQ3_S и до 150 токенов в секунду для IQ3_S-mtp в указанной конфигурации. Сильными сторонами являются низкие требования к памяти, высокая сохранность качества при 3,50 bpw и возможность спекулятивного декодирования. Ограничения связаны с компромиссом между размером, качеством и скоростью у более компактных вариантов, а также с тем, что опубликованная реализация воспроизводит распределение квантования RCO, но не полный refinement-проход GSQ. Модель основана на abliteration и позиционируется как uncensored; README сообщает о 0–1 отказах из 100 тестов, но не описывает методику оценки. Лицензия — Apache-2.0.