II.2Создание и понимание программного кода

Это текстовая модель генерации кода, созданная дообучением Qwen3.5-4B командой Sitting Duck для преобразования инструкций на английском языке в CSS-селекторы astcss формата ast_select. Модель имеет плотную архитектуру Qwen3.5, около 3,4 млрд параметров, работает через Transformers и принимает контекст до 262 144 токенов. В опубликованном артефакте веса объединены с базовой моделью и сохранены в float16; отдельный адаптер при запуске не нужен. Модель обучена на корпусе уровня tier-5 с карточками словаря для каждого языка. В README сообщается точность 90,7% на наборе из 108 пар и 90,9% на eval_t5 из 55 более сложных примеров с реляционными селекторами; оценка проводилась исполнением селектора на тестовом DOM. Для надёжной работы требуется соответствующая карточка в системном промпте. Это специализированный преобразователь, а не универсальная чат-модель; README также указывает, что она текстовая и что квантованный NF4 вариант может давать немного другие результаты. Лицензия — Apache-2.0.

Карточка модели 0xSojalSec/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

Карточка модели arammoostafaye/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

Карточка модели Tubing/Qwen3.5-9B-abliterated на Hugging Face совпадает с карточкой lukey03/Qwen3.5-9B-abliterated, поэтому описание составлено по ней. Qwen3.5-9B-abliterated — текстовая диалоговая модель на архитектуре Qwen3.5, созданная lukey03 на основе Qwen/Qwen3.5-9B. Автор удалил часть поведения отказа ортогональной проекцией весов, затем применил QLoRA-дообучение и объединил адаптер с основными весами. В репозитории указано 7,2 млрд параметров, архитектура dense и контекст длиной 262 144 токена; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации ответов в диалоге, включая запросы, на которые исходная модель отказывалась отвечать. В README также приведены примеры рассуждений, математики и программирования, но основная задача в каталоге — генерация текста. Карточка сообщает о тестировании на 18 запросах, однако это небольшой набор и результаты не гарантируют качество на других задачах. Удаление отказов означает, что модель может выдавать вредоносный, опасный или откровенный контент. Лицензия — Apache-2.0.

Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED-FP8-vLLM — это FP8-квантизированная версия модели DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, созданная kanocz для инференса в vLLM. Модель основана на архитектуре Qwen3.5 и представляет собой результат последовательной дообученной линейки с базой Qwen/Qwen3.5-9B, uncensored fine-tune и дистилляцией рассуждений в стиле Claude 4.6. Формат распространения — Apache 2.0. Модель предназначена для генерации текста, задач с рассуждениями и поддерживает режим thinking с парсером qwen3, вызов инструментов и мультимодальную работу с изображениями. Заявлена поддержка контекста до 262 144 токенов. README не указывает перечень поддерживаемых языков, поэтому языковые возможности отдельно не уточняются. Используется блочная динамическая квантизация FP8 E4M3 с размером блока 128×128; квантизировано 200 слоёв, а 560 компонентов, включая embeddings, norms, vision encoder, lm_head и специфичные для DeltaNet слои, сохранены в исходной точности. Размер весов составляет около 11,3 ГБ против примерно 19 ГБ в BF16. На RTX 3090 заявлена работа через Marlin kernel, а на Ada/Hopper — с native FP8; совместимость с vLLM протестирована. FP8 KV cache позволяет дополнительно экономить память. Ограничения включают зависимость от vLLM для проверенного сценария, отсутствие поддержки llama.cpp и отсутствие валидации в SGLang; для полной конфигурации на RTX 3090 требуется около 22,5 ГБ из 24 ГБ видеопамяти.

Qwen3.5-Thinking-AIO-GGUF — экспериментальная серия мультимодальных моделей, созданная prithivMLmods на основе моделей Alibaba Qwen3.5. В репозитории представлены варианты Unredacted MAX с размером 0,8B, 2B, 4B и 9B параметров в формате GGUF; README также упоминает вариант 27B, но подробности его файлов в каталоге не приведены. Модели предназначены для генерации текста, рассуждений, программирования, математических задач и работы с изображениями, а также для локального запуска через llama.cpp и совместимые инструменты. Заявлены гибридная архитектура Gated DeltaNet, контекст до 262 144 токенов, словарь на 201 язык и переключаемые режимы рассуждений. Для мультимодальной работы доступны отдельные файлы mmproj, а для разных требований к памяти предусмотрены варианты F32, BF16, F16 и Q8_0. Малые версии ориентированы на периферийные устройства и системы с ограниченными ресурсами, более крупные — на повышение качества ответов и сложные задачи. Ключевая особенность серии — так называемая abliteration: автор заявляет минимизацию отказов и удаление стандартных защитных ограничений при сохранении или улучшении возможностей рассуждения. Это может быть полезно для исследовательских задач, создания датасетов и сценариев, где требуется более свободное следование инструкциям, но одновременно повышает риски небезопасных или нежелательных ответов. Модели экспериментальные, официальные оценки производительности не представлены, а заявления о превосходстве над исходными моделями основаны на неподтверждённых community-бенчмарках. Распространение указано по лицензии Apache-2.0.

Qwen3.6-27B-F451-AND-TRI-Polar-Ultra-Pro-Writer-Uncensored-Heretic — плотная модель семейства Qwen3.5 на 27 млрд параметров, опубликованная DavidAU как дообучение с Unsloth. Автор сообщает, что обучал её на локальном оборудовании, чтобы повысить базовые интеллектуальные способности модели; в карточке приведены результаты тестов ARC, BoolQ, HellaSwag, OpenBookQA, PIQA и WinoGrande для вариантов с разной точностью. Указанные бенчмарки проверялись в режиме Instruct. Модель позиционируется для диалогов, письма и программирования; метаданные также отмечают обработку изображений и интерфейс вызова инструментов. Указанные в карточке языки — английский и китайский. Репозиторий содержит веса safetensors в формате bfloat16 и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не сообщает длину контекста и не приводит конкретных результатов на задачах зрения или вызова инструментов. Заявления о превосходстве в бенчмарках основаны на описании автора; приведённые значения неполны. Название модели указывает на uncensored и heretic-вариант, но README не поясняет поведение модели в отношении такого содержимого.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая модель на базе Qwen3.6-27B, представленная DavidAU. Она создана в результате многоэтапного дообучения, нескольких слияний моделей и применения методов Unsloth; в разработке также участвовали Nightmedia, TeichAI, armand0e и trohrbaugh. Для обучения и настройки упоминаются наборы DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель предназначена для широкого круга сценариев: следования инструкциям, решения задач, рассуждений, программирования, диалогов, ролевых взаимодействий и работы с художественными текстами. В README заявлена поддержка vision, а в метаданных указаны английский и китайский языки. Доступны обычные GGUF-квантизации и варианты MTP для многотокенного предсказания; все квантизации обозначены как NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Размер базовой модели — 27 млрд параметров. Заявленные сильные стороны — улучшенное следование инструкциям, общее решение задач и рассуждение, а также сохранение качества на низких уровнях квантизации. Автор сообщает о превосходстве базовой Qwen3.6-27B по большинству из семи внутренних бенчмарков, однако эти результаты приведены в README и требуют независимой проверки. Для MTP-вариантов рекомендуется температура не выше 1 и отключённая репетиция; при низком уровне принятия токенов следует использовать обычную квантизацию. Модель описана как uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Она создана в сотрудничестве авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, специализированных датасетов и нескольких этапов fine-tuning и merge. Модель распространяется в формате GGUF, включая обычные и MTP-варианты с NEO IMATRIX-квантованием. Модель предназначена для широкого спектра задач: следования инструкциям, решения общих и сложных задач, рассуждений, генерации кода, творческого письма, ролевых сценариев и работы с текстом различных жанров. В README заявлена поддержка vision и языков English и Chinese. Указан размер 27B параметров, однако максимальная длина контекста не приведена. MTP-варианты используют multi-token prediction, а MTP-тензоры имеют точность Q8_0; для них рекомендуется температура не выше 1. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общая способность к решению задач, а также высокая точность низкоразрядных квантованных вариантов. README утверждает превосходство над базовой Qwen3.6-27B в большинстве указанных бенчмарков, но эти результаты являются заявлениями автора и не сопровождаются здесь полной воспроизводимой методикой. Возможные ограничения включают зависимость качества и производительности от выбранного кванта и параметров MTP, а также отсутствие подробных данных о контекстном окне и системных требованиях. Модель заявлена как uncensored/heretic, поэтому её ответы могут требовать дополнительной модерации. Лицензия — Apache-2.0. В качестве источников дообучения указаны DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. Разработка выполнена в сотрудничестве DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; модель распространяется в формате GGUF, включая обычные варианты и варианты с multi-token prediction (MTP). Доступны квантизации с использованием NEO IMATRIX, а выходной тензор в описании заявлен как частично сохранённый в 16-битной точности. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, ролевых сценариев и других универсальных применений. Заявлена поддержка текста и изображений, а также английского и китайского языков. Размер модели — 27B параметров; конкретный максимальный размер контекста в README не указан. Дообучение ориентировано на повышение общего интеллекта, способности к рассуждению и качеству следования инструкциям, без намеренного изменения базовых возможностей Qwen. Модель позиционируется как uncensored и heretic. К сильным сторонам относятся наличие нескольких вариантов квантизации для запуска на потребительском оборудовании, улучшенная точность GGUF благодаря NEO IMATRIX и заявленные автором высокие результаты на ряде бенчмарков. При этом приведённые показатели и превосходство над другими моделями являются утверждениями README и требуют независимой проверки. Возможны ограничения, связанные с качеством конкретной квантизации, требованиями к памяти и производительности оборудования, а также с отсутствием точных данных о контекстном окне и детальных условиях работы с изображениями. Лицензия модели — Apache-2.0.

HauhauCS/Qwen3.6-27B-Uncensored-HauhauCS-Balanced — это модифицированная и квантованная версия базовой модели Qwen/Qwen3.6-27B, подготовленная HauhauCS. Модель распространяется в формате GGUF и ориентирована на мультимодальные сценарии image-text-to-text, включая работу с изображениями и текстом. Заявлена поддержка английского, китайского и других языков. По данным карточки, модель имеет 27 миллиардов плотных параметров; дополнительные сведения о полной архитектуре и размере контекстного окна не указаны. Основное отличие версии Balanced — удаление отказов при сохранении исходных датасетов и возможностей базовой модели. Она предназначена для агентного программирования, использования инструментов, рассуждений, творческого письма и ролевых сценариев. По заявлению автора, модель может подробно рассуждать перед ответом, иногда добавляя краткое предупреждение или контекст безопасности, после чего предоставляет полный ответ. Также заявлена повышенная стабильность генерации в длительных цепочках вызовов инструментов. Эти характеристики основаны на описании автора и приведённом внутреннем тесте с 0 отказов из 465 запросов, поэтому их следует интерпретировать как заявленные, а не независимые результаты. Доступны различные варианты квантования GGUF, включая пользовательские K_P-кванты, оптимизированные с помощью importance matrix; размеры файлов составляют примерно от 10 до 32 ГБ, а для мультимодальности предоставляется отдельный mmproj-файл. Модель совместима с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Рекомендуемый автором вариант Q4_K_P требует около 18 ГБ, а Q8_K_P — около 32 ГБ. Отсутствие встроенных ограничений может быть преимуществом для исследовательских, программных и творческих задач, но одновременно повышает риск небезопасных или нежелательных ответов, поэтому требуется контроль применения. Лицензия — Apache-2.0.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-8bit — языковая текстовая генеративная модель, разработанная сообществом mlx-community. Она представляет собой конверсию модели DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking в формат MLX с использованием mlx-lm 0.31.1 и предназначена для запуска через экосистему MLX. Модель ориентирована на генерацию текста, включая программирование, творческое письмо, создание сюжетов и сцен, сторителлинг и ролевые сценарии. Заявлена поддержка английского и китайского языков. В карточке указаны размер 40B параметров и 8-битное представление, однако сведения об архитектуре, длине контекста и мультимодальности отсутствуют; по назначению и pipeline_tag это текстовая, а не мультимодальная модель. К сильным сторонам относятся специализация на рассуждениях, коде и творческих задачах, а также возможность локального использования в MLX-совместимой среде. Ограничения включают отсутствие подробных данных о качестве, бенчмарках, производительности и точной архитектуре; заявленные характеристики следует проверять на конкретных задачах. Лицензия — Apache-2.0.

Это исследовательский чекпойнт семейства Qwen3.5 MoE, подготовленный Minjae Choi. В нём веса routed experts в 40 слоях модели Qwen36 35B-A3B квантованы методом E2M-ATQ/TWLA до троичного алфавита {-1, 0, +1}; для каждой группы из 64 входных столбцов используются отдельные смещение и масштаб. Активации и остальные параметры сохранены в BF16. Квантование выполнено без градиентного обучения, с калибровочным корпусом из текстов общего, программного, математического, научного и длинноконтекстного содержания. Модель предназначена для генерации текста и диалогового вывода. В репозитории лежит fake-quant чекпойнт: троичная реконструкция сохранена как BF16-тензоры, поэтому размер файлов и требования к памяти не соответствуют реальному хранению весов в 1,58 бита. Для запуска требуется память, достаточная для BF16-чекпойнта, либо распределение модели по устройствам. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-NM-DAU-NEO-MAX-MTP-GGUF — квантованная GGUF-версия модели Qwen3.8-27B-Cold-Fusion-GAIN-V1.1, разработанная DavidAU при участии Nightmedia и TeichAI. Модель обучалась с использованием авторского метода COLD FUSION, объединяющего GAIN и инструменты Unsloth, а также датасетов Polar-STRICT-Datasets и Reasoning-STRICT-Datasets. Заявленные языки — английский и китайский; лицензия — Apache-2.0. Модель предназначена для широкого спектра сценариев: диалогов, следования инструкциям, решения задач, рассуждений, программирования, творческого письма, создания историй и ролевых взаимодействий. Она поддерживает работу с изображениями и текстом, а также три режима рассуждения — xhigh, medium и low. По заявлению разработчика, настройка направлена на сокращение объёма внутренних рассуждений и ускорение генерации при сохранении подробности ответов и качества решения задач. Поддержка MTP дополнительно ориентирована на повышение скорости вывода. Ключевые характеристики включают 27 миллиардов параметров, архитектурное семейство Qwen3.8 и форматы GGUF с различными уровнями квантования. Разработчик заявляет, что 4-битные и 8-битные варианты сохраняют около 99% производительности BF16, однако эти показатели требуют самостоятельной проверки на конкретных задачах. Ограничения включают возможные особенности и непредсказуемость изменённого поведения рассуждений, а также отсутствие в представленном README сведений о размере контекстного окна, точной архитектуре, системных требованиях и конкретных вариантах квантования.

Chungulus/Qwen3.8-27B-Q8_0-GGUF — это независимая, неизменённая квантизация Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов в нативном формате Qwen. Это не дообученная модель, не объединение моделей и не модификация шаблона чата. Модель содержит около 27 миллиардов параметров и использует квантизацию Q8_0 с 8-битным представлением весов. Архитектура сочетает Hybrid Gated DeltaNet и полноценное внимание; в составе также есть vision tower, проектор для мультимодального ввода и сохранённые MTP-тензоры. Для работы с изображениями требуется отдельный файл vision projector. Поддерживаются режимы управления рассуждением через enable_thinking, reasoning_effort и preserve_thinking. Сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. К сильным сторонам относятся сохранение исходной архитектуры и шаблона чата, проверенная генерация текста, вызов инструментов, обработка изображений и видео, а также отсутствие дополнительной потери качества от тонкой настройки или слияния моделей. Для запуска требуется совместимый runtime с поддержкой гибридного графа Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Основные ограничения — возможное снижение качества из-за квантизации, высокая потребность в памяти: рекомендуется иметь не менее примерно 33 ГБ с учётом модели, проектора и служебных расходов, а память под KV-кэш дополнительно растёт вместе с контекстом. Максимальный контекст не был проверен в рамках описанной валидации. Родительская модель и данная ванильная квантизация распространяются по лицензии Apache-2.0.

Это квантизированная версия модели Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored, опубликованная esatapedico и созданная на основе модели DavidAU, которая, в свою очередь, происходит от Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и развёртывания через vLLM или совместимые движки serving compressed-tensors. Настройка TWIN-TURBO ориентирована на сокращение числа токенов рассуждений при сохранении сопоставимого качества ответов. Модель использует архитектуру Qwen3_5ForCausalLM с 64 слоями, гибридной GatedDeltaNet, 16 полными attention-слоями, MTP head для speculative decoding и контекстом до 262144 токенов. Поддерживается генерация на английском языке и, согласно метаданным, мультиязычные сценарии. Контрольная точка имеет размер около 19 ГБ и поставляется в формате compressed-tensors nvfp4-pack-quantized. Квантизация выполнена по схеме W4A16 с группами размера 16, FP8 E4M3-масштабами и только для весов; калибровочные данные не использовались. Ключевые компоненты, включая lm_head, vision tower, MTP head и отдельные элементы DeltaNet, сохранены в BF16. Сильными сторонами являются существенное уменьшение размера весов, совместимость с vLLM, сохранение мультимодального vision tower и MTP-компонента, а также возможность работы с длинным контекстом. Ограничения связаны с зависимостью от поддержки compressed-tensors NVFP4 в serving-движке и особенностями конфигурации: заявлена проверка при tensor parallel 2 и контексте 2048 токенов, а FP8 KV-cache включается параметром запуска, а не хранится в контрольной точке. Модель распространяется по лицензии Apache-2.0.

Foresee/Qwen3.8-9B-heretic-uncensored-4bit-MTPLX — локальная 4-битная сборка модели rohit267/Qwen3.8-9B-heretic-uncensored для генерации текста. Она предназначена для запуска на компьютерах Apple Silicon с использованием MLX и ускорения вывода посредством спекулятивного декодирования MTPLX. Модель предоставляет совместимость с API OpenAI /v1/chat/completions и Anthropic /v1/messages, поэтому может использоваться в локальных чат-приложениях, инструментах программирования и других сценариях текстовой генерации. В состав входят 4-битная MLX-модель с группами квантования 64 и размером около 5 ГБ, отдельная MTP-голова, а также LoRA-адаптер ранга 64, объединяемый при загрузке. Указано, что модель относится к 9B-линейке Qwen, использует гибридную архитектуру с GatedDeltaNet и поддерживает английский язык. Контекст модели и полный перечень языков в README не указаны. На тесте с MacBook на M5 и 24 ГБ памяти скорость декодирования выросла с 21,25 до 40,05 токена в секунду; проверка спекулятивных токенов выполняется без потери точности относительно квантованной целевой модели. Основные ограничения — требование macOS 14 или новее, Apple Silicon, MLX и рантайма MTPLX; ускоренный MTP-путь специфичен для MTPLX. Квантование изменяет веса модели, хотя сама процедура спекулятивной проверки является точной. Модель всегда начинает ответ с блока <think>, что следует учитывать при расчёте бюджета токенов. Лицензия Apache-2.0, унаследованная от базовой модели Qwen3.5-9B.

Это GGUF-квантизированная версия языковой модели Qwen3-30B-A3B, разработанной Qwen и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Для взаимодействия используется формат промптов ChatML с ролями system, user и assistant. Модель имеет архитектуру и исходный размер Qwen3-30B-A3B; точные сведения о модальностях, языках и размере контекста в README не указаны. Доступны варианты от BF16 до различных уровней квантизации GGUF, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и более компактные форматы. Квантизация выполнена с использованием imatrix и llama.cpp b5200. Старшие варианты сохраняют высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Основные ограничения связаны с компромиссом между размером файла, требованиями к памяти и качеством генерации: низкобитные варианты имеют более низкое качество и некоторые из них не рекомендуются. Для запуска требуется совместимое программное обеспечение и аппаратные ресурсы, соответствующие выбранному файлу; размер вариантов составляет примерно от 11 до 61 ГБ. Модель распространяется по лицензии Apache-2.0.

Qwen_Qwen3-32B-GGUF — это квантизированная версия языковой модели Qwen3-32B, разработанной командой Qwen и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp, включая использование на системах с ограниченными ресурсами. В набор входят варианты с разными уровнями квантизации: от BF16 и Q8_0 до Q2_K и IQ2_M. Размер файлов составляет примерно от 12 до 65 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; для работы рекомендуется применять шаблон промпта Qwen3 с ролями system, user и assistant. Более высокие варианты квантизации обеспечивают качество, близкое к исходной модели, тогда как младшие варианты экономят память за счёт заметного снижения качества. Сильными сторонами являются широкий выбор форматов, возможность локального запуска и хорошее соотношение качества и требований к памяти у вариантов Q4–Q6. Ограничения включают значительный объём файлов, зависимость характеристик от выбранного уровня квантизации и отсутствие в предоставленных данных сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре и мультимодальности. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah выпустил объединённую языковую модель QwQ-32B-Preview-abliterated-Self-instruct-4x-TIES-MGS-v1.0. Она создана методом TIES с помощью mergekit на базе huihui-ai/QwQ-32B-Preview-abliterated и объединяет её с Rombos-Coder-V2.5-Qwen-32b, TheBeagle-v2beta-32B-MGS, Rombos-LLM-V2.5-Qwen-32b и EVA-Qwen2.5-32B-v0.2. Модель построена на архитектуре Qwen2 с плотной авторегрессионной языковой сетью Qwen2ForCausalLM, содержит 32 млрд параметров и поддерживает контекст до 32 768 токенов. Предназначена для генерации текста и диалогов; состав исходных моделей предполагает применение для кода, ролевых диалогов и написания историй. Веса опубликованы в формате safetensors для библиотеки Transformers. Карточка не сообщает лицензию и подробные результаты оценки качества, поэтому условия использования и сравнительную эффективность определить нельзя. Как результат слияния нескольких моделей, качество и поведение на конкретных задачах следует оценивать отдельно.

Raptor 0.6 — GGUF — это квантизированная версия модели Raptor 0.6, разработанная Osaurus AI на базе XHToken/Spark-X2.5-4B. Модель предназначена для генерации текста, рассуждений, агентских сценариев и использования инструментов, включая работу с файлами и вызов функций. Заявлена поддержка английского и китайского языков, а формат GGUF ориентирован на локальный запуск, в частности в Osaurus for Windows и совместимых рантаймах семейства llama.cpp. Модель содержит около 4 млрд параметров и использует архитектуру spark2_5: объединённый q_k_v_proj, sigmoid-gate на выходе attention, GELU-MLP, RMSNorm без сдвига, а также комбинацию sliding и full attention с окном 512 токенов. В репозитории доступны варианты Q6_K размером около 3,38 ГБ и Q4_K_M размером около 2,60 ГБ; оба созданы с importance matrix для снижения потерь при квантизации. Поддерживаются встроенное рассуждение с отделением reasoning_content от основного ответа и преобразование вызовов инструментов в стандартный OpenAI JSON. Сильными сторонами являются возможность локального запуска, небольшой размер, поддержка reasoning и tool use, а также калибровка imatrix; для Q6_K заявлено совпадение top-1 с исходными bf16-весами на уровне 98,27%. Ограничение — необходим runtime с поддержкой архитектуры spark2_5: стандартные версии llama.cpp, Ollama и LM Studio без такой поддержки эти файлы не загрузят. Для работы рекомендуется llama.cpp с параметром --jinja; при сложных запросах рассуждения могут потребовать более 8192 выходных токенов, которые учитываются вместе с входом в пределах контекстного окна. Лицензия — Apache-2.0.

Salamandra 2B Instruct Aina Hack — многоязычная авторегрессионная языковая модель с архитектурой Llama, разработанная подразделением языковых технологий Barcelona Supercomputing Center для инициативы AinaHack правительства Каталонии. Это экспериментальная версия с предварительной настройкой следования инструкциям и диалогового общения; модель содержит около 1,7 млрд параметров и принимает контекст длиной до 8192 токенов. Модель предназначена для генерации текста и работы в качестве общего диалогового помощника на европейских языках, а также может применяться в инструментах для администрации Каталонии. Она обучена на многоязычных данных и коде; карточка указывает поддержку 35 европейских языков и 92 языков программирования. Доступны веса в формате Safetensors, библиотека Transformers и шаблон диалога ChatML. Модель не прошла выравнивание RLHF и может выдавать вредные или неподходящие ответы. В карточке также отмечены социальные и когнитивные смещения и ограниченность их оценки; для практического применения нужны проверка и настройка под конкретный сценарий. Лицензия Apache 2.0 допускает коммерческое и исследовательское использование с соблюдением её условий.

BSC-LT/salamandra7b_rag_prompt_ca-en-es — разговорная языковая модель семейства Llama, представленная в формате Transformers с весами safetensors. Она содержит 6,7 млрд параметров и рассчитана на контекст до 8192 токенов. Карточка сообщает, что для диалогового использования следует применять встроенный шаблон чата токенизатора. Модель подходит для генерации текста в диалоге и задач с кодом. В названии указаны каталонский, английский и испанский языки; метаданные также отмечают многоязычную поддержку, включая русский. README не описывает специальную методику RAG или сравнительные результаты качества. Условия лицензии в доступных данных не приведены.

LeroyDyer дообучил модель LeroyDyer/SpydazWeb_AI_CyberTron_Ultra_7b на базе LeroyDyer/Mixtral_AI_CyberTron_Ultra. Это языковая модель с архитектурой MistralForCausalLM и 7,1 млрд параметров, предназначенная для генерации текста в диалогах и выполнения инструкций. В карточке отмечены возможности работы с кодом, математикой, финансовыми темами, ролевыми сценариями и несколькими языками, однако заявленные тематические навыки не подкреплены подробными оценками. Модель использует контекст до 32 768 токенов и распространяется в формате safetensors через Transformers. Автор сообщает об обучении с Unsloth и библиотекой TRL; приведены результаты оценок IFEval и BBH. Лицензия — Apache-2.0. В карточке есть неоднозначность: README описывает базовую Mistral-7B-Instruct-v0.2, тогда как метаданные и строка о дообучении указывают на Mixtral_AI_CyberTron_Ultra. Для базовой модели в каталоге использована связь из метаданных Hugging Face.

SuperGemma4-26B-Uncensored-Fast GGUF v2 — локальная текстовая модель, опубликованная пользователем lianjiang и основанная на google/gemma-4-26B-A4B-it. Это производная от линии SuperGemma Fast, экспортированная в формат GGUF Q4_K_M для запуска через llama.cpp, в том числе на компьютерах Apple Silicon. Архитектура Gemma 4 использует MoE-эксперты; точное эффективное число активируемых параметров и размер контекста в README не указаны. Модель предназначена для обычного диалога, генерации текста, программирования, логических задач и сценариев с использованием инструментов. Заявлена поддержка английского и корейского языков. Встроенный нейтральный шаблон чата должен снижать вероятность ошибочной маршрутизации обычных запросов в режим программирования или вызова инструментов. На Apple M4 Max указаны скорости до 222 токенов/с обработки корейского запроса и 89,4 токена/с генерации, однако эти показатели зависят от оборудования и конфигурации. К сильным сторонам относятся компактное квантованное представление, высокая скорость локального запуска, улучшения по сравнению с исходной локальной базовой версией в коде, логике, браузерных сценариях и корейском языке, а также менее ограниченное поведение по сравнению со стандартными чат-релизами. Ограничения включают отсутствие подробных данных о контексте, полном наборе языков, качестве на независимых тестах и требованиях к памяти; заявленная «uncensored» настройка также может означать ослабленные защитные ограничения. Лицензия указана как Gemma.

Sakalti/ultiima-32B — объединённая модель генерации текста, созданная автором репозитория с помощью mergekit и метода TIES на основе Qwen/Qwen2.5-32B с участием Qwen/Qwen2.5-32B-Instruct. Модель имеет плотную архитектуру Qwen2ForCausalLM и 32 млрд параметров; веса представлены в формате safetensors. Метаданные указывают контекст до 131 072 токенов и интерфейс для диалога и вызова инструментов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для составления ответов, следования инструкциям и задач общего назначения; базовая инструктивная модель также ориентирована на программирование, математику и структурированные ответы. README приводит результаты оценок IFEval и BBH, но не описывает отдельную специализацию или гарантии качества. Поддержка русского языка явно не заявлена. Лицензия модели — Apache-2.0. README содержит конфигурацию слияния и часть результатов Open LLM Leaderboard; эти показатели не устанавливают качество для конкретных прикладных сценариев.

vtx-embed-1M — компактная плотная модель эмбеддингов от Vortexa AI для семантического поиска и извлечения признаков. Она содержит 1,05 млн параметров и использует собственный 4-битный формат хранения LF4; в README заявлены объём памяти 0,57 МБ, Matryoshka-представления и задержка на CPU менее миллисекунды. В метаданных архитектура указана как VortexEmbedV4_5, библиотека — tokenizers, формат файлов репозитория — safetensors. Модель предназначена прежде всего для векторизации текста в системах поиска по исходному коду, индексации и retrieval/RAG. Она выдаёт плотные эмбеддинги, которые можно усекать с помощью Matryoshka-подхода для экономии ресурсов. Карточка указывает английский язык. Приведённые в README результаты тестов показывают компромисс между малым размером и качеством: на STSBenchmark модель уступает MiniLM-L6-v2 и bge-small-en-v1.5, хотя на Banking77Classification превосходит их по указанной точности. Модель опубликована под лицензией MIT. Заявленные показатели размера и скорости относятся к описанию автора; подробностей о методике измерений в предоставленном фрагменте нет.

Winter Garden 7B Alpha — экспериментальная чат-модель на архитектуре Mistral, собранная автором карточки путём слияния девяти моделей и вариантов весов. Она предназначена для диалоговой генерации текста, ответов на инструкции, помощи с программированием, научными и математическими вопросами, а также творческих сценариев и ролевых диалогов. В README описано слияние слоёв Mistral-7B-v0.1 с чередованием моделей по девяти случайным группам; конфигурация в основном сохраняет порядок базовой Mistral. Модель содержит 7,1 млрд параметров, принимает контекст до 32 768 токенов и распространяется в формате safetensors. Карточка предлагает использовать разговорный шаблон с описанием сцены и карточкой персонажа; также упоминает несколько вариантов формата инструкций. Автор характеризует модель как способную работать с наукой, математикой и творческими задачами, однако это экспериментальное слияние, и приведённые в README оценки не гарантируют качества в конкретных сценариях. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

bhenrym14 создал экспериментальную модификацию Airoboros 33B GPT-4 1.4.1 на архитектуре Llama. Это плотная авторегрессионная языковая модель примерно на 32,3 млрд параметров, дообученная с помощью QLoRA и RoPE scaling; веса опубликованы в формате safetensors. README описывает обучение на синтетическом наборе airoboros-gpt4-1.4.1 и расширение контекстного окна до 8192 токенов, однако метаданные указывают native context в 2048 токенов, поэтому фактическую поддержку длинного контекста следует считать экспериментальной. Модель предназначена для диалоговых ответов, следования инструкциям, ответов по предоставленному контексту, ролевых сценариев, загадок и задач на программирование. Обучающие данные включают примеры кода на десяти языках программирования; естественные языки в карточке явно не перечислены. Автор сообщает о хороших впечатлениях от отдельных экспериментов, но отмечает, что влияние на задачи вне оценки perplexity не установлено. README не сообщает лицензию.

Карточка модели jondurbin/airoboros-l2-7b-2.1 на Hugging Face совпадает с карточкой jondurbin/airoboros-l2-13b-2.1, поэтому описание составлено по ней. airoboros-l2-13b-2.1 — языковая модель на архитектуре Llama 2, дообученная Jondurbin на синтетических инструкциях Airoboros. Она предназначена для диалогов и выполнения инструкций: ответов по заданному контексту, написания текстов и следующих глав, ролевых бесед, помощи с кодом, планирования и генерации аргументов функций в JSON или YAML. В обучающий набор вошли примеры стилизованных ответов и экспериментальные форматы ролевых диалогов. Модель содержит 12,9 млрд параметров, работает с текстом и имеет нативное контекстное окно 4096 токенов. Для диалогов используется формат с маркерами USER и ASSISTANT; карточка рекомендует останавливать генерацию при появлении USER:, поскольку модель может продолжить имитацию диалога. В README указано, что версия 2.1 имеет ошибку форматирования промптов при обучении, которая может ухудшать работу; заявлена как экспериментальная. Модель распространяется по лицензии Llama 2. В карточке описан небольшой набор для ослабления цензурных ограничений, поэтому ответы могут включать чувствительный контент; качество и соблюдение инструкций не гарантированы.