II.2Создание и понимание программного кода

Qwen3.6-35B-A3B-Brainwaves-Nex-GGUF — GGUF-квантизированная версия модели nightmedia/Qwen3.6-35B-A3B-Brainwaves-Nex, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, инструкционного взаимодействия, рассуждений, математических и STEM-задач, программирования и многоязычных сценариев. В метаданных указаны английский, китайский, японский и испанский языки; также отмечены instruction tuning, SFT, LoRA и distillation, однако подробности обучения не приведены. Доступны варианты квантования от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 13,3 до 37,9 ГБ. Для мультимодального использования предоставляются дополнительные файлы mmproj в форматах Q8_0 и F16, поэтому поддержка изображений зависит от совместимого программного обеспечения и подключения соответствующего компонента. Архитектура, точный размер активной и общей параметризации, максимальная длина контекста и перечень поддерживаемых модальностей в README явно не описаны. Сильной стороной модели является широкий выбор квантований, позволяющий выбирать между требованиями к памяти, скоростью и качеством; автор README рекомендует Q4_K_S и Q4_K_M как быстрые варианты, а Q6_K и Q8_0 отмечает как варианты высокого качества. Ограничения включают возможную потерю качества на низких уровнях квантования, экспериментальный характер исходной модели и отсутствие опубликованных оценок производительности. Распространение указано по лицензии Apache-2.0.

Это GGUF-квантизация модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и дополнительно преобразованной с помощью официального квантизатора llama.cpp. Модель предназначена для локального запуска и генерации текста, включая задачи рассуждения, программирования и работы с естественным языком. Вариант использует архитектуру Qwen3.6-35B-A3B-MTP и формат IQ2_M с динамической смешанной точностью; размер файла уменьшен за счёт низкобитного квантования, а Unsloth importance matrix помогает эффективнее распределять доступную точность между тензорами. Другие характеристики, включая поддерживаемые языки, контекст и модальности, в README не указаны. В основе лежит модель Heretic, в которой применена техника abliteration для снижения числа отказов без значительного изменения исходных возможностей. Согласно README, модификация затрагивает лишь ограниченную часть весов, а заявленный результат — на 88% меньше отказов по сравнению с оригинальной моделью при сохранении близкого качества. К преимуществам относятся совместимость с актуальными версиями llama.cpp, небольшой объём хранения и улучшенное соотношение качества и размера благодаря динамическому квантованию и importance matrix. Ограничением является возможная потеря качества из-за агрессивного IQ2_M-квантования, а отказосниженное поведение может быть нежелательно для сценариев, требующих строгих защитных ограничений. Лицензия указана как Apache-2.0; README отмечает, что GGUF следует лицензии исходной модели, поэтому для полного понимания условий использования следует проверить upstream-репозиторий.

TheDrainFlorist/Qwen3.6-35B-A3B-VQ-4.6bpw — векторно-квантизированная версия модели Qwen3.6-35B-A3B от Qwen, адаптированная для Apple Silicon и экосистемы MLX. Модель предназначена для генерации текста и работы с изображениями; текстовый режим поддерживается через mlx-lm, а мультимодальный — через mlx-vlm. В метаданных указан английский язык. Архитектура включает MoE с 35 млрд параметров и 256 экспертами; точный размер контекста в README не указан. Размер сборки составляет около 18,7 GiB вместе с vision tower, поэтому она рассчитана на запуск на Mac с 32 ГБ памяти. По приведённым измерениям, на корпусах WikiText и кода перплексия близка к исходной версии bf16: 0,991x и 1,004x соответственно, при этом сборка значительно компактнее bf16 и показывает лучшие результаты, чем распространённая 4-битная версия. К ограничениям относятся зависимость от поддержки ключа model_file в загрузчике и необходимость mlx-vlm версии не ниже 0.6.16 для изображений; качество и показатели могут зависеть от корпуса и конкретного сценария. Модель распространяется по лицензии Apache-2.0. Для работы рекомендуется использовать актуальные версии mlx-lm и mlx-vlm; README также указывает совместимость с exo. Это квантизированная сборка, поэтому показатели совпадения токенов с bf16 ниже, чем у 8-битной версии, несмотря на близкую перплексию.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-NEO-CODE-Di-IMatrix-MAX-GGUF — GGUF-квантованная модель, разработанная DavidAU. Она расширена из Qwen3.6 27B до 40 млрд параметров и представляет собой плотную архитектуру без MoE с 96 слоями и 1275 тензорами. Обучение и дообучение выполнялись с использованием Unsloth, наборов данных TeichAI/claude-4.5-opus-high-reasoning-250x и DavidAU/PkDick-Deckard-5-Datasets, а также методов Heretic и NEO-CODE-Di-IMatrix. Модель предназначена для универсального применения: рассуждений, программирования, математики, творческого и художественного письма, генерации сюжетов и сцен, ролевых сценариев и работы с длинными диалогами. Заявлена поддержка контекста до 256K токенов, переменной длины рассуждений и текстовых сценариев на английском и китайском языках. Также заявлена работа с изображениями, но для этого требуется отдельный файл mmproj, размещённый рядом с GGUF-моделью. К сильным сторонам относятся большой контекст, развитые рассуждения, ориентация на код и универсальные задачи, а также оптимизированные NEO-CODE-Di-IMatrix-MAX-квантизации, для которых приведены показатели близости к полной точности BF16. Модель намеренно uncensored и unfiltered, поэтому может генерировать небезопасный или откровенный контент и требует самостоятельного контроля применения. Указанные характеристики производительности основаны на данных автора и приведённых в README тестах; независимая проверка не представлена. В метаданных указана лицензия Apache-2.0. Для запуска необходим совместимый GGUF-движок, а выбор квантизации влияет на требования к памяти и качество работы.

Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF — экспериментальная GGUF-модель на 27 млрд параметров, разработанная автором репозитория ayozhee для локального запуска. Она основана на GSQ-RCO IQ2_S-MTP и объединяет его квантованные веса с выборочно заменёнными матрицами из orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, рассуждений, решения математических задач и программирования на совместимых локальных средах, включая llama.cpp. Abliteration снижает склонность модели к отказам, но может влиять на поведение и безопасность ответов. Файл имеет формат GGUF, размер около 9,61 ГБ, использует смешанное квантование IQ2_S и включает MTP для спекулятивного декодирования. Токенизатор и большая часть тензоров сохранены из исходной GSQ-модели; всего заменена 131 матрица. Тестирование проводилось на RTX 3060 с 12 ГБ памяти: модель показала скорость декодирования около 35,65 токена/с на коротких запросах и успешно прошла заявленные проверки генерации. В небольшом локальном сравнении она получила 27/30 в IFEval, 30/30 в GSM8K и 30/30 после нормализации извлечения в HumanEval. Модель ориентирована на пользователей, которым нужен компактный локальный вариант для ограниченных GPU. Заявленный настроенный предел контекста составляет 16 384 токена, при этом отдельное измерение проводилось с историей на 30,6 тыс. токенов; производительность при полностью занятом контексте 65 тыс. токенов не оценивалась. Результаты основаны на небольших выборках и единичных запусках, поэтому не заменяют полноценные бенчмарки. Модель распространяется по лицензии Apache-2.0.

PocketAiHub/Qwen3.8-27B-Abliterated-MTPLX-Optimized-Speed — производный вариант модели Qwen3.8-27B, созданной командой Qwen. PocketAiHub выполнила проекцию, подавляющую выученное поведение отказа, а также конвертацию, оптимизацию и проверку модели. Для ускорения используется MTPLX 2.7.1 и нативный механизм multi-token prediction с глубиной 3. Модель предназначена для генерации текста, рассуждений, структурированного выбора инструментов и работы с изображениями через OpenAI-совместимый API. Поддерживаются входные изображения в форматах PNG, JPEG и WebP; работоспособность видео в серверном режиме не подтверждена. Конфигурационное контекстное окно составляет 262 144 токена, однако для ускоренного MTPLX-режима рекомендуется использовать не более 32 000 токенов. Квантование смешанное: основная часть весов имеет 4-битную точность, отдельные чувствительные компоненты — 8-битную или BF16. Размер загрузки — около 21,31 ГБ. Главное преимущество — высокая скорость декодирования на Apple Silicon: на Apple M5 Max измерено до 58,05 токена в секунду, что соответствует ускорению до 2,35 раза относительно авторегрессионного режима. Ограничения включают зависимость производительности от оборудования, возможный дрейф поведения из-за квантования и аблитерации, а также подавление отказов, которое может приводить к ошибочным, вредным или непредсказуемым ответам. Модель не является более безопасной и требует собственных защитных механизмов. Распространяется по лицензии Apache-2.0.

Fmuaddib/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16-mlx-8Bit — языковая модель для генерации текста, преобразованная в формат MLX из AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 с использованием mlx-lm 0.31.2. Модель относится к семейству Qwen3.8 и имеет 27 млрд параметров; в метаданных указана поддержка английского, китайского и других языков. Модель предназначена для диалоговых и инструкционных сценариев, программирования, рассуждений, а также заявленных в метаданных задач function calling и tool calling. Для запуска используется библиотека mlx-lm, предусмотрена работа с chat template. В метаданных также отмечены vision и multimodal, однако README не содержит подробностей о поддерживаемых форматах входных данных и возможностях обработки изображений. Ключевая особенность этой версии — представление в MLX с 8-битным квантованием, что ориентировано на запуск в экосистеме Apple Silicon и может снизить требования к памяти по сравнению с полноразмерной версией. При этом README не приводит результаты тестов, сведения о размере контекста, точной архитектуре, аппаратных требованиях или сравнительных оценках качества. Модель распространяется по лицензии Apache-2.0.

RentedNoodle/Qwen3.8-27B-GSQ-RCO-IQ3_XXS-Uncensored — это квантизированная GGUF-версия модели Qwen3.8-27B, созданная на основе abliterated-чекпойнта huihui-ai/Huihui-Qwen3.8-27B-abliterated. Это не новая дообученная модель: снижение выраженности отказов унаследовано от Huihui, а квантизация выполнена по методологии GSQ/RCO, разработанной ISTA-DASLab. Модель ориентирована на генерацию текста, диалоги, рассуждения, программирование, извлечение информации, работу с инструментами и мультимодальные сценарии, заявленные для базовой Qwen3.8. В README явно указаны английский и китайский языки, а также поддержка long-context и vision; конкретные характеристики мультимодального ввода для этого файла отдельно не подтверждены. Модель использует смешанную 3-битную квантизацию IQ3_XXS с размером файла около 9,75 GiB и примерно 27,3 млрд параметров. Сохранена MTP-head для speculative decoding, а 96 чувствительных тензоров оставлены в BF16. Заявлен контекст до 196K токенов с KV-кэшем q4_0 на видеокарте с 16 ГБ памяти, однако полноценная точность извлечения на всём окне 196K ещё не подтверждена: основные проверки проводились при 32K и 64K. Есть шаблон froggeric-qwen3.8-tool-use.jinja для вызова инструментов. Сильные стороны модели — возможность размещения большого контекста на одной 16-ГБ GPU, поддержка MTP и заметное ускорение генерации при совместимом llama.cpp, а также хорошие результаты в тестах извлечения из контекста, базового tool calling, связности диалога и смешанных задач. Ограничения связаны с потерями качества из-за квантизации и abliteration: для конкретного файла GPQA-Diamond составил 60,6% без рассуждений и 61,6% с рассуждениями, а расширенный тест вызова инструментов дал 9/14. Снижение отказов не гарантирует универсального соблюдения запросов, поэтому ответственность за безопасное и соответствующее требованиям использование несёт развёртывающая сторона. Модель распространяется по лицензии Apache-2.0.

RukaRat/Qwen3.8-27B-INT8-W8A8-imatrix-MTP — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и подготовленной пользователем RukaRat. Модель предназначена для генерации и анализа текста, работы с изображениями, вызова инструментов и запуска локальных inference-сервисов на видеокартах Ampere, включая конфигурации с двумя RTX 3090 по 24 ГБ. Указана интеграция с Transformers, SGLang и vLLM, а также поддержка tool calls в формате qwen3_coder и reasoning-парсера qwen3. Весовая часть представлена в формате compressed-tensors с квантизацией INT8 W8A8; общий размер составляет около 29,1 GiB, при этом часть параметров сохранена в BF16. Архитектура включает 64 слоя, из которых 48 используют Gated DeltaNet linear attention и 16 — full attention. Сохранены vision tower и MTP-модуль, благодаря чему поддерживаются мультимодальный ввод и speculative decoding. Нативное окно контекста заявлено до 262 144 токенов, а в описанной конфигурации на двух RTX 3090 протестирован контекст до 245 760 токенов. Языки модели в README не указаны. К сильным сторонам относятся сохранённая обработка изображений, MTP для ускорения декодирования, совместимость с видеокартами Ampere и сравнительно экономичное INT8-представление. Ограничения связаны с высокой потребностью в памяти: каждая параллельная последовательность требует значительный фиксированный recurrent state, поэтому число одновременных запросов приходится ограничивать. Производительность и доступный контекст зависят от настроек SGLang или vLLM, а сведения о работе vLLM отмечены как устаревшие. Модель распространяется по лицензии Apache-2.0.

AtomicChat/Qwen3.8-27B-MLX-AD-3.50bpw-DWQ-12.7GB — это MLX-квантизированная версия Qwen3.8-27B, выпущенная командой AtomicChat. Базовую модель разработала команда Qwen компании Alibaba. Это открытая плотная мультимодальная модель с поддержкой текста и изображений, предназначенная для генерации текста, визуального понимания, программирования, агентских рабочих процессов и автоматизации офисных задач. Модель содержит около 27 млрд параметров. Вариант AtomicChat использует формат MLX, 3-битное представление с параметром 3.50 bpw и занимает примерно 12,7 ГБ, поэтому ориентирован на локальный запуск, в частности на совместимое оборудование Apple через MLX. На странице модели указана категория Image-Text-to-Text и языковой тег English. Для исходной Qwen3.8-27B заявлено нативное контекстное окно 262 000 токенов с возможностью расширения до 1 млн токенов посредством YaRN. Главное преимущество варианта — существенное уменьшение размера и требований к памяти по сравнению с полной моделью при сохранении мультимодальных возможностей. Ограничения связаны с потерями качества, возможными для 3-битной квантизации, зависимостью от MLX-совместимого окружения и отсутствием на странице AtomicChat подробных независимых тестов, перечня поддерживаемых языков и детального описания архитектуры именно этого квантизированного варианта. Для базовой Qwen3.8-27B указана лицензия Apache 2.0; отдельные условия для производного репозитория AtomicChat следует проверять дополнительно.

dbirks/Qwen3.8-27B-NVFP4-AutoRound — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная с помощью Intel AutoRound и упакованная в формате compressed-tensors для развертывания через vLLM. Модель предназначена для генерации и обработки текста, а также сохраняет архитектурные компоненты исходной мультимодальной модели, включая vision tower, хотя квантизация применяется только к языковому декодеру. В основе лежит гибридная архитектура из 64 слоёв: 48 слоёв GatedDeltaNet с линейным вниманием и 16 слоёв полного внимания, с поддержкой контекста до 262 тысяч токенов. Основная часть линейных слоёв языкового декодера сжата до NVFP4 W4A4: квантизируются веса и входные активации с группами размера 16. Проекции управления рекуррентностью, vision tower, MTP head и lm_head оставлены в BF16 для сохранения качества. Модель поддерживает английский язык; размер файла составляет около 20,6 ГБ против примерно 52 ГБ у BF16-версии. Сильная сторона модели — существенное снижение требований к памяти при сохранении качества, близкого к базовой BF16-модели: в приведённых тестах результаты GSM8K, HumanEval и MMLU-Pro находятся в пределах доверительных интервалов базовой версии. Модель в первую очередь рассчитана на GPU NVIDIA Blackwell с поддержкой FP4 tensor cores (SM100/SM120). На Ada и Hopper полноценного ускорения нет, возможен откат к более медленному режиму Marlin; для таких GPU рекомендуется родственная W4A16-версия. Лицензия — Apache-2.0.

Chungulus/Qwen3.8-27B-Q5_K_M-GGUF — это независимая vanilla-квантизация базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель представлена в формате GGUF с квантизацией Q5_K_M для запуска через llama.cpp; это не дообучение, объединение моделей или изменение шаблона чата. В комплект входят основные веса объёмом около 19,536 ГБ и отдельный vision projector, а общий размер репозитория составляет около 20,476 ГБ. Модель предназначена для генерации текста, вызова инструментов, анализа изображений и видео, а также сценариев с управляемым режимом рассуждений через параметры enable_thinking, reasoning_effort и preserve_thinking. Она использует гибридную архитектуру с Gated DeltaNet и полным attention, поддерживает мультимодальный pipeline image-text-to-text, нативный формат вызова инструментов и сохранённые MTP-тензоры, однако спекулятивное ускорение не заявлено. Точные языки и максимальный контекст в README не указаны; архитектурный максимальный контекст не следует считать проверенным. К сильным сторонам относятся сохранение функциональности исходной модели, проверенная генерация текста, tool calling, работа с изображениями и сохранённый шаблон чата. К ограничениям относятся возможное снижение качества из-за квантизации, требования к совместимости runtime с гибридным языковым графом, vision tower, tokenizer и MTP-метаданными, а также необходимость примерно 24 ГБ доступной памяти с дополнительным ростом потребления из-за KV-cache. Модель и её vanilla-квантизация распространяются по лицензии Apache-2.0.

DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, созданная DavidAU и его командой с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. По заявлению автора, её настройка направлена на сокращение объёма рассуждений и ускорение генерации при сохранении детализации и качества ответов. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако конкретные возможности обработки изображений в README не описаны. Размер контекста и точная архитектура также не указаны. К сильным сторонам относятся заявленные улучшения решения задач, генерации кода и художественного текста, поддержка нескольких режимов рассуждений, снижение избыточного расхода токенов и варианты для запуска на потребительском оборудовании. Автор сообщает о превосходстве базовой Qwen3.8 27B в ряде внутренних или указанных в README тестов, но независимая проверка этих утверждений не приведена. Ограничения включают возможные потери качества при использовании низкобитных квантов, а также отсутствие подробных сведений о контекстном окне, требованиях к ресурсам и фактической мультимодальной поддержке. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune-модель на базе Qwen3.8-27B, опубликованная schwyzquant и созданная с использованием наработок DavidAU и инструментов Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты квантования, с заявленной поддержкой 4- и 8-битных конфигураций. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, художественной прозы, ролевого взаимодействия и других сценариев генерации текста. Основные заявленные цели дообучения — повысить способность к решению задач, сократить объём рассуждений и ускорить генерацию при сохранении детализации и качества ответов. Указаны языки English и Chinese; архитектура основана на Qwen3.8 с 27 миллиардами параметров. Размер контекста в README не указан. К сильным сторонам относятся акцент на подробных ответах, программировании, творческих сценариях и сокращении избыточного «мышления», а также возможность запуска квантованных вариантов на потребительском оборудовании. Заявления о превосходстве над базовыми и другими моделями основаны на приведённых автором бенчмарках и не сопровождаются независимой проверкой в README. Ограничения включают отсутствие подробных данных о контекстном окне, точной архитектуре, системных требованиях и качестве по отдельным задачам; характеристики могут различаться между квантованными версиями. Модель описывается как uncensored, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-fcf-GGUF — открытая многоэтапная fine-tune-модель на базе Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, опубликованная в формате GGUF. В README указаны разработчик базовой модели и участники обучения DavidAU и его команда; для обучения применялись Unsloth, методы COLD FUSION и Fable Fusion 711, а также наборы данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Репозиторий содержит обычные и MTP-квантизации, включая варианты для 4- и 8-битного запуска на потребительском оборудовании. Модель предназначена для широкого спектра задач: рассуждений и решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и других текстовых применений. Заявленная особенность TURBO-версии — сокращение объёма внутреннего рассуждения по сравнению с обычной Qwen3.8 при сохранении детализации и качества ответов, что должно повышать скорость генерации и снижать расход токенов. В метаданных указаны английский и китайский языки; контекстное окно и точный набор поддерживаемых модальностей в README не описаны, хотя pipeline_tag указывает image-text-to-text. Ключевые характеристики — около 27 млрд параметров, архитектура на базе Qwen3.8, поддержка трёх режимов рассуждения согласно описанию автора, а также обычных и MTP GGUF-квантов. README заявляет высокие результаты на ARC-C и ARC-E и превосходство базовых моделей по нескольким бенчмаркам, однако эти утверждения не подтверждены независимыми данными в предоставленном тексте. Модель обозначена как uncensored, поэтому её ответы могут быть менее ограниченными с точки зрения защитных фильтров; конкретные требования к оборудованию и контексту запуска не приведены. Указанная лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-OptiQ-4bit — это квантизированная версия reasoning-модели семейства Qwen3.8, разработанная сообществом mlx-community на базе orcarouter/Qwen3.8-27B-Uncensored. Модель предназначена для генерации текста, рассуждений, работы с длинным контекстом, function calling, tool use и агентских сценариев. В карточке указана поддержка английского языка. Модель содержит 27 млрд параметров и использует смешанную квантизацию OptiQ с точностью 4 и 8 бит на уровне отдельных компонентов: 237 компонентов представлены в 4-битном формате, 261 — в 8-битном. Размер модели на диске составляет около 19 ГБ, group size — 64. В ней сохранена MTP-голова для speculative decoding, которая может ускорять генерацию при использовании совместимого сервера. Модель оптимизирована для локального запуска на Apple Silicon через MLX без PyTorch и облачных сервисов. Сильными сторонами являются сочетание сниженного потребления памяти, reasoning-возможностей, поддержки инструментов и потенциально более быстрой генерации благодаря MTP. Ограничения включают необходимость экосистемы MLX и Apple Silicon, а также специального пакета mlx-optiq для загрузки архитектуры и MTP-компонента. README не указывает точный размер контекстного окна, подробные результаты тестирования или дополнительные языки. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-W4A16-AutoRound — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, подготовленная dbirks с использованием Intel AutoRound и упакованная в формат compressed-tensors для запуска через vLLM. Модель предназначена для генерации текста и обработки изображений с применением на NVIDIA GPU поколения Ampere и новее, включая сценарии инференса на видеокартах без поддержки Blackwell. В основе лежит гибридная архитектура GatedDeltaNet с линейным вниманием и полноформатным attention: 64 слоя, из которых 48 используют линейное внимание, а 16 — полное; также присутствует vision tower. Заявлен контекст до 262 тысяч токенов. Квантизация W4A16 хранит веса языкового декодера в формате int4 с размером группы 128, тогда как активации остаются в BF16. В BF16 сохранены отдельные проекции управления рекуррентностью, vision tower, MTP-head и lm_head. Размер модели на диске составляет около 19,5 ГБ против примерно 52 ГБ для версии BF16; логический объём — около 27,78 млрд параметров. Основное преимущество — существенное сокращение размера при сохранении качества, близкого к BF16-версии: на заявленных тестах GSM8K, HumanEval и MMLU-Pro результаты находятся в пределах доверительных интервалов базовой модели. Ограничение W4A16 заключается в отсутствии ускорения за счёт квантизации активаций, поскольку они остаются BF16; для видеокарт Blackwell автор рекомендует родственную версию NVFP4. Указанная лицензия — Apache-2.0.

Qwopus-GLM-18B-Merged-GGUF — экспериментальная текстовая модель семейства Qwen3.5, созданная на основе двух дообученных моделей Jackrong: Qwopus3.5-9B-v3.5 и Qwen3.5-9B-GLM5.1-Distill-v1. Модель собрана методом frankenmerge: объединены по 32 слоя каждой исходной модели, всего 64 слоя и около 18 млрд параметров. После объединения выполнено 1000 шагов QLoRA-дообучения для устранения проблем на границе слоёв. В репозитории представлена версия в формате GGUF с квантизацией Q4_K_M размером около 9,2 ГБ. Модель предназначена для генерации текста, рассуждений, диалогов, программирования, структурированного вывода, tool calling и агентских сценариев. Заявлена поддержка английского, китайского, корейского, японского, французского, немецкого и испанского языков. По данным авторского набора из 44 тестов, модель получила 40 успешных результатов, включая максимальные показатели в категориях базовой генерации, рассуждений, вызова инструментов и агентских рабочих процессов. Она ориентирована на локальный запуск и, согласно README, помещается в 12 ГБ видеопамяти; заявленная производительность составляет около 66 токенов в секунду. Сильными сторонами являются tool calling, агентское рассуждение, многоязычная генерация и улучшенная после «лечения» корректность HTML, CSS и JavaScript. Ограничения включают экспериментальный статус, отсутствие полной независимой оценки и остаточные проблемы в программировании: три теста из пятнадцати не пройдены из-за ошибок именования функций, скобок JavaScript и формата блока кода. Размер контекста в README не указан. Модель распространяется по лицензии Apache-2.0.

BenevolenceMessiah/QwQ-32B-Preview-abliterated-Self-instruct-3x-TIES-v1.0 — языковая модель на 32 млрд параметров, созданная BenevolenceMessiah слиянием предобученных моделей через TIES с помощью mergekit. В качестве базовой использована huihui-ai/QwQ-32B-Preview-abliterated; в слияние также вошли EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2, rombodawg/Rombos-Coder-V2.5-Qwen-32b и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель построена на плотной архитектуре Qwen2 и предназначена для генерации текста и диалогов. Поддерживает контекст до 32 768 токенов, распространяется в формате safetensors и работает через Transformers. В каталоге также отмечен интерфейс вызова инструментов. Состав моделей предполагает применение для общих диалогов, работы с кодом и написания историй, однако отдельные языки и качество на конкретных задачах не подтверждены предоставленными данными. Условия лицензирования в предоставленных источниках не приведены, поэтому перед использованием следует проверить лицензию репозитория и условия базовых моделей. Модель создана слиянием и может наследовать особенности и ограничения включённых чекпойнтов.

RWKV7-G1i-2.9B-20260805 — базовая языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Яном, Жуйчонгом Чжаном и Чжиюанем Ли при поддержке RWKV Project под эгидой LF AI & Data Foundation. Это плотная авторегрессионная модель с архитектурой RWKV7ForCausalLM и рекуррентным состоянием постоянного размера: генерация не использует attention и требует постоянной вычислительной работы на каждый новый токен, при этом обучение можно распараллеливать. Модель с 3,1 млрд параметров предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, чатах и материалах для рассуждений. Она предназначена для оценки, последующего обучения и дообучения, а шаблон чата служит интерфейсом для подачи запросов и сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживает несколько языков; среди языков карточки указаны английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Контекст модели по метаданным — 2048 токенов. Для запуска README рекомендует flash-linear-attention и Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0.

Spark-X2.5-4B-ASHQ1-GGUF — выпущенная wepiqx версия модели Spark-X2.5-4B в формате GGUF с квантованием ASHQ1 и калибровкой imatrix. Это плотная decoder-модель архитектуры spark2_5 примерно на 4,1 млрд параметров с 36 блоками, группированным многозапросным вниманием и чередованием полных и скользящих окон внимания. Нативный контекст базовой модели — до 1 млн токенов. Модель предназначена для диалога и генерации текста; базовая Spark-X2.5-4B также рассчитана на код, рассуждения, перевод и агентные сценарии. Репозиторий содержит варианты квантования разного размера: автор рекомендует ASHQ1 на 4000 MiB, для которого указано небольшое ухудшение perplexity относительно Q8_0 при экономии места. Приведённые измерения сделаны на сыром тексте без шаблона чата, а сам автор считает сравнение предварительным. Модель работает в llama.cpp со штатной поддержкой архитектуры spark2_5. Указана лицензия Apache-2.0. README описывает главным образом процесс квантования и результаты теста perplexity, а не отдельные оценки качества на прикладных задачах.

jondurbin/spicyboros-13b-2.2 — экспериментальная языковая модель автора Jon Durbin, созданная на архитектуре Llama и дообученная преимущественно на синтетических данных Airoboros 2.2. Модель с 12,9 млрд параметров предназначена для генерации текста по инструкциям, включая ответы на вопросы, написание текстов, задания с вариантами ответа и генерацию кода. Для ответов по заданному контексту README рекомендует явно размечать входные данные; также описан интерфейс генерации JSON- или YAML-подобных аргументов для вызова функций. Контекст модели составляет 4096 токенов. Карточка описывает формат диалога с маркерами USER и ASSISTANT и сообщает, что использован промежуточный чекпойнт 350. Модель может выдавать ненормативный, токсичный и иной чувствительный контент; системные ограничения могут быть переопределены. Указанная лицензия — Llama 2 license.

SQLCoder-7B-2 — языковая модель для преобразования запросов на естественном языке в SQL, разработанная компанией Defog, Inc. Модель предназначена для аналитики данных: она помогает нетехническим пользователям формулировать SQL-запросы к базам данных на основе описания их схемы. Это аналитический инструмент, а не средство администрирования баз данных. Модель дообучена на базе CodeLlama-7B и распространяется через библиотеку Transformers как модель генерации текста. Для оптимальных результатов рекомендуется использовать детерминированную генерацию без сэмплирования и четыре beam search-гипотезы. Входные данные должны содержать вопрос пользователя и схему базы данных в виде DDL-описаний. В README не указаны поддерживаемые языки естественного языка, точный размер контекста и перечень модальностей; по назначению модель ориентирована на текстовые вопросы и SQL. По данным оценки SQL-Eval, модель показывает высокие результаты в задачах с датами, группировкой, сортировкой, отношениями и объединениями таблиц, однако качество зависит от типа запроса и ниже в категории where. Важное ограничение безопасности заключается в том, что модель не обучалась отклонять вредоносные запросы от пользователей с правом записи, поэтому её следует применять только в средах с доступом к базам данных в режиме только для чтения. Лицензия — CC BY-SA 4.0.

StrangeMerges_51-7B-dare_ties — текстовая генеративная модель, созданная Gille объединением пяти моделей с помощью LazyMergekit: WizardMath-7B-V1.1, NeuralCoder-7b, Einstein-v4-7B, Matter-0.1-Slim-7B-C-DPO и StrangeMerges_42-7B-dare_ties. Это плотная модель семейства Mistral с 7,1 млрд параметров; доступна в формате safetensors и имеет контекст до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и инструкций, математических рассуждений и задач по программированию — эти направления представлены среди объединённых моделей. В README приведены результаты Open LLM Leaderboard, включая средний балл 71,73, однако без полной таблицы и описания методики эти показатели не позволяют оценить качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. В карточке нет сведений о целевых языках и специальных мерах безопасности; фактическое качество объединения на конкретных задачах следует проверять отдельно.

SuperScout-7B — модель на 7,1 млрд параметров от SuperAGI для поиска причин ошибок в репозиториях программного обеспечения. Она принимает описание проблемы и контекст репозитория, исследует код, определяет вероятно затронутые файлы, пытается подготовить воспроизведение сбоя и формирует структурированный документ передачи задачи следующей модели. SuperScout выполняет этап поиска и не предназначена для написания исправлений. Модель представляет собой дообученную с помощью LoRA инструкционную Qwen2.5-Coder-7B-Instruct с архитектурой Qwen2 и контекстом до 32 768 токенов. Обучение было ориентировано на Python, Go, TypeScript и JavaScript; в README также описан перенос навыка локализации на другие языки программирования. Для описанной авторами конфигурации рекомендуется выборка с температурой 0,9: жадное декодирование заметно снижало частоту выдачи результатов. Модель предназначена для использования как поисковый этап системы SuperScout, которая проверяет заявленные воспроизведения в песочнице и передаёт задачу одной из моделей-исправителей. Оценки системы основаны на Python-срезе одного бенчмарка, а качество локализации за один проход умеренное; заявленные моделью воспроизведения требуют проверки. Распространяется по лицензии Apache-2.0.

Swift-Qwen3.8-27b-int4-AMD — квантованная версия модели Swift-Qwen3.8-27B, разработанная UkisAI на базе Qwen3.8-27B. Модель предназначена для задач рассуждения, генерации текста, программирования и структурированного вывода, а также заявлена как image-text-to-text модель с поддержкой визуального компонента. Swift оптимизирована для сокращения избыточных рассуждений: по данным разработчика, она использует на 58,3% меньше thinking-токенов при потере производительности менее 1% и ускорении до 1,95 раза на ряде задач. Данный выпуск использует квантование AMD Quark AWQ INT4 в формате W4A16: веса имеют точность INT4, активации — BF16, применяется симметричное группирование с размером группы 128. Квантованы 496 линейных слоёв языковой модели, а vision tower, embeddings, output head и 15 MTP-тензоров сохранены в BF16. Размер файлов весов составляет около 19,5 ГБ против 55,6 ГБ у BF16-версии. Калибровка выполнена на 128 образцах Pile по 512 токенов. Сильными сторонами являются снижение объёма весов и потенциальное ускорение инференса при сохранении основных возможностей базовой модели. Проверки показали небольшой рост perplexity на Wikitext-2, успешную арифметическую и JSON-генерацию, однако это не является полноценным сравнением качества. Ключевое ограничение выпуска состоит в том, что квантование и проверка проводились на NVIDIA H100, а работа и производительность на AMD/ROCm ещё не валидировались; требуется совместимый с native Quark INT4 runtime. Vision inference и MTP decoding отдельно не тестировались. Модель распространяется по лицензии swift-open-license-1.0.

TallGemma-Raw — объединённая языковая модель на архитектуре Gemma, созданная автором репозитория с помощью mergekit из google/gemma-2b, google/gemma-1.1-2b-it и google/codegemma-2b. Модель предназначена для генерации текста; в метаданных указаны 6,5 млрд параметров и контекст до 8192 токенов. Объединение включает базовую Gemma, инструкционную Gemma 1.1 и CodeGemma, поэтому модель может быть полезна для генерации обычного текста, диалоговых ответов и кода. Карточка не приводит отдельных оценок качества или результатов тестирования, поэтому пригодность для конкретных задач стоит проверять на собственных примерах. В репозитории указаны веса safetensors и библиотека Transformers. Лицензия в предоставленных данных не указана.

Toffee-3B-β — языковая модель для генерации текста и диалогового взаимодействия, разработанная maxzt. Модель дообучена на базе mistralai/Ministral-3-3B-Base-2512 с целью создания компактного полезного ассистента. Основной язык — английский; заявленные сценарии включают чат, выполнение инструкций, ответы на вопросы, рассуждения, математические задачи и программирование. Модель содержит около 3 млрд параметров и использует архитектуру Ministral 3 семейства Mistral. Длина контекста составляет 8 192 токена, размер словаря — 131 072, размер скрытого состояния — 3 072, 26 слоёв, 32 attention heads и 8 KV heads. Базовая точность указана как BF16. Дообучение выполнено методом SFT с LoRA на наборах UltraChat 200k, OpenMathInstruct-2 и CodeFeedback-Filtered-Instruction; использовалось до 80 000 примеров. Сильными сторонами являются компактный размер, пригодность для локального развёртывания и хорошие результаты на ряде стандартных тестов для моделей этого класса: 63,10% на MMLU, 72,04% на HellaSwag, 84,98% на BoolQ и 68,11% на Winogrande. Ограничения включают преимущественно англоязычную специализацию, небольшой контекст в 8 192 токена и отсутствие заявленной мультимодальности. Результаты на бенчмарках могут зависеть от настроек оценки и не гарантируют аналогичное качество в прикладных сценариях. Лицензия — MIT.

Vinci-Cyber-30B-1.0 — диалоговая языковая модель компании SimpleDirect для задач кибербезопасности, прежде всего анализа и исправления Infrastructure as Code (IaC). Это дообученная версия IBM Granite 4.1 30B с плотной архитектурой GraniteForCausalLM и 28,9 млрд параметров. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и распространяется в формате Safetensors. Заявленная область применения — помощь специалистам при проверке изменений IaC и решений оставить конфигурацию без изменений; результаты требуют проверки человеком. README сообщает об оценке на задачах IaC и об отсутствии подтверждённой регрессии на ряде общих бенчмарков, но не утверждает превосходства в кибербезопасности в целом. Проверка CyberSOCEval для этой версии ещё выполнялась, а PatchEval-Verified не проводился. Лицензия — Apache-2.0.

Zilo Instruct v2 SFT Filtered — дообученная Arcee AI модель на архитектуре Mistral для генерации текста по инструкциям и диалоговых ответов. Она обучена на наборе arcee-ai/Zilo-Filtered-SQL-Instruct-v2; в карточке указана оценка loss 0,5474 на наборе для оценки. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текстовый контекст длиной до 32 768 токенов. Датасет обучения указывает на специализацию на инструкциях, связанных с SQL, однако карточка не описывает конкретные возможности, качество на SQL-задачах или поддерживаемые естественные языки. Модель распространяется в формате safetensors по лицензии Apache-2.0. Данных о дополнительных ограничениях или рисках в карточке нет.