II.2Создание и понимание программного кода

OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf — это текстовая генеративная модель в формате GGUF, разработанная DavidAU на базе p-e-w/gpt-oss-20b-heretic. Согласно карточке, модель использует архитектуру Mixture of Experts с 20B параметров и 24 экспертами. Она предназначена для локального запуска и доступна в вариантах IQ4_NL, Q5_1 и Q8_0 с применением Imatrix, DI-Matrix или TRI-Matrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и общее использование. Указан английский язык и заявлена поддержка контекста до 128k токенов. Автор отмечает улучшения производительности благодаря NEO, Horror и NEOCode-наборам данных, а также различия между квантизациями: Q5_1 описывается как более стабильная в некоторых сценариях, тогда как IQ4_NL может давать более необычные и спонтанные ответы. Ключевая особенность модели — удаление отказов и ограничений, обозначенное автором как uncensored и decensored. Это может быть полезно для свободных творческих и исследовательских сценариев, но одновременно означает отсутствие встроенных защитных механизмов и повышенный риск небезопасных или нежелательных ответов. В карточке не приведены независимые бенчмарки, точные требования к памяти, аппаратные рекомендации или подробные измерения качества, поэтому производительность и практическая скорость зависят от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

Ornith 1.0 35B AEON Ultimate Uncensored GGUF — это набор квантованных GGUF-версий языковой модели AEON-7/Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16. Квантизация выполнена пользователем vcruz305 из исходных весов BF16 с применением калибровки importance matrix. Модель предназначена для генерации текста, рассуждений и программирования и запускается преимущественно через llama.cpp. Модель имеет архитектуру Qwen3 MoE (mixture of experts) и заявленный размер 35B параметров. Доступны варианты с разными уровнями квантования — от Q8_0 до IQ1_M — с размером файлов примерно от 8,2 до 35 ГБ. Предлагаются стандартные версии для обычной авторегрессионной генерации и MTP-grafted версии со встроенным блоком Multi-Token Prediction для speculative decoding. В MTP-варианты добавлены 785 тензоров из Qwen/Qwen3.5-35B-A3B; заявленное ускорение генерации в отдельных тестах достигает 1,8 раза. В README приведены конфигурации с контекстом до 32768 токенов, однако поддерживаемые языки и точный общий объём параметров не уточнены. Сильные стороны модели — широкий выбор квантований для GPU с 8–48 ГБ памяти, поддержка MoE и возможность ускоренной генерации через встроенный MTP-блок. Ограничения включают зависимость от совместимой версии llama.cpp для MTP-режима, компромиссы качества при низких уровнях квантования и отсутствие подробных данных о языковом покрытии, качестве на бенчмарках и безопасности uncensored-настройки. Указана нестандартная лицензия aeon-ultimate; подробные условия следует уточнять по ссылке на лицензию или базовую модель.

3MPER0RR/Ornith1.5-9B-3MPER0RR-abliterated — дообученная версия Ornith 1.5 9B, подготовленная 3MPER0RR для экспериментов. Это плотная языковая модель семейства Qwen3.5 с поддержкой диалогового взаимодействия; основная задача — генерация текста. Базовая модель Ornith AI предназначена для программирования, агентных задач и работы с инструментами в длинном контексте. Модель распространяется в формате safetensors по лицензии MIT. Карточка сообщает, что модель прошла испытания и сохранена, но не уточняет набор тестов, контекстное окно или поддерживаемые языки. Суффикс «abliterated» в названии указывает на изменение, связанное с отказами модели, однако карточка не описывает его метод и фактическое влияние.

AtomicChat/Ornith-1.5-9B-GGUF — набор GGUF-сборок модели Ornith-1.5-9B, разработанной ornith-ai и конвертированной и протестированной командой AtomicChat. Модель предназначена для локального запуска через llama.cpp, диалоговых сценариев, работы с изображениями и задач, связанных с агентным программированием. Поддержка изображений обеспечивается отдельным vision projector; для текстового режима проектор можно не использовать. Это модель примерно на 9 млрд параметров, доступная в вариантах от BF16 до низкобитных квантований. Размер файлов составляет примерно от 2,81 до 17,9 ГБ, а вариант vision projector занимает около 0,92 ГБ. Для запуска с изображениями рекомендуется учитывать также дополнительное потребление памяти; в README приведены ориентиры для контекста 8K. Языки и точное устройство базовой архитектуры в карточке не указаны. Сильная сторона сборок — наличие вариантов под видеопамять от 4 до 24 ГБ и специализированных importance-aware квантований AD, которые на некоторых уровнях дают лучшее соотношение размера и точности, чем стандартные пресеты llama.cpp. В частности, AD-Q5_K-Q4_K показывает 93,10% совпадения следующего токена с BF16-эталоном, тогда как самые агрессивные варианты существенно снижают качество: у AD-IQ2_XXS-IQ1_M совпадение составляет 53,74%. Поэтому малые файлы опубликованы главным образом для совместимости, а не как рекомендуемые варианты. Распространение указано под лицензией MIT. Для работы с изображениями требуется совместимый vision projector, а запуск зависит от llama.cpp и доступного объёма памяти.

unsloth/Qwen2.5-7B-bnb-4bit — 4-битная версия базовой языковой модели Qwen2.5-7B, разработанной командой Qwen. Модель предназначена для генерации и продолжения текста, а также для последующего дообучения методами SFT, RLHF или continued pretraining. Для диалоговых сценариев базовую модель использовать не рекомендуется без дополнительного постобучения. Модель относится к классу causal language models и содержит 7,61 млрд параметров, из которых 6,53 млрд не являются параметрами эмбеддингов. Архитектура включает 28 слоёв, RoPE, SwiGLU, RMSNorm и attention с GQA: 28 голов для Q и 4 для KV. Контекстное окно — до 131 072 токенов. Поддерживаются более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Ключевое преимущество версии — 4-битное представление, снижающее требования к памяти; конкретные показатели качества и производительности для этой сборки в README не приведены. Модель распространяется под лицензией Apache-2.0 и предназначена для использования с библиотекой Transformers.

Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored-GGUF — специализированная текстовая модель, разработанная DavidAU на базе Qwen3-48B-A4B-Savant-Commander-Distill-12X-Closed-Open-Heretic-Uncensored. Она объединяет 12 дистиллированных экспертных моделей, включая модели закрытого и открытого исходного кода, в архитектуре Mixture of Experts. Версия является uncensored/abliterated: отдельные эксперты обработаны с использованием Heretic для удаления отказов и ограничений. Модель распространяется в формате GGUF по лицензии Apache-2.0. Модель предназначена для генерации текста, рассуждений, математики, программирования, ответов на вопросы и творческого письма, включая создание художественных историй, сцен, сюжетов, научной фантастики, романтики и контента для взрослой аудитории. Пользователь может указывать в запросе имена экспертов или их группы, например Gemini, Claude, GPT51, Kimi, GLM, AllAI, Closed-AI или Open-AI, чтобы управлять выбором активных компонентов. Заявлены контекст до 256 тысяч токенов и одновременная активация двух экспертов по умолчанию; всего доступно до 12 экспертов. Модель поддерживает запуск на CPU и частичную выгрузку с GPU. В README не указаны точный список языков, детальные параметры архитектуры и результаты стандартизированных тестов. Для приемлемой работы рекомендуются квантизации не ниже Q4_KS или IQ3_M, контекст от 4–8 тысяч токенов и температура около 0,7; увеличение числа активных экспертов снижает скорость генерации, а разные эксперты могут давать существенно различающиеся результаты.

Qwen3.5-21B-GLM-4.7-Flash-Heretic-Uncensored-Thinking — плотная мультимодальная модель на 21 млрд параметров от DavidAU, основанная на Qwen3.5-27B-Deckard-PKD-Heretic-Uncensored-Thinking. По карточке, исходную модель сначала освободили от ограничений безопасности, затем сократили с 27 до 21 млрд параметров и дообучили на наборе GLM 4.7 Flash Distill с помощью Unsloth. Заявлены 48 слоёв и контекст до 256 тысяч токенов. Модель предназначена для диалогов, рассуждений, генерации и продолжения прозы, ролевых сценариев, написания кода, а также анализа изображений. Карточка сообщает о вариативной длине рассуждений, поддержке обработки изображений и исправлениях шаблона диалога; модель по умолчанию использует режим Thinking. В описании представлены примеры работы, но независимые подтверждения заявлений о производительности не приведены. Репозиторий содержит веса Safetensors, библиотека — Transformers; лицензия — Apache-2.0. Модель явно ориентирована на генерацию контента без ограничений и может выдавать откровенные или графические материалы. Автор предупреждает о возможных повторах и зацикливании, особенно при низкой квантизации или недостаточно подробных запросах; качество и скорость могут зависеть от квантизации и настроек.

llmfan46/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking-uncensored-heretic-GGUF — GGUF-квантизация модели, разработанная независимым автором llmfan46 на базе llmfan46/Qwen3.5-40B-Claude-4.5-Opus-High-Reasoning-Thinking-uncensored-heretic. В README также указано использование набора данных TeichAI/claude-4.5-opus-high-reasoning-250x. Точные сведения о методе обучения и конкретных параметрах квантизации не приведены. Модель предназначена для диалогов, программирования, творческого письма, генерации и продолжения сюжетов, ролевых сценариев, а также работы с различными жанрами художественного текста. Заявлены английский и китайский языки. Модель относится к reasoning-моделям: по умолчанию она использует режим пошагового рассуждения с токенами <think>, при этом поддерживается instruct-режим без рассуждений через настройку chat template или параметров инференса. В README заявлена мультимодальная архитектура Qwen3.5 с поддержкой текста, изображений и видео, а pipeline обозначен как image-text-to-text. Указанный размер — 40B параметров. Среди сильных сторон заявлены высокое качество рассуждений, творческого письма и сниженное количество отказов по сравнению с исходной моделью. Ограничения включают отсутствие данных о размере контекстного окна, системных требованиях, точных характеристиках GGUF-файлов и результатах независимого тестирования; режим с уменьшенными отказами также может повышать риски небезопасной генерации. Лицензия указана как Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в результате совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель создана с применением многоэтапного дообучения и слияния нескольких версий, включая датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Заявленная цель — улучшить следование инструкциям, общее решение задач, рассуждения и интеллект без изменения основных возможностей базовой модели. Модель предназначена для широкого спектра сценариев: диалогов, анализа, программирования, решения задач, рассуждений, творческого письма, художественной прозы и ролевых взаимодействий. Указаны поддержка английского и китайского языков, а также vision, однако подробности о визуальной архитектуре и поддерживаемых форматах входных данных не приведены. Доступны обычные GGUF-квантизации и варианты MTP для multi-token prediction, включая 4-битные и 8-битные сборки; заявлена оптимизация NEO IMATRIX и частичное сохранение выходного тензора в 16-битной точности. К сильным сторонам относятся улучшенное следование инструкциям, решение задач и рассуждения, а также заявленная высокая производительность на ряде бенчмарков даже в низких квантизациях. Модель позиционируется как uncensored и heretic, то есть с ослабленными ограничениями безопасности, что может быть преимуществом для некоторых сценариев, но повышает риски нежелательного или небезопасного вывода. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance следует использовать обычную квантизацию. Лицензия Apache-2.0.

trymirai/Qwen3.6-27B-L — квантизированная версия языковой модели Qwen3.6-27B, подготовленная Mirai Labs для эффективного локального вывода на компьютерах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования большой языковой модели, включая задачи, поддерживаемые исходной Qwen3.6-27B. Точные сведения о назначении, языках и контекстном окне в этой карточке не приведены. Модель содержит 27 млрд параметров и использует посттренировочную 8-битную симметричную целочисленную квантизацию с масштабами bfloat16 и размером группы 64. Для уменьшения выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms с размером блока 32. По размеру и уровню квантизации checkpoint сопоставим с Unsloth UD-Q8_K_XL в формате GGUF. Ключевые преимущества — сохранение качества при уменьшенном размере и ориентация на эффективный локальный запуск. Основное ограничение — на данный момент поддерживается только inference на Apple silicon; характеристики, оценки и ограничения исходной модели Qwen3.6-27B следует уточнять в её оригинальной карточке. Модель распространяется по лицензии Apache 2.0.

trymirai/Qwen3.6-27B-M — это 4-битная квантованная версия языковой модели Qwen3.6-27B, подготовленная Mirai Labs для эффективного локального запуска на устройствах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования большой языковой модели, включая агентские задачи, диалоги и работу с длинным контекстом; подробные сведения о возможностях и ограничениях унаследованы от исходной модели Qwen3.6-27B. Ключевая особенность модели — 4-битное асимметричное целочисленное квантование с 4-битными zero points, масштабами bfloat16 и размером группы 64. Для снижения влияния выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. Квантование выполнено после обучения и дополнительно улучшено дистилляцией с учётом квантования. По размеру и уровню квантования модель сопоставима с вариантом Unsloth Q4_K_M GGUF. В README не указаны точный размер контекста, поддерживаемые языки, архитектурные детали исходной модели и результаты конкретных оценок. Сильной стороной является компромисс между размером и качеством: по заявлению разработчиков, checkpoint находится на границе Парето по размеру и KL-дивергенции, а также оптимизирован для эффективного локального вывода на Apple silicon. Ограничение — заявлена поддержка инференса только на Apple silicon; инструкции для запуска ориентированы на macOS и пакет mirai. Модель распространяется по лицензии Apache-2.0.

Mercor дообучила Qwen3.6-35B-A3B методом постобучения с подкреплением на готовых наборах данных APEX-Agents. Это мультимодальная модель семейства Qwen3.5 MoE для диалогов и анализа изображений; заявленная карточка Hugging Face задача — image-text-to-text. Модель доступна в формате Safetensors и рассчитана на применение через Transformers. Постобучение ориентировано на агентные сценарии и задачи, связанные с профессиональной работой со знаниями. Базовая модель описана как модель с 35 млрд параметров для диалогов, агентного программирования и анализа изображений; данных о длине контекста и поддерживаемых языках в предоставленных источниках нет. Модель распространяется по лицензии Apache-2.0.

sleepy186247 конвертировал модель llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved в формат MLX с точностью fp16; README указывает версию mlx-lm 0.31.2. Это мультимодальная MoE-модель семейства Qwen3.5, предназначенная для диалогов, анализа изображений и агентного программирования. Метаданные указывают архитектуру Qwen3_5MoeForConditionalGeneration, поддержку чата и зрения, а также задачу image-text-to-text. Модификация uncensored/heretic ослабляет ограничения на ответы. Репозиторий распространяется по лицензии Apache-2.0.

tripolskypetr/Qwen3.6-Uncensored-Aggressive-GGUF — это GGUF-квантизированная мультимодальная версия Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive, основанная на модели Qwen/Qwen3.6-35B-A3B. В README указано, что вариант разработан HauhauCS как версия без отказов в ответах; исходная архитектура относится к семейству Qwen. Модель предназначена для генерации текста, рассуждений, программирования и работы с изображениями и видео, включая сценарии, где требуется минимальное применение встроенных ограничений безопасности. Модель использует архитектуру MoE с 35 млрд общих параметров и примерно 3 млрд активных параметров на проход, 256 экспертами и маршрутизацией к 8 экспертам для каждого токена. Она содержит 40 слоёв, сочетает линейное внимание с полным softmax-вниманием в соотношении 3:1 и поддерживает нативный контекст до 262 тысяч токенов. Поддерживаются текст, изображения и видео; заявлены английский, китайский и другие языки. Для визуального ввода требуется отдельный файл mmproj. Сильными сторонами являются большой контекст, мультимодальность, высокая вычислительная эффективность MoE и широкий выбор квантизаций, включая оптимизированные K_P-варианты для llama.cpp, LM Studio и других GGUF-совместимых сред. Агрессивный вариант полностью снимает отказы, поэтому может генерировать потенциально небезопасный или нежелательный контент; это одновременно является его ключевой особенностью и ограничением для ответственных применений. README не сообщает результаты независимых бенчмарков и не уточняет точный набор языков. Модель распространяется по лицензии Apache-2.0.

Brooooooklyn/Qwen3.8-27B-MXFP4-mlx — это квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат MLX для Apple Silicon. Модель предназначена для генерации текста, работы с изображениями и текстом, а также задач программирования. Она относится к семейству Qwen3.5 и использует плотную языковую архитектуру из 64 слоёв: 48 слоёв с линейным вниманием и 16 слоёв с полным вниманием. В составе также есть BF16 vision tower и один слой MTP для ускоренного спекулятивного декодирования. Веса используют смешанную weight-only квантизацию: MXFP4 с группами по 32 элемента для части FFN-слоёв и MXFP8 с группами по 32 элемента для остальных основных модулей, включая attention, lm_head и последние восемь FFN-слоёв. Эмбеддинги, нормализации, vision tower, MTP-подсистема и другие исключённые тензоры сохранены в BF16. Контекстное окно и полный список поддерживаемых языков в представленном описании не указаны. Модель рассчитана на локальный запуск в экосистеме MLX и требует @mlx-node/lm и @mlx-node/core версии 0.0.10 или новее. К преимуществам относятся существенное уменьшение размера весов и совместимость с Apple Silicon, однако README не содержит результатов оценки качества, производительности, работы с длинным контекстом или изображениями, поэтому эти характеристики не подтверждены. Квантизация не использует калибровочные данные и не гарантирует эквивалентность NVIDIA NVFP4 или калиброванным схемам W4A4/W8A8. Исходная модель распространяется по лицензии Apache-2.0; вклад в возможности и обучение принадлежит Qwen Team, рецепт квантизации разработан Unsloth.

Chungulus/Qwen3.8-27B-Q3_K_M-GGUF — это независимая vanilla-квантизация модели Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp. Квантизация Q3_K_M выполнена без дообучения, слияния, изменения выравнивания или шаблона чата. Модель поддерживает генерацию текста, нативный tool calling, обработку изображений и видео, а также режимы управления рассуждением через параметры enable_thinking, reasoning_effort и preserve_thinking. Архитектура включает гибридную структуру Hybrid Gated DeltaNet/full-attention, vision tower и проектор; в репозитории сохранены MTP-тензоры, однако ускорение speculative decoding не заявлено. Основной файл занимает около 13,5 ГБ, vision projector — в формате F16, общий размер репозитория — около 14,4 ГБ. Для запуска рекомендуется не менее примерно 18 ГБ доступной памяти, при этом KV-cache дополнительно увеличивает потребление в зависимости от контекста. К сильным сторонам относятся сохранённые возможности исходной модели, проверенная поддержка текста, инструментов, изображений и видео, а также совместимость с нативным форматом вызова инструментов Qwen. Ограничение — возможное снижение качества из-за низкобитной квантизации; заявленные проверки не позволяют делать выводы о максимальной длине контекста. Для работы требуется runtime с поддержкой архитектуры Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Модель и её vanilla-квантизация распространяются по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель, опубликованная bielquants и основанная на базовой модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Это многоэтапная fine-tune-модель с использованием Unsloth, методов Cold Fusion и Fable Fusion, представленная в форматах GGUF с обычными и MTP-квантами. В README заявлена поддержка английского и китайского языков; карточка также указывает сценарий image-text-to-text, однако подробности о фактических визуальных возможностях не приведены. Модель предназначена для широкого спектра задач: рассуждений и решения задач, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Основной заявленный акцент — высокая детализация ответов при сокращении объёма внутренних рассуждений и расхода токенов по сравнению с обычной Qwen3.8, что должно повышать скорость генерации. Указан размер базовой модели 27B, а также поддержка трёх режимов мышления, но максимальный размер контекста в карточке не указан. Автор README заявляет превосходство над рядом базовых моделей по внутренним бенчмаркам ARC и высокую производительность на потребительском оборудовании, включая tool calling; эти результаты представлены как утверждения создателя и требуют независимой проверки. Возможные ограничения — отсутствие подробных данных о контексте, точной архитектуре модальности, системных требованиях и качестве на разных языках, а также потенциально нестандартное поведение из-за uncensored/abliterated-настройки. Модель распространяется по лицензии Apache-2.0.

iliaosipov998/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная fine-tune и merge-модель на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, подготовленная с использованием Unsloth и методов COLD FUSION и Fable Fusion. Репозиторий содержит обычные и MTP-варианты GGUF-квантов, включая версии с 4- и 8-битным представлением. Разработчик заявляет о создании модели для потребительского оборудования и о снижении объёма рассуждений по сравнению с базовой Qwen 3.8 27B при сохранении детализации и качества ответов. Модель предназначена для широкого спектра сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, ролевых диалогов и других универсальных применений. Заявлены поддержка английского и китайского языков, текстовый ввод и вывод; при этом в карточке присутствует тег image-text-to-text, но подробности о фактических мультимодальных возможностях не приведены. Архитектура, точное окно контекста и полный набор режимов работы не описаны, однако из названия и карточки следует размер базовой модели около 27B параметров и наличие MTP-режима. К заявленным сильным сторонам относятся высокая производительность на внутренних и упомянутых ARC-C и ARC-E тестах, уменьшенное количество рассуждающих токенов, ускоренная генерация, развитые способности к программированию и генерации подробных текстов. Эти результаты представлены авторами модели и не подтверждены независимыми измерениями в предоставленных данных. Ограничения включают возможную необъективность заявленных бенчмарков, отсутствие подробной информации о качестве, безопасности и поведении на других языках, а также позиционирование как uncensored/abliterated-модели, что может означать ослабленные защитные ограничения. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, распространяемая командой Smilyai-Labs-GRACE-team на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README заявлено использование методов COLD FUSION и Fable Fusion 711, а также инструментов Unsloth. Репозиторий содержит обычные GGUF-квантизации и варианты MTP GGUF, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого круга задач: рассуждений и решения проблем, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлены режимы thinking и reasoning, а основной акцент сделан на сокращении объёма рассуждений и ускорении генерации при сохранении детализации и качества ответов. Указаны английский и китайский языки. Метаданные также помечают модель как image-text-to-text, однако подробности о поддерживаемых визуальных входах и соответствующей архитектуре в README не приведены. К заявленным сильным сторонам относятся улучшенные результаты на внутренних и упомянутых в README тестах ARC-C и ARC-E, сокращение расхода токенов на рассуждения, высокая скорость, поддержка кодинга и творческих сценариев, а также наличие 4-битных и 8-битных GGUF-вариантов. Эти показатели представлены авторами модели и не сопровождаются независимой методикой проверки. Ограничения включают отсутствие данных о длине контекста, точных параметрах архитектуры, системных требованиях и качестве на широком наборе внешних тестов; заявления о «uncensored» также указывают на возможное отсутствие стандартных защитных ограничений. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-ROCmFP4-STRIX-GGUF — это квантованная версия базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем kingjones777. Модель предназначена для генерации текста, включая рассуждения, формирование JSON, программирование и суммирование длинных документов. Формат GGUF ориентирован на запуск через llama.cpp и совместимые среды. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4. Она оптимизирована прежде всего для AMD Ryzen AI Max+ 395, Strix Halo и GPU gfx1151 с ROCm, включая работу на интегрированной Radeon 8060S с общей памятью. В README указано, что размер модели составляет около 98 GiB, а работа с контекстом проверялась вплоть до 128K токенов. Доступна поддержка speculative decoding через дополнительную MTP-голову, однако измерения относятся к другим вариантам семейства и не гарантируют такой же прирост для этой сборки. Сильными сторонами являются возможность запуска очень крупной модели на системе с унифицированной памятью, поддержка длинного контекста и потенциальное ускорение генерации с MTP. Ограничения включают низкую пропускную способность общей памяти по сравнению с дискретными GPU, необходимость специальной ветки ROCmFPX с поддержкой qwen4exp и ROCmFP4, а также применения патчей перед сборкой; стандартный llama.cpp этот файл не загружает. Языки модели в предоставленных данных не указаны. Лицензия обозначена как other с названием qwen-community-1.0.

RedHatAI/Qwen3-Next-80B-A3B-Instruct-NVFP4 — квантизированная языковая модель для генерации текста и диалогового взаимодействия. Модель разработана Red Hat на основе Qwen/Qwen3-Next-80B-A3B-Instruct и использует архитектуру Qwen3NextForCausalLM. На вход принимает текст и возвращает текст; сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 по схеме NVFP4, при этом отдельные компоненты, включая lm_head, некоторые gate- и attention-слои, не квантизируются. По данным README, это уменьшает число бит на параметр с 16 до 4, а также приблизительно на 75% снижает размер модели на диске и требования к памяти GPU. Модель предназначена для инференса и может запускаться через vLLM; в приведённом примере используется tensor parallelism на двух GPU. Основное преимущество — существенное сокращение потребления памяти при сохранении назначения исходной instruct-модели. Ограничения связаны с использованием низкоразрядной квантизации, которая может влиять на качество генерации, а также с требованиями к совместимому программному и аппаратному окружению; количественная оценка влияния квантизации и подробные результаты бенчмарков в доступном фрагменте README отсутствуют. Модель распространяется по лицензии Apache-2.0.

RWKV/RWKV7-13.3B-20260805 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате Transformers. Это плотная авторегрессионная модель с архитектурой RWKV7 без механизма внимания: она поддерживает обучение с параллельной обработкой и генерирует текст с постоянным размером рекуррентного состояния и постоянной вычислительной работой на токен. В метаданных указано 14,6 млрд параметров; в README размер обозначен как 13,3 млрд. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях. Она предназначена для оценки, последующего обучения и дообучения, а также для генерации текста и экспериментов с диалоговыми сценариями. Шаблон чата поддерживает системные сообщения, многоходовые диалоги, режим рассуждений и запросы на вызов инструментов, но сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживаются английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки. Постоянный размер состояния позволяет не наращивать KV-кэш внимания при генерации. Ограничения включают зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения; спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний. Оптимизированное исполнение зависит от GPU, типа данных и формы входа, а полноценный режим TileLang требует отдельной проверки численной совместимости. README не заявляет оценки безопасности, предвзятости, токсичности или фактической точности. Модель распространяется по лицензии Apache-2.0.

RWKV7-1.5B-20260805 — базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная рекуррентная модель для генерации текста с 1,5 млрд параметров: архитектура не использует attention, поддерживает обучение с параллелизацией и хранит состояние постоянного размера, поэтому память инференса не растёт как KV-кэш при генерации токенов. В репозитории есть токенизатор и шаблон чата для системных и многоходовых запросов, включая форматирование вызовов инструментов; шаблон задаёт интерфейс промпта и сам по себе не означает, что модель прошла выравнивание для безопасного диалога. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Она предназначена для оценки, генерации текста, последующего дообучения и постобучения. В карточке заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Распространяется в формате safetensors, лицензия Apache-2.0. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промптов и постобучения; модель не заявлена как безопасный или выровненный ассистент, а оценка фактической точности, предвзятости и токсичности не приводится. Спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний. Производительность ускоренного исполнения зависит от GPU, типа данных и формы пакета; неподдерживаемые настройки используют PyTorch.

RWKV/RWKV7-G1j-7.2B-20260831 — официальная базовая языковая модель RWKV-7 «Goose», выпущенная BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM с 7,8 млрд параметров, представленная в Safetensors. Архитектура не использует attention: она поддерживает рекуррентное состояние постоянного размера, а вычислительная стоимость генерации каждого токена постоянна; обучение при этом можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждательных данных. Она предназначена для генерации продолжений текста, оценки, последующего обучения и дообучения. Шаблон диалога позволяет формировать многоходовые и thinking-промпты, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В карточке перечислены английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки; размер контекста не приведён. Модель распространяется по лицензии Apache-2.0. Среди ограничений: качество следования инструкциям и языковое поведение зависят от промптинга и дополнительного обучения; откат рекуррентного кэша для speculative decoding не поддерживается без сохранения предыдущих состояний. Оптимизированный инференс зависит от GPU, типа данных и формы батча, а полное исполнение через TileLang требует отдельной проверки численного соответствия. Для модели не заявлена оценка безопасности, предвзятости, токсичности, фактической точности или пригодности для критически важных сценариев.

RWKV-7-G1k-13.3B-20260930 — официальная базовая языковая модель BlinkDL на архитектуре RWKV-7 Goose, предназначенная для генерации текста, оценки, последующего обучения и дообучения. В метаданных указано 14,6 млрд параметров; модель опубликована в формате Transformers с весами Safetensors и шаблоном для диалоговых промптов. RWKV-7 — рекуррентная архитектура без механизма внимания: её состояние имеет постоянный размер, а вычислительная работа на токен не растёт с длиной сгенерированной последовательности. Модель обучалась на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Это базовая, а не выровненная по безопасности ассистентская модель: качество следования инструкциям и поведение зависят от промпта и последующего обучения. Указаны ограничения для спекулятивного декодирования с откатом рекуррентного кэша; ускоренный запуск зависит от GPU, типа данных и размеров входа. Модель распространяется по лицензии Apache-2.0.

RWKV-7 Goose — базовая авторегрессионная языковая модель на 1,5 млрд параметров, официальный выпуск BlinkDL в формате Transformers. Она предназначена для генерации текста, оценки моделей и последующего дообучения. Архитектура RWKV-7 не использует attention: модель поддерживает рекуррентное состояние постоянного размера и постоянные вычислительные затраты на каждый новый токен; обучение при этом можно распараллеливать. В репозитории есть шаблон чата и поддержка вызова функций, но это интерфейс промпта, а не свидетельство безопасного или выровненного поведения ассистента. Модель предварительно обучена на веб-текстах, коде, синтетических, инструкционных, диалоговых и рассуждающих данных. В карточке заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промптинга и последующего обучения; оценка безопасности, предвзятости и фактической точности не заявлена. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний; ускоренный TileLang-инференс требует проверки совместимости и точности для конкретной конфигурации.

Это экспериментальный чекпойнт Grug 67B, дообученный командой Marin на корпусе Nemotron Terminal и опубликованный в формате BF16 для Hugging Face и vLLM. Модель создана для диалогового взаимодействия и выполнения задач в терминале; метаданные также указывают интерфейс вызова инструментов. Это причинная языковая модель семейства Grug MoE с архитектурой mixture-of-experts и 2,8 млрд параметров. Контекстное окно — 32 768 токенов. Обучение началось с Grug 67B stage-2 thinking checkpoint на шаге 630 и продолжалось 1 888 шагов на данных Nemotron Terminal Corpus. Модель оценивали в кампании воспроизведения OpenThoughts-TBLite с помощью Terminus-2, однако результаты оценки хранятся отдельно, поэтому качество выполнения конкретных задач из карточки установить нельзя. Лицензия — Apache-2.0.

Это экспериментальная квантизация ASHQ1 модели Spark-X2.5-1.7B, подготовленная wepiqx на основе XHToken/Spark-X2.5-1.7B. Модель представляет собой плотный декодер архитектуры spark2_5 примерно на 1,7 млрд параметров; в репозитории представлены файлы GGUF, включая вариант BF16. Для запуска указана поддержка штатной llama.cpp. Модель предназначена для генерации текста и диалогов, а базовая Spark-X2.5 поддерживает задачи с кодом, переводом, рассуждениями и агентными сценариями. У неё гибридное внимание: один слой с полным вниманием на три слоя с оконным; заявлен контекст до 1 млн токенов. Карточка приводит сравнение перплексии вариантов квантизации, но отмечает, что такие результаты не являются достаточной оценкой качества, а ранжирование пока предварительное. Репозиторий распространяется по лицензии Apache-2.0. Это производный квантованный выпуск; качество и поведение могут зависеть от выбранного файла GGUF и степени снижения точности.

Swift-Qwen3.8-27B-Uncensored-NVFP4-LocalHessian-ActivationHeadroom-NInfer — мультимодальная модель, разработанная на базе d0xin/Swift-Qwen3.8-27B-Uncensored-BF16 и распространяемая в формате NInfer. Это квантованная сборка семейства Swift-Qwen3.8 с поддержкой текстовых и визуальных входов, рассуждений, агентских сценариев, вызова инструментов и длинного контекста. Модель позиционируется как версия с существенно сниженным количеством отказов, однако это также уменьшает встроенную фильтрацию безопасности. Архитектура использует смешанную точность: MLP-слои 0–55 работают в NVFP4 W4A4, остальные MLP-слои, проекции self-attention и linear-attention/GDN, эмбеддинги и LM head — в row-wise FP8, а GDN a/b — в BF16. Калибровка выполнена с помощью NVIDIA ModelOpt Local-Hessian, activation headroom и подбора FP8-масштабов. Размер модели — 27B параметров; точный набор поддерживаемых языков в README не указан. По заявленным измерениям на NVIDIA RTX PRO 6000 Blackwell сборка обеспечивает на 20,4–26,6% более высокую скорость декодирования, на 33,8–38,2% более высокую скорость prefill и на 15,1% меньшее потребление VRAM по сравнению с FP8. На фиксированной выборке MMLU-Pro она показала 80,36% точности при рекомендованном thinking budget 2048, но результаты зависят от оборудования и конфигурации. Рекомендуется использовать NInfer с NVIDIA Blackwell sm_120a; работа на RTX 5090 ожидается, но непосредственно автором не проверялась. Лицензия — Swift Open License 1.0.

TableGPT2-7B — языковая модель Zhejiang University для анализа таблиц и задач, связанных со структурированными данными. Это дообученная модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она принимает текст и табличные данные, представленные в текстовом виде, например как результат df.head(), и формирует текстовые ответы. Модель предназначена для интерпретации таблиц, генерации кода, ответов на вопросы бизнес-аналитики и обработки запросов к базам данных и хранилищам. В карточке заявлена длина контекста 32 768 токенов; README приводит для обучения конфигурации контекст в 128K токенов, поэтому фактический предел использования следует сверять с настройками конкретной сборки. Модель отдельно описана как декодер, способный работать без специализированного семантического энкодера, интеграция которого ещё готовится. Основной акцент обучения сделан на китайских данных; поддержка других языков, включая английский, может быть ограниченной. Данные обучения имеют срез на октябрь 2024 года, поэтому модель не отражает более поздние сведения. Распространяется по лицензии Apache-2.0.