I.14Автоматизация процессов и AI-агенты

GLM-5.3-Flash-GGUF — это квантизированные GGUF-версии языковой модели GLM-5.3-Flash от zai-org, подготовленные пользователем 6block с помощью llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp; заявлены поддерживаемые языки английский и китайский. Она подходит для сценариев, где требуется большая языковая модель с длинным контекстом и возможностью подобрать объём файлов под доступные ресурсы. Модель содержит 320 млрд параметров, из которых 18 млрд активируются на токен, и поддерживает контекст до 1 млн токенов. Архитектура включает 45 слоёв с гибридным вниманием: 34 слоя KDA linear attention чередуются с 11 слоями DSA sparse attention; используется MLA, Manifold-Constrained Hyper-Connections (mHC) и MoE с 288 экспертами, маршрутизацией top-8 и общим экспертом. В репозитории представлены варианты IQ4_XS, IQ3_XXS, IQ2_XS и IQ1_M размером примерно от 65 до 155 GiB, каждый разделён на 15 частей. Квантизация выполнена из официальных BF16-весов с калибровкой imatrix; слой MTP NextN исключён. IQ4_XS и IQ3_XXS рекомендуются авторами как предпочтительные варианты: IQ2_XS и IQ1_M заметно теряют качество, хотя требуют меньше места. Для запуска необходимо скачать все 15 частей выбранного варианта и указать первый файл в llama-cli; распределение слоёв по доступной памяти llama.cpp выполняет автоматически. Лицензия MIT, унаследованная от исходной модели zai-org/GLM-5.3-Flash.

granite-4.2-3b-GGUF — это квантованная версия языковой модели granite-4.2-3b, разработанной IBM (ibm-granite) и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, диалоговых сценариев и вызова инструментов. Она принимает только текстовые данные и поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель содержит около 4 млрд параметров. Квантование выполнено с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантов размером примерно от 1,57 до 7,32 ГБ. В README не указаны архитектура и размер контекстного окна, а speculative decoding не поддерживается. Более компактные варианты экономят оперативную память, но могут снижать качество; Q4_K_M обозначен как сбалансированный вариант для большинства сценариев, а Q5–Q6 — как варианты с более высоким качеством. Модель распространяется по лицензии Apache-2.0. Для корректной работы рекомендуется использовать указанный шаблон prompt с секцией рассуждений <think> и совместимый рантайм llama.cpp.

GritLM-8x7B-KTO — версия GritLM, разработанная Contextual AI и обученная методом KTO. GritLM объединяет генерацию текста и создание текстовых представлений в одной языковой модели; семейство включает вариант на архитектуре Mixtral 8x7B. В репозитории указаны веса Safetensors и лицензия Apache-2.0. Модель предназначена для диалоговой генерации текста и задач, где нужны текстовые представления, например поиск по смыслу и сопоставление текстов. Контекст составляет до 32 768 токенов. Карточка не приводит отдельные результаты или ограничения качества именно версии KTO; пригодность для конкретного сценария следует оценивать на его данных.

Instruct_Llama3_8B — авторегрессионная языковая модель на архитектуре Llama 3, дообученная Brillibits на разнообразных источниках данных. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста по инструкциям на английском языке; для общения используется формат промпта с системной частью и инструкцией. Модель обучали два этапа эпох с использованием QDora; в README указан контекст обучения 4096 токенов, а в метаданных — нативный контекст 8192 токена. Подходит для ответов на вопросы, выполнения текстовых инструкций и других сценариев генерации текста. Доступна в формате safetensors по лицензии Llama 3.

Llama-3_1-Nemotron-51B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Llama-3_1-Nemotron-51B-Instruct, разработанной NVIDIA и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp и LM Studio. Указан английский язык. Модель имеет 51 млрд параметров и доступна в форматах от F16 до различных вариантов 3-, 4-, 5-, 6- и 8-битного квантования. Размер файлов варьируется примерно от 23,49 до 103,01 ГБ. Квантизация выполнена с использованием imatrix; в карточке также отмечено исправление RoPE. Для работы следует использовать указанный шаблон инструкций с системным, пользовательским и ассистентским сообщениями. Контекст модели, архитектурные детали исходной версии и дополнительные модальности в README не указаны; по имеющимся данным это текстовая модель. Сильными сторонами являются широкий выбор вариантов квантования, возможность подобрать баланс между качеством и требованиями к памяти, а также поддержка llama.cpp и LM Studio. Более компактные варианты экономят память, но могут уступать полноразмерной версии по качеству. Для использования применяются условия NVIDIA Open Model License; конкретные ограничения следует проверять в тексте лицензии по указанной ссылке.

Fu01978 разработал Llama-3.2-1B-4B-Quad-MoE — языковую модель с разреженной архитектурой Mixture of Experts для генерации текста и диалогов. В состав объединённой модели входят четыре эксперта на базе моделей Llama 3.2: инструктивная модель общего назначения, базовая модель для творческого текста, специалист по коду и специалист по математике. Метаданные указывают архитектуру MixtralForCausalLM и библиотеку Transformers. В README заявлены 3,65 млрд параметров всего и 1,24 млрд активных параметров на токен; метаданные каталога указывают 1,2 млрд параметров. Заявленная длина контекста — 131 072 токена, основной язык карточки — английский. Модель подходит для диалогов, написания текста, помощи с кодом и математических рассуждений. Доступна в формате Safetensors и распространяется по лицензии Llama 3.2.

Locutusque разработал Locutusque/llama-3-neural-chat-v2.2-8B как дообученную модель Meta Llama 3 8B. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и рассчитана на генерацию текста в диалоговом формате; заявленный контекст — 8192 токена. Для обучения использовались SFT и DPO-Positive, а данные были изменены для усиления навыков программирования, математики и письма. Модель предназначена для разговорного ИИ, генерации текстов, помощи с кодом и решения математических задач. В README приведены результаты оценок TruthfulQA и GSM8K, но подробный рецепт обучения не опубликован. Модель описана как очень малоцензурированная и может отвечать на широкий круг запросов. Указана лицензия Llama 3; в метаданных лицензия обозначена как other.

Llama-SEA-LION-v3.5-70B-R — гибридная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании NRF Сингапура. Это плотная авторегрессионная модель-декодер на архитектуре Llama 3.1 с 69,5 млрд параметров, дообученная на инструкциях на базе Llama-SEA-LION-v3-70B-IT. Режим рассуждений или обычной генерации выбирается через шаблон чата токенизатора. Модель предназначена для диалога, генерации текста, рассуждений и выполнения инструкций, в том числе на языках Юго-Восточной Азии. Поддерживает бирманский, китайский, английский, филиппинский, индонезийский, яванский, кхмерский, лаосский, малайский, сунданский, тамильский, тайский и вьетнамский языки. Контекст составляет до 128 тыс. токенов по README; метаданные указывают 131 072 токена. Доступна в формате Safetensors и запускается через Transformers. Модель оценивалась на задачах вопросов и ответов, анализа тональности, обнаружения токсичности, перевода, суммаризации, причинного рассуждения и следования инструкциям. Она может галлюцинировать и давать нерелевантные или непоследовательные ответы. Модель не прошла настройку безопасности, поэтому ответы следует проверять, а для развёртывания предусмотреть собственные меры безопасности. Лицензия — Llama 3.1 Community License.

Marlowe-22B R1.5 — модель генерации текста с рассуждениями, созданная devvexus на основе Qwen3.8-27B. Разработчик удалил 12 линейно-аттенционных слоёв из исходной 27,32-миллиардной модели и восстановил часть потерь знаний дистилляцией и целевым дообучением. В репозитории опубликован GGUF-файл с квантизацией Q4_K_M; адаптер LoRA объединён с весами. Модель содержит 22,30 млрд параметров и 52 слоя, включая 36 слоёв DeltaNet и 16 слоёв полного внимания. Модель предназначена для диалогов и генерации текста с рассуждениями, в том числе инженерных и научно-технических задач. По описанию разработчика, сокращённая модель сохраняет 94,8% проверенных фактов родительской модели и рассчитана на запуск целиком на потребительском GPU с 16 ГБ памяти при Q4_K_M. Для запуска приведена конфигурация llama.cpp с контекстом 32 768 токенов и квантованием KV-кэша. В карточке указаны английский язык и лицензия Apache-2.0. Модель сохраняет часть возможностей Qwen3.8-27B, но её зрительная башня удалена, поэтому этот вариант предназначен для работы с текстом, а не с изображениями или видео. Разработчик отмечает сохраняющийся разрыв с исходной моделью в физике, статистике, информатике и вычислениях с вращениями и тригонометрией.

MaziyarPanahi/Meta-Llama-3.1-405B-Instruct-GGUF — это набор файлов модели в формате GGUF для Meta-Llama-3.1-405B-Instruct, разработанной Meta (meta-llama) и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, в локальных приложениях на базе llama.cpp и совместимых библиотек и интерфейсов. Модель имеет размер 405 миллиардов параметров, относится к текстовым моделям и поддерживает языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В репозитории представлены варианты квантизации с разрядностью 2 и 3 бита; конкретные характеристики зависят от выбранного файла. В примере указано контекстное окно до 131 072 токенов. Формат GGUF упрощает локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другими инструментами. Сильными сторонами являются большой размер исходной модели, поддержка нескольких языков, инструкционное обучение, длинный контекст и возможность локального использования с квантизированными файлами. Ограничениями остаются очень высокие требования к вычислительным ресурсам, возможные потери качества из-за агрессивной квантизации и отсутствие в README подробных данных о точности, производительности и рекомендуемом оборудовании. Модель распространяется по лицензии Llama 3.1.

unsloth/Meta-Llama-3.1-70B-bnb-4bit — это 4-битно квантованная версия базовой модели Meta Llama 3.1 70B, подготовленная Unsloth для эффективного использования и дообучения. Модель предназначена прежде всего для генерации и обработки текста, включая диалоговые сценарии, продолжение текста и адаптацию под специализированные наборы данных с помощью fine-tuning или DPO. Указан английский язык и поддержка библиотеки Transformers; мультимодальность не заявлена. Ключевая характеристика модели — размер 70 млрд параметров и представление в формате bnb-4bit, снижающее требования к памяти по сравнению с полной точностью. README не содержит сведений о длине контекста, точной архитектуре, вычислительной производительности именно этой версии или результатах оценки качества. К сильным сторонам относятся крупный размер базовой модели и возможность более доступного запуска и дообучения; ограничениями являются повышенные требования к вычислительным ресурсам по сравнению с меньшими моделями и возможные потери качества из-за 4-битной квантизации. Модель распространяется по лицензии llama3.1.

mlx-community/Meta-Llama-3.1-70B-Instruct-4bit — 4-битная квантованная версия инструкционной большой языковой модели Llama 3.1, разработанной Meta и адаптированной сообществом mlx-community для экосистемы MLX. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые сценарии, ответы на вопросы, подготовку и преобразование текстов и другие задачи обработки естественного языка. Известно, что модель содержит 70 миллиардов параметров и работает в формате 4-bit quantization, что снижает требования к памяти по сравнению с полноразмерной версией и делает локальный запуск более доступным при совместимом оборудовании и программном обеспечении. Заявлены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В карточке указаны библиотеки Transformers и MLX, однако архитектура и размер контекстного окна не уточнены. Модель подходит для локального инференса и приложений, где важны качество инструкционного следования и многоязычная генерация. К ограничениям относятся высокие вычислительные требования, обусловленные размером 70B, возможные потери качества из-за 4-битного квантования и отсутствие в предоставленных данных сведений о мультимодальности, точных характеристиках производительности и контекстном окне. Использование регулируется Llama 3.1 Community License от Meta: при распространении материалов или производных продуктов требуется соблюдать условия лицензии, включая указание «Built with Llama», сохранение уведомления об авторских правах и Acceptable Use Policy; для продуктов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено получение отдельной лицензии Meta.

MiniCPM5-2B GGUF — набор GGUF-квантизаций модели MiniCPM5-2B, разработанной OpenBMB и подготовленной для локального развертывания. Это плотная Llama-based модель примерно на 2 млрд параметров, предназначенная для генерации текста, программирования, рассуждений, работы с длинным контекстом и использования инструментов. Модель работает только с текстом и поддерживает английский и китайский языки. Исходная модель имеет нативный контекст до 131 072 токенов (128K). Доступны варианты квантизации Q2_K, Q3_K_M, Q4_0, Q4_K_S, Q4_K_M, Q5_K_M, Q6_K, Q8_0, IQ2_M, IQ3_M и IQ4_XS размером примерно от 0,97 до 2,68 ГБ. Файлы содержат встроенный chat template и рассчитаны на использование с актуальными сборками llama.cpp с поддержкой MiniCPM5. К сильным сторонам относятся небольшой размер, возможность локального запуска, поддержка очень длинного контекста и широкий выбор квантизаций для компромисса между качеством и требованиями к памяти. Поддержка вызова инструментов зависит от парсера и API-интеграции конкретного сервера, поэтому её необходимо проверять в целевом окружении. Модель распространяется по лицензии Apache-2.0.

chargoddard/mistral-11b-slimorca — текстовая генеративная модель, созданная Chargoddard дообучением на двух эпохах датасета Open-Orca/SlimOrca. Она использует формат запросов Mistral Instruct и предназначена для диалогов и генерации ответов по инструкциям. Модель основана на варианте рецепта Mistral 11B: до обучения добавленные слои были настроены так, чтобы выход совпадал с Mistral 7B. Это плотная архитектура MistralForCausalLM с 10,6 млрд параметров и контекстом до 32 768 токенов. В карточке приведены результаты нескольких тестов, но они не гарантируют качество в конкретных прикладных сценариях. Модель распространяется по лицензии Apache-2.0.

Mistral-7B-Instruct-v0.3 — инструкционная языковая модель семейства Mistral, разработанная Mistral AI и преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.0. Модель содержит около 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для диалогового взаимодействия, генерации ответов на инструкции, написания и преобразования текста, суммирования и ответов на вопросы. Формат MLX ориентирован на запуск через библиотеку mlx-lm на совместимом оборудовании Apple. Модель распространяется по лицензии Apache-2.0.

neural-chat-7b-v3-2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi объединением Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3-2 методом SLERP. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и выдаёт текст; её контекстное окно составляет до 32 768 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, следования текстовым инструкциям и генерации текста общего назначения. В метаданных указана лицензия Apache-2.0. Данных о специальных ограничениях качества или целевых областях применения в предоставленной карточке нет.

Nex-N2.5-Pro-GGUF — квантизированная мультимодальная версия модели Nex-N2.5-Pro, разработанная nex-agi и преобразованная в формат GGUF командой qtum с использованием llama.cpp. Модель предназначена для генерации и понимания текста, а также анализа изображений в сценариях локального запуска через llama.cpp. Модель содержит 397 млрд параметров и использует гибридную архитектуру: 45 слоёв линейного внимания Gated DeltaNet и 15 слоёв полного внимания с GQA. Это MoE-модель: для каждого токена выбираются 10 из 512 экспертов и общий эксперт. Контекст — до 262 144 токенов, словарь — 248 320 токенов. Поддерживаются английский и китайский языки. Для обработки изображений используется отдельный 27-слойный vision encoder с входом 768 пикселей и патчами 16 пикселей; проектор поставляется в формате BF16. Модель доступна в вариантах IQ4_XS, Q2_K и IQ2_XS, занимающих примерно 200,1, 138,9 и 113,2 ГиБ соответственно. IQ4_XS обеспечивает качество, близкое к BF16-версии, Q2_K является более сбалансированным вариантом и рекомендуется для инференса только на CPU, а IQ2_XS предназначен для систем с жёсткими ограничениями по памяти, но с заметно большей потерей точности. Для работы с изображениями рекомендуется выделять не менее 1024 image tokens. Необходима сборка llama.cpp с поддержкой Qwen3.5-MoE; все 19 шардов выбранной квантизации нужно хранить в одной директории. Модель распространяется по лицензии Apache-2.0.

Weyaxi/OpenHermes-2.5-neural-chat-v3-3-openchat-3.5-1210-Slerp — объединённая языковая модель, созданная разработчиком Weyaxi с помощью mergekit и метода slerp на основе OpenHermes-2.5-neural-chat-v3-3-Slerp и OpenChat 3.5-1210. Веса построены на архитектуре MistralForCausalLM; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Базовая модель OpenChat 3.5-1210 ориентирована на программирование, математические рассуждения и общие текстовые задачи; README не приводит отдельной оценки качества или подробных сценариев для данного слияния. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Как и другие языковые генеративные модели, она может выдавать неточные или непроверенные ответы; особые ограничения именно этой версии в карточке не описаны.

Phi-3-mini-128k-instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Phi-3-mini-128k-instruct, разработанной Microsoft. Квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая обработку естественного языка и кода; в метаданных указан английский язык. Это текстовая, а не мультимодальная модель. Ключевая характеристика модели — контекстное окно до 128 000 токенов. Репозиторий содержит варианты с квантизацией от 2 до 8 бит, а также версию f16 размером 7,64 ГБ. Рекомендуемыми считаются Q4_K_M как сбалансированный вариант, а также Q5_K_M и Q5_K_S с меньшими потерями качества. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; для Q2_K, Q3 и некоторых Q4-вариантов это прямо отмечено в описании. Модель может использоваться локально через совместимые инструменты GGUF и LlamaEdge; для запуска требуется LlamaEdge версии 0.12.2 или выше и шаблон запросов phi-3-chat. В README не приведены результаты тестирования, точное число параметров, требования к аппаратному обеспечению или сведения о качестве на конкретных задачах. Модель распространяется по лицензии MIT.

Phi-4-mini-instruct-mlx-fp16 — версия модели Microsoft Phi-4-mini-instruct, преобразованная SkyStar-tech в формат MLX для запуска на устройствах Apple с использованием mlx-lm. Это плотная авторегрессионная языковая модель с 3,8 млрд параметров и контекстом до 4096 токенов. Она предназначена для диалогов, генерации текста и кода, а также рассуждений в приложениях с ограниченными ресурсами. Поддерживает английский, русский и другие языки, перечисленные в карточке модели. Репозиторий использует формат safetensors и лицензию MIT; README указывает преобразование в MLX с помощью mlx-lm 0.31.2.

Карточка модели filippovg199/Qwen2.5-7B-Instruct-abliterated-v2 на Hugging Face совпадает с карточкой huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, поэтому описание составлено по ней. Qwen2.5-7B-Instruct-abliterated-v2 — доработанная методом abliteration версия инструктивной языковой модели Qwen2.5-7B-Instruct, созданная huihui-ai. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалогов и генерации текста; она поддерживает контекст до 32 768 токенов и предназначена для работы через библиотеку Transformers. В карточке отмечены чат-возможности и интерфейс вызова инструментов. Версия позиционируется как менее ограниченная в отказах на запросы, чем исходная модель. В README приведены оценки IF_Eval 77,82, MMLU Pro 42,03 и TruthfulQA 57,81; результаты отдельных тестов отличаются от исходной Qwen2.5-7B-Instruct. Метаданные указывают языковые теги для китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского. Модель распространяется по лицензии Apache-2.0.

cyankiwi/Qwen3.5-2B-AWQ-4bit — 4-битная AWQ-квантизированная версия мультимодальной модели Qwen3.5-2B, основанной на Qwen/Qwen3.5-2B и разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования и агентских сценариев. Формат совместим с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель содержит около 2 млрд параметров, использует архитектуру causal language model с vision encoder, гибрид Gated Delta Networks и разреженной Mixture-of-Experts, 24 слоя и контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Квантизация AWQ до 4 бит снижает требования к памяти и может повысить эффективность инференса, однако возможны потери качества по сравнению с полноразмерными весами; точные характеристики квантизации и результаты бенчмарков именно этой сборки в README не приведены. Основные сценарии использования — прототипирование, исследовательские и разработческие задачи, а также предметно-ориентированное дообучение. Небольшой размер облегчает локальное и экономичное развертывание, но ограничивает максимальную глубину и надежность результатов по сравнению с более крупными моделями. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-text-only — текстовый вариант семейства Qwen3.5, опубликованный Principled Intelligence. Из контрольной точки удалены веса визуального энкодера, поэтому модель сохраняет языковую часть и генерирует текст, занимая меньше места на диске и в памяти. Архитектура — плотная причинная языковая модель Qwen3.5 с примерно 7,2 млрд параметров; заявленная длина контекста — 262 144 токена. Модель предназначена для диалогов и генерации текста в задачах, поддерживаемых исходной языковой моделью Qwen3.5. По карточке, она использует тот же токенизатор и шаблон чата, что и исходная модель; загрузка поддерживается через Transformers, начиная с версии 5.2.0. Контрольная точка распространяется в формате safetensors по лицензии Apache-2.0. Удаление визуального энкодера уменьшает размер файлов примерно на 7%, а потребление VRAM — примерно на 5% по сравнению с Qwen3.5-9B. Модель не принимает изображения. В README указана проверка только с Transformers; совместимость с vLLM, SGLang, llama.cpp, Ollama и другими движками пока не заявлена. Автор также характеризует публикацию как экспериментальную, а не как готовую производственную линейку.

Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-MLX-mxfp4 — это мультимодальная языковая модель на базе Qwen3.5-9B, разработанная HauhauCS и преобразованная TheCluster в формат MLX. Модель предназначена для генерации и анализа текста, работы с изображениями и видео, а также для сценариев, где требуется модель без встроенных отказов на запросы. Модель содержит 9 миллиардов плотных параметров и 32 слоя. Она использует гибридную архитектуру с линейным вниманием Gated DeltaNet и полным softmax-вниманием в соотношении 3:1, поддерживает Multi-Token Prediction и контекст длиной 262 тысячи токенов с возможностью расширения до 1 миллиона через YaRN. Заявлены нативная мультимодальность для текста, изображений и видео, словарь на 248 тысяч токенов и поддержка 201 языка, включая английский, китайский и русский. Ключевая особенность — агрессивное удаление отказов: согласно карточке, модель не отказывается отвечать на запросы, сохраняя заявленные возможности исходной модели. При этом она может иногда добавлять краткие дисклеймеры в конце ответа. Модель квантизована в формате mxfp4 с эффективностью 4,821 бит на вес, поэтому её характеристики следует оценивать с учётом квантизации. Для использования доступны отдельные рекомендуемые параметры генерации для режимов с рассуждением и без него. Модель распространяется по лицензии Apache 2.0.

Это GGUF-сборка модели Qwen3.6-27B-AEON-Ultimate-Uncensored от AEON-7, подготовленная theLittleStone для запуска через llama.cpp или LM Studio. В репозитории заявлена поддержка MTP (Multi-Token Prediction); по назначению это диалоговая языковая модель для генерации текста, рассуждений, решения математических задач и программирования. В метаданных указаны 27B в названии базовой модели, поддержка английского и китайского, формат GGUF и лицензия Apache-2.0. Модель происходит от дообученной AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и содержит восстановленную MTP-голову. README описывает её как uncensored-вариант с ослабленными отказами и приводит собственные заявления о сохранении способностей; это заявления автора карточки, а не независимая оценка. Доступна стандартная K-Quant сборка; автор рекомендует вместо неё iMatrix-квантование для лучшего качества при том же уровне квантования. README предлагает использовать llama.cpp или LM Studio. Условия лицензии — Apache-2.0.

Qwen3.8-27B-GPTQ-W4A8-MTP-Ampere — квантованная версия базовой модели Qwen/Qwen3.8-27B; разработчик в README явно не указан. Модель предназначена для генерации текста и инференса через vLLM, включая сценарии с OpenAI-совместимым API. Профиль запуска рассчитан на текстовые задачи; мультимодальная обработка не включена, несмотря на наличие vision tower в базовой конфигурации. Модель использует GPTQ-квантование: веса декодера представлены в INT4 с размером группы 128, language model head — в INT8, эмбеддинги упакованы в INT8, а MTP-модуль для speculative decoding — в INT4. Предусмотрены FP8 KV-кэш и генерация до трёх черновых токенов MTP за шаг. Заявленная максимальная длина контекста — до 250 000 токенов, однако фактические возможности зависят от доступной памяти и настроек запуска. Для работы требуется две видеокарты NVIDIA с 24 ГБ VRAM, например RTX 3090, Linux с совместимыми CUDA и драйверами, Python 3.11 и строго указанная версия vLLM 0.27.1. К сильным сторонам относятся снижение требований к памяти по сравнению с полноразмерной BF16-моделью и ускорение генерации благодаря speculative decoding. Ограничения включают возможное ухудшение качества из-за квантования весов и FP8 KV-кэша, необходимость специального compatibility layer и отказ от запуска с другими версиями vLLM, а также привязку тестового профиля к двум GPU. Модель распространяется по лицензии Apache 2.0.

PollardWeights/Qwen3.8-27B-Pollard — это квантизированная версия модели Qwen/Qwen3.8-27B, подготовленная командой PollardWeights. Модель предназначена для диалоговых и текстовых задач, а также может работать с изображениями при использовании отдельного vision-проектора mmproj-Qwen3.8-27B-bf16.gguf. Она поставляется в формате GGUF и совместима с llama.cpp, ik_llama.cpp, Ollama, LM Studio и другими приложениями на их основе. Модель содержит около 27,8 млрд параметров и использует архитектуру qwen3_5. В репозитории доступны варианты IQ3_S, IQ4_XS и Q6_K размером примерно 12,08, 15,72 и 22,43 ГБ соответственно. Это варианты mixed-precision квантизации с измеренным распределением битов по слоям, учитывающим их чувствительность, поэтому они рассчитаны на разные ограничения по оперативной памяти или VRAM. Основной README указывает английский язык; размер контекста не указан. К сильным сторонам относятся существенное уменьшение размера по сравнению с версией f16 — с 55,56 до 12,08 ГБ для IQ3_S — и возможность локального запуска на более доступном оборудовании. К ограничениям относятся потенциальная потеря качества из-за квантизации, зависимость производительности от оборудования и необходимость отдельного, неквантизированного vision-проектора для работы с изображениями. Лицензия — Apache-2.0, унаследованная от базовой модели.

ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF — это набор GGUF-квантизаций мультимодальной модели Qwen3.8-Flash-Next, разработанный Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель предназначена для текстовых и визуально-текстовых задач и совместима с llama.cpp, Ollama и LM Studio. Для мультимодального режима поставляется отдельный vision projector с vision encoder в формате BF16. В основе лежит разреженная Mixture-of-Experts-архитектура с 512 экспертами на слой, 48 слоями и 10 активными экспертами на каждый токен. Квантизация выполнена методами GSQ и RCO: GSQ оптимизирует скалярное представление весов, а RCO распределяет типы квантизации между тензорами с учётом общего ограничения на размер. Доступны варианты Q2_0, IQ2_XS и IQ3_XXS со средним размером 2,40, 2,50 и 3,00 бит на параметр; общий объём файлов составляет примерно 66,4–75,8 ГБ, не считая vision projector. IQ3_XXS рекомендуется авторами как вариант, сопоставимый с базовой моделью на тесте AIME25. Q2_0 обеспечивает наиболее высокую скорость: заявлены 3,4-кратная производительность обработки промпта и в 1,9 раза меньшая сквозная задержка по сравнению с IQ2_XS, но с некоторой потерей качества. Ограничениями являются большой размер модели, компромисс между качеством и скоростью у разных вариантов квантизации и отсутствие в предоставленных данных сведений о языках и максимальной длине контекста. Лицензия — Apache-2.0.

mlx-community/Qwen3-Next-80B-A3B-Instruct-4bit — это 4-битно квантизированная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной командой Qwen и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.27.1. Модель предназначена для генерации текста и выполнения задач по инструкциям в приложениях, использующих экосистему MLX, включая локальный запуск через библиотеку mlx-lm. Из README известно, что модель является текстовой и относится к pipeline text-generation. В её названии указаны размер 80B и конфигурация A3B, однако подробности архитектуры, поддерживаемые языки, длина контекста и набор модальностей не приведены. Ключевое преимущество версии — 4-битное представление, потенциально уменьшающее требования к памяти при локальном использовании, но README не содержит данных о качестве, производительности или ограничениях квантизации. Модель распространяется по лицензии Apache-2.0.

Qwen_Qwen3.5-35B-A3B-GGUF — это набор квантованных версий модели Qwen3.5-35B-A3B, подготовленный пользователем bartowski на основе оригинальной модели Qwen. Модель предназначена для задач генерации текста и обработки изображений с текстом, а GGUF-формат позволяет запускать её локально через llama.cpp и совместимые приложения, включая LM Studio, Jan AI, KoboldCpp и Text Generation Web UI. В набор входят варианты от BF16 до низкобитных квантований Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, а также IQ-квантизации. Размер файлов составляет примерно от 17 до 71 ГБ. Обозначение 35B указывает на 35 миллиардов параметров, а A3B относится к архитектуре исходной модели; подробности об архитектуре, поддерживаемых языках и размере контекста в README не приведены. Квантизации выполнены с использованием imatrix и llama.cpp, для некоторых конфигураций доступна поддержка MTP-слоёв. Сильная сторона набора — широкий выбор компромиссов между качеством, требованиями к памяти и скоростью локального запуска; варианты Q5 и Q6 обозначены как высококачественные, а Q4_K_M — как типичный выбор для большинства сценариев. Низкобитные варианты экономят память, но могут снижать качество. Для использования требуется совместимое программное обеспечение и аппаратные ресурсы, соответствующие размеру выбранного файла. Лицензия — Apache 2.0.