II.4Отладка, тестирование и качество ПО

async0x42/Qwen3-8B-exl3_4.0bpw — это квантованная версия Qwen3-8B, разработанная на базе модели Qwen/Qwen3-8B. В README разработчик квантованной сборки отдельно не указан; исходная модель относится к серии Qwen. Это авторегрессионная языковая модель для генерации текста, диалогов, следования инструкциям, рассуждений, математики, программирования, перевода и агентских сценариев с интеграцией внешних инструментов. Модель имеет около 8,2 млрд параметров, из которых 6,95 млрд не являются embedding-параметрами, 36 слоёв и архитектуру Grouped-Query Attention с 32 головами для Q и 8 для KV. Она поддерживает переключение между режимами рассуждения и обычной генерации, более 100 языков и диалектов, а также текстовую модальность. Нативная длина контекста составляет 32 768 токенов, с использованием YaRN может достигать 131 072 токенов. Суффикс exl3_4.0bpw указывает на формат квантования примерно до 4 бит на вес, однако подробности реализации квантования в README не приведены. Сильные стороны модели — сочетание рассуждений и быстрой универсальной генерации, поддержка многоязычных задач, диалогов, кода и инструментального взаимодействия. Ограничения и фактические показатели производительности для данной квантованной сборки не указаны; качество может отличаться от исходной модели из-за квантования. Модель распространяется по лицензии Apache-2.0.

unsloth/diffusiongemma-26B-A4B-it — мультимодальная модель диалогового взаимодействия на архитектуре DiffusionGemma, опубликованная Unsloth на основе google/diffusiongemma-26B-A4B-it. Она использует схему блочной авторегрессии: кодирует контекст в KV-кеш, затем параллельно уточняет блоки токенов диффузионным методом. В репозитории указаны веса safetensors и лицензия Apache-2.0. Модель предназначена для чата, генерации и дополнения текста и кода, пошаговых рассуждений, вызова инструментов, а также анализа изображений и видео. Для визуальных задач README перечисляет OCR, чтение документов и PDF, понимание графиков и интерфейсов, распознавание рукописного текста и описание видеокадров. Заявлены контекст до 256 тысяч токенов и поддержка более 35 языков; базовая модель описана как основанная на Gemma 4. README заявляет ускоренную генерацию за счёт параллельного денойзинга блоков токенов и адаптации числа шагов инференса к сложности задачи. Ограничения включают возможные фактические ошибки, предвзятость данных и трудности с неоднозначными или сложными запросами. Эти заявленные характеристики относятся к карточке модели; лицензия репозитория — Apache-2.0.

Granite-4.0-H-350M — компактная инструктивная языковая модель, разработанная командой Granite компании IBM и опубликованная Unsloth в формате safetensors. Модель дообучена на базе ibm-granite/granite-4.0-h-350m с применением supervised fine-tuning, обучения с подкреплением и слияния моделей. Её архитектура — плотный decoder-only трансформер GraniteMoeHybrid с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами; размер — 278,4 млн параметров, контекст — 32 768 токенов. Модель предназначена для диалогов и инструкций, суммаризации, классификации и извлечения текста, вопросов и ответов, RAG, задач с кодом и вызова инструментов. Компактность делает её подходящей для локального развёртывания и дообучения под специализированные задачи. Она поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; обучение преимущественно ориентировано на английский, поэтому качество на других языках может быть ниже. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому для конкретного применения требуется проверка. Лицензия — Apache 2.0.

unsloth/granite-4.1-8b — версия Granite-4.1-8B, опубликованная Unsloth и основанная на instruct-модели IBM Granite-4.1-8B. Это плотный decoder-only трансформер с 8,4 млрд параметров и контекстом до 131 072 токенов. Модель принимает и генерирует текст; поддерживает диалоги и интерфейс вызова инструментов. Модель предназначена для следования инструкциям и создания диалоговых помощников и LLM-агентов. Она подходит для суммаризации, классификации и извлечения текста, ответов на вопросы, RAG, задач с кодом, включая Fill-in-the-Middle, и вызова функций. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. В README отмечены улучшения следования инструкциям, диалога и использования инструментов. Качество на других языках может уступать английскому; ответы могут быть неточными, предвзятыми или небезопасными, поэтому для конкретного применения нужна оценка и настройка. Модель распространяется по лицензии Apache 2.0.

uncensoredai/Mistral-Small-24B-Instruct-2501 — дообученная по инструкциям версия Mistral Small 3, разработанная командой Mistral AI на базе Mistral-Small-24B-Base-2501. Это плотная языковая модель с 23,4 млрд параметров для диалогов, генерации текста, рассуждений и программирования; в каталоге для неё указана задача text-generation. Модель рассчитана на многоязычных разговорных помощников, вызов функций и формирование JSON. Она поддерживает контекст до 32 768 токенов и языки, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Репозиторий содержит веса Safetensors; для запуска README рекомендует vLLM. Для инференса на GPU в bf16 или fp16 требуется около 55 ГБ видеопамяти, а локальное размещение на менее мощном оборудовании возможно после квантизации. Модель подходит для локальных ассистентов, агентных сценариев и дообучения под предметные задачи. README предупреждает, что шаблон вызова инструментов находится в разработке. Лицензия Apache 2.0 разрешает коммерческое и некоммерческое использование и модификацию.

Mistral-Small-3.2-24B-Instruct-2506 — мультимодальная instruct-модель, разработанная Mistral AI; данная карточка содержит её 4-битную quantized-версию от Unsloth. Модель предназначена для диалоговых ассистентов, точного выполнения инструкций, генерации текста и кода, function calling, а также анализа изображений, документов, таблиц и диаграмм. Заявлена поддержка языков: английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Модель содержит 24 млрд параметров и работает в текстово-визуальном сценарии image-text-to-text. Это минорное обновление Mistral-Small-3.1-24B-Instruct-2503 с улучшенным следованием точным инструкциям, меньшей склонностью к бесконечным или повторяющимся генерациям и более надёжным шаблоном function calling. Среди ограничений — высокая требовательность к ресурсам: для запуска базовой модели в форматах bf16 или fp16 требуется около 55 ГБ видеопамяти; размер контекста в README не указан. Для инференса рекомендуются vLLM и относительно низкая температура, например 0,15. Модель распространяется по лицензии Apache-2.0. В карточке также указано, что для неё рекомендуется серверный режим работы через vLLM; репозиторий содержит 4-битную версию, однако точные требования к памяти именно для этого quantized-варианта не приведены.

Карточка модели Darth-Coder/my-model2.5-14b-it на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

Карточка модели TreezzZ/opd-teacher-search-7b на Hugging Face совпадает с карточкой Qwen/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-7B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 7,1 млрд параметров для диалога и генерации текста; репозиторий использует библиотеку Transformers и формат safetensors. Архитектура включает RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для чат-ботов и ассистентов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. Также подходит для задач программирования и математики. Поддерживает более 29 языков, включая русский и английский. Контекст репозитория настроен на 32 768 токенов; в README указано расширение до 131 072 токенов с YaRN, а максимальная длина генерации — 8 192 токена. Модель предлагает широкую многоязычную поддержку и улучшенные возможности следования инструкциям, однако качество зависит от задачи и языка, а длинный контекст с YaRN может повлиять на производительность при коротких запросах. Лицензия — Apache-2.0.

Карточка модели ArchiveStudio/Qwen2.5-14B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-14B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-14B-Instruct — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель с архитектурой Qwen2ForCausalLM, 14,7 млрд параметров, RoPE, SwiGLU, RMSNorm и групповой обработкой запросов внимания. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста в диалоговом формате. Модель подходит для чат-ботов, следования инструкциям, генерации длинных текстов, работы с таблицами и структурированными ответами, включая JSON. В README заявлена поддержка более 29 языков, в том числе русского и английского. Метаданные указывают контекст в 32 768 токенов; README сообщает о возможности расширения контекста до 131 072 токенов с YaRN и генерации до 8 192 токенов. Модель также заявлена как улучшенная для программирования и математики, но результаты зависят от запроса и не гарантируют точности. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; её статический коэффициент масштабирования в vLLM может снижать качество на коротких входах. Лицензия Apache-2.0 допускает использование на её условиях.

RedHatAI/Qwen2.5-7B-Instruct-FP8-dynamic — инструкционная языковая модель архитектуры Qwen2, разработанная Neural Magic на основе Qwen2.5-7B-Instruct от Alibaba Cloud. Модель принимает текст и генерирует текст, предназначена для диалоговых ассистентов, генерации текста и исследовательского и коммерческого применения в многоязычных сценариях. Модель содержит около 7 миллиардов параметров и поддерживает широкий набор языков, включая китайский, английский, русский, французский, немецкий, испанский, японский, корейский, арабский и другие. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8: веса используют статическую симметричную поканальную схему, а активации — динамическую симметричную потокенную схему. Это примерно вдвое снижает требования к памяти и размер на диске, а также может увеличить пропускную способность матричных операций примерно вдвое. Контекст до 8192 токенов указан в примере развертывания; в другом примере используется длина 32768, поэтому точный поддерживаемый предел следует уточнять для конкретной конфигурации. Сильные стороны модели — сниженное потребление GPU-памяти, компактное хранение и эффективное развертывание через vLLM, включая OpenAI-совместимый сервер. Ограничения, связанные с влиянием FP8-квантизации на качество ответов, в README не приведены; как и любая языковая модель, она может генерировать неточные или нежелательные результаты. Модель распространяется по лицензии Apache-2.0. Использование не должно нарушать применимые законы и нормативные требования.

RedHatAI/Qwen3-14B-FP8-dynamic — языковая модель для генерации текста, разработанная Red Hat совместно с Neural Magic на базе Qwen/Qwen3-14B. Это причинно-следственная трансформерная модель архитектуры Qwen3ForCausalLM с текстовыми входами и выходами. Она предназначена для рассуждений, вызова функций, многоязычного следования инструкциям, перевода и последующей адаптации под предметные области с помощью дообучения. Модель использует FP8-квантизацию весов и активаций, что примерно вдвое снижает требования к памяти GPU и размер модели на диске, а также может примерно вдвое повысить пропускную способность матричных операций по сравнению с представлением FP16. Квантизации подвергнуты линейные операторы в трансформерных блоках: веса квантизированы статически по каналам, а активации — динамически по токенам. Размер модели — 14 миллиардов параметров; точный максимальный контекст в README не указан, хотя для оценки использовались длины до 40960 токенов. К сильным сторонам относятся поддержка рассуждений и многоязычных инструкций при более низких требованиях к ресурсам, а также эффективное развертывание через vLLM с OpenAI-совместимым сервером. Возможным ограничением является потенциальное влияние FP8-квантизации на качество по сравнению с исходной моделью, однако количественная оценка этого влияния в README не приведена. Модель распространяется по лицензии Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

RedHatAI/Qwen3-30B-A3B-FP8-dynamic — языковая модель для генерации текста, разработанная RedHat совместно с Neural Magic на базе Qwen/Qwen3-30B-A3B. Модель использует архитектуру Qwen3MoeForCausalLM, принимает текстовые входные данные и генерирует текстовые ответы. Она предназначена для рассуждений, function calling, создания предметно-ориентированных экспертов посредством дообучения, многоязычного следования инструкциям и перевода. Модель оптимизирована с помощью квантизации весов и активаций в формате FP8. Линейные операторы в трансформерных блоках используют симметричную статическую поканальную квантизацию весов и симметричную динамическую потокенную квантизацию активаций; выходной слой lm_head не квантизируется. По данным README, это примерно вдвое снижает требования к GPU-памяти и размер на диске, а также может примерно вдвое увеличить пропускную способность матричных умножений. Архитектурный размер указан как 30B-A3B, однако максимальная длина контекста и перечень поддерживаемых языков не приведены. К сильным сторонам относятся заметное сокращение требований к памяти и сохранение качества, близкого к исходной модели: на указанном наборе задач OpenLLM среднее восстановление качества составляет около 99,9%. Модель эффективно разворачивается с использованием vLLM, включая OpenAI-совместимый режим сервинга. Ограничения включают возможное влияние FP8-квантизации на точность в отдельных сценариях, необходимость совместимого программного и аппаратного окружения, а также отсутствие в предоставленных данных подробных сведений о языковом покрытии, контекстном окне и результатах полной оценки. Модель распространяется по лицензии Apache-2.0. Использование не должно нарушать применимое законодательство и нормативные требования, включая правила экспортного контроля.

cyankiwi/Qwen3.5-9B-AWQ-BF16-INT4 — производная версия Qwen3.5-9B, разработанной командой Qwen. Репозиторий содержит веса и конфигурационные файлы в формате Hugging Face Transformers; модель совместима с Transformers, vLLM, SGLang и KTransformers. По идентификатору предполагается квантованный вариант AWQ с представлением INT4, однако подробности о процедуре квантования в README не приведены. Это мультимодальная причинная языковая модель с vision encoder, предназначенная для обработки текста и изображений, рассуждений, программирования, визуального понимания и агентских сценариев. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель содержит около 9 млрд параметров, 32 слоя и имеет нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. К сильным сторонам относятся мультимодальность, большой контекст, высокая эффективность архитектуры и широкий языковой охват. Ограничения конкретной квантованной сборки, включая возможные потери качества, требования к памяти и совместимость с определёнными аппаратными конфигурациями, в README не описаны. Модель распространяется по лицензии Apache 2.0.

surogate/Qwen3.5-9B-FP8 — FP8-квантизированный вариант мультимодальной модели Qwen3.5-9B, разработанной командой Qwen; модель основана на Qwen/Qwen3.5-9B-Base и подготовлена для использования в Surogate. Она предназначена для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Модель представляет собой авторегрессионную языковую модель с vision encoder, содержит около 9 млрд параметров и использует гибридную архитектуру с Gated Delta Networks, Gated Attention и разреженным Mixture-of-Experts. Контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Веса квантизированы методом fine-grained FP8 с размером блока 128; согласно README, показатели близки к исходной модели. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Сильными сторонами являются сочетание мультимодальности, длинного контекста, высокой эффективности инференса и широкого языкового охвата. Ограничения конкретных аппаратных требований, качества на отдельных языках и результаты полного набора тестов в предоставленных данных не описаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-OptiQ-4bit — это квантизированная версия языковой модели Qwen3.6-35B-A3B, подготовленная сообществом mlx-community с использованием инструментария mlx-optiq. Модель предназначена для локальной генерации текста на компьютерах Apple Silicon через MLX, без PyTorch и облачных сервисов. Она подходит для диалога, рассуждений, программирования, извлечения информации из длинного контекста, вызова инструментов и агентских сценариев. Модель использует смешанную точность: большинство параметров представлены в 4-битном формате, а чувствительные слои — в 8-битном. Всего квантизировано 510 слоёв, размер группы — 64; 392 слоя имеют 8-битную, а 118 — 4-битную точность. Размер модели на диске составляет около 22,1 ГБ. В комплект входит MTP-голова для speculative decoding, которая при использовании mlx-optiq может ускорять декодирование примерно в 1,4 раза. Поддерживаются текстовые задачи; конкретные языки и размер контекста в README не указаны. К сильным сторонам относятся чувствительно-ориентированная квантизация, локальная работа на Apple Silicon и результаты, превосходящие равномерную 4-битную квантизацию по суммарному Capability Score, особенно в вызове функций и извлечении данных из длинного контекста. Ограничениями являются требования к памяти из-за размера около 22,1 ГБ, привязка к экосистеме MLX и Apple Silicon, а также небольшое снижение результатов в отдельных тестах по сравнению с равномерной 4-битной версией. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

unsloth/gemma-4-E4B-it-unsloth-bnb-4bit — это 4-битная квантованная instruction-tuned версия мультимодальной модели Gemma 4 E4B. Базовую модель разработала Google DeepMind, а текущую оптимизированную сборку подготовила Unsloth с использованием квантования bitsandbytes в формате 4-bit. Модель предназначена для локального запуска и дообучения на совместимом оборудовании. Модель поддерживает обработку текста, изображений и аудио с генерацией текстовых ответов. Она рассчитана на задачи рассуждения, генерации текста, программирования, мультимодального анализа, вызова функций и агентских сценариев. Для E4B заявлены около 4,5 млрд эффективных параметров, 42 слоя, контекстное окно до 128K токенов и словарь размером 262K токенов. Семейство Gemma 4 поддерживает более 140 языков. Архитектура использует гибридное внимание с локальными скользящими окнами и глобальными слоями. Ключевые преимущества модели — мультимодальность, большое контекстное окно, поддержка режимов рассуждения, системных инструкций и нативного function calling, а также сниженные требования к памяти благодаря 4-битному представлению. Квантование может повлиять на точность по сравнению с полноразмерной версией, однако конкретные показатели такого влияния в README не приведены. Модель распространяется по лицензии Apache 2.0.

NVIDIA GLM-4.7 NVFP4 — это квантизированная версия авторегрессионной языковой модели GLM-4.7, разработанной ZAI и оптимизированной с помощью NVIDIA Model Optimizer. Модель не принадлежит и не разработана NVIDIA; NVIDIA подготовила её под требования соответствующего сценария применения. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель построена на архитектуре Transformer и имеет 358 млрд параметров. Она работает только с текстом: принимает строковые последовательности и генерирует текст. Максимальная длина контекста составляет до 200 000 токенов. Версия NVFP4 1.0 квантизирована до формата NVFP4 с использованием nvidia-modelopt v0.41.0; квантизации подвергнуты веса и активации линейных операторов в Transformer-блоках MoE. Данные о полном составе обучающей выборки и поддерживаемых языках не раскрыты, однако калибровка включает англоязычный cnn_dailymail и набор Nemotron с данными на испанском, французском, немецком, итальянском и японском языках. Модель ориентирована на инференс на NVIDIA GPU, особенно на архитектуре Blackwell, с использованием SGLang и Linux. Квантизация NVFP4 может снизить требования к ресурсам и ускорить развертывание, однако для работы требуется совместимая NVIDIA-инфраструктура и дополнительное тестирование в конкретном сценарии. В README приведены результаты на MMLU-PRO, GPQA Diamond, ns_livecodebench, SCICODE и AIME 2025, но они не описывают все практические ограничения модели. Лицензия — MIT.

Granite-4.0-Micro — компактная языковая модель семейства Granite, представленная Unsloth на основе модели IBM Granite Team. Это дообученная instruct-модель для диалоговых ассистентов и агентных систем: она следует инструкциям, отвечает на вопросы, суммирует и извлекает текст, выполняет классификацию, помогает с кодом и поддерживает вызов инструментов. Модель содержит 3,4 млрд параметров, использует архитектуру GraniteMoeHybridForCausalLM и рассчитана на контекст до 131 072 токенов. Принимает текст и генерирует текст; заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Лицензия — Apache 2.0. К сильным сторонам относятся длинный контекст, следование инструкциям и интерфейс вызова инструментов, а сценарии включают бизнес-ассистентов, RAG и работу с кодом. Качество на языках помимо английского может быть ниже; модель способна выдавать неточные, предвзятые или небезопасные ответы, поэтому её следует оценивать и настраивать для конкретного применения.

JiRack Ultra 32B — плотная языковая модель на 32 млрд параметров от CMSManhattan, предназначенная для локального и облачного запуска на CPU. По карточке, модель основана на архитектуре DeepSeek R1-32B; метаданные указывают архитектуру Qwen2 и класс Qwen2ForCausalLM. Это расхождение не позволяет точнее установить происхождение весов. Модель использует токенизатор JiRack с тегами для маршрутизации, мультимедиа, зрения, звука, вызова инструментов и робототехники, однако заявленные теги сами по себе не подтверждают обработку соответствующих модальностей. Модель предназначена для диалоговой генерации текста, использования в RAG-системах и агентных сценариях с вызовом инструментов; также разработчик описывает применение в программировании и робототехнике. Доступны веса safetensors и GGUF-квантизации от Q2_K до Q8_0. Заявленное родное окно контекста — 131 072 токена. Карточка перечисляет поддержку английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского языков. Для работы с полной точностью требуется около 64 ГБ или более оперативной памяти; для Q4_K_M разработчик рекомендует 24–32 ГБ. Качество, производительность и аппаратная совместимость не подтверждены независимыми оценками в карточке. Веса распространяются по лицензии MIT, но Docker-образ, интерфейс и готовые Ollama-квантизации могут требовать отдельной коммерческой лицензии.

unsloth/Llama-3.3-70B-Instruct-GGUF — GGUF-версия мультиязычной большой языковой модели Llama 3.3, разработанной Meta и подготовленной для распространения Unsloth. Это авторегрессионная instruction-tuned модель для генерации текста, диалогов, ответов на вопросы и работы с кодом в текстовых сценариях. Модель содержит 70 млрд параметров и использует оптимизированную архитектуру Transformer с Grouped-Query Attention (GQA). Она принимает и генерирует мультиязычный текст, поддерживает контекст до 128 тыс. токенов и обучалась на более чем 15 трлн токенов публично доступных онлайн-данных; срез знаний — декабрь 2023 года. Указанные языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Для выравнивания поведения применялись supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF). К сильным сторонам относятся большой контекст, диалоговая оптимизация, поддержка нескольких языков и генерация кода. Модель является статичной и обучена на офлайн-данных, поэтому не обладает актуальными знаниями без внешних источников; README также не содержит результатов конкретных бенчмарков или требований к оборудованию для запуска GGUF-версии. Использование регулируется кастомной коммерческой лицензией Llama 3.3 Community License Agreement.

NVIDIA-Nemotron-3-Super-120B-A12B-AWQ-4bit — квантизированная 4-битная версия большой языковой модели NVIDIA Nemotron-3-Super, разработанной NVIDIA Corporation. Модель предназначена для агентных сценариев, рассуждений, диалоговых приложений, использования инструментов, RAG и высоконагруженных задач, включая автоматизацию обработки IT-заявок. Она поддерживает настраиваемый режим рассуждений, который можно включать или отключать через шаблон чата. Архитектура основана на гибридном подходе LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, а также отдельными слоями Attention. Модель содержит 120 млрд параметров, из которых активно используется 12 млрд, и применяет Multi-Token Prediction для ускорения генерации и повышения качества. Максимальная длина контекста составляет до 1 млн токенов. Поддерживаются английский, французский, немецкий, итальянский, японский, испанский и китайский языки. Для исходной модели указано минимальное требование в 8 GPU H100 с 80 ГБ памяти; AWQ-квантизация снижает требования к памяти, однако точные требования для данной сборки не приведены. К сильным сторонам относятся большой контекст, эффективность разреженной MoE-архитектуры, поддержка рассуждений, инструментального взаимодействия и агентных рабочих процессов. Ограничениями являются значительный общий размер модели и высокие требования к инфраструктуре, а также отсутствие в README подробных результатов тестирования именно для версии AWQ-4bit. Использование регулируется лицензией NVIDIA Nemotron Open Model License; в README указана готовность модели к коммерческому применению.

Nemotron-3-Super-120B-A12B-NVFP4 — большая языковая модель NVIDIA для диалога, рассуждений и работы в агентных системах. Она предназначена для разработчиков чат-ботов, RAG-систем и ИИ-приложений, включая автоматизацию IT-заявок, сложное следование инструкциям и анализ длинных контекстов. Модель использует гибридную архитектуру LatentMoE на основе Mamba-2, смеси экспертов и слоёв внимания, а также Multi-Token Prediction для ускорения генерации. Всего в ней 120 млрд параметров, из которых активны 12 млрд; заявленная длина контекста — до 1 млн токенов. Веса представлены в NVFP4, при этом репозиторий содержит файлы Safetensors и рассчитан на работу с Transformers. Модель поддерживает английский, французский, немецкий, итальянский, японский, испанский и китайский языки; в карточке также заявлены сценарии с кодом. NVIDIA указывает, что модель готова к коммерческому использованию; метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с лицензией репозитория. К возможным ограничениям относятся потребность в мощном оборудовании для обслуживания модели и зависимость качества ответов от задачи и контекста.

Qwen2.5-3B-Instruct-GPTQ-Int8 — квантованная 8-битная версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Это авторегрессионная causal language model для генерации текста и диалоговых сценариев, включая ответы на инструкции, чат-ботов, работу со структурированными данными, а также задачи программирования и математики. Модель содержит около 3,09 млрд параметров, 36 слоёв и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов. Применяется Grouped Query Attention с 16 головами для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Модель работает с текстом и заявляет поддержку более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся улучшенное следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, формирование JSON, а также возможности в программировании и математике. 8-битная GPTQ-квантизация может снизить требования к памяти по сравнению с полноразмерной версией, однако README не приводит конкретных результатов оценки качества и производительности. Для использования рекомендуется актуальная версия библиотеки Transformers; модель распространяется по лицензии qwen-research, обозначенной как other.

duyntnet/Qwen2.5-7B-Instruct-imatrix-GGUF — набор imatrix-квантизированных версий инструкционно дообученной текстовой модели Qwen2.5-7B-Instruct. Исходную модель разработала команда Qwen компании Alibaba Cloud. Репозиторий предназначен для локального запуска и генерации текста через llama.cpp, KoboldCPP, text-generation-webui и Ollama. Модель представляет собой авторегрессионную causal language model на базе архитектуры Transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Она содержит 7,61 млрд параметров, 28 слоёв и использует GQA с 28 головами запросов и 4 головами ключей и значений. Модель ориентирована на диалог, следование инструкциям, генерацию длинных текстов, работу со структурированными данными и создание структурированных ответов, включая JSON, а также на задачи программирования и математики. Поддерживается более 29 языков, включая русский, английский, китайский, французский, немецкий, испанский, японский и корейский. Заявленная длина контекста составляет до 131 072 токенов, а максимальная длина генерации — 8192 токена. При этом исходная конфигурация рассчитана на 32 768 токенов; для работы с более длинными входами требуется включение расширения YaRN с указанными параметрами. Квантизация снижает требования к ресурсам и упрощает локальный запуск, но конкретные характеристики качества, скорости и потребления памяти зависят от выбранного варианта GGUF. В репозитории указана лицензия other, без подробного описания условий использования.

Qwen3-30B-A3B-Instruct-2507-quantized.w4a16 — квантизированная версия языковой модели Qwen3-30B-A3B-Instruct-2507, разработанная Red Hat совместно с Neural Magic. Модель предназначена для генерации текста, рассуждений, вызова функций, многоязычного следования инструкциям, перевода и последующей адаптации под предметные области с помощью дообучения. Модель построена на архитектуре Qwen3ForCausalLM и работает с текстовыми входами и выходами. Веса линейных операторов в трансформерных блоках сжаты до INT4 с использованием алгоритма GPTQ, симметричной групповой схемы с размером группы 128; выходной слой lm_head не квантизируется. Такое преобразование уменьшает число битов на параметр с 16 до 4, а также примерно на 75% снижает требования к дисковому пространству и памяти GPU. Размер базовой модели — 30B параметров, при этом в README не указаны точные сведения о языках и максимальном контексте; в примерах развертывания используется длина контекста до 262144 токенов. К сильным сторонам относятся существенное снижение требований к ресурсам и возможность эффективного развертывания через vLLM, включая OpenAI-совместимый API. Ограничения связаны с потерями качества, возможными при INT4-квантизации, а также с отсутствием в предоставленных данных подробных результатов бенчмарков и характеристик поддержки отдельных языков. Модель распространяется по лицензии Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

RedHatAI/Qwen3-32B-FP8-dynamic — языковая модель для генерации текста, разработанная Red Hat совместно с Neural Magic на основе Qwen/Qwen3-32B. Она предназначена для рассуждений, вызова функций, многоязычного следования инструкциям, перевода и адаптации под специализированные предметные области посредством дообучения. Модель работает с текстом на входе и выходе и построена на архитектуре Qwen3ForCausalLM. Модель использует FP8-квантизацию весов и активаций линейных операторов внутри transformer-блоков. Веса квантизуются статически по каналам, активации — динамически по токенам; слой lm_head не квантуется. По заявлению разработчиков, это примерно вдвое снижает требования к памяти GPU и размер на диске, а также может примерно вдвое увеличить пропускную способность матричных умножений по сравнению с представлением FP16. Модель рассчитана на эффективное развертывание с vLLM, включая OpenAI-совместимую подачу. К сильным сторонам относятся сочетание возможностей базовой Qwen3-32B с уменьшенными требованиями к памяти и поддержка рассуждений, многоязычных инструкций и function calling. При этом FP8-квантизация может влиять на точность по сравнению с исходной моделью, а README не содержит подробностей о поддерживаемых языках, длине контекста и количественных результатах оценки. Модель распространяется по лицензии Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

RedHatAI/Qwen3-4B-Instruct-2507-quantized.w8a8 — это квантизированная версия языковой модели Qwen/Qwen3-4B-Instruct-2507, разработанная Red Hat совместно с Neural Magic. Модель построена на архитектуре Qwen3ForCausalLM, работает с текстом на входе и генерирует текст на выходе. Размер базовой модели — 4 млрд параметров; поддерживается контекст до 262 144 токенов в конфигурации развертывания, указанной в README. Модель предназначена для рассуждений, следования многоязычным инструкциям, перевода и function calling. Её также можно адаптировать под предметные области с помощью дообучения. Языки перечислены обобщённо как многоязычные, без указания конкретного набора языков. Поддерживается эффективное развертывание через vLLM, включая OpenAI-совместимый API. Веса и активации линейных операторов в блоках Transformer квантизированы в INT8; применяются SmoothQuant и GPTQ. Это примерно вдвое снижает требования к памяти и размер модели на диске, а также может увеличить пропускную способность матричных умножений примерно в 2 раза. Ограничение модели — использование квантованного представления и текстовая модальность; сведения о конкретном влиянии квантования на качество и подробные результаты оценки в README не приведены. Модель распространяется по лицензии Apache 2.0.

lovedheart/Qwen3.5-9B-FP8 — мультимодальная причинная языковая модель с визуальным энкодером, основанная на Qwen3.5-9B и разработанная командой Qwen. Она предназначена для генерации и анализа текста и изображений, рассуждений, программирования, визуального понимания и агентских сценариев. Модель содержит около 9 млрд параметров, 32 слоя и поддерживает контекст длиной 262 144 токена с возможностью расширения до 1 010 000 токенов. В архитектуре сочетаются Gated DeltaNet, Gated Attention и разреженная Mixture-of-Experts; заявлена поддержка 201 языка и диалекта. Модель обучалась на стадиях предварительного и последующего обучения и совместима с Transformers, vLLM, SGLang и KTransformers. К сильным сторонам относятся мультимодальность, длинный контекст, высокая эффективность архитектуры и широкое языковое покрытие. README не приводит подробных ограничений, требований к аппаратному обеспечению или результатов независимого тестирования для данной FP8-сборки, поэтому фактическая производительность и качество могут зависеть от среды запуска и сценария использования. Указана лицензия Apache 2.0.

abhishekchohan/Qwen3.8-27B-AWQ-INT4-FP8KV — квантизированная версия Qwen/Qwen3.8-27B, опубликованная abhishekchohan. Модель предназначена для диалогов, следования инструкциям, математических и научных задач, агентного программирования, многоязычных сценариев и работы с очень длинным контекстом. В карточке указано image-text-to-text позиционирование, однако подробности о поддерживаемых изображениях не приведены. Модель использует AWQ-квантизацию весов INT4 с защищёнными компонентами BF16 и FP8 E4M3 KV-кэшем с калиброванными послойными масштабами. Архитектура Qwen3.8-27B содержит 16 глобальных attention-слоёв, накапливающих KV-кэш, и 48 слоёв DeltaNet с рекуррентным состоянием. Поддерживается контекст до 262 144 токенов; заявлена возможность расширения до 524 288 токенов через YaRN, но результаты за пределами 262 144 токенов не проверялись. Заявленная оценка требований для полного контекста — около 33,5 ГБ VRAM, включая примерно 20 ГБ на веса и 8,5 ГБ на KV-кэш. Ключевое преимущество — примерно двукратное снижение памяти KV-кэша по сравнению с BF16 при сохранении качества: тесты показывают близкие результаты к AWQ-INT4 с BF16 KV, а retrieval-тест на контекстах 32 768, 131 072 и 262 144 токена дал 9/9 успешных результатов. Ограничения включают возможные небольшие колебания качества на отдельных бенчмарках, неподтверждённую работу за пределами 262 144 токенов и несовместимость MTP speculative decoding с FP8 KV в текущем JIT-пути FlashInfer на системах Blackwell. Для запуска рекомендуется vLLM с включённым FP8-кэшем; модель распространяется по лицензии Apache-2.0.

Qwen3-VL-235B-A22B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия модели Qwen3-VL-235B-A22B-Thinking с мелкозернистым квантованием и размером блока 128; согласно README, её показатели почти идентичны оригинальной версии BF16. Модель предназначена для понимания и генерации текста с учётом изображений и видео, визуального восприятия и рассуждений, анализа документов, OCR, пространственного анализа, STEM- и математических задач, а также взаимодействия с графическими интерфейсами и инструментами. Она может использоваться для распознавания содержимого изображений, понимания длительных видеоматериалов, генерации HTML/CSS/JS и Draw.io по визуальным примерам, а также для задач визуального агента. Ключевые характеристики включают архитектуру Qwen3-VL с Thinking-режимом, мультимодальную обработку текста, изображений и видео, нативный контекст до 256K токенов с возможностью расширения до 1M, улучшенное временное и пространственное рассуждение, механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. OCR поддерживает 32 языка, однако полный перечень языков в README не приведён. Сильными сторонами являются визуальное рассуждение, понимание пространственных и временных связей, обработка длинного контекста и близкая к BF16 производительность при FP8-представлении. Ограничение — прямую загрузку весов через Transformers README не поддерживает; рекомендуется развёртывание с помощью vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.