I.1Поиск и навигация по информации

Карточка модели Lostsoulfs/Qwen2.5-VL-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-VL-7B-Instruct, поэтому описание составлено по ней. Qwen2.5-VL-7B-Instruct — мультимодальная инструкционная модель семейства Qwen, представленная в репозитории Unsloth на основе Qwen/Qwen2.5-VL-7B-Instruct. Это плотная архитектура Qwen2.5-VL с 7,1 млрд параметров, поддерживающая диалоговую работу с изображениями; длина контекста составляет 32 768 токенов. Модель принимает изображения и текстовые запросы, а отвечает текстом, в том числе может выдавать структурированные данные и координаты объектов. Модель предназначена для анализа изображений и документов, распознавания текста, таблиц, диаграмм и макетов, визуальных вопросов и ответов, а также понимания видео и локализации событий. Карточка описывает возможности визуального агента для взаимодействия с интерфейсами и инструментами. Динамическое разрешение позволяет настраивать баланс качества, скорости и расхода памяти. В README приведены результаты на бенчмарках изображений, видео и экранных интерфейсов. Для обработки изображений высокого разрешения требуется больше вычислений; поддержка видео зависит от используемой библиотеки, а видеофайлы подаются локально. Увеличение контекста с YaRN может ухудшить временную и пространственную локализацию. Лицензия — Apache-2.0.

dealignai/Qwen3.8-27B-JANG_6D-CRACK — квантованная версия модели Qwen/Qwen3.8-27B, разработанная dealignai для запуска на Apple Silicon через MLX. Это плотная гибридная vision-language модель с 27 млрд параметров и 64 слоями, сочетающая линейное внимание GatedDeltaNet с полным gated attention. Модель поддерживает текст, изображения и видео, работает на английском и китайском языках, умеет рассуждать, вызывать инструменты через XML-схему и использовать встроенную голову Multi-Token-Prediction для speculative decoding. Модель подвергнута CRACK-обработке — удалению поведения, связанного с отказами в ответах, на уровне весов. Поэтому она ориентирована на исследовательские и прикладные сценарии, где требуется максимальная готовность выполнять запросы в различных категориях, включая потенциально опасные. Рассуждение включено по умолчанию с уровнем xhigh; доступны уровни xhigh, medium и low, а также полное отключение рассуждений. Для данной JANG_6D-квантизации заявлен размер около 24 ГБ и примерно 6-битное affine-кодирование с imatrix. В тестах README указаны 89,12% на MMLU и 100% соответствия на HarmBench-240 по критерию выполнения запросов. Сильными сторонами являются сохранение мультимодальности, видеоанализа, рассуждений, вызова инструментов и многоязычности при существенно меньшем размере, чем у полной модели. Ограничения включают требование совместимого MLX-окружения и значительного объёма памяти, а также отсутствие защитных отказов, что повышает риск генерации небезопасного или вредоносного содержания. Максимальный размер контекста в README не указан. Модель распространяется под лицензией Apache-2.0.

Chungulus/Qwen3.8-27B-Q3_K_L-GGUF — это независимая ванильная GGUF-квантизация базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель не является дообучением, слиянием или изменённой версией; сохранены исходные шаблон чата, режимы рассуждений, нативный формат вызова инструментов и мультимодальные компоненты. Квантизация выполнена в формате Q3_K_L с использованием llama.cpp, размер основного файла составляет около 14,56 ГБ, а полный репозиторий занимает около 15,5 ГБ. Модель предназначена для генерации текста, вызова инструментов, анализа изображений и работы с видео через vision projector. Она использует гибридную архитектуру с чередованием Gated DeltaNet и полнотекстового внимания, а также содержит MTP-тензоры, однако спекулятивное ускорение не заявлено. Текстовая генерация, вызов инструментов и мультимодальные сценарии прошли функциональную проверку; валидационная скорость составила около 14,77 токена в секунду на тестовой системе. Для запуска требуется совместимый runtime, поддерживающий граф Qwen3.8, vision tower, проектор, токенизатор и MTP-метаданные, а также ориентировочно не менее 19 ГБ доступной памяти без гарантии пикового потребления. Максимальный размер контекста в README не указан и полноценно не тестировался, языки также не перечислены. Квантизация может снижать качество, особенно из-за небольшой разрядности. Модель и её квантизация распространяются по лицензии Apache-2.0.

unsloth/Qwen3-VL-32B-Instruct — репозиторий весов мультимодальной модели Qwen3-VL, опубликованный Unsloth на основе Qwen/Qwen3-VL-32B-Instruct. Это плотная модель на 32 млрд параметров для диалога по тексту и изображениям; поддерживает визуальное понимание, OCR, рассуждения о пространстве и видео, а также интерфейс взаимодействия с инструментами. Модель рассчитана на анализ документов и сцен, распознавание элементов графического интерфейса, ответы на вопросы по визуальным материалам и генерацию кода или разметки по изображениям и видео. README указывает контекст 256 тысяч токенов с возможностью расширения до 1 млн и OCR на 32 языках. Репозиторий содержит веса safetensors и исправления шаблона чата Unsloth. Лицензия — Apache-2.0. README не приводит отдельные результаты тестирования этой конкретной сборки, поэтому заявления о превосходстве квантованных вариантов не подтверждают качество данного репозитория. Для запуска с llama.cpp README рекомендует параметр --jinja.

Jackrong/Qwopus3.6-27B-v2-GGUF — мультимодальная плотная модель на 27 млрд параметров, разработанная Jackrong на базе Qwen3.6-27B и представленная в формате GGUF. Модель дообучена методом supervised fine-tuning в рамках трёхэтапной учебной схемы с использованием наборов данных Jackrong/Claude-opus-4.6-TraceInversion-9000x и Jackrong/Claude-opus-4.7-TraceInversion-5000x. В заявленных возможностях указаны генерация текста, анализ изображений, рассуждения, tool use и function calling. Модель предназначена для диалоговых и агентных сценариев, решения задач, требующих структурированного рассуждения, работы с изображениями и взаимодействия с инструментами. Подход Trace Inversion используется для реконструкции подробных рассуждений и снижения логических упрощений, а форматирование с тегами <think> ориентировано на единообразную структуру вывода и последующее применение в reinforcement learning. Заявлены языки English, Chinese, Spanish, Russian и Japanese. К сильным сторонам относятся крупный размер, поддержка vision и инструментов, а также акцент на многошаговом рассуждении и совместимости с llama.cpp и Transformers. При этом README не содержит результатов бенчмарков, точного размера контекста, конкретных характеристик архитектуры, требований к ресурсам или подробностей о вариантах квантования, поэтому эти параметры нельзя оценить по имеющимся данным. Модель распространяется по лицензии Apache 2.0.

Qwythos-27B-v1-GGUF — это GGUF-квантизированная версия модели Qwythos-27B-v1, разработанной empero-ai и подготовленной к распространению в формате GGUF пользователем mradermacher. Модель относится к семейству Qwen3.5 и ориентирована на задачи рассуждения, работы с текстом и изображениями, генерации текста по изображению и тексту, а также на мультимодальные сценарии. Заявлены поддержка английского языка, vision-возможностей, long-context с контекстом до 1M токенов, function calling, tool use и агентских приложений. Среди целевых областей также указаны кибербезопасность и биомедицина. Размер базовой модели — 27B параметров. Доступны варианты с разной степенью квантизации: от Q2_K до Q8_0, а также IQ-кванты и отдельные мультимодальные компоненты mmproj. Варианты Q4_K_S и Q4_K_M рекомендованы как быстрые, Q6_K описан как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с наилучшим качеством среди представленных. Основные ограничения связаны с использованием квантизации: качество, требования к памяти и скорость зависят от выбранного варианта, причём низкобитные варианты могут заметно уступать по качеству. README не содержит подробных результатов тестирования, точной архитектуры исходной модели или гарантии фактической поддержки всех заявленных возможностей. Лицензия модели указана как Apache-2.0.

ZEUS 8B V10 — объединённая языковая модель, созданная автором карточки на основе unsloth/Meta-Llama-3.1-8B-Instruct и трёх других моделей семейства Llama 3.1. Для объединения применён метод DARE TIES; в версии V10 использованы единый токенизатор и настройки int_mask и normalize. Это плотная авторегрессионная модель LlamaForCausalLM с 7,5 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Контекст составляет до 131 072 токенов. Модель подходит для диалогов, следования инструкциям и генерации текстовых ответов; метаданные также отмечают интерфейс вызова инструментов. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Автор ожидает, что отличия от V2 будут небольшими. Модель основана на инструкционно настроенной Llama 3.1, но README не описывает языковой охват подробно. Сведения о лицензии в предоставленных данных отсутствуют.

Dolphin-Mistral-24B-Venice-Edition-1.2-GGUF — это набор квантованных GGUF-версий модели Dolphin-Mistral-24B-Venice-Edition, разработанный пользователем douganger на основе релиза 1.2 от dphn. Модель предназначена для запуска локально с использованием совместимых инструментов, включая llama.cpp, и ориентирована на мультимодальные сценарии с обработкой текста и изображений, а также на работу с инструментами. Архитектурно это модель семейства Mistral с размером около 24 млрд параметров; доступны варианты квантования от Q3_K_M до Q8_0 размером примерно от 10,69 до 23,33 ГБ. Для версии 1.2 заявлены поддержка vision, контекст длиной до 131 тыс. токенов и улучшенный tool calling. Vision-адаптеры и importance matrix включены в сборку. README не указывает полный перечень поддерживаемых языков. Сильные стороны модели — широкий контекст, мультимодальность, улучшенная работа с инструментами и несколько вариантов квантования с разным компромиссом между размером и качеством; Q4_K_M обозначен как хороший вариант по умолчанию, а Q8_0 — практически эквивалентный исходным весам BF16. Ограничения связаны с требованиями к памяти, зависящими от выбранного квантования, а также с тем, что фактическая поддержка vision и tool calling зависит от совместимого программного обеспечения. Модель распространяется по лицензии Apache-2.0.

Ghost 8B Beta 1608 — языковая модель Ghost X, разработанная Hieu Lam на основе Meta-Llama-3-8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, обученная продолжением предобучения и последующей настройкой, включая этап с обратной связью от людей. Версия в этом репозитории рассчитана на контекст до 8192 токенов. Модель предназначена для многоязычного диалога, генерации текста, ответов на вопросы, следования инструкциям и вызова инструментов через встроенный шаблон чата. README заявляет поддержку 16 языков, включая английский, вьетнамский, корейский, китайский, японский, русский и другие; также упоминаются улучшения рассуждений и математических задач. Репозиторий содержит веса safetensors. README приводит лицензию Ghost Open LLMs LICENSE вместе с Llama 3 LICENSE, а метаданные классифицируют лицензию как other; перед использованием следует проверить условия обеих лицензий. Заявления о превосходстве в сравнительных оценках приведены авторами модели и не являются независимой оценкой. Как языковая модель, она может допускать ошибки и выдавать недостоверные ответы; качество зависит от языка и задачи.

Hermes-2 Θ (Theta) 70B — языковая модель Nous Research, созданная совместно с Charles Goddard и Arcee AI. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, объединяющая Hermes 2 Pro и Llama 3 Instruct; после слияния модель дополнительно обучали с помощью RLHF. Репозиторий содержит веса Safetensors, а контекст модели составляет 8192 токена. Модель предназначена для многоходового диалога на английском языке и генерации текста. Она использует формат ChatML и обучена следовать системным инструкциям, вызывать функции и формировать структурированные ответы в JSON. Также заявлена возможность извлекать признаки из документов для сценариев RAG. Для вызова инструментов приложение должно распознавать сгенерированный вызов, выполнить соответствующую функцию и передать результат модели. В README приведены результаты нескольких оценок, включая IFEval и MTBench, однако они не гарантируют качество в конкретных приложениях. Лицензия — Llama 3 Community License (llama3); перед использованием следует учитывать её условия. Указанный размер 70B требует существенных вычислительных ресурсов при запуске без квантизации.

Kimi-Linear-48B-A3B-Instruct — разговорная языковая модель от Moonshot AI на архитектуре Kimi Linear. Это гибридная MoE-модель с Kimi Delta Attention и глобальными слоями MLA: в семействе указаны 48 млрд общих и 3 млрд активируемых параметров. Репозиторий содержит веса safetensors и предназначен для генерации текста в диалоговом формате. Модель рассчитана на диалоги и задачи с длинным контекстом. В README для версии Instruct заявлена длина контекста до 1 млн токенов, а архитектура сокращает потребность в KV-кэше и ускоряет декодирование на длинных последовательностях. Для запуска предлагаются Transformers с fla-core и развёртывание через vLLM. Лицензия — MIT. README описывает результаты бенчмарков, но не приводит оценки по всем сценариям; фактическая скорость и качество зависят от оборудования и настроек инференса.

Linkbricks-Horizon-AI-Avengers-V2-78B — многоязычная разговорная языковая модель, дообученная специалистом компании Linkbricks на базе MaziyarPanahi/calme-3.2-instruct-78b. Это плотная модель семейства Qwen2 с 76,7 млрд параметров и контекстом 32 768 токенов; репозиторий содержит веса Safetensors для Transformers. В README описаны этапы SFT, DPO, ORPO и слияния моделей, а также поддержка вызова функций и инструментов. Модель предназначена для генерации текста и диалогов, анализа отзывов клиентов и публикаций в социальных сетях, написания текстов и кода, решения математических и логических задач. Обучение включало многоязычные новостные и wiki-корпуса, а также данные для задач на корейском, японском, китайском и английском языках, включая переводы, суммаризацию и вопросы-ответы. По данным карточки, лицензия — Apache-2.0. Карточка описывает заявленные возможности, но не приводит результатов независимых оценок качества. Размер модели требует значительных вычислительных ресурсов для запуска; поддержка конкретных языков и сценариев может различаться по качеству.

MagiSeek-Pro-V1 — текстовая генеративная модель, опубликованная groxaxo. Это плотная модель архитектуры Mistral с 23,4 млрд параметров, представленная в формате Transformers как объединённые веса bf16 на основе WarlordHermes/Magidonia-24B-v4.3-creative-ORPO. Контекстное окно составляет до 131 072 токенов; модель принимает текст и генерирует текст, а чат-шаблон поддерживает диалоговый формат и вызовы инструментов. Модель предназначена для следования инструкциям, творческого письма, рассуждений с длинным контекстом и агентных сценариев с инструментами. По README, её обучали в несколько этапов с использованием QLoRA и затем объединили адаптеры с базовыми весами; финальный этап продолжал обучение на примерах рассуждений в стиле DeepSeek. Репозиторий позиционируется как чекпойнт для оценки, экспериментов и инференса в совместимых средах. Лицензия — Apache 2.0. Заявленные в карточке результаты MMLU составляют 0,7433 в целом, 0,7172 для STEM и 0,6486 для гуманитарных дисциплин. Это генеративная модель, поэтому ответы могут быть неточными; качество вызова инструментов и длинноконтекстных сценариев следует проверять на конкретных задачах. Полные веса bf16 требуют значительных ресурсов, особенно при использовании длинного контекста.

Qwen2.5-VL-72B-Instruct — мультимодальная инструкция-тюнингованная модель семейства Qwen2.5-VL, разработанная командой Qwen. Это плотная модель на 71,5 млрд параметров с архитектурой Qwen2_5_VLForConditionalGeneration; она принимает текст, изображения и видео и выдаёт текстовые ответы, включая структурированные данные. Модель рассчитана на диалоговые сценарии с визуальным содержимым. Модель распознаёт и анализирует объекты, текст, диаграммы, графики и макеты на изображениях, понимает длинные видео и может указывать временные сегменты событий. Она также поддерживает визуальную локализацию объектов с координатами в виде рамок или точек и может управлять инструментами в сценариях взаимодействия с компьютером или телефоном. Контекст составляет до 128 000 токенов. В карточке указана поддержка английского языка. К сильным сторонам относятся работа с изображениями и видео, структурированные ответы и динамическая обработка разрешения и частоты кадров. Обработка изображений с высоким разрешением требует больше вычислительных ресурсов; для видео описана поддержка локальных файлов, а работа с URL зависит от сторонней библиотеки. Лицензия указана как other, поэтому конкретные условия использования следует уточнить в файлах репозитория.

Это зеркало инструктивной мультимодальной модели Qwen2.5-VL-7B от команды Qwen, опубликованное пользователем chibifire. Модель принимает изображения, видео и текст, а генерирует текст; она предназначена для диалогового анализа визуального содержимого и локального инференса. В репозитории находятся веса в формате safetensors, токенизатор, шаблон чата и конфигурации процессора и генерации. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и поддерживает контекст до 128 000 токенов. Зеркало основано на Qwen/Qwen2.5-VL-7B-Instruct и распространяется по лицензии Apache-2.0. Карточка описывает английский язык; возможности для других языков здесь не подтверждены.

Это сжатая версия весов Qwen3.6-35B-A3B, опубликованная fraQtl для генерации текста и диалогов. Модель использует архитектуру MoE и предназначена для инференса, в том числе при длинном контексте; в метаданных указан размер 2,9 млрд параметров и нативный контекст до 262 144 токенов. README сообщает о сокращении размера весов примерно в 2,74 раза и работе с контекстом до 128K на одной A100-80GB; приведённые замеры включают сравнение с FP16, но имеют предварительный характер. Для загрузки необходим пакет fraqtl-runtime и Transformers версии не ниже 4.51; README указывает поддержку Linux x86_64 с CUDA. Репозиторий содержит сжатые веса в safetensors, а дообучение не входит в назначение артефакта. Лицензия обозначена как other, поэтому конкретные условия следует проверять в карточке модели. Заявленные показатели качества и длинного контекста основаны на односидовых проверках; многоязычная производительность после сжатия отдельно не оценивалась.

Qwen3-VL-4B-Instruct от Unsloth — весовой репозиторий мультимодальной модели для диалога и задач с изображениями и видео. Это дообученная версия Qwen/Qwen3-VL-4B-Instruct с плотной архитектурой Qwen3-VL и примерно 4 млрд параметров; модель распространяется в формате safetensors и работает с библиотекой Transformers. Модель принимает текст и изображения, отвечает текстом и поддерживает визуальное рассуждение, OCR, анализ видео, понимание пространственных отношений и взаимодействие с инструментами. В README заявлены контекст 256 тыс. токенов с возможностью расширения до 1 млн и OCR на 32 языках. Также описаны сценарии визуального управления интерфейсами и генерации кода или разметки по визуальному примеру. Лицензия — Apache-2.0. README не содержит численных результатов раздела производительности; заявленные преимущества и возможности следует считать описанием разработчика, а качество проверять на целевых данных.

Stockmark-2-100B-Instruct — плотная авторегрессионная языковая модель семейства Llama, разработанная Stockmark Inc. с нуля. Она содержит около 95,1 млрд параметров, обучена примерно на 2 трлн токенов: 60% английских данных, 30% японских и 10% кода. После предобучения модель прошла SFT и DPO на синтетических японских данных для улучшения следования инструкциям. Модель предназначена для диалогов и генерации текста, особенно на японском языке, а также поддерживает английский. Контекстное окно составляет 32 768 токенов; архитектура использует 86 слоёв и групповое запросное внимание с 72 головами Q и 8 головами KV. В опубликованной оценке Japanese MT-bench модель показала средний результат 7,87, включая задачи извлечения информации, ролевого диалога, STEM и программирования. Для запуска доступны веса в формате Safetensors; README приводит примеры использования с Transformers и vLLM. Модель распространяется по лицензии MIT. Для практического развертывания требуется значительный объём вычислительной памяти из-за размера модели; результаты бенчмарка не гарантируют качество в конкретном приложении.

SuperQwen3.8-27b-abliterated-GGUF — это квантованные версии мультимодальной модели SuperQwen3.8-27b-abliterated, разработанной Jiunsong и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста по текстовым и визуальным входным данным, рассуждений, вызова инструментов и работы с длинным контекстом. Заявлена поддержка английского и корейского языков, а также контекста до 262 тысяч токенов. Модель имеет размер 27 млрд параметров; архитектура в README подробно не описана. Для обработки изображений требуется дополнительный мультимодальный компонент mmproj. Доступны варианты квантования от Q2_K до Q8_0 и IQ4_XS с размером файлов примерно от 11 до 29,1 ГБ, а также версии с плавающей точностью F16. Более лёгкие варианты экономят память, но могут снижать качество; Q6_K отмечен как вариант очень хорошего качества, а Q4_K_S и Q4_K_M — как быстрые рекомендуемые варианты. К сильным сторонам относятся мультимодальность, поддержка длинного контекста, рассуждений и вызова инструментов, а также широкий выбор уровней квантования для локального запуска. Ограничения включают зависимость визуальных сценариев от отдельного mmproj-компонента и возможное ухудшение качества при агрессивном квантовании. Модель распространяется по лицензии Apache-2.0.

SuperQwen3.8-27b-abliterated-i1-GGUF — набор GGUF-квантизаций мультимодальной модели SuperQwen3.8-27b-abliterated, базовая модель которой разработана Jiunsong. Квантизации подготовлены mradermacher при поддержке nethype GmbH; отдельная благодарность указана nicoboss за вычислительные ресурсы. Модель предназначена для задач image-text-to-text, рассуждений, вызова инструментов и работы с длинным контекстом. Модель имеет около 27 миллиардов параметров, поддерживает обработку текста и изображений, а заявленный размер контекста достигает 262 тысяч токенов. В метаданных указаны английский и корейский языки. Репозиторий содержит варианты с разной степенью квантизации — от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Сильные стороны модели — мультимодальность, длинный контекст, поддержка reasoning и tool-calling, а также широкий выбор GGUF-вариантов для локального запуска. Ограничения включают неизбежные потери качества при низкой квантизации, необходимость совместимого программного обеспечения для GGUF и возможную потребность в дополнительных файлах для обработки изображений. Лицензия — Apache-2.0.

Gemma 2 27B IT — инструктивно дообученная текстовая языковая модель Google из семейства Gemma 2. Это декодерная трансформерная модель с открытыми весами, предназначенная для диалога и генерации текста по инструкциям. В репозитории указаны формат safetensors и библиотека Transformers; модель основана на google/gemma-2-27b. Модель подходит для ответов на вопросы, суммаризации, диалоговых помощников, создания текстов и рассуждений по заданному контексту. В карточке семейство описано как англоязычное; модель принимает текст и генерирует текст. Размер модели составляет 27 млрд параметров. Ответы могут содержать фактические ошибки и отражать предвзятости обучающих данных; модель может испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами. Условия лицензии Gemma определяются лицензией Google Gemma; перед использованием следует ознакомиться с её условиями и политикой допустимого применения.

Mungert/gemma-3n-E4B-it-GGUF — квантованный формат GGUF инструкционной мультимодальной модели Gemma 3n E4B, разработанной Google DeepMind и преобразованной с использованием llama.cpp. Модель предназначена для эффективного запуска на устройствах с ограниченными ресурсами и генерации текстовых ответов на основе текста, изображений, видео и аудио. Возможные сценарии включают ответы на вопросы, анализ визуального содержимого, суммирование документов, распознавание речи и автоматический перевод речи. Модель имеет 8 млрд фактических параметров, но благодаря выборочной активации параметров и выгрузке редко используемых матриц рассчитана на потребление памяти, сопоставимое с традиционной моделью на 4 млрд параметров. Она использует архитектуру MatFormer, поддерживает вложенную подмодель E2B и допускает создание моделей промежуточного размера. Контекст составляет до 32K токенов; изображения обрабатываются в разрешениях 256×256, 512×512 или 768×768, аудио — с частотой 6,25 токена в секунду для одноканального сигнала. Максимальная длина вывода — до 32K токенов за вычетом входа. Модель обучалась на данных более чем 140 разговорных языков. К сильным сторонам относятся мультимодальность, компактное эффективное выполнение и поддержка сценариев на устройствах с ограниченными ресурсами. Ограничения связаны с использованием GGUF и необходимостью совместимого программного обеспечения для запуска; конкретные характеристики квантования в представленном README не указаны. Для использования требуется принять лицензию Google Gemma; лицензия обозначена как gemma, а авторами исходной модели являются Google DeepMind.

NVIDIA Llama 3.3 70B Instruct NVFP4 — FP4-квантизованная версия инструктивной языковой модели Meta Llama 3.3 70B Instruct. Это авторегрессионная плотная модель на архитектуре Transformer/Llama 3.3 с 69,5 млрд параметров, принимающая текст и генерирующая текст. Контекст — до 128 тысяч токенов; модель поддерживает диалоговый режим и интерфейс вызова инструментов. Модель предназначена для диалоговых ассистентов и генерации текста. Квантизация весов и активаций линейных операторов в блоках Transformer выполнена с помощью NVIDIA TensorRT Model Optimizer; по данным карточки, она уменьшает требования к дисковому пространству и памяти GPU примерно в 3,3 раза. Для инференса указан TensorRT-LLM, аппаратная совместимость — NVIDIA Blackwell. Модель основана на Meta Llama 3.3 70B Instruct и подходит для коммерческого и некоммерческого использования в соответствии с условиями лицензии Llama 3.3. В README не приведены конкретные языки и результаты бенчмарков, поэтому языковой охват и сохранение качества после квантизации по этим данным оценить нельзя.

ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated — доработанная командой ApolloRaines модель на архитектуре Llama 3.3 для диалогов и генерации текста. Она создана на основе shb777/Llama-3.3-8B-Instruct-128K с применением jBlaze precision neural surgery; изменены все 32 слоя. Модель содержит 7,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для общения и генерации текста с длинным контекстом. В карточке заявлена настройка на снижение отказов: в тесте Heretic на 100 запросах авторы сообщили о нуле настоящих отказов и двух ложных срабатываниях. Авторы также описывают выпуск как демонстрационную версию с намеренно сниженной силой возможностей, а не полную версию продукта. Заявления о скорости и результатах теста относятся к сведениям карточки модели. Поддерживаемые языки по метаданным: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Лицензия — Llama 3.1 Community License; применяйте модель с учётом её условий и ограничений.

Marco-Nano-Instruct — многоязычная причинная языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Это вариант Marco-Nano-Base, дообученный для следования инструкциям, диалога и вызова инструментов. Модель построена на декодерном Transformer с разреженными MoE-слоями; в карточке указано 507,9 млн параметров, а в README — 8 млрд общих и 0,6 млрд активируемых параметров на токен. Эти значения расходятся, поэтому размер следует трактовать с осторожностью. Модель предназначена для генерации ответов, следования инструкциям, рассуждений, ответов на вопросы и многоязычных сценариев, включая перевод. README сообщает о поддержке 29 языков, в том числе русского, английского и китайского; контекст в метаданных — 32 768 токенов. Для инференса рекомендован vLLM; указано, что SGLang не поддерживает эту конфигурацию MoE с tied embeddings. Лицензия — Apache-2.0. В README приведены сильные сравнительные результаты на англоязычных, многоязычных и культурно-региональных бенчмарках, но они не гарантируют качество для любого запроса или языка.

thelamapi/next2-air-i1-GGUF — облегчённая мультимодальная языковая модель Next2-Air, разработанная компанией Lamapi в Турции. Она основана на архитектуре Qwen 3.5-2B и содержит около 2 миллиардов параметров. Модель предназначена для локального запуска на обычных компьютерах, MacBook и периферийных устройствах, где важны высокая скорость вывода и умеренное потребление ресурсов. Модель поддерживает работу с текстом и изображениями: генерацию и анализ текста, визуальное понимание, распознавание текста в документах (OCR), ответы на вопросы по изображениям и обработку визуального контекста. Заявлены режим рассуждений с использованием разметки <think> и контекстное окно до 262 144 токенов, что позволяет работать с длинными документами, PDF-файлами и большими фрагментами кода. В метаданных указаны турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский языки; отдельно подчёркивается оптимизация для турецкого и английского. Next2-Air дообучалась с использованием SFT и DPO на наборах данных для инструкционного следования, рассуждений, работы с текстом и мультимодальных сценариев. К сильным сторонам относятся небольшой размер, заявленная высокая скорость, локальное выполнение, мультимодальность и длинный контекст. Ограничением является существенно меньший масштаб по сравнению с крупными моделями, поэтому качество на сложных задачах может быть ниже; README не приводит подробного анализа отказов или ограничений. Указанные результаты бенчмарков следует рассматривать как заявления разработчика. Модель распространяется по лицензии Apache 2.0.

QVikhr-3-8B-Instruction — русско-английская инструктивная языковая модель команды Vikhr, основанная на Qwen/Qwen3-8B и дообученная методом SFT на синтетическом датасете GrandMaster2. Это плотная трансформерная модель для генерации текста и диалоговых ответов; она также предоставляет интерфейс вызова инструментов. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для следования инструкциям, ответов с учётом контекста и анализа текста, с особым вниманием к русскому языку при поддержке английского. В карточке также приведены результаты оценки DOoM по математике и физике, однако они не гарантируют качество на других задачах. Репозиторий содержит веса в формате Safetensors; README также ссылается на отдельные квантованные варианты GGUF и MLX. Лицензия — Apache-2.0.

Vontra/Qwen3.8-Flash-Next-MLX-oQ3-MTP — это квантованная MLX-версия Qwen3.8-Flash-Next, подготовленная разработчиком Vontra на основе официального BF16-чекпойнта Qwen. Модель предназначена для запуска на Apple Silicon через совместимые среды MLX и oMLX, включая задачи генерации текста и обработки изображений благодаря архитектуре vision-language. Модель использует архитектуру qwen4_exp со sparse mixture-of-experts, Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и n-граммными embeddings. Всего заявлено 125 млрд параметров языковой модели, из которых активно используется около 6 млрд, 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов на токен и один общий эксперт. Контекст составляет 262 144 токена, а upstream-версия допускает расширение до 1 млн токенов. В состав включён native MTP-блок на 4 млрд параметров для speculative decoding. Квантование oQ3 использует 3-битную аффинную основу с размером группы 32 и 746 модулями повышенной точности: части весов представлены в 4-, 5-, 6- и 8-битном формате. Модель занимает около 92,5 ГБ и поставляется в формате MLX safetensors. В тесте на Apple M3 Studio включение native MTP повысило скорость генерации с 26,54 до 29,08 токена в секунду, однако фактическая производительность зависит от длины контекста, версии runtime, памяти и тепловых условий. Для работы требуется runtime с явной поддержкой qwen4_exp и native MTP; неподдерживаемые среды могут не загрузить модель. Модель распространяется по лицензии Qwen Community License 1.0. README не содержит полных сведений о результатах upstream-оценок, безопасности и ограничениях исходной модели; за ними следует обращаться к оригинальной карточке Qwen3.8-Flash-Next.

ddark-il/Qwen3.8-Flash-Next-Uncensored-Mixed-omlx — это MLX-квантизированная версия модели orcarouter/Qwen3.8-Flash-Next-Uncensored, подготовленная для запуска через oMLX на устройствах Apple Silicon. Модель основана на архитектуре qwen4_exp с разреженными экспертами (MoE), поддерживает текстово-визуальные сценарии и имеет тег image-text-to-text. В README не указано, что ddark-il является исходным разработчиком базовой модели; он предоставляет адаптированный квантованный вариант. Модель содержит около 180 млрд параметров и использует смешанную AWQ/affine-квантизацию с эффективной точностью 4,86 бит на параметр. Размер файлов составляет около 109,24 ГБ, а заявленная длина контекста — до 262 тысяч токенов. В составе предусмотрены MTP-компонент для speculative decoding, GDN и sparse attention, а также vision-модули. Квантизация распределена по чувствительности компонентов: маршрутизируемые эксперты и некоторые таблицы имеют 4-битную точность, критичные элементы сохранены в 8-битном или BF16-виде. Модель предназначена для длинноконтекстной генерации текста, агентских сценариев с вызовами инструментов и задач, сочетающих текст и изображения. На M5 Max с 128 ГБ памяти и oMLX 0.6.4 автор README измерил около 30,7 токена в секунду при работе с длинными агентскими сессиями. Ограничения включают требование oMLX версии не ниже 0.6.3rc3, значительное потребление памяти, зависимость от корректной настройки mmap для PLE-таблицы и отсутствие дополнительного обучения или калибровки. Лицензия — Apache-2.0.

Suzhou 3.1 — созданная Tripplet Models инструкционная языковая модель с архитектурой причинного трансформера Qwen3.5, объединённая методом SLERP. В метаданных указано 7,2 млрд параметров, а README сообщает об округлённом размере 8,95 млрд; модель использует смешанное внимание с линейными и полными слоями и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, рассуждений, генерации текста и работы в роли агента с вызовом инструментов в формате Hermes. Заявлена поддержка более 29 языков; метаданные перечисляют английский, китайский, корейский, японский, французский, испанский, немецкий, итальянский, русский и арабский. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. README описывает модель как пригодную для потребительского оборудования, но не приводит результатов сравнительных тестов.