I.11Классификация, ранжирование и сопоставление

Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Qwen3-128k-30B-A3B-NEO-MAX-Imatrix-gguf — набор GGUF-квантизаций модели Qwen3-30B-A3B, разработанной командой Qwen. Это разреженная Mixture-of-Experts-модель с 30 млрд общих параметров и 128 экспертами, из которых обычно активируются 8 в зависимости от содержания запроса; эффективный объём активных параметров составляет около 3 млрд. Автор сборки применил собственный NEO Imatrix-процесс и модификации, ориентированные на работу с различными уровнями квантования. Модель предназначена для генерации текста, творческого письма, ролевых сценариев, рассуждений, решения задач и использования инструментов. Заявлена поддержка контекста до 131072 токенов, расширенного с 32768 с применением YaRN. В README указана поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Ключевое преимущество сборки — возможность запуска всех вариантов на GPU, CPU или в режиме CPU с оперативной памятью благодаря MoE-архитектуре и активации только части параметров. NEO Imatrix-квантизация призвана сохранить пригодное качество даже у компактных вариантов, однако более низкие уровни квантования уступают старшим по качеству и могут требовать более подробных промптов. Скорость и качество зависят от конкретного варианта квантизации и оборудования; приведённые в README оценки производительности ограничены описанной конфигурацией. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-quantized.w4a16 — языковая модель для генерации текста, разработанная Red Hat совместно с Neural Magic на основе Qwen3-32B от Qwen. Она предназначена для рассуждений, function calling, мультиязычного следования инструкциям, перевода и создания специализированных экспертных решений после дообучения. Модель использует архитектуру Qwen3ForCausalLM, принимает текстовые входы и генерирует текст. Веса линейных операторов в трансформерных блоках сжаты до INT4 с применением GPTQ, симметричной поканально-групповой схемы и размером группы 128; остальные характеристики базовой модели, включая точный набор языков и исходный размер контекста, в README не указаны. Квантование уменьшает размер на диске и требования к памяти GPU примерно на 75% по сравнению с представлением весов в 16 бит. Для развёртывания рекомендуется использовать vLLM, включая режим совместимого с OpenAI API сервера. К сильным сторонам относятся существенное снижение потребления памяти и возможность эффективного запуска крупной модели на ограниченных GPU-ресурсах при сохранении назначения базовой модели. Ограничения связаны с потерями качества, возможными при квантовании, а также с тем, что README не содержит численных результатов оценки и подробностей о производительности. Модель распространяется по лицензии Apache-2.0; использование должно соответствовать применимым законам и нормативным требованиям.

Qwen3.8-27B-AWQ-5.0bpw-Sharp — мультимодальная плотная модель на базе Qwen/Qwen3.8-27B, подготовленная mrKola для запуска на Apple Silicon через oMLX. Это вариант с квантизацией AWQ 5,00 бита на параметр и группами размера 64; модель занимает около 17,36 ГБ. Архитектура сочетает GatedDeltaNet и полнослойное внимание, включает визуальный модуль и встроенную голову MTP. Базовая модель имеет контекст до 256 тысяч токенов. Модель предназначена для диалогов, анализа изображений, программирования, рассуждений и многошаговых задач; интерфейс также предусматривает вызов инструментов. Калибровка учитывала текст и изображения, включая диаграммы и фотографии. В README приведены результаты HumanEval, GSM8K и MMLU, однако они сравнивают две квантизованные сборки, а не дают независимую оценку качества. Указанные скорости измерены на M5 Max с oMLX и не гарантируют такую же производительность на другом оборудовании. Модель распространяется по лицензии Apache-2.0. Качество на длинном контексте с ускорением SpecPrefill и моделью-черновиком с несовпадающим токенизатором не измерено; README рекомендует проверять такие сценарии на собственных данных.

Calcium-Opus-14B-Elite-1M — плотная языковая модель семейства Qwen2, выпущенная prithivMLmods и дообученная на базе Qwen/Qwen2.5-14B-Instruct-1M. По метаданным, модель содержит 14 млрд параметров, использует Transformers и формат safetensors, а её нативный контекст составляет до 1,01 млн токенов. Карточка заявляет улучшения в рассуждениях, работе с длинным контекстом, математике и поддержке более 50 языков; также заявлены мультимодальные возможности для текста, изображений и табличных данных, однако метаданные подтверждают только задачу генерации текста. Модель предназначена для диалогов и генерации текста, включая анализ длинных материалов, ответы с подробными рассуждениями и работу с техническими, юридическими, медицинскими и финансовыми темами. В качестве сценариев карточка также называет клиентскую поддержку, перевод и анализ документов. Подтверждённый основной язык — английский; более широкая языковая и мультимодальная поддержка заявлена в README, но не отражена в метаданных. Для запуска на длинном контексте требуются значительные вычислительные ресурсы; карточка также предупреждает о возможной избыточности ответов в очень длинных творческих задачах и о смещениях на малоресурсных языках. Лицензия — Apache-2.0.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ8e — Apple Silicon-версия мультимодальной модели GLM-5.3-Flash. Исходную архитектуру разработала Zhipu AI / ZAI, uncensored-веса предоставлены dealignai, а смешанную квантизацию oQ8e подготовила Solstice-AI. Модель распространяется в формате MLX и предназначена для локального запуска на чипах Apple Silicon M2, M3, M4 и M5. Это разреженная MoE-модель общим объёмом 320 млрд параметров, из которых около 18 млрд активируются для каждого токена; используется 288 маршрутизируемых экспертов. Модель поддерживает текст, изображения и видео, заявлены языки English и Chinese, а также нативное контекстное окно до 1 048 576 токенов. В релиз включён DFlash2 speculative drafter, который, по данным README, может обеспечивать прирост пропускной способности генерации до 3 раз. Ключевая особенность — смешанная точность около 8,6 bpw: критичные для маршрутизации и вывода компоненты защищены 8-битным или полным представлением, а vision tower и мультимодальный aligner сохранены в BF16. Модель ориентирована на рассуждения, программирование, математические задачи, анализ изображений и видео, а также работу с длинным контекстом. README заявляет высокие результаты на MMLU, SWE-bench Pro, LiveCodeBench, MATH-500, MMMU и VideoQA, но эти показатели не подтверждены независимыми источниками. Пометка UNCENSORED указывает на отсутствие обычного поведения отказа, что расширяет спектр допустимых сценариев, но может повышать риски небезопасных ответов. Лицензия — MIT.

GPT-3.5 Turbo 16k — вариант модели GPT-3.5 Turbo с увеличенным контекстным окном, разработанный OpenAI. Он предназначен для генерации текста и диалогов, в том числе для запросов, в которых нужно передать большой объём текста за один раз. По карточке модель обрабатывает примерно 20 страниц текста в одном запросе; использование обходится дороже, чем у стандартной версии GPT-3.5 Turbo.

Ling-lite-1.5 — языковая модель с разреженной архитектурой MoE, разработанная InclusionAI для генерации текста и диалогового взаимодействия. Карточка относит её к семейству Ling и приводит для этой версии 16,8 млрд параметров, из которых активируется 2,75 млрд. В метаданных репозитория указано 794,8 млн параметров и контекст 32 768 токенов, тогда как README сообщает 128K контекста; поэтому характеристики размера и длины контекста в источниках расходятся. Модель предназначена для широкого круга задач с текстом, включая ответы на вопросы, решение задач и генерацию кода. В опубликованной таблице оценки приведены результаты на MMLU, GPQA и HumanEval; README также описывает тесты длинного контекста до 128K. Для запуска указана библиотека Transformers, веса представлены в формате safetensors. Лицензия — MIT.

LLaMa-3.1-Instruct-13B — языковая модель, созданная сообществом mergekit-community с помощью mergekit из unsloth/Meta-Llama-3.1-8B-Instruct. Применён метод passthrough: в итоговую модель включены указанные диапазоны слоёв исходной модели. Это плотная архитектура Llama для генерации текста и диалогов; размер составляет 12,5 млрд параметров, нативный контекст — до 131 072 токенов. Модель подходит для ответов на вопросы, диалоговых сценариев и генерации текста; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса safetensors, библиотека — Transformers. В карточке указана лицензия исходной модели Llama 3.1: используйте модель в соответствии с её условиями.

Карточка модели zsjTiger/Llama-3.2-1B на Hugging Face совпадает с карточкой unsloth/Llama-3.2-1B, поэтому описание составлено по ней. unsloth/Llama-3.2-1B — текстовая модель генерации на базе Meta Llama 3.2, представленная Unsloth. Это плотная авторегрессионная трансформерная архитектура Llama с 1,2 млрд параметров; репозиторий содержит веса в формате safetensors и предназначен для использования через Transformers. В README Unsloth также предлагает ноутбуки для дообучения модели и экспорта полученных моделей. Модель принимает текст и генерирует текст. Семейство Llama 3.2 предназначено для генерации и диалога; в карточке указаны сценарии суммаризации и агентного поиска, а также поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Контекстное окно составляет 131072 токена. Модель опубликована 25 сентября 2024 года и распространяется по лицензии Llama 3.2 Community License, условия которой следует соблюдать при использовании и распространении.

Megrez-3B-Instruct —由无问芯穹（Infinigence AI）自主训练的指令微调大语言模型，面向对话、文本生成和端侧部署。模型采用带有 GQA 的 Llama-2 架构，约 2.6B 参数，支持最长 32K token 的上下文，并针对常见硬件优化了推理速度。模型支持中文和英文，适用于问答、写作、摘要、代码与数学推理等场景；还可配合 InfiniWebSearch 部署方案，根据对话内容决定是否调用网页搜索并总结带来源的信息。 README приводит результаты оценок на языковых, диалоговых, длинноконтекстных, кодовых и математических тестах, включая успешное прохождение заявленного 32K-теста поиска фрагмента в длинном контексте. Как и другие компактные языковые модели, Megrez может ошибаться в фактах, математике и рассуждениях; для ответов, требующих актуальных сведений, авторы рекомендуют подключать веб-поиск, а для точных задач — снижать temperature и проверять результаты. Лицензия репозитория — Apache-2.0.

MaziyarPanahi/Mistral-Large-Instruct-2407-GGUF — это набор файлов модели в формате GGUF для инструкционной языковой модели Mistral-Large-Instruct-2407, разработанной компанией Mistral AI. Репозиторий содержит квантизированные варианты исходной модели, включая уровни 2-, 3-, 4-, 5-, 6- и 8-битной квантизации. Модель предназначена для генерации текста и выполнения задач по инструкциям, а формат GGUF ориентирован на локальный запуск и эффективное использование ресурсов. Файлы совместимы с llama.cpp и рядом связанных инструментов и приложений, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Поддерживаются сценарии локального диалога, генерации текста и интеграции через программные библиотеки или API-совместимые серверы. Ключевые характеристики исходной архитектуры, количество параметров, поддерживаемые языки, размер контекста и мультимодальные возможности в README не указаны. Сильными сторонами являются несколько вариантов квантизации и широкая совместимость с экосистемой GGUF; при этом степень потери качества и требования к памяти зависят от выбранного уровня квантизации. Лицензия в представленном описании не указана.

Mixtral-8x22B-Instruct-v0.1 — инструктивная языковая модель от команды Mistral AI на архитектуре Mixtral с причинным декодированием и смесью экспертов (MoE). Это дообученная версия Mixtral-8x22B-v0.1; в метаданных указан размер 22B параметров и контекст до 65 536 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Её можно использовать для ответов на вопросы, объяснений и взаимодействия с инструментами через предусмотренный формат function calling. Метаданные указывают поддержку английского, испанского, итальянского, немецкого и французского языков. Для запуска README описывает токенизацию и инференс через mistral-common и mistral-inference; в метаданных также указана библиотека vLLM. Модель распространяется по лицензии Apache-2.0. README отмечает, что для function calling нужно корректно применять специальные токены и формат токенизатора SentencePieceTokenizerV3; результаты вызова инструментов зависят от совместимой обработки этого формата.

Olmo-3.1-32B-Instruct-DPO — авторегрессионная трансформерная языковая модель Allen Institute for AI (Ai2), дообученная методом DPO на основе allenai/Olmo-3.1-32B-Instruct-SFT. Модель содержит 31,7 млрд параметров, работает с текстом и предназначена для диалогов и выполнения инструкций. Разработчики отмечают задачи математики, программирования, общих знаний и чата; контекстная длина составляет 65 536 токенов. Модель обучалась на английском языке и распространяется в формате Safetensors для использования с Transformers. Ai2 публикует семейство Olmo для исследований языковых моделей; лицензия Apache 2.0. В README приведены результаты оценивания, но они не гарантируют точность ответов в конкретных сценариях.

Qemma — гибридная текстовая языковая модель от Convergent Intelligence LLC: Research Division. Она объединяет веса Gemma 3 1B и Qwen3 0.6B без адаптеров, после чего проходит дообучение на инструкциях и пошаговых рассуждениях. В основе — плотная архитектура Gemma 3 с 26 слоями и скрытым размером 1152; в ней используются внимание в стиле Qwen и токенизатор Gemma 3. Модель предназначена для генерации текста, диалогов, следования инструкциям, анализа и помощи с кодом, а также для дальнейшего дообучения. Заявленная длина контекста — 32 768 токенов. Модель ориентирована на английский язык. Карточка указывает лицензию OSL-3.0. Возможны галлюцинации; модель не следует использовать для принятия критически важных медицинских, юридических или финансовых решений.

Карточка модели kyoganath786/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

QuantFactory/Qwen2.5-3B-Instruct-GGUF — квантизированная версия модели Qwen2.5-3B-Instruct, созданная QuantFactory с использованием llama.cpp на основе Qwen/Qwen2.5-3B-Instruct. Это каузальная языковая модель для генерации текста и диалоговых сценариев, включая следование инструкциям, ответы на вопросы, написание длинных текстов, работу со структурированными данными и генерацию JSON. Она также ориентирована на задачи программирования и математики. Модель содержит 3,09 млрд параметров, имеет 36 слоёв и архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-внимании и связанными эмбеддингами слов. Используется Grouped-Query Attention: 16 голов для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Квантизация в формате GGUF предназначена для локального запуска через совместимое программное обеспечение на базе llama.cpp и может снизить требования к вычислительным ресурсам по сравнению с полноразмерной моделью. README не содержит сведений о конкретном уровне квантизации, точных требованиях к памяти, производительности или ограничениях качества, поэтому их нельзя определить по предоставленным данным. Модель распространяется по лицензии qwen-research; указанная лицензия доступна по ссылке на исходную модель Qwen/Qwen2.5-3B-Instruct.

nvidia/Qwen3-14B-FP8 — квантизированная версия авторегрессионной языковой модели Qwen3-14B, разработанной Alibaba и подготовленной NVIDIA с помощью TensorRT Model Optimizer. NVIDIA не является владельцем или разработчиком исходной модели; компания выпустила её FP8-вариант для заданных сценариев развертывания. Модель предназначена для генерации текста в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Она принимает текстовые последовательности и возвращает текст. Модель имеет архитектуру Transformer, около 14,8 млрд параметров и контекстное окно до 131 тысячи токенов. Поддерживается только текстовая модальность; конкретный набор языков в README не указан. Вариант FP8 квантизирует веса и активации линейных операторов внутри блоков Transformer, что делает модель ориентированной на эффективный инференс с TensorRT-LLM. Указана совместимость с GPU-архитектурой NVIDIA Blackwell, операционной системой Linux и тестовым оборудованием NVIDIA B200. Ограничения включают зависимость от поддерживаемого NVIDIA-стека и отсутствие опубликованных в README сведений о результатах тестирования, обучающих данных и языковых характеристиках. Калибровка выполнялась на датасете cnn_dailymail, а остальные сведения о наборах данных не раскрыты. Модель доступна для коммерческого и некоммерческого использования по лицензии Apache License 2.0. Перед применением разработчикам рекомендуется самостоятельно оценить качество, безопасность и соответствие модели требованиям конкретной отрасли и сценария.

RedHatAI/Qwen3.5-35B-A3B-FP8-dynamic — мультимодальная разреженная MoE-модель, созданная RedHatAI на основе Qwen/Qwen3.5-35B-A3B от Alibaba Cloud. Она принимает текст и изображения, а генерирует текст. Модель ориентирована на рассуждения, вызов инструментов, обработку визуально-текстовых запросов и обычные текстовые сценарии генерации и анализа. Модель содержит 35 млрд параметров, из которых около 3 млрд активируются для отдельного запроса, и использует FP8-квантизацию весов и активаций. Квантизация выполнена с помощью LLM Compressor в формате compressed-tensors и предназначена для эффективного инференса через vLLM. В FP8 преобразованы линейные операторы трансформерных блоков, тогда как визуальный энкодер, некоторые компоненты attention и MoE, маршрутизатор экспертов и эмбеддинги сохранены в исходной точности. Это примерно вдвое снижает требования к дисковому пространству и памяти GPU по сравнению с 16-битным представлением. Сильными сторонами модели являются сочетание языковых и визуальных возможностей, поддержка reasoning, tool calling, speculative decoding с Multi-Token Prediction и возможность запуска в текстовом режиме с освобождением памяти под KV-cache. Модель валидирована с vLLM 0.18.0, RHAIIS 3.4 и RHOAI 3.4. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна и численные результаты тестов, поэтому влияние квантизации на качество и ограничения по отдельным задачам оценить нельзя. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная модель семейства Qwen3.5, дообученная и собранная DavidAU совместно с Nightmedia на основе нескольких собственных дообучений Qwen3.5-9B. Это плотная архитектура с 9 млрд параметров, 32 слоями и зрительным энкодером; модель принимает текст и изображения и формирует текстовые ответы. В карточке заявлены контекст до 256 тыс. токенов, режимы рассуждения и диалога, а также интерфейс вызова инструментов. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования и творческого письма, включая ролевые сценарии. По заявлению автора, она прошла многоэтапное дообучение и слияние моделей; опубликованы также варианты GGUF, включая квантизованные и MTP-сборки, но эта карточка содержит исходные веса BF16 в safetensors. Автор приводит сравнительные результаты тестов, однако они не гарантируют превосходства на любых задачах. Модель помечена как uncensored; лицензионные условия — Apache-2.0.

Qwen3.8-27B-oQ8e-fp16-mtp — это 8-битная MLX-квантизированная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем evsinlb. Модель предназначена для генерации текста, диалогов, рассуждений и агентских сценариев с вызовом инструментов. Она поддерживает режим thinking с сохранением цепочек рассуждений в многошаговом диалоге, а также визуальные компоненты, поэтому не является текстовой версией без vision-модулей. Архитектура основана на гибриде Gated DeltaNet и Gated Attention; заявлены нативная работа с изображениями и контекст до 262 144 токенов. Квантизация выполнена в формате MLX safetensors с эффективной точностью 8,6 bpw, размером группы 64 и калибровкой imatrix на 1024 образцах. Веса multi-token prediction сохранены, что обеспечивает поддержку MTP и Lightning MTP после квантизации. Неквантизированные параметры имеют тип float16; размер весов составляет около 27,5 GiB. Модель ориентирована прежде всего на Apple Silicon, при этом для M3 и M4 рекомендуется родственная версия с bf16 из соображений численной безопасности. Сильными сторонами являются большой контекст, сохранение reasoning-трасс, стабильный многошаговый tool use и возможность экспериментального ускорения обработки длинных промптов через ANE в oMLX 0.6.3. На M2 Ultra прирост prompt processing составлял до 35,7% на промптах длиной 4096 токенов и 19,5% на 65 536 токенах, однако требуется около 16 ГБ дополнительной оперативной памяти, а короткие промпты преимуществ не дают. Thinking увеличивает время работы примерно на 25–35%, а decode при включённом ANE существенно не ускоряется. Для использования необходимы совместимые MLX/oMLX-окружение и аппаратные ресурсы, достаточные для размещения модели и KV-кэша. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next GGUF — это квантизированная версия официальной модели Qwen/Qwen3.8-Flash-Next, подготовленная BatiAI в формате GGUF для запуска через llama.cpp. Модель предназначена для генерации текста, программирования, работы с инструментами и структурированного вывода, включая JSON. Заявлена поддержка английского, корейского и китайского языков. Модель использует MoE-архитектуру qwen4exp: около 176,9 млрд параметров, из которых примерно 4,9 млрд активируются на каждом токене; всего используется 512 экспертов с выбором top-10. Доступны варианты квантизации IQ3_XXS, IQ4_XS, Q4_K_M и Q6_K размером примерно от 79 до 141 ГиБ. Вариант IQ4_XS показал скорость генерации 11,7 токена в секунду на CPU и 32,74 токена в секунду на Mac Studio M2 Ultra с 192 ГиБ памяти. Для запуска требуется актуальная версия llama.cpp с поддержкой qwen4exp; старые версии, а также ранние сборки Ollama и LM Studio могут не загружать модель. Сильными сторонами являются высокая скорость для модели такого размера, проверенная генерация на корейском языке, поддержка вызова инструментов, программирования, длинных текстов и структурированного вывода. При этом модель ненадёжна в арифметике: в тестах она допустила ошибки в двух нетривиальных выражениях, поэтому вычисления, особенно связанные с деньгами и количествами, следует передавать калькулятору или проверять отдельно. Для работы требуется значительный объём памяти. Лицензия указана как qwen-community-license-1.0; применяются условия лицензии Qwen.

RadixArk Qwen3.8-Flash-Next-NVFP4 — кандидатный релиз RadixArk, представляющий квантованную версию мультимодальной модели Qwen3.8-Flash-Next. Это гибридная архитектура Transformer с Mixture-of-Experts, объединяющая GDN и разреженное QSA-внимание, multi-hyperconnection streams и PLE n-gram injection. Модель содержит около 180 млрд параметров, 48 декодерных слоёв, до 512 маршрутизируемых экспертов на MoE-слой с маршрутизацией top-10, общий эксперт и один MTP-слой. Модель принимает текст, изображения и видео, а выдаёт текст; заявленная длина контекста — до 262 тысяч токенов. Она предназначена для оценки инференса Qwen3.8-Flash-Next в задачах агентных систем, диалогов, программирования и мультимодального рассуждения. Квантование выполнено с помощью NVIDIA Model Optimizer по схеме NVFP4 W4A4 преимущественно для маршрутизируемых экспертов; размер контрольной точки уменьшен примерно с 360 до 135 ГБ. Для запуска указана интеграция с SGLang и поддержка GPU NVIDIA Blackwell, включая GB300 и B300, в Linux. По приведённым оценкам, квантование сохраняет качество в однопроходных задачах GSM8K и AIME, однако длительные агентные генерации могут выполняться дольше, чем в BF16-версии. Модель может порождать неточные, неполные, избыточные или токсичные ответы и воспроизводить предвзятость обучающих данных. Лицензия обозначена как other; условия использования необходимо смотреть у исходной модели Qwen3.8-Flash-Next.

Qwen3-VL-30B-A3B-Thinking-GGUF — мультимодальная vision-language модель из серии Qwen3-VL, разработанная командой Qwen и представленная в формате GGUF проектом Unsloth. Модель предназначена для генерации текста на основе текстовых и визуальных входных данных, включая анализ изображений и видео, визуальное рассуждение, OCR, понимание пространственных отношений, решение задач STEM и математики, а также взаимодействие с графическими интерфейсами и инструментами. Модель использует MoE-архитектуру и относится к reasoning-ориентированной версии Thinking; заявленный размер — 30B параметров при 3B активных параметрах. Поддерживаются текст, изображения и видео. Контекст составляет 256K токенов с возможностью расширения до 1M. Среди архитектурных особенностей указаны Interleaved-MRoPE для временного и пространственного позиционирования, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. OCR поддерживает 32 языка, однако полный список языков в README не приведён. Сильные стороны модели — мультимодальное понимание, визуальное и пространственное рассуждение, обработка длинного контекста и видео, распознавание текста в сложных условиях, а также генерация Draw.io, HTML, CSS и JavaScript по изображениям или видео. Ограничения, требования к ресурсам, точные показатели производительности и конкретные параметры GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0; в репозитории Unsloth также отмечены исправления chat template.

QuantTrio/Qwen3-VL-32B-Instruct-AWQ — это квантизированная версия AWQ мультимодальной instruct-модели Qwen3-VL-32B-Instruct, разработанной командой Qwen. Репозиторий предназначен для запуска модели с использованием Transformers и vLLM; размер файлов модели составляет около 20 GiB, а в README приведена конфигурация с контекстом 32 768 токенов и тензорным параллелизмом на двух GPU. Модель принимает текст и визуальные данные, включая изображения и видео, и предназначена для генерации ответов, визуального анализа, OCR, пространственного и временного рассуждения, STEM- и математических задач, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Для OCR заявлена поддержка 32 языков, однако полный перечень языков в README не указан. Базовая архитектура включает механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, направленные на улучшение обработки длинного контекста, деталей изображений и видеособытий. Для исходной модели заявлен нативный контекст до 256K с возможностью расширения до 1M, но для данной AWQ-конфигурации в примере запуска задан лимит 32 768 токенов. Сильные стороны модели — сочетание текстового и визуального понимания, работа с изображениями и видео, распознавание текста в сложных условиях и развитое пространственно-временное рассуждение. Ограничения связаны с необходимостью совместимого программного окружения и GPU-инфраструктуры; README рекомендует vLLM версии 0.11.0 или выше и qwen-vl-utils 0.0.14. Модель распространяется по лицензии Apache-2.0.

Карточка модели scalejade/qwen-sea-lion-v4.5-27b-it на Hugging Face совпадает с карточкой aisingapore/Qwen-SEA-LION-v4.5-27B-IT, поэтому описание составлено по ней. Qwen-SEA-LION-v4.5-27B-IT — мультимодальная инструктивная модель AI Singapore для языков Юго-Восточной Азии, дообученная на основе Qwen3.6-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Linear и Full Attention и визуальным энкодером; она принимает текст и изображения и генерирует текст. Контекстное окно составляет 262 тыс. токенов. Модель прошла постобучение с дистилляцией и слиянием моделей на наборе SEA-Instruct-2602. Модель предназначена для многоязычного диалога, ответов на вопросы, перевода, суммаризации, рассуждений и работы с изображениями. В карточке заявлена поддержка английского, бирманского, индонезийского, филиппинского, малайского, тамильского, тайского и вьетнамского языков; метаданные также указывают китайский. Доступны интерфейсы чата и вызова инструментов. Модель распространяется по лицензии MIT. Разработчик предупреждает, что модель может галлюцинировать, давать нерелевантные или непоследовательные ответы и не проверялась на устойчивость к состязательным запросам. Она не проходила выравнивание по безопасности, поэтому перед использованием следует самостоятельно оценить риски и при необходимости провести дополнительную настройку.

zypcastles/QwQ-32B-Instruct-abliterated — объединённая модель семейства Qwen2, созданная разработчиком с помощью mergekit методом SLERP из huihui-ai/Qwen2.5-32B-Instruct-abliterated и huihui-ai/QwQ-32B-Preview-abliterated. Модель предназначена для диалога и генерации текста с улучшенным следованием инструкциям по сравнению с исходной QwQ-моделью. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает текст, выдавая текст. Контекст составляет до 32 768 токенов. Доступна в формате safetensors для библиотеки Transformers; метаданные также указывают интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

Spark-X2.5-4B-GGUF — набор общественных GGUF-квантизаций компактной универсальной языковой модели Spark-X2.5-4B, разработанной SparkLLM и опубликованной в исходном виде XHToken. Репозиторий ngquocvinh содержит только квантизированные файлы для локального запуска; обучение и дообучение в рамках этого выпуска не выполнялись. Модель предназначена для диалогов, написания текстов, перевода, рассуждений, программирования, использования инструментов и агентских сценариев. Исходная модель имеет 4B параметров, поддерживает английский, китайский и, по заявлению авторов, более 200 языков. Заявлено контекстное окно до 1 млн токенов и гибридное внимание: один слой с полным вниманием и три слоя со скользящим окном, что должно способствовать эффективной обработке длинного контекста. Квантизации представлены в форматах GGUF и совместимы с llama.cpp; также заявлена поддержка экосистем llama.cpp, vLLM, SGLang, MLX, Ollama и LM Studio. Основное преимущество — возможность локального запуска при разных ограничениях по памяти: Q8_0 ближе всего к исходному BF16 по результатам измерений, Q4_K_M предлагает компромисс между размером и качеством, а Q2_K требует меньше ресурсов ценой заметной потери точности. Ограничения включают снижение fidelity у низкобитных вариантов и отсутствие в README подробных сведений о точных требованиях к памяти, скорости, обучающих данных и результатах прикладных бенчмарков. Производные файлы распространяются по Apache License 2.0 с сохранением атрибуции исходной модели; это неофициальный community-релиз и не подтверждение со стороны XHToken или SparkLLM.

Tulu 30B — плотная авторегрессионная языковая модель семейства LLaMA с 32,3 млрд параметров, дообученная исследователями Allen Institute for AI на смеси наборов инструкций. Она предназначена для диалогов и выполнения инструкций: ответов на вопросы, рассуждений, решения задач и генерации кода. При обучении использовались FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT; модель рассчитана на англоязычные запросы и формат промпта, описанный в карточке. Контекст составляет 2048 токенов, веса представлены в формате PyTorch как diff, для восстановления нужны исходные веса LLaMA в формате Hugging Face. В статье приведены результаты на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Использование регулируется лицензией AI model license вместе с исходной лицензией LLaMA.

WizardLM-2 7B — плотная авторегрессионная языковая модель семейства Mistral, разработанная командой WizardLM в Microsoft AI и дообученная на базе mistralai/Mistral-7B-v0.1 с использованием синтетической обучающей системы. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; нативная длина контекста — 32 768 токенов. Модель предназначена для диалогов и выполнения сложных инструкций, включая рассуждения, написание текстов, программирование, математические задачи и многоязычные запросы. Авторы позиционируют версию 7B как быструю модель, показывающую сильные результаты для своего размера; заявленные оценки основаны на MT-Bench и сравнении предпочтений людей. Модель распространяется под лицензией Apache 2.0. Карточка не приводит конкретный перечень поддерживаемых языков и не описывает отдельные механизмы вызова инструментов; качество ответов и результаты бенчмарков следует оценивать для целевых задач самостоятельно.