I.11Классификация, ранжирование и сопоставление

NeuralKybalion-7B-slerp — объединённая модель, созданная с помощью LazyMergekit из NousResearch/Hermes-2-Pro-Mistral-7B и liminerity/M7-7b. Это плотная авторегрессионная языковая модель семейства Mistral с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Веса опубликованы в формате safetensors. Модель предназначена для генерации текста и может использоваться в сценариях, подходящих для объединённых исходных моделей, включая диалоги, выполнение инструкций, вызов функций и генерацию JSON. В README указано слияние методом slerp с настройками для слоёв внимания и MLP. Информация о лицензии в предоставленных данных отсутствует.

Nous-Hermes-2-Mixtral-8x7B-DPO-GGUF — это квантизированная версия языковой модели Nous-Hermes-2-Mixtral-8x7B-DPO, разработанной NousResearch и преобразованной в формат GGUF компанией Second State Inc. Модель основана на архитектуре Mixtral и дообучена с применением DPO и RLHF; в метаданных также указаны синтетические данные и дистилляция. Заявленный язык — английский. Модель предназначена для диалоговых и инструкционных сценариев: генерации ответов, общения в формате чат-бота и выполнения текстовых запросов. Она использует шаблон ChatML и поддерживает контекст размером 4096 токенов. Доступно несколько вариантов квантизации от Q2_K до Q8_0 размером от 17,3 до 49,6 ГБ. Q4_K_M рекомендуется как сбалансированный вариант, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. К сильным сторонам относятся архитектура Mixtral, диалоговая настройка и широкий выбор уровней квантизации для локального запуска. Более агрессивная квантизация уменьшает требования к памяти, но приводит к заметной потере качества; наиболее компактные варианты не рекомендуются для большинства задач. В README не указаны мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия — Apache-2.0. Для запуска с LlamaEdge требуется версия 0.2.8 или новее.

NuExtract 2.0 8B — мультимодальная модель компании NuMind для извлечения информации в структурированный формат. Она основана на Qwen2.5-VL и дообучена для работы с текстом и изображениями; содержит 7,1 млрд параметров и поддерживает контекст до 128 000 токенов. Для извлечения пользователь передаёт текст или изображение и JSON-шаблон с нужными полями и типами значений. Модель возвращает найденные данные в соответствии со схемой, поддерживая строки, числа, даты, перечисления и массивы. Она также может создавать шаблоны из текстового описания или преобразовывать схемы из других форматов. Для задач с неоднозначностью можно добавить примеры в контекст; разработчики рекомендуют использовать температуру, близкую к нулю. Модель предназначена для многоязычного извлечения информации из документов и других текстовых или визуальных источников. Её можно развёртывать через Transformers или vLLM. Лицензия репозитория — MIT.

NVIDIA-Nemotron-Nano-9B-v2-Japanese — разработанная NVIDIA Japan японская версия языковой модели NVIDIA Nemotron Nano, дообученная на японских данных для чата и задач с рассуждением. Модель предназначена для диалоговых приложений, следования инструкциям, AI-агентов и RAG-систем; поддерживает вызов инструментов и программирование. В основе — гибридная архитектура Nemotron-H с преимущественно слоями Mamba-2 и MLP и четырьмя слоями Attention. Модель принимает и генерирует текст, поддерживает японский и английский языки и контекст до 131 072 токенов. Может сначала выдавать трассу рассуждений, а затем ответ; режим рассуждений и бюджет токенов на него настраиваются при инференсе. Карточка указывает 9 млрд параметров, тогда как метаданные каталога — 15,1 млрд. Модель оптимизирована для систем с GPU NVIDIA; качество зависит от задачи, а результаты Nejumi Leaderboard 4 измерены на японских подмножествах и не сопоставимы напрямую с исходными бенчмарками. Коммерческое использование разрешено; в метаданных лицензия обозначена как other.

openchat-3.5-0106-128k-DPO-fixed-32000 — слитая модель на архитектуре Mistral, созданная с помощью LazyMergekit на основе NousResearch/Yarn-Mistral-7b-128k и Eric111/openchat-3.5-0106-128k-DPO. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, написания текстов и работы с длинными документами; заявленная длина контекста в метаданных — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и конкретных языковых ограничениях в предоставленных данных отсутствуют.

OpenJAI-v1.0-14B — открытая языковая модель Jasmine Technology Solution (JTS), дообученная на базе Qwen/Qwen3-14B для работы на тайском и английском языках. Это плотная трансформерная модель с 14 млрд параметров для диалогов и генерации текста; опубликована в формате Safetensors и использует библиотеку Transformers. Модель предназначена для следования сложным инструкциям, работы с длинными текстами и вызова инструментов или функций. Разработчики сообщают об улучшении результатов относительно базовой модели и других сопоставимых открытых тайских моделей на ряде тестов, сохраняя основные знания Qwen3. Заявлена поддержка контекстов до 120 000 токенов при расширении контекста; штатное окно — 32 768 токенов, а конфигурация модели задаёт 40 960 позиций. Для длинных входов требуются методы масштабирования RoPE, например YaRN; постоянное масштабирование может ухудшать результаты на коротких текстах. Лицензия — Apache-2.0.

Phi-3.5-mini-instruct-GGUF — это GGUF-квантизированная версия языковой модели Phi-3.5-mini-instruct, разработанной Microsoft и преобразованной компанией Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия, включая задачи обработки естественного языка и работы с кодом. Она запускается с использованием совместимого ПО, в частности LlamaEdge версии 0.14.0 и выше, с шаблоном запросов phi-3-chat. В README указана поддержка multilingual-сценариев и контекстное окно до 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0, а также f16, размером примерно от 1,42 до 7,64 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые варианты с хорошим балансом размера и качества, при этом f16 обеспечивает отсутствие дополнительного квантования. Модель удобна для локального запуска и развёртывания в средах с ограниченными ресурсами, однако качество и требования к памяти зависят от выбранного варианта квантования. README не содержит подробностей об архитектуре, точном числе параметров, поддерживаемых языках и отдельных результатах оценки. Распространение осуществляется по лицензии MIT, унаследованной от исходной модели Microsoft.

Phi-3-Mini-4K-Instruct — компактная плотная языковая модель Microsoft семейства Phi-3 с 3,7 млрд параметров. Она обучена на синтетических данных и отфильтрованных общедоступных веб-источниках, а затем дообучена методом supervised fine-tuning и оптимизирована по предпочтениям (DPO) для следования инструкциям и повышения безопасности. Для диалогов рекомендуется использовать формат чата. Модель предназначена для генерации текста общего назначения, диалоговых систем, задач рассуждения, математики и программирования. Компактный размер рассчитан на сценарии с ограниченными вычислительными ресурсами и требованиями к задержке; длина контекста составляет 4096 токенов. Модель ориентирована прежде всего на английский язык, также в карточке указана поддержка французского. Модель может ошибаться, выдавать предвзятые или оскорбительные ответы; качество на языках, отличных от английского, может быть ниже. Для критичных сценариев требуется отдельная проверка качества и безопасности. Лицензия — MIT.

Карточка модели Hellbound237/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

Qwen3.5-0.8B-FP8 — мультимодальная каузальная языковая модель семейства Qwen3.5 с визуальным энкодером. Репозиторий surogate содержит FP8-квантизированные веса и конфигурации постобученной версии, основанной на Qwen/Qwen3.5-0.8B-Base. Модель предназначена для работы с текстом и изображениями, включая рассуждения, программирование, визуальное понимание и агентские сценарии. Модель содержит 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре сочетаются Gated Delta Networks, Gated Attention и разреженная Mixture-of-Experts; используется гибридная схема с 6 блоками, каждый из которых включает три последовательности Gated DeltaNet → FFN и один блок Gated Attention → FFN. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта, однако конкретный перечень языков в README не приведён. Ключевое преимущество версии — снижение требований к памяти и вычислениям благодаря мелкозернистой FP8-квантизации с размером блока 128; заявлено, что показатели производительности почти идентичны исходной модели. Артефакты совместимы с Hugging Face Transformers, vLLM, SGLang и KTransformers. Ограничения включают небольшой размер модели по сравнению с более крупными системами и потенциальные потери качества, характерные для компактных моделей, а также отсутствие подробных сведений о визуальном энкодере и результатах большинства тестов в предоставленном фрагменте. Лицензия — Apache-2.0.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — мультимодальная модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Это дообученная версия с фокусом на эффективное рассуждение и генерацию текста по изображениям и текстовым запросам; модель рассчитана на conversational-сценарии, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Доступен формат GGUF для запуска с llama.cpp и совместимых инструментов, а также поддержка экосистемы Transformers и Unsloth. Заявлены языки English, Chinese и Korean, однако сведения о размере контекста в README отсутствуют. В версии v2 использовано около 14 000 образцов рассуждений в стиле Claude 4.6 Opus, с акцентом на короткие и переносимые шаблоны рассуждений. По данным автора, на HumanEval достигнуто 96,91% pass@1 при примерно 24% меньшей длине цепочки рассуждений и на 31,6% большем числе корректных решений на токен по сравнению с базовой моделью. При этом отмечено снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%; модель может уступать базовой версии в задачах, требующих длинного контекста, сложного многошагового рассуждения и более широких общих знаний. Приведённые оценки получены в условиях инференса BF16 с Unsloth и vLLM и не гарантируют аналогичные результаты в других конфигурациях. Модель распространяется по лицензии Apache-2.0. README не содержит подробных требований к аппаратному обеспечению, точного размера контекстного окна и исчерпывающей информации о возможностях или ограничениях мультимодального ввода.

Qwen3.5-35B-A3B-uncensored-heretic — мультимодальная диалоговая модель llmfan46 на базе Qwen3.5-35B-A3B. Автор сообщает, что применил abliteration для снижения отказов: в приведённом тесте модель отказала в 11 случаях из 100 против 92 у исходной модели. Это не означает, что модель гарантированно отвечает на любые запросы или сохраняет исходное качество во всех задачах. Модель принимает текст и изображения и генерирует текст; поддерживает диалог, визуальный анализ и агентные сценарии с вызовом инструментов. Архитектура сочетает разреженную Mixture of Experts и Gated Delta Networks: 35 млрд параметров всего, около 3 млрд активных; заявленный контекст — 262 144 токена с возможностью расширения до 1 010 000. README указывает широкую языковую поддержку семейства Qwen3.5, но конкретные языки этой сборки не перечисляет. Модель распространяется в формате safetensors для Transformers; README также ссылается на отдельную GGUF-сборку. Лицензия — Apache-2.0. Указанный автором тест KL-дивергенции и сравнение отказов не заменяют независимую оценку качества; снижение отказов может сопровождаться ослаблением защитных ограничений.

Карточка модели darkneighbor667/Qwen3.6-34B-80L-Fable-5-Heretic на Hugging Face совпадает с карточкой hiebo/Qwen3.6-34B-80L-Fable-5-Heretic, поэтому описание составлено по ней. Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

leok7v/Qwen3.8-27B — мультимодальная квантизованная сборка базовой модели Qwen3.8-27B, разработанной Qwen и Alibaba. Квантизацию выполнила unsloth, упаковку — leok7v. Модель предназначена для автономного запуска на устройстве: чата, суммаризации, подготовки текстов, ответов на вопросы по предоставленному контексту и описания изображений в офлайн-режиме или сценариях, чувствительных к конфиденциальности. Это плотная гибридная авторегрессионная языковая модель с чередованием трёх блоков линейного внимания Gated DeltaNet и одного блока полного внимания, дополненная vision encoder. Линейные блоки используют компактное рекуррентное состояние вместо растущего KV-кэша, а блоки полного внимания поддерживают дальний контекст. Веса представлены в нескольких вариантах квантизации от 1 до 4 битов размером примерно от 6,88 до 15,17 GiB. В каждый файл встроены vision tower, токенизатор, chat template, параметры семплирования и drafter для speculative decoding. Сильные стороны модели — мультимодальность, полностью автономная поставка в одном файле, отсутствие необходимости обращаться к серверу и потенциально сниженное потребление памяти благодаря гибридной архитектуре. Ограничения включают зависимость формата .ggxf от runtime Gadeon: совместимость со сторонними GGUF-инструментами не проверялась, а некоторые из них могут не поддерживать встроенный vision tower или тип iq4_nl. Квантизация снижает точность, особенно в 1- и 2-битных вариантах; возможны фактические ошибки, накопление ошибок в многошаговых рассуждениях и расхождения с исходной моделью. Модель не содержит дополнительного safety-тюнинга или фильтрации и не предназначена для принятия юридических, медицинских, финансовых и иных высокоставочных решений без проверки человеком. Лицензия — Apache 2.0, унаследованная от базовой модели.

Qwen3.8-27B-3bit-MLX — мультимодальная vision-language модель, разработанная на основе Qwen/Qwen3.8-27B и конвертированная пользователем lukaskremla в формат MLX с помощью mlx-vlm 0.6.13. Модель предназначена для диалоговых сценариев, обработки текста и изображений, а также задач, связанных с видео, рассуждениями и использованием инструментов. Она поддерживает мультиязычную работу и длинный контекст, однако точный размер контекста и перечень языков в представленном README не указаны. Модель использует 3-битное квантование весов с group size 64, affine- и RTN-квантованием, при этом vision tower сохранён в формате BF16. Такой формат ориентирован на запуск в экосистеме MLX и снижает требования к памяти по сравнению с полноразмерной версией, но квантование может ограничивать точность относительно исходной модели. README также предупреждает, что Hugging Face может некорректно отображать число параметров MLX-квантизаций. Модель распространяется по лицензии Apache-2.0.

lued/Qwen3.8-27B-heretic-ara-INT8-W8A16-MTP — квантизированная версия модели heretic-org/Qwen3.8-27B-heretic-ara, основанной на Qwen3.8-27B от Qwen. Репозиторий lued содержит численную W8A16-квантизацию; исходная модель была изменена проектом Heretic с применением abliteration для устранения встроенного профиля отказов. Модель предназначена для диалоговых и мультимодальных задач, включая работу с изображениями, рассуждения и генерацию текста, и оптимизирована для запуска через vLLM на видеокартах архитектуры Ampere, в частности на конфигурации из двух RTX 3090. Модель имеет 27 млрд параметров, сохраняет vision tower, управление режимом рассуждений и нативный контекст до 262 144 токенов. Веса представлены в INT8 с форматом W8A16, активации поддерживают FP16 или BF16, а голова MTP сохранена в исходном BF16 для speculative decoding. Используется симметричная data-free RTN-квантизация с размером группы 128 и форматом compressed-tensors; проверенный профиль vLLM включает tensor parallelism на двух GPU, FP8 E4M3 KV-кэш и три draft-токена MTP. Расширение контекста до 1 млн токенов с YaRN относится к исходной модели и требует отдельной настройки и достаточного объёма KV-кэша. Сильными сторонами являются уменьшенный объём памяти, совместимость с Ampere без нативного FP8 tensor-core исполнения, сохранение мультимодальности и длинного контекста, а также устранение отказов на указанном наборе из 100 вредоносных запросов исходной abliteration-моделью. Ограничением является намеренное изменение поведения: abliteration привела к заметному сдвигу распределения, а отсутствие отказов не означает гарантии безопасного использования. Производительность и поведение могут зависеть от конфигурации vLLM и доступной памяти. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-heretic-ara-oQ4e-mtp — смешанно-точно квантованная версия модели trohrbaugh/Qwen3.8-27B-heretic-ara, опубликованная underlotus. В основе лежит Qwen3.8-27B; модель имеет около 27 млрд параметров, поддерживает текстовые, графические и видео входы, а также английский и китайский языки. Vision tower и голова Multi-Token Prediction сохранены. Веса представлены в формате MLX safetensors и совместимы с oMLX, mlx-lm, LM Studio и другими приложениями с поддержкой MLX. Модель предназначена для генерации текста, мультимодального анализа изображений и видео, программирования и локального запуска на устройствах Apple Silicon. Квантование oQ4e использует около 4,6 бит на параметр и распределяет точность по слоям с учётом их чувствительности, что уменьшает требуемую память примерно с 55 ГБ до 16–18 ГБ. Ограничениями являются зависимость от MLX-совместимой инфраструктуры, повышенные требования к памяти по сравнению с небольшими моделями и отсутствие указанного в README максимального контекста. Модель описана как декензурированная и сохраняет мультимодальные возможности, однако конкретные гарантии качества и безопасности для всех сценариев не приведены. Лицензия — Apache 2.0, унаследованная от базовой модели.

lued/Qwen3.8-27B-huihui-abliterated-INT8-W8A16-DFlash2 — квантованная версия Huihui-Qwen3.8-27B-abliterated, разработанная на базе моделей huihui-ai и Qwen. Это мультимодальная conversational-модель с поддержкой текста и изображений, предназначенная для диалогов, генерации текста, задач рассуждения, tool calling и работы с длинным контекстом. Модель рассчитана на запуск через vLLM и потребительское оборудование, в частности две видеокарты RTX 3090. Модель содержит 27B параметров, использует формат W8A16 с весами INT8 и активациями FP16 или BF16, а также поддерживает контекст до 262 144 токенов. Для ускорения генерации применяется speculative decoding с отдельной моделью-черновиком DFlash2, которая предлагает до 7 токенов за шаг. Размер основной модели составляет около 28 GiB в шести шардах, размер drafter — около 2,02 GiB. По данным README, квантование сохраняет 98,5% совпадения следующего токена с исходной BF16-моделью при среднем KLD 0,000694. Сильные стороны модели — уменьшенный вдвое размер относительно BF16-версии, поддержка длинного контекста, vision tower, thinking controls и tool calling, а также заявленное ускорение генерации на RTX 3090. Ограничения включают необходимость двух GPU с общим объёмом памяти 48 ГБ для заявленного сценария, использование неподдерживаемого в стабильном vLLM DFlash2 с дополнительными патчами и отсутствие собственных измерений скорости именно для этой сборки; приведённые показатели производительности относятся к родственному варианту. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-NVFP4-W4A16-MLP-GGUF — это квантованная GGUF-версия модели Qwen/Qwen3.8-27B, опубликованная axiomofmind. Модель предназначена для запуска через llama.cpp и поддерживает текстовые сценарии, а при подключении отдельного vision-проектора mmproj-Qwen3.8-27B-BF16.gguf — обработку изображений. Объём модели составляет 27B параметров; языки и максимальный размер контекста в README не указаны. Доступны два варианта: версия объёмом 30,06 ГБ с attention в BF16/F32, ориентированная на максимальное сохранение точности, и компактная версия объёмом 23,29 ГБ с attention в Q8_0, рассчитанная на снижение требований к VRAM и ускорение загрузки. В обеих версиях MLP-слои 64-слойного backbone используют NVFP4 W4A16, тогда как эмбеддинги, выходная голова, MTP/NextN-компоненты и vision-компоненты сохраняются в более высокой точности. Поддерживаются встроенное MTP и опциональное speculative decoding с DFlash 2; для работы требуется свежая CUDA-сборка llama.cpp с поддержкой NVFP4 и Qwen3.8. Ограничениями являются значительные требования к видеопамяти, зависимость от совместимой версии llama.cpp и потенциальная потеря точности из-за квантования. Лицензия — Apache 2.0.

Chungulus/Qwen3.8-27B-Q3_K_M-GGUF — это независимая vanilla-квантизация модели Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp. Квантизация Q3_K_M выполнена без дообучения, слияния, изменения выравнивания или шаблона чата. Модель поддерживает генерацию текста, нативный tool calling, обработку изображений и видео, а также режимы управления рассуждением через параметры enable_thinking, reasoning_effort и preserve_thinking. Архитектура включает гибридную структуру Hybrid Gated DeltaNet/full-attention, vision tower и проектор; в репозитории сохранены MTP-тензоры, однако ускорение speculative decoding не заявлено. Основной файл занимает около 13,5 ГБ, vision projector — в формате F16, общий размер репозитория — около 14,4 ГБ. Для запуска рекомендуется не менее примерно 18 ГБ доступной памяти, при этом KV-cache дополнительно увеличивает потребление в зависимости от контекста. К сильным сторонам относятся сохранённые возможности исходной модели, проверенная поддержка текста, инструментов, изображений и видео, а также совместимость с нативным форматом вызова инструментов Qwen. Ограничение — возможное снижение качества из-за низкобитной квантизации; заявленные проверки не позволяют делать выводы о максимальной длине контекста. Для работы требуется runtime с поддержкой архитектуры Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Модель и её vanilla-квантизация распространяются по лицензии Apache-2.0.

Chungulus/Qwen3.8-27B-Q8_0-GGUF — это независимая, неизменённая квантизация Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов в нативном формате Qwen. Это не дообученная модель, не объединение моделей и не модификация шаблона чата. Модель содержит около 27 миллиардов параметров и использует квантизацию Q8_0 с 8-битным представлением весов. Архитектура сочетает Hybrid Gated DeltaNet и полноценное внимание; в составе также есть vision tower, проектор для мультимодального ввода и сохранённые MTP-тензоры. Для работы с изображениями требуется отдельный файл vision projector. Поддерживаются режимы управления рассуждением через enable_thinking, reasoning_effort и preserve_thinking. Сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. К сильным сторонам относятся сохранение исходной архитектуры и шаблона чата, проверенная генерация текста, вызов инструментов, обработка изображений и видео, а также отсутствие дополнительной потери качества от тонкой настройки или слияния моделей. Для запуска требуется совместимый runtime с поддержкой гибридного графа Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Основные ограничения — возможное снижение качества из-за квантизации, высокая потребность в памяти: рекомендуется иметь не менее примерно 33 ГБ с учётом модели, проектора и служебных расходов, а память под KV-кэш дополнительно растёт вместе с контекстом. Максимальный контекст не был проверен в рамках описанной валидации. Родительская модель и данная ванильная квантизация распространяются по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — мультимодальная модель на базе Qwen3.8-27B, разработанная HauhauCS и распространяемая в формате GGUF. Она предназначена для генерации текста, рассуждений, агентских сценариев, обработки изображений и видео, а также задач с длинным контекстом. Aggressive-профиль ориентирован на прямые ответы без выраженного поведения отказа и с минимальным вступлением в сложных запросах. Модель представляет собой плотную языковую модель на 27 млрд параметров с vision encoder: 64 слоями, скрытым размером 5120, размером FFN 17408, словарём на 248 320 токенов, 48 слоями Gated DeltaNet и 16 слоями gated attention. Поддерживаются английский, китайский и другие языки. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. В текстовых GGUF сохранён встроенный MTP/NextN, а отдельный профиль HauhauCS FastMTP 32K предназначен для ускорения генерации; для обработки изображений и видео требуется отдельный BF16 vision projector. Сильными сторонами являются мультимодальность, большой контекст, широкий набор квантованных вариантов и потенциальное ускорение за счёт MTP. Ограничения включают необходимость значительных аппаратных ресурсов для моделей размером до 31,46 ГБ, зависимость мультимодального ввода от отдельного проектора и возможное снижение надёжности в критически важных длинноконтекстных агентских сценариях из-за Aggressive-профиля. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen3-Next-80B-A3B-Instruct-MLX-5bit — это 5-битная квантованная версия инструкционной языковой модели Qwen3-Next-80B-A3B-Instruct, разработанной Qwen. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на устройствах Apple Silicon через MLX. Она относится к классу моделей генерации текста и предназначена для диалогов, следования инструкциям и других задач, где требуется создание текстового ответа. В основе лежит модель с заявленным размером 80B и обозначением A3B; README не содержит дополнительных сведений об архитектуре, фактическом числе активируемых параметров, максимальном контексте, поддерживаемых языках или мультимодальных возможностях. Ключевое преимущество этой версии — снижение требований к памяти по сравнению с полной точностью и адаптация к экосистеме Apple Silicon. Ограничения включают возможные потери качества из-за 5-битного квантования, зависимость производительности от оборудования Apple Silicon и стандартные риски генеративных моделей: ответы могут быть неточными, вредными или неуместными. Модель распространяется по лицензии Apache-2.0.

Qwen3-Swallow 32B RL v0.2 AWQ-INT4 — квантованная 4-битная версия большой языковой модели, разработанная командой Tokyo Institute of Technology под названием tokyotech-llm на основе Qwen3. Модель дообучалась с использованием непрерывного предварительного обучения, supervised fine-tuning и reinforcement learning with verifiable rewards (RLVR), включая датасеты по математике, программированию, рассуждениям и диалогам. Модель предназначена для генерации текста, общения, японско-английского перевода, решения математических задач, программирования и задач, требующих развитого рассуждения. Она оптимизирована для японского и английского языков. Размер исходной модели составляет 32 млрд параметров; архитектурные детали и токенизатор соответствуют Qwen3. Рекомендуется использовать контекст длиной не более 32 768 токенов и параметры генерации temperature 0,6, top-p 0,95 и top-k 20. К сильным сторонам относятся высокая двуязычная компетентность, улучшенные возможности рассуждения и сохранение производительности в математике и программировании. Для данной AWQ-квантизованной версии результаты оценки пока не опубликованы. Модель не обучалась специально для использования инструментов и function calling, а переключение режима рассуждений ON/OFF не поддерживается. Лицензия — Apache-2.0.

Qwen3-VL-235B-A22B-Instruct-MXFP4 — вариант весов модели Qwen3-VL от команды Qwen. Это мультимодальная модель с архитектурой MoE, предназначенная для диалога и совместного понимания текста и изображений; карточка также описывает возможности работы с видео и пространственными данными. Модель может анализировать визуальные сцены, отвечать на вопросы, распознавать текст в изображениях и документах, выполнять визуальное рассуждение и взаимодействовать с интерфейсами через инструменты. В README заявлен контекст 256K токенов с возможностью расширения до 1M, а также OCR на 32 языках. Среди описанных возможностей — понимание длительного видео с привязкой событий ко времени, генерация кода и диаграмм по визуальным примерам, пространственное рассуждение и задачи STEM. Репозиторий содержит веса safetensors; метаданные указывают библиотеку Transformers и лицензию Apache-2.0. Размер MXFP4 в имени указывает на квантизованный вариант весов, однако формат MXFP4 отдельно в метаданных форматов не подтверждён.

Qwen3-VL-4B-Instruct GGUF — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Данная версия представляет собой GGUF-сборку весов Qwen3-VL-4B-Instruct, подготовленную автором Mungert с использованием llama.cpp. Модель предназначена для диалога и генерации текста на основе изображений, видео и текстовых запросов. Модель имеет плотную архитектуру и размер 4B параметров. Она поддерживает анализ изображений и видео, визуальное распознавание, OCR, пространственное рассуждение, понимание длительных видеосцен, мультимодальные задачи STEM и генерацию кода интерфейсов и схем по визуальным материалам. Также заявлены возможности визуального агента для взаимодействия с графическими интерфейсами и инструментами. Контекст составляет 256K токенов с возможностью расширения до 1M; OCR заявлен для 32 языков, однако полный перечень языков в карточке не указан. К сильным сторонам относятся расширенное понимание изображений и видео, точное пространственное и временное рассуждение, обработка длинного контекста, улучшенное распознавание текста и интеграция визуальной и текстовой информации. GGUF-формат удобен для локального запуска через llama.cpp, а применённый автором подход с повышением точности отдельных слоёв призван улучшить качество при заданном уровне квантизации, хотя увеличивает размер файла. Ограничения включают зависимость качества от выбранного варианта квантизации и аппаратных ресурсов, а также отсутствие в README подробных результатов тестирования и требований к памяти. Лицензия — Apache 2.0.

unsloth/Qwen3-VL-4B-Instruct-unsloth-bnb-4bit — это квантованная 4-битная версия мультимодальной модели Qwen3-VL-4B-Instruct, разработанной командой Qwen и подготовленной Unsloth. Модель предназначена для понимания и генерации текста на основе изображений, а также для работы с видео и текстовыми запросами. Модель имеет размер 4B параметров и архитектуру vision-language с режимом Instruct. Она поддерживает визуальное распознавание, OCR для 32 языков, анализ пространственных отношений, понимание длительных видеосцен, мультимодальное рассуждение в STEM-задачах и взаимодействие с графическими интерфейсами ПК и мобильных устройств. Заявлен нативный контекст до 256K токенов с возможностью расширения до 1M. Среди архитектурных компонентов указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Сильными сторонами являются сочетание текстового и визуального понимания, обработка изображений, документов и видео, распознавание текста в сложных условиях, а также задачи визуального программирования и управления интерфейсами. Ограничения включают зависимость качества и совместимости от 4-битного квантования, а также необходимость подходящей аппаратной и программной конфигурации для длинного контекста и видео; конкретные языки, требования к ресурсам и детальные числовые результаты в README не указаны. Модель распространяется по лицензии Apache-2.0.

Карточка модели TreezzZ/r2s-scienceworld-qwen3.5-4b-student на Hugging Face совпадает с карточкой Qwen/Qwen3.5-4B, поэтому описание составлено по ней. Qwen3.5-4B — мультимодальная модель компании Qwen на 4 млрд параметров, представленная в формате Hugging Face Transformers и дообученная на базе Qwen/Qwen3.5-4B-Base. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, анализа изображений, рассуждений, программирования и вызова инструментов. Модель использует гибридную архитектуру Gated Delta Networks и gated attention; в README указано 32 слоя. Нативная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Семейство заявляет поддержку 201 языка и диалекта. По умолчанию модель работает в режиме рассуждения, а для развёртывания доступны Transformers, vLLM, SGLang и KTransformers. Модель подходит для ответов на вопросы по изображениям и тексту, многошаговых диалогов и агентных сценариев с инструментами. Репозиторий распространяется по лицензии Apache-2.0. Реальная скорость и пропускная способность зависят от среды инференса; длинный контекст может приводить к нехватке видеопамяти.

Tri-7B — диалоговая языковая модель Trillion Labs для генерации текста. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, основанной на LlamaForCausalLM; в карточке указаны 7,76 млрд параметров, 32 слоя и контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель прошла предварительное обучение и постобучение с упором на рассуждения, математические задачи и повседневное использование. Она предназначена для диалога, следования инструкциям, ответов на вопросы, генерации кода и решения задач на английском, корейском и японском языках. В README приведены результаты сравнительных тестов с предыдущей моделью Trillion-7B-preview; они показывают улучшения по ряду оценённых задач, но не гарантируют качество для каждого запроса. Модель оптимизирована для английского, корейского и японского; на других языках качество может снижаться. Знания ограничены сведениями, доступными до февраля 2025 года. Лицензия — Apache-2.0.