I.11Классификация, ранжирование и сопоставление

Etherll/Qwen2.5-7B-della-test — объединённая языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она создана с помощью mergekit методом della на основе Qwen/Qwen2.5-7B с включением Qwen/Qwen2.5-7B-Instruct; в репозитории указаны веса safetensors в формате bfloat16 и около 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов, а метаданные отмечают интерфейс вызова инструментов. Модель подходит для диалоговых приложений, генерации и продолжения текста, а также структурированных ответов и вызова инструментов. В README приведены результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Данные не подтверждают отдельную специализацию по предметной области или конкретный набор языков. Лицензия в предоставленных сведениях не указана.

Карточка модели 6chongbin/Qwen2.5-VL-3B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-VL-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-VL-3B-Instruct — мультимодальная модель Alibaba семейства Qwen2.5-VL, представленная в репозитории unsloth как дообученная версия Qwen/Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а также может анализировать видео, и формирует ответы на естественном языке или структурированный вывод. Модель предназначена для визуальных вопросов и ответов, чтения текста и таблиц на изображениях, анализа диаграмм и макетов, поиска объектов с координатами, понимания событий в видео и взаимодействия с интерфейсами через визуальные сигналы. Модель использует плотную архитектуру Qwen2.5-VL с примерно 3,1 млрд параметров и поддерживает контекст до 128 000 токенов согласно метаданным. README описывает динамическое разрешение изображений, обработку видео с временной привязкой событий, локализацию объектов в виде рамок или точек и структурированные ответы, например для счетов и форм. Карточка также указывает возможности чата и зрения; для работы заявлена библиотека Transformers. README содержит примеры использования с Transformers и ModelScope. Для видео указана зависимость совместимости URL от сторонних библиотек, а длинный текстовый контекст в README описан через YaRN с базовой конфигурацией 32 768 токенов; при расширении контекста возможна потеря качества пространственной и временной локализации. Лицензия в предоставленных данных не указана.

Карточка модели aoiandroid/Qwen3-0.6B на Hugging Face совпадает с карточкой Qwen/Qwen3-0.6B, поэтому описание составлено по ней. Qwen3-0.6B — компактная плотная каузальная языковая модель семейства Qwen3, разработанная командой Qwen. Она содержит около 508 млн параметров и поддерживает контекст до 40 960 токенов по метаданным Hugging Face. Модель прошла предварительное обучение и последующее дообучение на основе Qwen/Qwen3-0.6B-Base; распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, генерации кода, перевода и работы с инструментами. Qwen3 поддерживает более 100 языков и диалектов и может переключаться между режимами рассуждения и обычного диалога. Компактный размер облегчает использование в сценариях с ограниченными вычислительными ресурсами, хотя качество и устойчивость могут уступать более крупным моделям. README рекомендует настраивать параметры генерации при появлении повторов. Лицензия — Apache 2.0.

unsloth/Qwen3.5-4B — постобученная мультимодальная модель семейства Qwen3.5 от Unsloth, основанная на Qwen/Qwen3.5-4B. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, рассуждений, понимания изображений и работы с инструментами. Репозиторий содержит веса в формате Hugging Face Transformers и safetensors; модель совместима с Transformers и рядом серверов инференса. Модель имеет 4 млрд параметров и гибридную архитектуру с Gated Delta Networks и механизмом внимания. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000. В карточке заявлена поддержка 201 языка и диалекта. По умолчанию включён режим рассуждений, который можно отключить. Модель подходит для визуальных вопросов и ответов, мультиязычного диалога, задач с длинным контекстом и сценариев с вызовом инструментов. Лицензия — Apache-2.0. Производительность и пропускная способность зависят от используемого фреймворка и оборудования; для длинного контекста возможны высокие требования к памяти.

Qwen3.5-9B-GGUF — это GGUF-квантизированная версия модели Qwen3.5-9B, разработанная ByteShape с использованием метода ShapeLearn. ShapeLearn подбирает тип данных отдельно для каждого тензора, чтобы сохранять высокое качество при низкой разрядности. Модель предназначена для локального запуска через llama.cpp или LM Studio и поддерживает работу с изображениями; для vision-сценариев llama.cpp автоматически загружает vision projector. Модель ориентирована на текстовые и мультимодальные задачи, включая генерацию текста, рассуждения, программирование, решение математических задач, следование инструкциям и function calling. Доступны варианты для GPU и CPU с разрядностью от 2,81 до 5,10 bits per weight и размером примерно от 3,15 до 5,72 ГБ. GPU-варианты используют сочетание KQ- и IQ-квантизации, а CPU-варианты — преимущественно KQ-квантизацию; это позволяет выбирать баланс между скоростью, требованиями к памяти и качеством. Сильными сторонами являются малый размер, возможность запуска на широком спектре оборудования, включая Raspberry Pi, поддержка изображений и несколько вариантов квантизации. Ограничения связаны с потерями качества, возможными при низкой разрядности, зависимостью производительности от оборудования и отсутствием поддержки этой модели в Ollama на момент публикации README. README не указывает языки и размер контекстного окна. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B VLM Q4_K_M GGUF — мультимодальная модель на базе Qwen/Qwen3.5-9B, представленная в формате GGUF и подготовленная пользователем jc-builds. Пакет включает квантованные веса основной модели и отдельный мультимодальный проектор mmproj, необходимый для обработки изображений через llama.cpp. Модель предназначена для анализа изображений и текста, визуального рассуждения, генерации описаний, ответов на вопросы по изображениям, а также для обычных текстовых задач. Заявлена поддержка 201 языка, включая английский, китайский, японский, корейский, русский, европейские, арабские и ряд языков Юго-Восточной Азии. Указана архитектура раннего объединения визуальных и текстовых данных, контекстное окно 262 144 токена с возможностью расширения более чем до 1 млн токенов, 9,6 млрд плотных параметров и словарь размером более 200 тысяч токенов. Основные веса используют 4-битную смешанную квантование Q4_K_M и занимают около 6 ГБ, а визуальный проектор хранится в FP16 и занимает около 918 МБ. Для полной мультимодальной инференции требуется примерно 7–8 ГБ RAM или VRAM. Сильные стороны модели — сочетание визуальных и текстовых возможностей, большой контекст, относительно компактный размер и возможность локального запуска, в том числе на устройствах iOS. Ограничения включают зависимость от поддержки mmproj в программном обеспечении: vision-режим доступен в llama.cpp и KoboldCpp, частично поддерживается в LM Studio и не поддерживается в Ollama согласно README. Квантованная версия может незначительно уступать FP16 по качеству. Лицензия — Apache-2.0.

Qwen3.5-text-4B-bnb-4bit — текстовая языковая модель, разработанная techwithsergiu на базе Qwen3.5-text-4B, производной от Qwen3.5-4B команды Qwen. Модель предназначена для генерации и обработки текста, диалоговых сценариев и последующего дообучения с использованием LoRA или QLoRA. Поддерживает режимы с включённым и выключенным рассуждением перед ответом. Модель содержит текстовый backbone размера 4B и использует 4-битную BNB NF4-квантизацию с double quantization; вычисления выполняются в bfloat16, а веса lm_head сохранены в bf16 для стабильности и качества вывода. Визуальная башня удалена, поэтому модель принимает только текст и не поддерживает обработку изображений. Ключевое преимущество — сниженное потребление видеопамяти: заявлено около 3,12 ГБ против 9,32 ГБ у исходной f16-модели. Контекстное окно и перечень поддерживаемых языков в README не указаны. Модель особенно ориентирована на текстовое LoRA-дообучение с Unsloth, TRL и PEFT; такая конфигурация проверена на видеокарте RTX 3070 с 8 ГБ памяти. Ограничения связаны с отсутствием мультимодальности, а документация по полноценному LoRA-дообучению на момент публикации ещё не завершена. Модель распространяется по лицензии Apache-2.0.

btbtyler09/Qwen3.6-27B-GPTQ-4bit — квантизированная версия Qwen/Qwen3.6-27B, разработанная пользователем btbtyler09. Это плотная мультимодальная модель примерно на 27 млрд параметров для работы с текстом и изображениями, включая понимание изображений, генерацию текста и сценарии серверного инференса. Модель совместима с Transformers и ориентирована на использование через vLLM. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, а также полный vision encoder на базе ViT и модуль MTP для speculative decoding. Контекстное окно составляет 262 144 токена. Текстовый декодер квантизирован в INT4 методом GPTQ с компенсацией ошибок FOEM; vision encoder, MTP, эмбеддинги, нормы и LM head сохранены в BF16 или FP16. Размер модели составляет около 21 ГБ вместо примерно 50 ГБ у исходной BF16-версии. Сильной стороной является существенное сокращение требований к хранению и памяти при сохранении мультимодальности и заявленном снижении деградации perplexity: до +1,95% относительно BF16 на wikitext-2-raw-v1, против +8,45% у обычного GPTQ 4-bit. К ограничениям относятся необходимость подходящей аппаратной конфигурации для полного контекста и потенциальные проблемы совместимости с некоторыми версиями vLLM, для которых в README указан обходной патч. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — квантизированная GGUF-версия модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, работы с изображениями и видео. Она ориентирована на прямые ответы с минимальным вступлением и профилем без отказов, поэтому подходит для задач, где требуется снизить склонность модели к отказу от ответа. Заявлены поддержка английского, китайского и других языков, а также мультимодальный режим с отдельным vision-проектором BF16 для обработки изображений и видео. Модель представляет собой плотную causal language model на 27 млрд параметров с 64 слоями, размером скрытого представления 5120, размером FFN 17408 и словарём на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Нативный контекст составляет 262 144 токена и может быть расширен до 1 000 000 токенов. Встроенный MTP/NextN сохранён, а дополнительный профиль HauhauCS FastMTP 32K предназначен для ускорения спекулятивного декодирования; заявлено ускорение до 3,02 раза для документов и до 1,93 раза для рассуждений по сравнению с режимом без MTP. Доступны варианты квантизации от Q8_K_P до IQ2_M, что позволяет выбирать баланс между качеством, размером и требованиями к памяти; размер текстовых файлов составляет примерно от 10,32 до 31,46 ГБ. К сильным сторонам относятся большой контекст, мультимодальность, поддержка длинных документов и ускорение генерации. Ограничение Aggressive-профиля — намеренное отсутствие отказного поведения, из-за чего он может быть менее подходящим для надёжно контролируемых и критически важных агентских сценариев; для них автор рекомендует Balanced-вариант, если он доступен. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI подготовила JANG_4S — квантованный 4-битный вариант Qwen/Qwen3.8-Flash-Next для запуска на компьютерах Apple Silicon через MLX и vMLX. В основе лежит экспериментальная архитектура Qwen4: разреженная MoE-модель на 125 млрд параметров с 6 млрд активных, большой хешированной n-граммной таблицей эмбеддингов, гибридными слоями Gated DeltaNet и Qwen Sparse Attention, а также башнями для обработки изображений и видео. В этой сборке сохранена голова многотокенного предсказания; таблица эмбеддингов может обслуживаться с SSD при поддержке рантайма. Модель предназначена для диалога, рассуждений, анализа изображений и видео и агентных сценариев с вызовом инструментов. Она принимает текст, изображения и видео, а контекст составляет 262 144 токена с возможностью расширения до 1 млн через YaRN. По заявлению карточки, квантование оценивали сравнением с bf16 на 5 931 отложенной позиции; качество выражено метриками KL и совпадения предсказаний. Для работы требуются значительные ресурсы: файлы занимают около 71,8 ГиБ, заявленный резидентный объём при обслуживании таблицы с SSD — около 53 ГиБ. Вызовы инструментов используют диалект Qwen XML, поэтому рантайм должен поддерживать соответствующий парсер; карточка предупреждает о несовместимости с Hermes-only парсерами. Лицензия указана как other, её конкретные условия в предоставленных данных не раскрыты.

Qwen3-VL-235B-A22B-Thinking — мультимодальная модель семейства Qwen3-VL от Qwen, представленная в варианте с архитектурой MoE и режимом рассуждений Thinking. Репозиторий содержит веса в формате safetensors; модель предназначена для диалога по тексту, изображениям и видео, визуального анализа и взаимодействия с инструментами. Лицензия — Apache-2.0. Модель подходит для ответов на вопросы по изображениям и видео, OCR и разбору длинных документов, STEM-задач, пространственного анализа, генерации кода и разметки интерфейсов по визуальным примерам, а также управления GUI через инструменты. В README заявлены контекст 256K токенов с расширением до 1M и поддержка OCR на 32 языках. Архитектурные особенности включают Interleaved-MRoPE, DeepStack и привязку видео-событий к временным меткам. Карточка описывает широкие возможности мультимодального рассуждения и понимания текста, но не приводит здесь конкретных результатов бенчмарков. Для развёртывания модели такого размера требуются значительные вычислительные ресурсы; фактическая поддержка видео и вызова инструментов зависит от используемого окружения.

unsloth/Qwen3-VL-2B-Instruct-bnb-4bit — 4-битная квантованная версия мультимодальной модели Qwen3-VL-2B-Instruct, опубликованная Unsloth на основе модели Qwen. Это instruction-модель архитектуры Dense с примерно 2 млрд параметров, предназначенная для обработки изображений и текста, а также для задач понимания видео и визуально-текстового диалога. Модель подходит для описания и анализа изображений, визуального и пространственного рассуждения, OCR, STEM- и математических задач, генерации кода и разметки Draw.io/HTML/CSS/JS по визуальным материалам, а также для взаимодействия с графическими интерфейсами и инструментами. Заявлены контекст длиной 256 тысяч токенов с возможностью расширения до 1 млн, понимание длинных документов и продолжительных видеозаписей, а также OCR для 32 языков. Среди архитектурных особенностей указаны Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. К сильным сторонам относятся сочетание языкового и визуального понимания, улучшенная работа с пространственными отношениями, видео, документами и мелкими визуальными деталями, а также сниженные требования к памяти благодаря 4-битному формату. README не приводит точный перечень поддерживаемых языков, аппаратные требования и детальные ограничения квантованной версии; на практике 4-битное представление может влиять на точность, но конкретные потери здесь не указаны. Лицензия — Apache-2.0.

unsloth/Qwen3-VL-32B-Instruct-bnb-4bit — четырёхбитная версия мультимодальной модели Qwen3-VL-32B-Instruct, опубликованная Unsloth на базе модели Qwen. Она предназначена для обработки текста и изображений, а также для понимания видео: генерации ответов по визуальному содержимому, OCR, анализа документов, пространственного и STEM-рассуждения, визуального программирования и взаимодействия с графическими интерфейсами через инструменты. Модель имеет плотную архитектуру с 32B параметров в исходной версии и использует квантизацию bitsandbytes 4-bit, что снижает требования к памяти по сравнению с полноточными весами. В архитектуре заявлены Interleaved-MRoPE для обработки времени и пространственных координат, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа видео. Нативная длина контекста составляет 256K токенов с возможностью расширения до 1M. Для OCR заявлена поддержка 32 языков, однако полный перечень языков в README не приведён. Сильные стороны модели — объединённое понимание текста и визуальных данных, анализ длинных документов и продолжительных видео, распознавание объектов и сцен, пространственное рассуждение и задачи визуального агента. Ограничения и точные требования к оборудованию, результаты численных бенчмарков, полный список поддерживаемых языков и характеристики квантизации в README не указаны; четырёхбитное представление может влиять на точность по сравнению с исходной моделью. Лицензия — Apache-2.0.

FuriosaAI публикует эту сборку Qwen3-VL-4B-Instruct с Furiosa Executable Bundle для запуска через Furiosa-LLM на ускорителях RNGD. Это плотная vision-language модель на 4 млрд параметров: кодировщик изображений сочетается с трансформерным декодером, а Interleaved-MRoPE и многоуровневое слияние признаков DeepStack поддерживают обработку изображений и видео. Веса хранятся в safetensors; README указывает, что дополнительная квантизация не применялась. Базовая модель — Qwen/Qwen3-VL-4B-Instruct. Модель принимает текст и изображения и формирует текстовые ответы. Она предназначена для диалога по изображениям, OCR, анализа документов и диаграмм, пространственных рассуждений и понимания видео; также поддерживает вызов инструментов через интерфейс функций. Для работы с Furiosa-LLM на RNGD используется параллелизм по тензорам на 8 вычислительных элементах одной карты. README также указывает совместимость с vLLM, SGLang и Transformers. Модель распространяется по лицензии Apache 2.0. Карточка описывает её как Instruct-вариант без режима thinking; качество ответов может зависеть от сложности изображения или видео и формулировки запроса.

Step-3.7-Flash-GGUF — набор GGUF-квантизаций модели Step-3.7-Flash, разработанной StepFun-ai. Это мультимодальная vision-language модель для понимания изображений и работы с текстом, ориентированная на агентные сценарии, включая вызов инструментов, многошаговое рассуждение, программирование и математические задачи. Модель поддерживает входные изображения через отдельный файл проектора mmproj и может запускаться с помощью llama.cpp. Исходная модель содержит около 198 млрд параметров и использует разреженную архитектуру Mixture-of-Experts, активируя примерно 11 млрд параметров на токен. Она включает языковую часть на 196 млрд параметров и vision-энкодер на 1,8 млрд параметров, поддерживает контекст до 256K токенов и три уровня рассуждения: low, medium и high. Заявлена поддержка английского, китайского, японского, корейского, арабского, хинди, немецкого, французского, испанского и русского языков. В набор входят варианты от BF16 до агрессивных IQ3_XXS и Q3-квантизаций размером примерно от 76 до 394 ГБ; отдельный vision-проектор F16 занимает около 4 ГБ. К сильным сторонам относятся мультимодальность, большой контекст, поддержка рассуждений и инструментального взаимодействия, а также возможность локального и приватного запуска. К ограничениям относятся очень высокие требования к памяти и зависимость качества от выбранного уровня квантизации: компактные варианты могут давать заметную потерю качества. Для работы с изображениями необходим отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

cyankiwi/diffusiongemma-26B-A4B-it-AWQ-INT4 — квантованная версия DiffusionGemma на базе google/diffusiongemma-26B-A4B-it, разработанной Google DeepMind. Это мультимодальная модель с открытыми весами, которая принимает текст, изображения и видео, а генерирует текст. Представленная версия использует квантование AWQ INT4 и занимает около 17,23 ГБ. Модель предназначена для генерации текста, рассуждений, диалоговых сценариев, обработки мультимодальных запросов и задач, связанных с STEM и агентными системами. Она применяет дискретную диффузию: вместо последовательной генерации токенов модель итеративно восстанавливает блоки токенов, что может повышать скорость вывода. Архитектура включает encoder-decoder с двунаправленным вниманием в декодере и разреженную Mixture-of-Experts-конфигурацию: 25,2 млрд параметров всего, 3,8 млрд активных параметров, 30 слоёв и 8 активных экспертов из 128. Заявлены контекст до 256 тысяч токенов, окно скользящего внимания 1024 токена и длина генерируемого блока 256 токенов. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Модель оптимизирована для инференса с небольшим размером пакета и низкой задержкой, преимущественно на одном производительном ускорителе; режим рассуждений и системные промпты поддерживаются. Ограничение развертывания — отсутствие поддержки внутримодельного тензорного и конвейерного распараллеливания; для нескольких GPU рекомендуется репликация через data parallelism. Лицензия — Apache 2.0.

suayptalha/Falcon3-Jessi-v0.4-7B-Slerp — языковая модель на 7,1 млрд параметров, полученная слиянием SLERP моделей neopolita/jessi-v0.4-falcon3-7b-instruct и tiiuae/Falcon3-7B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям, включая задачи рассуждения, понимания языка, программирования и математики. Модель использует архитектуру LlamaForCausalLM, сохранена в формате safetensors и поддерживает контекст до 32 768 токенов. Заявлена поддержка английского, французского, испанского и португальского языков. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH, а также утверждение о высоком рейтинге модели на момент публикации. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у исходных моделей.

Google Gemma 3 27B IT QAT Q4_0 Unquantized — мультимодальная инструктивно настроенная модель на основе Google Gemma 3 27B IT, предназначенная для диалога и понимания изображений. Она принимает текст и изображения, а генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. В репозитории указаны веса safetensors и связь с базовой моделью google/gemma-3-27b-it. Модель подходит для ответов на вопросы по изображениям и текстам, диалоговых помощников, генерации и суммаризации текста, а также извлечения и интерпретации визуальной информации. Размер семейства позволяет запускать модели Gemma 3 на локальных компьютерах или собственной облачной инфраструктуре, но для варианта на 27 млрд параметров всё равно требуются заметные вычислительные ресурсы. К ограничениям относятся возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии Google Gemma и политику запрещённого использования.

Gemma 3 4B IT — мультимодальная модель Google, дообученная для следования инструкциям на базе google/gemma-3-4b-pt. Она принимает текст и изображения и генерирует текст; подходит для диалоговых помощников, ответов на вопросы по изображениям, суммаризации, рассуждений и создания текстов. Модель построена на архитектуре семейства Gemma 3, содержит около 4 млрд параметров и поддерживает контекст до 128 тыс. токенов. Поддерживает более 140 языков и может запускаться на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре. Сильные стороны модели — сочетание визуального понимания и генерации текста, большой контекст и сравнительно компактный размер. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Лицензия — Gemma; применение должно соответствовать условиям лицензии и политике запрещённого использования Google.

GLM-Z1-9B-0414 — компактная языковая модель семейства GLM-4 от Z.ai с 8,8 млрд параметров. Она предназначена для диалогов и генерации текста, включая математические рассуждения, решение задач на логику и код, а также общие запросы. Модель поддерживает интерфейс вызова инструментов и рассчитана на локальное развёртывание в условиях ограниченных ресурсов. Модель обучена на базе серии GLM-Z1 с дополнительной подготовкой для рассуждений; README отмечает применение холодного старта и расширенного обучения с подкреплением на задачах математики, кода и логики. Контекст составляет 32 768 токенов. Указаны китайский и английский языки. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Для длинных входов свыше 8 192 токенов README рекомендует при необходимости включать YaRN; статическое масштабирование может немного ухудшить результаты на коротких текстах. Модель выпущена под лицензией MIT.

furiosa-ai/gpt-oss-20b — версия openai/gpt-oss-20b, подготовленная для запуска на ускорителях FuriosaAI RNGD с использованием Furiosa-LLM. Это авторегрессионная текстовая модель с архитектурой Mixture-of-Experts (MoE), ориентированная на задачи рассуждения, генерации текста и сценарии с пониженной задержкой, включая локальное или периферийное развертывание. Модель принимает текст и генерирует текст, поддерживает английский язык и совместима с OpenAI-совместимым API Furiosa-LLM. Модель формирует рассуждение отдельно от итогового ответа в формате harmony, поддерживает настраиваемую глубину рассуждений с параметром reasoning_effort со значениями low, medium и high, а также вызов инструментов через function calling. Веса экспертов MoE квантизованы в MXFP4, тогда как attention, router и embeddings сохраняются в более высокой точности. На RNGD используется tensor parallelism с размером 8 PE, соответствующим одной карте RNGD. Размер модели заявлен как 20B, однако сведения о контекстном окне в README отсутствуют. Сильными сторонами являются поддержка рассуждений, инструментов и эффективного запуска на специализированном оборудовании FuriosaAI. Ограничения включают зависимость от Furiosa-LLM и FuriosaAI RNGD для описанного варианта развертывания, а также отсутствие в README подробных данных о качестве, бенчмарках и поддерживаемых языках за пределами английского. Модель распространяется по лицензии Apache 2.0.

Карточка модели livil/llama3.1-8b-instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

WeMake/Llama-3-8B-Instruct-V41-1048k — разговорная языковая модель WeMake на архитектуре Llama 3 с 7,5 млрд параметров. Модель создана на основе gradientai/Llama-3-8B-Instruct-Gradient-1048k и meta-llama/Meta-Llama-3-8B; в карточке указано, что она объединяет их с настройками WeMake V41 и обучалась методом WeMake ICU. Репозиторий содержит веса в формате safetensors, лицензия — llama3. Модель предназначена для диалоговых агентов, создания текстов, анализа данных и извлечения выводов. Заявлены учёт эмоционального контекста, согласование ответов с человеческими ценностями и поддержка нескольких языков. Максимальная длина контекста — 1 048 576 токенов, однако карточка не приводит независимых оценок качества и не перечисляет поддерживаемые языки помимо английского в метаданных. Перед использованием следует проверять точность и уместность ответов; заявления об эмоциональном интеллекте и согласовании приводятся разработчиком.

Cerebras Llama-3-CBHybridL-8B — языковая модель Cerebras, созданная на базе Llama-3.1-8B-Instruct для работы с длинным контекстом. Это вариант с гибридным плотным и разреженным вниманием: 25 из 32 слоёв внимания дообучены для разреженного lambda-mask attention. По данным авторов, такой подход уменьшает память KV-кэша в 1,6–1,7 раза при сохранении большей части качества на задачах с длинным контекстом. Модель предназначена для генерации текста и диалогов, включая ответы на вопросы по длинным документам и работу с несколькими источниками. Метаданные указывают 7,5 млрд параметров и контекст до 33 792 токенов; поддерживается интерфейс вызова инструментов. В README приведены результаты на LongBench и HELMET: качество зависит от задачи и может снижаться относительно исходной модели. Для улучшения работы с длинным контекстом авторы предлагают вставлять вспомогательные токены памяти; их добавление требует соответствующей обработки входа. Модель распространяется в формате safetensors под лицензией other; конкретные условия лицензии следует уточнить на странице репозитория. Карточка описывает её как эксперимент Cerebras на основе инструкционной модели Llama 3.1, а не как универсальную замену исходной модели.

Unsloth/Meta-Llama-3.1-8B-Instruct-unsloth-bnb-4bit — это 4-битная версия инструкционно настроенной текстовой языковой модели Meta Llama 3.1 с 8 млрд параметров, подготовленная Unsloth для использования с Transformers и форматом bitsandbytes. Модель предназначена для диалогов, генерации и обработки текста, выполнения инструкций, суммаризации и других задач, где требуется компактная LLM с пониженным потреблением памяти. Модель использует авторегрессионную архитектуру Transformer и работает в режиме «текст на входе — текст на выходе». Ключевая особенность версии — селективная динамическая 4-битная квантизация Unsloth, направленная на снижение требований к памяти при сохранении большей точности по сравнению со стандартной 4-битной квантизацией. В карточке официально указан английский язык; дополнительные языки, размер контекста и другие характеристики для данной версии не подтверждены. Разработчик базовой модели — Meta, адаптацию и квантизацию выпустила Unsloth. Ограничения включают возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробной информации о производительности, контекстном окне и поддерживаемых сценариях за пределами текста. Модель распространяется по лицензии Llama 3.1.

TheBloke/Mistral-7B-Instruct-v0.2-GPTQ — это GPTQ-квантизированная версия языковой модели Mistral 7B Instruct v0.2, разработанной Mistral AI и подготовленной к распространению TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая работу через text-generation-webui, KoboldAI, LoLLMS Web UI и Hugging Face Text Generation Inference. Модель относится к семейству Mistral, содержит около 7 млрд параметров и работает с текстом. В репозитории представлены варианты квантования с разными параметрами; основной вариант использует 4-битное GPTQ-квантование, group size 128, Act Order и занимает около 4,16 ГБ. Для запросов рекомендуется шаблон «<s>[INST] {prompt} [/INST]». Квантование снижает требования к видеопамяти и облегчает локальный запуск, но может немного уменьшать точность по сравнению с исходной моделью и ограничивает совместимость средой выполнения. Указана поддержка Linux с GPU NVIDIA или AMD и Windows с GPU NVIDIA; для macOS рекомендуются версии GGUF. Лицензия — Apache 2.0.

NVIDIA-Nemotron-3-Nano-4B-FP8 — компактная языковая модель (SLM), разработанная NVIDIA Corporation и обученная с нуля. Это FP8-квантизированная версия NVIDIA-Nemotron-3-Nano-4B-BF16, сжатая из NVIDIA-Nemotron-Nano-9B-v2 с использованием фреймворка Nemotron Elastic. Модель предназначена для унифицированной работы в задачах с рассуждениями и без них: она может формировать рассуждение перед итоговым ответом, причём режим рассуждений управляется системным промптом. Отключение рассуждений сокращает задержку и скрывает промежуточный вывод, но может немного снизить точность на сложных запросах. Архитектура гибридная и в основном состоит из слоёв Mamba-2 и MLP, дополненных четырьмя attention-слоями. Размер модели — 4B параметров; доступна FP8-квантизация. Поддерживается английский язык и языки программирования. Модель ориентирована на агентные сценарии на периферийных устройствах, включая Jetson Thor, GeForce RTX и DGX Spark: игровых NPC, локальных голосовых ассистентов для устройств, приложений и игр, а также автоматизацию IoT. Она также подходит для следования инструкциям, генерации текста и кода, математических и научных задач, использования инструментов и структурированных ответов. Заявлено окно контекста до 128K токенов по результатам оценки RULER. К сильным сторонам относятся сочетание режимов рассуждения и обычной генерации, высокая эффективность для компактной модели, пригодность для edge-развёртывания и коммерческого использования. Ограничения включают поддержку только английского языка, возможное снижение качества при отключённых рассуждениях и неравномерные результаты в отдельных агентных и прикладных бенчмарках. Использование регулируется NVIDIA Nemotron Open Model License.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-NVFP4-GGUF — GGUF-представление NVFP4-квантизованной эластичной языковой модели NVIDIA. В одном чекпойнте заключены три вложенных варианта на 30B, 23B и 12B параметров с общим пространством весов; для генерации можно выбрать подходящий размер. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 и сочетает Mamba-2, Transformer и Mixture-of-Experts. В базовой архитектуре 23 слоя Mamba-2 и MoE, 6 слоёв внимания, а в каждом MoE-слое — 128 экспертов и один общий, из которых на токен активируются шесть. Модель предназначена для диалогов, рассуждений и генерации текста, а вложенные размеры позволяют выбирать компромисс между качеством, вычислительными затратами и задержкой. Контекст в README указан до 128K в примере развёртывания и до 1M при увеличении настройки. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. В README описана квантизация NVFP4 с дистилляцией с учётом квантизации и заявлена готовность к коммерческому использованию. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с лицензией репозитория.

Omni-Reasoner4-Merged — объединённая языковая модель от prithivMLmods, созданная методом Model Stock с помощью mergekit. В объединение вошли Qwen/QwQ-32B-Preview, Qwen/Qwen2.5-32B и prithivMLmods/Blaze.1-32B-Instruct; в качестве базовой модели указана Qwen/QwQ-32B-Preview. Модель имеет архитектуру Qwen2ForCausalLM, содержит 32 млрд параметров и принимает текст для генерации текста и диалоговых ответов. Длина контекста — 32 768 токенов; заявлена поддержка интерфейса вызова инструментов. Модель подходит для диалоговых сценариев и генерации текста, включая задачи рассуждения, на которые указывает название и включение QwQ-32B-Preview. Поддерживаемые языки в карточке не перечислены. Файлы представлены в формате safetensors и предназначены для использования с Transformers. Лицензия в предоставленных данных не указана.

Ovis2.5-9B — мультимодальная модель семейства Ovis2.5, разработанная командой AIDC-AI. Она сочетает визуальный энкодер NaViT для обработки изображений в исходном переменном разрешении с языковой моделью Qwen3-8B; размер модели — 9 млрд параметров. Модель принимает текст и изображения и генерирует текст, поддерживает контекст до 40 960 токенов и рассчитана прежде всего на английский и китайский языки. Модель предназначена для визуальных вопросов и ответов, мультимодальных рассуждений, понимания видео, распознавания текста и анализа документов, таблиц, форм, графиков и диаграмм. Режим размышления с самопроверкой и пересмотром ответа можно включать при выводе, увеличивая задержку ради потенциально более точного ответа на сложные запросы. В README заявлен средний результат 78,3 в мультимодальном наборе OpenCompass и сильные результаты в задачах понимания изображений и документов. Модель распространяется по лицензии Apache-2.0. README предупреждает, что разработчики не гарантируют полного отсутствия проблем с авторскими правами или неподобающим содержимым.