I.2Синтез, понимание и проверка знаний

Qwen3.5-122B-A10B-NVFP4-Full-GB10 — мультимодальная квантованная версия модели Qwen/Qwen3.5-122B-A10B. Квантование выполнено с помощью llm-compressor по схеме NVFP4 W4A4: линейные слои, включая lm_head, используют 4-битные веса, а vision encoder сохранён в BF16. Модель предназначена для запуска и вывода на NVIDIA DGX Spark с чипом GB10 и обслуживается через vLLM при использовании специальной поддержки для NVFP4 lm_head. Архитектура включает 48 слоёв гибридного внимания, из которых 36 используют GDN/Gated-DeltaNet, а 12 — полноценное внимание, 256 маршрутизируемых экспертов и один общий эксперт на слой; активируются 8 экспертов. Размер скрытого представления — 3072, словарь содержит 248 320 токенов, заявленный контекст — до 262K токенов. Модель поддерживает обработку текста и изображений, однако языки в README не указаны. На DGX Spark заявлена скорость последовательной генерации около 33–35 токенов в секунду. Главное преимущество модели — максимальная скорость декодирования среди описанных вариантов и сниженные требования к памяти: размер контрольной точки составляет около 66 ГБ. Ограничением является небольшое ухудшение качества по сравнению с вариантом FP8Dense, особенно в понимании и передаче нюансов при длительном использовании; 4-битные активации и квантованный lm_head слегка уплощают распределение выходов. В контрольной точке отсутствуют веса MTP, поэтому спекулятивное декодирование недоступно. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-35B-A3B-uncensored-heretic-v2-Native-MTP-Preserved — дообученная мультимодальная модель независимого автора llmfan46 на базе Qwen/Qwen3.5-35B-A3B от Alibaba. Это диалоговая модель с архитектурой Qwen3.5 MoE и визуальным энкодером: всего 35 млрд параметров, из них активируется около 3 млрд. Репозиторий содержит веса Safetensors и сохраняет 785 тензоров MTP; заявленная длина контекста — 262 144 токена с возможностью расширения до 1 010 000. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с вызовом инструментов. Автор сообщает о снижении частоты отказов относительно исходной модели при сохранении её возможностей; приведённые метрики являются результатами автора. Модель работает в режиме рассуждений по умолчанию. В карточке заявлена поддержка 201 языка и диалекта, но перечень языков не приведён. Модель распространяется по лицензии Apache-2.0. Снижение ограничений может приводить к выдаче нежелательного или небезопасного содержимого; результаты тестов автора не гарантируют качество на других задачах.

amd/Qwen3.5-397B-A17B-NVFP4 — это мультимодальная модель условной генерации Qwen3_5MoeForConditionalGeneration, созданная на основе Qwen/Qwen3.5-397B-A17B и подготовленная Advanced Micro Devices, Inc. Модель принимает текст, изображения и видео, а генерирует текст. В карточке указана поддержка английского языка. Обозначение модели содержит 397B-A17B, однако точное описание числа параметров и конфигурации смеси экспертов в README не приведено. Модель предназначена для задач генерации и анализа текста, а также обработки мультимодальных входных данных. Она оптимизирована для инференса через vLLM на системах AMD MI300, MI350 и MI355 с ROCm 7.2.2, PyTorch 2.10.0 и Transformers 5.14.0 под Linux. Для развертывания используется статическое квантование весов и динамическое квантование активаций MOE-слоёв в формате NVFP4; оптимизация выполнена с помощью AMD-Quark 0.12. К сильным сторонам относятся существенное снижение требований к памяти за счёт NVFP4-квантования, поддержка текста, изображений и видео, а также совместимость с vLLM. В тесте GSM8K модель получила 94,47 против 95,38 у исходной модели, что соответствует восстановлению 99,04% результата исходной версии. Ограничения включают ориентацию на определённое AMD-оборудование и программный стек, а также ограниченную опубликованную оценку: в README приведены результаты только GSM8K. Модель распространяется по лицензии Apache 2.0; модификации защищены авторским правом Advanced Micro Devices, Inc. за 2026 год.

Qwen3.5-4B-Comprehension-new-judge-policy-v70-merged — текстовая генеративная модель, опубликованная пользователем leonardovazsp на Hugging Face. По метаданным модель предназначена для генерации текста и поддерживает conversational-сценарии; разработчик, базовая модель и лицензия в доступных материалах не указаны. Модель содержит около 3,4 млрд параметров, использует экосистему Transformers и имеет нативное контекстное окно до 262 144 токенов. По названию модель относится к семейству Qwen3.5 и, вероятно, ориентирована на задачи comprehension и judging, однако README не содержит подтверждённых сведений о методах обучения, оценивании или конкретных форматах таких задач. Модель может применяться для диалоговой генерации, продолжения текста, анализа предоставленного контекста и интеграции в приложения на базе Transformers. Ограничения включают отсутствие в карточке подробностей о языках, качестве, безопасности, смещениях, тестовых результатах и условиях лицензирования; результаты следует проверять на целевых данных перед использованием.

Карточка модели eadx/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, поэтому описание составлено по ней. DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

Карточка модели Hero1gma/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED на Hugging Face совпадает с карточкой DavidAU/Qwen3.5-9B-Claude-4.6-HighIQ-THINKING-HERETIC-UNCENSORED, поэтому описание составлено по ней. DavidAU собрал эту мультимодальную модель на базе Qwen3.5-9B-heretic-v2: автор сообщает о дообучении через Unsloth на дистиллированном наборе рассуждений Claude 4.6. Модель принимает текст и изображения и генерирует текст; карточка заявляет поддержку vision и диалогового режима. В README указаны 9 млрд параметров, архитектура Qwen3.5 с языковой моделью и vision encoder, а также контекст 262 144 токена с возможностью расширения. Заявленная основная область применения — рассуждения, диалог и анализ изображений; автор также приводит результаты на нескольких тестах и сообщает о снижении отказов. README рекомендует квантизацию не ниже Q4_K_S или IQ3_S с imatrix. Видео не тестировалось. Указанные языки карточки — английский и китайский; более широкая языковая поддержка описана для исходной модели Qwen3.5, но отдельно для этого дообучения не подтверждена. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-V2-abliterated-uncensored-TQ3_4S-GGUF — мультимодальная модель Lemura Labs на базе объединённых Qwen3.6-27B и Jackrong/Qwopus3.6-27B-v2. Последняя версия описана как дистилляция рассуждений Claude Opus на основе Qwen3.6-27B. Модель прошла abliteration для снижения числа отказов и выпущена в формате GGUF с квантизацией TQ3_4S; для обработки изображений требуется отдельный файл проектора mmproj.gguf. Модель предназначена для диалогов, рассуждений и работы с изображениями. Гибридная архитектура сочетает линейное внимание GatedDeltaNet и полнослойное softmax-внимание; заявленная длина контекста — 262144 токена. В карточке сообщается о снижении отказов с 91 до 4 из 100 проверочных запросов при KL-дивергенции 0,0176. Доступны GGUF-веса размером около 14 ГБ вместе с проектором; для TQ3_4S требуется форк llama.cpp от turbo-tan, а без mmproj вход изображений недоступен. Модель принимает текст и изображения и генерирует текст. В метаданных указаны английский и китайский языки, а также мультиязычная поддержка. Лицензия — Apache-2.0. Вследствие удаления отказов модель может отвечать на запросы, которые исходная модель отклоняла; результаты генерации требуют соответствующей проверки.

88plug/Qwen3.6-27B-W8A16 — квантованная версия мультимодальной модели Qwen3.6-27B, разработанной командой Qwen и опубликованной пользователем 88plug. Модель предназначена для обработки изображений и текста с генерацией текста: анализа изображений, визуально-текстовых запросов, рассуждений и задач общего назначения. Поддерживает английский язык; заявленный контекст составляет до 262 144 токенов. Это плотная модель примерно на 27 млрд параметров без MoE, с гибридной архитектурой Gated DeltaNet и полносвязных MLP-блоков. В ней 41 чередующийся слой полной и линейной внимания. Применена посттренировочная квантование AutoRound W8A16: веса хранятся в INT8, а активации — в BF16; размер группы квантования равен 32. Модель занимает около 27 ГБ и рассчитана на запуск на GPU Ampere и новее, включая RTX 4090, A6000 и A100-40. Для развёртывания предпочтителен vLLM версии 0.21 или новее с форматом compressed-tensors. К сильным сторонам относятся существенно меньшие требования к памяти по сравнению с BF16-версией, поддержка длинного контекста и возможность работы на распространённых GPU без ограничений, характерных для FP8. Текстовые компоненты калибровались на смешанном наборе UltraChat-200k и WikiText-103, однако визуальный энкодер получил некалиброванное RTN-квантование INT8, поэтому качество обработки изображений может быть менее проверенным. Формат compressed-tensors не поддерживается TGI, а виджет Hugging Face может работать нестабильно. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-29B-REAP-Opus-Reasoning-Distill-GGUF — набор GGUF-квантизаций модели, созданной barozp на базе Qwen3.6-35B-A3B с архитектурой MoE. Из исходной конфигурации удалены 51 из 256 экспертов с помощью REAP, оставлено 205 экспертов, после чего применён LoRA-адаптер, обученный на рассуждениях, сгенерированных Opus. Это обычная слитая версия без MTP-head, предназначенная для генерации текста и локального запуска через llama.cpp. Модель ориентирована на задачи рассуждения, ответов на вопросы и универсальной текстовой генерации. Доступны варианты от BF16 размером 56,5 ГБ до квантизаций Q2_K размером 10,6 ГБ, включая популярную Q4_K_M размером 17,3 ГБ и IQ-квантизации с importance matrix. K-квантизации обеспечивают широкую совместимость и высокую скорость на CPU, а IQ-варианты дают лучшее соотношение качества и размера при цене в виде некоторого снижения скорости. Языки, размер контекстного окна и точный набор поддерживаемых модальностей в README не указаны; по описанию это текстовая модель. Сильной стороной является улучшение результатов на ARC-Challenge после reasoning-дистилляции: 0,616 против 0,532 у исходной невырезанной модели и 0,534 у версии только с pruning. На RTX PRO 6000 Blackwell в конфигурации Q4_K_M заявлена скорость около 219 токенов в секунду при полном offload и около 58,6 токена в секунду при частичном offload. Ограничение модели — отсутствие встроенного MTP-head и, соответственно, поддержки self-speculative decoding, доступной в отдельной версии. Кроме того, для этой линейки использование chat template может существенно искажать результаты задач с оценкой loglikelihood; приведённые бенчмарки рассчитаны без него. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое ПО, например llama.cpp, и объём оперативной или видеопамяти, соответствующий выбранной квантизации.

mlx-community/Qwen3.6-35B-A3B-4bit-DWQ — это MLX-совместимая 4-битная версия модели Qwen3.6-35B-A3B, опубликованная сообществом mlx-community. Исходную модель разработала команда Qwen компании Alibaba Cloud. Она предназначена для локального запуска и генерации текста, диалогов, а также мультимодальных сценариев с обработкой изображений и видео; репозиторий поддерживает использование через MLX и mlx-lm. Модель имеет архитектуру Mixture of Experts с 35 млрд параметров, из которых на один токен выбираются 8 из 256 экспертов. Конфигурация включает гибридные linear attention и full attention, 40 слоёв и максимальную длину контекста 262 144 токена. Исходная модель поддерживает текстовые и визуальные входы; для производного MLX-файла заявлена 4-битная квантизация, уменьшающая размер до примерно 20,7 ГБ и предназначенная прежде всего для запуска на совместимом оборудовании Apple Silicon. Сильная сторона варианта — существенно сниженные требования к памяти по сравнению с полной моделью и возможность локального использования через MLX. Ограничения включают зависимость от MLX-совместимой инфраструктуры и потенциальную потерю качества из-за квантизации; в карточке производного репозитория подробные результаты тестов, перечень поддерживаемых языков и отдельные ограничения не указаны. Для исходной Qwen3.6-35B-A3B указана лицензия Apache-2.0, однако отдельная лицензия производного репозитория mlx-community явно не приведена.

btbtyler09/Qwen3.6-35B-A3B-GPTQ-8bit — это 8-битная GPTQ-квантизованная версия мультимодальной модели Qwen3.6-35B-A3B, разработанной командой Qwen. Модель предназначена для работы с текстом и изображениями, включая понимание изображений, генерацию текста, рассуждения, вызов инструментов и поддержку speculative decoding через модуль MTP. README не указывает конкретный список поддерживаемых языков. Модель использует архитектуру Mixture-of-Experts с примерно 35 млрд параметров, из которых около 3 млрд активируются для каждого токена. В каждом из 40 слоёв используется 256 экспертов и один общий эксперт; на токен выбираются 8 экспертов. Архитектура сочетает 30 слоёв линейного внимания и 10 слоёв полного внимания. Контекстное окно составляет до 262 144 токенов. В состав входят полноразмерный vision encoder на базе ViT с 27 блоками и модуль MTP; vision encoder и MTP сохранены в BF16, а экспертные модули квантизованы в INT8. Ключевое преимущество версии — существенное уменьшение размера примерно с 67 до 40 ГБ при практически незаметном ухудшении perplexity относительно исходной BF16-модели. При этом для запуска требуется значительный объём видеопамяти и, согласно README, рекомендуется использовать vLLM с распределением модели минимум на несколько GPU. GPTQModel и transformers на момент публикации не поддерживают непосредственную загрузку этой мультимодальной сборки, поэтому для инференса следует использовать vLLM; также возможна необходимость исправления ошибки совместимости в некоторых версиях vLLM. Модель распространяется по лицензии Apache-2.0.

esatapedico преобразовал NVFP4-чекпойнт Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 в семейство из шести GGUF-файлов для запуска через llama.cpp. Модель разработана на основе Qwen3.8-27B: это плотная гибридная архитектура с Gated DeltaNet и слоями Gated Attention, а её исходный вариант дообучен DavidAU методом Cold Fusion (GAIN + Unsloth). По README, в модели 27 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогов. Она поддерживает мультимодальную обработку изображений при подключении отдельного проектора mmproj-BF16.gguf; в опубликованные GGUF-файлы веса проектора не входят. В каждом файле встроена MTP-голова для спекулятивного декодирования. Шесть вариантов отличаются точностью квантования головы вывода, эмбеддингов и MTP-головы; языковая основа общая и содержит NVFP4-тензоры. README приводит результаты отдельных пробных запусков на двух GPU, а не систематический бенчмарк; скорость и качество могут зависеть от оборудования и конфигурации. Для работы с изображениями нужен совместимый проектор. Репозиторий распространяется по лицензии Apache-2.0.

btbtyler09/Qwen3.8-27B-GPTQ-4bit — это квантизированный вариант Qwen/Qwen3.8-27B, разработанный сообществом Qwen и подготовленный пользователем btbtyler09. Модель представляет собой плотную мультимодальную модель примерно на 27 млрд параметров с поддержкой текста и изображений, предназначенную для генерации и понимания текста, анализа изображений, обслуживания через vLLM и ускоренного декодирования с помощью модуля MTP. Архитектура включает 64 слоя: 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания, скрытое представление размером 5120 и промежуточный размер 17408. Максимальная длина контекста составляет 262 144 токена. В состав входят 27-блочный визуальный ViT-энкодер и однослойная голова Multi-Token Prediction. Текстовый декодер квантизирован в INT4 методом GPTQ с компенсацией ошибок FOEM и размером группы 32, а визуальный энкодер, MTP, эмбеддинги, нормы и LM head сохранены в BF16 или FP16. Итоговый размер — около 21 ГБ вместо примерно 56 ГБ у исходной BF16-модели. Основное преимущество — существенно меньшие требования к памяти при сохранении близкого к исходной модели качества: на wikitext-2-raw-v1 ухудшение perplexity составляет 0,81%. Модель поддерживает мультимодальные запросы и совместима с ядрами GPTQ в vLLM, однако для полноценного запуска требуется значительный объём видеопамяти и подходящая конфигурация GPU. Квантизация может снижать качество на отдельных задачах, а в некоторых версиях vLLM возможна ошибка разбора конфигурации, требующая исправления. Лицензия — Apache 2.0; поддерживаемые языки README не указывает.

Qwen3.8-27B-Opus-Distill-v2-GGUF — семейство GGUF-квантизаций модели barozp/Qwen3.8-27B-Opus-Distill-v2, разработанной сообществом на базе Qwen/Qwen3.8-27B. Это плотная модель на 27 млрд параметров с гибридной архитектурой Gated-DeltaNet и full-attention, 64 слоями, поддержкой текста и изображений или видео через отдельный vision-модуль mmproj. Модель предназначена для диалогов, генерации текста и решения задач, требующих рассуждений; исходная модель дообучена методом LoRA на 11 716 проверенных примерах рассуждений, связанных с Opus. Главное назначение версии v2 — исправление дефекта v1, при котором некоторые сочетания ограничений формата могли запускать бесконечный цикл самопроверки без видимого вывода. По данным README, новая версия корректно завершается на проверенных тестах и показывает заметный прирост относительно базовой модели в ARC Challenge и GPQA Diamond, при сопоставимых результатах на MMLU и wikitext. Доступны варианты от BF16 и Q8_0 до экстремально низкобитных IQ-квантизаций; Q4_K_M указан как сбалансированный вариант, а выбор зависит от объёма доступной видеопамяти. IQ-квантизации требуют imatrix и актуальной поддержки llama.cpp. Модель может использоваться в llama.cpp в текстовом режиме, а для мультимодального ввода требуется отдельный vision-файл mmproj. Поддержка языков и размер контекстного окна в README не указаны. К ограничениям относятся потери качества при низкобитной квантизации, повышенные требования к памяти для старших вариантов и необходимость отдельного vision-модуля для изображений и видео. Указанная лицензия — Apache-2.0.

QUASAR-QAT/Qwen3.8-27B-QUASAR-NVFP4 — 4-битная NVFP4-версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и квантованной методом QUASAR. Модель предназначена для задач image-text-to-text, reasoning, работы с изображениями и текста, а также агентских и сценариев с длинным контекстом. Точный набор поддерживаемых языков в README не указан. Модель содержит 27 млрд параметров; все 496 из 496 линейных слоёв трансформера, включая компоненты attention и gated delta-net, представлены в формате NVFP4 W4A4. Размер модели составляет 19,7 ГБ. Она поддерживает контекст до 262 144 токенов при запуске через vLLM, а на видеокарте с 32 ГБ памяти, например RTX 5090, рекомендуется ограничить его 65 536 токенами. Для ускорения генерации заявлена поддержка speculative decoding с MTP. Ключевое преимущество — существенное уменьшение размера при сохранении качества, близкого к BF16-версии: результат GPQA-Diamond составляет 0,909 против 0,914 у оригинальной модели, а на AIME'26 заявлен результат 100%. Модель требует NVIDIA GPU с аппаратной поддержкой FP4, то есть Blackwell с compute capability 10.0 и выше, поэтому не подходит для систем без совместимого оборудования. Запуск возможен напрямую через vLLM без этапа конвертации. Модель распространяется по лицензии Apache 2.0.

AetherKelly00/Qwen3.8-Flash-Next-GGUF — GGUF-версия экспериментальной мультимодальной модели Qwen3.8-Flash-Next, разработанной командой Qwen; репозиторий также содержит материалы Unsloth для запуска и квантизации. Это причинная языковая модель с визуальным энкодером, предназначенная для обработки текста и изображений, диалоговых сценариев, анализа документов и агентских задач с длинным контекстом. Для запуска рекомендуются llama.cpp или Unsloth Desktop. Модель использует архитектуру с гибридным вниманием: Gated DeltaNet сочетается с Qwen Sparse Attention, работающим на уровне микроблоков. Также применяются Gated Residual, n-gram embedding и Mixture of Experts. Заявлено 125 млрд параметров, из которых активируется около 6 млрд, дополнительно 51 млрд параметров приходится на n-gram embedding и 4 млрд — на MTP. Архитектура включает 48 слоёв, 512 экспертов с 10 маршрутизируемыми и одним общим активным экспертом. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 000 000 токенов. Поддерживаемые языки в README не указаны. К сильным сторонам относятся высокая вычислительная эффективность за счёт разреженной активации экспертов, оптимизации длинного контекста и возможность локального запуска в формате GGUF. Ограничения включают экспериментальный статус архитектуры, необходимость совместимого программного обеспечения и отсутствие в представленном README подробных результатов тестирования, конкретных требований к памяти и информации о поддерживаемых вариантах квантизации. Модель распространяется по лицензии qwen-community-1.0; указанный тип лицензии — other.

Vontra Qwen3.8-Flash-Next-MLX-oQ4 — это общественная MLX-конверсия модели Qwen3.8-Flash-Next, разработанной Qwen, для запуска на устройствах Apple Silicon. Конверсия выполнена Vontra напрямую из официального BF16-чекпойнта и предназначена для мультимодальных сценариев, включая обработку текста и изображений, генерацию ответов и работу с vision-language задачами через совместимые MLX-VLM или oMLX. Модель использует архитектуру qwen4_exp: разреженную mixture-of-experts с 125 млрд параметров в общей сложности и примерно 6 млрд активных параметров, 48 слоями, 512 маршрутизируемыми экспертами, 10 активными экспертами и одним общим экспертом. В состав также входят Gated DeltaNet, Qwen Sparse Attention, расширенные gated residual streams и хешированные bigram/trigram-эмбеддинги объёмом 51 млрд параметров. Контекст — до 262 144 токенов; используются 24 attention heads и 2 KV heads, размер скрытого состояния — 2560. Модель поставляется в формате MLX safetensors с oQ4 mixed-precision-квантизацией: базовые веса представлены в 4 битах, отдельные чувствительные слои защищены точностью 5/8 бит. Размер весов — около 111,69 ГБ. Сильные стороны модели — поддержка текста и изображений, большое контекстное окно, сниженное активное число параметров благодаря sparse MoE и оптимизация для Apple Silicon. На Apple M3 Studio в README указана скорость генерации около 27–30 токенов в секунду после загрузки. Для работы требуется runtime с явной поддержкой архитектуры qwen4_exp; старые версии MLX-VLM могут быть несовместимы. Опциональная MTP-голова не включена, а Qwen3.8 27B MTP-drafter использовать нельзя из-за несовместимых скрытых размеров. Это неофициальная общественная конверсия Vontra. Модель распространяется по лицензии Qwen Community License 1.0.

Vontra/Qwen3.8-Flash-Next-MLX-oQ6 — это общественная MLX-конверсия базовой модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Конверсия предназначена для запуска на Apple Silicon через совместимые MLX-VLM или oMLX. Модель относится к vision-language системам и поддерживает обработку текста и изображений; в поставку также входят исходные токенизатор, шаблон диалога, обработчик изображений и конфигурация генерации. Модель использует архитектуру qwen4_exp с разреженной смесью экспертов, Gated DeltaNet, Qwen Sparse Attention, расширенными gated residual streams и хешированными bigram/trigram embeddings. Всего заявлено 125 млрд параметров языковой части, из которых активно 6 млрд, а таблицы n-грамм содержат 51 млрд параметров. Архитектура включает 48 слоёв, 512 маршрутизируемых экспертов, 10 активных экспертов и один общий, 24 attention heads и 2 KV heads; размер скрытого состояния — 2560, настроенный контекст — до 262144 токенов. Веса представлены в формате MLX safetensors и занимают около 155,78 ГБ; используется смешанная 6-битная квантизация с отдельными модулями точностью 6/8 бит. Сильными сторонами являются поддержка мультимодальных сценариев, большой контекст, разреженная архитектура и оптимизация для Apple Silicon. На Apple M3 Studio в README указана скорость генерации примерно 19,5–23,1 токена в секунду в зависимости от режима. Ограничения включают очень большой объём весов, необходимость runtime с явной поддержкой qwen4_exp и отсутствие встроенной native MTP head в данной сборке. Приведённые показатели относятся к конкретной конфигурации и могут изменяться в зависимости от длины запроса, настроек генерации, версии runtime и доступной памяти. Это неофициальный релиз Qwen, а конверсия и упаковка Vontra. Модель распространяется по Qwen Community License 1.0; текст лицензии включён в репозиторий.

Qwen_Qwen3-Next-80B-A3B-Thinking-GGUF — набор GGUF-квантизаций базовой модели Qwen3-Next-80B-A3B-Thinking, разработанной Qwen и подготовленной bartowski. Модель предназначена для генерации текста и сценариев, требующих рассуждений; запуск возможен через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Это текстовая модель с архитектурой и языками исходной модели, а также размером контекста, в README не указанных. Доступны варианты квантизации от Q3 до Q8, объёмом примерно от 36,6 до 84,8 ГБ. Более высокие варианты обеспечивают лучшее сохранение качества, а низкие требуют меньше памяти; рекомендуемыми названы Q4_K_M, Q5_K_M, Q6_K и другие варианты соответствующего уровня. Ключевое ограничение — значительные требования к оперативной памяти и необходимость поддержки этой модели выбранным программным обеспечением. Квантизации созданы с использованием imatrix и llama.cpp. Для работы рекомендуется применять указанный в README формат prompt с маркером начала рассуждений <think>. Распространение осуществляется по лицензии Apache-2.0.

QwQ-LCoT-3B-Instruct — компактная языковая модель PrithivMLmods с архитектурой Qwen2, дообученная для следования инструкциям и генерации развёрнутых рассуждений. Она основана на Qwen/Qwen2.5-3B-Instruct и дообучена на наборе amphora/QwQ-LongCoT-130K, ориентированном на длинные цепочки рассуждений. Модель предназначена для ответов на сложные запросы с пошаговыми объяснениями, решения задач по математике, логике и естественным наукам, учебной помощи, диалога и суммаризации. Имеет 3,1 млрд параметров и контекстное окно до 32 768 токенов; для работы в README рекомендована библиотека Transformers. В метаданных указан английский язык. Компактный размер облегчает запуск по сравнению с более крупными моделями, а настройка ориентирована на подробные и структурированные ответы. Качество рассуждений и суммаризации в карточке не подтверждено количественными оценками. Лицензия — CreativeML OpenRAIL-M.

RAG-Qwen2.5-7B — языковая модель TroyDoesAI, дообученная на базе unsloth/qwen2.5-7b-bnb-4bit. Она предназначена для ответов на вопросы по предоставленному контексту в сценариях RAG и для более точного следования источникам с целью снизить число галлюцинаций. Для контекста используется формат с явными разделителями блоков текста, метаданных и инструкции; модель обучалась отвечать на одиночные вопросы, а также формировать абзацы и списки. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, контекстом до 131 072 токенов и поддержкой английского языка. Репозиторий содержит веса PyTorch; для обучения применялись Unsloth и Hugging Face TRL. Лицензия — Apache-2.0. Модель лучше подходит для генерации ответов с опорой на явно переданный контекст, чем для задач, где требуется гарантированно проверяемая достоверность: снижение галлюцинаций заявлено как цель, но не подтверждено количественной оценкой. Для ожидаемого поведения нужно оформлять вход в рекомендованном формате; поддержка других языков и мультимодальных входов не заявлена.

JeremiahZ/roberta-base-qnli — модель классификации последовательностей на базе RoBERTa, дообученная на наборе GLUE QNLI. Она предназначена для задачи определения, следует ли ответ на вопрос из данного предложения, и может применяться для проверки соответствия фрагментов текста вопросам. Модель содержит 151,8 млн параметров, использует архитектуру RobertaForSequenceClassification и принимает последовательности длиной до 514 токенов. На evaluation-наборе QNLI указаны loss 0,2992 и accuracy 0,9246. Модель поддерживает английский язык и распространяется в форматах PyTorch и safetensors по лицензии MIT. Подробные сведения о других сценариях применения и ограничениях в карточке отсутствуют.

zli12321/roberta-large-qa-evaluator — англоязычная модель на архитектуре RoBERTa-Large, предназначенная для оценки ответов систем вопросно-ответного поиска. Карточка связывает её с набором PEDANTS для оценки ответов; README пакета QA-Evaluation-Metrics описывает сопоставление ответа кандидата с эталонными ответами с учётом вопроса. Метаданные указывают 454,1 млн параметров, контекст до 514 токенов и формат safetensors. Модель можно использовать для проверки, соответствует ли ответ на вопрос одному из эталонных ответов, и для оценки качества QA-моделей на коротких и средних ответах. Метаданные Hugging Face задают задачу text-classification, хотя архитектура RobertaForMaskedLM и классификация каталога также указывают на fill-mask; для поиска оценки ответов основная задача — text-classification. Лицензия репозитория — MIT. README описывает пакет и семейство доступных моделей, но не раскрывает подробности обучения именно этого чекпойнта.

stefra разработал модель roberta-unical-old на базе дообученной FacebookAI/roberta-large. Это энкодер архитектуры UNICAL, обученный методом statement tuning для оценки утверждений относительно текста-состояния: модель возвращает вероятность истинности каждого утверждения и не генерирует текст. Блочная двунаправленная маска внимания позволяет оценивать несколько утверждений в одном запросе независимо друг от друга, что предназначено для быстрой фильтрации семантических утверждений. Модель работает через Transformers и содержит собственный код архитектуры; на GPU может загружаться в float16. Модель подходит для классификации по заданным категориям, когда их можно представить как утверждения, а также для оценки и ранжирования таких утверждений по вероятности истинности. В README приведены результаты проверки на нескольких наборах данных, включая отдельные задачи, не встречавшиеся при обучении; качество на них различается, поэтому перенос на новые домены требует проверки. Языковая ориентация следует от англоязычной базовой RoBERTa-large. Сведения о лицензии в предоставленных данных отсутствуют.

Модель s-nlp/rubert-base-cased-conversational-paraphrase-v1 разработана для оценки семантического сходства предложений на русском языке. Это дообученная ruBERT-conversational с архитектурой BERT и классификационной головой для последовательностей; она обучена на смеси наборов ru_paraphraser, RuPAWS и данных краудсорсинговой оценки сохранения содержания при детоксикации русского текста. В репозитории около 205,1 млн параметров, веса доступны в форматах PyTorch и Safetensors, максимальная длина контекста — 512 токенов. Модель подходит для обнаружения перефразирований и сравнения смысла двух русских фраз. На тестах разработчика ROC AUC составил 0,762–0,848 в зависимости от набора данных. Это модель-классификатор для пар текстов, поэтому её оценки не следует трактовать как универсальную метрику сходства; автор отмечает, что SkolkovoInstitute/ruRoberta-large-paraphrase-v1 показывает лучшие результаты на этой задаче. Лицензия в предоставленных источниках не указана.

cointegrated/rubert-tiny-bilingual-nli — компактная модель на базе RuBERT-tiny, дообученная разработчиком cointegrated для определения логической связи между двумя короткими текстами. Она предсказывает, следует ли один текст из другого, и подходит для классификации без заранее заданного набора классов: пользователь задаёт возможные метки, а модель оценивает их применимость к тексту. Модель построена на архитектуре BERT и содержит 12,1 млн параметров. Она принимает пары текстов, поддерживает русский язык и обрабатывает последовательности длиной до 512 токенов. Модель рассчитана на задачи NLI и zero-shot-классификации; её компактный размер подходит для сценариев, где важны небольшие вычислительные затраты. В карточке не приведены сведения о лицензии, поэтому условия использования по имеющимся данным определить нельзя. Модель обучалась на русскоязычном наборе данных NLI; предсказания для длинных текстов или задач за пределами классификации логических отношений могут быть ненадёжны.

TareksGraveyard/Savant-Qwen2.5-72B — объединённая модель на основе Qwen2.5, созданная автором репозитория методом della_linear с помощью mergekit. В качестве базовой использована zetasepic/Qwen2.5-72B-Instruct-abliterated; в объединение также вошли EVA-Qwen2.5-72B-v0.2, 72B-Qwen2.5-Kunou-v1, Q2.5-MS-Mistoria-72b-v2 и ChatWaifu_72B_v2.2. Модель предназначена для генерации текста и диалогового общения. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 71,5 млрд параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors; лицензия указана как other. Сведения о конкретных поддерживаемых языках и особых ограничениях в карточке не приведены.

ScandiNLI Large v2 — модель естественного логического вывода для датского, норвежского букмола и шведского языков, разработанная AI Sweden. Это дообученная модель RoBERTa Large на 454,1 млн параметров; она принимает текстовые посылки и гипотезы и определяет их отношение, поддерживая сценарии zero-shot-классификации. Контекст модели — до 514 токенов. Модель подходит для классификации текстов по пользовательским категориям и проверки того, следует ли гипотеза из посылки, противоречит ей или не связана с ней. В оценке авторов версия v2 показала в среднем по трём скандинавским языкам точность 84,95% и macro-F1 75,41%. Для шведского и норвежского оценка проводилась на машинно переведённом MultiNLI, поэтому эти результаты могут не полностью отражать качество на оригинальных данных. Модель распространяется по лицензии Apache-2.0.

SJT-14B — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная с помощью mergekit и метода TIES. В качестве базовой использована hotmailuser/QwenSlerp2-14B, также в объединение вошла djuna/Q2.5-Veltha-14B. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает японский и английский языки и имеет контекст длиной до 131 072 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0.

SLIM-SUMMARY-TINY — компактная специализированная языковая модель компании llmware для суммаризации текстов. Это дообученная модель на архитектуре Llama с 1,1 млрд параметров; в репозитории представлены веса PyTorch. На вход подаётся текстовый фрагмент, а на выходе модель формирует список отдельных ключевых тезисов в виде строк. Число тезисов можно задавать параметром, хотя управление длиной списка описано как экспериментальная возможность. Модель предназначена для извлечения ключевых пунктов из текстов, в том числе для вызова функции суммаризации в LLMWare. Компактный размер позволяет запускать её на CPU. Контекст составляет 2048 токенов, поэтому при суммаризации следует учитывать ограничения на размер входного текста. Лицензия — Apache 2.0. README отмечает, что кавычки в ответе могут мешать автоматическому преобразованию вывода в список Python; для этого может потребоваться обработка результата. Метаданные указывают задачу генерации текста.