I.2Синтез, понимание и проверка знаний

MixtureofMerges-MoE-2x7b-SLERPv0.9 — языковая модель для генерации текста, созданная jsfs11 с помощью LazyMergekit. Это слияние методом SLERP моделей jsfs11/MixtureofMerges-MoE-2x7b-v7 и jsfs11/MixtureofMerges-MoE-2x7bRP-v8. Модель построена на архитектуре Mixtral с разреженной экспертной структурой MoE и содержит 7,1 млрд параметров. Модель предназначена для генерации продолжений и ответов на текстовые запросы. Метаданные указывают контекст до 32 768 токенов. В README приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag, но языки и специализированные области применения не заявлены. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

EuroEval/mmBERT-small-multi-wiki-qa-synthetic-hallucinations-with-ragtruth-ro — модель на базе архитектуры ModernBERT для token classification, опубликованная в библиотеке Transformers. Название указывает на настройку для выявления синтетических галлюцинаций в сценариях вопросов и ответов по документам, связанных с RAGTruth и многовикипедийными данными. Модель содержит около 140,5 млн параметров и поддерживает контекст до 8192 токенов. Её можно применять для классификации отдельных токенов или фрагментов текста при анализе достоверности ответов и обнаружении потенциально галлюцинирующих участков. Сведения о разработчике, лицензии, языках, результатах оценки и точной схеме меток в предоставленной карточке отсутствуют.

zelk12/MT3-Gen5-MMGBMU-gemma-2-9B_v1 — слияние двух предварительно обученных языковых моделей zelk12/MT3-Gen5-BMU-gemma-2-9B_v1 и zelk12/MT3-Gen5-MMG-gemma-2-9B_v1, созданное автором с помощью mergekit методом SLERP. Модель построена на архитектуре Gemma 2 с плотной causal language model на 9 млрд параметров; веса представлены в safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Сведения о языках, на которых модель специально обучалась, в доступных источниках отсутствуют, поэтому её языковой охват нельзя надёжно конкретизировать. Лицензия и специальные ограничения использования в README и предоставленных метаданных не приведены. Качество, устойчивость ответов и сравнительные преимущества слияния отдельно не описаны.

RadixArk подготовила Muse-Glimmer-q4k-dynamic-MLX — текстовую версию Muse Glimmer для компьютеров Apple Silicon, упакованную в формат MLX. Это плотная модель семейства Muse Glimmer с 28 млрд параметров, 52 слоями и контекстом до 131 072 токенов. Репозиторий содержит веса в safetensors, разбитые на пять файлов; библиотека запуска — MLX, для сервинга автор рекомендует SGLang с MLX-бэкендом. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Квантование использует смешанную схему 4/5/6 бит с размером группы 32; веса сохраняют коды исходного динамического GGUF-квантования, а преобразование в MLX выполнено без повторного квантования. По приведённым автором тестам на одной системе результаты близки к запуску исходного GGUF через llama.cpp, однако эти оценки относятся к конкретным тестам и конфигурации. Для запуска автор указывает Mac с унифицированной памятью от 48 ГБ. Модель работает только с текстом: у MLX-бэкенда нет пути обработки изображений. Сведения о лицензии в предоставленной карточке отсутствуют.

Navarna 7B — языковая модель на архитектуре Mistral, дообученная TokenBender для общения на хинди и задач поиска предложений в сценариях RAG. Модель содержит 7,1 млрд параметров, рассчитана на контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Модель подходит для чат-ответов на хинди и поиска релевантных предложений для ответов по материалам. В карточке упомянуты этапы SFT и DPO. Лицензия Apache-2.0 разрешает использование, изменение и распространение с соблюдением её условий.

Nemotron-3-Nano-Omni-30B-A3B-JANG_4M — это мультимодальная версия модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная Jinho Jang для Apple MLX. Модель сочетает Mamba-2, attention и MoE; в README указаны 31 млрд параметров всего и около 3 млрд активных, тогда как метаданные каталога сообщают 1,9 млрд параметров. Контекст — 262 144 токена. Модель принимает текст, изображения и видео; базовая модель также поддерживает аудио, хотя README не подтверждает работу аудио в этом варианте. Сценарии применения включают диалог и рассуждения, анализ изображений и видео, а также запуск на Apple Silicon через MLX. Квантование JANG_4M использует смешанную точность 4 и 8 бит с группами размера 64; компоненты обработки изображений оставлены в FP16. README заявляет калибровку квантования по активациям и скорость около 126 токенов в секунду на M5 Max. Модель ориентирована на аппаратное обеспечение Apple и экосистему MLX. Для базовой модели в README указана лицензия NVIDIA Open Model License; метаданные этой версии обозначают лицензию как other, поэтому условия использования следует проверять в файлах репозитория и лицензии базовой модели. README описывает эту версию как квантованный порт, хотя метаданные связывают её с базовой моделью как finetune. Квантизация может влиять на качество; в README отмечена чувствительность экспертных слоёв к малой разрядности. Язык карточки — английский.

Nexim-7b — объединённая языковая модель, опубликованная пользователем gate369. Она создана методом SLERP с помощью mergekit из liminerity/m3 и liminerity/M7-7b; базовая модель в конфигурации — liminerity/m3. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и решения языковых задач общего назначения. Её можно применять для диалогов, написания черновиков и ответов на вопросы. Контекстное окно составляет 32 768 токенов. Карточка приводит результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Весы опубликованы в формате safetensors, лицензия — Apache-2.0. Данных о языковой специализации и ограничениях качества в карточке нет; результаты бенчмарков сами по себе не гарантируют качество в конкретном сценарии.

nli-MiniLM2-L6-H768-nvidia-aegis-v1 — дообученная модель leomaurodesenv на основе cross-encoder/nli-MiniLM2-L6-H768. Это плотная архитектура RoBERTa с 95,2 млн параметров, рассчитанная на классификацию текста; базовая модель определяет логическое отношение между парой предложений и поддерживает классификацию без специального обучения на примерах задачи. Контекст составляет 514 токенов. Модель можно применять для классификации текста и определения логических отношений между предложениями. В README приведены результаты оценки: точность 0,8711 и loss 0,3229, однако набор данных и подробности оценки не раскрыты. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Norns-Qwen2.5-7B — объединённая языковая чат-модель, созданная автором win10 методом breadcrumbs_ties с помощью mergekit. В качестве базовой модели использована win10/Skuld-Qwen2.5-7B, в объединение также вошла win10/Urdandi-Qwen2.5-7B. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers. Карточка приводит результаты оценки на MMLU-Pro: общий балл 41,46; показатели по отдельным областям варьируются, например, 64,16 по биологии и 21,98 по праву. Модель рассчитана на чатовые сценарии с текстовым вводом и текстовым выводом. README не сообщает лицензию, размер контекста или перечень языков, поэтому эти характеристики здесь не приводятся.

NorwAI-Mistral-7B-instruct — генеративная текстовая модель, разработанная исследовательским центром NorwAI при Норвежском университете науки и технологий (NTNU) совместно с норвежскими партнёрами, включая Schibsted, NRK, VG и Национальную библиотеку Норвегии. Модель предназначена для работы с норвежским языком и диалоговых или иных сценариев, требующих следования инструкциям; она дообучена примерно на 9000 самостоятельно собранных высококачественных норвежских инструкциях. Модель основана на NorwAI-Mistral-7B, использует авторегрессионную архитектуру и содержит около 7 млрд параметров. Контекст — до 32 000 токенов. Токенизатор расширен за счёт объединения токенизатора Llama 2 с норвежским токенизатором, итоговый словарь содержит 64 000 токенов. Основная заявленная языковая специализация — норвежский язык; сведения о мультимодальности отсутствуют, модель предназначена для генерации текста. Сильная сторона модели — адаптация к норвежскому языку и инструкциям носителей языка. Как и другие большие языковые модели, она может порождать галлюцинации, фактически неверные ответы, токсичный или предвзятый контент. Модель распространяется по специальной лицензии NorLLM: бесплатное использование разрешено организациям, зарегистрированным в странах Северной Европы, для собственных целей, но не для перепродажи; предусмотрены требования к атрибуции и ограничения, связанные с безопасностью, фундаментальными правами и географией использования.

Это квантизированная GGUF-версия языковой модели NVIDIA Nemotron-3.5 Lightning 30B-A3B, подготовленная ijohn07 конвертацией исходных весов NVIDIA для запуска через llama.cpp. Модель предназначена для генерации текста и может использоваться в локальном CLI или сервере llama.cpp. В метаданных указаны языки английский, испанский, французский, немецкий, итальянский и японский, а базовая модель описана как предназначенная для диалога, рассуждений и оценки. Репозиторий содержит формат GGUF BF16; README называет конверсию в GGUF, но не приводит конкретных характеристик Q3_K_M, поэтому степень квантизации по доступным сведениям установить нельзя. Лицензия исходной модели обозначена как other; перед использованием следует свериться с условиями исходной карточки NVIDIA.

OLMo-2-1124-13B-Instruct-RLVR1 — англоязычная чат-модель Allen Institute for AI (Ai2), выпущенная в ноябре 2024 года. Это плотная авторегрессионная модель семейства OLMo 2 на 13,2 млрд параметров, работающая с текстом и имеющая контекст до 4096 токенов. Модель доступна в формате safetensors и рассчитана на Transformers. Модель прошла постобучение: supervised fine-tuning на варианте набора Tülu 3, DPO и последующее RLVR-обучение. Она предназначена для диалогов и выполнения разнообразных текстовых инструкций; обучение охватывало, в частности, математические задачи MATH и GSM8K и следование инструкциям IFEval. Лицензия — Apache 2.0. В карточке указано, что безопасность модели обучалась ограниченно; без дополнительной фильтрации она может выдавать проблемные ответы, особенно по соответствующим запросам. README описывает эту версию как постобученную OLMo-2 13B, тогда как метаданные указывают базовой моделью OLMo-2-1124-7B-DPO, поэтому точная цепочка происхождения в источниках расходится.

OmniEdu-9B — мультимодальная модель для обучения и преподавания в школах, разработанная исследователями Пекинского университета, Университета Китайской академии наук и Zhongguancun Academy. Она дообучена методом полного supervised fine-tuning на базе Qwen/Qwen3.5-9B-Base и использует архитектуру Qwen3_5ForConditionalGeneration; в репозитории хранятся веса Safetensors. Модель принимает текст и изображения и предназначена для задач K–12: решения учебных задач по разным предметам, привязки вопросов и решений к учебной программе, диагностики пробелов и поддержки обучения. Модель обучена на 69 999 примерах с последовательностями длиной 32 768 токенов; это длина обучения, а не подтверждённая гарантия качества на длинном контексте. Карточка приводит результаты на учебных бенчмарках, но они не подтверждают улучшения результатов обучения в классе. Модель может ошибаться в решениях, сопоставлении с учебной программой и педагогических рекомендациях; материалы следует проверять перед использованием с учениками. Лицензия указана как other, а условия использования компонентов обучающих данных необходимо соблюдать отдельно.

lightblue/openorca_stx — языковая модель Lightblue, полученная дообучением OpenOrca OpenOrcaxOpenChat-Preview2-13B с помощью QLoRA на японских наборах данных. Она предназначена прежде всего для ответов на вопросы по предоставленному фрагменту текста: модель формирует ответ, опираясь на содержание источника. Обучение также включало примеры упрощения и суммаризации текста. Модель использует плотную архитектуру LlamaForCausalLM, содержит 12,9 млрд параметров и принимает контекст до 4096 токенов. Основной язык — японский. В описании приведены результаты на отдельных задачах JGLUE: улучшение на JSQuAD относительно базовой модели и более низкие результаты на JCommonsenseQA и JNLI. Модель распространяется с лицензией Llama 2; для использования следует соблюдать её условия. Оценки в карточке не гарантируют качество на других задачах или данных.

bartowski/open-thoughts_OpenThinker-32B-GGUF — набор GGUF-квантизаций модели OpenThinker-32B, разработанной проектом open-thoughts. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; исходная модель обучена на датасете open-thoughts/open-thoughts-114k. Модель относится к генеративным текстовым моделям и предназначена для запуска локально через llama.cpp, LM Studio и совместимые проекты. Варианты доступны в форматах от F16 до Q3 и IQ3/IQ4 с размерами примерно от 13,71 до 65,54 ГБ. Более крупные варианты обеспечивают более высокое качество, тогда как варианты с меньшей разрядностью требуют меньше оперативной памяти, но могут заметно уступать по качеству. В README не указаны архитектура исходной модели, поддерживаемые языки, размер контекста и мультимодальные возможности. Для работы следует использовать шаблон сообщений с маркерами <|im_start|> и <|im_end|>. Модель распространяется по лицензии Apache-2.0. Ограничения включают высокие требования к памяти для полноразмерных и качественных квантованных вариантов, а также возможное снижение качества при использовании низкоразрядных форматов.

Карточка модели OpenYourMind/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored на Hugging Face совпадает с карточкой Laerins/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored, поэтому описание составлено по ней. OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

OPOD-Qwen2.5-Omni-7B — мультимодальная модель Tung111, дообученная методом On-Policy Omni Distillation на основе Qwen/Qwen2.5-Omni-7B. Она объединяет навыки отдельных учителей для работы с текстом, изображениями и аудио в одной модели с архитектурой Qwen2.5-Omni и 7 млрд параметров. Поддерживаются также видео и мультимодальные входы согласно возможностям базовой модели; модель ориентирована прежде всего на рассуждения и ответы на проверяемые задачи. В статье сообщается средний результат 51,7 на двенадцати тестах — на 4,8 пункта выше базовой модели. Модель предназначена для задач reasoning по тексту, изображениям и аудио, включая математические задачи, визуальные вопросы и мультимодальные тесты. Для наиболее точного следования обучению рекомендуется системный запрос, задающий формат рассуждений в тегах <think> и итогового ответа в <answer>. Дообучение затронуло путь обработки рассуждений; компоненты генерации речи унаследованы без оптимизации и оценки. Свободный диалог, длинная генерация и синтез речи не входят в проверенный сценарий, а результаты AIME остаются низкими для этого масштаба. Лицензия указана как other, конкретные условия следует сверять с карточкой модели.

Ornith-1.0-9B-1M-GGUF — это GGUF-сборка модели Ornith-1.0-9B, основанной на dense-архитектуре семейства Qwen3.5. Исходная модель разработана DeepReinforce, а данный вариант опубликован satgeze. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama и совместимые инструменты. Ключевая особенность — контекстное окно до 1 048 576 токенов благодаря встроенному масштабированию RoPE методом YaRN; это в четыре раза больше заявленного исходного окна в 262 144 токена. В сборку также встроен слой MTP для speculative decoding, который, согласно README, может увеличить скорость декодирования в llama.cpp на 15–38%. Доступна vision-модальность через отдельный проектор mmproj, поэтому модель может обрабатывать изображения в поддерживаемых конфигурациях. Предлагаются варианты квантования от IQ2_M до bf16, включая MTP-сборки Q4_K_M и Q8_0; размер файлов варьируется примерно от 3,6 до 17,9 ГБ, а vision-проектор занимает 918 МБ. Это позволяет выбирать между требованиями к памяти и качеством, однако фактическая скорость и возможность работы с контекстом в миллион токенов зависят от оборудования и используемого рантайма. Языки обучения и поддерживаемые языки в README не указаны. Модель распространяется по лицензии MIT.

Ornstein 3.5 9B V2 — разговорная плотная модель примерно на 9,65 млрд параметров от DJLougen и GestaltLabs, основанная на Ornstein-3.5-9B-V1.5. Это дообученная модель семейства Qwen 3.5: после supervised fine-tuning версии V1.5 она прошла оптимизацию предпочтений DPO и обучение с проверяемым вознаграждением GRPO на математических задачах. Модель предназначена для многошаговых рассуждений, научных и технических задач, помощи в исследованиях и общего диалога; поддерживает интерфейс вызова инструментов. Модель принимает текст и изображения, а видеовход заявлен в карточке; сохранены vision tower и поддержка через mmproj. Она работает в формате диалога ChatML. В описании приведены высокие результаты на внутреннем тестовом наборе GBS-200 по рассуждениям и научным вопросам, но отмечено снижение результата в задачах программирования относительно V1.5. Доступны веса BF16 и GGUF; лицензия Apache 2.0.

PIT-1B — базовая предварительно обученная языковая модель семейства Point-In-Time, разработанная Diamegs. Это decoder-only Transformer в стиле GPT, обученный на хронологически упорядоченных месячных снимках FineWeb. Чекпойнт PIT-1B-202412 отражает знания, доступные к декабрю 2024 года, и предназначен для генерации текста и анализа, где важно учитывать временной срез знаний. Модель принимает текст и генерирует текст. Она доступна для Transformers в формате safetensors и распространяется по лицензии Apache-2.0. Контекст ограничен 2048 токенами. Она не проходила RLHF или дополнительную настройку безопасности; ответы могут содержать смещения из обучающих данных, поэтому модель не подходит для критически важных решений без дополнительной адаптации.

PlatYi-34B-Llama-Q-v2 — авторегрессионная языковая модель, разработанная Kyujin Han (kyujinpy) на архитектуре Yi-34B, совместимой с Llama. Она принимает текст и генерирует текст; модель содержит 33,9 млрд параметров, имеет контекст до 4096 токенов и распространяется в формате safetensors для Transformers. Модель дообучена методом Q-LoRA на наборе Open-Platypus. Она предназначена для генерации текста и ответов на вопросы, в том числе для задач рассуждения и знаний общего характера. В README приведены результаты тестов ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; оценки относятся к указанному в карточке бенчмарку и не гарантируют качество в прикладных сценариях. Карточка указывает английский язык. Лицензия CC-BY-NC-SA-4.0 допускает использование с указанием авторства и распространением производных на тех же условиях, но запрещает коммерческое использование.

Platypus-30B — авторегрессионная языковая модель Cole Hunter и Ariel Lee, дообученная в формате инструкций на основе архитектуры LLaMA-30B. Она предназначена для генерации ответов на запросы и выполнения инструкций на английском языке. Модель содержит около 32,3 млрд параметров, использует плотную архитектуру LLaMA и контекст до 2048 токенов. Для дообучения использовался тщательно отобранный набор пар «вопрос — ответ»; авторы приводят результаты оценки на ARC, HellaSwag, MMLU и TruthfulQA. Модель может выдавать токсичные, вредные или предвзятые ответы, а её ответы не следует считать достоверным источником или заменой человеческому суждению. Карточка указывает, что базовые веса LLaMA распространяются по специальной некоммерческой лицензии Meta; метаданные модели обозначают лицензию как other.

POCKET-35B-GGUF — языковая модель семейства POCKET, разработанная FINAL-Bench. Это GGUF-сборка, предназначенная для запуска через стандартный llama.cpp без CUDA, GPU и облачных сервисов. Модель позиционируется для локального использования на ПК, серверах, мини-ПК и мобильных устройствах, включая сценарии on-device и edge-инференса. Модель имеет заявленный размер 35B параметров и архитектуру mixture-of-experts; в карточке она связана с FINAL-Bench/Darwin-36B-Opus, а также обозначена как основанная на Qwen3.5-35B-A3B. Доступны варианты квантования от IQ1_M и Q2_K до Q4_K_M: размер файлов составляет примерно от 8,2 до 21 ГБ, что позволяет выбирать между экономией памяти и качеством. В качестве ориентиров приведены показатели GPQA Diamond от 60,1% для Q2_K до 68,7% для Q4_K_M, а также измерения скорости генерации на CPU и GPU. Модель ориентирована на диалоговые и общие текстогенерационные задачи, включая локального повседневного ассистента. Среди сильных сторон заявлены работа на CPU, совместимость с upstream llama.cpp и высокая скорость генерации в ряде сравнительных тестов. Ограничения включают заметные требования к оперативной памяти, снижение качества при сильном квантовании и отсутствие завершённых измерений производительности на iPhone и Strix Halo. В карточке явно указаны английская и корейская специализации отдельных сборок, но полный набор поддерживаемых языков и максимальный контекст не приведены. Лицензия — Apache 2.0.

recogna-nlp/ptt5-base-summ-xlsum — это дообученная Recogna-NLP модель PTT5 для абстрактного суммирования текстов на бразильском португальском. Она построена на архитектуре T5 и дообучена на XL-Sum; по метаданным содержит 123,8 млн параметров и рассчитана на контекст до 512 токенов. Модель генерирует краткое изложение исходного текста и предназначена, например, для сокращения новостных и других португалоязычных материалов. Модель принимает текст и выдаёт текстовое резюме. Карточка указывает на обучение на XL-Sum; метаданные также называют этот датасет. Лицензия CC BY-NC-SA 4.0 требует атрибуции, запрещает коммерческое использование и обязывает распространять производные работы на тех же условиях.

SeanWang0027/Qwen3-4B-Base-NemotronIF-Reasoning-SFT-10k — плотная языковая модель семейства Qwen3, дообученная автором полным обновлением параметров на 10 000 диалогах для следования инструкциям с включённым рассуждением. В репозитории 3,7 млрд параметров; модель принимает текст и генерирует ответы в формате Qwen3 с блоком рассуждения и итоговым ответом. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых сценариев, где нужно выполнять инструкции, учитывать ограничения запроса и формировать структурированные ответы с рассуждением и самопроверкой. Обучение выполнено на подмножестве датасета NVIDIA Nemotron-Instruction-Following-Chat-v1; использовались также данные SeanWang0027/Nemotron-IF-Chat-v1-reasoning-on-IF-10k. Автор сообщает о корректном формате ответов на 4 из 4 проверенных отложенных запросов, что является ограниченным результатом пилотной проверки, а не широкой оценкой качества. Обучение проводилось только на данных с включённым режимом рассуждения; режим без рассуждения не проверялся. Для генерации автор рекомендует настроить eos_token_id на два завершающих токена и использовать совместимый парсер Qwen3, например в vLLM или sglang. Лицензия модели — Apache-2.0; обучающие данные Nemotron указаны под ODC-BY 1.0.

darkc0de/Qwen3.5-27B-heretic — дообученная версия мультимодальной модели Qwen3.5-27B, созданная с применением abliteration для снижения частоты отказов. В приведённом сравнении модель отказала в 6 из 100 проверочных запросов, тогда как исходная версия — в 95 из 100; также указано значение KL divergence 0,0445 относительно оригинала. Модель предназначена для диалогов, рассуждений и анализа изображений. Она принимает текст и изображения и формирует текстовые ответы; базовая архитектура Qwen3.5 использует языковую модель с визуальным энкодером и гибридные блоки Gated Delta Networks и gated attention. Размер базовой модели — 27 млрд параметров, нативный контекст — 262 144 токена с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта для семейства Qwen3.5; конкретный перечень языков в карточке опущен. Модель распространяется в формате safetensors и совместима с Transformers и рядом серверов инференса, включая vLLM и SGLang. Лицензия — Apache-2.0. Снижение отказов может означать меньшую склонность отказывать на запросы, но приведённое сравнение не описывает методику тестирования и не гарантирует качество или безопасность ответов; длительный контекст требует значительных вычислительных ресурсов.

amd/Qwen3.5-397B-A17B-MXFP4 — мультимодальная генеративная модель семейства Qwen, представленная AMD на основе Qwen/Qwen3.5-397B-A17B-FP8. Она предназначена для задач условной генерации текста с обработкой текста, изображений и видео на входе и генерацией текста на выходе. В README указан английский язык. Модель использует архитектуру Qwen3_5MoeForConditionalGeneration и оптимизирована для инференса на AMD MI300, MI350 и MI355 под Linux с ROCm 7.0.0, PyTorch 2.9.1 и Transformers 5.3.0. Для запуска рекомендуются SGLang или vLLM. Экспериментальная конфигурация оценки использовала максимальную длину контекста 262144 токена и распределение по четырём GPU, однако это не подтверждает полный нативный размер контекста модели. Ключевая особенность версии — статическое квантование весов экспертов языковой части и динамическое квантование активаций в формат OCP MXFP4 с помощью AMD-Quark 0.12; визуальные и некоторые другие слои исключены из квантования. На GSM8K модель получила 94,54 против 95,38 у исходной FP8-версии, сохранив 99,12% относительного результата. Ограничения включают зависимость от совместимого оборудования и программного стека AMD, а также ограниченность опубликованной оценки одним бенчмарком. Лицензия — Apache-2.0; для модификаций указаны авторские права Advanced Micro Devices, Inc. за 2026 год.

FreedomAISVR/Qwen3.5-4B-MTP-NVFP4-GGUF — квантизированная сборка мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Репозиторий содержит веса GGUF в формате NVFP4 и проектор изображений SigLIP ViT в F16; заявлена поддержка Multi-Token Prediction (MTP), предсказывающей два токена за шаг генерации. Сборка рассчитана прежде всего на ускоренный запуск на видеокартах NVIDIA Blackwell и предназначена для использования через llama.cpp и совместимые инструменты. Модель подходит для генерации текста и диалога, а с мультимодальным проектором — для обработки изображений вместе с текстовым запросом. README указывает контекстное окно 262 144 токена, мультиязычность и режим рассуждения, включённый по умолчанию. В архитектуре базовой модели описаны гибридные слои Attention и Mamba-2, MLA и 3D MRoPE. NVFP4 может ускорить инференс на Blackwell; заявленное увеличение пропускной способности MTP до 30–40% приведено автором репозитория и не является независимым бенчмарком. Лицензия — Apache-2.0. Формат NVFP4 ориентирован на GPU Blackwell; для более старых видеокарт и CPU автор рекомендует другие варианты квантования. Это производный квантованный артефакт, а не отдельное дообучение базовой модели.

Это конверсия в формат MLX модели Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic, подготовленная PipeNetwork для Apple silicon. Веса сохранены в bfloat16 без квантизации; исходный набор весов — nightmedia/Qwen3.5-9B-DS9-USS-Defiant. Модель объединяет дообучения Qwen3.5, упомянутые авторами исходной модели, и предназначена для диалогов, рассуждений, творческого письма и работы с изображениями. Архитектура — плотная мультимодальная Qwen3.5 с 9 млрд параметров, 32 слоями и 27-слойной визуальной башней. Модель принимает текст и изображения, выдаёт текст и поддерживает контекст до 262 144 токенов. Карточка указывает английский и китайский языки. Репозиторий рассчитан на запуск через MLX на компьютерах Apple с Apple silicon; веса занимают около 18,8 ГБ. При конверсии отброшены веса MTP, поэтому недоступно ускорение спекулятивного декодирования, которое они обеспечивают в некоторых сборках. Модель распространяется по лицензии Apache-2.0. Название указывает на uncensored-редакцию; качество и ограничения безопасности унаследованы от исходных весов, а отдельная оценка этой конверсии в карточке не приводится.

Qwen3.6-35B-A3B-VQ-3.8bpw — векторно-квантизированная сборка базовой модели Qwen/Qwen3.6-35B-A3B, опубликованная TheDrainFlorist для Apple Silicon. Модель предназначена для генерации текста и мультимодальных сценариев с изображениями; поддерживает запуск через MLX, mlx-lm и mlx-vlm. В README указан английский язык. Архитектура включает MoE с 35 млрд параметров и активной частью около 3 млрд параметров, а также vision tower; точный размер контекста не указан. Модель занимает около 15,7 GiB и использует равномерное vector quantization экспертных слоёв с геометрией d=4, K=8192, 13-битными индексами и fp16 codebook, тогда как неэкспертные тензоры имеют 8-битное представление. По сравнению с bf16-версией она заметно компактнее и демонстрирует меньшее расхождение с эталонным распределением, чем распространённая 4-битная сборка, однако уступает 8-битной по совпадению наиболее вероятных токенов. Скорость именно этого артефакта не измерялась; модель комфортно работает на машинах с 24 ГБ памяти и может запускаться на 16 ГБ при коротком контексте. Для изображений требуется mlx-vlm версии 0.6.16 или новее, а загрузчик должен поддерживать ключ model_file. Лицензия — Apache-2.0.