I.11Классификация, ранжирование и сопоставление

cloudyu/mistral_11B_instruct_v0.1 — разговорная языковая модель на архитектуре Mistral с 48 слоями и 10,6 млрд параметров. Автор карточки сообщает, что модель дообучена методом SFT на vicgalle/alpaca-gpt4; формат примера использует инструкцию, входные данные и ожидаемый ответ. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. Карточка не приводит оценок качества или подробных ограничений применения, поэтому пригодность для конкретных задач следует проверять отдельно.

Citaman/Mistral_31_layer — диалоговая языковая модель на архитектуре Mistral, созданная с помощью mergekit методом SLERP на основе Mistral-7B-Instruct-v0.2. В конфигурации объединены срезы слоёв исходной модели со смещением на один слой; модель содержит 6,9 млрд параметров и использует формат safetensors. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Она принимает текст и формирует текстовые ответы, поддерживает контекст до 32 768 токенов и работает через библиотеку Transformers. Карточка не приводит оценок качества или результатов сравнительных тестов. Указана базовая модель Mistral-7B-Instruct-v0.2. Лицензия в предоставленных данных не указана.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-30-v0.1 — разреженная версия чат-модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 30%. В карточке сказано, что pruning выполнен без дообучения и изменения весов. Модель основана на Mistral-7B-Instruct-v0.2; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Репозиторий содержит веса Safetensors; в метаданных указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям, подаваемым в формате Mistral с маркерами [INST] и [/INST]. Она принимает текст и генерирует текст. Карточка не задаёт основной язык модели. Лицензия — Apache-2.0. По заявлению карточки, разреживание сохраняет конкурентоспособное качество, но конкретные результаты оценки не приведены. У модели нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

Mistral-Nemo-Instruct-2407-IMat-GGUF — это набор квантизированных версий instruct-модели Mistral-Nemo-Instruct-2407, разработанной Mistral AI и преобразованной в формат GGUF пользователем legraphista. Квантизация выполнена с помощью llama.cpp на основе исходных весов BF16; для ряда вариантов применена IMatrix-калибровка, предназначенная для снижения потерь качества при уменьшении размера модели. Модель предназначена для генерации текста и диалогового использования в локальных приложениях, совместимых с llama.cpp и форматом GGUF. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других форматов; размеры файлов варьируются примерно от 4,79 до 24,50 ГБ. Основное преимущество набора — выбор между качеством, требованиями к памяти и скоростью локального запуска. IMatrix применяется в некоторых вариантах с более сильным сжатием, включая Q4_K, Q3_K и Q2_K, однако README не содержит результатов сравнительных тестов, точных характеристик архитектуры, числа параметров, размера контекста или требований к оборудованию. Поэтому качество и производительность зависят от выбранного варианта квантизации и среды выполнения. Лицензия модели — Apache-2.0.

CISCai/Mistral-Nemo-Instruct-2407-SOTA-GGUF — это набор квантизированных моделей в формате GGUF на основе Mistral-Nemo-Instruct-2407, разработанной Mistral AI. Квантизацию выполнил CISC с использованием importance matrix, обученной примерно на 1 млн токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp, сторонние графические интерфейсы и библиотеки, совместимые с актуальными версиями llama.cpp. Модель поддерживает текстовую модальность и английский язык. Встроенный шаблон чата Mistral Tekken включает поддержку function calling через OpenAI-совместимый параметр tools; также были исправлены связанные с tool calls проблемы токенизации и шаблона чата. Репозиторий содержит варианты квантизации IQ1_S, IQ1_M, IQ2, IQ3 и IQ4 с эффективной разрядностью примерно от 1,56 до 4,5 бит на вес и размером файлов примерно от 2,8 ГБ, что позволяет выбирать между экономией памяти и качеством. Главное преимущество набора — возможность локального запуска при ограниченных ресурсах и наличие вариантов с разным компромиссом между размером, требованиями к оперативной памяти и качеством. Низкоразрядные варианты характеризуются существенной или высокой потерей качества, поэтому для более требовательных задач предпочтительны более точные варианты. Файлы совместимы с llama.cpp начиная с версии от 22 июля 2024 года, включая commit 50e0535. Модель распространяется по лицензии Apache-2.0.

Mistral-Small-4-119B-2603-OptiQ-2bit — это MLX-квантизированная версия модели Mistral-Small-4-119B-2603, разработанной Mistral AI и опубликованной сообществом mlx-community. Квантизация выполнена с помощью mlx-optiq — инструментария для локального запуска моделей на Apple Silicon. Модель предназначена для генерации текста и локального инференса, в том числе через OpenAI-совместимый API. Загрузчик mlx-optiq также заявляет поддержку текстовых, визуальных и MTP-сценариев, тогда как штатный mlx-lm поддерживает только текстовый режим. В основе лежит разреженная архитектура MoE со 128 маршрутизируемыми экспертами и MLA-вниманием. Это экстремальная смешанная квантизация: 352 проекционных слоя представлены в 4-битном формате, а 82 — в 2-битном, при целевом среднем размере около 2,5 бита на вес. Размер модели сокращён примерно с 239 ГБ в формате BF16 до 43 ГБ на диске. Благодаря потоковой загрузке выбранных экспертов с SSD модель рассчитана на запуск на Mac с 36 ГБ памяти; резидентный объём составляет около 9–12 ГБ. Языки, заявленные в карточке, включают английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский и ряд других языков. Размер контекстного окна в README не указан. Главное преимущество модели — возможность запускать 119-миллиардную разреженную MoE-модель локально на ограниченном по памяти Apple Silicon-устройстве. Ограничения связаны с экстремальной 2-битной квантизацией: README не приводит стандартных бенчмарков и предупреждает, что для такой сборки вместо набора тестов предоставлена демонстрация связности. Для корректной работы требуется optiq версии 0.4.4 или новее с декодером mistral4; использование штатного mlx-lm или старых версий OptiQ может привести к неправильной загрузке архитектуры и потере экспертов. Модель распространяется по лицензии Apache-2.0.

Это BF16-версия Mistral Small 3.2 24B Instruct в формате GGUF, подготовленная сообществом mlx-community и опубликованная TensorBlock. Репозиторий содержит файлы, совместимые с llama.cpp; модель предназначена для диалоговой генерации текста и работы с инструкциями. В README приведён шаблон промпта и варианты квантованных файлов, причём для некоторых малых квантовок отмечена существенная потеря качества. Модель содержит 24 млрд параметров и поддерживает многоязычный диалог, в том числе на русском, английском, французском, немецком, испанском, китайском и других языках из карточки. Лицензия — Apache-2.0. Указанная сборка — BF16 в GGUF; доступность файлов разных квантовок позволяет выбирать компромисс между размером и качеством. Для работы с GGUF требуется совместимый рантайм; README подтверждает совместимость с llama.cpp начиная с указанного коммита.

MaziyarPanahi/neural-chat-7b-v3-Mistral-7B-Instruct-v0.2-slerp — диалоговая модель для генерации текста и ответов на инструкции, созданная MaziyarPanahi слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Intel/neural-chat-7b-v3. Она основана на архитектуре Mistral с плотной сетью и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов. Модель рассчитана на текстовый диалог и использует формат safetensors. Её можно применять для интерактивных диалогов, ответов на вопросы и выполнения текстовых инструкций. Веса распространяются по лицензии Apache-2.0. Сведения о поддерживаемых естественных языках в предоставленной карточке отсутствуют.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это квантизированная версия языковой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и автоматически преобразованной в формат GGUF проектом ggml-org. В качестве исходной модели указана NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и может использоваться в приложениях, поддерживающих формат GGUF и совместимых с llama.cpp или аналогичными инструментами. Из доступных данных известны размер 30B и обозначение A3B, однако подробности архитектуры, число активных параметров, длина контекста, поддерживаемые языки и дополнительные модальности не указаны. Формат GGUF удобен для локального запуска и интеграции с соответствующим программным обеспечением, но конкретные требования к памяти, производительность и качество генерации зависят от варианта квантизации и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README. Поэтому перед использованием необходимо ознакомиться с лицензией исходной модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 и условиями распространения данной сборки.

Это четырёхбитная версия модели NVIDIA Nemotron Nano 9B v2, подготовленная сообществом mlx-community для запуска в формате MLX. Исходная модель разработана NVIDIA; эта версия преобразована из nvidia/NVIDIA-Nemotron-Nano-9B-v2 с помощью mlx-lm 0.26.3. Метаданные относят её к генеративным языковым моделям для диалога и указывают интерфейс вызова инструментов. Модель предназначена для генерации ответов в чате и выполнения инструкций; базовая модель также рассчитана на программирование и управляемое рассуждение. Карточка связывает её с английским, испанским, французским, немецким, итальянским и японским языками. Лицензия указана как other, поэтому условия следует уточнять на странице репозитория и базовой модели. Четырёхбитное представление и формат MLX предназначены для локального инференса на совместимом оборудовании; количественные показатели качества в карточке не приведены.

NVIDIA Nemotron Parse v1.2 — модель NVIDIA для извлечения текста и структуры документов по изображению. Она предназначена для разбора PDF- и PPT-страниц, включая документы со сложной и изменчивой вёрсткой, и может использоваться в системах поиска и курирования документов, а также для подготовки данных и повышения точности приложений на базе LLM и VLM. Модель построена на архитектуре vision encoder–decoder: визуальный энкодер ViT-H, адаптер на 1D-свёртках и mBart-декодер из 10 блоков. По изображению RGB и текстовой инструкции она формирует текстовую строку со структурированными аннотациями: распознанным текстом, классами элементов и их ограничивающими рамками в естественном порядке чтения. Поддерживаются таблицы с выводом в форматах LaTeX, HTML, Markdown, JSON или CSV, а также настройка извлечения текста, встроенного в изображения. Размер модели — менее 1 млрд параметров; указанный диапазон разрешений входа — от 1024×1280 до 1664×2048 пикселей. Модель выделяет заголовки, разделы, подписи, сноски, списки, таблицы, библиографию и изображения, сохраняя их пространственное положение и порядок чтения. Для остановки повторяющихся фрагментов и структурирования табличного вывода доступны дополнительные обработчики логитов. README заявляет готовность к коммерческому применению; метаданные указывают лицензию other, а токенизатор распространяется по CC-BY-4.0, поэтому условия лицензии весов следует проверять отдельно. Для качества генерации в версии 1.2 требуется промпт с четырьмя категориями токенов; использование старого трёхтокенного промпта заметно ухудшает результат.

Omega AI 50B — разговорная текстовая модель семейства Omega AI, опубликованная K168-V0JL как reference repository. Это дообученная производная NVIDIA Llama-3.3-Nemotron-Super-49B-v1 с плотной архитектурой DeciLMForCausalLM; в метаданных указано 87 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для текстовой генерации и диалоговых сценариев. README сообщает, что репозиторий служит справочным, а брендинг Omega AI не меняет архитектуру или исходные веса базовой модели. Для исходной модели NVIDIA каталог указывает применение в англоязычных диалогах, рассуждениях, программировании, RAG и агентных приложениях; эти сведения описывают базовую модель и не подтверждены отдельно для производной Omega AI. Файлы опубликованы в формате safetensors. Условия лицензии и атрибуции исходной модели продолжают действовать; конкретная лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия OpenCoder-8B-Instruct, разработанного infly. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в формате инструкций, включая сценарии локального запуска через llama.cpp и LM Studio. Модель содержит 8 миллиардов параметров и доступна в вариантах от F16 до различных Q2–Q8-квантизаций, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти. В README указана поддержка английского и китайского языков. Формат взаимодействия использует специальные токены system, user и assistant. Данные о точной архитектуре, размере контекстного окна и поддерживаемых модальностях отсутствуют; по назначению это текстовая, а не мультимодальная модель. Сильной стороной являются многочисленные варианты квантизации, включая рекомендуемые Q4 и Q5, а также более качественные Q6 и Q8, благодаря чему модель можно адаптировать под разные аппаратные ограничения. Более компактные варианты снижают требования к памяти, но могут заметно уступать по качеству; ARM-оптимизированные варианты требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. Модель основана на OpenCoder-8B-Instruct и распространяется с лицензией inf, подробные условия которой приведены в отдельном LICENSE-файле.

Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-2-7B — плотная языковая модель на архитектуре Mistral, созданная слиянием teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-2 методом TIES. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке указаны веса слияния 0,5 для OpenHermes и 0,3 для neural-chat, а также плотность 0,5 для каждой исходной модели. Модель предназначена для диалогов и генерации текста; автор рекомендует использовать шаблон ChatML. Она доступна в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты на нескольких бенчмарках, но не описывает ограничения и языковой охват модели.

Карточка модели OpenYourMind/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored на Hugging Face совпадает с карточкой Laerins/OpenYourMind-NVIDIA-Nemotron-3-Ultra-550B-A55B-abliterated-uncensored, поэтому описание составлено по ней. OpenYourMind создала эту полноразмерную BF16-версию NVIDIA Nemotron-3-Ultra-550B-A55B с ослабленными отказами на типовых категориях запросов. По описанию автора, изменение выполнено офлайн-проекцией направления отказа на веса без дополнительного обучения и без изменения структуры базовой модели. Модель содержит 550 млрд параметров, из которых активно 55 млрд, и использует гибридную архитектуру Mamba-2, Attention и Latent-MoE; сохранены режим рассуждений enable_thinking и голова MTP для спекулятивного декодирования. Модель предназначена для диалоговой генерации текста, сложных рассуждений и технических или защитных запросов, на которые исходная модель могла отказывать. Контекст составляет 262 144 токена. Веса BF16 занимают около 1,1 ТБ и требуют мног GPU-развёртывания; автор указывает vLLM как вариант запуска. README заявляет сохранение связности, точности и многоязычной беглости, однако не приводит независимых оценок этих свойств. Лицензия — OpenMDW-1.1, унаследованная от базовой модели.

Pix2Struct Large — предварительно обученная модель Google для визуального понимания языка. Это архитектура «визуальный энкодер — текстовый декодер», обученная преобразовывать изображения в текст. Для обучения модель разбирала замаскированные снимки веб-страниц в упрощённый HTML; такой подход объединяет сигналы распознавания текста, языкового моделирования и описания изображений. Модель предназначена для дообучения под задачи, где текст связан с визуальным содержимым: например, для создания подписей к изображениям и ответов на вопросы по изображению. В статье описаны сценарии работы с документами, иллюстрациями, пользовательскими интерфейсами и обычными фотографиями; вход может иметь переменное разрешение, а текстовый запрос можно наложить на изображение. В метаданных указана поддержка английского, французского, румынского и немецкого языков. Модель опубликована в форматах PyTorch и Safetensors. Это базовый предобученный чекпойнт, который README рекомендует использовать для дообучения, поэтому готовое качество на конкретной прикладной задаче зависит от дополнительной настройки. Лицензия — Apache-2.0.

INTELLECT-3-GGUF — набор квантизированных версий языковой модели INTELLECT-3, разработанной Prime Intellect. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, задач рассуждения, агентских сценариев и применений, связанных с reinforcement learning и verifiers; запуск возможен через LM Studio, llama.cpp и другие проекты на базе llama.cpp. В репозитории представлены файлы в формате GGUF с уровнями квантизации от Q8_0 до вариантов Q2 и IQ. Размеры файлов составляют примерно от 44,71 до 113,61 ГБ. Более высокие уровни, включая Q6_K, Q5_K_M и Q5_K_S, обеспечивают близкое к исходному качество, тогда как низкие уровни экономят память за счёт качества. README также отмечает архитектурную принадлежность к mixture-of-experts и поддержку английского языка, однако точные размеры модели, параметры контекста и полный набор модальностей не указаны. Модель ориентирована на локальный запуск и предлагает выбор между качеством, требованиями к памяти и скоростью инференса. Ограничениями являются значительный объём файлов даже для компактных вариантов и потенциальное снижение качества при использовании низких уровней квантизации. Распространение выполняется по лицензии MIT; базовая модель указана как PrimeIntellect/INTELLECT-3.

Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 — диалоговая decoder-only языковая модель на базе Transformer с архитектурой Mixture of Experts (MoE), разработанная командой Qwen. Модель предназначена для генерации текста и взаимодействия в формате чата, включая ответы на вопросы, краткие объяснения и другие сценарии использования языкового ассистента. В README указана поддержка английского языка и конвейер text-generation. Модель содержит 14,3 млрд параметров, из которых во время работы активируются 2,7 млрд; она создана на основе Qwen-1.8B и дообучена с применением supervised fine-tuning и direct preference optimization. Версия GPTQ-Int4 использует 4-битное квантование. По заявлению разработчиков, при сопоставимой с Qwen1.5-7B производительности она требует около 25% ресурсов для обучения и обеспечивает примерно в 1,74 раза большую скорость вывода. Размер контекста в README не указан. Среди ограничений отмечена возможность переключения языков и другие нежелательные случаи генерации, для снижения которых рекомендуется использовать параметры из generation_config.json. Модель распространяется по лицензии tongyi-qianwen; точные условия следует уточнять по указанной в README лицензии.

mlx-community/Qwen2.5-32B-Instruct-8bit — конверсия в формат MLX модели Qwen/Qwen2.5-32B-Instruct, выполненная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2.5 с 32 млрд параметров, предназначенная для диалоговой генерации текста и работы с интерфейсом вызова инструментов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Карточка указывает английский язык, а базовая модель Qwen2.5 поддерживает более широкий контекст, но для этой версии следует ориентироваться на значение из её метаданных. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2.5-7B-Instruct-4bit — преобразованная в формат MLX 4-битная версия Qwen2.5-7B-Instruct, подготовленная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и запуска на устройствах Apple Silicon через MLX. Модель принимает текстовые запросы и выдаёт текст; метаданные указывают контекстное окно 32 768 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых помощников, ответов на вопросы, написания и преобразования текстов. Карточка подтверждает английский язык; других языков по предоставленным сведениям определить нельзя. Репозиторий указывает лицензию Apache-2.0. Ограничения качества и оценки модели в карточке не описаны.

Theros/Qwen2.5-ColdBrew-R1-test2 — объединённая автором модель на основе языковых моделей Qwen2.5. Она создана методом Model Stock с помощью mergekit; в объединение вошли Theros/Qwen2.5-ColdBrew-R1-test, Theros/Qwen2.5-CyberMix-7B и bunnycore/Qwen-2.5-7B-Deep-Stock-v4. Модель предназначена для диалогов и генерации текста, а также поддерживает интерфейс общения с инструментами. Архитектура — плотная Qwen2ForCausalLM, размер — 7,1 млрд параметров, максимальный контекст — 131 072 токена. Репозиторий содержит веса в формате safetensors и рассчитан на Transformers. Лицензия в предоставленных данных не указана.

lmstudio-community/Qwen3-32B-MLX-8bit — языковая модель для генерации текста, представленная сообществом lmstudio-community и созданная на основе Qwen/Qwen3-32B. Модель преобразована в формат MLX с использованием mlx-lm версии 0.24.0 и предназначена для запуска и генерации текста в экосистеме MLX, в том числе через библиотеку mlx-lm с поддержкой чат-шаблона, если он задан в токенизаторе. Ключевые характеристики модели — размер базовой модели 32B параметров, 8-битное представление и специализация на текстовой генерации. Формат MLX ориентирован на использование в совместимой среде, однако README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности, производительности и ограничениях. Модель распространяется по лицензии Apache-2.0.

Qwen3-4B-Instruct-2507-GGUF — это набор файлов модели в формате GGUF для Qwen3-4B-Instruct-2507, разработанной командой Qwen. Квантизацию и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Модель содержит вариант с примерно 4 миллиардами параметров и распространяется в формате GGUF с уровнями квантизации 2-, 3-, 4-, 5-, 6- и 8-bit. Этот формат ориентирован на локальный запуск через llama.cpp и совместимые инструменты, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения. GGUF может упростить запуск модели на локальных системах с использованием CPU и GPU, однако конкретные требования к памяти, производительность, контекстное окно, поддерживаемые языки и модальности в README не указаны. Сильные стороны модели — компактный размер, наличие нескольких уровней квантизации и широкая совместимость с локальными средствами инференса. Квантизация может снизить требования к ресурсам, но способна повлиять на качество по сравнению с исходной моделью; степень этого влияния зависит от выбранного варианта. Лицензия и условия использования в предоставленных данных не указаны.

enacimie/Qwen3-4B-Q4_K_M-GGUF — это квантизированная версия модели Qwen3-4B, преобразованная в формат GGUF с использованием llama.cpp через сервис GGUF-my-repo. Исходная модель разработана командой Qwen, а данный репозиторий предназначен для запуска в экосистеме llama.cpp. Модель относится к классу text-generation и работает с текстовыми входными и выходными данными. Ключевая характеристика этой версии — квантизация Q4_K_M, уменьшающая требования к памяти по сравнению с полноразмерной моделью. Размер базовой модели составляет 4B параметров. Модель можно использовать локально через llama-cli или llama-server, в том числе для генерации текста и развёртывания локального сервера inference. В README приведён пример контекста длиной 2048 токенов, однако максимальный размер контекста, поддерживаемые языки и подробности архитектуры не указаны. Лицензия — Apache-2.0.

TeichAI дообучила плотную языковую модель Qwen3-4B-Thinking-2507 на наборе TeichAI/gpt-5.1-codex-max-1000x. Модель содержит 3,7 млрд параметров и предназначена для генерации текста в диалогах и решения задач с рассуждением; каталог также отмечает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык, а её контекст составляет до 262 144 токенов. В карточке указаны обучение с помощью Unsloth и библиотеки Hugging Face TRL, а также лицензия Apache-2.0. Подробных оценок качества и ограничений в карточке нет.

onnx-community/Qwen3.5-0.8B-ONNX — это ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования, исследовательских задач и специализированного дообучения. Веса и конфигурация совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель представляет собой авторегрессионную языковую модель с vision encoder и содержит около 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть включает 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Благодаря небольшому размеру модель ориентирована на относительно эффективный запуск и разработку, но по возможностям и качеству уступает более крупным моделям, а заявленные мультимодальные и языковые характеристики требуют проверки на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не содержит полного описания ограничений, требований к аппаратному обеспечению и подробных результатов именно для всех поддерживаемых сценариев.

Qwen3.5-88B — текстовая версия модели Qwen3.5, подготовленная 0xSero из Qwen/Qwen3.5-122B-A10B методом REAP (Routing-Enhanced Activation Pruning). Из MoE-модели удалено около 30% экспертов; итоговая модель содержит 88 млрд параметров и распространяется в формате BF16. В основе указана архитектура Qwen3.5 MoE с GDN и полным attention. Модель предназначена для генерации текста и диалогов. Это контрольная точка только для языковой модели, полученная из мультимодальной базы: изображения она не обрабатывает. REAP отбирает экспертов по активациям маршрутизатора на калибровочном наборе данных; в README также указана защита критически важных для безопасности возможностей. Для запуска приведён пример с vLLM и максимальной длиной контекста 8192 токена. Лицензия в метаданных обозначена как other, конкретные условия следует проверять на странице репозитория.

Qwen3.5-Thinking-AIO-GGUF — экспериментальная серия мультимодальных моделей, созданная prithivMLmods на основе моделей Alibaba Qwen3.5. В репозитории представлены варианты Unredacted MAX с размером 0,8B, 2B, 4B и 9B параметров в формате GGUF; README также упоминает вариант 27B, но подробности его файлов в каталоге не приведены. Модели предназначены для генерации текста, рассуждений, программирования, математических задач и работы с изображениями, а также для локального запуска через llama.cpp и совместимые инструменты. Заявлены гибридная архитектура Gated DeltaNet, контекст до 262 144 токенов, словарь на 201 язык и переключаемые режимы рассуждений. Для мультимодальной работы доступны отдельные файлы mmproj, а для разных требований к памяти предусмотрены варианты F32, BF16, F16 и Q8_0. Малые версии ориентированы на периферийные устройства и системы с ограниченными ресурсами, более крупные — на повышение качества ответов и сложные задачи. Ключевая особенность серии — так называемая abliteration: автор заявляет минимизацию отказов и удаление стандартных защитных ограничений при сохранении или улучшении возможностей рассуждения. Это может быть полезно для исследовательских задач, создания датасетов и сценариев, где требуется более свободное следование инструкциям, но одновременно повышает риски небезопасных или нежелательных ответов. Модели экспериментальные, официальные оценки производительности не представлены, а заявления о превосходстве над исходными моделями основаны на неподтверждённых community-бенчмарках. Распространение указано по лицензии Apache-2.0.

lmstudio-community/Qwen3.6-27B-MLX-4bit — 4-битная квантованная версия модели Qwen3.6-27B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для задач генерации текста и обработки связок изображение—текст, включая сценарии локального запуска через совместимые инструменты. В карточке указана принадлежность к классу image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекстного окна и полном наборе мультимодальных возможностей не приведены. Ключевая особенность модели — 4-битное представление, снижающее требования к памяти по сравнению с полноформатной версией и подходящее для локального использования на Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, а также отсутствие в предоставленных данных конкретных результатов тестирования и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

Mercor дообучила Qwen3.6-35B-A3B методом постобучения с подкреплением на готовых наборах данных APEX-Agents. Это мультимодальная модель семейства Qwen3.5 MoE для диалогов и анализа изображений; заявленная карточка Hugging Face задача — image-text-to-text. Модель доступна в формате Safetensors и рассчитана на применение через Transformers. Постобучение ориентировано на агентные сценарии и задачи, связанные с профессиональной работой со знаниями. Базовая модель описана как модель с 35 млрд параметров для диалогов, агентного программирования и анализа изображений; данных о длине контекста и поддерживаемых языках в предоставленных источниках нет. Модель распространяется по лицензии Apache-2.0.