II.8Инженерия данных и аналитика

Mistral-Small-3.2-24B-Instruct-2506 — мультимодальная instruct-модель, разработанная Mistral AI; данная карточка содержит её 4-битную quantized-версию от Unsloth. Модель предназначена для диалоговых ассистентов, точного выполнения инструкций, генерации текста и кода, function calling, а также анализа изображений, документов, таблиц и диаграмм. Заявлена поддержка языков: английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Модель содержит 24 млрд параметров и работает в текстово-визуальном сценарии image-text-to-text. Это минорное обновление Mistral-Small-3.1-24B-Instruct-2503 с улучшенным следованием точным инструкциям, меньшей склонностью к бесконечным или повторяющимся генерациям и более надёжным шаблоном function calling. Среди ограничений — высокая требовательность к ресурсам: для запуска базовой модели в форматах bf16 или fp16 требуется около 55 ГБ видеопамяти; размер контекста в README не указан. Для инференса рекомендуются vLLM и относительно низкая температура, например 0,15. Модель распространяется по лицензии Apache-2.0. В карточке также указано, что для неё рекомендуется серверный режим работы через vLLM; репозиторий содержит 4-битную версию, однако точные требования к памяти именно для этого quantized-варианта не приведены.

OceanLabs/Ocean-1-4B-DSpark — дообученная компактная языковая модель общего назначения, основанная на D-Spark-4B и разработанная OceanLabs. Она предназначена для диалогов, написания и перевода текстов, рассуждений, повседневного программирования, вызова инструментов и агентных сценариев. Модель содержит 3,5 млрд параметров по метаданным и использует плотную архитектуру DSparkForCausalLM с чередованием слоёв скользящего и разреженного полного внимания. Контекстное окно достигает 1 048 576 токенов; заявлена поддержка более 200 языков. Модель оптимизирована для эффективного инференса на маломощных устройствах: архитектура снижает расход памяти KV-кэша и вычисления при работе с длинным контекстом. Указана совместимость с NVIDIA, Apple Silicon и CPU, а также с распространёнными средствами запуска и агентными фреймворками. В README приведены параметры базовой модели D-Spark-4B, отличающиеся от размера в метаданных; здесь указан размер из метаданных каталога. Репозиторий распространяется под лицензией Apache-2.0.

NVIDIA подготовила FP8-квантизированную версию языковой модели Qwen3-235B-A22B, разработанной Alibaba. Это авторегрессионная разреженная трансформерная модель архитектуры Qwen3 MoE для генерации текста; в репозитории указано 18,2 млрд параметров, а базовая модель описана как крупная MoE-модель для диалогов, рассуждений, программирования, перевода и работы с инструментами. Модель принимает текст и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. В метаданных указан контекст 40 960 токенов; README заявляет до 131 тыс. токенов. Модель предназначена для развёртывания в агентных системах, чат-ботах, RAG-системах и других приложениях на базе ИИ. Квантизация весов и активаций линейных операторов в блоках трансформера до FP8 снижает требования к диску и памяти GPU примерно в 1,6 раза относительно 16-битного представления. Для запуска README указывает TensorRT-LLM, Linux и графические процессоры NVIDIA Blackwell. README разрешает коммерческое и некоммерческое использование; лицензия в метаданных — Apache-2.0.

palmfuture/Qwen3.6-27B-GPTQ-Int4 — это GPTQ-квантизованная до Int4 версия открытой модели Qwen3.6-27B, разработанной командой Qwen и подготовленной пользователем palmfuture. Модель представляет собой каузальную языковую модель с визуальным энкодером и предназначена для генерации текста и кода, выполнения инструкций, математического рассуждения, анализа изображений, агентского программирования и работы с большими контекстами. Заявлена поддержка английского, тайского, китайского и других многоязычных сценариев. Исходная модель содержит около 27 млрд параметров, 64 слоя и гибридную архитектуру Gated DeltaNet/Mamba и gated attention, дополненную MTP для многотокенного предсказания и ускорения спекулятивного декодирования. Нативная длина контекста составляет 262 144 токена, с расширением до 1 010 000 токенов. В данной версии основные линейные слои квантизованы в Int4 с uniform group_size=32, тогда как нормализации, эмбеддинги, языковая голова, визуальный энкодер и MTP-слои сохранены в формате bfloat16. Указана совместимость с Transformers, vLLM и SGLang; MTP-параметры проверены на vLLM 0.21.0. К преимуществам относятся существенное снижение требований к памяти по сравнению с полноразмерной версией, заявленная 100%-ная успешность GPTQ-квантизации без RTN fallback и сохранение поддержки мультимодального ввода. Ограничения включают возможное ухудшение качества из-за 4-битной квантизации, а также необходимость совместимого программного окружения и нескольких GPU для практического запуска; точные требования к инференсу в README не указаны. Лицензия — Apache-2.0.

coder3101/Qwen3.8-27B-heretic-ara — дообученная версия Qwen/Qwen3.8-27B от coder3101 с ослабленным отказом отвечать на запросы: в приведённом сравнении отказы снизились с 92 до 9 из 100, а KL-дивергенция составила 0,0349. Это плотная мультимодальная модель на 27 млрд параметров с языковой моделью и энкодером зрения; она принимает текст, изображения и видео и предназначена для диалога, анализа визуальных материалов, программирования, исследований и многошаговых агентных задач. Архитектура основана на Qwen3.5 и сочетает Gated DeltaNet, Gated Attention и FFN-блоки. Контекст составляет 262 144 токена с возможностью расширения до 1 000 000. Режим рассуждений включён по умолчанию и может управляться настройками запроса. README описывает возможности исходной Qwen3.8-27B, поэтому заявленные там характеристики не являются независимой оценкой этой производной модели; количественное сравнение в карточке ограничено KL-дивергенцией и частотой отказов. Языки явно не перечислены. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Spark-X2.5-4B-Base — предварительно обученная плотная языковая модель семейства Spark2.5 от разработчиков Spark-X2.5. Она содержит 3,8 млрд параметров и предназначена для генерации текста, диалогов, написания и перевода текстов, рассуждений, программирования и использования инструментов в агентных сценариях. Гибридная архитектура чередует один слой полного внимания с тремя слоями внимания в скользящем окне, что помогает снизить вычислительные затраты и расход KV-кэша при длинном контексте. Модель поддерживает контекст до 1 048 576 токенов. README заявляет поддержку более 200 языков, включая английский и китайский; метаданные также отмечают интерфейс для вызова инструментов. Веса доступны в формате Safetensors для Transformers. Модель рассчитана на применение в чат-ботах, программировании и агентных системах; совместима с несколькими аппаратными платформами и системами инференса. Лицензия — Apache-2.0. Заявленные в карточке сравнительные преимущества не сопровождаются здесь подробностями оценок; фактическое качество может зависеть от задачи и конфигурации.

Yi-1.5-34B-Chat-GGUF — квантизированная в формате GGUF версия диалоговой языковой модели Yi-1.5-34B-Chat, разработанной компанией 01-ai. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для локального текстового общения и широкого круга задач: генерации текста, следования инструкциям, программирования, математики, рассуждений, понимания языка, здравого смысла и чтения с пониманием. Модель содержит около 34 млрд параметров и относится к семейству текстовых моделей с архитектурной основой Llama. Она поддерживает диалоговый шаблон ChatML и рассчитана на общий сценарий использования. Yi-1.5 была дополнительно обучена на корпусе объёмом 500 млрд токенов и дообучена на 3 млн разнообразных примеров; точная длина контекста, языки и другие технические характеристики в README не указаны. Сильные стороны модели — универсальность, развитое следование инструкциям, способности к программированию, математике, рассуждениям и пониманию текста. Ограничения включают отсутствие опубликованных подробных технических характеристик, а также типичные для генеративных моделей риски неточностей, неподходящего или вредного содержания. Модель распространяется по лицензии Apache-2.0.

Apriel-1.6-15B-Thinker — мультимодальная модель рассуждений из серии Apriel, разработанная ServiceNow. Это плотная модель семейства LLaVA с 15 млрд параметров, предназначенная для диалоговых инструкций, работы с текстом и изображениями, логических рассуждений и многошаговых задач. Карточка указывает на дообучение предыдущей версии Apriel-1.5-15B-Thinker с помощью SFT и обучения с подкреплением; модель также прошла продолжительное предобучение на текстовых и визуальных данных. Модель подходит для генерации и анализа кода, ответов на вопросы, извлечения информации, следования сложным инструкциям, вызова функций и сценариев с агентами. Она формирует ход рассуждений и затем итоговый ответ; разработчик сообщает о снижении числа токенов рассуждения более чем на 30% по сравнению с Apriel-1.5-15B-Thinker. Наиболее сильные результаты заявлены для английского языка. Модель распространяется в формате Safetensors и доступна по лицензии MIT. Модель может выдавать неверную, вводящую в заблуждение или устаревшую информацию и отражать предвзятость обучающих данных. Она не предназначена для критически важных применений без человеческого контроля; качество на языках, представленных в обучении слабее, может снижаться.

Baichuan2-13B-Chat — 百川智能推出的对话式大语言模型，属于 Baichuan 家族的稠密 причинно-языковой архитектуры BaichuanForCausalLM; содержит 13,3 млрд параметров. По карточке, версия v2 улучшает математические и логические рассуждения, а также следование сложным инструкциям. Модель предназначена для диалогов, генерации текста и решения задач на китайском и английском языках; её оценивали на общих, юридических, медицинских, математических, программных и переводческих наборах данных. Для запуска используется формат PyTorch, а README указывает требование PyTorch 2.0 из-за применения scaled_dot_product_attention. Модель обучена на корпусе из 2,6 трлн токенов. Лицензия в метаданных обозначена как other; README описывает Apache 2.0 вместе с отдельным соглашением сообщества. Для коммерческого использования требуется получить официальное разрешение Baichuan и соблюдать условия соглашения, включая ограничения по DAU и типу организации.

socrate-tech/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, разработанной Google DeepMind и опубликованной в экосистеме Unsloth. Модель построена на базе google/gemma-3-12b-it и предназначена для локального и облачного развертывания, включая использование на ноутбуках, настольных компьютерах и собственной инфраструктуре. Модель принимает текст и изображения, а генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа изображений и других задач генерации текста. Для варианта 12B заявлено контекстное окно до 128K токенов и максимальный объём генерируемого ответа до 8192 токенов; изображения нормализуются до разрешения 896 × 896 и кодируются в 256 токенов. Поддерживается более 140 языков, включая английский, указанный для этой публикации. К сильным сторонам относятся мультимодальность, большое контекстное окно, сравнительно компактный размер по меркам современных моделей и возможность запуска в средах с ограниченными ресурсами. Ограничения включают зависимость качества от доступных вычислительных ресурсов и особенностей GGUF-инференса; конкретный уровень квантования в предоставленных данных не указан. Модель распространяется по лицензии Gemma; применяются условия использования Google.

openai/gpt-oss-20b — открытая по весам языковая модель, разработанная OpenAI для задач рассуждения, агентных сценариев и универсального использования разработчиками. Она предназначена для локального запуска, специализированных решений и приложений, где важны сниженная задержка и умеренные требования к ресурсам, включая генерацию текста, вызов функций, веб-б browsing, выполнение Python-кода и Structured Outputs. Модель построена на архитектуре Mixture of Experts (MoE) и содержит 21 млрд параметров, из которых 3,6 млрд активны при обработке запроса. Она поддерживает настраиваемый уровень рассуждений — низкий, средний или высокий — и обучена работать с форматом ответов harmony, использование которого обязательно для корректной работы. Модель доступна для запуска через Transformers, vLLM, PyTorch/Triton, Ollama и LM Studio; благодаря квантованию весов MoE в формате MXFP4 она может работать примерно в пределах 16 ГБ памяти. К сильным сторонам относятся открытая настройка, возможность дообучения, агентные инструменты и гибкое управление балансом качества рассуждений и задержки. При этом модель является текстовой, а README не содержит сведений о поддерживаемых языках, размере контекстного окна, результатах оценивания и ограничениях качества. Полная цепочка рассуждений доступна разработчику для отладки и повышения доверия, но не предназначена для показа конечным пользователям. Лицензия Apache 2.0 допускает свободное использование, модификацию и коммерческое развертывание.

Granite-3.1-8B-Instruct — инструктивная языковая модель команды Granite компании IBM, опубликованная Red Hat AI. Это плотная модель на 8,2 млрд параметров, полученная дообучением Granite-3.1-8B-Base на открытых наборах инструкций и внутренних синтетических данных; в обучении использовались supervised fine-tuning, обучение с подкреплением для выравнивания и слияние моделей. Она предназначена для диалогов, следования инструкциям, генерации текста и работы с длинным контекстом; поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Доступна в формате safetensors и распространяется по лицензии Apache 2.0. README сообщает о проверке на платформах Red Hat AI и рекомендует развёртывание через vLLM; конкретный пример конфигурации ограничивает длину контекста 32 768 токенами.

Granite-4.0-1B — компактная инструктивная языковая модель IBM Granite Team, дообученная на базе Granite-4.0-1B-Base. Это модель класса causal language model с архитектурой GraniteMoeHybrid; в карточке указано 1,6 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалогов и выполнения инструкций, включая суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом и вызов функций. Компактный размер подходит для локального запуска на устройствах и дообучения под специализированные задачи. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; обучающие данные преимущественно англоязычные. По README, модель разработана с использованием контролируемого дообучения, обучения с подкреплением и слияния моделей. Доступна по лицензии Apache 2.0. Возможности вызова инструментов описаны в карточке, но качество многоязычных ответов может уступать английскому; модель также может выдавать неточные, предвзятые или небезопасные ответы.

salamanderDixon/granite-4.1-3b-heretic — производная версия Granite-4.1-3B, созданная методом abliteration: в карточке приведены параметры удаления отказов и сравнение с исходной моделью IBM. Это плотный decoder-only трансформер семейства Granite с 3,4 млрд параметров, предназначенный для диалогов и генерации текста. Метаданные указывают контекст до 131 072 токенов и формат safetensors. Модель подходит для ответов на вопросы, суммаризации, извлечения и классификации текста, RAG, задач с кодом и диалоговых сценариев. Базовая Granite-4.1-3B поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки, а также работу с инструментами. В приведённом сравнении у этой версии 3 отказа из 100 против 88 у исходной модели; снижение отказов может сопровождаться ослаблением защитного поведения. Лицензия — Apache 2.0.

bullerwins/Meta-Llama-3.1-8B-Instruct-GGUF — GGUF-квантизированная версия инструкционной модели Meta-Llama-3.1-8B-Instruct, разработанной Meta. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer; инструкционная настройка выполнена с использованием supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей. Модель предназначена для диалоговых ассистентов, генерации текста и кода, а также коммерческого и исследовательского применения, включая создание синтетических данных и дистилляцию. Она работает только с текстом на входе и выходе, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер модели — 8B параметров, контекст — до 128K токенов, используется Grouped-Query Attention. Ключевые преимущества — мультиязычность, поддержка длинного контекста и локального запуска через совместимые инструменты llama.cpp. Эта версия требует llama.cpp 5e2727f или более новой из-за исправлений токенизатора и RoPE. Модель является статичной и обучена на офлайн-данных с отсечкой знаний в декабре 2023 года, поэтому не обладает актуальными знаниями без внешних источников. Качество и потребление ресурсов зависят от выбранного уровня GGUF-квантизации, который в README не указан. Распространяется по коммерческой лицензии Llama 3.1 Community License; использование также ограничено применимыми законами, Acceptable Use Policy и условиями лицензии.

Mistral-Small-3.1-24B-Instruct-2503-GGUF — текстовая инструкционная модель, разработанная Mistral AI и распространяемая в формате GGUF. Квантование подготовлено bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалоговых приложений, агентских сценариев и задач, требующих продвинутого рассуждения. Модель поддерживает контекст длиной до 128 тысяч токенов и множество языков, включая английский, французский, немецкий, греческий, хинди, индонезийский, итальянский, японский, корейский, малайский, непальский, польский, португальский, румынский, русский, сербский, испанский, шведский, турецкий, украинский, вьетнамский, арабский, бенгальский, китайский и фарси. Указанная версия является текстовой и не поддерживает другие модальности. Размер базовой модели — 24B параметров. К сильным сторонам относятся широкий языковой охват, длинный контекст и ориентация на агентские и сложные задачи рассуждения. Ограничения включают текстовую специализацию, возможные ошибки, неточности и нежелательные ответы, типичные для генеративных моделей, а также зависимость производительности и качества от выбранного варианта квантования и аппаратного обеспечения. Модель распространяется по лицензии Apache-2.0.

mnma_qwen3.8_27b_nvfp4 — квантизированная версия языковой модели Qwen3.8-27B, разработанная Minima на основе посттренировочной квантизации. Модель предназначена для генерации текста, диалоговых сценариев, решения математических и экзаменационных задач, программирования и работы с длинным контекстом. Это текстовая модель без vision-компонента, сохраняющая поддерживающий рассуждения chat template. Все 496 линейных слоёв backbone, включая 48 слоёв Gated DeltaNet, 16 attention-слоёв и 64 MLP-слоя, переведены в формат NVFP4 W4A4 с размером группы 16. Embeddings, lm_head, conv1d, нормализации, A_log и dt_bias сохранены в BF16, а KV-cache использует откалиброванные статические FP8-масштабы. Заявлены существенное снижение потребления памяти и ускорение: 17,53 GiB против 50,13 GiB для BF16, 1154 против 621 токена в секунду при указанной нагрузке и время prefill 32K около 4,03 секунды против 6,90 секунды. Модель требует vLLM не ниже 0.27 и GPU с аппаратной поддержкой NVFP4, например NVIDIA Blackwell SM120. По приведённым измерениям качество в большинстве задач близко к BF16: результаты GSM8K и AIME'25 совпадают, а различия на MMLU-Pro, GPQA-Diamond и LiveCodeBench невелики. Ограничениями являются зависимость от совместимого оборудования и vLLM, а также некоторое ухудшение perplexity, особенно на контексте 4K; сравнение корректно только при одинаковых настройках обслуживания. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-1.5B-Instruct-AWQ — квантизированная 4-битная AWQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, следования инструкциям, написания кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель относится к каузальным языковым моделям и использует архитектуру на базе transformers с RoPE, SwiGLU, RMSNorm, смещениями в attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, 28 слоёв и механизм GQA с 12 головами для Q и 2 для KV. Поддерживаются контекст до 32 768 токенов и генерация до 8192 токенов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битной квантизации, улучшенные возможности следования инструкциям, работы с длинными текстами, кодом, математикой и JSON. Ограничения включают возможную потерю качества относительно исходной версии в формате bfloat16 из-за квантизации; конкретные результаты тестов в README не приведены. Модель распространяется по лицензии Apache-2.0.

BCCard/Qwen3-30B-A3B-FP8-Dynamic — текстовая языковая модель, разработанная BC Card на основе Qwen/Qwen3-30B-A3B. Она предназначена для генерации текста, рассуждений, function calling, многоязычного следования инструкциям, перевода и создания предметно-ориентированных решений посредством дообучения. Модель принимает текст на вход и генерирует текст на выходе; поддержка других модальностей не указана. Архитектура модели — Qwen3MoeForCausalLM. Веса и активации линейных операторов в блоках Transformer квантизированы в FP8: для весов используется симметричная статическая поканальная схема, для активаций — симметричная динамическая потокеновая схема. Квантизация примерно вдвое снижает требования к GPU-памяти и размер модели на диске, а также может примерно вдвое увеличить пропускную способность матричных умножений. По данным оценки OpenLLM v1, средний результат составляет 67,56 против 67,62 у исходной модели, что указывает на почти полное сохранение качества. Для эффективного развёртывания рекомендуется использовать vLLM, включая OpenAI-совместимый режим сервинга. Точный размер контекста и перечень поддерживаемых языков в README не указаны. Модель выпущена 5 мая 2025 года, версия 1.0. Лицензия — Apache-2.0; использование не должно нарушать применимое законодательство и торговые ограничения.

brian-learns/Qwen3.6-27B-NVFP4-GGUF — квантизированная модель семейства Qwen, основанная на Qwen3.6-27B от Alibaba и подготовленная с помощью NVIDIA Model Optimizer. Это авторегрессионный трансформер с гибридным механизмом внимания Gated DeltaNet и Gated Attention, содержащий 27 млрд параметров; веса и активации линейных слоёв сведены к формату NVFP4, что сокращает требования к дисковому пространству и памяти GPU примерно в 2,5 раза относительно 16-битного варианта. Модель предназначена для диалоговых приложений, AI-агентов, чат-ботов, RAG-систем и других приложений с генерацией текста. Она принимает текст, изображения и видео, выдаёт текст и поддерживает контекст до 262 тысяч токенов. В карточке заявлена интеграция с vLLM и оптимизация для GPU NVIDIA Hopper и Blackwell; метаданные репозитория указывают формат GGUF и интерфейс вызова инструментов. Модель может отвечать неточно, пропускать важные сведения или выдавать нерелевантный и повторяющийся текст; унаследованные от обучающих данных предубеждения могут приводить к токсичным ответам. Разработчик указывает лицензию Apache-2.0 и допускает коммерческое и некоммерческое применение.

mattbucci/Qwen3.8-27B-AWQ — квантованная версия модели Qwen3.8-27B, разработанной Qwen и опубликованной mattbucci. Модель предназначена для задач генерации текста, рассуждений, вызова инструментов, анализа изображений и понимания видео, прежде всего в сценариях серверного инференса через SGLang. Она рассчитана на однопользовательскую работу с длинным контекстом до 262 144 токенов при конфигурации с двумя видеокартами RTX 3090. Модель использует 4-битное квантование AWQ/GPTQ в формате W4A16 с размером группы 128 и симметричными весами INT4. Веса занимают около 18,7 ГБ; архитектура включает 64 слоя, из которых 48 используют Gated DeltaNet, а 16 — полное внимание. Башня обработки изображений, lm_head и отдельные параметры Gated DeltaNet сохранены в BF16. Проверены текстовые, математические, программные, визуальные и видео-сценарии; в указанных тестах модель показала высокие результаты на MMLU и HumanEval, а также успешно работала с контекстом свыше 250 тысяч токенов. Сильные стороны модели — поддержка нескольких модальностей, длинного контекста, рассуждений и инструментов при существенно меньшем объёме памяти по сравнению с полноразмерной моделью. Ограничения включают отсутствие MTP и недоступность MTP-ускоренного speculative decoding, снижение доступного контекста при параллельной обработке нескольких запросов, а также относительно низкий результат LAB-Bench, поэтому модель следует отдельно проверять для научных задач и специализированного протокольного QA. Квантование и валидация выполнялись на архитектуре Ampere с AWQ_Marlin; другие GPU не тестировались разработчиком. Лицензия — Apache-2.0, унаследованная от базовой модели.

Карточка модели kongyi/Qwen3.8-Flash-Next-1 на Hugging Face совпадает с карточкой Qwen/Qwen3.8-Flash-Next, поэтому описание составлено по ней. Qwen3.8-Flash-Next — открытая по весам мультимодальная модель семейства Qwen, представленная как первый релиз архитектуры Qwen4-экспериментального семейства. Это причинная языковая модель с визуальным энкодером, предназначенная для диалога, работы с изображениями и агентных сценариев, включая задачи программирования и длительные рабочие процессы. В карточке описаны возможности вызова инструментов и режим рассуждения, включённый по умолчанию. Модель имеет разреженную MoE-архитектуру: 125 млрд параметров, из которых активируются 6 млрд, дополнительно 51 млрд параметров приходится на n-граммные эмбеддинги и 4 млрд — на MTP. Архитектура сочетает Gated DeltaNet и Qwen Sparse Attention, а также использует Gated Residual. Контекстное окно составляет 262 144 токена и может расширяться до 1 000 000 токенов. В карточке приведены оценки на агентных, программных и визуально-языковых бенчмарках, однако таблицы результатов и таблица языков опущены. Разработчик позиционирует модель для API-интеграции и рекомендует этот способ использования. Репозиторий содержит веса Safetensors; лицензия указана как other, поэтому условия использования следует уточнить в материалах разработчика. В предоставленных данных нет списка поддерживаемых языков и конкретных ограничений по качеству или применению.

Qwen3-VL-32B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия Qwen3-VL-32B-Thinking с мелкозернистым квантованием и размером блока 128; согласно описанию, её показатели почти идентичны исходной BF16-модели. Модель распространяется через Hugging Face и предназначена для обработки текста, изображений и видео. Модель ориентирована на визуальное понимание и рассуждение, OCR, анализ документов, STEM- и математические задачи, пространственное восприятие, понимание динамики видео, генерацию кода и взаимодействие с графическими интерфейсами и инструментами. Она поддерживает контекст длиной 256K токенов с возможностью расширения до 1M, а OCR заявлен для 32 языков, однако полный перечень языков не указан. К архитектурным особенностям относятся Interleaved-MRoPE для временных и пространственных представлений, DeepStack для объединения многоуровневых признаков ViT и выравнивание текста с временными метками для анализа видео. К сильным сторонам относятся развитое мультимодальное рассуждение, распознавание текста в сложных условиях, понимание пространственных отношений, длинных документов и продолжительных видеозаписей, а также возможности визуального агента. Ограничение состоит в том, что на момент публикации README библиотека Transformers не поддерживает прямую загрузку этих весов; для развёртывания рекомендуются vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

Карточка модели arabsya87sy7a8/Qwythos-9B-Claude-Mythos-5-1M на Hugging Face совпадает с карточкой empero-ai/Qwythos-9B-Claude-Mythos-5-1M, поэтому описание составлено по ней. Qwythos-9B-Claude-Mythos-5-1M — диалоговая модель empero-ai на базе Qwen/Qwen3.5-9B, дообученная полным обновлением текстовых весов методом supervised fine-tuning. Это плотная мультимодальная архитектура Qwen3.5 с гибридным стеком Gated DeltaNet и полнослойного внимания; дообучение было текстовым, а зрительная часть унаследована от базовой модели и не настраивалась. Модель предназначена для генерации ответов с рассуждениями, работы с инструментами и длительных агентных сессий. Она поддерживает вызов функций в формате Qwen3.5 и контекст до 1 048 576 токенов благодаря YaRN-масштабированию; в описании сообщается о внутренней проверке на контексте около 137 тысяч токенов. Заявлены сценарии анализа больших репозиториев и документов, а также задач в кибербезопасности и биомедицине. Поддержка изображений унаследована от Qwen3.5, однако зрительная часть не дообучалась и не проверялась. Карточка сообщает об успешном выполнении 7 из 7 тестовых запросов с инструментами, но это небольшой внутренний тест, а не независимая оценка. Модель может ошибаться в точных фактах и идентификаторах; для важных сведений рекомендуется поиск или другие инструменты. При жадной генерации и низкой температуре возможны повторения, а YaRN может немного ухудшать качество на коротком контексте. Лицензия — Apache 2.0.

Qwythos-9B-Claude-Mythos-5-1M — диалоговая модель empero-ai на базе Qwen/Qwen3.5-9B, дообученная полным обновлением текстовых весов методом supervised fine-tuning. Это плотная мультимодальная архитектура Qwen3.5 с гибридным стеком Gated DeltaNet и полнослойного внимания; дообучение было текстовым, а зрительная часть унаследована от базовой модели и не настраивалась. Модель предназначена для генерации ответов с рассуждениями, работы с инструментами и длительных агентных сессий. Она поддерживает вызов функций в формате Qwen3.5 и контекст до 1 048 576 токенов благодаря YaRN-масштабированию; в описании сообщается о внутренней проверке на контексте около 137 тысяч токенов. Заявлены сценарии анализа больших репозиториев и документов, а также задач в кибербезопасности и биомедицине. Поддержка изображений унаследована от Qwen3.5, однако зрительная часть не дообучалась и не проверялась. Карточка сообщает об успешном выполнении 7 из 7 тестовых запросов с инструментами, но это небольшой внутренний тест, а не независимая оценка. Модель может ошибаться в точных фактах и идентификаторах; для важных сведений рекомендуется поиск или другие инструменты. При жадной генерации и низкой температуре возможны повторения, а YaRN может немного ухудшать качество на коротком контексте. Лицензия — Apache 2.0.

Droplychee-1.0-27B — мультимодальная модель на архитектуре Qwen3.5 с 27 млрд параметров, разработанная Droplychee AI Research на основе Qwen/Qwen3.6-27B и доработанная полным supervised fine-tuning и слиянием моделей. Она поддерживает входные изображения и текст, а основное назначение по карточке Hugging Face — диалоговое понимание изображений и текста. В README также заявлены следование инструкциям, ответы на вопросы, программирование, рассуждения, перевод, суммаризация, анализ документов и агентные сценарии. Модель ориентирована на английский и бенгальский языки, а README дополнительно заявляет поддержку более чем 40 языков, включая русский; качество может различаться. README указывает контекст до 1 000 000 токенов в зависимости от среды запуска. Модель доступна в формате safetensors и совместима с Transformers. Лицензия — Apache-2.0. Возможные ограничения включают фактические ошибки, галлюцинации, предвзятость и ошибки рассуждения; важные результаты следует проверять. README не приводит независимо подтверждённых результатов бенчмарков.

unsloth/gemma-3-12b-it-unsloth-bnb-4bit — это 4-битная квантованная instruction-tuned версия Gemma 3 12B, разработанная Google DeepMind и подготовленная Unsloth. Модель использует открытые веса и предназначена для запуска и дообучения через Transformers, включая сценарии локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель принимает текст и изображения, а генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Для версии 12B заявлено контекстное окно до 128K токенов, изображения приводятся к разрешению 896 × 896 и кодируются в 256 токенов каждое, максимальный объём генерируемого результата составляет 8192 токена. Gemma 3 поддерживает более 140 языков, однако в метаданных этой карточки явно указан английский язык. Ключевое преимущество варианта — снижение требований к памяти благодаря 4-битной квантизации; Unsloth также указывает на селективную Dynamic Quantization, призванную сохранить больше качества по сравнению со стандартной 4-битной квантизацией. Ограничения включают возможные потери качества из-за квантизации, необходимость совместимого программного и аппаратного окружения, а также типичные риски генеративных моделей: ошибки, неточные ответы и зависимость результатов от формулировки запроса. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google.

unsloth/gemma-4-12b-it-GGUF — GGUF-версия инструкционно дообученной мультимодальной модели Gemma 4 12B Unified, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для локального выполнения на потребительских устройствах, рабочих станциях и серверах, а также для генерации текста, программирования, рассуждений, агентских сценариев и задач с вызовом функций. Модель имеет около 12 млрд параметров и использует унифицированную архитектуру без отдельных энкодеров, напрямую обрабатывая текст, изображения, аудио и видео и генерируя текст. Она поддерживает более 140 языков, контекст до 256 тысяч токенов, настраиваемые режимы рассуждений и системные промпты. Архитектура сочетает локальное скользящее и глобальное внимание, что рассчитано на снижение требований к памяти при работе с длинным контекстом; поддерживается переменное соотношение сторон и разрешение изображений. К сильным сторонам относятся сочетание мультимодального понимания, длинного контекста, возможностей рассуждения, программирования и нативного function calling, а также возможность локального запуска в формате GGUF. README не содержит подробных результатов тестирования, требований к оборудованию или описания ограничений качества, поэтому практическая производительность зависит от используемой квантизации и среды выполнения. Модель распространяется по лицензии Apache 2.0.

unsloth/gemma-4-26b-a4b-it-MLX-8bit — это 8-битная MLX-версия мультимодальной instruction-tuned модели Gemma 4 26B A4B. Семейство Gemma разработано Google DeepMind, а данный вариант опубликован Unsloth и основан на google/gemma-4-26B-A4B-it. Модель предназначена для локального запуска и дообучения, включая работу на совместимом оборудовании Apple через экосистему MLX. Модель принимает текст и изображения и генерирует текст. Она ориентирована на генерацию текста, рассуждения, программирование, мультимодальное понимание, агентские сценарии и вызов функций. В семействе Gemma 4 заявлены поддержка более 140 языков, настраиваемые режимы рассуждения, нативная роль system и контекстное окно до 256K токенов для средних моделей. Архитектура семейства включает гибридное внимание с локальными скользящими окнами и глобальным вниманием, а вариант 26B A4B использует архитектуру Mixture-of-Experts; обозначение A4B указывает на примерно 4 миллиарда активных параметров при общем размере модели около 26 миллиардов. К сильным сторонам относятся мультимодальность, поддержка длинного контекста, возможности рассуждения и программирования, а также 8-битное представление, снижающее требования к памяти по сравнению с полноразмерными вариантами. Ограничения конкретного MLX-релиза, результаты бенчмарков, точные требования к оборудованию и перечень поддерживаемых языков в README не приведены; качество также может отличаться от исходной модели из-за квантования. Модель распространяется по лицензии Apache 2.0.

MLX-квантизированная версия Gemma 4 26B A4B instruction-tuned, разработанная сообществом mlx-community на базе модели Google gemma-4-26B-A4B-it. Квантизация выполнена с помощью mlx-optiq — инструментария для локального запуска и оптимизации больших языковых моделей на Apple Silicon без PyTorch и облачных сервисов. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, выполнения инструкций, tool calling и агентских сценариев. Модель использует смешанную точность: преимущественно 4-bit, при этом чувствительные слои переведены в 8-bit. Из 325 квантизированных слоёв 246 работают в 8-bit и 79 — в 4-bit; размер группы составляет 64. Калибровка проводилась на данных из шести доменов: обычный текст, рассуждения, код, агентские задачи, вызовы инструментов и инструкции с ограничениями. Размер модели на диске составляет около 16,4 ГБ. Поддерживается speculative decoding с отдельной моделью-драфтером Gemma 4. Сведения о длине контекста, языках и мультимодальных возможностях в README не указаны. По приведённым результатам модель превосходит стандартную равномерную 4-bit-квантизацию по MMLU, GSM8K, HumanEval и длинноконтекстному извлечению HashHop; совокупный Capability Score составляет 75,76 против 72,95. При этом на IFEval и BFCL-V3 она немного уступает равномерной 4-bit-версии, а размер на диске примерно на 1,9 ГБ больше. Для использования требуется MLX-совместимое окружение, например Apple Silicon с пакетами mlx-lm или mlx-optiq. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; применяются условия Google Gemma.