I.1Поиск и навигация по информации

Qwen3.8-Flash-Next-FP8 — экспериментальная модель семейства Qwen, разработанная командой Qwen. Это каузальная языковая модель с vision encoder, представленная в формате Hugging Face Transformers и предназначенная для генерации и обработки текста, мультимодальных сценариев с изображениями, длинноконтекстного анализа и агентных приложений. Версия FP8 содержит квантизированные веса постобученной модели и совместима с Transformers, vLLM, SGLang и TokenSpeed. Модель имеет 125 млрд параметров, из которых около 6 млрд активируются при обработке запроса, а также 51 млрд параметров n-gram embedding и 4 млрд параметров MTP. Архитектура включает 48 слоёв, Mixture of Experts с 512 экспертами, гибридное внимание на основе Gated DeltaNet и Qwen Sparse Attention, Gated Residual и n-gram embedding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 000 000 токенов. README не указывает точный перечень поддерживаемых языков. К сильным сторонам относятся высокая эффективность при работе с длинным контекстом, сниженная вычислительная и память-затраты благодаря разреженному вниманию, MoE и FP8-квантизации, а также сохранение показателей производительности, близких к исходной модели. Ограничения связаны с экспериментальным статусом архитектуры, отсутствием в README подробных результатов бенчмарков и неуказанными требованиями к аппаратному обеспечению и профилю мультимодальных возможностей. Модель распространяется по лицензии qwen-community-1.0; дополнительные условия следует проверять в файле LICENSE.

Seed-OSS-36B-Base — базовая большая языковая модель команды ByteDance Seed, опубликованная под лицензией Apache-2.0. Это плотная авторегрессионная модель на архитектуре Seed-OSS с 31,7 млрд параметров по метаданным; в карточке семейства указаны RoPE, групповое внимание GQA, RMSNorm и активация SwiGLU. Модель принимает текст и генерирует текст. Модель предназначена для дообучения и применения в задачах общего назначения, рассуждений, работы с длинными контекстами и построения агентных систем. Она обучена на 12 трлн токенов, нативно поддерживает контекст до 524 288 токенов и позволяет управлять бюджетом рассуждений. Версия Base включает синтетические инструкционные данные в предобучение; команда также выпустила вариант без этих данных и отдельную версию Instruct. Семейство ориентировано на международное использование. Карточка рекомендует выбирать длину рассуждений с учётом сложности задачи; результаты зависят от бюджета и настроек генерации. Для запуска доступны Transformers и vLLM.

Tess-4-35B-A3B — мультимодальная модель семейства Tess-4, разработанная Migel Tissera и представленная в этом репозитории как неизменённая копия весов оригинальной модели. Это постобученная смесь экспертов на базе Qwen/Qwen3.6-35B-A3B: модель имеет около 35 млрд параметров общей ёмкости и активирует примерно 3 млрд параметров на токен. Используется гибридное внимание с gated-delta-net и полным GQA в каждом четвёртом слое. Модель предназначена для диалогов, многошагового использования инструментов, агентного программирования, анализа изображений и работы с длинными техническими документами. Карточка описывает обучение на 64K-токенных агентных трассах; базовая архитектура поддерживает контекст до 262K позиций. Веса сохраняют визуальный тракт Qwen и обработку изображений и видео. Указан английский язык. Для запуска BF16-весов требуется современная версия Transformers с поддержкой мультимодальной архитектуры Qwen3.6 MoE; полный набор весов занимает около 72 ГБ. Указанная лицензия — Apache-2.0. Заявления о качестве и скорости в README частично основаны на данных автора и сообщества; GGUF-оптимизации и ускорение с MTP относятся к отдельному репозиторию и специализированной сборке llama.cpp.

Карточка модели Pound1320/gemma-4-E4B-it-uncensored-heretic на Hugging Face совпадает с карточкой llmfan46/gemma-4-E4B-it-uncensored-heretic, поэтому описание составлено по ней. llmfan46/gemma-4-E4B-it-uncensored-heretic — производная модель на основе Google Gemma 4 E4B Instruct, опубликованная независимым автором. Это плотная мультимодальная модель для диалога и генерации текста, понимания изображений и аудио, рассуждений, программирования и вызова инструментов. В карточке заявлены гибридное внимание с локальными скользящими окнами и глобальными слоями, а для базовой модели E4B — контекст до 128 тысяч токенов и поддержка более 35 языков. Модель подходит для чат-ботов, суммаризации и создания текстов, извлечения данных из изображений и документов, распознавания речи и голосовых сценариев. В названии и тегах указано uncensored/abliterated, однако README не описывает конкретные изменения и не приводит отдельные оценки качества именно этой производной версии. Возможны фактические ошибки, смещения и трудности с неоднозначными или сложными запросами. Лицензия — Apache-2.0.

NVIDIA GLM-4.7 NVFP4 — это квантизированная версия авторегрессионной языковой модели GLM-4.7, разработанной ZAI и оптимизированной с помощью NVIDIA Model Optimizer. Модель не принадлежит и не разработана NVIDIA; NVIDIA подготовила её под требования соответствующего сценария применения. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель построена на архитектуре Transformer и имеет 358 млрд параметров. Она работает только с текстом: принимает строковые последовательности и генерирует текст. Максимальная длина контекста составляет до 200 000 токенов. Версия NVFP4 1.0 квантизирована до формата NVFP4 с использованием nvidia-modelopt v0.41.0; квантизации подвергнуты веса и активации линейных операторов в Transformer-блоках MoE. Данные о полном составе обучающей выборки и поддерживаемых языках не раскрыты, однако калибровка включает англоязычный cnn_dailymail и набор Nemotron с данными на испанском, французском, немецком, итальянском и японском языках. Модель ориентирована на инференс на NVIDIA GPU, особенно на архитектуре Blackwell, с использованием SGLang и Linux. Квантизация NVFP4 может снизить требования к ресурсам и ускорить развертывание, однако для работы требуется совместимая NVIDIA-инфраструктура и дополнительное тестирование в конкретном сценарии. В README приведены результаты на MMLU-PRO, GPQA Diamond, ns_livecodebench, SCICODE и AIME 2025, но они не описывают все практические ограничения модели. Лицензия — MIT.

Granite-3.3-2B-Base — базовая языковая модель, разработанная командой Granite компании IBM. Это плотный decoder-only трансформер с 2,5 млрд параметров и контекстом до 131 072 токенов. Архитектура включает GQA, RoPE, SwiGLU, RMSNorm и общие входные и выходные эмбеддинги. Поддержка Fill-in-the-Middle позволяет генерировать фрагмент текста с учётом контекста до и после него, в том числе для автодополнения кода. Модель предназначена для генерации текста, суммаризации, классификации и извлечения информации, ответов на вопросы и работы с длинным контекстом. Она обучена на данных из веба, кода, академических источников, книг и математики, а также на многоязычных, инструкционных и синтетических длинноконтекстных данных. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель выпущена под лицензией Apache 2.0. Она не прошла safety-выравнивание, поэтому может генерировать проблемный контент; возможны предвзятость, недостоверные ответы и дословное воспроизведение обучающих данных.

MyAwesomeModel — модель из репозитория liufeftwer145, распространяемая через Hugging Face и предназначенная для извлечения признаков; в метаданных указаны библиотека Transformers, PyTorch и тег BERT. README описывает обновлённую версию модели с улучшенными способностями к рассуждению и выводу, а также применением алгоритмической оптимизации на этапе post-training. Модель заявлена для математического и логического рассуждения, понимания текста, ответов на вопросы, классификации, анализа тональности, генерации кода и текста, суммаризации, перевода, диалогов, поиска знаний и следования инструкциям. README также упоминает поддержку системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска, а также доступ через чат-интерфейс и API. В README приведены результаты внутренних или заявленных benchmark-оценок по нескольким категориям, включая математику, программирование и общую логику; для AIME 2025 указано повышение точности с 70% до 87,5% по сравнению с предыдущей версией. Рекомендуемая температура составляет 0,6. Модель распространяется по лицензии MIT.

Карточка модели minjaechoi/nemotron3-nano-30b-a3b-2p03bit-r22 на Hugging Face совпадает с карточкой nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16, поэтому описание составлено по ней. NVIDIA Nemotron-3-Nano-30B-A3B-BF16 — языковая модель общего назначения, обученная с нуля NVIDIA Corporation для диалогов, рассуждений и выполнения инструкций. Она предназначена для разработчиков чат-ботов, агентных систем, RAG-приложений и других решений на базе ИИ; также подходит для задач программирования и многоязычного общения. Модель использует гибридную архитектуру Mixture-of-Experts: 23 слоя Mamba-2 и MoE и 6 слоёв внимания. Всего в ней 30 млрд параметров, из которых активны 3,5 млрд на токен; веса представлены в BF16. Метаданные указывают 1,9 млрд параметров. Контекст в конфигурации Hugging Face составляет 262 144 токена; README сообщает о поддержке до 1 млн токенов при соответствующих настройках и повышенных требованиях к видеопамяти. Модель принимает текст и выдаёт текст, поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Режим рассуждений настраивается через шаблон чата; также заявлен интерфейс вызова инструментов. Модель заявлена как пригодная для коммерческого использования. В метаданных лицензия обозначена как other, поэтому перед внедрением следует проверить условия лицензии в карточке модели. Русский язык среди поддерживаемых не указан; возможности рассуждения могут снижаться при отключении промежуточного этапа рассуждений, а использование длинного контекста требует больше видеопамяти.

Карточка модели hdcase/AliceAI-Foundation-80B-A3B-Base на Hugging Face совпадает с карточкой yandex/AliceAI-Foundation-80B-A3B-Base, поэтому описание составлено по ней. AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля. Это предобученная модель с гибридной архитектурой и смесью экспертов: всего 80 млрд параметров, из которых на каждом токене активируются около 3 млрд. Архитектура включает 48 слоёв, 512 экспертов и механизмы KDA и Gated Attention; контекст — до 262 144 токенов. Модель предназначена для генерации текста и дальнейшей адаптации под задачи рассуждений, математики, программирования, работы с фактами и взаимодействия с инструментами. По данным карточки, особенно сильна в фактологических задачах на русском языке; доступны русскоязычные бенчмарки WikiWebFacts и HardMultiQA. Это базовая модель, поэтому для диалогового применения и следования инструкциям может потребоваться дообучение и подходящий шаблон сообщений. Веса опубликованы в формате Safetensors и доступны по лицензии Apache 2.0. В README описан запуск через Transformers и vLLM; для выполнения KDA-слоёв на GPU требуется совместимая версия flash-linear-attention. Заявленные в README 80 млрд общих параметров расходятся с метаданными Hugging Face, где указано 3,1 млрд параметров.

ChatGLM3-6B-32K 是由 ChatGLM 项目团队开发的中文、英文对话模型，基于 ChatGLM3-6B，并针对长文本对话进行了扩展训练。 Это плотная архитектура ChatGLM примерно с 7,5 млрд параметров; модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для многоходового диалога и работы с длинными текстами: она может отвечать на вопросы по объёмным материалам, обобщать их и поддерживать сценарии с вызовом инструментов и исполнением кода, заявленные для семейства ChatGLM3. В карточке также указаны задачи генерации текста и классификации текста. Для контекстов до 8K токенов разработчики рекомендуют ChatGLM3-6B; вариант 32K рассчитан на более длинный ввод. Модель работает с PyTorch и Transformers. Веса открыты для академических исследований; бесплатное коммерческое использование допускается после регистрации через анкету.

Gemma 3 12B IT QAT — мультимодальная инструкционно дообученная модель из семейства Gemma, разработанная Google DeepMind. Она принимает текст и изображения, а на выходе генерирует текст. Модель создана на основе технологий, использованных в Gemini, и предназначена для развертывания в локальной инфраструктуре, на настольных компьютерах, ноутбуках и в облачных средах с ограниченными ресурсами. Модель подходит для ответов на вопросы, суммаризации документов, рассуждений, генерации и анализа текста, а также для понимания изображений и извлечения визуальной информации. Она поддерживает более 140 языков, имеет контекстное окно до 128K токенов для версии 12B и максимальный объём генерируемого текста до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Версия 12B обучена с использованием Quantization Aware Training (QAT), что должно помогать сохранять качество, близкое к bfloat16, при снижении требований к памяти после квантования. При этом указанный в репозитории checkpoint является неквантованным: для получения варианта Q4_0 его необходимо дополнительно квантовать выбранным инструментом. Ограничения включают зависимость качества от языка, содержания запроса и изображения, а также обычные риски ошибок и неточностей генеративных моделей. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии.

ciocan/gemma-4-E4B-it-W4A16 — GPTQ-квантизированная 4-битная версия модели google/gemma-4-E4B-it, подготовленная с использованием auto-round в режиме RTN. Модель имеет 8 млрд параметров, из которых 4 млрд являются эффективными благодаря архитектуре PLE. Она предназначена для запуска и обслуживания через vLLM, включая использование OpenAI-совместимого API и вызов инструментов. Модель поддерживает текст, изображения, аудио и видео. Нативная длина контекста составляет 128K токенов, однако для видеокарт с 12 ГБ VRAM рекомендуется ограничивать её 8K токенами, а при нехватке памяти — 4K. Квантованию подвергнут только языковой модуль; vision- и audio-компоненты сохранены в полной точности BF16. Размер памяти при загрузке составляет около 9,65 GiB, что позволяет использовать модель на видеокартах уровня RTX 3080 Ti или RTX 4070 с 12 ГБ VRAM. К сильным сторонам относятся поддержка нескольких модальностей, совместимость с vLLM и OpenAI-совместимым интерфейсом, а также сниженные требования к видеопамяти. Ограничения связаны с необходимостью использовать vLLM и специфический GPTQ-совместимый формат: AutoAWQ и llm-compressor для этой архитектуры не поддерживаются. Модель распространяется по лицензии Apache 2.0.

Карточка модели genevaquant/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

Карточка модели RedHatAI/Inkling-Small на Hugging Face совпадает с карточкой thinkingmachines/Inkling-Small, поэтому описание составлено по ней. Inkling-Small — мультимодальная модель общего назначения от Thinking Machines, построенная на авторегрессионном трансформере с 42 слоями и разреженным MoE-блоком: из 256 экспертов для каждого токена выбираются 6, а 2 общих эксперта активны всегда. Всего модель содержит 276 млрд параметров, из которых активно 12 млрд. Она принимает текст, изображения и аудио, обрабатывая их в общем пространстве представлений, и генерирует текст. Поддерживаются форматы BF16 и NVFP4; для работы предусмотрена библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, мультимодальных запросов, программирования, чат-ботов, агентных систем с использованием инструментов и приложений с поиском по документам. Основной язык — английский; заявлены общие многоязычные возможности, но языки отдельно не перечислены. Для изображений рекомендован размер сторон 40–4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Модель может выдавать фактически неверные ответы, неточно следовать инструкциям и хуже работать в длинных диалогах; качество также может различаться по языкам и предметным областям. Для важных решений необходимы проверка человеком и дополнительные меры безопасности. Весы доступны по лицензии Apache-2.0.

Ling-3.0-flash-VL-fp4 — нативная мультимодальная модель, разработанная командой InclusionAI. Она предназначена для анализа изображений и видео, визуального понимания документов, схем, графиков и интерфейсов, многошагового рассуждения с опорой на визуальные данные, проверки информации, планирования и выполнения действий в реальных и агентных сценариях. Модель поддерживает режим рассуждения, включённый по умолчанию, а также задачи взаимодействия с веб- и программными интерфейсами. Модель имеет 124 млрд общих параметров, из которых 5,5 млрд активируются для каждого токена, что повышает эффективность инференса. Архитектура включает визуальный ViT-энкодер, двухслойный MLP-проектор, VideoRoPE для учёта пространственных и временных позиций, 42-слойный гибридный языковой backbone с чередованием слоёв KDA и Gated MLA в соотношении 5:1, а также разреженную MoE-архитектуру. Поддерживаются текст, изображения и видео; заявленное контекстное окно достигает 256K токенов. Для видео предусмотрены сценарии локализации событий, ответов на вопросы по длинным роликам и редактирования видеоклипов. К сильным сторонам относятся объединение восприятия, рассуждения, планирования, действий и проверки, работа со сложными визуальными структурами и высокая эффективность за счёт MoE. В Artificial Analysis Intelligence Index v4.1.1 модель получила 42 балла, что на 4 балла выше базовой Ling-3.0-flash. README не содержит подробных сведений о языках, конкретных ограничениях качества или системных требованиях вне отдельных конфигураций запуска. Модель распространяется по лицензии MIT.

Диалоговая модель shibing624 на базе Llama-3-8B-Instruct-262k, дообученная методом ORPO на наборе предпочтений для китайского и английского языков. Модель использует плотную архитектуру LlamaForCausalLM и содержит около 7,5 млрд параметров; поддерживает контекст до 262 144 токенов и рассчитана на многоходовый диалог, генерацию текста, кодирование и рассуждения, а также сценарии RAG с длинными документами. Модель поддерживает китайский и английский языки. В README отмечены ограничения: при ответах на вопросы о знаниях возможны галлюцинации, особенно по китайской тематике и классической китайской литературе. Для запуска приведены ориентиры по видеопамяти: около 18,66 ГБ для кодирования 2 048 токенов и 24,58 ГБ для генерации 8 192 токенов в FP16/BF16; для Int4 — около 9,21 ГБ и 14,62 ГБ соответственно. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Llama-Krikri-8B-Instruct — инструктивная языковая модель ILSP для общения и выполнения текстовых задач, разработанная на базе Llama-Krikri-8B-Base. Это плотная модель семейства Llama с 7,6 млрд параметров и контекстом до 131 072 токенов. Базовую модель ILSP продолжительно обучали на греческих и английских текстах, а Instruct-версию дополнительно настроили на инструкциях и диалогах на греческом и английском языках. Модель предназначена для генерации и редактирования текста, суммаризации, ответов по нескольким документам, перевода между греческим и английским, а также перевода с этих языков на французский, немецкий, итальянский, португальский и испанский. Карточка также заявляет возможности структурированного извлечения данных, программирования, использования инструментов и решения задач в юридической, финансовой, медицинской и научной областях. Веса доступны в формате safetensors; для применения авторы рекомендуют официальные квантованные версии GGUF и MLX. Лицензия — Llama 3.1 Community License. Результаты для отдельных задач могут различаться; заявленные возможности специализированных областей не заменяют экспертную проверку.

MiMo-V2-Flash-Base — базовая языковая модель Xiaomi для генерации текста, рассуждений и агентных сценариев. Карточка описывает семейство Mixture-of-Experts с гибридным вниманием, сочетающим локальные окна и глобальное внимание, а также механизмом Multi-Token Prediction для ускорения генерации. В README семейства указаны 309 млрд параметров всего и 15 млрд активных; метаданные этого репозитория указывают 12B параметров и формат safetensors FP8, поэтому размер в каталоге может отражать иной способ подсчёта или вариант весов. Модель рассчитана на длинные контексты до 256 тыс. токенов и задачи генерации текста, сложного рассуждения и работы в агентных процессах. Метаданные также отмечают разговорный режим и интерфейс вызова инструментов. README приводит результаты базовой и постобученной версий семейства, но не позволяет однозначно приписать все заявленные возможности именно этому базовому чекпойнту. Модель создана Xiaomi и распространяется по лицензии MIT. Заявленные характеристики ориентированы на эффективный инференс и работу с длинными контекстами; фактическая скорость и качество зависят от оборудования и используемой конфигурации.

megabytes/Nanbeige4.1-3B-heretic — англо-китайская диалоговая языковая модель на базе Nanbeige/Nanbeige4.1-3B. Разработчик описывает исходную модель как компактную модель для рассуждений, программирования и агентных задач; эта версия создана с помощью Heretic v1.2.0 и abliteration для снижения частоты отказов. Она содержит 3,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации диалоговых ответов, решения многошаговых задач, написания кода и сценариев с поиском и вызовом инструментов. README приводит для этой версии частоту отказов 8 из 100 и KL-дивергенцию 0,0003 относительно исходной модели; в карточке также отмечено, что существует улучшенная версия от Heretic Organization. Модель может выдавать предвзятый или иной нежелательный контент. Лицензия — Apache-2.0.

IsValorum/Nex-N2.5-mini-APEX-I-MiniPlus-GGUF — это квантизированная GGUF-версия модели Nex-N2.5-mini, разработанной Nex-AGI и дополнительно оптимизированной IsValorum. Модель основана на архитектуре qwen35moe с 35,1 млрд параметров и использует многомодельную экспертную архитектуру MoE. В комплект входят основная модель размером около 14,56 ГБ с квантизацией 3,36 BPW и отдельный vision-проектор mmproj в формате Q8_0 размером около 610 МБ. Модель предназначена для рассуждений, вызова функций и инструментов, автономного взаимодействия с компьютером, обработки изображений и анализа графического интерфейса. Заявлены мультимодальные возможности, высокоточное визуальное сопоставление и поддержка высокоразрешённых изображений. В README перечислена поддержка английского, китайского, испанского, французского, немецкого, португальского, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Также заявлена работа с контекстом до 256K токенов, однако подробные параметры этой поддержки в представленном фрагменте не приведены. Главные особенности квантизации — сохранение выходного слоя в Q6_K, маршрутизаторов экспертов в F32 и использование разных уровней точности для внимания и экспертных блоков. Это должно повышать стабильность синтаксиса, маршрутизации экспертов и рассуждений по сравнению с более агрессивными низкобитными вариантами, сохраняя умеренные требования к памяти и производительность на CPU. Ограничения связаны с потерями, неизбежными для квантизированной модели, потребностью примерно в 14 ГБ памяти для основной модели и тем, что это предыдущая, или legacy, версия MiniPlus. Для использования требуется совместимый рантайм GGUF, например llama.cpp. Лицензия — Apache-2.0.

Qwen2.5-14B-Instruct-1M — плотная авторегрессионная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста, включая обработку очень длинных документов и контекстов. Модель содержит около 14 млрд параметров; архитектура Qwen2 использует RoPE, SwiGLU, RMSNorm и групповое внимание с 40 головами Q и 8 головами KV. Заявленная длина контекста достигает 1 010 000 токенов, а генерация — до 8192 токенов. Для эффективного инференса на длинных последовательностях разработчик рекомендует специальную ветку vLLM с разреженным вниманием и методами экстраполяции длины; для обработки миллиона токенов версии 14B требуется не менее 320 ГБ видеопамяти суммарно. На обычном стеке Qwen2.5 возможна потеря точности при длине свыше 262 144 токенов. Модель основана на Qwen/Qwen2.5-14B и дообучена; лицензия Apache-2.0. Метаданные указывают английский язык, поэтому поддержка других языков здесь не заявляется.

NVIDIA Qwen3-8B FP8 — квантизированная версия авторегрессионной языковой модели Qwen3-8B, разработанной Alibaba и подготовленной с помощью NVIDIA TensorRT Model Optimizer. Модель предназначена для генерации текста и может использоваться в AI-агентах, чат-ботах, RAG-системах и других приложениях на базе искусственного интеллекта. Модель построена на архитектуре Transformers и содержит около 8,2 млрд параметров. Она работает с текстовыми последовательностями на входе и генерирует текст на выходе; поддерживаемая длина контекста достигает 131K токенов. Квантизация FP8 применяется к весам и активациям линейных операторов внутри трансформерных блоков, что ориентировано на эффективный инференс. Языки и мультимодальные возможности в карточке не указаны. Модель подготовлена для TensorRT-LLM и оптимизирована для NVIDIA GPU, в частности совместима с микроархитектурой NVIDIA Blackwell; предпочтительная операционная система — Linux. Указанное тестирование проводилось на NVIDIA B200. Ограничения качества, рисков и применимости зависят от исходной Qwen3-8B и конкретного сценария использования; разработчикам рекомендуется самостоятельно оценивать модель для целевой отрасли и задач. Использование разрешено для коммерческих и некоммерческих целей по лицензии Apache 2.0.

Qwen3-VL-30B-A3B-Instruct-AWQ — 4-битная AWQ-квантизованная версия мультимодальной модели Qwen3-VL-30B-A3B-Instruct, разработанной Qwen и опубликованной в репозитории dark-side-of-the-code. Модель предназначена для генерации текста по текстовым и визуальным запросам, включая понимание изображений, распознавание текста на изображениях, работу со структурированными ответами и вызов инструментов. Она рассчитана прежде всего на эффективное локальное развертывание через vLLM, в том числе на одной видеокарте с 24 ГБ памяти. Архитектура и поведение соответствуют базовой модели Qwen3-VL-30B-A3B-Instruct. Используется MoE-архитектура с 30 млрд параметров и примерно 3 млрд активных параметров; языковые веса сжаты до 4 бит по схеме W4A16 с размером группы 128, тогда как vision tower, MoE-router и lm_head сохранены в полной точности. Поддерживается мультимодальный ввод; в приведённой конфигурации проверена работа с несколькими изображениями и контекстом до 48 000 токенов при использовании FP8 KV-кэша. Размер файлов модели составляет около 17,8 ГБ. К сильным сторонам относятся существенное снижение требований к памяти, высокая скорость декодирования и сохранение возможностей базовой модели в задачах текста, OCR, структурированной генерации и tool calling. К ограничениям относятся небольшое снижение точности относительно версии bf16, зависимость от совместимой версии vLLM и необходимость настройки параметров обслуживания; данные о поддерживаемых языках отдельно не указаны. Модель распространяется по лицензии Apache-2.0.

Inkling-Small — мультимодальная модель общего назначения, опубликованная Unsloth как дообученная версия thinkingmachines/Inkling-Small. Она принимает текст, изображения и аудио, а ответы формирует текстом; предназначена для диалогов, следования инструкциям, разработки чат-ботов, помощников по программированию, систем RAG и приложений с агентами и вызовом инструментов. Модель построена на 42-слойном авторегрессионном трансформере с разреженной MoE-архитектурой: всего 276 млрд параметров, из которых активно 12 млрд; для каждого токена выбираются 6 из 256 экспертов и задействуются 2 общих эксперта. Изображения обрабатываются иерархическим patch-энкодером, аудио — через дискретные токены. Поддерживаются BF16 и NVFP4; для изображений рекомендуются размеры сторон от 40 до 4096 пикселей, для аудио — WAV с частотой 16 кГц и длительностью менее двух минут. Основной язык — английский, также заявлена общая многоязычная поддержка. Лицензия — Apache-2.0. Модель может галлюцинировать, неточно следовать инструкциям и хуже работать в длинных многошаговых диалогах; качество может различаться между языками и областями. Для медицинских, юридических и других критически важных решений необходимы проверка результатов и человеческий контроль. README рекомендует дополнительную фильтрацию и мониторинг при развертывании, поскольку модель иногда поддается косвенно сформулированным вредоносным запросам.

JiRack Ultra 1B — компактная языковая модель от CMSManhattan для генерации текста и диалогов. Она построена на архитектуре Qwen2, содержит около 1,5 млрд параметров и оптимизирована для инференса на CPU. В карточке заявлены переработанная архитектура с поддержкой тернарных BitNet-признаков, обновлённый токенизатор с тегами маршрутизации, вызова инструментов и робототехники, а также контекст до 131 072 токенов. Доступны веса Safetensors и варианты GGUF с разными уровнями квантования. Модель предназначена для локального запуска на малоресурсном оборудовании, диалоговых сценариев, использования как экспертной модели в RAG-системах и интеграции с агентами и инструментами. Карточка также описывает применение в задачах программирования и робототехники, однако метаданные подтверждают только задачу генерации текста, а заявленные возможности токенизатора не доказывают качество этих специализированных сценариев. В метаданных перечислены 14 языков: английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Веса опубликованы по лицензии MIT, разрешающей коммерческое использование и распространение. При этом Docker-образ, готовые Ollama-сборки и клиенты интерфейса, согласно карточке, распространяются на отдельных коммерческих условиях.

Qwen2.5-14B-DeepSeek-R1-1M — объединённая плотная языковая модель на архитектуре Qwen2, созданная с помощью MergeKit методом TIES. В качестве базовой использована Qwen/Qwen2.5-14B-Instruct-1M; в объединение также вошли DeepSeek-R1-Distill-Qwen-14B и Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 1 010 000 токенов. Модель предназначена для диалогов и генерации текста по инструкциям, включая работу с длинным контекстом. Метаданные также указывают интерфейс для вызова инструментов. Данные карточки описывают способ объединения и состав моделей, но не приводят отдельные оценки качества или подробные рекомендации по применению. Лицензия в предоставленных данных не указана. Для использования следует учитывать условия лицензий исходных моделей; их совместимость здесь не подтверждена.

devan-carlin/Qwen3.8-Flash-Next-W4A16 — сообщественная W4A16-квантизированная версия Qwen3.8-Flash-Next, базовую модель и лицензию которой разработала команда Qwen. Репозиторий предоставляет квантизацию и рецепт запуска на Intel XPU с использованием patched vLLM. Модель предназначена для генерации текста, рассуждений, вызова инструментов и мультимодальных сценариев с обработкой изображений; доступны текстовые и графические входы через процессор Qwen3-VL. Модель использует MoE-архитектуру с 125B параметров и примерно 6B активных параметров. Экспертные веса квантизированы в int4 по схеме group-128 с активациями A16, а отдельные компоненты, включая визуальный модуль, эмбеддинги и ряд служебных слоёв, сохранены в BF16. Поддерживается контекст до 256K токенов и FP8 KV-кэш. В составе присутствует 27-блочный vision tower, совместимый с Qwen3-VL. Для корректной работы требуется PLE n-gram table объёмом около 96 ГБ в оперативной памяти. К сильным сторонам относятся большой контекст, MoE-эффективность, поддержка изображений и возможность производительного запуска на Intel Arc Pro B70: заявлено около 53,4 токена в секунду на конфигурации из четырёх ускорителей. Ограничения существенны: необходимы четыре Intel Arc Pro B70 с суммарно 128 ГБ VRAM, не менее 128 ГБ оперативной памяти, специальная версия vLLM и закреплённые версии XPU-зависимостей. Для этого чекпойнта рекомендуется температура не выше примерно 0,7, поскольку при более высоких значениях наблюдаются повторения и деградация вывода. Модель распространяется по Qwen Community License 1.0; лицензия указана как other.

CortexLM/Teutonic-1-Chat-Preview — экспериментальная чат-модель, разработанная CortexLM на базе текстовой линии Qwen3.5-9B. Модель предназначена для диалогов с поддержкой рассуждений, решения проверяемых математических и программных задач, работы с инструментами и обработки длинного контекста. Это предварительный снимок в процессе обучения, поэтому он не рекомендуется для production-сценариев. Модель использует гибридную архитектуру с linear attention и softmax attention, относится к классу примерно 9B параметров и поставляется с весами FP8 block-scaled e4m3 и конфигурацией квантования в стиле Qwen. Поддерживается текстовая модальность и английский язык. Заявлена вместимость контекста до 256 тысяч входных токенов благодаря RoPE с max_position_embeddings 262144. Шаблон чата поддерживает опциональные блоки рассуждений <think>…</think> и разметку вызова инструментов. Сильные стороны текущего checkpoint — извлечение информации из длинного контекста, включая внутренние тесты с одним ключевым фрагментом на 128k и 256k токенах, а также математические задачи и сохранение качества чата. Ограничения связаны с экспериментальным статусом: обучение продолжается, стабильная генерация ответов длиной 64k ещё не завершена, более сложные многоключевые и многошаговые задачи длинного контекста требуют доработки, а мультимодальность запланирована на будущее. Модель распространяется по лицензии Apache-2.0.

Apertus-8B-Instruct-2509 — многоязычная языковая модель для генерации текста и диалогов, опубликованная в репозитории unsloth как дообученная версия swiss-ai/Apertus-8B-2509. Это плотный decoder-only Transformer семейства Apertus с 10,3 млрд параметров и контекстом до 65 536 токенов; модель работает через Transformers и поддерживает интерфейс вызова инструментов. Модель предназначена для многоязычных диалогов, генерации текста и сценариев с длинными документами. В карточке семейство Apertus описано как поддерживающее более 1 800 языков; конкретный основной язык для этой версии не выделен. Модель обучалась на открытых данных с опубликованными сведениями о процессе обучения, а базовое семейство разработано Swiss AI Initiative. Модель может генерировать фактически неверный или нелогичный текст и воспроизводить предвзятости данных. Для неё не предоставлен фильтр выходных данных, в том числе для персональных данных; важные ответы следует проверять. Лицензия — Apache-2.0.

L3.3-70B-Magnum-v4-SE-Cirrus-x1-ModelStock — объединённая модель для генерации текста и диалогов, созданная с помощью mergekit методом Model Stock. В качестве основы использована meta-llama/Llama-3.3-70B-Instruct, в объединение также вошли Sao10K/70B-L3.3-Cirrus-x1 и Doctor-Shotgun/L3.3-70B-Magnum-v4-SE. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 69,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. В карточке заявлены мультиязычные возможности базовой модели, но конкретные языки для этого чекпойнта не перечислены. Модель подходит для диалоговых ассистентов и генерации текста с длинным контекстом. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.