I.14Автоматизация процессов и AI-агенты

Quatfit Mini — мультимодальная модель на 8 млрд параметров от Quatfit AI Research, дообученная на архитектуре Google Gemma 4. Она принимает текст, изображения и аудио, а также поддерживает контекст до 131 072 токенов. В репозитории опубликованы веса FP32 в формате safetensors; для инференса на менее мощном оборудовании доступны преобразование в BF16/FP16 и отдельные сборки GGUF. Разработчик заявляет оптимизации для ускорения инференса, в том числе speculative decoding, и сценариев с вызовом инструментов. Модель предназначена для визуальных вопросов и ответов, OCR, понимания диаграмм и аудио, программирования, длинного контекста и агентных рабочих процессов. Карточка перечисляет поддержку английского, хинди, гуджарати, маратхи, телугу, французского, японского и китайского языков. Для медицинской диагностики, юридических рекомендаций и решений с высоким риском модель не предназначена; также обозначены ограничения для крупных программных проектов и соревновательного программирования. Лицензия — Apache-2.0.

Qwen3.5-35B-A3B-GGUF — это квантизированная GGUF-версия мультимодальной модели Qwen3.5-35B-A3B, разработанной командой Qwen. Репозиторий подготовлен ugreen-ai с использованием материалов и методов Unsloth. Модель предназначена для локального запуска и совместима с инструментами экосистемы GGUF; исходная модель также поддерживает Transformers, vLLM, SGLang и KTransformers. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает работу с текстом и изображениями. Архитектура сочетает Gated Delta Networks и разреженный Mixture-of-Experts. Всего модель содержит 35 млрд параметров, из которых активируется около 3 млрд; указаны 40 слоёв, hidden dimension 2048 и словарь размером 248 320 токенов. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на рассуждения, программирование, визуальное понимание, агентские сценарии, вызов инструментов и задачи с длинным контекстом, однако точный максимальный размер контекста для этой версии в README не указан. К сильным сторонам относятся мультимодальность, высокая вычислительная эффективность разреженной MoE-архитектуры, улучшенные возможности coding и tool calling, а также обновлённые данные и алгоритм квантования Unsloth Dynamic 2.0. GGUF-квантизация упрощает локальный запуск и снижает требования к ресурсам, но конкретные характеристики зависят от выбранного варианта квантизации и могут сопровождаться потерей точности по сравнению с исходными весами. Для управления режимом рассуждений предусмотрена настройка enable_thinking. Модель распространяется по лицензии Apache-2.0.

Карточка модели Bloxyest/Qwen3.5-9B на Hugging Face совпадает с карточкой Qwen/Qwen3.5-9B, поэтому описание составлено по ней. Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

Qwen3.5-9B — мультимодальная модель Qwen, разработанная командой Qwen и представленная в формате Hugging Face Transformers. Это дообученная версия Qwen/Qwen3.5-9B-Base: причинная языковая модель с визуальным энкодером, 9 млрд параметров и гибридной архитектурой с Gated Delta Networks и разреженными Mixture-of-Experts. Модель принимает текст и изображения и генерирует текст; поддерживает чат и вызов инструментов. Модель предназначена для диалога, рассуждений, программирования, визуального понимания и агентных сценариев с использованием инструментов. Нативная длина контекста — 262 144 токена, с расширением до 1 010 000; в режиме по умолчанию перед ответом генерируется содержимое рассуждений. В карточке заявлена поддержка 201 языка и диалекта, но список языков в предоставленных данных опущен. В README заявлены высокая эффективность гибридной архитектуры и улучшенные результаты на задачах рассуждения, кода и визуального понимания; независимых оценок в предоставленном тексте недостаточно для проверки этих утверждений. Для длинного контекста могут потребоваться значительные ресурсы, а совместимость и пропускная способность зависят от версии и конфигурации сервера. Лицензия — Apache-2.0.

QuantTrio/Qwen3.6-27B-AWQ-6Bit — квантованная версия открытой модели Qwen3.6-27B, разработанной командой Qwen. Вариант из данного репозитория получен с помощью data-free-квантования без калибровочного набора данных и предназначен для запуска через Transformers и высокопроизводительные серверы инференса, включая vLLM, SGLang и KTransformers. Модель представляет собой авторегрессионную языковую модель с vision encoder, содержащую около 27 млрд параметров. Архитектура включает 64 слоя, Gated DeltaNet и Gated Attention, а также поддержку multi-step speculative decoding. Нативная длина контекста составляет 262 144 токена и может быть расширена до 1 010 000 токенов. Основные сценарии применения — программирование, агентная работа с кодом, анализ репозиториев, фронтенд-разработка, рассуждения по длинному контексту и задачи, требующие обработки текста и изображений. README не указывает полный перечень поддерживаемых языков. К сильным сторонам относятся большой контекст, ориентация на coding agent-сценарии, поддержка сохранения контекста рассуждений и снижение требований к памяти благодаря AWQ-квантованию до 6 бит; размер файлов модели составляет около 26 GiB. Ограничения включают возможные потери качества относительно исходной модели из-за квантования, отсутствие опубликованных в README подробных результатов именно для этой квантованной версии и зависимость от совместимых версий vLLM, Transformers и CUDA. Для запуска рекомендуются vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0; при использовании tensor parallelism на 8 GPU требуется expert parallelism. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-35B-A3B-UD-MLX-4bit — 4-битная MLX-версия открытой мультимодальной модели Qwen3.6-35B-A3B. Модель разработана командой Qwen, а данная адаптация опубликована Unsloth. Это авторегрессионная языковая модель с vision encoder, предназначенная для генерации текста, анализа изображений, программирования и агентных сценариев. Модель имеет 35 млрд параметров, из которых 3 млрд активируются при обработке запроса. Архитектура сочетает Mixture of Experts с 256 экспертами, Gated DeltaNet и Gated Attention; содержит 40 слоёв и скрытое измерение 2048. Нативная длина контекста составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Поддерживаются текстовая и визуальная модальности, однако конкретный набор языков в README не указан. К сильным сторонам относятся улучшенная работа с кодированием, репозиториями и frontend-задачами, поддержка сохранения контекста рассуждений между сообщениями и улучшенный вызов инструментов, включая вложенные объекты. 4-битное представление снижает требования к памяти и подходит для запуска через MLX, но может уступать полноразмерным вариантам по точности, а производительность зависит от совместимого оборудования и программного окружения. Модель распространяется по лицензии Apache-2.0.

Qwen3.7-Max — флагманская модель серии Qwen3.7, разработанная Alibaba. Она принимает и выдаёт текст и предназначена для агентных сценариев, включая программирование, работу с офисными задачами и повышение продуктивности. Карточка модели отмечает сильные стороны в задачах кодирования и офисной работы. В метаданных Hugging Face указана задача генерации текста и дата публикации 21 мая 2026 года. Сведений о размере, длине контекста, языках, лицензии и ограничениях в доступных материалах нет.

Qwen3.8-9B MLX MXFP4 — это квантованная версия модели empero-ai/Qwen3.8-9B, подготовленная schsu для локального запуска на компьютерах Mac с Apple silicon. Исходная модель разработана Empero и представляет собой полнопараметрическую дистилляцию Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B на основе примерно 70 000 отобранных трасс учителя, посвящённых математике, программированию, рассуждениям, следованию инструкциям и использованию инструментов. Модель предназначена для генерации текста, решения задач, программирования, рассуждений, выполнения инструкций и сценариев с tool use и function calling. Она поддерживает английский язык; в комплект входят токенизатор, конфигурация генерации и chat template. Модель содержит 9,65 млрд параметров, использует архитектуру Qwen3.5-9B и 4-битное weight-only-квантование MXFP4 (E2M1) с размером группы 32. Средний размер хранения составляет 4,251 бита на вес, размер квантованного checkpoint — около 4,5 ГБ, архитектурный предел контекста — до 262 144 токенов. К сильным сторонам относятся локальная работа на Apple silicon, поддержка явного режима рассуждений, вызова функций и многошагового взаимодействия с инструментами, а также компактный размер по сравнению с полноразмерными весами. Практические требования к памяти зависят от длины контекста и характеристик устройства, поскольку KV-кэш растёт вместе с активным контекстом; приведённые показатели скорости и потребления памяти являются лишь локальным smoke-тестом и не заменяют комплексные бенчмарки. Для работы требуются современная macOS, Python 3.10 или новее, mlx-lm версии 0.31.3 или новее и mlx версии 0.32.0 или новее. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3-VL-235B-A22B-Thinking-AWQ — квантизированная AWQ-версия мультимодальной модели Qwen3-VL-235B-A22B-Thinking из семейства Qwen, разработанного командой Qwen. Репозиторий содержит веса для генерации текста с поддержкой визуальных входных данных, включая изображения и видео, а также задач компьютерного зрения и взаимодействия с графическими интерфейсами. Модель предназначена для визуально-текстового понимания и рассуждений, распознавания объектов и текста, анализа документов, пространственного восприятия, STEM- и математических задач, генерации кода и выполнения агентных сценариев. Заявлены возможности работы с GUI, временной привязки событий в видео, OCR на 32 языках и обработки длинного контекста: нативно до 256 тысяч токенов с заявленным расширением до 1 миллиона. Архитектура — Mixture-of-Experts (MoE), общий размер 235B параметров, из которых 22B активны; применяются Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. AWQ-квантизация уменьшает требования к памяти по сравнению с полноразмерными весами, однако модель остаётся очень крупной: размер файлов указан как 117 GB. В README приведён сценарий запуска через vLLM с tensor parallelism на 8 GPU и включённым expert parallelism; для этой конфигурации указана максимальная длина контекста 32 768 токенов, что может отличаться от возможностей исходной модели. Для инференса рекомендуются vLLM и qwen-vl-utils. Лицензия — Apache-2.0.

Qwen3-VL-30B-A3B-Thinking-FP8 — мультимодальная vision-language модель семейства Qwen, разработанная командой Qwen. Это FP8-квантизированная версия модели Qwen3-VL-30B-A3B-Thinking с fine-grained-квантизацией и размером блока 128; заявлено, что её показатели почти идентичны исходной версии в формате BF16. Модель предназначена для генерации и понимания текста, анализа изображений и видео, визуального рассуждения, OCR, пространственного анализа, STEM- и математических задач, а также взаимодействия с графическими интерфейсами и инструментами. Модель использует архитектуру MoE с 30 млрд параметров и 3 млрд активных параметров. Среди заявленных компонентов — Interleaved-MRoPE для временных и пространственных признаков, DeepStack для объединения многоуровневых визуальных признаков и выравнивание текста с временными метками для анализа событий в видео. Поддерживаются текст, изображения и видео; заявлен нативный контекст 256K с возможностью расширения до 1M. OCR поддерживает 32 языка, однако полный перечень языков в README не указан. Сильные стороны модели — развитое мультимодальное понимание, обработка длинного контекста, анализ пространственных отношений и видеодинамики, распознавание текста на сложных изображениях, а также возможности визуального кодирования и агентного взаимодействия. Ограничения включают отсутствие прямой поддержки загрузки этих весов в Transformers на момент публикации README; для развёртывания рекомендованы vLLM или SGLang. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-VL-32B-Instruct-unsloth-bnb-4bit — 4-битная версия модели Qwen3-VL-32B-Instruct, подготовленная Unsloth на базе модели Qwen. Это мультимодальная vision-language модель для понимания и генерации текста по изображениям и видео, а также для работы с чистым текстом. Модель предназначена для описания и анализа изображений, визуального и пространственного рассуждения, распознавания текста, понимания длительных видеоматериалов, STEM- и математических задач, генерации кода и взаимодействия с графическими интерфейсами. Заявлены возможности визуального агента для работы с GUI, поддержка 2D- и 3D-пространственного анализа, а также OCR для 32 языков. Архитектурные компоненты включают Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками. Контекст составляет 256K токенов с возможностью расширения до 1M. Это instruct-модель с 32B параметров в исходной конфигурации, представленная в 4-битном формате bitsandbytes для снижения требований к памяти. К сильным сторонам относятся объединённое понимание текста и визуальных данных, расширенное восприятие изображений и видео, длинный контекст и агентские сценарии. Ограничения, включая возможные потери качества из-за квантизации и требования к вычислительным ресурсам, в README подробно не описаны. Указана лицензия Apache-2.0.

SJT-7B-1M — разговорная языковая модель Sakalti, созданная слиянием моделей через mergekit. В качестве основы использована Qwen/Qwen2.5-7B-Instruct-1M, объединённая с Sakalti/model-3 методом TIES. Модель построена на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 1 010 000 токенов. Метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors; README указывает тип float16. Лицензия в предоставленных данных не указана.

Surya OCR 2 — модель Datalab для распознавания и структурирования документов. Это плотная мультимодальная модель семейства Qwen3.5 с 650 млн параметров, которая принимает изображения и обрабатывает страницы документов как единая VLM. Она выполняет OCR, анализ структуры и порядка чтения, а также распознавание таблиц; заявлена поддержка 91 языка по внутреннему тестированию. Модель подходит для извлечения текста и структуры из изображений и PDF, включая таблицы, заголовки, формы и математические выражения. В README указаны результат 83,3% на olmOCR-bench и пропускная способность около пяти страниц в секунду на RTX 5090; это результаты авторов и конкретной конфигурации. Для инференса OCR, анализа структуры и таблиц требуется сервер vLLM или llama.cpp. Модель специализируется на документах, а не на фотографиях или природных сцен. Код Surya распространяется по Apache 2.0, но веса — по модифицированной лицензии AI Pubs Open Rail-M: бесплатное использование разрешено для исследований, личных проектов и стартапов с финансированием или выручкой менее 5 млн долларов. Для более широкого коммерческого использования весов требуется отдельная лицензия.

VSR Embeddings v1 Text Nano — компактный мультиязычный текстовый энкодер семейства ModernBERT от Xunzhuo, дообученный на базе llm-semantic-router/mmbert-embed-32k-2d-matryoshka. Модель независимо кодирует текстовые фрагменты двунаправленным энкодером и предназначена для семантической маршрутизации, сопоставления текстов, поиска по эмбеддингам и извлечения релевантных фрагментов. Она содержит 306,9 млн параметров, поддерживает контекст до 32 768 токенов и выдаёт векторы размерности 768, которые можно сокращать до 512, 256, 128 или 64 измерений с повторной нормализацией. Модель рассчитана на высокую пропускную способность и низкую задержку, в том числе для семантического кэширования, удаления дубликатов запросов, кластеризации, поиска по карточкам моделей и классификации по прототипам. Для длинных документов автор рекомендует разбивать текст на перекрывающиеся фрагменты и оценивать максимум сходства запроса с фрагментами, а не полагаться на один общий вектор документа. Доступна под лицензией Apache-2.0. Векторное сходство не является откалиброванным решением для безопасности или политик. Качество выбранной размерности эмбеддинга следует проверять на целевом индексе.

vSR Embeddings v1 Text Small — мультиязычная модель текстовых эмбеддингов, разработанная Xunzhuo для семантического поиска, сопоставления текстов, кластеризации и маршрутизации запросов в AI-шлюзах. Это дообученная плотная модель семейства Qwen3 примерно на 508 млн параметров, распространяемая в формате safetensors по лицензии MIT. Модель использует инструкции для ролей запроса и документа и поддерживает Matryoshka-векторы размерностью 1024, 512, 256, 128 или 64, позволяя выбирать баланс между скоростью и точностью. Для длинных документов README описывает разбиение на фрагменты по 320 токенов с перекрытием 64 токена и оценивание по максимальному сходству запроса с фрагментами; заявленный рабочий предел такого сценария — 32 тысячи токенов. Нативное окно контекста — 32 768 токенов. Модель предназначена для высокопроизводительного поиска и маршрутизации; в README приведены результаты MTEB Multilingual v2 и профиль производительности на AMD MI300X, которые зависят от конфигурации сервера. Это биэнкодер для получения эмбеддингов, а не кросс-энкодер-реранкер и не классификатор безопасности на уровне последовательности.

Youtu-LLM-2B — инструктивная языковая модель Tencent для диалогов, рассуждений и выполнения задач агентного типа. Это плотная авторегрессионная модель с архитектурой YoutuForCausalLM и механизмом Dense MLA; в ней около 2 млрд параметров, 32 слоя и словарь из 128 256 токенов. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режим рассуждений, включаемый через шаблон диалога. Модель предназначена для чат-ботов, ответов на вопросы, задач STEM и программирования, работы с длинными контекстами и многошаговых агентных сценариев. Карточка приводит сравнительные результаты на общих и агентных бенчмарках, но эти оценки не гарантируют качество на конкретных данных. В репозитории указана лицензия other; конкретные условия следует сверять с текстом лицензии проекта.

Youtu-Parsing — специализированная модель Tencent для разбора документов, созданная на основе Youtu-LLM 2B. Она сочетает языковую модель с визуальным энкодером динамического разрешения в стиле NaViT и предназначена для извлечения структуры и содержания из изображений документов. Архитектура модели — YoutuVLForConditionalGeneration; число параметров — 2,1 млрд, контекст — до 20 480 токенов. Модель принимает изображения документов и выдаёт текст с распознанным содержимым и его структурой. Модель локализует текстовые области, восстанавливает порядок чтения и распознаёт текст, таблицы, формулы и диаграммы. Формулы преобразуются в LaTeX, таблицы — в HTML, а диаграммы могут представляться таблицами Markdown, картами мыслей или схемами Mermaid. README заявляет ускорение вывода в 5–11 раз за счёт параллельной обработки токенов и дополнительное ускорение запросов примерно вдвое. Модель предназначена для анализа документов и исследований и разработок в области понимания документов. В метаданных указан интерфейс Transformers и формат Safetensors. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в лицензии репозитория.

airoboros-65b-gpt4-m2.0 — плотная авторегрессионная модель семейства LLaMA на 65 млрд параметров, разработанная Jon Durbin и дообученная для следования инструкциям на синтетических данных Airoboros. Версия m2.0 объединяет данные набора 1.4.1 без дубликатов и категории system с данными GPT-4, созданными на основе версии от июня 2023 года; исходная серия также включала данные GPT-4 от марта 2023 года. Модель предназначена для диалога и генерации текста по инструкциям: ответов на вопросы по предоставленному контексту, помощи с программированием, планирования шагов для задач с инструментами и генерации аргументов функций в JSON или YAML. Для общения используется текстовый шаблон с ролями USER и ASSISTANT. Контекст составляет 2048 токенов. Модель обучена с QLoRA; README отмечает, что варианты 65B основаны на оригинальной LLaMA, а не Llama 2. Карточка описывает модель как дающую подробные ответы, ориентированную на использование контекста в закрытых вопросах и включающую примеры планирования и вызова функций. Возможны галлюцинации, особенно если запрос не содержит достаточных сведений; для вопросов по контексту автор рекомендует явно просить не придумывать ответ. Модель выпускается по лицензии CC BY-NC 4.0, допускающей использование с указанием авторства и ограничивающей коммерческое применение.

Caption-Pro — дообученная мультимодальная модель prithivMLmods для создания подробных описаний и структурированных аннотаций изображений. Она основана на Qwen/Qwen2-VL-2B-Instruct и использует архитектуру Qwen2-VL с примерно 1,5 млрд параметров; принимает изображения и текстовые запросы, а выдаёт текст, в том числе аннотации в формате JSON. Заявлены контекст до 32 768 токенов, поддержка диалогового режима и OCR для текста на нескольких языках, включая английский, китайский, японский, корейский и арабский. Модель предназначена для автоматического описания изображений, извлечения текста и подготовки структурированных данных для приложений, баз данных и конвейеров автоматизации. Карточка заявляет обучение на большом наборе аннотированных изображений, но не приводит подробностей датасетов или результатов оценивания. Модель распространяется по лицензии Apache-2.0.

DeepSeek-R1-Distill-Llama-70B — плотная авторегрессионная языковая модель семейства Llama, разработанная DeepSeek и дообученная на примерах рассуждений, сгенерированных DeepSeek-R1. Она предназначена для диалогов и задач, требующих многошагового анализа: решения математических задач, программирования и ответов на сложные вопросы. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и генерирует текст; в метаданных также заявлен интерфейс для вызова инструментов. Карточка сообщает о результатах серии дистиллированных моделей на математических, кодовых и научных тестах, но не приводит отдельные показатели именно для версии Llama-70B. Репозиторий распространяется по лицензии MIT. README отмечает, что настройки токенизатора и конфигурации были изменены, и рекомендует использовать настройки DeepSeek для запуска.

G9v3-39A5B — причинная языковая модель AI9Stars для диалогового помощника, генерации кода, использования инструментов и задач на рассуждение. Модель построена по архитектуре Mixture-of-Experts: в карточке указаны 39 млрд параметров суммарно и около 5 млрд активируемых на токен. Метаданные каталога при этом описывают архитектуру как плотную, поэтому сведения о разреженной MoE-структуре расходятся. Модель поддерживает режимы Think и No Think и контекст до 131 072 токенов. Предназначена для локального и самостоятельного развёртывания; для работы указана библиотека Transformers. Заявленная поддержка языков — английский и китайский. Модель распространяется по лицензии Apache-2.0. Как предварительный выпуск, модель может менять поведение между версиями. Ответы могут быть неточными, предвзятыми или небезопасными; их следует проверять, особенно перед применением в значимых решениях.

unsloth/gemma-4-E2B-it-GGUF — это GGUF-версия инструкционно дообученной мультимодальной модели Gemma 4 E2B, разработанной Google DeepMind и подготовленной сообществом Unsloth. Модель предназначена для локального запуска на ноутбуках и мобильных устройствах, а также для задач генерации и понимания текста, рассуждений, программирования, агентных сценариев и вызова функций. Модель имеет плотную архитектуру с эффективным размером около 2,3 млрд параметров и примерно 5,1 млрд параметров с учётом эмбеддингов, 35 слоями и гибридным механизмом внимания, сочетающим локальное скользящее окно на 512 токенов с глобальным вниманием. Контекстное окно составляет 128K токенов, словарь — 262K токенов. Поддерживаются текст, изображения и аудио на входе с генерацией текста на выходе; заявлена работа более чем со 140 языками. Для обработки изображений используется энкодер примерно на 150 млн параметров, аудио — примерно на 300 млн. К сильным сторонам относятся мультимодальность, большое контекстное окно, режимы настраиваемого рассуждения, улучшенные возможности программирования, нативная поддержка системных промптов и function calling, а также ориентация на эффективное выполнение на локальных устройствах. Ограничения включают меньший размер и, вероятно, более ограниченные возможности по сравнению с крупными моделями семейства Gemma 4; конкретный уровень качества и требования к памяти зависят от используемой GGUF-квантизации, параметры которой в карточке не указаны. Модель распространяется по лицензии Apache 2.0.

Arli AI выпустила Derestricted-версию GLM-4.6-REAP-268B-A32B, разреженной языковой модели семейства GLM с архитектурой Mixture of Experts. Веса изменены методом Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа и сохранить нормы весов; это не обычная квантизация. Базовая модель была сжата методом REAP: из 160 экспертов оставлено 120, а всего в ней 268 млрд параметров, из которых активируются 32 млрд на токен. Для этой версии README не приводит отдельные результаты оценки качества. Модель предназначена для генерации текста и диалогов, рассуждений, написания кода и агентных сценариев; унаследованные возможности базовой модели включают вызов функций. Она поддерживает английский язык и контекст до 202 752 токенов. Для запуска требуется совместимая инфраструктура с большим объёмом памяти; базовая модель описана как совместимая с актуальным vLLM. Лицензия — MIT.

GLM-4.6-REAP-268B-A32B-GGUF — сжатая GGUF-версия модели GLM-4.6, подготовленная Unsloth на основе варианта cerebras/GLM-4.6-REAP-268B-A32B. Модель использует метод REAP (Router-weighted Expert Activation Pruning), при котором равномерно удалено 25% экспертов исходной Mixture-of-Experts-модели. Она предназначена для генерации текста, программного кода, агентных рабочих процессов, понимания репозиториев и function calling, особенно в условиях ограниченных ресурсов, локального развертывания и академических исследований. Это разреженная causal language model с 268B параметров, из которых 32B активируются для каждого токена. Архитектура включает 92 слоя, 120 экспертов вместо исходных 160, 8 активируемых экспертов на токен и GQA с 96 головами Q и 8 головами KV. Контекстное окно составляет 202 752 токена. Заявляется сохранение почти идентичной производительности относительно полной 355B-версии при снижении требований к памяти примерно на 25%; при этом отдельные оценки для BF16-версии в README не приведены. Модель поддерживает развертывание через актуальный vLLM, а GGUF-файл содержит исправления chat template Unsloth и рассчитан на использование с параметром --jinja в llama.cpp. К преимуществам относятся однократное сжатие без дополнительного дообучения, сохранение независимого управления экспертов маршрутизатором и совместимость с vLLM без модификации исходного кода. Для запуска требуется значительный объём вычислительной памяти из-за общего размера модели, поэтому в README рекомендуется снижать максимальное число одновременно обрабатываемых последовательностей при нехватке памяти. Указана лицензия MIT.

PhalaCloud/GLM-5.2-W4AFP8 — это квантизированная версия GLM-5.2, разработанного zai-org. Модель предназначена для генерации текста, рассуждений, точного следования инструкциям, работы с длинным контекстом и вызова инструментов. Указаны поддерживаемые языки English и Chinese; модель работает в текстовом режиме. Модель сохраняет полный объём 753 млрд параметров и использует архитектуру Mixture-of-Experts. Маршрутизируемые экспертные веса квантизированы до 4 бит с group size 128 и FP8-активациями, а отдельные компоненты, включая attention и MTP-слой, остаются в FP8 или BF16. На одном узле с 8 GPU H200 поддерживается контекст до 1 млн токенов. Квантизация рассчитана на снижение потребления памяти без измеримой потери качества относительно FP8-версии; заявлена поддержка EAGLE speculative decoding. По приведённым тестам модель показывает высокие результаты в reasoning, instruction following, long-context reasoning и tool calling, а также извлекает данные из контекста длиной около 983 тысяч токенов. Основные ограничения — необходимость GPU Hopper с SM90, проверенная совместимость только с SGLang версии 0.5.13.post1 или новее и непроверенная работа с vLLM и другими движками. Модель распространяется по лицензии MIT, унаследованной от GLM-5.2.

NVIDIA GLM-5.3-Flash NVFP4 — квантизированная версия модели GLM-5.3-Flash, разработанной ZAI и подготовленной NVIDIA с использованием Model Optimizer. Это авторегрессионная мультимодальная модель на базе оптимизированной Transformer-архитектуры с Mixture-of-Experts (MoE), гибридным механизмом разреженного и линейного внимания и Manifold-Constrained Hyper-Connections (mHC). Общее число параметров составляет 320 млрд, из них активируется 18 млрд. Модель предназначена для рассуждений, программирования и агентных задач, а также для чат-ботов, RAG-систем и других приложений на базе ИИ. Она принимает текст, изображения и видео, включая RGB-изображения и видео в форматах MP4/WebM, и генерирует текст. Заявлена поддержка контекста длиной до 1 млн токенов, однако сведения о поддерживаемых языках отсутствуют. Модель оптимизирована для инференса на GPU NVIDIA, в частности на архитектуре Blackwell, и поддерживает запуск через vLLM и SGLang в Linux. Квантизация весов и активаций в формат NVFP4 уменьшает вычислительные требования по сравнению с полной версией, но README не содержит количественных оценок качества, скорости или потребления памяти. Данные обучения не раскрыты; для калибровки использовались CNN/Daily Mail и Nemotron-Post-Training-Dataset-v2. Модель распространяется по лицензии MIT и разрешена для коммерческого и некоммерческого использования.

GLM-OCR — мультимодальная модель оптического распознавания символов и понимания документов от zai-org. Она построена на архитектуре GLM-V encoder–decoder: использует визуальный энкодер CogViT, межмодальный коннектор с уменьшением числа токенов и языковой декодер GLM-0.5B. Общее число параметров — 0,9 млрд; модель распространяется в формате safetensors и работает через Transformers. Модель предназначена для распознавания текста и формул, извлечения таблиц, разбора документов и получения структурированных сведений по заданной JSON-схеме. Для полного разбора документов авторы рекомендуют SDK, объединяющий модель с анализом макета PP-DocLayout-V3; модель также можно запускать отдельно для извлечения информации. Заявлена поддержка китайского, английского, французского, испанского, русского, немецкого, японского и корейского языков. В README приведены результаты тестов на наборах для понимания документов и скорости обработки, но они не гарантируют аналогичных показателей на иных данных и оборудовании. Модель распространяется по лицензии MIT. Для извлечения информации требуется строго задавать JSON-схему; готовый SDK для разбора документов не предназначен для этого сценария.

Карточка модели GorgiasML/gpt-oss-20b на Hugging Face совпадает с карточкой Sprinter-Spb/gpt-oss-20b, поэтому описание составлено по ней. Sprinter-Spb/gpt-oss-20b — размещённая пользователем версия открытой модели gpt-oss-20b от OpenAI. Это языковая модель с архитектурой Mixture of Experts и классом GptOssForCausalLM; в README для исходной модели указаны 21 млрд параметров и 3,6 млрд активных параметров, а метаданные этой карточки сообщают 1,6 млрд параметров. Модель ориентирована на диалог, рассуждения, агентные сценарии и задачи разработчиков. Она принимает текст в формате Harmony, поддерживает вызов функций и настройку уровня рассуждений; заявленная длина контекста — 131 072 токена. Модель рассчитана на более низкую задержку и локальное использование; README указывает, что вариант gpt-oss-20b с MXFP4 может работать в пределах 16 ГБ памяти. Среди сценариев — ответы на вопросы, генерация текста и кода, использование инструментов и структурированный вывод. Карточка описывает семейство как тонко настраиваемое, но не сообщает о специальном дообучении этой версии Sprinter-Spb. Модель распространяется по лицензии Apache-2.0. Для корректной работы требуется формат Harmony; README также предупреждает, что цепочку рассуждений не следует показывать конечным пользователям.

Granite-3.1-8B-Instruct — инструктивная языковая модель команды Granite компании IBM, опубликованная Red Hat AI. Это плотная модель на 8,2 млрд параметров, полученная дообучением Granite-3.1-8B-Base на открытых наборах инструкций и внутренних синтетических данных; в обучении использовались supervised fine-tuning, обучение с подкреплением для выравнивания и слияние моделей. Она предназначена для диалогов, следования инструкциям, генерации текста и работы с длинным контекстом; поддерживает интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Модель поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Доступна в формате safetensors и распространяется по лицензии Apache 2.0. README сообщает о проверке на платформах Red Hat AI и рекомендует развёртывание через vLLM; конкретный пример конфигурации ограничивает длину контекста 32 768 токенами.

Hunyuan-A13B-Instruct — чат-модель Tencent для генерации текста и ответов на инструкции. Она построена на архитектуре Mixture-of-Experts (MoE) с Grouped Query Attention; README указывает 80 млрд параметров всего и 13 млрд активных при выводе. В метаданных репозитория при этом указано 3,1 млрд параметров, поэтому размер модели в карточке и метаданных расходится. Модель предназначена для диалога, сложных рассуждений, математики, научных вопросов, программирования и агентных сценариев с вызовом инструментов. Поддерживает режимы быстрого и пошагового рассуждения, а README заявляет контекст до 256K токенов. Метаданные указывают контекст 32 768 токенов; доступные сведения не позволяют разрешить это расхождение. Для запуска описана поддержка Transformers, TensorRT-LLM, vLLM и SGLang. В README приведены конкурентные результаты на бенчмарках математики, науки, кода, рассуждений и агентных задач, но они не гарантируют аналогичного качества в прикладных сценариях. Языковая поддержка отдельно не перечислена. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в файле LICENSE репозитория.