I.14Автоматизация процессов и AI-агенты

Карточка модели Reeves289/Spark-X2.5-4B на Hugging Face совпадает с карточкой XHToken/Spark-X2.5-4B, поэтому описание составлено по ней. Spark-X2.5-4B — компактная универсальная языковая модель от XHToken, представленная в виде дообученного чекпойнта для Transformers. Она содержит 3,8 млрд параметров и использует плотную архитектуру Spark2_5 с чередованием одного слоя полного внимания и трёх слоёв скользящего оконного внимания. Модель рассчитана на контекст до 1 048 576 токенов и, по заявлению разработчиков, поддерживает более 200 языков. Модель предназначена для диалога, написания и перевода текстов, рассуждений, программирования, следования инструкциям, вызова инструментов и агентных сценариев. Разработчики сообщают о предварительном обучении на примерно 20 трлн токенов и последующем дообучении с учителем и усилением; веса доступны в формате Safetensors и совместимы с Transformers. Для эксплуатации заявлена поддержка нескольких аппаратных платформ и сред инференса, включая vLLM, SGLang, llama.cpp, MLX, Ollama и LM Studio. Модель распространяется по лицензии Apache-2.0. Окно в миллион токенов требует достаточной памяти устройства; в README советуют уменьшить длину контекста при нехватке памяти. Заявления о сравнительных результатах принадлежат разработчикам и зависят от режима оценки и настроек генерации.

Xing4.0-29B-A4B-GGUF — большая языковая модель серии Xing, разработанная China Telecom Artificial Intelligence Technology Co., Ltd. Это GGUF-представление модели Xing4.0-29B-A4B с квантованием смешанной точности IQ4_NL; размер файла составляет около 18 ГБ, что позволяет запускать модель на одной пользовательской видеокарте. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста, сложного рассуждения, программирования, инженерных задач, многошагового планирования, вызова инструментов и агентских сценариев. Она также подходит для дообучения под прикладные задачи, включая классификацию намерений, анализ таблиц, аудит договоров и ответы на вопросы по корпоративным знаниям. Заявлена совместимость с Transformers, vLLM, SGLang, KTransformers, LLaMA-Factory и MindFormers, а также с рядом агентских фреймворков. Архитектура включает MoE с 29 млрд общих параметров и 4 млрд активных параметров на токен, 40 слоёв, скрытый размер 3584, MLA-attention, 64 маршрутизируемых эксперта, 4 активных эксперта на токен и одного общего эксперта. Модель поддерживает контекст 256 тысяч токенов с возможностью расширения до 512 тысяч. Указана поддержка режима рассуждений, который можно включать или отключать при инференсе. README не сообщает полный список поддерживаемых языков и не описывает мультимодальные возможности, поэтому модель следует считать текстовой. Сильными сторонами являются большой контекст, высокая эффективность MoE при инференсе, ориентация на агентские и программные задачи, а также возможность локального запуска и доменной адаптации. Ограничения включают необходимость совместимого инференс-стека и значительный объём памяти; показатели бенчмарков приведены авторами README и могут зависеть от настроек оценки. Сведения о безопасности, фильтрации контента и конкретных языковых ограничениях не указаны.

Карточка модели TOTORONG/Bethesda_John5 на Hugging Face совпадает с карточкой Qwen/Qwen3.8-27B, поэтому описание составлено по ней. Qwen3.8-27B — плотная мультимодальная модель семейства Qwen от команды Qwen. Это постобученная причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров и построенная на архитектурной основе Qwen3.5. Репозиторий включает веса и конфигурацию в формате Hugging Face Transformers; модель также совместима с vLLM, SGLang и другими средами инференса. Лицензия — Apache-2.0. Модель предназначена для диалогов, программирования, профессиональных и исследовательских задач, а также многошаговых агентных сценариев. Она принимает текст, изображения и видео и умеет разбирать документы, диаграммы и длительные видеоматериалы. Режим рассуждения включён по умолчанию, его можно отключить для отдельного запроса, а глубину настраивать параметром reasoning_effort. Контекст составляет 262 144 токена и может расширяться до 1 000 000 токенов. Архитектура сочетает Gated DeltaNet, Gated Attention и FFN-блоки; предусмотрено обучение с Multi-Token Prediction. В карточке заявлены улучшения планирования и выполнения задач с учётом обратной связи среды, однако приведённые описания бенчмарков сами по себе не гарантируют качество в конкретном применении. Модель ориентирована на применение и распространяется по лицензии Apache-2.0.

Cogito v1 preview 70B — диалоговая языковая модель, разработанная Deep Cogito и дообученная на базе Meta Llama 3.1 70B. Модель содержит 69,5 млрд параметров, использует архитектуру Llama с плотной авторегрессионной сетью и предназначена для генерации текста, следования инструкциям и общения. Модель поддерживает два режима ответа: прямой и с дополнительным рассуждением, которое можно включить через системную инструкцию или параметр шаблона чата. Она ориентирована на программирование, STEM-задачи, многоязычные запросы, вызов инструментов и общую помощь; заявлена поддержка более 30 языков и контекст до 128 тыс. токенов. Модель работает с текстом на входе и выдаёт текст. По заявлению разработчика, Cogito обучалась методом Iterated Distillation and Amplification и показывает результаты выше сопоставимых по размеру моделей на стандартных отраслевых тестах. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия Llama 3.1 допускает коммерческое использование с соблюдением её условий.

DeepSeek-V3-0324 — языковая модель, разработанная компанией DeepSeek (深度求索). Это улучшенная версия DeepSeek-V3, ориентированная на задачи рассуждения, программирования и веб-разработки, написания и редактирования текстов на китайском языке, перевода, анализа отчётов, веб-поиска и Function Calling. По данным карточки, модель демонстрирует улучшения по сравнению с предыдущей версией в бенчмарках MMLU-Pro, GPQA, AIME и LiveCodeBench. Также заявлены более исполнимый код, более качественные веб-страницы и игровые интерфейсы, улучшенное многошаговое редактирование, написание писем и средних и длинных текстов на китайском языке, а также более точный вызов функций. Поддержка мультимодальности, архитектура, размер модели, максимальная длина контекста и полный перечень языков в README не указаны. Для использования рекомендуется учитывать настройки официальных веб- и мобильных приложений: базовая температура модели составляет 0,3, а системный промпт идентифицирует ассистента как DeepSeek Chat, созданного DeepSeek, и содержит текущую дату. Условия лицензии указаны явно: MIT, что допускает использование, модификацию и распространение модели в рамках условий этой лицензии.

NVIDIA DeepSeek-V4-Pro-NVFP4 — квантизированная версия языковой модели DeepSeek-V4-Pro, разработанная и подготовленная с помощью NVIDIA Model Optimizer v0.44. Базовая модель создана сторонней организацией и не принадлежит NVIDIA; NVIDIA выполнила её квантизацию под данный сценарий использования. Модель распространяется по лицензии MIT и допускает коммерческое и некоммерческое применение. Модель предназначена для генерации текста, сложного рассуждения, математических задач, программной инженерии, агентных приложений, вызова инструментов и корпоративных AI-ассистентов. Она поддерживает многоходовые диалоги с системными, пользовательскими и ассистентскими сообщениями, структурированный JSON-вывод, function calling и выдачу рассуждений в соответствующем режиме. Доступны режимы Non-think для быстрого ответа, Think High для логического анализа и Think Max для максимально глубокого рассуждения. Архитектура построена на Transformer и Mixture-of-Experts с гибридным вниманием, включающим Compressed Sparse Attention и Heavily Compressed Attention. Общее число параметров составляет около 1,6 трлн, из них активируется 49 млрд. Модель работает с текстом, использует контекст до 1 млн токенов и поддерживает пользовательский конвейер кодирования encoding_dsv4. NVFP4-квантизация применяется к весам и активациям линейных операторов в MoE-блоках. Для запуска заявлены SGLang и vLLM на Linux-системах с GPU NVIDIA Blackwell, тестирование проводилось на NVIDIA B200. Ограничения включают высокие требования к совместимой аппаратуре и необходимость дополнительного тестирования на данных конкретного применения; сведения о языках модели, обучающих данных и полном наборе характеристик базовой DeepSeek-V4-Pro в карточке не раскрыты.

unsloth/gemma-4-26B-A4B-it-GGUF — квантизированная GGUF-версия инструкционно дообученной модели google/gemma-4-26B-A4B-it. Семейство Gemma 4 разработано Google DeepMind, а данную сборку подготовила Unsloth. Модель предназначена для генерации текста, программирования, рассуждений, мультимодального анализа и агентских сценариев с поддержкой вызова функций. Модель относится к архитектуре Mixture-of-Experts (MoE): в названии указаны 26B общих параметров и около 4B активных параметров. Gemma 4 поддерживает текстовые и графические входы с генерацией текста, а также мультиязычную работу более чем со 140 языками. Для моделей среднего размера заявлено контекстное окно до 256K токенов. Архитектура использует гибридное внимание с чередованием локального sliding window attention и глобального внимания, что снижает требования к памяти при обработке длинного контекста. К сильным сторонам относятся режимы настраиваемого рассуждения, улучшенные возможности программирования, native function calling, поддержка системных промптов и пригодность для развёртывания на потребительских GPU и рабочих станциях. Ограничения конкретного GGUF-файла, включая точный уровень квантизации, требования к памяти и возможное снижение качества по сравнению с полноточной моделью, в README не указаны. Модель распространяется по лицензии Apache 2.0.

Gemma-4-26B-A4B-text-base — текстовая версия модели Gemma 4, опубликованная wyattearp на основе Google Gemma-4-26B-A4B-it. Веса языкового трансформера сохранены без изменений, а компоненты обработки изображений и аудио удалены. Это модель типа MoE с 26 млрд параметров и примерно 4 млрд активных параметров на токен; она выдаёт текст и предназначена для генерации, диалогов, рассуждений, программирования и вызова инструментов. Длина контекста — 262 144 токена. Репозиторий содержит веса BF16 в формате safetensors для использования с Transformers и vLLM. Удаление мультимодальных компонентов упрощает языковый инференс и снижает требования к памяти, но модель не обрабатывает изображения или аудио. В README описана проблема совместимости парсера вызова инструментов в vLLM и связанное с ней исправление. Лицензия — Gemma.

unsloth/gemma-4-E2B-it — дообученная Unsloth версия мультимодальной Gemma 4 E2B IT от Google DeepMind. Это плотная модель условной генерации с гибридным вниманием: локальные окна чередуются с глобальным вниманием. Она предназначена для диалогов, рассуждений, работы с инструментами, программирования и анализа изображений; карточка указывает контекст до 128 тыс. токенов для E2B/E4B и поддержку более чем 35 языков. Репозиторий содержит веса в формате safetensors. Модель подходит для визуальных вопросов и ответов, извлечения данных из документов, распознавания текста и содержимого диаграмм, понимания интерфейсов и генерации кода. Gemma 4 E2B также поддерживает аудиораспознавание и перевод речи в текст, однако карточка этого репозитория и его pipeline tag обозначают задачу image-text-to-text. Ответы могут содержать фактические ошибки, а качество зависит от формулировки запроса и охвата обучающих данных; модель может ошибаться в нюансах языка и здравом смысле. Лицензия — Apache-2.0.

cyankiwi/GLM-4.7-Flash-AWQ-4bit — 4-битная AWQ-квантизованная версия GLM-4.7-Flash, разработанной командой GLM и распространяемой организацией zai-org. Это языковая модель для генерации текста, рассуждений, программирования и агентских сценариев, включая взаимодействие с инструментами и решение задач, требующих многошагового планирования. Модель построена по архитектуре MoE с конфигурацией 30B-A3B: общий размер составляет около 30 млрд параметров, при этом на каждом шаге активируется примерно 3 млрд. Указаны поддерживаемые языки English и Chinese, библиотека Transformers и текстовая модальность. В README приведены настройки генерации с максимальной длиной нового вывода до 131 072 токенов, однако размер контекстного окна явно не указан. Для локального запуска заявлена совместимость с Transformers, vLLM и SGLang; для этой версии также требуется учитывать поддержку AWQ-квантизации используемым фреймворком. Сильными сторонами являются сочетание производительности и эффективности при локальном развертывании, а также результаты на задачах рассуждений, программирования, веб-поиска и взаимодействия с инструментами. Ограничениями выступают возможные потери качества из-за 4-битной квантизации и необходимость актуальных версий программного обеспечения для поддержки модели. В README указана лицензия MIT.

GLM-4.7-Flash-GGUF — это GGUF-версия модели GLM-4.7-Flash, подготовленная Unsloth на основе модели Z.ai. Это языковая модель для генерации текста с архитектурой MoE: 30 млрд параметров, из которых при обработке активируется около 3 млрд. Модель поддерживает английский и китайский языки; размер контекста в README не указан. Модель предназначена для общего диалога, рассуждений, программирования, агентских сценариев, вызова инструментов и локального развертывания. Заявлены сильные результаты на задачах математического и научного рассуждения, программирования, веб-поиска и взаимодействия с инструментами. Для локального запуска указана поддержка llama.cpp, vLLM, SGLang и Transformers; также допускается дообучение через Unsloth. Ключевое преимущество модели — сочетание высокой заявленной производительности с относительно компактным числом активных параметров, что делает её подходящей для более эффективного развертывания по сравнению с плотными моделями сопоставимого общего размера. Ограничения включают необходимость использовать актуальные версии некоторых фреймворков, а для GGUF-файлов — корректные параметры генерации; в README отдельно рекомендуется отключить repeat penalty и учитывать настройки temperature, top-p и min-p. Модель распространяется по лицензии MIT.

GLM-5.2 — языковая модель компании Z.ai для длительных многошаговых задач, включая диалог и программирование. Модель объёмом 30,4 млрд параметров построена на архитектуре GLM MoE DSA и использует механизм IndexShare для снижения вычислений при работе с длинным контекстом. Заявлена поддержка контекста до 1 048 576 токенов и режимов рассуждения с разным уровнем усилий. Модель предназначена для генерации текста и диалоговых сценариев, а также для разработки кода и работы с задачами, требующими обработки больших объёмов контекста. В карточке указана поддержка английского и китайского языков. Модель доступна в формате safetensors для Transformers; README также описывает запуск через SGLang, vLLM и другие фреймворки. Лицензия — MIT.

GLM-5.3-Flash — мультимодальная модель семейства GLM, разработанная zai-org. Она принимает текст и изображения и предназначена для диалогов, анализа визуальных данных, программирования и агентных сценариев с использованием инструментов. Модель имеет плотную архитектуру Glm5NextForConditionalGeneration с гибридным механизмом разреженного и линейного внимания; заявлены 320 млрд параметров, из которых активно используются 18 млрд. В репозитории представлены веса safetensors в формате FP8, библиотека для работы — Transformers. Разработчик сообщает о предварительном обучении на мультимодальном корпусе объёмом 30 трлн токенов и о поддержке длинного контекста, однако приведённые в README пределы контекста относятся к отдельным оценочным сценариям и не задают универсальный лимит модели. Можно регулировать объём рассуждений параметром reasoning_effort. В карточке указаны английский и китайский языки. Модель доступна под лицензией MIT. Заявления о сравнительных результатах и стоимости приведены разработчиком и зависят от условий тестирования и развёртывания.

GPT-5 — модель OpenAI для сложных задач, требующих рассуждений, точного выполнения инструкций и генерации качественного кода. В карточке модели отмечены улучшения в рассуждениях, качестве кода и удобстве взаимодействия. Модель предназначена для решения сложных задач и следования инструкциям. Каталог классифицирует её как image-text-to-text, однако README не описывает работу с изображениями или другие модальности, поэтому это назначение подтверждается только метаданными.

RedHatAI/gpt-oss-20b — открытая модель с открытыми весами, разработанная OpenAI и опубликованная Red Hat AI в валидированной сборке для Red Hat OpenShift AI, Red Hat AI Inference Server и vLLM. Модель предназначена для генерации текста, диалоговых приложений, задач рассуждения, агентных сценариев и вызова инструментов, включая function calling, веб-поиск, выполнение Python-кода и Structured Outputs. Это меньшая версия серии gpt-oss: модель содержит около 21 млрд параметров, из которых около 3,6 млрд активны при обработке запроса. Она использует архитектуру Mixture-of-Experts и посттренировочную MXFP4-квантизацию весов MoE, благодаря чему рассчитана на работу примерно в пределах 16 ГБ памяти и обеспечивает меньшую задержку по сравнению с gpt-oss-120b. Поддерживается английский язык; в карточке указана текстовая модальность и задачи text-to-text, text-generation и tool-calling. Доступна настройка интенсивности рассуждений: low, medium и high. Сильные стороны модели — открытые веса, низкие требования к памяти, возможность локального и специализированного развертывания, тонкой настройки и интеграции с инструментами. Ограничения и важные условия использования: модель должна работать в формате ответов Harmony, иначе она может функционировать некорректно; раскрываемую цепочку рассуждений не следует показывать конечным пользователям. В README не приведены количественные результаты тестов и полный размер контекстного окна. Модель распространяется по лицензии Apache 2.0, допускающей модификацию и коммерческое использование.

Granite-4.0-H-Small — инструктивная языковая модель команды Granite компании IBM для диалога, выполнения инструкций и создания текстовых ответов. По карточке это дообученная версия Granite-4.0-H-Small-Base с выравниванием и слиянием моделей; архитектура — decoder-only MoE-трансформер с GQA, Mamba2 и общими экспертами. Однако в метаданных указано 2,5 млрд параметров, тогда как README заявляет 32 млрд, поэтому размер модели по источникам расходится. Модель рассчитана на создание помощников для бизнес-сценариев. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, RAG, задачи с кодом, вызов функций и многоязычный диалог. Контекстное окно — 131 072 токена; основная модальность — текст, а возможности вызова инструментов описаны как часть диалогового интерфейса. README перечисляет английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Авторы отмечают, что качество на других языках может уступать английскому, а ответы могут быть неточными, предвзятыми или небезопасными; для конкретных задач рекомендуются проверка и настройка безопасности. Лицензия — Apache 2.0.

Granite-4.2-3B (NVFP4) — компактная языковая модель семейства Granite, разработанная командой Granite компании IBM. Это NVFP4-квантизованная версия Granite-4.2-3B, предназначенная для генерации текста, диалога, рассуждений, написания кода, вызова инструментов и агентных рабочих процессов. Модель построена как плотный decoder-only Transformer с архитектурой GraniteForCausalLM и содержит около 3 млрд параметров. Она поддерживает встроенный режим рассуждений с тегами <think>...</think>, а также режимы полного, отключённого и облегчённого рассуждения. Архитектура использует Grouped Query Attention, 40 attention heads, 8 KV heads, RoPE, SwiGLU и RMSNorm. Нативная длина контекста составляет 128K токенов, заявлено расширение до 512K. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель работает с текстом; мультимодальность не заявлена. Сильные стороны модели — небольшие размеры, поддержка длинного контекста, reasoning, генерации кода, tool calling и многоязычного диалога, что упрощает локальное и ресурсно-ограниченное развертывание. Ограничения включают более слабую и вариативную производительность на языках, отличных от английского, а также возможность неточных, предвзятых или небезопасных ответов; результаты NVFP4-квантизации могут отличаться от полноточной версии. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и исследовательское использование.

Inkling-NVFP4 — квантованная версия мультимодальной модели Inkling, разработанная Thinking Machines. Это универсальная авторегрессионная модель для разработчиков, создающих AI-приложения: агентные и инструментальные системы, ассистенты программирования, чат-боты и решения с retrieval-augmented generation. Она также подходит для диалогов общего назначения, следования инструкциям и других текстовых и мультимодальных задач. Модель распространяется с открытыми весами для исследований, дообучения и интеграции в сторонние продукты. Архитектура представляет собой decoder-only transformer из 66 слоёв с разреженным Mixture-of-Experts: для каждого токена выбираются 6 из 256 экспертов, а ещё 2 общих эксперта активны постоянно. Внимание сочетает локальные и глобальные слои. Модель принимает текст, изображения и аудио, объединяя их в общем скрытом пространстве; изображения и видео обрабатываются иерархическим patch-энкодером, аудио — через дискретное токенизирование. Всего заявлено 975 млрд параметров, из них 41 млрд активны для отдельного токена. Версия поддерживает числовой формат NVFP4, а базовая модель также доступна в BF16. На вход подаются UTF-8-текст, изображения в пиксельных форматах и WAV-аудио с частотой 16 кГц; для оптимальной работы рекомендуются изображения размером от 40 до 4096 пикселей по каждой стороне и аудио длительностью менее 20 минут. На выходе модель генерирует UTF-8-текст. Основной язык — английский, при этом заявлены общие мультиязычные возможности и поддержка нескольких языков программирования. К ограничениям относятся отсутствие подробных данных о длине контекста в представленном README и потенциальные требования к вычислительным ресурсам из-за большого общего числа параметров, несмотря на разреженную активацию и квантование. Модель распространяется по лицензии Apache 2.0; также действует отдельная политика допустимого использования Thinking Machines.

Карточка модели Openintelligent123/Laguna-S-2.1 на Hugging Face совпадает с карточкой poolside/Laguna-S-2.1, поэтому описание составлено по ней. Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.

Llama-3_3-Nemotron-Super-49B-v1_5-GGUF — это GGUF-версия большой языковой модели Llama-3.3-Nemotron-Super-49B-v1.5, разработанной NVIDIA на основе Meta Llama-3.3-70B-Instruct и оптимизированной с применением Neural Architecture Search. Модель предназначена для генерации текста, рассуждений, диалогов, выполнения инструкций и агентских сценариев, включая RAG и вызов инструментов. В репозитории представлены файлы в формате GGUF, созданные с использованием llama.cpp; применён подход с повышением точности отдельных важных слоёв при квантовании, что должно улучшать точность на заданном уровне квантования за счёт увеличения размера файлов. Модель имеет архитектуру плотного decoder-only Transformer, относится к классу примерно 49B параметров и поддерживает контекст до 128K токенов. Она дообучалась для задач математики, программирования, науки, общения, рассуждений и tool calling. В карточке явно указан английский язык. Сильными сторонами заявлены баланс точности и эффективности, уменьшенный объём памяти и пригодность для развёртывания на одной GPU H200 при высоких нагрузках. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в предоставленных данных подробных результатов тестирования конкретных GGUF-файлов. Использование регулируется NVIDIA Open Model License и дополнительными условиями Llama 3.3 Community License; модель заявлена как доступная для коммерческого использования.

PyrTools/Ministral-8B-Instruct-2410-AWQ — это AWQ-квантизированная 4-битная версия языковой instruct-модели Ministral-8B-Instruct-2410, разработанной Mistral AI и опубликованной пользователем PyrTools. Модель предназначена для локального и периферийного запуска, диалогов, следования инструкциям, генерации кода и работы с function calling. Основа модели — плотный Transformer примерно на 8 млрд параметров: 36 слоёв, 32 attention heads, 8 KV heads с GQA, размерность скрытого состояния 4096 и словарь из 131 072 токенов с токенизатором V3-Tekken. Модель обучалась на многоязычных и кодовых данных, поддерживает контекст до 128k токенов и использует interleaved sliding-window attention. Репозиторий содержит AWQ-представление с 4-битной квантизацией, что ориентировано на более экономичный локальный инференс. К сильным сторонам относятся компактный размер, поддержка длинного контекста, многоязычность, задачи программирования и function calling; исходная модель показывала высокие результаты среди моделей сопоставимого размера. Ограничения включают возможное снижение точности из-за квантизации и зависимость от поддержки AWQ конкретным inference-стеком. В vLLM для исходной модели заявлено ограничение контекста 32k из-за отсутствия необходимых attention kernels, поэтому полный контекст 128k требует другого совместимого инструментария. Лицензия — Mistral Research License; для коммерческого использования Mistral AI указывает необходимость получения коммерческой лицензии.

Это FP8-квантизированная версия инструкционной модели Mistral-Large-Instruct-2407, подготовленная Alpindale на основе Mistral AI. Модель относится к плотной архитектуре MistralForCausalLM и содержит 122,2 млрд параметров; веса, активации и KV-кэш представлены в FP8. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалоговой генерации текста и запуска через vLLM или Aphrodite Engine. Контекстное окно составляет до 131 072 токенов. Метаданные указывают поддержку английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков, а также интерфейс для вызова инструментов. Квантизация уменьшает требования к памяти и вычислениям по сравнению с полной точностью, сохраняя возможности базовой инструкционной модели для диалога, рассуждений и программирования. FP8 требует совместимого оборудования и программного стека; квантизация может повлиять на точность. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели и лицензии базовой модели.

Nemotron-Cascade-2-30B-A3B-NVFP4 — квантизированная версия модели Nemotron-Cascade-2-30B-A3B, разработанной NVIDIA. Модель использует гибридную архитектуру MoE и Mamba; в ней 30 млрд параметров всего и около 3 млрд активных параметров на токен. Данный вариант создан сообществом chankhavu с применением NVIDIA ModelOpt и посттренировочной квантизации NVFP4 без Quantization-Aware Distillation. Модель предназначена для задач генерации текста, математического рассуждения, программирования, работы с терминалом и агентских сценариев, следования инструкциям, диалога и научных запросов. Для калибровки использовались данные NVIDIA Nemotron-Cascade-2-SFT-Data, включая примеры по математике, software engineering, терминальным агентам, науке, безопасности и общению. README не указывает полный набор поддерживаемых языков и модальностей; по представленным данным это текстовая модель. MoE-эксперты и часть Mamba-вычислений представлены в NVFP4 с форматом E2M1 и иерархическим блочным масштабированием, чувствительные компоненты сохранены в BF16, маршрутизаторы — в FP32, а KV-кэш — в FP8. Модель рассчитана прежде всего на GPU Blackwell, где доступно нативное вычисление FP4 и максимальное ускорение; на Hopper выполняется деквантизация весов во время работы, а Ampere в README обозначен как неподдерживаемый. По опубликованным тестам качество обычно на 1–2% ниже исходной BF16-модели, но при этом снижаются требования к памяти. Лицензия — NVIDIA Open Model License.

Nemotron-Cascade-8B — языковая модель общего назначения от NVIDIA, дообученная на базе Qwen3-8B-Base. Модель имеет плотную архитектуру Qwen3 и около 7,6 млрд параметров; поддерживает контекст до 32 768 токенов и работает через Transformers в формате safetensors. Модель предназначена для диалогов и генерации текста, включая рассуждения, следование инструкциям, математические задачи, программирование, инженерные задачи в ПО и использование инструментов. Доступны режимы рассуждения и обычного ответа, переключаемые тегами /think и /no_think. В карточке описано последовательное дообучение с многоэтапным SFT и обучением с подкреплением по разным областям. Для длинного контекста NVIDIA рекомендует RoPE scaling с YaRN; это требует соответствующей настройки конфигурации. Метаданные указывают лицензию как other, поэтому конкретные права использования следует сверить с условиями репозитория.

OceanLabs/Ocean-1-4B-DSpark — дообученная компактная языковая модель общего назначения, основанная на D-Spark-4B и разработанная OceanLabs. Она предназначена для диалогов, написания и перевода текстов, рассуждений, повседневного программирования, вызова инструментов и агентных сценариев. Модель содержит 3,5 млрд параметров по метаданным и использует плотную архитектуру DSparkForCausalLM с чередованием слоёв скользящего и разреженного полного внимания. Контекстное окно достигает 1 048 576 токенов; заявлена поддержка более 200 языков. Модель оптимизирована для эффективного инференса на маломощных устройствах: архитектура снижает расход памяти KV-кэша и вычисления при работе с длинным контекстом. Указана совместимость с NVIDIA, Apple Silicon и CPU, а также с распространёнными средствами запуска и агентными фреймворками. В README приведены параметры базовой модели D-Spark-4B, отличающиеся от размера в метаданных; здесь указан размер из метаданных каталога. Репозиторий распространяется под лицензией Apache-2.0.

Qwen3 — семейство языковых моделей, разработанное и выпущенное командой Qwen. Модели предназначены для генерации текста, диалогов, следования инструкциям, сложного рассуждения, использования инструментов и агентских сценариев. Они могут применяться в исследовательских ассистентах, системах генерации кода, корпоративных чат-ботах и многошаговых многоходовых диалогах. В семейство входят варианты размером 0,6B, 1,7B, 4B, 8B, 14B, 32B и 30B-A3B; для них доступны различные квантованные версии в формате GGUF. Qwen3 поддерживает переключение между режимами с рассуждением и без рассуждения, длинный контекст и многоязычную работу. Конкретные параметры архитектуры, длина контекста и перечень языков в README не указаны. Модель относится к категории text-generation и распространяется по лицензии Apache 2.0. Конвертацию выполнила Menlo Research.

Qwen3-4B-Instruct-2507-FP8 — причинная языковая модель, разработанная командой Qwen. Это FP8-квантованная версия Qwen3-4B-Instruct-2507 с 4 млрд параметров, из которых 3,6 млрд приходятся на параметры без учёта эмбеддингов. Модель имеет 36 слоёв и архитектуру Grouped-Query Attention с 32 головами для запросов и 8 для ключей и значений. Она предназначена для генерации и понимания текста, следования инструкциям, логического рассуждения, математики, естественных наук, программирования, работы с инструментами и открытых субъективных задач. Модель поддерживает контекст длиной до 262 144 токенов и улучшена для работы с длинными документами и запросами. Она ориентирована на многоязычные сценарии и демонстрирует улучшения в покрытии редких знаний на нескольких языках. Важная особенность — поддержка только нережима мышления: модель не формирует блоки <think></think>. FP8-квантизация с размером блока 128 снижает требования к памяти и может повысить эффективность инференса, однако при ограниченных ресурсах для предотвращения нехватки памяти может потребоваться уменьшить длину контекста. Модель подходит для чат-ботов, интеллектуальных помощников, анализа документов, генерации текстов и кода, а также агентских приложений с вызовом инструментов. Для использования рекомендуется актуальная версия библиотеки Transformers; также заявлена совместимость с SGLang, vLLM и рядом локальных приложений. README не приводит исчерпывающего перечня поддерживаемых языков и не описывает специальные ограничения качества, поэтому результаты могут зависеть от языка, предметной области и длины контекста. Модель распространяется по лицензии Apache 2.0.

cyankiwi/Qwen3.8-27B-AWQ-FP8 — квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем cyankiwi. Модель предназначена для работы в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и TokenSpeed. Это плотная причинно-следственная языковая модель с vision-энкодером, поддерживающая понимание текста, изображений и видео. Она ориентирована на программирование, профессиональные и исследовательские задачи, обработку документов и STEM-материалов, а также многошаговые агентские сценарии. Доступны управляемый режим рассуждений, настройка глубины рассуждений через reasoning_effort и сохранение контекста рассуждений между сообщениями через preserve_thinking. Модель содержит 27 млрд параметров, 64 слоя и имеет нативную длину контекста 262 144 токена с возможностью расширения до 1 000 000 токенов. Заявлена поддержка английского, китайского, хинди, арабского, русского, японского, корейского, нидерландского, французского и испанского языков. Размер опубликованных файлов составляет 31,28 ГБ. К сильным сторонам относятся мультимодальность, длинный контекст и ориентация на сложные многошаговые задачи; конкретные ограничения производительности в представленном фрагменте README не указаны. Модель распространяется по лицензии Apache 2.0.

cyankiwi/Qwen3.8-27B-AWQ-INT4 — это квантованная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем cyankiwi. Модель представлена в формате Hugging Face Transformers и использует квантование AWQ с точностью INT4; размер файлов модели составляет около 21,02 ГБ. Лицензия — Apache-2.0. Модель предназначена для генерации и анализа текста, программирования, профессиональных и исследовательских задач, а также длительных агентских сценариев с планированием и обработкой обратной связи от окружения. Это causal language model с vision encoder, которая нативно понимает изображения и видео, включая документы и STEM-диаграммы. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки. Модель содержит 27 млрд параметров, 64 слоя и скрытую размерность 5120. Архитектура сочетает Gated DeltaNet и Gated Attention, а также использует Multi-Token Prediction. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 000 000 токенов. Режим рассуждений включён по умолчанию, но может отключаться для отдельных запросов; глубина рассуждений настраивается параметром reasoning_effort, а контекст рассуждений из предыдущих сообщений может сохраняться с помощью preserve_thinking. К сильным сторонам относятся сочетание текстовых и визуальных возможностей, поддержка видео, длинного контекста, управляемого рассуждения и агентского выполнения задач при относительно компактном для класса 27B размере. К ограничениям относятся потери точности, возможные для INT4-квантования, а также необходимость совместимого программного обеспечения и значительного объёма памяти для локального запуска. README не содержит подробных числовых результатов тестирования, поэтому качество на конкретных бенчмарках по этим данным оценить нельзя.

Карточка модели tangyunbo/RL на Hugging Face совпадает с карточкой Qwen/Qwen3-4B-Instruct-2507, поэтому описание составлено по ней. Qwen3-4B-Instruct-2507 — плотная причинно-языковая модель семейства Qwen3, разработанная командой Qwen. Это обновлённая версия Qwen3-4B в режиме без рассуждений: модель обучена следовать инструкциям и вести диалог, а также поддерживает интерфейс вызова инструментов. В репозитории указано 4,0 млрд параметров, метаданные Hugging Face указывают 3,7 млрд; нативная длина контекста составляет 262 144 токена. Модель предназначена для генерации ответов, понимания текста, логических и математических задач, вопросов по естественным наукам, программирования и работы с инструментами. Большое окно контекста подходит для анализа длинных документов и диалогов; заявлена поддержка нескольких языков и улучшенное покрытие редких знаний. Модель принимает текст и выдаёт текст. В README отмечены улучшения следования инструкциям, рассуждений, генерации текста и работы с длинным контекстом. Модель работает только в режиме без рассуждений и не выводит блоки рассуждений. Лицензия — Apache-2.0.