Вспомогательная модель Red Hat на EAGLE-3 ускоряет генерацию ответов meta-llama/Llama-3.3-70B-Instruct с помощью спекулятивного декодирования.
Подходит для: ускорение генерации ответов Llama 3.3 70B в vLLM · обслуживание чат-запросов через endpoint chat completions · снижение задержки авторегрессивной генерации с проверкой токенов основной моделью
Спекулятор EAGLE-3 от Red Hat ускоряет генерацию текста Qwen/Qwen3-8B при инференсе через vLLM.
Подходит для: ускорение генерации ответов чат-моделью Qwen3-8B · снижение задержки генерации текста в серверном инференсе через vLLM · ускорение обслуживания запросов к Qwen3-8B через chat completions
Производная модели moonshotai/Kimi-K2.7-Code. Агентная модель Moonshot AI для сложных задач программирования и многоэтапной разработки ПО с поддержкой изображений, видео и инструментов.
Подходит для: написание и изменение кода в крупных проектах · выполнение многоэтапных задач разработки через агентный интерфейс · поиск и исправление ошибок в программном обеспечении
Gemma 4 12B IT — мультимодальная модель Google DeepMind для диалогов, анализа изображений, видео и аудио, программирования и рассуждений.
Подходит для: ответы на вопросы по изображениям и документам · извлечение текста и сведений из сканов и PDF · распознавание речи и перевод аудио в текст
EmbeddingGemma — компактная многоязычная модель Google DeepMind для создания текстовых векторов, поиска и сравнения смыслов.
Подходит для: семантический поиск по документам и статьям · поиск документов по запросу для RAG и систем ответов на вопросы · сравнение предложений и обнаружение дубликатов
Компактная чат-модель TinyLlama на 1 млрд параметров для генерации текста и диалоговых ответов с оптимизацией для NM-vLLM.
Подходит для: локальный чат-бот на малоресурсном сервере · генерация коротких текстовых ответов · диалоговый интерфейс для приложений
Спекулятивная модель Red Hat для ускорения текстовой генерации Llama 3.1 8B Instruct с помощью EAGLE-3 и vLLM.
Подходит для: ускорение генерации ответов в чат-сервисе на базе Llama 3.1 · ускорение генерации текста через vLLM · снижение задержки при обслуживании запросов /chat/completions
Инструктивная мультимодальная модель Google DeepMind для диалога, рассуждений, программирования и анализа текста, изображений, видео и аудио.
Подходит для: создание чат-бота или виртуального помощника · генерация, дополнение и исправление кода · извлечение текста и сведений из изображений и PDF
Инструкционно дообученная мультимодальная Gemma 4 26B A4B для диалогов, рассуждений, программирования и анализа изображений.
Подходит для: ответы на вопросы по изображениям и скриншотам · извлечение текста и сведений из документов и PDF · анализ графиков, диаграмм и интерфейсов
Инструктивная языковая модель Red Hat AI на базе Mixtral для диалога и генерации текста по запросам.
Подходит для: ответы на вопросы в диалоговом интерфейсе · объяснение понятий и тем · генерация текста по инструкциям
Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.
Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации
Мультимодальная модель Meta на 30 млрд параметров для локальных агентов, работы с инструментами, кодом и изображениями.
Подходит для: локальные агенты для многошагового выполнения задач · вызов инструментов и функций в диалоге · написание и отладка кода
Разреженная модель Llama на 109,5 млн параметров для генерации коротких историй и текстов с эффективным инференсом через NM-vLLM.
Подходит для: генерация коротких детских историй по началу текста · создание небольших текстовых продолжений · локальный запуск генерации текста при ограниченной памяти
Мультимодальная модель Quadux IT GmbH для авторизованного тестирования безопасности, анализа уязвимостей и других red-team задач с текстом и изображениями.
Подходит для: проведение авторизованного red-team анализа внутренних систем · поиск и оценка уязвимостей в собственном программном обеспечении · анализ скриншотов и изображений в ходе проверки безопасности
Вспомогательная модель Red Hat для ускорения генерации openai/gpt-oss-20b с помощью speculative decoding EAGLE-3.
Подходит для: ускорение генерации ответов gpt-oss-20b в vLLM · ускорение выдачи кода основной моделью · ускорение математических рассуждений gpt-oss-20b
Текстовая модель Meta на архитектуре Llama 3.1 с 7,5 млрд параметров для многоязычного диалога, генерации текста и сценариев с вызовом инструментов.
Подходит для: создание диалогового ассистента · ответы на вопросы на поддерживаемых языках · генерация и редактирование текста
Мультимодальная инструкционная модель Meta на базе Llama 4 для диалогов, понимания изображений и ответов на вопросы по ним.
Подходит для: ответы на вопросы по изображению · создание подписей и описаний изображений · распознавание визуальных объектов и деталей
Инструктивная мультимодальная модель Gemma 4 E2B для диалогов, генерации текста, анализа изображений и аудио, распознавания речи и программирования.
Подходит для: ответы на вопросы по изображениям и документам · распознавание речи и транскрибация аудио · перевод речи в текст
Qwen3.8-27B — мультимодальная модель Qwen для диалога, анализа изображений и видео, программирования и многошаговых задач.
Подходит для: ответы на вопросы по изображениям и диаграммам · извлечение и анализ информации из документов · понимание содержания видео
Инструктивная многоязычная модель Meta на 70 млрд параметров для диалоговых ассистентов, генерации текста и кода.
Подходит для: создание многоязычного чат-ассистента · ответы на вопросы и выполнение инструкций в диалоге · генерация и редактирование текста
Производная модели thinkingmachines/Inkling-Small. Inkling-Small — мультимодальная модель общего назначения для диалогов, работы с изображениями и аудио, программирования и агентных приложений с текстовыми ответами.
Подходит для: ответы на вопросы об изображениях · текстовая расшифровка и анализ аудиозаписей · создание чат-бота с поддержкой мультимодальных запросов
Производная модели openai/whisper-tiny. Компактная многоязычная модель OpenAI для преобразования речи в текст, рассчитанная на транскрибацию аудиозаписей.
Подходит для: транскрибация русскоязычных аудиозаписей · создание субтитров для видео и аудио · распознавание речи в голосовых сообщениях
Текстовая модель Nomic для создания настраиваемых по размерности эмбеддингов, используемых в семантическом поиске, RAG и кластеризации.
Подходит для: создание эмбеддингов документов для индекса RAG · поиск документов по текстовому запросу · сопоставление семантически близких предложений
Производная модели fastino/GLiNER2.5-Decide. Англоязычная модель Fastino для классификации текста по заданным меткам и маршрутизации обращений за один проход.
Подходит для: определение намерения клиента для маршрутизации обращения в поддержку · классификация тональности и аспектов отзывов · сортировка писем по теме, срочности и ответственной команде