Инструкционно настроенный вариант Gemma 4 с MTP для ускорения генерации текста в совместимом конвейере спекулятивного декодирования.

Подходит для: ускорение генерации ответов чат-бота с низкой задержкой · ускорение локального вывода на совместимом устройстве · ускорение генерации кода

Квантизированная мультимодальная MiniMax-M3 для диалогов, анализа изображений и видео, программирования и агентных задач с контекстом до 1 млн токенов.

Подходит для: анализ изображений и визуальных вопросов · суммирование и анализ видео длительностью до 30 минут · выполнение длительных задач по программированию

Промежуточная компактная модель семейства Llama для генерации текста и экспериментов с моделями, работающими при ограниченных вычислительных ресурсах.

Подходит для: генерация коротких текстов · эксперименты с компактными языковыми моделями · разработка приложений на базе Llama при ограниченной памяти

Открытая MoE-языковая модель Xiaomi для агентных задач, разработки ПО, генерации текста и работы с контекстом до миллиона токенов.

Подходит для: написание и отладка программного кода · выполнение многошаговых задач с вызовом инструментов · анализ длинных документов и контекстов до 1 млн токенов

Черновая MTP-модель Gemma 4 12B IT от Google DeepMind ускоряет генерацию текста в speculative decoding, предлагая токены для параллельной проверки целевой моделью.

Подходит для: ускорение генерации текста в speculative decoding · создание разговорного ассистента на базе Gemma 4 · ответы на вопросы по изображениям и документам

Мультимодальная MoE-модель Xiaomi с контекстом до 1 млн токенов для диалогов, вызова инструментов и длинных агентных задач.

Подходит для: создание агентных систем с вызовом инструментов · выполнение многошаговых задач с длинной историей диалога · анализ изображений, видео и аудио в диалоге

Вспомогательная модель-драфтер Gemma 4 E4B для ускорения генерации текста методом speculative decoding в связке с целевой моделью.

Подходит для: ускорение генерации ответов чат-моделью Gemma 4 · снижение задержки генерации текста на устройстве · ускорение пошаговой генерации в приложениях с длинными ответами

Компактный мультимодальный драфтер Gemma 4 для ускорения генерации текста методом спекулятивного декодирования.

Подходит для: ускорение генерации текста в конвейере speculative decoding · снижение задержки генерации на локальных устройствах · предсказание нескольких следующих токенов для проверки целевой моделью

Дообученная мультимодальная модель Qwen на 27 млрд параметров для более эффективных рассуждений, программирования, диалогов и агентных задач.

Подходит для: написание и отладка кода · выполнение многошаговых задач через терминал · создание программных прототипов по текстовому описанию

Инструкционная мультимодальная модель Google DeepMind на 12 млрд параметров для диалога, анализа изображений, аудио и видео, генерации текста и кода.

Подходит для: ответы на вопросы по документам и PDF · извлечение текста с изображений и распознавание рукописного текста · распознавание речи и перевод речи в текст

Пакет Gemma 4 26B A4B IT в квантизации UD-Q4_K_M для распределённой локальной генерации текста и чатов с Mesh LLM.

Подходит для: локальный запуск чат-модели на собственном оборудовании · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API

Swift-Qwen3.8-27B — дообученная мультимодальная модель Qwen для диалогов и сложных задач с более короткими цепочками рассуждений.

Подходит для: решение многошаговых задач с сокращением объёма рассуждений · программирование и помощь при разборе кода · диалоговые ответы на текстовые запросы

Пакет слоёв GGUF GLM-5.2-Q2_K-MTP-Q8 для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Черновые MTP-веса Qwen3.8-27B для ускорения текстовой генерации через speculative decoding в mlx-vlm вместе с совместимой целевой моделью.

Подходит для: ускорение генерации текста на Apple Silicon с MLX · ускорение диалоговой генерации Qwen3.8-27B · ускорение генерации кода целевой моделью Qwen3.8-27B

Локальная 9B-модель Qwen3.5 для генерации текста на Apple Silicon с ускорением спекулятивным декодированием MTPLX.

Подходит для: локальная генерация ответов в чате · ускоренный вывод текста на компьютере Mac с Apple Silicon · развёртывание локального сервера с OpenAI-совместимым интерфейсом

Компактная GGUF-модель на основе MiniCPM5-2B для локальной генерации текста и диалоговых ассистентов.

Подходит для: локальный текстовый чат на устройстве · генерация ответов для компактного ассистента · запуск языковой модели на оборудовании с ограниченными ресурсами

Компактная квантизированная чат-модель TinyLlama на 1 млрд параметров для генерации текста и локальных диалоговых приложений.

Подходит для: локальный чат-бот · генерация ответов на вопросы · автодополнение текста

Вспомогательная MTP-голова для ускорения генерации текста совместимой моделью Qwen3.8-27B в MLX.

Подходит для: ускорение генерации текста целевой моделью Qwen3.8-27B · спекулятивное декодирование в mlx-vlm · ускорение генерации кода при использовании совместимой целевой модели

Базовая разреженная MoE-модель Arcee AI для генерации текста, исследований предобучения и последующего дообучения.

Подходит для: исследование поведения языковой модели после масштабного предобучения · изучение маршрутизации и балансировки экспертов MoE · зондирование и интерпретируемость языковой модели

MLX-порт MTP-drafter для спекулятивного декодирования, ускоряющий генерацию текста совместимой целевой моделью Gemma 4.

Подходит для: ускорение генерации текста с Gemma 4 в MLX · спекулятивное декодирование одиночных запросов · пакетная генерация текста с использованием MTP-drafter

Конвертированная для MLX четырёхслойная модель-помощник Gemma 4 MTP ускоряет генерацию текста посредством спекулятивного декодирования.

Подходит для: ускорение генерации текста с совместимой целевой моделью Gemma 4 · спекулятивное декодирование одиночных запросов на MLX · пакетная генерация текста с MTP drafter

Компактная 134,5-миллионная языковая модель семейства Llama для генерации текста и разговорных сценариев с контекстом до 2048 токенов.

Подходит для: генерация продолжений текста · создание черновиков сообщений · построение локального чат-бота

Компактная GGUF-версия Qwen2.5-0.5B-Instruct для генерации текста и диалогового общения.

Подходит для: генерация коротких текстовых ответов · диалоговое общение с локально запущенной моделью · прототипирование чат-ботов

Квантованная и сокращённая MoE-версия MiniMax M2 для диалоговой генерации текста и кода на Apple Silicon.

Подходит для: написание и дополнение кода · генерация ответов в диалоговом интерфейсе · решение задач программирования по описанию