safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Мультимодальная 2-битная сборка Qwen3.8-27B для MLX, которая отвечает на вопросы по тексту и изображениям и поддерживает вызов инструментов.

Подходит для: ответы на вопросы о содержимом изображений · диалог с моделью по текстовым инструкциям · анализ изображений с текстовым объяснением

Предварительная модель MindLab Research на базе GLM-5.1 для персонального агентного планирования, вызова инструментов, программирования и генерации интерфейсов.

Подходит для: планирование личных дел с учётом меняющихся условий · поиск мест и координация маршрутов через инструменты · работа с календарём и задачами через агентные API

Модель MindLab Research на базе GLM-5.2 для диалогов, агентных задач с инструментами, программирования и генерации интерфейсов.

Подходит для: диалоги с персональным ИИ-помощником · выполнение задач агента с использованием инструментов · написание и изменение программного кода

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Агентная модель MindLab Research на базе GLM-5.3 для диалогов, работы с инструментами, программирования и генерации интерфейсов.

Подходит для: ведение открытых диалогов с пользователем · выбор и выполнение действий с инструментами в бизнес-процессах · многошаговое исправление ошибок и изменение кода

Вспомогательная модель Eagle для ускорения генерации текста Llama 3.3 70B с помощью спекулятивного декодирования в TensorRT-LLM.

Подходит для: ускорение ответов чат-бота на базе Llama 3.3 70B · ускорение генерации ответов в RAG-системе · ускорение ответов AI-агента

Смешанно-точная drafting head для Qwen3.8-27B, предназначенная для экспериментов со speculative decoding на MLX и Apple Silicon.

Подходит для: Подключение черновой головы к Qwen3.8-27B MLX backbone · Эксперименты со speculative decoding на Apple Silicon · Сравнение принятия черновых токенов при bf16 fc и 4-битных остальных слоях

Черновая модель EAGLE-3 от Авито Тех ускоряет генерацию текста базовой моделью Avibe при использовании с vLLM или SGLang.

Подходит для: Ускорение генерации ответов базовой моделью Avibe · Ускорение обслуживания одиночных запросов к языковой модели · Снижение задержки текстовой генерации в сервере vLLM

Версия Qwen3.8-27B для MLX с MTP-головой ускоряет генерацию текста в поддерживающих MTP runtime, таких как oMLX.

Подходит для: диалоговая генерация текста на Apple Silicon · ускорение однопоточной генерации ответов · генерация кода в поддерживающем MTP runtime