Пакет VertexAIco для локального запуска 1-битной чат-модели Bonsai-27B через MLX на Mac с Apple Silicon.

Подходит для: локальные диалоги с языковой моделью на Mac · следование инструкциям и ответы на запросы · суммаризация результатов поиска

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Bwindi/CrawLM — языковая модель на 3,2 млрд параметров для генерации текста и разговорных сценариев с контекстом до 131 072 токенов.

Подходит для: генерация связного текста · ведение диалогов с пользователем · ответы на вопросы в текстовом интерфейсе