Компактная англоязычная модель TaoNet на основе SSM и троичной квантизации для генерации текста при ограниченных ресурсах.

Подходит для: генерация коротких англоязычных текстов · автодополнение текста на периферийных устройствах · инференс языковой модели в браузере

Текстовая чат-модель Ternary Bonsai 2 27B в GGUF с ослабленным отказом на запросы, рассчитанная на запуск через форк llama.cpp от PrismML.

Подходит для: генерация ответов в текстовом чате · создание диалогового прототипа с меньшим числом отказов · оценка поведения модели на безопасных и небезопасных запросах

Компактная 27-миллиардная модель Prism ML на базе Qwen3.6-27B для локальной генерации текста, диалогов и рассуждений на ноутбуках и одной видеокарте.

Подходит для: локальные ответы на вопросы и диалог без отправки данных в облако · анализ длинных документов в контексте до 262 тысяч токенов · помощь с программированием и анализом кода

Сжатая GGUF-версия Qwen3.8-27B с головой MTP для локальной генерации текста и ускоренного speculative decoding на потребительских видеокартах.

Подходит для: локальный диалог с языковой моделью · генерация и дополнение кода · генерация команд оболочки

Тернарная версия на 27 млрд параметров модели Qwen для локальной генерации текста и диалогов с компактными весами.

Подходит для: локальный запуск языковой модели на компьютере с ограниченной памятью · генерация текста в диалоговом интерфейсе · ответы на вопросы в локальном чате

Большая языковая модель NVIDIA с архитектурой LatentMoE для диалогов, рассуждений, длинного контекста и ИИ-агентов.

Подходит для: автоматизация классификации и обработки IT-заявок · создание чат-бота с поддержкой длинного контекста · ответы на вопросы по нескольким документам в RAG-системе

Квантизированная до тернарных весов производная Qwen3.8-27B для локальной генерации текста, рассуждений и агентных сценариев с длинным контекстом.

Подходит для: локальный диалоговый помощник на устройстве Apple · анализ длинных документов с контекстом до 262 тысяч токенов · поиск и анализ кода в репозитории

Квантованная GGUF-модель Qwen-семейства для локальной генерации текста без стандартного поведения отказа, с опциональным ускорением MTP.

Подходит для: локальный чат без стандартных отказов модели · генерация кода Python · создание JSON-ответов

Предварительная квантованная версия разговорной модели Bonsai 2, настроенная для снижения отказов при локальной генерации текста.

Подходит для: локальные диалоги с уменьшенным числом отказов · генерация ответов на пользовательские запросы · эксперименты с поведением отказов языковых моделей

Крупная модель MoE на базе Qwen 3.5 для агентного программирования, решения задач разработки и работы с инструментами.

Подходит для: решение задач разработки в терминальном coding-агенте · поиск и исправление ошибок в кодовой базе · автоматизация задач программирования с вызовом инструментов

Диалоговая языковая модель Tencent для разработки программ, офисной аналитики, создания игровых прототипов и научных задач.

Подходит для: планирование и отладка программных проектов · создание и доработка интерфейсов · анализ документов и данных из нескольких файлов

Экспериментальная тернарно-квантованная GGUF-модель UkisAI на базе Bonsai 2 27B для диалоговой генерации и рассуждений с более короткими цепочками.

Подходит для: генерация диалоговых ответов · решение задач на рассуждение · сравнение эффективности коротких цепочек рассуждений

Базовая мультиязычная языковая модель NVIDIA на 30 млрд параметров для генерации текста и последующего дообучения под инструкции и специализированные агентские задачи.

Подходит для: дообучение базовой модели для следования инструкциям · создание специализированных ИИ-агентов · генерация и продолжение текста на нескольких языках

Экспериментальная GGUF-версия Ternary-Bonsai-2-27B для диалоговой генерации текста с изменёнными весами, снижающими частоту отказов.

Подходит для: локальный запуск диалоговой языковой модели через llama.cpp от Prism ML · генерация ответов на пользовательские запросы · эксперименты с поведением модели на вредоносных запросах

Мультиязычная 27-миллиардная диалоговая GGUF-модель Gastón Parravicini с ослабленным явным рефлексом отказа для генерации текста и исследований безопасности LLM.

Подходит для: диалог с мультиязычным текстовым ассистентом · генерация ответов по инструкциям · оценка отказов модели на adversarial-запросах

Тернарно-квантованная англо-китайская чат-модель на базе Qwen для генерации текста, рассуждений и агентных сценариев на Apple Silicon.

Подходит для: ответы на вопросы и диалог на английском и китайском языках · генерация и анализ кода · вызов инструментов в агентных сценариях

Текстовая MoE-модель для генерации текста и кода, агентных задач и работы с инструментами с удалённым поведением отказа.

Подходит для: генерация и отладка программного кода · автоматизация задач программирования агентом · генерация ответов в диалоговом интерфейсе

Компактная ternary-квантованная версия модели Qwen3 на 1,7 млрд параметров для локальной генерации текста и диалогов на устройствах Apple.

Подходит для: локальные ответы на вопросы и диалоги на Mac · генерация текста на iPhone или iPad без облачного API · встраивание компактной языковой модели в приложения для Apple Silicon

Квантованная версия Qwen3-8B для локальной генерации текста и диалогов на Mac, iPhone и iPad через MLX.

Подходит для: локальный чат на Mac · диалоговый помощник на iPhone или iPad · генерация текста без облачного сервиса

Небольшая англоязычная авторегрессионная модель EleutherAI для исследований генерации текста и поведения языковых моделей.

Подходит для: эксперименты с предсказанием следующего токена на английском языке · исследование поведения языковых моделей на разных этапах обучения · анализ интерпретируемости компактной трансформерной модели

Производная модели CollectionStudio/Trinity-Large-TrueBase. Базовая разреженная MoE-модель Arcee AI для исследований предобучения, анализа поведения и последующего дообучения.

Подходит для: исследование поведения модели после масштабного предобучения · анализ маршрутизации экспертов и балансировки нагрузки в MoE · пробинг и интерпретируемость языковой модели

Текстовая Bonsai 2 27B с головой MTP для ускорения генерации посредством спекулятивного декодирования в пропатченном llama.cpp.

Подходит для: ускоренная генерация текста на GPU через спекулятивное декодирование · диалоговая генерация с Bonsai 2 27B · снижение задержки вывода токенов в llama.cpp

Экспериментальная черновая модель Qwen3 для ускорения жадной генерации Ternary-Bonsai-2-27B с помощью спекулятивного декодирования DFlash 2.

Подходит для: ускорение жадной генерации текста целевой моделью Ternary-Bonsai-2-27B · спекулятивное декодирование в совместимом MLX runtime на Apple Silicon · ускорение генерации кода целевой моделью через DFlash 2

Компактное MLX-представление Ternary Bonsai 27B для генерации текста и диалогов на Apple Silicon с уменьшенным расходом памяти.

Подходит для: генерация ответов в диалоговом интерфейсе на Mac с Apple Silicon · локальное выполнение языковой модели при ограниченном объёме объединённой памяти · создание и продолжение текстов с помощью авторегрессионной модели