diffusers: формат, квантизация, runtime и память принадлежат одному artifact

safetensors: формат, квантизация, runtime и память принадлежат одному artifact

Компактная англоязычная модель семейства LLaMA для генерации текста и экспериментов с небольшими языковыми моделями.

Подходит для: генерация продолжений англоязычного текста · эксперименты с компактными языковыми моделями · zero-shot оценка на бенчмарках языкового моделирования

Дообученная на датасете generator чат-модель TinyLlama для генерации текста и диалоговых ответов с контекстом до 2048 токенов.

Подходит для: генерация ответов в текстовом диалоге · создание чат-бота на базе компактной языковой модели · эксперименты с генерацией текста на ограниченных вычислительных ресурсах

Текстовая чат-модель Ornith AI на 9 млрд параметров, изменённая для исследований безопасности и red teaming на Apple Silicon.

Подходит для: red teaming языковых моделей · проверка устойчивости систем безопасности к jailbreak-запросам · тестирование на проникновение с помощью текстового ассистента

Исследовательская дистиллированная языковая модель Arcee.ai с KDA во всех слоях для изучения линейного внимания и генерации текста.

Подходит для: сравнение линейного внимания KDA с полным вниманием · исследование дистилляции внимания в языковых моделях · генерация текста на длинных последовательностях

Экспериментальная текстовая модель на базе StarCoderPlus для исследования устойчивости ответов и защитных механизмов при red-team-тестировании.

Подходит для: оценка отказов на опасные запросы · тестирование устойчивости к обходу защитных ограничений · исследование ответов на запросы о киберрисках

Небольшая языковая модель LLaMA на 709,8 млн параметров для генерации текста и экспериментов с языковыми бенчмарками.

Подходит для: генерация коротких текстовых продолжений · эксперименты с компактными языковыми моделями · zero-shot оценка на тестах общих знаний

Компактная англоязычная чат-модель Prem AI на базе Llama для диалогов и генерации ответов в приложениях с поиском по внешним данным.

Подходит для: ответы на вопросы по документам в RAG-приложении · многоходовой англоязычный диалог с виртуальным помощником · генерация англоязычных ответов на пользовательские инструкции

Компактная англоязычная модель Prem AI на базе Llama для генерации текста, диалогов и приложений RAG с контекстом до 8192 токенов.

Подходит для: ответы виртуального помощника в многоходовом диалоге · генерация ответов на вопросы по найденным документам в RAG-системе · создание текстовых ответов с контекстом до 8192 токенов