Компактная Llama-подобная модель Seto-Small, дообученная для генерации текста и диалогов на русском и английском языках с поддержкой украинского.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Seto-Small SFT v1 — компактная авторская языковая модель семейства Seto от backalleyblitz с примерно 490 млн параметров. Это Llama-подобная causal language model с RoPE, RMSNorm, SwiGLU, Grouped Query Attention и BPE-словарём на 48 000 токенов.
Модель предназначена для генерации текста и диалогов на мобильных устройствах и при локальном инференсе. Она дообучена методом SFT в течение 3000 шагов на смеси UltraChat, WildChat, OASST1, Russian Dialogues и Hermes Tool Calling; заявлены русский и английский языки, а также поддержка украинского.
Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Компактный размер подходит для сценариев с ограниченными ресурсами, однако README не приводит результатов независимой оценки качества или подробностей о контекстном окне.
README не приводит результатов независимой оценки качества и подробностей о контекстном окне. Компактный размер модели ограничивает её возможности по сравнению с более крупными языковыми моделями.
README от автора на Hugging Face, как он его опубликовал
Seto — легкая двуязычная модель (русский + английский, с поддержкой украинского), оптимизированная для мобильных устройств и локального инференса.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Архитектура ? неизвестна transformers в образе рантайма.