About
This repository provides a model compiled and optimized for Mobilint NPU hardware.
The model is packaged for deployment on Mobilint’s acceleration stack and is intended to be used within that environment.
EXAONE-3.5-7.8B-Instruct — инструкционная языковая модель для генерации текста, разработанная LGAI-EXAONE и представленная в данном репозитории в квантованном виде компанией Mobilint.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для диалоговых и других задач генерации текста на английском и корейском языках и рассчитана на использование с библиотекой Transformers.
Эта версия скомпилирована и оптимизирована для NPU-оборудования Mobilint и предназначена для развертывания в программном стеке ускорения Mobilint. Размер модели составляет около 7,8 млрд параметров; архитектура и длина контекста в README не указаны. Основное преимущество — адаптация к аппаратному ускорению Mobilint, однако применимость вне этой инфраструктуры может быть ограничена. Модель распространяется по лицензии EXAONE; точные условия следует уточнять в файле лицензии по указанной в карточке ссылке.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This repository provides a model compiled and optimized for Mobilint NPU hardware.
The model is packaged for deployment on Mobilint’s acceleration stack and is intended to be used within that environment.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Модели нужен код из репозитория; запуск откроется после проверки совместимости.