onnx-community/SmolLM2-135M-Instruct-ONNX-MHA — это ONNX-версия модели SmolLM2-135M-Instruct, разработанной HuggingFaceTB.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий содержит веса в формате ONNX, совместимые с библиотекой Transformers.js, поэтому модель предназначена для запуска в JavaScript- и web-средах, включая сценарии, где важна готовность к использованию на стороне клиента.
Из доступных данных известно, что исходная модель называется HuggingFaceTB/SmolLM2-135M-Instruct и имеет 135 миллионов параметров. Модель относится к инструкционно настроенным языковым моделям, однако сведения об архитектуре, поддерживаемых языках, длине контекста, модальностях, точных задачах и результатах оценки в README не приведены. Также не указаны лицензия, ограничения использования и требования к аппаратному обеспечению. Отдельный репозиторий ONNX описан как временное решение до более широкого распространения WebML.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
https://huggingface.co/HuggingFaceTB/SmolLM2-135M-Instruct with ONNX weights to be compatible with Transformers.js.
Note: Having a separate repo for ONNX weights is intended to be a temporary solution until WebML gains more traction. If you would like to make your models web-ready, we recommend converting to ONNX using 🤗 Optimum and structuring your repo like this one (with ONNX weights located in a subfolder named onnx).
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers.js
Модель выложена для браузера (ONNX / transformers.js), для GPU-рантайма нет весов.