/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3,5 млрд
Размер весов
11,1 ГБ
Лицензия
Apache 2.0
Архитектура
gpt_neox · dense
Опубликована
25 дек 2023

Zro1.5_3B

Генерация текстаТекст → текст3 профессии

Компактная текстовая модель Saber AI для генерации текста, рассуждений и решения математических задач на устройствах с ограниченными ресурсами.

81скачиваний за 30 дней1лайквеса обновлены29 дек 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Zro1.5_3B — компактная языковая модель Saber AI на архитектуре GPT-NeoX, дообученная на RedPajama-INCITE-Chat-3B-v1. Она предназначена для генерации текста с улучшенными навыками рассуждения и решения математических задач, в том числе на маломощных мобильных устройствах.

Модель содержит 3,5 млрд параметров и имеет контекст длиной 2048 токенов. Она принимает текст и генерирует текст; README заявляет оптимизацию для мобильных устройств и возможность адаптировать параметры под проект. Модель распространяется под лицензией Apache-2.0.

Карточка не приводит результаты сравнительных тестов, поэтому заявленные улучшения рассуждения и математических навыков нельзя оценить по представленным данным. Короткое контекстное окно ограничивает работу с длинными документами.

Сценарии применения

  • решение математических задач в текстовом интерфейсе
  • генерация ответов с пошаговым рассуждением
  • встраивание языковой модели в мобильное приложение
  • создание компактного текстового помощника

Ограничения

Контекст ограничен 2048 токенами; в карточке не приведены сравнительные оценки качества или результаты тестов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Introducing Zro1.5_3B by Saber AI – Precision and Performance in a Compact Package, fine-tuned for enhanced reasoning and mathematical skills on low-powered mobile devices.

Key Features:

Efficient Precision: Zro1.5_3B excels in capturing nuances despite its compact size, making it a powerful Small Language Model (SLM).

Resource Optimization: Maximized efficiency without sacrificing performance, ensuring seamless integration into diverse platforms.

Adaptability: Customize parameters to tailor the model to your project's specific needs, offering flexibility and versatility.

Scalability: Designed to scale effortlessly, from small projects to large-scale applications.

Cutting-Edge Technology: Leverage the latest in natural language processing for state-of-the-art performance.

Reasoning Enhancement: Fine-tuned in RedPajama-INCITE-Chat-3B-v1 to improve reasoning skills and mathematical reasoning.

Mobile Optimization: Tailored for low-powered mobile devices, ensuring optimal performance on the go.

User-Friendly Integration: Effortless incorporation with comprehensive documentation and support.

Elevate your projects with Zro1.5_3B – where small size meets unparalleled performance, specifically enhancing reasoning and mathematical skills on low-powered mobile devices.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
GPTNeoXForCausalLM
Ревизия весов
3d1c38b

0 моделей