/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
12,9 млрд
Размер весов
26 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
5 дек 2023

Symbol-LLM-13B-Instruct

Генерация текстаТекст → текст4 профессии

13-миллиардная модель семейства LLaMA для генерации текста в рамках проекта Symbol-LLM.

29скачиваний за 30 дней9лайковвеса обновлены23 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Symbol-LLM-13B-Instruct — языковая модель семейства LLaMA, выпущенная авторами проекта Symbol-LLM. Модель содержит 12,9 млрд параметров и предназначена для генерации текста; название проекта указывает на исследование символьного интерфейса для больших языковых моделей, однако README не описывает конкретные сценарии или метод обучения версии Instruct.

Модель принимает текст и генерирует текст, работает с контекстом до 2048 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. В README сообщается о принятии работы на ACL 2024 и публикации моделей серии 7B и 13B.

Сценарии применения

  • генерация текста по текстовому запросу
  • диалоговое взаимодействие с языковой моделью
  • продолжение заданного текста

Ограничения

Контекст ограничен 2048 токенами. README не приводит результатов оценки качества или подробностей обучения модели.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Symbol-LLM: Towards Foundational Symbol-centric Interface for Large Language Models

Paper Link: https://arxiv.org/abs/2311.09278

Project Page: https://xufangzhi.github.io/symbol-llm-page/

🔥 News

  • 🔥🔥🔥 Symbol-LLM is accepted by ACL 2024 !

  • 🔥🔥🔥 We have made Symbol-LLM series models (7B / 13B) public.

Note

The work is under review.

The symbolic data collection will be public soon.

Citation

If you find it helpful, please kindly cite the paper.

@article{xu2023symbol,
  title={Symbol-LLM: Towards Foundational Symbol-centric Interface For Large Language Models},
  author={Xu, Fangzhi and Wu, Zhiyong and Sun, Qiushi and Ren, Siyu and Yuan, Fei and Yuan, Shuai and Lin, Qika and Qiao, Yu and Liu, Jun},
  journal={arXiv preprint arXiv:2311.09278},
  year={2023}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
9bccfa4

0 моделей