Характеристики

Контекст: 4 096 токенов
Параметры: 3,4 млрд
Архитектура: llama · dense
Библиотека: transformers
Опубликована: 21 сен 2023

Ссылки

Hugging Face

basilisk-4b

winglian

Генерация текстаТекст → текст4 профессии

Basilisk 4B — дообученная модель Llama на 3,4 млрд параметров для генерации текста и ответов на инструкции.

55скачиваний за 30 дней4лайкавеса обновлены25 сен 2023

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Basilisk 4B — языковая модель от winglian, дообученная на базе winglian/llama-2-4b на данных Open-Orca с цепочками рассуждений (CoT). Это плотная авторегрессионная модель семейства Llama с 3,4 млрд параметров, предназначенная для генерации текста и ответов в диалоговых и инструкционных сценариях.

Модель принимает текст и генерирует текст; её контекстное окно составляет 4096 токенов. В карточке указаны библиотека Transformers и формат PyTorch. Данные не подтверждают отдельную специализацию по языкам или прикладным областям.

Basilisk 4B подойдёт для прототипирования текстовых ассистентов, генерации ответов и экспериментов с инструкционными запросами. Качество может ограничиваться размером модели и зависеть от языка и сложности задачи; подробных оценок качества в карточке нет. Сведения о лицензии отсутствуют в предоставленных данных.

Сценарии применения

генерация ответов на текстовые инструкции
создание прототипа текстового ассистента
подготовка черновиков и продолжение текста

Ограничения

Контекст ограничен 4096 токенами; качество может уступать более крупным моделям и зависит от сложности запроса. Лицензия и оценки качества в предоставленных данных не указаны.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель II.1Разработка и данныеАнализ требований и архитектура ПОAI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения.20 задач18 191модель

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Basilisk 4B

Built on winglian/llama-2-4b, a 4B parameter Llama-2 model, this model is finetuned with open orca CoT data.

hf-causal-experimental (pretrained=winglian/basilisk-4b,use_accelerate=True,trust_remote_code=True), limit: None, provide_description: False, num_fewshot: 0, batch_size: None
|                      Task                      |Version|       Metric        |Value |   |Stderr|
|------------------------------------------------|------:|---------------------|-----:|---|-----:|
|agieval_aqua_rat                                |      0|acc                  |0.2362|_  |0.0267|
|                                                |       |acc_norm             |0.2283|_  |0.0264|
|agieval_logiqa_en                               |      0|acc                  |0.2688|_  |0.0174|
|                                                |       |acc_norm             |0.2811|_  |0.0176|
|agieval_lsat_ar                                 |      0|acc                  |0.2130|_  |0.0271|
|                                                |       |acc_norm             |0.1913|_  |0.0260|
|agieval_lsat_lr                                 |      0|acc                  |0.2255|_  |0.0185|
|                                                |       |acc_norm             |0.2745|_  |0.0198|
|agieval_lsat_rc                                 |      0|acc                  |0.2305|_  |0.0257|
|                                                |       |acc_norm             |0.2491|_  |0.0264|
|agieval_sat_en                                  |      0|acc                  |0.3641|_  |0.0336|
|                                                |       |acc_norm             |0.3495|_  |0.0333|
|agieval_sat_en_without_passage                  |      0|acc                  |0.2427|_  |0.0299|
|                                                |       |acc_norm             |0.2427|_  |0.0299|
|agieval_sat_math                                |      0|acc                  |0.2318|_  |0.0285|
|                                                |       |acc_norm             |0.2091|_  |0.0275|
|bigbench_causal_judgement                       |      0|multiple_choice_grade|0.5000|_  |0.0364|
|bigbench_date_understanding                     |      0|multiple_choice_grade|0.3930|_  |0.0255|
|bigbench_disambiguation_qa                      |      0|multiple_choice_grade|0.2674|_  |0.0276|
|bigbench_geometric_shapes                       |      0|multiple_choice_grade|0.1838|_  |0.0205|
|                                                |       |exact_str_match      |0.0279|_  |0.0087|
|bigbench_logical_deduction_five_objects         |      0|multiple_choice_grade|0.2380|_  |0.0191|
|bigbench_logical_deduction_seven_objects        |      0|multiple_choice_grade|0.1843|_  |0.0147|
|bigbench_logical_deduction_three_objects        |      0|multiple_choice_grade|0.3800|_  |0.0281|
|bigbench_movie_recommendation                   |      0|multiple_choice_grade|0.3480|_  |0.0213|
|bigbench_navigate                               |      0|multiple_choice_grade|0.5000|_  |0.0158|
|bigbench_reasoning_about_colored_objects        |      0|multiple_choice_grade|0.3680|_  |0.0108|
|bigbench_ruin_names                             |      0|multiple_choice_grade|0.2746|_  |0.0211|
|bigbench_salient_translation_error_detection    |      0|multiple_choice_grade|0.2806|_  |0.0142|
|bigbench_snarks                                 |      0|multiple_choice_grade|0.4972|_  |0.0373|
|bigbench_sports_understanding                   |      0|multiple_choice_grade|0.4939|_  |0.0159|
|bigbench_temporal_sequences                     |      0|multiple_choice_grade|0.2740|_  |0.0141|
|bigbench_tracking_shuffled_objects_five_objects |      0|multiple_choice_grade|0.1904|_  |0.0111|
|bigbench_tracking_shuffled_objects_seven_objects|      0|multiple_choice_grade|0.1394|_  |0.0083|
|bigbench_tracking_shuffled_objects_three_objects|      0|multiple_choice_grade|0.3800|_  |0.0281|

hf-causal-experimental (pretrained=winglian/basilisk-4b,use_accelerate=True,trust_remote_code=True), limit: None, provide_description: False, num_fewshot: 0, batch_size: 12
|    Task     |Version| Metric |Value |   |Stderr|
|-------------|------:|--------|-----:|---|-----:|
|arc_challenge|      0|acc     |0.3285|_  |0.0137|
|             |       |acc_norm|0.3532|_  |0.0140|
|arc_easy     |      0|acc     |0.6364|_  |0.0099|
|             |       |acc_norm|0.6035|_  |0.0100|
|boolq        |      1|acc     |0.7196|_  |0.0079|
|hellaswag    |      0|acc     |0.4239|_  |0.0049|
|             |       |acc_norm|0.5473|_  |0.0050|
|openbookqa   |      0|acc     |0.2220|_  |0.0186|
|             |       |acc_norm|0.3320|_  |0.0211|
|piqa         |      0|acc     |0.6937|_  |0.0108|
|             |       |acc_norm|0.6921|_  |0.0108|
|winogrande   |      0|acc     |0.5399|_  |0.0140|

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: b91c2e5