/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
15,2 ГБ
Лицензия
Apache 2.0
Архитектура
qwen2 · dense
Опубликована
24 июн 2024

Qwen2-7B-Multilingual-RP

Генерация текстаТекст → текст7 профессий

Мультиязычная разговорная модель Qwen2 на 7,1 млрд параметров для генерации текста с контекстом до 32 768 токенов.

69скачиваний за 30 дней58лайковвеса обновлены25 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки6

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

  • MUSR

    MUSR Raw · выше — лучше

    Результат

    0,3696

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • IFEval

    IFEval Raw · выше — лучше

    Результат

    0,4347

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MMLU-PRO

    MMLU-PRO Raw · выше — лучше

    Результат

    0,3859

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • GPQA

    GPQA Raw · выше — лучше

    Результат

    0,297

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • MATH Lvl 5

    MATH Lvl 5 Raw · выше — лучше

    Результат

    0,2243

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

  • BBH

    BBH Raw · выше — лучше

    Результат

    0,5062

    Open LLM v2 · архив

    Публичная таблицаревизия совпадает

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

maywell разработал мультиязычную разговорную модель Qwen2 с 7,1 млрд параметров для генерации текста в формате диалога ChatML. Она рассчитана на контекст до 32 768 токенов и поддерживает английский, корейский, японский, китайский и испанский языки. В карточке указано, что модель частично ориентирована на ERP-контент; примеры включают корейский диалог.

Модель подходит для чат-ботов и генерации ответов на нескольких языках. Весовые файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

Сценарии применения

  • создание мультиязычного чат-бота
  • генерация ответов на английском языке
  • диалог на корейском языке
  • генерация текста на японском, китайском или испанском языке

Ограничения

Поддержка ERP-контента обозначена как частичная. В карточке приведён только корейский пример диалога.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

[!TIP] Have Fun :>

Qwen2-7B-Multilingual-RP

Model Info

Context LengthParameterPrompt TemplateisErp
32k(32768)7BChatMLPartly

Prompt Template

{% for message in messages %}{{'<|im_start|>' + message['role'] + '\n' + message['content']}}{% if not loop.last or (loop.last and message['role'] != 'assistant') %}{{'<|im_end|>\n'}}{% endif %}{% endfor %}{% if add_generation_prompt and messages[-1]['role'] != 'assistant' %}{{ '<|im_start|>assistant\n' }}{% endif %}

Training Details

Trained withGPU HourTokens Seen
A100 80G SXM * 8> 1,000H> 2B

Examples

[!TIP] Korean example

[!TIP] More examples soon.

License

Copyright 2024, Wanot AI, Inc

Licensed under the Apache License, Version 2.0 (the "License"); you may not use this file except in compliance with the License. You may obtain a copy of the License at

http://www.apache.org/licenses/LICENSE-2.0

Unless required by applicable law or agreed to in writing, software distributed under the License is distributed on an "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. See the License for the specific language governing permissions and limitations under the License.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
487e8f0

0 моделей