/ Модель

Характеристики

Контекст
4 096 токенов
Параметры
8,6 млрд
Размер весов
17,7 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Yi-1.5-9B
Опубликована
13 мая 2024

dao-9b

Генерация текстаТекст → текст3 профессии

Dao-9B — дообученная языковая модель для локального перевода китайских веб-романов и другой литературной прозы на английский язык.

21скачиваний за 30 дней19лайковвеса обновлены14 мая 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Dao-9B — открытая модель генерации текста от разработчиков Omni Translator, уменьшенная версия модели для литературного перевода. Она рассчитана прежде всего на перевод китайских веб-романов на английский язык и может запускаться локально; README отмечает, что по возможностям она уступает полной версии и основана на менее современной методике и данных.

Модель дообучена на базе Yi-1.5-9B: это плотная архитектура семейства Llama с 8,6 млрд параметров. Она поддерживает диалоговый режим, принимает и генерирует текст, использует форматы PyTorch и Safetensors и имеет контекст длиной 4096 токенов. Для перевода README рекомендует сначала извлекать из контекста термины и имена, чтобы последовательно передавать их в последующих фрагментах.

Лицензия — Apache-2.0. Модель описана как uncensored, поэтому может создавать неподходящий для части аудитории контент. Обучение преимущественно на парах китайский—английский, поэтому качество для других языковых пар может быть ниже; сравнительных результатов для Dao-9B в карточке нет.

Сценарии применения

  • перевод китайских веб-романов на английский
  • перевод литературной прозы с сохранением терминов и имён
  • последовательный перевод длинного текста по фрагментам с передачей глоссария

Ограничения

Обучение преимущественно на данных китайско-английского перевода, поэтому для других языковых пар качество может быть ниже. Модель может генерировать неподходящий для части аудитории контент.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Intro

Dao-9B is the smaller, open-source version of the translation model powering the Omni Translator, a state-of-the-art literary translation tool. While less capable than the full model, as it's on a less recent methodology and data, Dao-9B is still a powerful translation model that can be run locally and performs especially well on Chinese webnovels.

While no comparison is available for this model, you can find the comparison page (against several other translation tools) for the full model here.

Quick Start

To get started quickly, you can explore the starter Colab notebook here.

We do not provide inference service for this model, you can instead try out the more powerful full model on the Omni Translator.

Usage

To fully utilize the capability of this model in translation, it is recommended to follow the steps below:

  1. Preprocessing: Prepare the text to be translated. Make sure that \n\n is used to separate paragraphs. Normalize the text via Unicode normalization (NFKC) and remove any extra spaces.
  2. Chunking: Break the text into chunks of approximately 350 characters. This is to ensure that the model can handle the text efficiently.
  3. Term Extraction: Extract terms from the text to be translated. This is especially useful for translating novels, where the same terms are used repeatedly across the chapters.
  4. Translation: Translate the text using the model. Provide the terms extracted in step 3, and the previous chunk of text to the model to improve the translation quality.

We provide a starting code that demonstrates most of the above steps in the starter Colab notebook.

Extracting Terms

Use the following prompt template to extract terms from the text:

<context>
{context}
</context>

<passage>
{input}
</passage>

Given the above passage, please list out the terminologies and namings present that may be reused in the translations of future passages. Output the terminologies in the format of Raw, English. Use the CSV format.

Performing Translation

Use the following prompt template to perform translation:

<context>
{context}
</context>

<passage>
{input}
</passage>

<terms>
{terms}
</terms>

You are a professional translator. Given the above passage, please translate the passage to English.

Limitations

  • This model is uncensored and may generate content that is inappropriate for some audiences. Please use with caution.
  • This model is trained with mainly Chinese -> English data, and may not perform well on other language pairs.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
c3e4826

0 моделей