/ Модель

Характеристики

Контекст
131 072 токена
Лицензия
CC BY-NC-SA 4.0
Архитектура
dual_ar · dense
Опубликована
29 окт 2024

fish-agent-v0.1-3b

Обработка аудиоАудио → аудио3 профессии

Многоязычная голосовая модель Fish Audio для преобразования аудиовхода в аудиоответы и голосового взаимодействия.

51скачиваний за 30 дней277лайковвеса обновлены1 ноя 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Fish Agent V0.1 3B — голосовая модель компании Fish Audio, предназначенная для преобразования речи и звуковой информации в аудиоответы. В карточке она описана как Voice-to-Voice модель с архитектурой dual autoregressive без семантических токенов и традиционных семантических энкодеров и декодеров. Модель продолжает предобучение Qwen-2.5-3B-Instruct на 200 млрд голосовых и текстовых токенов; README также заявляет обучение на 700 000 часах многоязычных аудиоданных.

Модель поддерживает английский и китайский, а также немецкий, японский, французский, испанский, корейский и арабский языки. Она предназначена для голосового взаимодействия и генерации речи; в метаданных указаны аудиовход, чат и интерфейс вызова инструментов. Метаданные задают основную задачу как audio-to-audio. Репозиторий содержит веса PyTorch. Лицензия CC-BY-NC-SA-4.0 требует указания авторства и распространяет производные работы на тех же условиях, с ограничением некоммерческого использования. Описание точных параметров контекста и количественных оценок качества в предоставленных данных нет.

Сценарии применения

  • голосовой диалог с ассистентом
  • генерация многоязычных речевых ответов
  • озвучивание текстовых ответов
  • голосовое взаимодействие с вызовом инструментов

Ограничения

Лицензия запрещает коммерческое использование. README не приводит количественных результатов оценки качества или ограничений по длине контекста.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Fish Agent V0.1 3B

Fish Agent V0.1 3B is a groundbreaking Voice-to-Voice model capable of capturing and generating environmental audio information with unprecedented accuracy. What sets it apart is its semantic-token-free architecture, eliminating the need for traditional semantic encoders/decoders like Whisper and CosyVoice.

Additionally, it stands as a state-of-the-art text-to-speech (TTS) model, trained on an extensive dataset of 700,000 hours of multilingual audio content.

This model is a continue-pretrained version of Qwen-2.5-3B-Instruct for 200B voice & text tokens.

Supported Languages

The model supports the following languages with their respective training data sizes:

  • English (en): ~300,000 hours
  • Chinese (zh): ~300,000 hours
  • German (de): ~20,000 hours
  • Japanese (ja): ~20,000 hours
  • French (fr): ~20,000 hours
  • Spanish (es): ~20,000 hours
  • Korean (ko): ~20,000 hours
  • Arabic (ar): ~20,000 hours

For detailed information and implementation guidelines, please visit our Fish Speech GitHub repository.

Citation

If you find this repository helpful in your work, please consider citing:

@misc{fish-agent-0.1,
    author = {Shijia Liao and Tianyu Li and Rcell and others},
    title = {Fish Agent V0.1 3B},
    year = {2024},
    publisher = {GitHub},
    journal = {GitHub repository},
    howpublished = {\url{https://github.com/fishaudio/fish-speech}}
}

License

This model and its associated code are released under the BY-CC-NC-SA-4.0 license, allowing for non-commercial use with appropriate attribution.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Обработка «аудио → аудио» пока не поддерживается.

Ревизия весов
7db8a79

0 моделей