/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Unichat-llama3-Chinese-8B
Опубликована
24 апр 2024

Unichat-llama3-Chinese-8B-GGUF

Генерация текстаТекст → текст5 профессий

QuantFactory/Unichat-llama3-Chinese-8B-GGUF — это квантизированная версия модели UnicomLLM/Unichat-llama3-Chinese-8B, разработанной Центром инноваций в области ИИ China Unicom.

889скачиваний за 30 дней3лайкавеса обновлены24 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель создана на базе Meta-Llama-3-8B и дообучена с использованием китайских инструкционных данных; её основное назначение — генерация текста и ответы на вопросы, особенно на китайском языке.

Модель поддерживает английский и китайский языки, относится к классу text-generation и сохраняет исходный контекст длиной 8K токенов. Инструкционные данные охватывают различные области и отрасли и прошли ручной отбор. Квантизированный формат GGUF может быть удобен для локального запуска, однако README не содержит сведений о конкретном методе квантизации, требованиях к ресурсам или точных показателях производительности.

Сильной стороной модели является специализация на китайских вопросах и ответах при сохранении возможностей базовой Llama 3. Ограничениями являются контекст 8K, отсутствие заявленной поддержки версии на 64K в текущем описании и нехватка подробных данных о качестве на разных задачах. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Unichat-llama3-Chinese-8B- GGUF

Model Description (Translated)

  • China Unicom AI Innovation Center released the industry's first llama3 Chinese instruction fine-tuning model (full parameter fine-tuning), uploaded at 22:00 on April 19, 2024
  • This model is based on Meta Llama 3 , adds Chinese data for training, and achieves high-quality Chinese question and answer using the llama3 model.
  • The model context maintains the native length of 8K, and a version that supports 64K length will be released later.
  • Base model Meta-Llama-3-8B

📊 Data

  • High-quality instruction data, covering multiple fields and industries, providing sufficient data support for model training
  • Fine-tuning instruction data undergoes strict manual screening to ensure high-quality instruction data is used for model fine-tuning.

For more details on models, datasets and training please refer to:

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
f1d706b

0 моделей