/ Модель

Характеристики

Контекст
8 192 токена
Параметры
1,5 млрд
Архитектура
qwen2 · dense
Базовая модель
Qwen1.5-1.8B-Chat
Библиотека
transformers
Опубликована
9 мар 2024

ChickaQ-Large

Генерация текстаТекст → текст7 профессий

ChickaQ-Large — диалоговая языковая модель на 1,5 млрд параметров для генерации текста, полученная слиянием моделей методом TIES.

16скачиваний за 30 дней1лайквеса обновлены17 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ChickaQ-Large — языковая модель с открытыми весами из семейства ChickaQ, созданная слиянием моделей методом TIES при помощи mergekit. В слиянии использованы vilm/Quyen-Mini-v0.1 и Qwen/Qwen1.5-1.8B-Chat; в конфигурации базовой указана Quyen-Mini-v0.1. Модель построена на архитектуре Qwen2ForCausalLM, содержит 1,5 млрд параметров и распространяется в формате safetensors; для работы указана библиотека Transformers.

Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Метаданные не указывают специализацию на конкретной предметной области или язык.

Лицензия и отдельные ограничения применения в предоставленных материалах не описаны.

Сценарии применения

  • ведение диалога с текстовым ассистентом
  • генерация продолжения текста
  • подготовка черновиков и кратких ответов
  • создание диалоговых примеров

Ограничения

В материалах не приведены результаты оценки качества или подтверждённые ограничения. Сведения о лицензии отсутствуют.

Для каких профессий подходит7

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Models in the ChickaQ family

  • ChickaQ (0.5B)

  • ChickaQ-Large (1.8B)

  • ChickaQ-V2-Beta (0.9B)

  • ChickaQ-V2-Large-Beta (3B)

mergedmodel

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the TIES merge method using vilm/Quyen-Mini-v0.1 as a base.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

models:
  - model: vilm/Quyen-Mini-v0.1
    # no parameters necessary for base model
  - model: Qwen/Qwen1.5-1.8B-Chat
    parameters:
      density: 1
      weight: 0.5
merge_method: ties
base_model: vilm/Quyen-Mini-v0.1
parameters:
  normalize: true
dtype: float16

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
d06a7df

0 моделей