/ Модель

Характеристики

Контекст
8 192 токена
Параметры
2,7 млрд
Лицензия
MIT
Архитектура
qwen2 · dense
Базовая модель
Quyen-mini-v0.1
Библиотека
transformers
Опубликована
17 мар 2024

ChickaQ-V2-Large-Beta

Генерация текстаТекст → текст6 профессий

Чатовая модель семейства ChickaQ, полученная слиянием двух языковых моделей и предназначенная для диалогов и генерации текста.

397скачиваний за 30 дней1лайквеса обновлены17 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

ChickaQ-V2-Large-Beta — чатовая языковая модель семейства ChickaQ, созданная слиянием моделей Qwen/Qwen1.5-1.8B-Chat и vilm/Quyen-mini-v0.1 методом passthrough с помощью mergekit. В репозитории указано около 3 млрд параметров; метаданные классифицируют архитектуру как плотную Qwen2 и указывают контекст до 8192 токенов.

Модель предназначена для диалогов и генерации текста. Её можно применять для ответов на вопросы, составления черновиков и интерактивного общения на естественном языке. Она распространяется в формате safetensors, используется с Transformers и имеет лицензию MIT. Карточка не приводит оценки качества или подробностей о поддерживаемых языках.

Сценарии применения

  • генерация ответов в диалоговом помощнике
  • ответы на вопросы в текстовом чате
  • составление черновиков и продолжение текста

Ограничения

Карточка не приводит оценок качества и не уточняет поддерживаемые языки. Указанный контекст модели — до 8192 токенов.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Models in the ChickaQ family

  • ChickaQ (0.5B)

  • ChickaQ-Large (1.8B)

  • ChickaQ-V2-Beta (0.9B)

  • ChickaQ-V2-Large-Beta (3B)

mergedmodel

This is a merge of pre-trained language models created using mergekit.

Merge Details

Merge Method

This model was merged using the passthrough merge method.

Models Merged

The following models were included in the merge:

Configuration

The following YAML configuration was used to produce this model:

slices:
  - sources:
    - model: Qwen/Qwen1.5-1.8B-Chat
      layer_range: [0, 24]
  - sources:
    - model: vilm/Quyen-mini-v0.1
      layer_range: [0, 24]
merge_method: passthrough
dtype: bfloat16

License


license: mit license_link: mit

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
792fc75

0 моделей