/ Модель

Характеристики

Контекст
1 010 000 токенов
Параметры
14 млрд
Размер весов
59,1 ГБ
Лицензия
Своя лицензия
Архитектура
qwen2 · dense
Базовая модель
qwen14-2wc1p-eos-3
Библиотека
transformers
Опубликована
15 фев 2025

qwen14-2wc1p-eos-3-merge

Генерация текстаТекст → текст

14-миллиардная текстовая модель на архитектуре Qwen2 для генерации текста и диалогов, дообученная с настройкой EOS для улучшения длины ответов.

107скачиваний за 30 дней0лайковвеса обновлены18 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Steven10429/qwen14-2wc1p-eos-3-merge 是基于 Qwen2 架构的 14B 参数文本生成模型,由 Steven10429 发布。README 说明该版本将 LoRA 微调应用到基座模型,并尝试通过调整 EOS 设置和降低学习率改善生成长度;仓库提供 safetensors 和多种 GGUF-квантизации, включая Q2_K, Q4_K, IQ4_NL, Q5_K_M, Q6_K и Q8_0. Метаданные указывают контекст до 1 010 000 токенов и возможности диалогового общения и интерфейс вызова инструментов.

Модель предназначена для генерации текста и диалоговых сценариев. В карточке указана лицензия other; конкретные условия лицензии в предоставленных данных не раскрыты. Данных о поддерживаемых естественных языках и специализированных предметных областях нет.

Сценарии применения

  • генерация связных текстовых ответов
  • диалог с языковой моделью
  • создание продолжений заданного текста

Ограничения

README сообщает о попытке исправить проблему с длиной генерации; также отмечен случайный вывод EOS, поэтому длина ответов может быть нестабильной. Условия лицензии указаны как other без пояснения.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model

Steven10429/qwen14-2wc1p-eos-3-merge

Details:

This iteration

本轮训练

  • 开启eos
  • 降低lr
  • 3 epoch
  • 尝试改善模型生成长度问题

下一步尝试:

  • 随机EOS出现,0.3概率出现EOS
  • 降低EOS的概率,修改GUFF保存文件

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Qwen2ForCausalLM
Ревизия весов
98ee3f2

0 моделей