/ Модель
Каталог

Характеристики

Контекст
4 096 токенов
Параметры
7,1 млрд
Лицензия
CC BY-NC 4.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
3 апр 2024

Ссылки

Hugging Face

Bielik-7B-Instruct-v0.1-GPTQ

speakleash
Генерация текстаТекст → текст3 профессии

speakleash/Bielik-7B-Instruct-v0.1-GPTQ — квантизированная версия Bielik-7B-Instruct-v0.1, разработанная командой SpeakLeash.

1 521скачиваний за 30 дней5лайковвеса обновлены4 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это авторегрессионная decoder-only модель примерно на 7 млрд параметров, предназначенная для генерации и обработки текста на польском языке в сценариях инструкционного взаимодействия.

Модель поставляется в формате GPTQ, что ориентировано на более эффективное размещение и запуск по сравнению с полноразмерной версией. При этом разработчики предупреждают о возможном снижении качества ответов и повышенной вероятности галлюцинаций у квантизированной версии. Модель дообучена на Bielik-7B-v0.1, а её базовой моделью для квантования указана Bielik-7B-Instruct-v0.1. Поддерживаемая модальность — текстовая; сведения о размере контекста в README не указаны. Лицензия CC BY-NC 4.0 разрешает использование при соблюдении её условий, включая некоммерческий характер применения.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделейI.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модельI.11Универсальные способностиКлассификация, ранжирование и сопоставлениеAI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки.15 задач26 736моделей

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Bielik-7B-Instruct-v0.1-GPTQ

This repo contains GPTQ format model files for SpeakLeash's Bielik-7B-Instruct-v0.1.

DISCLAIMER: Be aware that quantised models show reduced response quality and possible hallucinations!

Simple Colab notebook for testing: https://colab.research.google.com/drive/1Al9glPVCuOXbtDsks8cMcuzkuu8YDzpg?usp=sharing

Model description:

  • Developed by: SpeakLeash
  • Language: Polish
  • Model type: causal decoder-only
  • Quant from: Bielik-7B-Instruct-v0.1
  • Finetuned from: Bielik-7B-v0.1
  • License: CC BY NC 4.0 (non-commercial use)
  • Model ref: speakleash:e38140bea0d48f1218540800bbc67e89

Contact Us

If you have any questions or suggestions, please use the discussion tab. If you want to contact us directly, join our Discord SpeakLeash.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
cdfad0d

0 моделей

    Создать бенчмарк