/ Модель

Характеристики

Контекст
8 192 токена
Параметры
2,5 млрд
Размер весов
5 ГБ
Архитектура
gemma · dense
Библиотека
transformers
Опубликована
2 мар 2024

ko-gemma-2b-it-sft

Генерация текстаТекст → текст5 профессий

Дообученная на Gemma 2B Instruct корейско-английская чат-модель для генерации ответов и примеров кода.

26скачиваний за 30 дней1лайквеса обновлены8 мар 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

CarrotAI/ko-gemma-2b-it-sft — разговорная языковая модель, дообученная на основе google/gemma-2b-it. Это плотная модель семейства Gemma с 2,5 млрд параметров, рассчитанная на генерацию ответов в диалоге; пример в карточке показывает ответ на корейский запрос с кодом на Python. Модель предназначена для чат-ботов и систем вопросов и ответов, а также может генерировать объяснения и примеры кода.

Поддерживаемые языки — корейский и английский; контекст — до 8192 токенов. Модель распространяется в формате safetensors для библиотеки Transformers. В карточке не приведена лицензия. Качество может зависеть от сложности задачи и формулировки запроса, поэтому пригодность для конкретного применения следует оценить отдельно.

Сценарии применения

  • создание корейского чат-бота
  • ответы на вопросы на корейском языке
  • генерация примеров кода по запросу
  • подготовка объяснений и справочных ответов на английском языке

Ограничения

Качество может снижаться на сложных задачах и меняться в зависимости от формулировки запроса; карточка рекомендует проверять модель для конкретного применения.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model

Model Page: Gemma

  • fine-tuned the google/gemma-2b-it model.

How to Use it

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("carrotter/ko-gemma-2b-it-sft")
model = AutoModelForCausalLM.from_pretrained("carrotter/ko-gemma-2b-it-sft")

chat = [
    { "role": "user", "content": "피보나치 수열 파이썬 코드로 알려줘" },
]
prompt = tokenizer.apply_chat_template(chat, tokenize=False, add_generation_prompt=True)

inputs = tokenizer.encode(prompt, add_special_tokens=False, return_tensors="pt")
outputs = model.generate(input_ids=inputs.to(model.device), max_new_tokens=100)
print(tokenizer.decode(outputs[0]))

Example Output

<bos><start_of_turn>user
피보나치 수열 파이썬 코드로 알려줘<end_of_turn>
<start_of_turn>model
다음은 피보나치 수열을 파이썬으로 구현하는 방법의 예입니다:

def fibonacci(n):
    if n <= 1:
        return n
    else:
        return fibonacci(n-1) + fibonacci(n-2)

이 함수는 n이 피보나치 수열의 몇 번째 항인지에 따라 반환합니다. n이 1이거나 2인 경우

Applications

This fine-tuned model is particularly suited for [mention applications, e.g., chatbots, question-answering systems, etc.]. Its enhanced capabilities ensure more accurate and contextually appropriate responses in these domains.

Limitations and Considerations

While our fine-tuning process has optimized the model for specific tasks, it's important to acknowledge potential limitations. The model's performance can still vary based on the complexity of the task and the specificities of the input data. Users are encouraged to evaluate the model thoroughly in their specific context to ensure it meets their requirements.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
GemmaForCausalLM
Ревизия весов
7b1946e

0 моделей