/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,2 млрд
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Meta-Llama-3.2-1B-Instruct
Опубликована
9 окт 2024

SipanGPT-0.2-Llama-3.2-1B-GGUF

Генерация текстаТекст → текст3 профессии

Дообученная испаноязычная модель на базе Llama 3.2 1B для диалоговых ответов на вопросы об Университете Señor de Sipán.

101скачиваний за 30 дней0лайковвеса обновлены19 окт 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SipanGPT 0.2 — дообученная Jhan Gómez P. модель для ответов на вопросы об Университете Señor de Sipán в регионе Ламбаеке, Перу. Она основана на unsloth/Meta-Llama-3.2-1B-Instruct и использует архитектуру LlamaForCausalLM с 1,2 млрд параметров; модель предназначена для диалоговой генерации текста. Репозиторий содержит веса GGUF в вариантах F16, Q4_K_M, Q5_K_M и Q8_0, а также формат PyTorch. Заявленная длина контекста — 131 072 токена.

Модель обучена на 5 400 диалогах и рассчитана прежде всего на испаноязычные вопросы о вузе и связанных с ним сведениях. Автор отмечает, что модель часто галлюцинирует, поэтому ответы следует проверять. Лицензия — Apache-2.0.

Сценарии применения

  • ответы на вопросы об Университете Señor de Sipán
  • справочная информация о вузе в Ламбаеке, Перу
  • диалоговая консультация по сведениям об университете
  • генерация ответов на испанском языке по университетской тематике

Ограничения

Автор сообщает о частых галлюцинациях, связывая их с обучением на 5 400 диалогах; ответы нужно проверять. Специализация модели ограничена вопросами об Университете Señor de Sipán.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SipánGPT 0.2 Llama 3.2 1B GGUF

  • Modelo pre-entrenado para responder preguntas de la Universidad Señor de Sipán de Lambayeque, Perú.
  • Pre-trained model to answer questions from the Señor de Sipán University of Lambayeque, Peru.

Testing the model

image/png

  • Debido a la cantidad de conversaciones con las que fue entrenado (5400 conversaciones), el modelo genera bastantes alucinaciones.
  • Due to the number of conversations with which it was trained (5400 conversations), the model generates quite a few hallucinations.

Uploaded model

  • Developed by: jhangmez
  • License: apache-2.0
  • Finetuned from model : unsloth/Meta-Llama-3.2-1B-Instruct

This llama model was trained 2x faster with Unsloth and Huggingface's TRL library.


SipánGPT 0.2 Llama 3.2 1B GGUF

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
6999cf8

0 моделей