/ Модель

Характеристики

Контекст
131 072 токена
Параметры
1,2 млрд
Лицензия
Llama 3.2
Архитектура
llama · dense
Библиотека
transformers
Опубликована
30 ноя 2024

Llama-3.2-Infinirc-1B-Instruct

Генерация текстаТекст → текст3 профессии

Чатовая Llama 3.2 на 1,2 млрд параметров, дообученная для генерации текста и ответов с учетом тайваньской культуры.

27скачиваний за 30 дней1лайквеса обновлены12 дек 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Llama-3.2-Infinirc-1B-Instruct — созданная Чэнь Чжаожу из Infinirc.com инструкция-модель на архитектуре Llama 3.2. Это плотная языковая модель примерно на 1,2 млрд параметров, дообученная на материалах, связанных с Тайванем: диалогах, новостях, литературе, интернет-текстах, программировании, медицинских вопросах и англоязычных диалогах. Модель предназначена для генерации текста и автоматических ответов с учетом тайваньской культуры и языковых особенностей; поддерживает чатовый сценарий и контекст до 131 072 токенов.

В качестве базовой модели указана meta-llama/Llama-3.2-1B-Instruct. Репозиторий содержит веса в формате safetensors; для использования действует лицензия Llama 3.2. README приводит результаты отдельных тестов, но не дает полного описания качества. Следует учитывать возможность вредных или дискриминационных генераций и проверять ответы, особенно в медицинских сценариях.

Сценарии применения

  • ответы на вопросы о тайваньской культуре и обществе
  • генерация диалогов на традиционном китайском языке
  • составление текстов о Тайване по новостным и литературным темам
  • ответы на общие медицинские вопросы с последующей проверкой специалистом
  • помощь с программированием в диалоговом формате

Ограничения

README не сообщает подробностей об оценке качества помимо отдельных результатов тестов. Ответы, особенно по медицинским вопросам, могут содержать ошибки или вредный и дискриминационный контент и требуют проверки.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Infinirc/Llama-3.2-Infinirc-11B-Vision-Instruct

模型詳情

開發者:陳昭儒Infinirc.com
模型版本:1.0
訓練數據:采用與台灣文化相關的資料集,包括、對話、台灣新聞、文學作品、網路文章、程式、醫療問題、英文對話等。

目的和用途

Llama-3.2-Infinirc-11B-Vision-Instruct模型是專門為了更好地理解和生成與台灣文化相關的文本而設計和微調的。目標是提供一個能夠捕捉台灣特有文化元素和語言習慣的強大語言模型,適用於文本生成、自動回答等多種應用。

模型架構

基礎模型:meta-llama/Llama-3.2-1B-Instruct

llama-vision-gradio-webui

https://github.com/Infinirc/llama-vision-gradio-webui

Evaluation

TasksVersionFiltern-shotMetricValueStderr
arc_easy1none0acc↑0.6301±0.0099
none0acc_norm↑0.5669±0.0102
hellaswag1none0acc↑0.4334±0.0049
none0acc_norm↑0.5826±0.0049
piqa1none0acc↑0.7329±0.0103
none0acc_norm↑0.7307±0.0104
winogrande1none0acc↑0.5912±0.0138

使用和限制

請遵守許可證限制。

風險與倫理考量

使用本模型時應注意確保生成的內容不包含歧視性或有害信息。模型的開發和使用應遵循倫理準則和社會責任。

聯絡方式

如有任何問題或需要進一步的信息,請透過下方聯絡方式與我們團隊聯繫:
Email: ricky@infinirc.com
網站: https://infinirc.com

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
4779486

0 моделей