Характеристики

Контекст: 8 192 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Llama 3.1
Архитектура: llama · dense
Базовая модель: Meta-Llama-3.1-8B-bnb-4bit
Опубликована: 5 сен 2024

Ссылки

Hugging Face arXiv 2405.09673

fikri-3.1-8B-Instruct

BrewInteractive

Генерация текстаТекст → текст

Fikri — дообученная на турецких текстах модель Llama 3.1 для диалогов, понимания инструкций и генерации текста.

16скачиваний за 30 дней6лайковвеса обновлены20 сен 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Fikri — языковая модель Brew Interactive / AI Guild для понимания и генерации текста на турецком языке. Она основана на Llama 3.1 8B с архитектурой LlamaForCausalLM и содержит около 7,5 млрд параметров. Модель дообучена на примерно 1 млрд токенов турецкого текста и 200 тыс. турецких инструкций; README указывает применение в диалогах и суммаризации. Контекст модели — 8192 токена.

Модель рассчитана на турецкоязычные текстовые приложения, которым нужны ответы на инструкции и создание связного текста. В метаданных указана лицензия Llama 3.1. README описывает конфигурацию LoRA, но метаданные классифицируют модель как дообучение базовой модели Unsloth Meta-Llama-3.1-8B-bnb-4bit.

Сценарии применения

ответы на запросы и инструкции на турецком языке
турецкоязычный диалоговый помощник
суммаризация турецких текстов
генерация связного текста на турецком языке

Ограничения

Модель ориентирована на турецкий язык; качество для других языков не подтверждено. README не приводит результатов независимой оценки качества.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

TR

Model Genel Bakış

Model Adı: Fikri

Model Türü: Dil Modeli

Dil: Türkçe

Model Boyutu: 8 milyar parametre

Temel Model: Llama 3.1

Geliştirme Donanımı: 2x NVIDIA RTX 4090 GPU

Açıklama:

Fikri, Türkçede "fikir sahibi" veya "düşünce ile ilgili" anlamlarına gelir. Bu model, Türkçe görevler için özel bir veriseti ile eğitilmiş en küçük modellerimizden biridir.

Örnek Alınan Makale: https://arxiv.org/abs/2405.09673

Model Mimarisi

Temel Model: Llama 3.1 8B

Temel Model İnce Ayar Veri Boyutu: ~1 milyar yüksek kaliteli Türkçe metin birimi

Komut Eğitimi Veri Boyutu: 200 bin Türkçe komut seti

Eğitim Bilgileri

Eğitim sonucu istatistikleri:

Kayıp: 0.996
Eğitimi Süresi: (~24 saat)
Epoch: 1.0

Lora Yapılandırması:

r = 128
lora_alpha = 32
learning_rate = 5e-5

Kullanım

Fikri, esas olarak Türkçe metin anlama ve üretim gerektiren görevler için tasarlanmıştır. Basit konfigürasyonu ve optimize edilmiş eğitim verisi, metin üretimi tabanlı yapay zeka uygulamalarından metin özetlemeye kadar çeşitli uygulamalarda Türkçe dilinin inceliklerine uygun ve verimli kullanım sağlar.

Teşekkür

Fikri, Türkçe dil ve kültüründe yapay zekanın yeteneklerinin geliştirilmesi amacıyle üretilmiş, sınırlı Türkçe kaynağın arttırılmasına yönelik bir modeldir. Sorularınız, geri bildirimleriniz veya destek talepleriniz için geliştirme ekibimize ulaşmaktan çekinmeyin.

Brew Interactive/AI Guild https://brewww.com

EN

Model Overview

Model Name: Fikri

Model Type: Language Model

Language: Turkish

Model Size: 8B parameters

Base Model: Llama 3.1

Development Hardware: 2x NVIDIA RTX 4090 GPU

Description:

Fikri, meaning "intellectual" or "of thought" in Turkish. This model is the first and lightest in our lineup, fine-tuned specifically for low-stream Turkish tasks.

Influencing Paper: LoRA Learns Less and Forgets Less

Model Architecture

Base Model: Llama 3.1 8B

Base Model Fine-tuning Data Size: ~1B tokens of high-quality Turkish data

Instruction Training Data Size: 200k Turkish instructions

Training Information

Fikri was trained with the following statistics and configuration:

Training Loss: 0.996
Instruction Training Runtime: (~24 hours)
Epochs: 1.0

Lora Configuration:

r = 128
lora_alpha = 32
learning_rate = 5e-5

Usage

Fikri is primarily designed for tasks requiring understanding and generation of Turkish text. Its light configuration and optimized training data make it suitable for various applications, from conversational AI to text summarization, while maintaining efficiency and relevance to Turkish language nuances.

Acknowledgments

Fikri is a testimony to collaborative innovation, inspired by cutting-edge research and dedicated to advancing the capabilities of artificial intelligence in the Turkish language.

If you have any questions, feedback, or need support, feel free to reach out to our development team.