/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Опубликована
18 апр 2024

filiberto-7B-instruct-exp1

Генерация текстаТекст → текст6 профессий

Конверсия Mistral-7B-Instruct-v0.2 для генерации диалогового текста и экспериментальных задач вроде коррекции OCR.

201скачиваний за 30 дней0лайковвеса обновлены18 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

versae/filiberto-7B-instruct-exp1 — конверсия Mistral-7B-Instruct-v0.2 в формат MLX, выполненная с помощью mlx-lm 0.9.0. Это плотная авторегрессионная языковая модель Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; карточка обозначает её как разговорную модель для генерации текста. README упоминает примеры применения для исправления OCR и определения Stanza, но не приводит достаточно деталей об их качестве или специализации модели.

Модель принимает текст и генерирует текст, поэтому её можно использовать для диалоговых запросов, исправления ошибок OCR и распознавания сущностей или категорий с помощью Stanza. В репозитории есть варианты GGUF F16, F32 и Q4_0, а также safetensors. Лицензия — Apache-2.0. Языки в доступных данных не определены.

Сценарии применения

  • генерация ответов в текстовом диалоге
  • исправление ошибок OCR в распознанном тексте
  • определение сущностей и категорий текста с помощью Stanza

Ограничения

README не описывает качество и условия примеров OCR и Stanza; сведения о поддерживаемых языках отсутствуют.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

versae/filiberto-7B-instruct-exp1

This model was converted to MLX format from mistralai/Mistral-7B-Instruct-v0.2 using mlx-lm version 0.9.0. Refer to the original model card for more details on the model.

Use with mlx

pip install mlx-lm
from mlx_lm import load, generate
model, tokenizer = load("versae/filiberto-7B-instruct-exp1")

OCR correction

text = """Otra vez, Don Iuan, me dad,
y otras mil vezes los braços.
Otra, y otras mil sean lazos
de nuestra antigua amistad.
Como venis?
Yo me siento
tan alegre, tan vfano,
tan venturoso, tan vano,
que no podrà el pensamiento
encareceros jamàs
las venturas que posseo,
porque el pensamiento creo"""

prompt = f"""<s>[INST] Dado el siguiente texto OCR, corrige los fallos que encuentres y devuelve el texto corregido:

{text} [/INST]"""

response = generate(model, tokenizer, prompt=prompt, verbose=True)

### Stanza identification

text = """Alcázares finjo más altos que montes;
escalo las bóvedas de ingrávido tul
asida a las ruedas de alados Faetones;
ensueño quimeras; oteo horizontes
de nieve, de rosa, de nácar, de azul."""

prompt = f"""<s>[INST] Indique el nombre de la siguiente estrofa:

{text} [/INST]"""

response = generate(model, tokenizer, prompt=prompt, verbose=True)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
MistralForCausalLM
Ревизия весов
bf2f5ca

0 моделей