Характеристики

Контекст: 8 192 токена
Параметры: 7,5 млрд
Размер весов: 16,1 ГБ
Лицензия: Своя лицензия
Архитектура: llama · dense
Опубликована: 24 июл 2024

Ссылки

Hugging Face

Hathor_Sofit-L3-8B-v1

Nitral-AI

Генерация текстаТекст → текст

Русское описание этой модели ещё готовится. Пока можно заглянуть в карточку модели от автора ниже.

47скачиваний за 30 дней24лайкавеса обновлены1 фев 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

image/png

Hathor_Sofit [v1] is designed to seamlessly integrate the qualities of creativity, intelligence, and robust performance.

GGUF Quant's available Thanks to: Mradermacher <3 GGUF Here

EXL2 Quant's available Thanks to RiveRiPH <3 Exl2 8bpw Here Exl2 6.3bpw Here

Recomended ST Presets: Hathor Presets(Updated)

Training-Note: Hathor_Sofit [v1] is trained on 1 epoch of Private - STEM (Intruction/Dialogs), swallow-magpie-ultra-v0.1, Hathor_0.5 Instructions, mixture of creative writing data (light/web/classical novels), roleplaying chat pairs over Hathor_0.85.

Additional Notes: This will be the last of the Hathor Model series, and all my trains over Llama 3.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры: LlamaForCausalLM
Ревизия весов: b623cd5