/ Модель

Характеристики

Контекст
2 048 токенов
Параметры
3,5 млрд
Размер весов
11,1 ГБ
Лицензия
Apache 2.0
Архитектура
phi · dense
Библиотека
transformers
Опубликована
16 апр 2024

MFANN3bv0.4

Генерация текстаТекст → текст4 профессии

Экспериментальная дообученная модель Phi на 3,5 млрд параметров для генерации и классификации текста с упором на пошаговые рассуждения.

28скачиваний за 30 дней0лайковвеса обновлены17 апр 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MFANN3bv0.4 — экспериментальная языковая модель семейства Phi примерно на 3,5 млрд параметров, разработанная автором репозитория netcat420. Это вариант MFANNv0.5, дообученный на датасете MFANN; автор описывает работу как эксперимент с пошаговыми рассуждениями. Модель предназначена для генерации текста и классификации текста. В карточке приведены результаты бенчмарков ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K.

Модель построена на плотной архитектуре PhiForCausalLM, использует библиотеку Transformers и формат весов safetensors. Контекст составляет 2048 токенов. Лицензия — Apache-2.0. Датасет MFANN, по словам автора, находится в разработке; качество и надёжность пошаговых рассуждений могут быть ограничены экспериментальным характером модели.

Сценарии применения

  • генерация ответов с пошаговыми рассуждениями
  • классификация текстовых фрагментов
  • решение задач на рассуждение и понимание текста
  • эксперименты с дообучением на датасете MFANN

Ограничения

Датасет MFANN всё ещё находится в разработке, а модель заявлена как личный эксперимент; приведённые бенчмарки не гарантируют качество на пользовательских задачах.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

BENCHMARKS: AVG: 62.97 ARC: 60.58 HellaSwag: 76.03 MMLU: 55.8 TruthfulQA: 52.64 Winogrande: 77.83 GSM8K: 55.72

3b variant of MFANNv0.5

fine-tuned on the MFANN dataset which is still a work in progress, and is a chain-of-thought experiment carried out by me and me alone.

image/png

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
PhiForCausalLM
Ревизия весов
5be0366

0 моделей