Характеристики
- Размер весов
- 14,5 ГБ
- Лицензия
- Apache 2.0
- Архитектура
- mistral · dense
- Опубликована
- 9 июн 2024
Ссылки
Minstral_pubmed_gguf
GGUF-модель ThorBaller на 7 млрд параметров для ответов на вопросы, ориентированных на биомедицинские публикации PubMed.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
ThorBaller/Minstral_pubmed_gguf — модель, опубликованная пользователем ThorBaller на Hugging Face. Это GGUF-модель на 7 млрд параметров с архитектурой llama и лицензией Apache-2.0.
Модель предназначена для задач question answering; название указывает на ориентацию на вопросы по биомедицинским публикациям PubMed. Доступен вариант F16 размером около 14,5 ГБ. Карточка модели не содержит заполненного README, поэтому сведения о поддерживаемых языках, длине контекста, методе обучения и точности отсутствуют.
Сильные стороны модели — специализированная направленность на вопросы по биомедицинской тематике, формат GGUF и возможность локального запуска при наличии подходящего оборудования. Ограничения включают отсутствие подтверждённых сведений о языках и контекстном окне, а также неполную документацию.
Сценарии применения
- ответы на вопросы по биомедицинским публикациям
- поиск сведений в научных статьях PubMed
- локальная система вопросов и ответов по медицинской литературе
Ограничения
Поддерживаемые языки, длина контекста, метод обучения и показатели качества не подтверждены доступными источниками; README модели пуст. Для F16-варианта требуется около 14,5 ГБ памяти под веса.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).
- Ревизия весов
- b6cc44b