Объединённая 7,1-миллиардная модель Mistral для генерации текста с заявленной поддержкой изображений через Koboldcpp и mmproj.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
ChaoticNeutrals выпустил Visual-LaylelemonMaidRP-7B — объединённую модель Mistral для генерации текста. Она содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и доступна в форматах Safetensors и GGUF F16. Модель объединяет Infinitely-Laydiculous-7B и Stanta-Lelemon-Maid-7B.
В README заявлена поддержка обработки изображений: для использования vision требуется актуальная версия Koboldcpp и файл mmproj из репозитория. Метаданные указывают задачу text-generation; отдельное описание сценариев генерации изображений в карточке отсутствует. Лицензия указана как other, поэтому условия использования следует проверять в материалах репозитория.
Для работы с изображениями README требует актуальную версию Koboldcpp и файл mmproj. Лицензия обозначена как other, поэтому условия использования нужно уточнить в репозитории.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Heard you like Imatrix Quants, if so find them from lewdiculus here: https://huggingface.co/Lewdiculous/Visual-LaylelemonMaidRP-7B-GGUF-IQ-Imatrix
If you want to use vision functionality:
To use the multimodal capabilities of this model and use vision you need to load the specified mmproj file, this can be found inside this model repo.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…