Экспериментальная компактная GPT‑2-подобная модель в форматах GGUF для генерации текста и диалогов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это конвертированные в GGUF версии модели NILKNARFGonzo/floppyx3-MEGAmodel-merged, опубликованные GGUFGuy. В основе — очень небольшая GPT‑2-подобная модель примерно на 1,1 млн параметров; репозиторий содержит варианты F32, F16 и BF16. В метаданных указаны генерация текста и разговорный режим, а среди языков — английский.
Модель предназначена для генерации текста и диалоговых сценариев. Качество базовой модели в каталоге оценено как очень низкое, поэтому её следует считать экспериментальной и не рассчитывать на надёжные ответы в практических задачах. Лицензия — CC BY-SA 4.0. Квантизация Q8_0 отсутствует: размерность эмбеддингов 106 не совместима с блоками квантизации по 32 значения, из-за чего квантователь llama.cpp завершается с ошибкой.
Качество базовой модели оценивается как очень низкое; она не подходит для задач, требующих надёжных ответов. Формат Q8_0 отсутствует из-за несовместимости размерности эмбеддингов с блоками квантователя llama.cpp.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
GGUF conversions of NILKNARFGonzo/floppyx3-MEGAmodel-merged.
Available formats:
Q8_0 is not included because the model's 106-dimensional embedding tensors are not compatible with Q8_0's 32-value quantization blocks, causing llama.cpp's quantizer to fail.
The original model is a very small ~1.1M-parameter GPT-2-style base model.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…