GGUF-конверсии небольшой базовой GPT-2-модели для генерации текста и экспериментов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-конверсии базовой модели floppyx3-MEGAmodel-base от NILKNARFGonzo — небольшой модели в стиле GPT-2 примерно на 1,1 млн параметров. Репозиторий содержит варианты весов F32, F16 и BF16 для запуска в совместимом с GGUF программном обеспечении.
Модель предназначена для генерации текста и может служить базой для экспериментов или дальнейшего обучения. В карточке указан английский язык и датасет Capybara-ShareGPT. Лицензия — CC BY-SA 4.0.
Это очень маленькая экспериментальная модель; по размеру её возможности генерации ограничены. Вариант Q8_0 отсутствует: размерность эмбеддингов 106 не совместима с блоками квантования по 32 значения, из-за чего квантователь llama.cpp завершается с ошибкой.
Модель содержит около 1,1 млн параметров, поэтому её возможности ограничены; вариант Q8_0 не предоставлен из-за несовместимости размерности эмбеддингов с блоками квантования llama.cpp.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
GGUF conversions of NILKNARFGonzo/floppyx3-MEGAmodel-base.
Available formats:
Q8_0 is not included because the model's 106-dimensional embedding tensors are not compatible with Q8_0's 32-value quantization blocks, causing llama.cpp's quantizer to fail.
The original model is a very small ~1.1M-parameter GPT-2-style base model.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…