Компактная тестовая GGUF-модель LlamaForCausalLM для генерации текста на английском языке.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
aladar/tiny-random-LlamaForCausalLM-GGUF — компактная тестовая модель семейства LlamaForCausalLM, опубликованная пользователем aladar в формате GGUF. Модель представлена в варианте f16 и предназначена для запуска задач генерации текста на английском языке.
Модель имеет случайную тестовую конфигурацию и предназначена прежде всего для проверки загрузки и совместимости, поэтому её не следует рассматривать как полноценную модель для прикладной генерации текста. Размер и длина контекста в доступных данных не указаны.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
GGUFd (f16) https://huggingface.co/yujiepan/llama-2-tiny-random
pip install huggingface-hub
From CLI:
huggingface-cli download \
aladar/tiny-random-LlamaForCausalLM-GGUF \
tiny-random-LlamaForCausalLM.gguf \
--local-dir . \
--local-dir-use-symlinks False
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…