Тестовая случайно инициализированная мини-модель LLaMA предназначена для быстрой разработки и проверки кода.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
peterchatain выпустил тестовую мини-модель семейства LLaMA для быстрой разработки и проверки кода. Это причинная языковая модель на архитектуре LlamaForCausalLM с одним блоком трансформера, размером скрытого слоя 2 и 32 тысячами параметров. Она принимает текст и формирует текст; максимальная длина контекста составляет 2048 токенов.
Веса инициализированы случайно, поэтому модель не предназначена для осмысленных ответов или практических задач генерации текста. Репозиторий содержит веса PyTorch; сведения о лицензии в доступных данных отсутствуют.
Веса инициализированы случайно, поэтому модель не подходит для получения осмысленных ответов и прикладного использования. Контекст ограничен 2048 токенами.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is a mini llama model initialized randomly. It has a single transformer block, and hidden size of 2 in order to facilitate quick iteration during development.
config = LlamaConfig( vocab_size=32000, hidden_size=2, intermediate_size=2, num_hidden_layers=1, num_attention_heads=2, hidden_act="silu", max_position_embeddings=2048, initializer_range=0.02, rms_norm_eps=1e-06, use_cache=True, pad_token_id=0, bos_token_id=1, eos_token_id=2, tie_word_embeddings=False, )
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…