This one with a custom config.head_dim as allowed by the architecture (see 7b model).
Характеристики
- Контекст
- 500 токенов
- Параметры
- 8,2 млн
- Размер весов
- 32,8 МБ
- Лицензия
- MIT
- Архитектура
- gemma · dense
- Опубликована
- 23 фев 2024
Ссылки
tiny-random-GemmaForCausalLM
fxmarty/tiny-random-GemmaForCausalLM — небольшая тестовая модель на архитектуре GemmaForCausalLM, разработанная пользователем или организацией с идентификатором fxmarty.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Тесты пользователейпока нет
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
README указывает, что модель использует пользовательское значение параметра config.head_dim, допустимое данной архитектурой, как в модели Gemma 7B.
Модель, вероятно, предназначена прежде всего для тестирования и проверки совместимости реализации GemmaForCausalLM с нестандартной конфигурацией head_dim, а не для прикладного использования. Данные о точном размере, количестве параметров, модальностях, поддерживаемых языках, размере контекста и эксплуатационных характеристиках отсутствуют. Сильной стороной является проверка поддержки настраиваемого параметра архитектуры, однако README не позволяет оценить качество генерации, производительность или ограничения модели в реальных сценариях.
Модель распространяется по лицензии MIT. Условия использования, включая разрешения на применение, модификацию и распространение, определяются этой лицензией.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…
- Класс архитектуры
- GemmaForCausalLM
- Ревизия весов
- ca53c1e