Характеристики
- Контекст
- 32 768 токенов
- Параметры
- 9,9 млн
- Размер весов
- 78,2 МБ
- Архитектура
- qwen · dense
- Опубликована
- 1 мар 2024
Ссылки
tiny-random-qwen
katuni4ka/tiny-random-qwen — компактная модель для генерации текста, опубликованная пользователем katuni4ka на Hugging Face.
Бенчмарки
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Публичные оценки
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
Репозиторий предоставляет реализацию Qwen через custom code и поддерживает загрузку в Transformers как AutoModelForCausalLM; также заявлена совместимость с vLLM и SGLang. Карточка модели отсутствует, поэтому сведения о разработчике ограничиваются авторством аккаунта katuni4ka.
Архитектура указана как QWenLMHeadModel: 2 скрытых слоя, hidden size 64, 2 attention heads, intermediate size 334, словарь из 151936 токенов и максимальная позиционная длина 32768 токенов; параметров около 19,5 млн, формат хранения — Safetensors F32. Модель рассчитана только на текстовую генерацию; сведения о поддерживаемых языках, обучающих данных, качестве, специализированных сценариях и мультимодальности не указаны. Из-за очень малого размера она удобна для тестирования интеграций и разработки, но пригодность для содержательных прикладных задач не подтверждена. Лицензия в доступных материалах не указана.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Карточка модели
README от автора на Hugging Face, как он его опубликовал
Автор не опубликовал карточку модели.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.
- Класс архитектуры
- QWenLMHeadModel
- Ревизия весов
- e669886