/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
19,3 млрд
Размер весов
42,8 ГБ
Архитектура
internlm2 · dense
Опубликована
4 июн 2024

internlm2-wqx-vl-20b

Генерация текстаТекст → текст3 профессии

Мультимодальная модель InternLM2 на 19,3 млрд параметров для ответов на учебные вопросы и решения задач, включая подготовку к китайским вступительным экзаменам.

35скачиваний за 30 дней6лайковвеса обновлены25 июн 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

InternLM2-WQX-VL-20B — мультимодальная модель серии 文曲星, выпущенная командой InternLM в 2024 году перед вступительными экзаменами в вузы Китая. Она предназначена для решения учебных задач и вопросов по разным школьным дисциплинам; в README заявлены высокие результаты на тестовом наборе GAOKAO-Eval, сопоставимые с GPT-4o.

Модель основана на плотной архитектуре InternLM2 с классом InternLM2ForCausalLM и содержит 19,3 млрд параметров. Репозиторий содержит веса PyTorch и компонент CLIP, а метаданные указывают поддержку чата и контекст до 32 768 токенов. Название VL и компонент CLIP указывают на визуальную составляющую, однако README не описывает конкретные возможности обработки изображений, поэтому в поисковых полях отражена только подтверждённая текстовая задача.

Метаданные автора задают задачу feature-extraction, тогда как классификатор каталога определяет text-generation; модель также обозначена как поддерживающая генерацию текста. README не сообщает лицензию и подробности подготовки данных, поэтому условия использования и точность заявленных результатов оценить по предоставленным сведениям нельзя.

Сценарии применения

  • ответы на вопросы по школьным предметам
  • решение задач для подготовки к вступительным экзаменам в Китае
  • генерация учебных объяснений и ответов в чате

Ограничения

README не уточняет лицензию и не приводит деталей методики оценки или подготовки данных. Возможности работы с изображениями не описаны, несмотря на обозначение VL и наличие компонента CLIP.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

InternLM2-WQX-VL-20B

license

InternLM2-WQX-20B 🤗 | InternLM2-WQX-VL-20B 🤗

Introduction

InternLM2-WQX与InternLM2-WQX-VL是InternLM团队于2024年高考前夕最新推出的文曲星系列模型。

高考覆盖各类学科及题型,同时因其开考前的“绝密性”,被视作中国最具权威的考试之一,成为评估考生综合能力的“试金石”。这一面向人类设计的高难度综合性测试,目前普遍被研究者用于考察大模型的智能水平。InternLM2-WQX系列模型在2024年高考评测集GAOKAO-Eval上取得了优异的成绩,综合表现与GPT-4o相当,且超越了国内外一系列开源大模型,体现了InternLM2-WQX系列模型优秀的性能。

我们即将更新关于文曲星系列模型数据准备的相关说明,敬请期待。

MD5 Check

md5sum ./*
158657dbae9bc369d67cf4bfbdfaaf71  ./pytorch_model-00001-of-00005.bin
c21db8ac1315c10df768f6c3ae3f2825  ./pytorch_model-00002-of-00005.bin
ebc4b0b70e8e9f1adc0b728558d650fb  ./pytorch_model-00003-of-00005.bin
eaa393a66dc632d0a6f0f7d815c439bb  ./pytorch_model-00004-of-00005.bin
7e6e3237d99a7e8bd7ca9ba10747bfdb  ./pytorch_model-00005-of-00005.bin

./clip_l_560_pro7b/*
97b05f40ee9826eda467489eed65f85c  ./clip_l_560_pro7b/pytorch_model.bin

Citation

@misc{2024internlm2wqx,
    title={https://github.com/InternLM/InternLM-WQX},
    author={InternLM Team},
    howpublished = {\url{https://github.com/InternLM/InternLM-WQX}},
    year={2024}
}

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Код из репозитория вместе с pickle-весами (.bin) не запускается из соображений безопасности.

Класс архитектуры
InternLM2ForCausalLM
Ревизия весов
059a269

0 моделей