/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
19,3 млрд
Лицензия
Своя лицензия
Архитектура
llama · dense
Базовая модель
internlm2-base-20b
Опубликована
18 янв 2024

internlm2-base-20b-llama

Генерация текстаТекст → текст3 профессии

Конверсия базовой InternLM2 на 19,3 млрд параметров в формат весов Llama для генерации текста и последующей адаптации.

23скачиваний за 30 дней0лайковвеса обновлены20 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Это конверсия InternLM2 Base на 19,3 млрд параметров в формат весов Llama. Автор карточки благодарит Charles Goddard за скрипт конверсии, но отмечает, что корректность преобразования не подтверждена. Модель предназначена для генерации текста и дальнейшей адаптации; заявленный контекст — 32 768 токенов, архитектура плотная, файлы представлены в формате safetensors. В метаданных указаны английский и китайский языки.

Модель основана на internlm/internlm2-base-20b и подчиняется лицензии InternLM. Из-за оговорки автора о возможных проблемах конверсии следует проверять совместимость и качество на целевых задачах перед использованием.

Сценарии применения

  • генерация продолжений текста на английском и китайском
  • создание исходной модели для дообучения
  • экспериментальная проверка совместимости весов InternLM2 с инструментами для Llama

Ограничения

Автор не уверен в корректности конверсии и рекомендует использовать модель на свой риск; совместимость и качество следует проверять самостоятельно.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Special thanks to Charles Goddard for the conversion script to create llama models from internlm

internlm2-base-20b converted into Llama-format weights. As with 7B, not 100% sure if it's a correct conversion yet - play with at your own risk.

Subject to internlm's license.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
b86adb6

0 моделей