Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
adamo1139/Yi-34B-200K-XLCTX — зеркало модели Yi-34B-200K (XLCTX), первоначально выпущенной 01.AI. Версия настроена для улучшенного поиска информации в длинном контексте по тесту «игла в стоге сена»; её можно использовать как базу для слияния с LoRA-адаптерами.
Это плотная авторегрессионная языковая модель семейства Llama с 33,9 млрд параметров, принимающая текст и поддерживающая контекст до 200 000 токенов. Модель предназначена для генерации текста и сценариев, где нужно находить сведения в длинных текстовых последовательностях. Репозиторий содержит веса в формате safetensors.
Указана лицензия Apache-2.0. Карточка не сообщает о языковом охвате и конкретных результатах оценки качества, поэтому их нельзя уверенно описать.
Сценарии применения
поиск нужного факта в длинном документе
ответы на вопросы по длинному текстовому контексту
генерация текста с учетом большого объема входных данных
использование в качестве базы для слияния с LoRA-адаптерами
Ограничения
Карточка описывает улучшение поиска по длинному контексту, но не приводит количественных результатов оценки качества. Языковая поддержка отдельно не перечислена.
Для каких профессий подходит11
Разделы каталога профессий, в задачах которых используется эта модель
This is just a mirror of Yi-34B-200K (XLCTX) model uploaded by 01.ai. This is the version that was updated to work better with long context needle in a haystack recall. I just want to have it stored somewhere in case 01.ai updates the base Yi-34B-200K model again.
It can be used as a base to merge loras into.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров