Экспериментальная модель на архитектуре Mistral с 10,7 млрд параметров для генерации текста в контексте до 32 768 токенов.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Mistralopithecus-v0.1-10.8B — это экспериментальная языковая модель, разработанная Seungyoo Lee (DopeorNope) на архитектуре Mistral. В карточке указано, что модель содержит 10,7 млрд параметров и прошла предварительное обучение примерно на 1,5 млрд токенов; автор уточняет, что это не Solar и не Sinatra. Модель предназначена для генерации текста и поддерживает контекст до 32 768 токенов.
Автор описывает выпуск как тестовый и отмечает, что модель находится на экспериментальном этапе и планируется дальнейшее обучение. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные материалы на тех же условиях, а коммерческое использование не разрешено.
Автор характеризует модель как тестовую и экспериментальную, указывает на планы дальнейшего обучения; качество и пригодность к конкретным задачам не заявлены. Лицензия CC BY-NC-SA 4.0 запрещает коммерческое использование.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Model Developers Seungyoo Lee (DopeorNope)
이 모델은 Mistral Base의 새로운 아키텍쳐이며, 10.7B의 파라미터로 구성되었습니다. (Solar나, 시나트라 베이스 모델이 아닙니다.)
약 1.5B의 토큰으로 pretrain 되었으나, 실험단계로 향후 다시 훈련되어 새롭게 나올 예정입니다.
테스트용으로 올려봅니다.
Context length가 32k 까지지원 가능한 모델이며, 향후 더 완벽하게 설계하여 올리도록 하겠습니다.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
Подбираем GPU…