Англоязычная диалоговая модель Qwen2 на 1,4 млрд параметров со словарём Minivoc на 32 тысячи токенов для генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это языковая модель Qwen2-1.5B с сокращённым до 32 тысяч токенов словарём, созданная The Kaitchup методом Minivoc. Модель предназначена для генерации текста и диалогового общения на английском языке; архитектура — плотная Qwen2ForCausalLM, размер — около 1,4 млрд параметров, формат весов — safetensors. Заявленная длина контекста составляет 131 072 токена. Сокращение словаря в подходе Minivoc нацелено на ускорение работы и снижение расхода памяти.
Модель выпущена под лицензией Apache-2.0. README ссылается на статью с описанием метода и оценкой, но не приводит численных результатов; поэтому преимущество по скорости и памяти здесь нельзя количественно оценить.
Описание не приводит численных результатов оценки, поэтому качество и фактический выигрыш в скорости или памяти по нему определить нельзя. В README заявлен английский язык; поддержка других языков не подтверждена.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is Qwen/Qwen2-1.5B with a vocabulary reduced to 32k entries using the Minivoc approach. The model has been created, tested, and evaluated by The Kaitchup.
All the details about the Minivoc approach and evaluation in this article: Introducing Minivoc: Faster and Memory-Efficient LLMs Through Vocabulary Reduction
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Подбираем GPU…