Akins-3B — дообученная на диалоговых данных языковая модель StableLM для инструкционного общения и генерации текста.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Akins-3B — языковая модель для генерации текста на основе архитектуры StableLM Epoch, дообученная разработчиком на наборе Norquinal/claude_multiround_chat_1k. Модель содержит 2,7 млрд параметров, принимает текст и выдаёт текст; для диалога в карточке указан шаблон с ролями USER и ASSISTANT. Контекст составляет 4096 токенов.
Модель предназначена для инструкционного диалога и генерации ответов на запросы пользователя. В README указано дообучение в течение двух эпох с помощью QLoRA. Репозиторий содержит веса в форматах PyTorch и safetensors; автор также ссылается на отдельные варианты квантования GGUF и GPTQ. Лицензия — CC BY-SA 4.0.
Контекст ограничен 4096 токенами. Качество и поведение модели зависят от инструкционного дообучения на наборе Claude Multiround Chat 1K; в карточке нет результатов оценки.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is StableLM 3B 4E1T(Licensed under CC BY-SA 4.0.) instruction tuned on Claude Multiround Chat 1K for 2 epochs with QLoRA(2305.14314).
Prompt template:
USER: {prompt}
ASSISTANT:
GGUF quantizations available here. GPTQ quantizations available here.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.