Дообученная на диалоговых данных StableLM-модель для генерации ответов на английском языке.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Marx-3B-V3 — языковая модель acrastt для генерации текста, созданная дообучением StableLM 3B 4E1T на датасете EverythingLM Data V3 в формате ShareGPT. Дообучение проведено в течение двух эпох с помощью QLoRA; модель использует архитектуру StableLM Epoch и содержит 2,7 млрд параметров.
Модель предназначена для диалоговой генерации текста по шаблону с сообщениями HUMAN и RESPONSE. Она поддерживает английский язык и контекст до 4096 токенов. Репозиторий содержит веса в форматах PyTorch и Safetensors; в карточке также упомянуты доступные отдельно варианты GGUF и GPTQ. Лицензия — CC BY-SA 4.0.
Контекст ограничен 4096 токенами; карточка не приводит результатов оценки качества или сравнительных тестов.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
This is StableLM 3B 4E1T(Licensed under CC BY-SA 4.0.) finetuned on EverythingLM Data V3(ShareGPT Format) for 2 epochs using QLoRA.
Prompt template:
### HUMAN:
{prompt}
### RESPONSE:
Note that this model have the EOS token of <|endoftext|> instead of <\s>.
GGUF quantizations available here. GPTQ quantizations available here.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.