transcription-cleanup-llama3.2-1b

По названию репозитория и сообщению об изменении «transcription-cleanup-1b v5_punct» она предназначена для очистки и пунктуационного оформления транскрипций. В карточке модели также указаны английский язык, разговорный режим и задача генерации текста.

Модель основана на архитектуре LlamaForCausalLM с примерно 1 млрд параметров, 16 слоями, размером скрытого состояния 2048, 32 attention heads и 8 key-value heads. Заявлено контекстное окно до 131 072 токенов; опубликованная MLX-версия использует 4-битное квантование и занимает около 695 МБ. Поддерживается запуск через MLX и совместимый OpenAI API-сервер.

Сильные стороны — небольшой размер, низкие требования к памяти и специализация на обработке транскрипций, однако в доступной карточке отсутствуют результаты оценки качества, подробности обучающего набора, точные границы возможностей, сведения о поддерживаемых языках помимо английского и описание ограничений. Лицензия в доступных материалах не указана, поэтому условия коммерческого и иного использования по этим данным установить нельзя.