Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Что умеет модель
Описание составлено по карточке модели и метаданным Hugging Face
simonykq/nvidia-transaction-decoder-fm — зеркало предварительно обученного чекпойнта NVIDIA Transaction Decoder Foundation Model из примера NVIDIA Build Your Own Transaction Foundation Model, описанного в техническом блоге NVIDIA. Это плотная decoder-only модель семейства Llama примерно на 25,7 млн параметров: в README указано около 29 млн, 8 слоёв, скрытый размер 512 и grouped-query attention. Словарь содержит около 6 251 специализированного токена финансовых транзакций; модель обучалась примерно 3 000 шагов на IBM TabFormer с NeMo AutoModel.
Модель предназначена для извлечения признаковых представлений финансовых транзакций: её можно загрузить через AutoModelForCausalLM и использовать эмбеддинг последнего токена. Заявленная длина контекста — 8 192 токена. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. README характеризует репозиторий как зеркало чекпойнта, а не как новую модель NVIDIA.
Сценарии применения
извлечение эмбеддингов записей о финансовых транзакциях
получение признаковых представлений транзакций для последующей аналитики
подготовка векторов транзакций для кластеризации или поиска похожих записей
Ограничения
Модель обучалась на IBM TabFormer и специализированном словаре транзакций, поэтому её применимость к другим типам данных и форматам транзакций может быть ограничена. README не приводит оценок качества или результатов сравнительных испытаний.
Для каких профессий подходит3
Разделы каталога профессий, в задачах которых используется эта модель
Trained ~3,000 steps on IBM TabFormer with NeMo AutoModel
Load with AutoModelForCausalLM.from_pretrained(...) and extract last-token embeddings
This Hub mirror exists so Spaces / Transformers can load the Git LFS checkpoint published under models/decoder-foundation-model/ in the upstream GitHub repo.
Как запустить
На своей GPU в ailist. Цена — по текущим предложениям провайдеров