/ Модель

Характеристики

Контекст
1 024 токена
Параметры
126 млн
Лицензия
Apache 2.0
Архитектура
llama · dense
Опубликована
12 июл 2026

slm-125m-siva

Генерация текстаТекст → текст3 профессии

Компактная англоязычная LLaMA-модель на 125,8 млн параметров для генерации текста на юридических и финансовых материалах.

25скачиваний за 30 дней0лайковвеса обновлены12 июл 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

SLM-125M-Siva — компактная языковая модель на 125,8 млн параметров, разработанная sivakaturi48 и обученная на юридических и финансовых текстах. Это декодерный трансформер архитектуры LLaMA с 12 слоями, размером скрытого представления 768, 12 головами внимания и связанными эмбеддингами. Модель использует BPE-словарь из 16 384 токенов, SwiGLU и позиционные эмбеддинги RoPE; контекст составляет 1024 токена.

Модель предназначена для генерации текста на основе англоязычных материалов, прежде всего судебных решений США и раскрытий компаний для SEC, дополненных качественными веб-текстами. Её можно применять для экспериментов с генерацией юридического и финансового текста; в карточке также упомянуто развёртывание API через Modal.

Модель ограничена коротким контекстом и небольшим размером, поэтому её возможности в сложном анализе документов могут быть ограничены. Она распространяется по лицензии Apache-2.0.

Сценарии применения

  • генерация текста в юридическом стиле
  • подготовка черновиков на основе судебных решений США
  • генерация текста по финансовой отчётности и раскрытиям SEC

Ограничения

Контекст ограничен 1024 токенами, а размер модели составляет около 125,8 млн параметров; качество на сложных задачах анализа документов может быть ограничено.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

SLM-125M-Siva

A 125M parameter small language model trained on legal and financial text.

Architecture

  • Type: LLaMA-style decoder-only transformer
  • Parameters: ~125M (tied embeddings)
  • Layers: 12 | Hidden: 768 | Heads: 12
  • Context: 1024 tokens
  • Vocab: 16,384 (BPE)
  • Activation: SwiGLU with RoPE positional embeddings

Training Data

Legal-first corpus mix (~2B tokens):

  • Case Law (~40%): US judicial opinions
  • SEC Filings (~40%): Corporate financial disclosures
  • FineWeb-Edu (~20%): High-quality web text

Usage

Ctrl click to launch VS Code Native REPL

Deployment

This model can be deployed as an API endpoint using Modal:

License

Apache 2.0

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
32a2837

0 моделей