/ Модель

Характеристики

Контекст
128 000 токенов
Параметры
1,6 млрд
Размер весов
16,9 ГБ
Архитектура
lfm2_moe · MoE
Базовая модель
LFM2.5-8B-A1B-Base
Библиотека
transformers
Опубликована
13 сен 2026

LFM2.5-8B-A1B-UltraData-L2-49M

Генерация текстаТекст → текст4 профессии

Экспериментальная модель генерации кода на базе LFM2.5, продолженно предобученная на датасете UltraData-Code для задач с Python и дальнейшей донастройки.

409скачиваний за 30 дней2лайкавеса обновлены13 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Susant-Achary/LFM2.5-8B-A1B-UltraData-L2-49M — экспериментальный чекпойнт для генерации кода, созданный продолжением предобучения LiquidAI на базе LiquidAI/LFM2.5-8B-A1B-Base. Обучение второго этапа велось на наборе openbmb/UltraData-Code; в README указано 48,99 млн входных токенов и Python как язык обучения. Модель построена на архитектуре LFM2 MoE и содержит 1,6 млрд параметров; репозиторий использует Transformers и формат safetensors. Метаданные указывают контекст 128 000 токенов, тогда как в README для обучения указана длина контекста 8 192 токена.

Модель предназначена для генерации и дополнения кода, а также для дальнейшей supervised fine-tuning. В README приведены результаты pass@1: 0,482 на HumanEval и 0,439 на HumanEval+. Это экспериментальный чекпойнт специализации на коде, поэтому результаты не гарантируют качество для произвольных задач программирования. Перед распространением или коммерческим использованием следует проверить лицензию базовой модели и лицензии набора данных и его источников.

Сценарии применения

  • генерация фрагментов кода на Python
  • автодополнение кода
  • решение задач программирования в стиле HumanEval
  • создание основы для дальнейшей донастройки на кодовых данных

Ограничения

Это экспериментальный чекпойнт, специализированный на коде; приведённые результаты HumanEval не гарантируют качество на других задачах. Перед распространением или коммерческим использованием необходимо проверить лицензию базовой модели и датасета.

Для каких профессий подходит4

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LFM2.5-8B-A1B UltraData L2 49M

Continued-pretraining checkpoint based on LiquidAI/LFM2.5-8B-A1B-Base.

Training

  • Dataset: openbmb/UltraData-Code
  • Stage: L2 continued pretraining
  • Language: Python
  • Context length: 8192
  • Actual L2 input tokens: 48,990,537
  • GPU: NVIDIA A100 80GB
  • Precision: BF16
  • LoRA rank: 32
  • MoE expert LoRA rank: 1
  • Peak learning rate: 5e-5
  • Optimizer: AdamW
  • Packing: enabled

Evaluation

Benchmarkpass@1
HumanEval0.482
HumanEval+0.439

Training performance

  • L2 input tokens: 48.99M
  • Runtime: ~2.14 hours
  • Throughput: ~6.35K tokens/sec

Intended use

Experimental continued-pretraining checkpoint for coding specialization and further supervised fine-tuning.

Training data and licensing

This model was derived from LiquidAI/LFM2.5-8B-A1B-Base and trained using openbmb/UltraData-Code.

Review the upstream LFM license and the dataset/source repository licenses before redistribution or commercial use.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
Lfm2MoeForCausalLM
Ревизия весов
c9dc252

0 моделей