/ Модель

Характеристики

Контекст
262 144 токена
Параметры
3,5 млрд
Архитектура
bailing_hybrid · MoE
Базовая модель
Ling-3.0-flash
Библиотека
transformers
Опубликована
15 авг 2026

Ling-3.0-flash-REAP288-73B-A5B

Генерация текстаТекст → текст15 профессий

Экспериментальная разреженная версия Ling-3.0-flash с удалёнными экспертами MoE для диалоговой генерации текста с контекстом до 262 144 токенов.

134скачиваний за 30 дней0лайковвеса обновлены21 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Ling-3.0-flash REAP288 — экспериментальная версия разговорной гибридной MoE-модели Ling-3.0-flash, опубликованная bloomer010 на основе inclusionAI/Ling-3.0-flash. В ней оставлено 288 из 512 маршрутизируемых экспертов на слой; README указывает 73 млрд параметров всего и 5,1 млрд активных, тогда как метаданные каталога указывают 3,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате; базовая Ling-3.0-flash также позиционируется для программирования и многошаговых агентных задач.

Эксперты отбирались методом REAP по оценке, учитывающей значение маршрутизатора и норму выхода на калибровочных данных объёмом 1 млн токенов. После удаления экспертов не проводились дообучение или восстановительное обучение. Модель работает с контекстом до 262 144 токенов, распространяется в BF16 Safetensors и использует архитектуру BailingMoeV3; для загрузки требуется trust_remote_code=True и пользовательский код bailing_hybrid.

README называет модель исследовательским артефактом и экспериментальной REAP-версией. Лицензия в предоставленных данных не указана. Ключевое ограничение — эксперты удалены без последующего обучения для восстановления качества, поэтому характеристики базовой модели нельзя автоматически переносить на эту версию; приведённые в README и метаданных размеры параметров также расходятся.

Сценарии применения

  • диалоговая генерация текста
  • ответы на вопросы в длинном контексте
  • генерация и разбор программного кода
  • выполнение многошаговых агентных задач

Ограничения

Эксперты удалены без последующего дообучения или восстановления качества, поэтому качество может отличаться от базовой Ling-3.0-flash. README сообщает 73 млрд параметров всего и 5,1 млрд активных, а метаданные каталога указывают 3,5 млрд параметров.

Для каких профессий подходит15

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is an experimental REAP.

Ling-3.0-flash REAP288 (73B total / 5.1B active)

[288 of 512 routed experts kept per layer - 44% of experts pruned] from inclusionAI/Ling-3.0-flash (124B total / 5.1B active).

Method: one-shot REAP (Router-weighted Expert Activation Pruning) - experts scored by router-gate-value × output-L2-norm over calibration data, lowest-scoring deleted. No fine-tuning, no recovery training.

Calibration: 1M tokens, 50/25/25 ultrachat / wikitext / code

BF16 safetensors. Loads with trust_remote_code=True (custom bailing_hybrid / BailingMoeV3 code). Research artifact - quantized builds live in the sibling -GGUF repo.

2026-08-21: chat_template.jinja updated to support reasoning_effort (low = no thinking, high = thinking, default unchanged).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Репозиторий недоступен на Hugging Face.

Класс архитектуры
BailingMoeV3ForCausalLM
Ревизия весов
802300c

0 моделей