Характеристики

Контекст: 262 144 токена
Параметры: 3,5 млрд
Архитектура: bailing_hybrid · MoE
Базовая модель: Ling-3.0-flash
Библиотека: transformers
Опубликована: 15 авг 2026

Ссылки

Hugging Face arXiv 2510.13999

Ling-3.0-flash-REAP320-81B-A5B

bloomer010

Генерация текстаТекст → текст6 профессий

Экспериментальная сжатая методом REAP разговорная MoE-модель для генерации текста и диалогов с длинным контекстом.

110скачиваний за 30 дней1лайквеса обновлены21 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Ling-3.0-flash REAP320 — экспериментальная разговорная гибридная MoE-модель от bloomer010, полученная из inclusionAI/Ling-3.0-flash удалением наименее активных экспертов. В каждом слое оставлено 320 из 512 маршрутизируемых экспертов; в карточке указаны 81 млрд параметров суммарно и 5,1 млрд активных. Для отбора экспертов применён однократный метод REAP по калибровочным данным объёмом 1 млн токенов из UltraChat, WikiText и кода; дообучения и восстановительного обучения не было.

Модель предназначена для диалоговой генерации текста. Она распространяется в формате BF16 safetensors, использует архитектуру BailingMoeV3 и загружается через Transformers с включённым trust_remote_code для пользовательского кода. Контекст — до 262 144 токенов. Шаблон чата поддерживает параметр reasoning_effort. Карточка обозначает её как исследовательский артефакт и экспериментальный REAP-чекпойнт; сведения о лицензии и поддерживаемых естественных языках не приведены.

Сценарии применения

ведение диалогов с пользователем
генерация текстовых ответов
работа с длинными текстовыми контекстами
эксперименты с прореживанием экспертов в MoE-моделях

Ограничения

Модель экспериментальная: 38% маршрутизируемых экспертов удалено без дообучения или восстановительного обучения, поэтому качество может быть снижено. Для загрузки требуется пользовательский код BailingMoeV3 с trust_remote_code=True; лицензия в предоставленных данных не указана.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.5Универсальные способностиСоздание и редактирование текстаAI помогает создавать и улучшать текстовые материалы, сохраняя смысл и требования автора.18 задач44 385моделей II.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделей I.2Универсальные способностиСинтез, понимание и проверка знанийAI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста.18 задач42 341модель I.7Универсальные способностиРечь, диалоги и встречиAI помогает понимать разговорную речь, поддерживать диалог и превращать встречи в структурированные результаты.17 задач26 923модели

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

This is an experimental REAP.

Ling-3.0-flash REAP320 (81B total / 5.1B active)

[320 of 512 routed experts kept per layer - 38% of experts pruned] from inclusionAI/Ling-3.0-flash (124B total / 5.1B active).

Method: one-shot REAP (Router-weighted Expert Activation Pruning) - experts scored by router-gate-value × output-L2-norm over calibration data, lowest-scoring deleted. No fine-tuning, no recovery training.

Calibration: 1M tokens, 50/25/25 ultrachat / wikitext / code

BF16 safetensors. Loads with trust_remote_code=True (custom bailing_hybrid / BailingMoeV3 code). Research artifact - quantized builds live in the sibling -GGUF repo.

2026-08-21: chat_template.jinja updated to support reasoning_effort (low = no thinking, high = thinking, default unchanged).

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: BailingMoeV3ForCausalLM
Ревизия весов: dc8747f