Характеристики

Контекст: 1 048 576 токенов
Параметры: 3,8 млрд
Лицензия: Apache 2.0
Архитектура: spark2_5 · dense
Базовая модель: sriq-spark-v1.4
Библиотека: transformers
Опубликована: 5 окт 2026

Ссылки

spark-darwin-6way

Генерация текстаТекст → текст

Объединённая модель Spark2.5-4B для диалогов и генерации текста, сочетающая навыки рассуждения, письма, японского языка и общих задач.

428скачиваний за 30 дней0лайковвеса обновлены5 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MC7ever/spark-darwin-6way — объединённая модель семейства Spark2.5-4B, созданная автором репозитория методом uniform-soup: веса шести моделей-доноров сведены с равными коэффициентами по 38 группам блоков слоёв. В карточке подтверждена совместимость форм тензоров всех доноров. Модель имеет плотную архитектуру причинного языкового моделирования Spark2_5ForCausalLM; в метаданных указано 3,8 млрд параметров, а README приводит оценку около 4,11 млрд. Контекст — до 1 048 576 токенов.

Модель предназначена для генерации текста и диалогов, включая рассуждения, творческое письмо, общие вопросы и японский язык; состав доноров также включает общую и агентную модель и модель с ослабленными отказами. Для запуска нужны transformers==5.17.0 и trust_remote_code=True. README сообщает, что оценка на наборах HellaSwag, ARC-Challenge и MMLU ещё проводится, поэтому сравнительные результаты качества пока не приведены. Лицензия — Apache-2.0.

Сценарии применения

ведение диалога с языковой моделью
генерация творческих и других текстов
ответы на общие вопросы
генерация рассуждений и пошаговых ответов
создание и обработка текстов на японском языке

Ограничения

Оценка на HellaSwag, ARC-Challenge и MMLU в README ещё не завершена, поэтому результаты качества не опубликованы. Для запуска требуются transformers==5.17.0 и trust_remote_code=True.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

spark-darwin-6way

Darwin uniform-soup merge (convex per-layer-block combination) of 6 Spark2.5-4B donors, all verified 290/290 tensors, identical shapes:

sriq-ai/sriq-spark-v1.4 (reasoning traces)
hcnote/Spark-X2.5-4B-Writing-EP1 (writing EP1)
hcnote/SparkMuse-4B (writing final)
soyaakinohara/Spark-X2.5-4B-Heretic (refusal-attenuated)
Takenoko12345678/Spark-X2.5-4B-Japanese (Japanese)
OceanLabs/Ocean-1-4B (general/agentic)

Method: theta_M = sum_i w_i theta_i, uniform w, 38 layer-block groups. Evo search over the genome comes next; this is the generation-0 baseline.

Verified specs: 36 layers, hidden 2560, intermediate 10240, 16 heads / 4 KV, vocab 131072, 290 tensors, ~4.11B. Full program plan: https://github.com/shadyuwugurl/spark-pipeline (SPARK_PLAN.md).

Needs transformers==5.17.0 + trust_remote_code=True. Custom code note: modeling_spark.py carries two compat shims vs stock (mask kwarg rename, dropped cache_position); config.json rope_parameters rewritten validator-clean with identical theta/factor values.

Eval battery in progress (hellaswag/arc_challenge/mmlu x200); numbers land here.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Нельзя запустить

Модели нужен код из репозитория; автор пока не в списке доверенных организаций.

Класс архитектуры: Spark2_5ForCausalLM
Ревизия весов: 655dbce