Дообученная модель Ouro на 1,3 млрд параметров для генерации текста и диалоговых ответов с рассуждениями.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Ouro-1.4B-Thinking-depth-GRPO — дообученная модель omar81939 на базе ByteDance/Ouro-1.4B-Thinking. Это плотная авторегрессионная языковая модель семейства Ouro с архитектурой OuroForCausalLM, предназначенная для генерации текста и диалоговых ответов с рассуждениями. В названии и метаданных отмечены GRPO и рекуррентная глубина; README содержит пример загрузки через Transformers и задаёт параметр DEPTH=16.
Модель содержит 1,3 млрд параметров, работает с контекстом до 65 536 токенов и распространяется в формате safetensors. Указаны сценарии математических задач и общения; базовая модель также предназначена для рассуждений в науке и коде. Данные не подтверждают отдельную специализацию этой версии за пределами генерации текста и диалога.
Модель подходит для экспериментов и приложений, которым нужна компактная генерация текста с длинным контекстом. Лицензия Apache-2.0.
README не описывает результаты оценки качества или подтверждённые языки. Возможности модели в науке и коде указаны для базовой модели и не подтверждены отдельно для этого дообучения.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
from transformers import AutoModelForCausalLM, AutoTokenizer
REPO = "omar81939/Ouro-1.4B-Thinking-depth-GRPO"
DEPTH = 16
tokenizer = AutoTokenizer.from_pretrained(REPO)
model = AutoModelForCausalLM.from_pretrained(
REPO,
trust_remote_code=True,
dtype="bfloat16",
total_ut_steps=DEPTH,
)
With vLLM, set hf_overrides={"total_ut_steps": DEPTH} when creating the engine.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм · transformers
Модели нужен код из репозитория; автор пока не в списке доверенных организаций.