/ Модель

Характеристики

Контекст
262 144 токена
Параметры
581 млн
Размер весов
1,5 ГБ
Лицензия
Apache 2.0
Архитектура
qwen3_5_text · dense
Базовая модель
Qwen3.5-0.8B
Библиотека
mlx
Опубликована
5 авг 2026

Qwen3.8-Smol-uo

Генерация текстаТекст → текст3 профессии

Компактное LoRA-дообучение Qwen3.5-0.8B для генерации текста и диалогов на Apple Silicon.

213скачиваний за 30 дней2лайкавеса обновлены5 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Qwen3.8-Smol-uo — компактная текстовая модель для генерации и диалогов, созданная North-ML1 на базе Qwen/Qwen3.5-0.8B. Это дообучение с LoRA на датасете r0b0tlab/qwen3.8-max-distillation-50k; репозиторий содержит базовую модель в формате MLX и LoRA-адаптер. Модель предназначена для запуска на компьютерах Apple Silicon с mlx-lm.

Модель имеет плотную авторегрессионную архитектуру Qwen3_5ForCausalLM и 581,4 млн параметров. В метаданных указан контекст до 262 144 токенов; в описании обучения указана максимальная длина последовательности 512. Лицензия — Apache-2.0. README приводит тестовую потерю 0,820 и perplexity 2,271, однако не описывает результаты на прикладных бенчмарках.

Сценарии применения

  • генерация коротких текстовых ответов
  • диалоговый помощник на устройстве Apple Silicon
  • продолжение текста по заданному промпту
  • эксперименты с компактной языковой моделью через mlx-lm

Ограничения

README не приводит результатов прикладных бенчмарков. Обучение проводилось с максимальной длиной последовательности 512 токенов; заявленный в метаданных контекст 262 144 токена не подтверждён подробностями README.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Qwen team, if you need me to change the name or initate deletion, talk in the Community tab. qwen logo

Qwen3.8-Smol-uo

An MLX LoRA fine-tune of Qwen/Qwen3.5-0.8B on the r0b0tlab/qwen3.8-max-distillation-50k dataset.

This repository contains the converted MLX base model and the final LoRA adapter. It is intended for Apple Silicon with mlx-lm.

Quick start

pip install mlx-lm
hf download North-ML1/Qwen3.8-Smol-uo --local-dir ./Qwen3.8-Smol-uo
mlx_lm.generate \
  --model ./Qwen3.8-Smol-uo \
  --adapter-path ./Qwen3.8-Smol-uo \
  --prompt "Explain gradient accumulation in one sentence." \
  --max-tokens 80

The adapter was trained with four LoRA layers, rank 8, scale 16, a maximum sequence length of 512, and 400 continuation steps from a saved step-100 checkpoint. Final test loss was 0.820 (perplexity 2.271).

This is an MLX-format text model and is not a Transformers/PyTorch checkpoint.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Qwen3_5ForCausalLM
Ревизия весов
e3fe72b

0 моделей