Характеристики

Контекст: 262 144 токена
Параметры: 581 млн
Размер весов: 1,5 ГБ
Архитектура: qwen3_5 · dense
Базовая модель: qwen-3.5-0.8b-Hedgehog
Библиотека: mlx
Опубликована: 12 авг 2026

Ссылки

qwen-3.5-0.8b-Hedgehog-MLX

Генерация текстаТекст → текст5 профессий

Компактная FP16-версия Qwen 3.5 для MLX, предназначенная для извлечения полей из документов и формирования структурированных JSON-ответов в SimpleRAG.

32скачиваний за 30 дней0лайковвеса обновлены14 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

MichaelAnthony/qwen-3.5-0.8b-Hedgehog-MLX — FP16-экспорт модели для MLX на архитектуре Qwen 3.5. Это производная версия дообученного чекпойнта qwen-3.5-0.8b-Hedgehog, созданного для извлечения полей из документов в SimpleRAG. Компактная плотная модель содержит 581,4 млн параметров, поддерживает контекст до 262 144 токенов и работает с текстом; экспорт адаптирует структуру весов и тензоров для загрузчика mlx-lm.

Модель предназначена для извлечения заданных полей из предоставленных документов и выдачи результата в указанной JSON-структуре с использованием найденных фрагментов документов. README рекомендует отключать режим рассуждений, использовать температуру 0 и явно задавать пути полей и типы значений. В описанной оценке версия Q8 набрала 71 балл на BenchLocal DataExtract-15; среди известных слабых мест — записи с несколькими сущностями и синтетические сложные счета-фактуры. Для запуска нужен MLX, а проверка инференса и производных квантованных сборок на Apple Silicon отдельно необходима. Лицензия в предоставленных данных не указана.

Сценарии применения

Извлечение заданных полей из найденных фрагментов документов
Формирование JSON-ответов по заданной схеме
Разбор документов в конвейере SimpleRAG
Извлечение данных из счетов-фактур

Ограничения

Слабее справляется с записями, содержащими несколько сущностей, и синтетическими сложными счетами-фактурами; качество вариантов с квантованием может отличаться от исходной модели. Для запуска требуется среда MLX.

Для каких профессий подходит5

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

I.3Универсальные способностиИзвлечение и структурирование данныхAI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации.18 задач25 791модель I.4Универсальные способностиОбработка документов и формAI помогает оцифровывать документы, проверять их комплектность и сокращать ручной ввод данных.16 задач7 180моделей II.8Разработка и данныеИнженерия данных и аналитикаAI помогает готовить надёжные данные и превращать их в понятную аналитику.22 задачи23 488моделей I.14Универсальные способностиАвтоматизация процессов и AI-агентыAI помогает выполнять многошаговые цифровые процессы и координировать действия между системами.20 задач26 022модели

Также подходит для

II.10Разработка и эксплуатация AI/ML-систем

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

qwen-3.5-0.8b-Hedgehog-MLX-fp16

This is the MLX FP16 export of qwen-3.5-0.8b-Hedgehog, a Qwen 3.5 0.8B SimpleRAG document extractor. It is also the source checkpoint for the matching oMLX oQ4/oQ6/oQ8 and oQ4e/oQ6e/oQ8e builds.

Compatibility repair

The merged Hugging Face checkpoint identifies itself as qwen3_5_text, while current mlx-lm provides the architecture module as qwen3_5. This export uses the loader-compatible name and applies mlx-lm's Qwen3.5 sanitation contract:

model.language_model.* becomes language_model.model.*;
Hugging Face depthwise Conv1d weights are moved from [out, 1, kernel] to MLX's [out, kernel, 1] layout;
Qwen3.5 RMSNorm weights receive the required one-time +1 conversion;
ordinary floating tensors are FP16; A_log remains 16-bit BF16, matching mlx-lm's architecture-specific cast predicate.
stale MTP declarations are removed because this checkpoint contains no MTP tensors.

Build the oMLX variants on Apple Silicon

Run build_omlx_variants.py from an environment that can import the omlx package. By default it creates exactly these six sibling directories and runs an extraction smoke test after every build:

qwen-3.5-0.8b-Hedgehog-MLX-oQ4
qwen-3.5-0.8b-Hedgehog-MLX-oQ6
qwen-3.5-0.8b-Hedgehog-MLX-oQ8
qwen-3.5-0.8b-Hedgehog-MLX-oQ4e
qwen-3.5-0.8b-Hedgehog-MLX-oQ6e
qwen-3.5-0.8b-Hedgehog-MLX-oQ8e

/Applications/oMLX.app/Contents/MacOS/python3 build_omlx_variants.py --source . --output-root ..

No standard MLX affine model is requested or generated. oQe reuses its activation-importance cache across the three enhanced depths.

Intended inference contract

Use temperature 0, disable thinking, supply the retrieved document evidence, and state the exact JSON leaf paths and scalar types required by SimpleRAG.

This package contains the accepted r5 merged weights. Release evaluation of the matching Q8 GGUF scored 71 on BenchLocal DataExtract-15 (88 in the Complex Documents category), versus 72 and 94 for the prior r3 release. Its 24-case thinking suite detected no repetition loops and no length-cap runaways; 23 of 24 cases produced a final answer. The known extraction weaknesses are multi-entity records and synthetic complex invoices.

The Windows exporter validates every converted tensor exactly against the merged Hugging Face source. MLX runtime inference and every oQ/oQe variant must still be smoke-tested on Apple Silicon; conversion does not guarantee that a quantized variant retains the source model's score.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры: Qwen3_5ForCausalLM
Ревизия весов: 3d05394