/ Модель
Каталог

Характеристики

Лицензия
Apache 2.0
Опубликована
30 авг 2026

Ссылки

Hugging Face

Millie-35B-A3B-7GB

llmsforall
Генерация текстаТекст → текст10 профессий

Сжатая мультимодальная модель MoE для генерации кода, диалогов и агентных задач с контекстом 262 тысячи токенов.

103скачиваний за 30 дней0лайковвеса обновлены3 сен 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Millie 35B-A3B 7GB — модель смешанных экспертов для программирования и агентных сценариев, опубликованная llmsforall. Она создана на основе Agents-A1 и архитектуры Qwen3.5-35B-A3B: всего 35 млрд параметров, из которых активно около 3 млрд на токен. Весовые коэффициенты экспертов сжаты примерно до 1,2 бита на параметр; модель поставляется в формате GGUF, а отдельный файл проектора изображений обеспечивает приём изображений. Заявленная длина контекста — 262 тысячи токенов.

Модель предназначена для генерации кода, диалогов и выполнения агентных задач на обычном оборудовании. Для запуска нужны оба файла GGUF и специальная версия llama.cpp от llmsforall с поддержкой формата весов; upstream llama.cpp их загрузить не может. В метаданных указана лицензия Apache-2.0. README также сообщает о варианте размером 11 ГБ.

Сценарии применения

  • генерация и редактирование кода
  • помощь в программировании в диалоговом режиме
  • выполнение агентных задач
  • ответы на вопросы по изображениям
  • локальный запуск языковой модели на обычном оборудовании

Ограничения

Для загрузки требуется специальная версия llama.cpp от llmsforall; стандартная upstream-версия не поддерживает этот формат весов. Низкая точность хранения весов экспертов может влиять на качество, однако README не приводит результатов оценки.

Для каких профессий подходит10

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии
II.2Разработка и данныеСоздание и понимание программного кодаAI помогает писать, объяснять и связывать программный код с требованиями и существующей системой.20 задач21 443моделиII.3Разработка и данныеРефакторинг, миграция и модернизацияAI помогает улучшать структуру программ и переносить их на новые технологии без потери поведения.20 задач9 764моделиII.6Разработка и данныеДокументация и сопровождение разработкиAI помогает поддерживать понятную техническую документацию и ускорять передачу знаний.18 задач38 015моделейII.10Разработка и данныеРазработка и эксплуатация AI/ML-системAI помогает создавать, оценивать, развёртывать и контролировать AI/ML-системы на всём жизненном цикле.30 задач49 000моделей

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Millie 35B-A3B 7GB

Millie is a 35B-parameter mixture-of-experts coding and agentic model (3B active per token, 262K context, image input) compressed to run on ordinary hardware. It is derived from Agents-A1, built on the Qwen3.5-35B-A3B architecture; expert weights are stored at ~1.2 bits per weight. A larger 11 GB variant is also available.

Files

FileSizeContents
Millie-35B-A3B-7GB.gguf6.3 GBlanguage model
Millie-35B-A3B-mmproj.gguf0.6 GBvision tower (image input)

Running it

The GGUF files require the llmsforall llama.cpp fork, which carries the kernels for their weight format (Metal, Vulkan, CPU); upstream llama.cpp cannot load them:

llama-server -m Millie-35B-A3B-7GB.gguf --mmproj Millie-35B-A3B-mmproj.gguf

License

Apache 2.0 — see LICENSE and NOTICE.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Можно запустить

Подбираем GPU…

Ревизия весов
8781d74

0 моделей

    Создать бенчмарк