II.10Разработка и эксплуатация AI/ML-систем

DealignAI выпустила Gemma-4-12B-it-MXFP4-CRACK — дообученную и квантизированную 4-битную версию Gemma 4 12B-it от Google. Модель рассчитана на запуск через MLX на компьютерах Apple Silicon; файлы занимают около 7,5 ГБ. Архитектура объединяет текст, изображения, аудио и видео, использует 48 слоёв и гибридное внимание со скользящим окном и полным вниманием. Заявленная длина контекста — 128 тысяч токенов. Модель предназначена для диалогов, мультимодального анализа и генерации текста. По описанию автора, CRACK удаляет поведение отказа на уровне весов, сохраняя рассуждения, знания и мультимодальные возможности. В README приведены результаты HarmBench и MMLU, полученные на конкретной конфигурации; они не гарантируют такое же качество на других запросах и средах. Для запуска автор рекомендует Osaurus, поддерживающий архитектуру Gemma 4 Unified. Лицензия — Gemma. Модель не рассчитана на естественный язык отказа при потенциально вредоносных запросах, поэтому ответы требуют самостоятельной проверки.

German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI и дообученная на базе mistralai/Mistral-7B-v0.3 методом continued pre-training. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Лицензия — Apache 2.0. Модель предназначена для работы с немецкими и английскими текстами, особенно для генерации ответов на вопросы с учётом предоставленного контекста, структурированного рассуждения и суммаризации. Её можно использовать в RAG-сценариях, где приложению нужно сформулировать ответ по найденным документам. В обучающих данных сделан акцент на немецком языке; README указывает около 420 тысяч немецких и 200 тысяч английских примеров.

InternVL3-38B-GGUF — мультимодальная большая языковая модель семейства InternVL3, разработанная OpenGVLab и представленная в формате GGUF командой Unsloth. Модель предназначена для работы с текстом и изображениями, включая мультимодальное восприятие и рассуждение, анализ промышленных изображений, 3D-восприятие, использование инструментов и сценарии GUI-агентов. Заявлена поддержка multilingual-задач. Архитектура построена по схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-32B, соединённые MLP-проектором. Обозначение 38B относится к размеру модели; точные параметры GGUF-квантизации и размер контекста в представленных данных не указаны. Модель основана на OpenGVLab/InternVL3-38B и обучалась с использованием набора данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание визуального и языкового анализа, расширенные мультимодальные возможности и применение в специализированных агентных сценариях. Ограничения, такие как фактическая точность на конкретных задачах, требования к памяти и производительности, зависят от варианта GGUF и в README не уточняются. Указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen, поэтому условия использования следует сверять с лицензиями исходных компонентов.

Muse Spark 1.2 — рассуждающая модель Meta для сложных задач с агентным взаимодействием. Она принимает текст, изображения, видео, аудио и PDF-документы, а на выходе формирует текст. Заявленный контекст — до 1 млн токенов. Модель подходит для сценариев, где нужно анализировать смешанные входные данные и выполнять многошаговые задачи. В метаданных каталога её задача указана как image-text-to-text. Информация о лицензии, точном размере и ограничениях модели в доступных данных отсутствует.

MuXodious/Qwen3.5-4B-SOMPOA-heresy-v2-MTP — мультимодальная модель на 4 млрд параметров, созданная на основе Qwen3.5-4B. По карточке, её дообучили с помощью Heretic и методов SOMA и MPOA для подавления отказов; также восстановлены веса Multi Token Prediction из базовой модели. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером; заявлены диалог, понимание изображений и интерфейс вызова инструментов. Модель предназначена для диалога, рассуждений, работы с изображениями и агентных сценариев с инструментами. В карточке базовой модели указана поддержка 201 языка и диалекта, а контекстное окно составляет 262 144 токена с возможностью расширения до 1 010 000. Репозиторий содержит веса Safetensors для Transformers; карточка также называет совместимость с vLLM, SGLang и KTransformers. В README сообщается о низкой частоте отказов в использованной авторами проверке, поэтому модель может отвечать на запросы, которые базовая модель отклоняла. Это не гарантирует фактическую точность ответов и может снижать надёжность защитных отказов. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.6 27B, опубликованная пользователем d3vs3c на основе модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. В создании участвовали несколько авторов и команд, включая Unsloth, Nightmedia, TeichAI, armand0e и trohrbaugh. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, ориентированные на запуск на потребительском оборудовании. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, общего диалога, программирования, творческого письма, работы с историями и ролевыми сценариями. В README заявлена поддержка vision и языков English и Chinese; pipeline обозначен как image-text-to-text. Дообучение включало материалы для reasoning, Fable traces, датасеты Polar-STRICT и F451-STRICT, а также компоненты, связанные с Claude Opus и GPT-5. Точный размер контекстного окна не указан. Ключевые особенности — 27B-параметрическая базовая архитектура Qwen3.6, многоэтапное fine-tuning и merge, uncensored/heretic-настройка, NEO IMATRIX-квантизация и MTP (multi-token prediction). По утверждению авторов, модель улучшает instruction following, общую интеллектуальность, решение задач и reasoning, а также превосходит базовую Qwen3.6 27B в большинстве указанных тестов; независимая проверка этих заявлений в README не приведена. Для MTP-квантизаций рекомендуется температура не выше 1 и repetition penalty около 1; при низком token acceptance предлагается использовать обычные кванты. Модель заявлена под лицензией Apache-2.0.

Qwen3.6-40B-Fable-Fusion-6-Core-Deckard-Eleanor-Heretic-Uncensored-NM-DAU-NEO-MAX-MTP-GGUF — крупная 40-миллиардная fine-tune-модель, разработанная DavidAU при участии Nightmedia, TeichAI и других авторов. Она создана на основе Qwen3.6 и объединяет несколько версий Fable Fusion, Deckard Qwen3.6 40B, многоэтапное дообучение и слияние моделей с использованием Unsloth. Модель распространяется в форматах GGUF, включая обычные и MTP-квантизации, с вариантами разрядности 4 и 8 бит. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач и аналитического рассуждения, генерации кода, творческого письма, создания историй и roleplay. Заявлены улучшенные reasoning и thinking, автоматическая адаптация глубины рассуждений к сложности запроса, подробные ответы и сильные творческие возможности. В карточке также указана поддержка vision и языков English и Chinese, однако конкретные поддерживаемые визуальные форматы и параметры контекста не приведены. К сильным сторонам относятся многоэтапная настройка, акцент на общем интеллекте, instruction following, problem solving и качестве рассуждений, а также доступность квантизированных вариантов для потребительского оборудования. Модель описывается как uncensored и heretic, что может быть полезно для менее ограниченных сценариев, но одновременно означает потенциально более высокие риски нежелательного или небезопасного вывода. Заявления о превосходстве над другими моделями основаны на тестах авторов и не подтверждены независимой проверкой в предоставленных данных. Лицензия модели указана как Apache-2.0. README не содержит точных требований к аппаратному обеспечению, размера контекстного окна, подробных инструкций по запуску или результатов стандартизированных бенчмарков, поэтому эти характеристики нельзя определить по имеющейся информации.

OsaurusAI подготовила вариант Gemma 4 26B A4B Instruct в формате MLX JANG_4M на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это мультимодальная модель для диалога и генерации текста с поддержкой изображений; в карточке также заявлен интерфейс вызова инструментов. Веса упакованы с разной точностью: эмбеддинги, нормализации, компоненты обработки медиа и отдельные проекции сохранены в fp16, проекции внимания и маршрутизатор MoE используют 8-битное аффинное представление, а основная часть MLP и экспертов — 4-битное. Вариант предназначен для запуска через совместимый с Gemma 4 загрузчик MLX или vMLX, который обрабатывает настройки quantization, jang_config.json и файлы процессора и шаблона чата Gemma 4. Vision-конфигурация сохранена; активная поддержка аудио не заявлена. Лицензия — Gemma.

Llama-3.1-8B-TitanFusion-Test — объединённая языковая модель семейства Llama, созданная с помощью mergekit методом TIES на основе meta-llama/Llama-3.1-8B. В слияние вошли несколько моделей на базе Llama 3.1, включая варианты для диалогов, ролевого общения и математических задач. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; нативная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы, ролевого общения и решения математических задач. Репозиторий указывает библиотеку Transformers. Лицензия в предоставленных данных не указана.

Ereeeeef3/llama-3.3-merged — текстовая модель семейства Llama, созданная автором репозитория с помощью mergekit из unsloth/Llama-3.3-70B-Instruct. Использован метод passthrough: слои базовой модели продублированы, а итоговая плотная архитектура LlamaForCausalLM содержит 55,8 млрд параметров. Модель предназначена для генерации текста и диалогового использования; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и унаследованные от базовой модели многоязычные возможности. Репозиторий содержит веса safetensors, библиотека — Transformers. Лицензия — Apache-2.0. Карточка описывает способ слияния, но не приводит отдельной оценки качества итоговой модели; дублирование слоёв само по себе не подтверждает улучшение способностей базовой модели.

MiMo-V2.5 — мультимодальная модель Xiaomi для диалогов, понимания изображений, видео и аудио, а также агентных сценариев. Она построена на разреженной MoE-архитектуре MiMo-V2-Flash с гибридным вниманием и отдельными визуальным и аудиокодировщиками. Метаданные репозитория указывают 12 млрд параметров и формат safetensors FP8; README описывает семейство MiMo-V2.5 как модель на 310 млрд параметров, из которых активируются 15 млрд. Эти сведения расходятся, поэтому размер конкретного чекпойнта неоднозначен. Модель рассчитана на генерацию текста, мультимодальное понимание и работу с длинным контекстом до 1 048 576 токенов. README заявляет поддержку текста, изображений, видео и аудио, а также обучение для агентных задач; метаданные отмечают чат и интерфейс вызова инструментов. В карточке указаны английский и китайский языки. Репозиторий распространяется по лицензии MIT. Для корректного поведения следует использовать обновлённые config.json и tokenizer_config.json, поскольку устаревшие версии, по сообщению разработчика, могут ухудшить качество.

Qwen2.5-14B-Instruct-Abliterated — производная версия Qwen/Qwen2.5-14B-Instruct от sci4ai, созданная удалением поведения отказа с помощью изменения весов на основе активаций. Это плотная авторегрессионная модель семейства Qwen2 для генерации текста и диалогов; размер — 14 млрд параметров, контекст — до 32 768 токенов. README рекомендует её для агентных сценариев и вызова инструментов, отмечая следование форматам вызовов инструментов и многошаговые рассуждения. При обработке модели удаляли направления отказа в выходных проекциях attention и MLP в 47 из 48 слоёв. Поэтому модель может отвечать на запросы, которые базовая модель отклонила бы; качество и безопасность ответов не гарантированы. Модель распространяется по лицензии Apache-2.0. README приводит исследовательскую оговорку и возлагает ответственность за использование на пользователя.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-SFT-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Qwen2.5-VL-3B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Она предназначена для обработки изображений, видео и текстовых запросов, визуального анализа документов и сцен, распознавания текста, таблиц, графиков, форм и других структурированных данных, а также для сценариев визуального агента, включая управление компьютером и телефоном. Модель содержит 3 млрд параметров и использует AWQ-квантизацию. В её архитектуре применяются динамическое разрешение изображений, динамическая частота выборки кадров видео, временное позиционное кодирование mRoPE и оптимизированный vision encoder на базе ViT с window attention, SwiGLU и RMSNorm. Модель может анализировать видео длительностью более часа, находить релевантные моменты, локализовать объекты с помощью bounding boxes или точек и формировать структурированные JSON-ответы. В README явно указан английский язык; поддержка других языков не заявлена. Сильные стороны модели — сочетание компактного размера с широкими возможностями визуального анализа, работой с длинными видео, локализацией объектов и извлечением структурированных данных из документов. Ограничения включают отсутствие опубликованных в README результатов оценки, неуказанный размер контекстного окна и потенциальную зависимость производительности от аппаратного обеспечения и настроек обработки визуальных токенов. Модель распространяется по лицензии qwen-research; перед использованием следует ознакомиться с условиями лицензии.

Moemajor3/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это модель на базе Qwen3.6-27B, разработанная в рамках совместной работы авторов DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh. Она представляет собой многоэтапную fine-tune и merge-модель, подготовленную для запуска на потребительском оборудовании в форматах GGUF, включая обычные и MTP-варианты. В обучении и слиянии использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также дополнительные наборы и трассы, упомянутые в README. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. Заявлена поддержка английского и китайского языков. В карточке также указана мультимодальная специализация image-text-to-text и наличие vision, однако подробности о поддерживаемых форматах изображений и контекстном окне не приведены. Архитектурные характеристики ограничиваются размером базовой модели — 27B параметров. К заявленным сильным сторонам относятся улучшенное следование инструкциям, рассуждение и общее решение задач, а также высокая эффективность квантованных версий. По утверждению авторов, модель превосходит базовую Qwen3.6-27B в шести из семи внутренних бенчмарков и сопоставима с ней в седьмом; эти результаты не подтверждены независимыми данными в README. Модель позиционируется как uncensored и heretic, поэтому её ответы могут требовать дополнительной фильтрации и проверки. Для MTP-квантов рекомендуется температура не выше 1 и repetition penalty, равный 1; при низком уровне token acceptance следует использовать обычные кванты. Лицензия — Apache-2.0.

Noobito45/Qwen3.8-9B-heretic-uncensored-NVFP4-GGUF — квантизированная GGUF-версия языковой модели, разработанная на основе empero-ai/Qwen3.8-9B. Модель создана с использованием Heretic v1.4.0 и предназначена для генерации текста, рассуждений и других задач, поддерживаемых исходной моделью Qwen3.8-9B. Это «decensored» или «uncensored» вариант, в котором снижена склонность к отказам: в указанной проверке модель отказалась отвечать на 22 из 100 запросов против 100 из 100 у исходной версии. Модель основана на архитектуре Qwen3.5-9B и представляет собой дистилляцию исходной Qwen3.8 2.4T A95B; точные характеристики архитектуры, размер контекста и полный набор языков в этой карточке не указаны. Доступная версия использует квантизацию NVFP4 + Q8_0 и предназначена для запуска в совместимых с GGUF средах, включая llama.cpp. По данным бенчмарков, квантизация вызывает небольшие изменения качества и поведения по сравнению с эталонной версией BF16; результаты зависят от оборудования и настроек оценки. Модель сохраняет близость к исходной по KL-дивергенции, однако снижение отказов может сопровождаться изменением поведения и не означает отсутствия ограничений или рисков при использовании. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

coder3101/Qwen3-VL-8B-Instruct-heretic — производная версия Qwen3-VL-8B-Instruct, созданная методом abliteration для сокращения отказов на запросы. По данным карточки, доля отказов в указанной проверке снизилась со 100 из 100 у исходной модели до 6 из 100; KL-дивергенция составила 0,1738. Модель предназначена для диалога с текстом и изображениями, визуального анализа и рассуждений. Базовая архитектура Qwen3-VL поддерживает анализ видео, OCR, пространственные задачи и контекст до 256 тыс. токенов с возможностью расширения до 1 млн, однако README описывает эти возможности исходной модели, а не отдельно проверенные характеристики этой версии.

EXAONE-4.5-33B-GGUF — квантованная версия открытой мультимодальной модели EXAONE 4.5, разработанной LG AI Research. Модель объединяет причинную языковую модель и специализированный визуальный энкодер и предназначена для работы с текстом и изображениями, включая понимание документов, визуальные вопросы и ответы, мультимодальное рассуждение и задачи на корейском языке. Модель имеет 33 млрд параметров, из которых 31,7 млрд приходятся на языковую часть и 1,29 млрд — на визуальный энкодер. Используется плотная архитектура с 64 основными слоями и одним MTP-слоем, гибридным вниманием, включающим локальное sliding window attention и глобальное внимание, а также Grouped Query Attention в визуальном энкодере. Контекст поддерживает до 262 144 токенов, размер скрытого представления составляет 5120, словарь — 153 600 токенов. Заявлены языки: английский, корейский, испанский, немецкий, японский и вьетнамский. Дата отсечения знаний — декабрь 2024 года. Сильными сторонами модели являются мультимодальность, понимание документов, корейское контекстное рассуждение и конкурентные результаты на общих и визуально-языковых бенчмарках. Версия GGUF доступна с квантованиями языковой модели Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS; веса визуального энкодера представлены в форматах F32, F16 и BF16. Ограничения включают зависимость качества от выбранного уровня квантования и значительные требования к вычислительным ресурсам из-за размера модели. Лицензия указана как exaone; конкретные условия следует уточнять в файле LICENSE.

zeromodels/gemma-4-12b-it — конверсия Gemma 4 12B Instruct в формате Keras 3 от zeromodels. Модель содержит около 11,95 млрд параметров и представлена в bfloat16; реализация запускается на TensorFlow, PyTorch и JAX. Вариант предназначен для генерации ответов по тексту, изображениям и аудио: принимает эти типы входных данных и выдаёт текст. Доступен также текстовый режим. В README указано окно скользящего внимания 1024 токена; это не следует трактовать как полный размер контекста. Модель унаследована от google/gemma-4-12B-it и распространяется по лицензии Apache 2.0.

Llama-3-Typhoon-1.5X-8B-instruct — разговорная языковая модель SCB 10X Typhoon Team для генерации ответов по инструкциям на тайском и английском языках. Это плотная decoder-only модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и использует шаблон чата Llama 3. Модель создана методом редактирования весов task arithmetic на основе Typhoon 1.5 8B и Llama 3 8B Instruct. Она предназначена для диалоговых приложений, генерации с ограничениями, рассуждений и сценариев RAG. В README приведены оценки на ThaiExam, MMLU, MT-Bench и IFEval; авторы сообщают о конкурентных результатах, особенно для тайского языка. Авторы называют модель экспериментальной и предупреждают, что она не полностью оценена для всех сценариев; перед применением разработчикам следует учитывать риски конкретного приложения. Лицензия — Llama 3 Community License. Для использования указана Transformers версии 4.38.0 или новее.

MiniMax-M3-GGUF — это квантизированная в формате GGUF версия модели MiniMax-M3, разработанной компанией MiniMaxAI и подготовленная пользователем bartowski с использованием llama.cpp. Модель относится к архитектурам MoE и содержит около 427 млрд параметров. Доступны варианты квантизации от Q2 до Q8, включая imatrix-квантизации, с размером файлов примерно от 146 до 454 ГБ. Модель предназначена для работы с текстом, а также с изображениями при использовании дополнительного файла mmproj. По заявленным тегам, её предполагаемые сценарии включают мультимодальные задачи, программирование, агентные приложения и обработку видео, однако подробные результаты тестирования и точные поддерживаемые видеосценарии не указаны. Формат GGUF ориентирован на запуск через llama.cpp и совместимые инструменты. В README не указаны размер контекстного окна, список поддерживаемых языков и детальные характеристики архитектуры. К сильным сторонам относятся очень большой размер базовой модели, поддержка мультимодального ввода и широкий выбор вариантов квантизации с разным соотношением качества и требований к памяти. Основные ограничения — исключительно высокие требования к дисковому пространству и оперативной или видеопамяти, а также возможное снижение качества при выборе низкобитных вариантов. Модель не поддерживает MTP. Лицензия обозначена как minimax-community; также указано общее обозначение лицензии other, поэтому условия использования следует уточнять в файле LICENSE исходного репозитория.

TeichAI разработала Qwen3.8-27B-Fable-Distill как лёгкое дообучение мультимодальной модели Qwen3.8-27B на датасетах Fable 5 и личных данных Fable 5. Модель предназначена для диалогов и многошаговых задач; в каталоге для неё указана задача image-text-to-text, а метаданные отмечают поддержку анализа изображений и интерфейс вызова инструментов. Модель плотная, содержит 27 млрд параметров и использует архитектуру Qwen3_5ForConditionalGeneration. Шаблон поддерживает режим enable_thinking и уровни reasoning_effort low, medium и xhigh; по умолчанию выбран xhigh, при котором модель подробно рассуждает в каждом ответе. В README приведены результаты ARC Challenge, ARC Challenge (Easy) и BoolQ, превосходящие показатели базовой модели на этих тестах. Указана лицензия Apache-2.0. Длина контекста и ограничения по качеству в карточке не описаны.

fcmeyer/Qwen3.8-27B-MLX-bf16-mtp — конверсия мультимодальной модели Qwen/Qwen3.8-27B в формат MLX bf16 для запуска через движок oMLX на компьютерах Apple Silicon. Веса сохранены без квантизации, включая головку MTP для спекулятивного декодирования Lightning-MTP; в модели также сохранена визуальная башня для анализа изображений и видео. Архитектура плотная, размер базовой модели — 27 млрд параметров. Модель предназначена для диалогов и понимания изображений и видео. При запуске через oMLX можно включить MTP для ускорения генерации; автор сообщает о двукратном ускорении декодирования на M5 Max с 128 ГБ памяти, а также о проверке поиска по длинному контексту и привязки ответов к изображениям. README демонстрирует контекстное окно до 262 144 токенов в конфигурации oMLX. Репозиторий содержит конвертированные веса, поэтому это не отдельное дообучение, а преобразование формата и точности исходной модели для MLX. Лицензия — Apache-2.0. Для запуска требуются Apple Silicon, oMLX и около 52 ГБ памяти под веса; измерения производительности относятся к конкретной конфигурации M5 Max.

JANGQ-AI/GLM-5.3-Flash-JANG-MTP — квантованный вариант GLM-5.3-Flash, подготовленный Jinho Jang для запуска на компьютерах Apple Silicon с 128 ГБ памяти через MLX. Это модель семейства glm5_next с архитектурой MoE примерно на 300 млрд параметров и поддержкой изображений и видео. Веса занимают около 95,5 ГиБ; в репозитории указаны контекст до 1 млн токенов и сохранённый слой multi-token prediction для самоспекулятивного декодирования. Модель предназначена для диалога, рассуждений и агентных сценариев с использованием инструментов, а также для обработки визуальных входов. Разработчик сообщает о проверке качества квантования на отложенных промптах и о сохранении параметров внимания, маршрутизации и gating в 8-битном или полном формате. Однако заявленный runtime vMLX ещё не выпущен, и, согласно карточке, сейчас модель корректно загружается только во внутренней среде оценки; ускорение от MTP пока ожидаемое, а не подтверждённое в доступном runtime. Лицензия — MIT. Карточка описывает английский язык; сведения о других поддерживаемых языках не приводятся.

Карточка модели muhamad-geosurge/invert-polarity-056ee365-12d0-4322-af56-4ed19ac9b445 на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

Ornstein3.8-27B — экспериментальная мультимодальная модель с открытыми весами, созданная GestaltLabs на основе Qwen/Qwen3.8-27B. Это дообученная и объединённая с базовой моделью версия с архитектурой Qwen3_5ForConditionalGeneration: плотная модель примерно на 27 млрд параметров, использующая чередование линейного внимания и полного внимания Gated DeltaNet. Она принимает текст и изображения, поддерживает видео, а длина контекста составляет 262 144 токена. Модель предназначена для диалогов, анализа изображений и видео, а также многошаговых задач, включая математические рассуждения. В одном прогоне GSM8K автор получил 96,51% точности в BF16; этот результат не распространяется на квантованные версии. Автор описывает чекпойнт как раннее объединение весов, а не готовый релиз качества, и планирует дальнейшую работу с RL-средами и дообучением на основе энергетических моделей. Для запуска требуется сборка Transformers с поддержкой Qwen3.8/qwen3_5. Веса опубликованы под лицензией Apache-2.0.

FesarovLab выпустила Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic — диалоговую модель на архитектуре Nanbeige с 3,2 млрд параметров, полученную подавлением отказов в дообученной модели AnkitAI/Parable-Nanbeige4.2-3B-Claude-Fable-5. Для этого применена абляция направлений отказа и ортогонализация весов с помощью Heretic; автор репозитория указывает, что саму базовую модель не обучал. Модель предназначена для генерации ответов, рассуждений и вызова инструментов в диалоговых сценариях. Она принимает текст и выдаёт текст, поддерживает английский и китайский языки, а её заявленное окно контекста составляет 262 144 токена. В проверках автора доля отказов снизилась с 99 до 8 на 100 тестовых запросов, а результаты MMLU и GSM8K остались близки к исходной модели. Сохранены структурированные блоки рассуждений, JSON и формат вызова инструментов. Для работы требуется Transformers 4.57.x и trust_remote_code=True; на Transformers 5.x, согласно README, генерация работает некорректно. Полное окно контекста требует около 45 ГБ памяти KV-кэша, а качество на контекстах длиннее 32 тысяч токенов не оценивалось. Подавление отказов намеренное, поэтому контроль выдачи должен обеспечиваться при развёртывании. Лицензия — Apache 2.0.

hpnyaggerman/Qwen3.5-4B-heretic — мультимодальная модель на базе Qwen3.5-4B, изменённая проектом Heretic с помощью abliteration для снижения частоты отказов. По сравнению с исходной моделью в приведённом тесте число отказов снизилось с 99 до 60 из 100; это не означает полного отсутствия отказов или гарантии поведения в других сценариях. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает диалог и работу с визуальной информацией. Архитектура — плотная Qwen3.5 с 4 млрд параметров, языковой моделью и энкодером изображений; родительская карточка описывает гибридные блоки Gated Delta Networks и внимания. Контекст составляет 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель подходит для диалогов, ответов на вопросы по изображениям, визуального анализа и других мультимодальных запросов. В README заявлена языковая поддержка Qwen3.5 для 201 языка и диалекта, но конкретный перечень языков в предоставленном фрагменте отсутствует. Это дообученная версия Qwen/Qwen3.5-4B-Base, опубликованная в формате safetensors и совместимая с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

Это мультимодальная модель Qwen 3.6 35B-A3B от dealignai, созданная на основе Qwen/Qwen3-VL-30B-A3B-Thinking. Она предназначена для диалога и анализа текста, изображений и видео, включая задачи визуального понимания и вызова инструментов. Модель имеет архитектуру MoE с 35 млрд параметров и примерно 3 млрд активных на токен, 256 маршрутизируемых экспертов и гибридное сочетание линейного и полнослойного внимания. Контекст составляет 262 144 токена; доступны режимы рассуждений с включением и отключением через enable_thinking. Карточка заявляет поддержку английского и китайского языков. Веса квантованы в формате JANGTQ2: маршрутизируемые эксперты используют 2-битное кодирование TurboQuant, а чувствительные к точности компоненты сохраняют 8-битное представление; визуальная башня оставлена в fp16. Репозиторий занимает около 11 ГБ и предназначен для запуска на Apple Silicon через MLX Studio или jang-tools. По заявлению автора, CRACK — это весовая абляция, удаляющая усвоенные отказы в ответах; вследствие этого модель может выдавать контент, который базовая модель отклонила бы. Квантование до 2 бит уменьшает размер, но может снижать точность для сложных рассуждений. Лицензия — Apache-2.0.

giocom/Qwen3.8-27B-MXFP4-GGUF — это вариант модели Qwen3.8-27B, опубликованный пользователем giocom и представленный в формате GGUF. В README указаны технологии MTP и MXFP4, а также приблизительная плотность квантования 5,24 BPW. Базовая модель разработана командой Qwen, однако подробные сведения об архитектуре и размере исходной модели в карточке не приведены. Модель предназначена для задач, поддерживаемых базовой Qwen3.8-27B, с возможностью использования в совместимом с GGUF программном обеспечении. В метаданных указан тип pipeline image-text-to-text, что предполагает работу с изображениями и текстом, но конкретные поддерживаемые модальности, языки, размер контекста и сценарии применения не описаны. Ключевым преимуществом является компактное MXFP4-представление, потенциально снижающее требования к памяти по сравнению с полноразмерными весами. Ограничения связаны с отсутствием подробных результатов тестирования, характеристик производительности и описания качества квантования. README содержит ссылку на лицензию базовой модели Qwen3.8-27B, но точные условия лицензии в карточке не указаны.