I.14Автоматизация процессов и AI-агенты

LiLT-SER-ES — модель для разметки токенов в документах, созданная дообучением nielsr/lilt-xlm-roberta-base на датасете XFUND. Она использует архитектуру LiLT с XLM-RoBERTa и предназначена для извлечения структурированной информации из документов с учётом текста и его расположения на странице. Модель содержит 305,2 млн параметров, принимает текстовые данные и имеет контекст до 514 токенов. В оценке на тестовой выборке XFUND достигнуты precision 0,6719, recall 0,6734, F1 0,6726 и accuracy 0,7463. Репозиторий распространяется по лицензии MIT.

Llama3.1-Typhoon2-70B-Instruct — большая языковая модель с 69,5 млрд параметров, разработанная Typhoon AI на основе Llama 3.1 70B. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов по инструкциям; карточка также указывает интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель рассчитана прежде всего на тайский и английский языки. Она подходит для ответов на вопросы и выполнения инструкций, диалогов, вызова функций, а также задач программирования и математики. Метаданные указывают контекст до 131 072 токенов, тогда как README заявляет 90 тысяч токенов. В сравнительных оценках карточки приведены результаты для следования инструкциям, переключения между тайским и английским, вызова функций, математики и кода. Модель находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на встроенные ограничения. Для использования применяются условия Llama 3.1 Community License; перед внедрением следует проверить соответствие её условий своему сценарию.

Llama-Express.1-Tiny — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров; для запуска карточка рекомендует Transformers версии 4.43.0 или новее. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для многоязычного диалога, следования инструкциям, суммаризации и сценариев поиска с последующим извлечением и обобщением сведений. Она принимает текст и генерирует текст; также заявлен интерфейс для вызова инструментов. Английский указан в языковых метаданных, а описание заявляет многоязычное применение без перечисления остальных языков. Карточка заявляет оптимизацию для длинных рассуждений и диалогов, но не приводит независимых оценок качества. Возможны предвзятые или неуместные ответы, снижение качества на малоресурсных языках и ухудшение результатов при неоднозначных запросах или очень длинном контексте; модель не получает актуальные сведения из интернета сама по себе. Лицензия — Llama 3.2.

Модель mlx-community/Meta-Llama-3.1-70B-Instruct-bf16 — преобразованная в формат MLX версия Meta Llama 3.1 70B Instruct, подготовленная сообществом mlx-community. Это плотная авторегрессионная языковая модель семейства Llama с 69,5 млрд параметров, предназначенная для диалогов, генерации текста и использования в качестве ассистента; поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В карточке перечислена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; длина контекста — до 131 072 токенов. Формат MLX предназначен для запуска на оборудовании Apple через библиотеку mlx-lm. Репозиторий основан на meta-llama/Llama-3.1-70B-Instruct и содержит веса в safetensors; конвертация выполнена с помощью mlx-lm версии 0.19.0. Лицензия — Llama 3.1 Community License. Модель крупная и требует значительных вычислительных ресурсов; заявленная длина контекста не гарантирует одинаковую скорость или качество на всём диапазоне.

MiniCPM5-2B-heretic — производная версия MiniCPM5-2B, представленная в репозитории Dingdust и ориентированная на генерацию текста в диалогах. Это плотная причинная языковая модель на архитектуре LlamaForCausalLM с 2,2 млрд параметров по метаданным и контекстом до 131 072 токенов. Карточка описывает исходную MiniCPM5-2B как компактную модель для локальных ассистентов, программирования, математических рассуждений, работы с длинным контекстом, вызова инструментов и агентных сценариев на устройствах с ограниченными ресурсами. В метаданных отмечены английский и китайский языки, а также теги uncensored и abliterated; конкретный способ получения версии heretic и её отличия от исходных весов в карточке не раскрыты. Указан формат safetensors и библиотека Transformers. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; для чувствительных тем они не заменяют консультацию специалиста.

Карточка модели arnaultsta/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Muse Spark 1.2 — рассуждающая модель Meta для сложных задач с агентным взаимодействием. Она принимает текст, изображения, видео, аудио и PDF-документы, а на выходе формирует текст. Заявленный контекст — до 1 млн токенов. Модель подходит для сценариев, где нужно анализировать смешанные входные данные и выполнять многошаговые задачи. В метаданных каталога её задача указана как image-text-to-text. Информация о лицензии, точном размере и ограничениях модели в доступных данных отсутствует.

Nemotron-Cascade-2-30B-A3B-AWQ-4bit — 4-битная AWQ-версия диалоговой языковой модели семейства NVIDIA Nemotron-Cascade-2. В README исходная модель описана как модель Mixture of Experts на 30 млрд параметров с 3 млрд активируемых параметров; она дообучена на базе Nemotron-3-Nano-30B-A3B-Base и поддерживает режимы рассуждений и обычных инструкций. Метаданные указывают задачу генерации текста, библиотеку Transformers и базовую модель nvidia/Nemotron-Cascade-2-30B-A3B. Модель предназначена для диалогов, решения сложных задач и агентных сценариев; README сообщает о высоких результатах на математической олимпиаде IMO и олимпиаде по информатике IOI 2025. Она использует шаблон ChatML, а для запуска исходной версии README описывает контекст до 262 144 токенов. AWQ-квантизация снижает точность весов до 4 бит; показатели качества и требования к ресурсам именно этой сборки в предоставленных сведениях не приведены. Лицензия указана как other, конкретные условия следует сверять с карточкой модели.

NuExtract-v1.5-GGUF — квантованная в формате GGUF версия модели NuExtract-v1.5, разработанной Numind. Квантование предоставлено bartowski на основе llama.cpp. Модель представляет собой дообученную версию Phi-3.5 mini, предназначенную для извлечения структурированной информации из текста на основе заданного JSON-шаблона. Модель ориентирована на задачи NLP, где требуется преобразовать неструктурированный текст в данные фиксированной структуры: например, извлекать сущности, атрибуты и другие сведения по заранее описанной схеме. Заявлена поддержка английского, французского, испанского, немецкого, португальского и итальянского языков, а также работа с длинным контекстом. Точный размер контекстного окна, параметры модели, варианты квантования и результаты бенчмарков в README не указаны. Качество и полнота извлечения зависят от корректности JSON-шаблона; количественные ограничения и известные типичные ошибки не описаны. Модель распространяется по лицензии MIT.

Модель mlx-community/NVIDIA-Nemotron-3-Nano-30B-A3B-MLX-BF16 — версия NVIDIA Nemotron 3 Nano, подготовленная сообществом mlx-community для запуска в формате MLX. README указывает, что она преобразована из nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 с помощью mlx-lm 0.29.1; метаданные связывают её с этой базовой моделью и задачей генерации текста. Модель предназначена для диалоговой генерации текста. Описание базовой модели в каталоге указывает на сценарии рассуждений, программирования и создания агентных приложений; в карточке отмечена поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий использует библиотеку MLX и файлы safetensors. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией базовой модели и карточкой репозитория.

Модель mlx-community/NVIDIA-Nemotron-3-Nano-4B-BF16 — версия NVIDIA Nemotron 3 Nano, подготовленная сообществом mlx-community для запуска через MLX на устройствах Apple. В карточке указано, что она конвертирована из nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16 с помощью mlx-lm 0.31.1; метаданные классифицируют связь как дообучение и указывают архитектуру NemotronHForCausalLM. Репозиторий содержит веса safetensors, а размер модели составляет 6,4 млрд параметров. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на вопросы, программирования, рассуждений и агентных сценариев с интерфейсом вызова инструментов. Поддерживает контекст длиной до 262 144 токенов и ориентирована на английский язык. Для использования требуется библиотека mlx-lm; лицензия указана как other, поэтому условия следует сверить с лицензией базовой модели и репозитория перед применением.

TitanML/olmOCR-2-7B-1025-FP8 — квантованная в формате FP8 версия модели olmOCR-2-7B-1025, разработанной командой AllenAI и созданной на основе Qwen/Qwen2.5-VL-7B-Instruct. Модель дообучалась на наборе olmOCR-mix-1025 и дополнительно оптимизировалась с помощью GRPO reinforcement learning для работы с математическими формулами, таблицами и сложными случаями OCR. Она предназначена для распознавания содержимого документов, прежде всего PDF, включая текст, многостолбцовые страницы, колонтитулы, таблицы, диаграммы и мелкий текст. Заявленный язык — английский. Модель поддерживает обработку изображений документов и рассчитана на подачу одной страницы, отрендеренной так, чтобы её максимальный размер составлял 1288 пикселей. Для практического использования рекомендуется olmOCR toolkit, который автоматически рендерит и поворачивает страницы, повторяет неудачные попытки и предоставляет масштабируемый inference через vLLM для обработки больших объёмов документов. FP8-квантизация сохраняет сопоставимые с исходной моделью результаты olmOCR-bench и может снизить требования к ресурсам, однако README не приводит точные характеристики контекстного окна, аппаратные требования или полный перечень поддерживаемых языков. Модель распространяется по лицензии Apache 2.0 и предназначена для исследовательского и образовательного использования с учётом требований Responsible AI от Ai2.

Omega AI 70B — диалоговая языковая модель семейства Omega AI, представленная как дообученная на базе meta-llama/Llama-3.3-70B-Instruct. По метаданным, модель содержит 71,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации ответов; доступны интерфейсы чата и вызова инструментов. Контекст составляет до 32 768 токенов. Модель предназначена для диалоговых ассистентов и генерации текста. README характеризует репозиторий как справочный и уточняет, что фирменное название Omega AI не меняет архитектуру или предварительно обученные веса базовой модели. Условия исходной лицензии и требования к атрибуции продолжают действовать; конкретная лицензия в предоставленных данных не приведена.

OpenLID-v2 — модель классификации текста для автоматического определения языка. Её разработали Laurie Burchell, Alexandra Birch, Nikolay Bogoychev и Kenneth Heafield; она представляет собой улучшенную версию OpenLID и использует библиотеку fastText. В README модель описана как высокопроизводительная и охватывающая широкий набор языков. Модель подходит для определения языка коротких текстов и строк, например для маршрутизации запросов по языку, предварительной сортировки корпусов и добавления языковых меток к пользовательскому контенту. В карточке указано NLP-язык en, а репозиторий связан с датасетом OpenLID-v2. Лицензия — GPL-3.0.

Ops-Colqwen3-4B — мультимодальная модель встраиваний в стиле ColPali, разработанная командой Alibaba Cloud OpenSearch-AI на основе Qwen3-VL-4B-Instruct и дообученная для поиска по визуальным документам. Она кодирует текстовые запросы и страницы документов, включая изображения и PDF, в согласованное пространство многовекторных представлений для семантического поиска и ранжирования по сходству с использованием MaxSim. Модель содержит 4 млрд параметров, поддерживает контекст до 32 000 токенов, до 1 280 визуальных токенов на страницу и более 30 языков. Размерность векторов настраивается до 2 560; короткие префиксы размерностью 128 или 320 подходят для сценариев с ограничениями по памяти и задержке. В README сообщаются высокие результаты на бенчмарках Vidore v1–v3, однако они не гарантируют аналогичное качество на других данных. Модель предназначена для мультиязычного поиска по PDF и другим визуальным документам, например, в системах поиска по документам и RAG. Лицензия — Apache-2.0. Для работы README приводит зависимости Pillow, Transformers версии 4.57.0 или новее, qwen-vl-utils и PyTorch 2.8.0.

Ornith 1.5 35B A3B UNCENSORED JANG_4M — это квантованная MLX-версия мультимодальной модели Ornith-1.5-35B-A3B, опубликованная dealignai на базе разработки ornith-ai. Модель предназначена для запуска на устройствах Apple Silicon через vMLX или совместимый MLX-VLM runtime и ориентирована на диалоговые задачи, программирование, рассуждения, работу с изображениями и видео, а также агентные сценарии с вызовом инструментов. Модель имеет архитектуру Mixture-of-Experts с 35,9 млрд параметров, 40 слоями и 256 маршрутизируемыми экспертами. Она использует гибридную основу с gated-delta и полнослойным attention, 27-слойную vision-башню и нативную поддержку видео. Доступен контекст до 262 144 токенов, поддерживаются английский язык, изображения и видео, встроены режим рассуждений и вызов инструментов через XML или function schema. JANG_4M — это 4-битная смешанно-точная квантзация, размер сборки составляет около 20 ГБ. К сильным сторонам относятся сохранённые возможности базовой модели в области знаний, кодирования, рассуждений и компьютерного зрения, длинный контекст, мультимодальность и высокая готовность следовать инструкциям без стандартного поведения отказа. По заявленным результатам, MMLU составляет 78,4%, а соответствие тестам HarmBench — 97,1%; при этом MMLU ниже показателя базовой модели 81,1%. Удаление защитных отказов является существенным ограничением и требует ответственного применения, соблюдения законодательства и мер безопасности. В README указана лицензия Apache-2.0; модель опубликована для исследований AI-безопасности и санкционированного тестирования.

PP-DocLayout-L — модель PaddlePaddle для обнаружения и локализации областей на изображениях документов. Она основана на архитектуре RT-DETR-L и обучена на собственной выборке китайских и англоязычных статей, журналов, контрактов, книг, экзаменационных материалов и исследовательских отчётов. Модель выделяет 23 типа областей, включая заголовки, основной текст, номера страниц, аннотации, содержание, ссылки, сноски, колонтитулы, формулы, таблицы, изображения, подписи, печати и элементы алгоритмов. Она предназначена для анализа структуры документа и может использоваться как модуль конвейера PP-StructureV3 вместе с OCR и распознаванием таблиц, печатей и формул. В описанной авторами оценке на 500 изображениях документов модель получила mAP@0.5 90,4%. Лицензия — Apache-2.0. Результат оценки получен на внутреннем наборе PaddlePaddle; качество на других типах документов может отличаться. Метаданные обозначают задачу как image-to-text, однако README описывает локализацию областей макета, а не извлечение текста.

PP-OCRv4_server_det — серверная модель обнаружения текстовых областей из серии PP-OCRv4_det, разработанная командой PaddleOCR. Она находит строки текста на изображениях и предназначена для развёртывания на производительных серверах, где важна точность. Модель используется как модуль обнаружения в OCR-конвейере PP-OCRv4; для распознавания найденных строк конвейер дополнительно применяет отдельную модель распознавания текста. В README приведены метрики для рукописного и печатного китайского и английского текста, традиционного китайского, японского, исторических текстов, а также изображений с поворотом, искажением и художественным оформлением. Лицензия — Apache-2.0. В метаданных указана библиотека PaddleOCR и языки en и zh.

bunnycore выпустил эту объединённую языковую модель на архитектуре Qwen2, созданную с помощью mergekit методом task arithmetic. В качестве основы использована Qwen/Qwen2.5-7B, объединённая с DeepSeek-R1-Distill-Qwen-7B и Bespoke-Stratos-7B. Модель содержит 7,1 млрд параметров, работает с библиотекой Transformers и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Подходит для развёртывания чат-ассистентов и генерации ответов на длинные запросы. Карточка не сообщает о специальной настройке на конкретные языки или прикладную область. Лицензия в предоставленных данных не указана.

coder3101/Qwen2.5-VL-72B-Instruct-heretic — модифицированная версия мультимодальной модели Qwen2.5-VL-72B-Instruct от Qwen, размещённая пользователем coder3101. Это плотная instruction-tuned модель класса Qwen2_5_VLForConditionalGeneration на 71,5 млрд параметров; в репозитории веса в формате safetensors, для работы используется Transformers. Модель принимает изображения и текст и формирует текстовые ответы; базовый чекпойнт поддерживает анализ видео, однако карточка этой модификации отдельно описывает главным образом результаты ablation для отказов. Модель предназначена для диалогового анализа изображений: распознавания объектов и текста, интерпретации диаграмм и макетов, локализации объектов с координатами, а также структурированного извлечения данных из счетов, форм и таблиц. Базовое семейство также заявляет понимание длинных видео, выделение событий и визуальное управление инструментами. Контекст составляет 128 000 токенов. В приведённом сравнении показатель отказов снижен с 100 из 100 у исходной модели до 8 из 100; это указывает на ослабленное поведение отказа и требует осторожности при применении. Лицензия обозначена как other, без уточнения условий в предоставленных данных.

mnsims1024/Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2.5-VL, основанная на Qwen/Qwen2.5-VL-7B-Instruct. Разработчик базовой модели — команда Qwen. Модель предназначена для обработки изображений, текста и видео в задачах image-text-to-text, визуального анализа, распознавания текста, документов, таблиц, графиков и макетов, а также для визуального рассуждения и формирования структурированных ответов. Модель содержит 7 миллиардов параметров и использует языковую модель Qwen2.5 вместе с оптимизированным vision encoder на базе ViT. Архитектура поддерживает динамическое разрешение изображений и динамическую частоту кадров видео, включая анализ видео длительностью более часа и локализацию релевантных моментов. Модель умеет выдавать bounding boxes и точки для объектов, JSON-координаты и атрибуты, а также работать со сценариями компьютерного и мобильного управления. В метаданных README указан язык en; другие языки явно не заявлены. Сильные стороны модели — анализ документов и визуального текста, OCR, понимание графиков и таблиц, обработка длинных видео, визуальная локализация и структурированный вывод. Ограничения включают необходимость совместимых версий transformers и accelerate, а также дополнительные зависимости для эффективной загрузки видео; фактические требования к памяти и параметры GGUF-квантизации в README не указаны. Модель распространяется по лицензии Apache-2.0.

qwen27B-Agent-R2-abliterated-preview — языковая модель с 27 млрд параметров, разработанная hotdogs на основе hotdogs/qwen27b-abliterated-Fable-MTP и huihui-ai/Huihui-Qwen3.6-27B-abliterated. Модель предназначена для генерации текста, диалогов, рассуждений, программирования, системных задач и агентских сценариев с вызовом инструментов и функций. Заявлена поддержка английского и тайского языков. Модель использует архитектуру семейства Qwen3.6 и поддерживает Fable-style reasoning с пошаговым рассуждением, Hermes/Qwen-формат function calling и Multi-Token Prediction (MTP) для speculative decoding. В llama.cpp заявлена возможность чернового предсказания до двух токенов за шаг и прироста скорости декодирования до 85% на одной GPU, однако фактический результат зависит от оборудования и настроек. Для визуальных задач модель можно сочетать с мультимодальным проектором mmproj от Qwen/Qwen3.6-27B, но собственная поддержка изображений в карточке отдельно не специфицирована. Это preview-версия v0.1, поэтому возможны нестабильность и ограничения качества. Модель помечена как abliterated: механизмы отказа и защитные ограничения удалены, что расширяет свободу использования, но повышает риски небезопасных или некорректных ответов. Указана лицензия AGPL-3.0.

FreedomAISVR/Qwen3.5-4B-Instruct-MTP-MXFP4-GGUF — мультимодальная модель для генерации текста и понимания изображений, представленная в формате GGUF. По карточке, она основана на Qwen3.5-4B и распространяется в виде MXFP4-квантизированных весов; для обработки изображений используется отдельный проектор SigLIP в F16. Модель рассчитана на многоязычные инструкции, диалог, рассуждения и вызов инструментов; также заявлена поддержка видео. Режим рассуждений по умолчанию выключен. Архитектура включает 32 блока Transformer с гибридными механизмами внимания, FFN и SSM, а также одну голову Multi-Token Prediction. Заявлено контекстное окно 262 144 токена. Карточка указывает поддержку английского, китайского и кода; метаданные также отмечают мультиязычность. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями нужен файл мультимодального проектора; фактическая скорость и качество зависят от используемого оборудования и совместимого ПО.

Карточка модели claymorecrystal/Qwen3.6-27B-PRISM-PRO-DQ на Hugging Face совпадает с карточкой Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ, поэтому описание составлено по ней. Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ — квантованная версия PRISM-PRO на базе Qwen3.6-27B, подготовленная проектом PRISM в формате GGUF для llama.cpp с применением динамического квантования. Она сохраняет встроенную MTP-голову для черновой генерации и полную башню обработки изображений; размер файла составляет около 13,7 ГБ вместо 55 ГБ у BF16-версии. Модель предназначена для диалоговой генерации текста и может использоваться в сценариях, где нужны возможности базовой Qwen3.6-27B, включая программирование, агентные задачи и работу с изображениями. Для ускорения вывода README описывает спекулятивное декодирование с MTP или отдельной EAGLE-3-моделью; заявлено совпадение результата с обычным жадным декодированием с оговоркой о вычислительных различиях при пакетной проверке. Базовая архитектура сочетает 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания; в карточке не приведены общее число параметров и длина контекста. Модель распространяется по лицензии Apache-2.0. Квантование уменьшает размер по сравнению с BF16, однако README не сообщает точные потери качества или требования к видеопамяти.

Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ — квантованная версия PRISM-PRO на базе Qwen3.6-27B, подготовленная проектом PRISM в формате GGUF для llama.cpp с применением динамического квантования. Она сохраняет встроенную MTP-голову для черновой генерации и полную башню обработки изображений; размер файла составляет около 13,7 ГБ вместо 55 ГБ у BF16-версии. Модель предназначена для диалоговой генерации текста и может использоваться в сценариях, где нужны возможности базовой Qwen3.6-27B, включая программирование, агентные задачи и работу с изображениями. Для ускорения вывода README описывает спекулятивное декодирование с MTP или отдельной EAGLE-3-моделью; заявлено совпадение результата с обычным жадным декодированием с оговоркой о вычислительных различиях при пакетной проверке. Базовая архитектура сочетает 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания; в карточке не приведены общее число параметров и длина контекста. Модель распространяется по лицензии Apache-2.0. Квантование уменьшает размер по сравнению с BF16, однако README не сообщает точные потери качества или требования к видеопамяти.

Qwen 3.6 35B-A3B JANGTQ4 + CRACK — производная мультимодальная модель dealignai на основе Qwen/Qwen3-VL-30B-A3B-Thinking. Это модель Qwen с архитектурой MoE: 35 млрд параметров всего, около 3 млрд активных на токен, 256 маршрутизируемых экспертов и гибридным механизмом линейного и полноформатного внимания. Она принимает текст, изображения и видео и предназначена для диалога, визуального анализа, программирования, рассуждений и вызова инструментов. Веса сжаты форматом JANGTQ4 до 18 ГБ: маршрутизируемые эксперты используют 4-битное кодирование TurboQuant, а критичные компоненты сохраняют более высокую точность; зрительный блок работает в fp16. Режим рассуждений можно включать и отключать через шаблон чата. Заявленная длина контекста — 262 144 токена. Модель ориентирована на запуск через MLX на Apple Silicon и требует MLX Studio или jang-tools для поддержки JANGTQ. Вариант CRACK прошёл абляцию отказов на уровне весов и заметно реже отказывает в ответах на чувствительные запросы. По данным карточки, результаты MMLU-200 ниже базовой модели, особенно в математике; в режиме рассуждений иногда возможны циклические ответы на запросы с экстремальными отказами. Модель выпущена под лицензией Apache-2.0.

Qwen3.6-35B-A3B-REAM-160-ru-agent — экспериментальная сжатая версия Qwen/Qwen3.6-35B-A3B, подготовленная автором WaveCut методом REAM: основные языковые MoE-слои и блок MTP сведены к 160 экспертам. Калибровка ориентирована на код, математику, агентное использование инструментов и сохранение ответов на русском языке. Модель предназначена для диалогов, работы coding-агента и анализа изображений; метаданные указывают на интерфейс вызова инструментов и поддержку vision. Модель принимает текст и изображения и генерирует текст. README описывает проверки структуры и пробные сценарии на русском языке, отладке кода и вызове инструментов, но не приводит результаты количественной оценки качества. Формат файлов — safetensors, библиотека — Transformers. Условия лицензии в предоставленных данных не указаны.

benjzzz/Qwen3.8-27B-BenQ-6bit — квантованная версия мультимодальной модели Qwen3.8-27B, опубликованная автором benjzzz. Веса и vision tower представлены методом BenQ: 6-битные коды с отдельной таблицей значений для каждой строки, что, по README, даёт 6,16 бит на вес с учётом таблиц. Модель принимает текст и изображения и предназначена для диалогов, анализа изображений и программирования; метаданные также указывают интерфейс вызова инструментов. Для генерации текста в README приведён пример с кодом Python.

Huntfat/Qwen3.8-27B-OBLITERATED-huntfat — текстовая генеративная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем Huntfat. Это модификация Qwen3.8-27B, созданная с применением метода abliteration: из весов удалялись направления, связанные с отказами и уклончивыми ответами. В README указано, что версия V3 дополнительно использует итеративное уточнение и целевую обработку корпуса данных. Модель предназначена для генерации текста, программного кода и ответов на запросы, включая сценарии, в которых исходная модель могла отказывать или заменять содержательный ответ предупреждениями. Заявлены совместимость с режимом рассуждений, применение в агентских и длинноконтекстных сценариях, а также варианты распространения в форматах GGUF, Safetensors и MLX. Точные размер контекста, перечень поддерживаемых языков и мультимодальные возможности в представленном README не указаны. По заявленным данным, V3 сохраняет большую часть возможностей исходной модели: результат MMLU составляет 82,3% против 84,5% у базовой версии, при этом автор сообщает о 20 успешных из 20 проверок задач генерации кода и о снижении склонности к отказам. Ограничениями являются умеренная потеря качества относительно базовой модели, возможные циклы при генерации без repetition_penalty и чувствительность к настройкам декодирования. Рекомендуются temperature 0, repetition_penalty 1,15 и не менее 2048 новых токенов; для агентских сценариев допускаются temperature 0,1–0,3 и ограничение длины ответа. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-Uncensored-MLX-Serve-4bit — 4-битная версия модели Qwen3.8-Flash-Next, преобразованная в формат MLX-Serve для локального запуска на компьютерах Apple Silicon. Базовая модель разработана командой Qwen, а вариант без ограничений получен orcarouter с помощью abliteration — удаления направлений весов, связанных с отказами; в этой сборке дополнительных изменений модели не заявлено. Модель предназначена для диалогов, генерации текста и кода, агентских сценариев и мультимодальных задач с изображениями и видео. Она поддерживает контекст до 262 144 токенов, vision tower, спекулятивную декодирующую голову MTP и работу через совместимые с OpenAI, Anthropic и Ollama API. Архитектура qwen4_exp включает 48 слоёв, гибридное внимание с 36 слоями Gated-DeltaNet и 12 слоями полного внимания, MoE с 512 экспертами и выбором 10 экспертов на токен, а также общим экспертом. Объём модели составляет 125 млрд параметров, из которых активно около 6 млрд на токен; заявленная поддержка языков в README не указана. Ключевые преимущества — большой контекст, поддержка текста, изображений и видео, высокая скорость на Apple Silicon, а также сниженная склонность к отказам. Пакет требует Apple Silicon с не менее чем 96 ГБ unified memory, рекомендуется 128 ГБ, и около 107 ГБ места на внутреннем SSD. Скорость и объём памяти зависят от оборудования; приведённые значения измерены на M5 Max с 128 ГБ. Для запуска требуется mlx-serve версии 26.8.11-pre-release.1 или новее. Ограничения включают высокие аппаратные требования, необходимость использования специализированного движка и потенциальные риски, связанные с отсутствием встроенных отказов. Лицензия — Apache 2.0.