I.14Автоматизация процессов и AI-агенты

JoyFox-OmniFlow-9B — мультимодальная модель общего назначения от JoyFox на основе OpenBMB MiniCPM-o 4.5. Она поддерживает диалог на английском, китайском и других языках, выполнение инструкций, ответы на сложные вопросы, математические рассуждения, генерацию кода, ролевые сценарии и вызов инструментов. Модель принимает текст, изображения, видеокадры и аудио, а также поддерживает потоковое взаимодействие в режиме full-duplex с одновременным аудио- и визуальным вводом и текстовым или речевым выводом. Архитектура MiniCPMO включает языковую модель, визуальный и аудиоэнкодеры, мультимодальные проекционные слои и модуль синтеза речи. В README указан размер 9B, а метаданные сообщают 7,6 млрд параметров; контекст — до 40 960 токенов. Релиз распространяется в BF16 Safetensors и включает ресурсы для TTS и клонирования голоса по образцу аудио. Для полной потоковой генерации речи требуются дополнительные зависимости minicpmo-utils[all]. Модель загружается через Transformers; в README описана проверка полной загрузки на GPU NVIDIA RTX PRO 6000 Blackwell. Независимые внешние результаты бенчмарков не приведены; качество потокового взаимодействия зависит от конфигурации аудио и видео и среды выполнения. Возможны неточные, предвзятые или неподходящие ответы, а схемы и аргументы вызова инструментов требуют проверки. Лицензия — Apache-2.0.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-GGUF — это квантизированная GGUF-версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и подготовленной Ttimms. Модель предназначена для генерации текста и программного кода, агентного программирования и работы через llama.cpp-совместимые приложения. Указан английский язык. В основе лежит гибридная архитектура Gated-DeltaNet и Mixture of Experts (MoE). В результате 50-процентного pruning методом REAP число экспертов сокращено с 256 до 128, общий размер составляет около 19 млрд параметров, а активными при инференсе являются примерно 3 млрд параметров. Vision tower удалён, MTP head отсутствует. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ и рассчитан на запуск в системах с 16 ГБ памяти. Сильные стороны модели — высокая эффективность MoE при относительно умеренных требованиях к вычислениям, поддержка CPU и Apple Silicon, а также хорошие заявленные результаты на HumanEval+ и MBPP+. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama зависит от обновления встроенной версии llama.cpp. Более качественные кванты требуют больше памяти, а Q8_0 нуждается более чем в 16 ГБ или в выгрузке части вычислений на CPU. Заявленные результаты основаны на одиночных greedy-запусках и имеют заметный разброс между повторными измерениями. Модель распространяется по лицензии Apache-2.0.

KRONOS-8B-V3 — языковая модель, созданная командой T145 слиянием нескольких предварительно обученных моделей методом TIES в mergekit; базой слияния служит unsloth/Meta-Llama-3.1-8B. В состав также вошли mukaj/Llama-3.1-Hawkish-8B, KRONOS-8B-V1-P1, KRONOS-8B-V1-P3 и Meta-Llama-3.1-8B-Instruct. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов, а также имеет интерфейс для вызова инструментов. Поддерживает контекст до 131 072 токенов. В карточке приведены результаты оценок на IFEval и BBH, но сведений о поддерживаемых естественных языках и лицензии нет. Доступные веса размещены в формате safetensors.

Archeiothiki S.A., команда AI Services, разработала эту модель для классификации страниц документов на греческом языке по 18 категориям. Она принимает текст, извлечённый из документов с помощью OCR, и возвращает категорию страницы; среди примеров — счета за энергию, сертификаты и другие деловые документы. Для предварительной обработки текста перед запуском требуется использовать предусмотренную авторами функцию. Модель построена на BERT и дообучена на базе nlpaueb/bert-base-greek-uncased-v1. В обучении применялись контрастивное обучение и настройка классификатора с функцией потерь для несбалансированных классов. В архитектуре оставлено 6 слоёв из исходных 12; размер скрытого слоя — 768, словарь содержит 35 000 токенов, максимальная длина входа — 512 токенов. В метаданных указано 83,5 млн параметров. На тестовом наборе из 1 336 примеров авторы сообщают точность 0,94 и macro F1 0,92. Модель подходит для сортировки и маршрутизации страниц греческих документов после OCR. Редкие классы представлены малым числом примеров, и качество на них может быть ниже; авторы отмечают, что для класса AA_LEGAL_ENT_CERTIFICATE требуется больше обучающих данных. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.

LFM2.5-8B-A1B-ThinkingCap-GGUF — GGUF-сборка модели LFM 2.5 8B ThinkingCap, основанная на весах Liquid AI LFM 2.5 8B A1B и аблитерированной версии huihui-ai. Модель дообучена osk-arr00 с применением Supervised Fine-Tuning (SFT) и Direct Preference Optimization (DPO) и ориентирована на рассуждения, генерацию текста, структурированные ответы и tool-calling. Заявлена поддержка английского и испанского языков. Архитектура представляет собой гибридную модель с 36 слоями одномерных коротких свёрток и MoE-основой на 32 эксперта. Всего модель содержит около 8,47 млрд параметров, из которых примерно 1,2 млрд активны на каждый токен. В репозитории доступны варианты GGUF от BF16 до Q4, включая специализированные APEX и ROCmFPX-квантизации для AMD Strix Halo с архитектурой RDNA 3.5 и gfx1151, а также версии для llama.cpp, Vulkan, CPU и CUDA. Указана поддержка глобального контекста до 256K токенов в серверном сценарии, однако точные ограничения зависят от сборки и конфигурации. Сильными сторонами являются ориентация на reasoning, детерминированные структурированные ответы, англо- и испаноязычная генерация, широкий выбор квантизаций и оптимизация для AMD Strix Halo. Ограничения включают зависимость производительности от аппаратной платформы, рантайма, квантизации и параметров запуска; приведённые показатели относятся к AMD Ryzen AI Max 385 с 64 ГБ LPDDR5X и не гарантируют аналогичную скорость на других системах. Лицензия обозначена как lfm1.0; конкретные условия следует уточнять в приложенном файле лицензии.

Lizzy 7B — открытая по весам разговорная модель-помощник семейства Lizzy, разработанная Flower Labs. Это плотный авторегрессионный трансформер-декодер класса 7B с 6,9 млрд параметров, поддержкой контекста до 65 536 токенов, локальным и скользящим вниманием и собственными токенами для чата и управления. Модель принимает текстовые запросы и рассчитана на диалог, следование инструкциям, рассуждения, работу с кодом и вызов инструментов; её настройка уделяет особое внимание британскому английскому и знаниям о Великобритании. Модель предназначена для британских ассистентских сценариев, а также для общих задач рассуждения и помощи с кодом. В карточке приведены результаты сравнений на внутренних бенчмарках Flower Labs по британской тематике, математике и рассуждениям. Для много GPU-развёртывания через vLLM с тензорным параллелизмом может потребоваться патч, приложенный к поставке. Модель распространяется по лицензии Apache-2.0. Она может выдавать ошибочные, устаревшие или чрезмерно уверенные ответы; британская настройка может смещать тон и предположения к нормам Великобритании. Для рискованных сценариев рекомендуется проверка человеком и собственные меры модерации.

LLaDA2.0-flash-preview — открытая инструктивно настроенная диффузионная языковая модель от InclusionAI для диалогов и практических задач. Она использует архитектуру Mixture-of-Experts: в README указано 100 млрд параметров, из которых около 6,1 млрд активируются при инференсе; метаданные каталога указывают 5,5 млрд параметров. Архитектура включает 32 слоя, 32 головы внимания, RoPE и словарь размером 157 184 токена. Модель предназначена для генерации текста, ответов на вопросы, написания кода, математических рассуждений и сценариев с вызовом инструментов. Это diffusion language model (dLLM), доступная в формате safetensors через Transformers. В README указан контекст 4 096 токенов, тогда как метаданные каталога сообщают нативный контекст 16 384 токена. Репозиторий распространяется по лицензии Apache-2.0. README рекомендует температуру 0 и параметры block_length=32, steps=32; при повышении температуры возможно смешение языков и снижение качества. Модель обозначена как preview, поэтому её зрелость следует считать экспериментальной.

LLaDA2.0-mini-CAP — языковая модель компании InclusionAI, основанная на диффузионной архитектуре Mixture-of-Experts и обученная с применением Confidence-Aware Parallel (CAP). Она предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений, математических задач и программирования. CAP повышает эффективность параллельного декодирования: в README заявлено ускорение генерации в 1,46 раза относительно LLaDA2.0-mini при снижении среднего результата на указанных тестах с 70,15 до 67,32. Модель содержит 1,2 млрд параметров по метаданным; README описывает базовую архитектуру как 16B-A1B MoE, 20 слоёв и 16 голов внимания. Длина контекста — 32 768 токенов. Для инференса предназначен формат safetensors и библиотека Transformers; доступны чат и интерфейс вызова инструментов. README рекомендует температуру 0, block_length 32 и steps 32, предупреждая, что повышенная температура может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

Это преобразованная в формат MLX версия Meta-Llama-3.1-8B-Instruct, подготовленная сообществом mlx-community на основе модели Meta. Она предназначена для генерации текста в диалоге, ответов на вопросы и выполнения инструкций; также поддерживает интерфейс вызова инструментов. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README указано преобразование с помощью mlx-lm версии 0.19.0; репозиторий содержит веса в формате safetensors с точностью bf16. В карточке перечислена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Лицензия — llama3.1; условия её использования определяются лицензией Meta Llama 3.1.

mist-reranker-22.7M — компактная англоязычная модель-переранжировщик, разработанная OlaVerse. Это cross-encoder на базе cross-encoder/ms-marco-MiniLM-L6-v2 с архитектурой BERT и примерно 25,9 млн параметров по метаданным. Модель оценивает пару «поисковый запрос — фрагмент текста» единым баллом релевантности, чтобы переставлять кандидатов, найденных первым этапом поиска, например в конвейере RAG. Контекст составляет до 512 токенов; модель использует Sentence Transformers и формат safetensors. Модель дообучена на 844 тысячах англоязычных пар из olaverse/reranker-general-en-llm-judged с комбинированной целью: меткой релевантности от LLM-судьи и дополнительным обучением на оценках учителя BAAI/bge-reranker-v2-m3. В карточке сообщается о результатах на NanoBEIR: NDCG@10 равен 0,8543; модель предназначена для быстрого переранжирования при умеренных вычислительных ресурсах. Лицензия — Apache-2.0.

michaelfeil/mxbai-rerank-base-v2-seq — вариант семейства Mixedbread mxbai-rerank, переписанный как классификатор на базе плотной архитектуры Qwen2. Модель предназначена для ранжирования текстов: она оценивает релевантность документов запросу и подходит для поиска и конвейеров RAG. В README заявлены поддержка кода, длинного контекста и более 100 языков; метаданные указывают 494 млн параметров и контекст до 32 768 токенов. Указанные в карточке языки включают английский, китайский, немецкий, японский, корейский, испанский, французский, арабский, бенгальский, русский, индонезийский, тайский, суахили и телугу. README сообщает о сильных результатах на бенчмарках поиска и эффективности, но технический отчёт ещё готовится, а независимые условия сравнения в карточке описаны ограниченно. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Для вызова через API классификации требуется специальный шаблон промпта; конкретный шаблон в доступном README не приведён.

TokenRhythm/NeoHorse-1-4B-MLX — версия модели NeoHorse-1-4B для локального запуска на компьютерах Apple Silicon. Это плотная языковая модель на архитектуре Qwen3.5 с 3,4 млрд параметров, представленная в формате BF16 и адаптированная для среды MLX-LM. Модель создана TokenRhythm; исходные веса преобразованы из BF16 с изменением имён и расположения тензоров и представления нормализации, без квантизации. Модель предназначена для диалога, следования инструкциям, программирования, рассуждений и агентных сценариев с вызовом инструментов. Для запуска требуется MLX-LM; карточка описывает OpenAI-совместимый API и обработку вызовов инструментов через шаблон чата. Указанное в README среднее по десяти бенчмаркам относится к исходной NeoHorse-1-4B, а не к отдельной оценке MLX-версии. Лицензия — Apache-2.0.

NeuroBERT-NER — англоязычная модель для распознавания именованных сущностей, разработанная Boltuix на базе boltuix/NeuroBERT-Mini и дообученная для классификации токенов. Модель на архитектуре BERT содержит 9,9 млн параметров, принимает текст с контекстом до 512 токенов и присваивает токенам метки BIO для 18 категорий сущностей, включая людей, организации, места, даты и денежные суммы. Модель предназначена для извлечения сущностей из новостей, пользовательских текстов и исследовательских корпусов, а также для индексации поиска и построения графов знаний. В README приведены результаты на тестовой выборке указанного датасета: precision 0,85, recall 0,87 и F1 0,86; фактическое качество может отличаться на других типах текста и в специализированных областях. Поддерживается английский язык. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка отмечает, что датасетная ссылка является заглушкой; заявленные размеры выборок приведены приблизительно.

Это 5-битная квантованная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на компьютерах Apple Silicon. Базовая модель создана NVIDIA; карточка представляет её как разговорную модель с интерфейсом вызова инструментов. Модель предназначена для генерации текста в диалогах, рассуждений, программирования и агентных приложений. Метаданные указывают поддержку английского, испанского, французского, немецкого, японского и итальянского языков. Квантование уменьшает точность весов до 5 бит и ориентировано на запуск через MLX. Репозиторий распространяется по лицензии, обозначенной как other; конкретные условия следует сверить с файлами лицензии модели. Как и другие генеративные модели, она может выдавать неточную, вредную или неподходящую информацию.

Это 6-битная квантизированная версия языковой модели NVIDIA Nemotron 3 Nano 30B A3B, подготовленная командой LM Studio с помощью mlx_lm для работы на устройствах Apple Silicon. Модель основана на NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура исходной модели сочетает гибридный подход и MoE с 30 млрд параметров, из которых около 3 млрд активируются на токен. Исходная модель рассчитана на диалоги, рассуждения, программирование и создание агентных приложений, поддерживает длинный контекст и шесть языков: английский, испанский, французский, немецкий, японский и итальянский. Эту сборку можно использовать для генерации текста, диалогов и вызова инструментов в приложениях на Apple Silicon. Квантизация уменьшает требования к памяти по сравнению с BF16, но может влиять на точность ответов. В README не приведены длина контекста и условия лицензии именно для этой сборки; лицензия в метаданных обозначена как other. Модель может выдавать неточные или нежелательные ответы.

Это конвертированная в формат MLX 8-битная версия NVIDIA Nemotron 3 Nano 30B A3B, подготовленная сообществом mlx-community из исходной модели NVIDIA в формате BF16 с помощью mlx-lm 0.29.1. Модель предназначена для генерации текста в диалоговом формате; базовая модель описана как средство для рассуждений, программирования и создания агентных приложений. В метаданных заявлена поддержка английского, испанского, французского, немецкого, японского и итальянского языков. Репозиторий помечен как safetensors, а описание указывает на 8-битное представление весов для запуска через MLX. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в лицензии исходной модели.

olmOCR-7B-0225-preview-bf16 — конверсия модели allenai/olmOCR-7B-0225-preview в формат MLX, подготовленная сообществом mlx-community с помощью mlx-vlm версии 0.1.14. Это мультимодальная модель на архитектуре Qwen2-VL с 7,1 млрд параметров, дообученная на базе Qwen/Qwen2-VL-7B-Instruct. Она предназначена для преобразования изображений документов в текст и ответа на запросы по их содержимому. Модель принимает текст и изображения, выдаёт текст; поддерживаемая длина контекста составляет 32 768 токенов. В карточке указан английский язык и лицензия Apache-2.0. Для подробностей о назначении и качестве авторы отсылают к карточке исходной модели.

OpenProvence reranker xsmall v1 — компактная двуязычная модель переранжирования и отбора предложений для подготовки контекста в системах поиска и RAG. Модель разработана hotchpotch и содержит 30 млн параметров; архитектура — OpenProvence для классификации последовательностей, веса представлены в формате safetensors. Модель принимает вопрос и текстовый контекст, оценивает релевантность предложений и удаляет фрагменты, не относящиеся к запросу. Она предназначена для ускорения поиска нужной информации и сокращения контекста перед передачей его генеративной модели. Поддерживаются английский и японский языки; согласно карточке, xsmall рассчитана на низкую задержку и может работать на CPU. В опубликованных оценках модель сокращала объём контекста, сохраняя ответы на контрольных примерах, но результаты зависят от языка, порога отсечения и набора данных. Модель опубликована под лицензией MIT.

Ornith-1.0-397B — открытая модель семейства Ornith от Ornith AI для агентного программирования. Она дообучена с применением обучения с подкреплением на базе Qwen 3.5; в метаданных указаны архитектура семейства qwen3_5_moe и класс Qwen3_5MoeForConditionalGeneration. Репозиторий содержит веса Safetensors, а лицензия — MIT. Модель предназначена для создания и использования coding-агентов: она помогает разбираться в крупных кодовых базах, решать задачи разработки через терминальные инструменты и вызывать подключённые инструменты. В README заявлены высокие результаты на Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Для развёртывания описан OpenAI-совместимый сервер; пример для vLLM использует 8 GPU и контекст до 262 144 токенов. Это крупная модель MoE на 397 млрд параметров, поэтому запуск требует мощной мног GPU инфраструктуры, несмотря на заявление README об эффективном развёртывании.

Модель PII_DETECTION_MODEL разработана Betterdata.ai для обнаружения и разметки персональных и конфиденциальных данных в тексте. Это дообученная версия декодерного трансформера Qwen2-0.5B с 494 млн параметров; модель принимает текст и выдаёт текст с метками классов для найденных данных. Заявлены 29 классов PII и поддержка английского, испанского, шведского, немецкого, итальянского, нидерландского и французского языков. Контекст модели составляет до 131 072 токенов. Модель предназначена для маскирования PII перед отправкой текста во внешние языковые сервисы, а также для защиты данных в документах и приложениях. Разработчик отмечает, что модель компактна и рассчитана на работу с длинными документами, в том числе на CPU. Лицензия — Apache-2.0. Точность не гарантируется: по данным карточки, модель лучше справляется с именами, адресами электронной почты и телефонами, а распознавание API-ключей, CVV и банковских счетов требует улучшения. Результаты следует проверять перед использованием в критичных сценариях.

mlx-community/Qwen2.5-14B-Instruct-bf16 — преобразованная в формат MLX модель Qwen2.5-14B-Instruct, подготовленная сообществом mlx-community для запуска на Apple Silicon. Это плотная авторегрессионная модель семейства Qwen2 с 14 млрд параметров, предназначенная для генерации текста в диалоговом режиме и интерфейса вызова инструментов. Метаданные указывают контекст до 32 768 токенов и поддержку английского языка; README описывает конвертацию из Qwen/Qwen2.5-14B-Instruct с помощью mlx-lm 0.18.1. Модель распространяется по лицензии Apache-2.0.

AtesiT разработал русскоязычный детектор галлюцинаций на основе Qwen2.5-1.5B-Instruct: плотной причинно-языковой модели Qwen2 с 1,5 млрд параметров. Модель принимает вопрос, контекст-источник и ответ языковой модели, а затем выдаёт бинарную метку: 0, если ответ соответствует контексту, и 1, если он ему противоречит или не подтверждён им. Она предназначена для проверки ответов в RAG-системах, тестирования агентов и мониторинга качества генерации. Модель дообучена методом QLoRA с LoRA-адаптерами; в репозитории указаны веса safetensors и библиотека Unsloth. Метаданные указывают базовый контекст Qwen2.5 в 32 768 токенов, однако для этой версии README сообщает практический предел входа в 512 токенов. Данные основаны на автоматически собранном русскоязычном корпусе SberQuAD. По README, на тестовой выборке версии v5 точность составляет 0,9835, а F1 — 0,9833; эти показатели относятся к описанному набору данных и не гарантируют такое же качество на других корпусах. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-32B-Instruct-8bit — конверсия в формат MLX модели Qwen/Qwen2.5-32B-Instruct, выполненная сообществом mlx-community с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2.5 с 32 млрд параметров, предназначенная для диалоговой генерации текста и работы с интерфейсом вызова инструментов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Карточка указывает английский язык, а базовая модель Qwen2.5 поддерживает более широкий контекст, но для этой версии следует ориентироваться на значение из её метаданных. Модель распространяется по лицензии Apache-2.0.

mlx-community/Qwen2.5-Coder-7B-bf16 — версия модели Qwen2.5-Coder-7B, преобразованная сообществом mlx-community в формат MLX с помощью mlx-lm 0.18.1. Это плотная авторегрессионная модель семейства Qwen2, рассчитанная на генерацию текста и кода; объём модели — 7,1 млрд параметров, максимальный контекст — 32 768 токенов. Карточка указывает поддержку диалогового режима и интерфейса вызова инструментов, а среди языковых тегов — английский. Модель подходит для генерации и продолжения кода, помощи в программировании и диалоговых сценариев с текстовым вводом. Репозиторий содержит веса safetensors; README описывает преобразование в MLX и использование через mlx-lm. Лицензия — Apache 2.0. Метаданные связывают модель с Qwen/Qwen2.5-7B как с базовой моделью, однако README указывает исходную Qwen/Qwen2.5-Coder-7B; это означает, что репозиторий представляет преобразованную версию кодовой модели, а классификацию происхождения и базовую модель следует трактовать с учётом этих различающихся сведений.

YOYO-AI/Qwen3-30B-A3B-Mixture-2507 — объединённая модель от YOYO-AI на архитектуре Qwen3 MoE. Она создана слиянием Qwen/Qwen3-30B-A3B-Thinking-2507 и Qwen/Qwen3-30B-A3B-Instruct-2507 методом nuslerp; в README указаны параметры float32 для слияния и bfloat16 для выходных весов. Модель предназначена для диалогов, выполнения инструкций и генерации текста, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Метаданные указывают английский и китайский языки, активный размер — 2,6 млрд параметров, контекст — до 262 144 токенов. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Практическое качество и ограничения отдельно не описаны; характеристики унаследованных режимов Instruct и Thinking для объединённой модели не уточнены.

MichaelAnthony/qwen-3.5-0.8b-Hedgehog-MLX — FP16-экспорт модели для MLX на архитектуре Qwen 3.5. Это производная версия дообученного чекпойнта qwen-3.5-0.8b-Hedgehog, созданного для извлечения полей из документов в SimpleRAG. Компактная плотная модель содержит 581,4 млн параметров, поддерживает контекст до 262 144 токенов и работает с текстом; экспорт адаптирует структуру весов и тензоров для загрузчика mlx-lm. Модель предназначена для извлечения заданных полей из предоставленных документов и выдачи результата в указанной JSON-структуре с использованием найденных фрагментов документов. README рекомендует отключать режим рассуждений, использовать температуру 0 и явно задавать пути полей и типы значений. В описанной оценке версия Q8 набрала 71 балл на BenchLocal DataExtract-15; среди известных слабых мест — записи с несколькими сущностями и синтетические сложные счета-фактуры. Для запуска нужен MLX, а проверка инференса и производных квантованных сборок на Apple Silicon отдельно необходима. Лицензия в предоставленных данных не указана.

Robinson Labs выпустила доработанную версию Qwen3.6-35B-A3B — мультимодальной модели семейства Qwen с архитектурой MoE, примерно 35 млрд параметров и бюджетом около 3 млрд активных параметров. Веса представлены в bf16 в формате sharded safetensors для Transformers. Модель принимает текст и изображения и предназначена для диалогов, вызова инструментов, программирования и анализа изображений; в README также заявлено сохранение поддержки спекулятивного декодирования MTP/NextN для совместимых сред выполнения. В модели ослаблен отказ на взрослые и творческие запросы методом ортогонализации весов; при этом авторы заявляют о сохранении защитных ограничений для запросов о самоповреждении и реальных противоправных действиях. В собственных небольших проверках разработчика модель реже отказывала на общем наборе запросов, а на тесте детской безопасности отклоняла все проверенные запросы; размер этих тестов ограничен и не подтверждает поведение во всех ситуациях. Модель не предназначена для всех аудиторий. Лицензия — Apache-2.0, унаследованная от базовой модели.

Qwen3.8-27B-Omnimerge-v6 — плотная мультимодальная модель семейства Qwen, созданная ManniX-ITA слиянием опубликованных чекпойнтов на базе Qwen/Qwen3.8-27B. Веса получены арифметическим слиянием трёх дообученных моделей Qwen3.6 с переносом их изменений на новую базу; модель сама не дообучалась и не дистиллировалась. Архитектура поддерживает обработку текста и изображений, диалог, программирование, рассуждения и интерфейс вызова инструментов. Модель предназначена для диалоговых сценариев, анализа изображений, задач программирования и многошаговых рассуждений. В единственном сравнительном тестировании на выборке из пяти бенчмарков заметное улучшение относительно v4 показано на LiveCodeBench; остальные результаты в основном находятся в пределах погрешности, а GPQA ниже на 2 процентных пункта. Модель склонна к длинным рассуждениям и может исчерпать лимит бюджета ответа. Оценки проводились на Q6_K; другие уровни квантования отдельно не проверялись. Модель использует Transformers и формат Safetensors. Лицензия — Apache-2.0. README характеризует её как исследовательский чекпойнт и отмечает ограничения оценки: одна выборка, один seed и один уровень квантования.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизованная версия плотной языковой модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказного поведения; при этом README предупреждает, что для критически важных длинноконтекстных агентских задач более безопасным выбором может быть Balanced-вариант, если он доступен. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17 408, словарь из 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Модель сохраняет встроенный MTP/NextN и поддерживает ускорение HauhauCS FastMTP через отдельный sidecar-файл. Заявлены нативный контекст 262 144 токена и расширение до 1 000 000 токенов. Для мультимодального ввода используется отдельный vision projector в формате BF16; текстовые кванты доступны в вариантах от Q2 до Q8, включая пользовательские K_P-квантизации. Сильные стороны модели — сочетание большого контекстного окна, текстовых, reasoning-, агентских и мультимодальных возможностей, а также варианты квантизации для запуска в средах, совместимых с GGUF, включая llama.cpp и LM Studio. Ограничения связаны с тем, что Aggressive-профиль намеренно снижает склонность к отказам, что может быть нежелательно для задач с повышенными требованиями к безопасности и надёжности. Модель распространяется по лицензии Apache-2.0.

QuantTrio/Qwen3-VL-32B-Instruct-AWQ — это квантизированная версия AWQ мультимодальной instruct-модели Qwen3-VL-32B-Instruct, разработанной командой Qwen. Репозиторий предназначен для запуска модели с использованием Transformers и vLLM; размер файлов модели составляет около 20 GiB, а в README приведена конфигурация с контекстом 32 768 токенов и тензорным параллелизмом на двух GPU. Модель принимает текст и визуальные данные, включая изображения и видео, и предназначена для генерации ответов, визуального анализа, OCR, пространственного и временного рассуждения, STEM- и математических задач, визуального программирования, а также взаимодействия с графическими интерфейсами и инструментами. Для OCR заявлена поддержка 32 языков, однако полный перечень языков в README не указан. Базовая архитектура включает механизмы Interleaved-MRoPE, DeepStack и выравнивание текста с временными метками, направленные на улучшение обработки длинного контекста, деталей изображений и видеособытий. Для исходной модели заявлен нативный контекст до 256K с возможностью расширения до 1M, но для данной AWQ-конфигурации в примере запуска задан лимит 32 768 токенов. Сильные стороны модели — сочетание текстового и визуального понимания, работа с изображениями и видео, распознавание текста в сложных условиях и развитое пространственно-временное рассуждение. Ограничения связаны с необходимостью совместимого программного окружения и GPU-инфраструктуры; README рекомендует vLLM версии 0.11.0 или выше и qwen-vl-utils 0.0.14. Модель распространяется по лицензии Apache-2.0.