I.14Автоматизация процессов и AI-агенты

LFM2-ColBERT-350M — многоязычный поисковый ретривер с поздним взаимодействием ColBERT от Liquid AI. Модель использует плотную архитектуру LFM2 с 17 слоями: 10 свёрточными, 6 attention-слоями и одним плотным слоем. В карточке указано 353,3 млн параметров, а в метаданных — 443,4 млн; это расхождение не позволяет однозначно определить размер. Репозиторий содержит веса в формате safetensors и рассчитан на использование с PyLate. Модель кодирует запросы и документы в многовекторные представления размерности 128 и сопоставляет их функцией MaxSim. Она предназначена для многоязычного и межъязыкового поиска, извлечения документов и ранжирования результатов, в том числе в RAG-системах. README рекомендует длину документа до 512 токенов и запроса до 32 токенов; модель особенно подходит для поиска, когда запрос и документ написаны на разных языках. Заявлены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Применения включают поиск товаров, локальный семантический поиск и корпоративных помощников по внутренним документам. README сообщает о результатах на NanoBEIR, но таблицы метрик в предоставленном тексте отсутствуют. Лицензия в метаданных обозначена как other, без уточнения условий.

Ling-3.0-tiny-GGUF — набор квантизованных файлов модели Ling-3.0-tiny, разработанной IBM и опубликованной в формате GGUF для запуска через llama.cpp. Модель предназначена для локального и периферийного развертывания, генерации текста, задач рассуждения и агентских сценариев с возможностью выбирать между быстрым ответом и режимом пошагового reasoning. Модель содержит 7,9 млрд параметров, из которых на каждый токен активируется около 1,3 млрд. Она использует гибридную архитектуру с чередованием слоёв KDA (Kimi Delta Attention) и MLA (Multi-Head Latent Attention) в соотношении 3:1, а также разреженный MoE-слой с 128 маршрутизируемыми экспертами. Заявлена поддержка эффективной обработки длинного контекста, однако конкретный максимальный размер контекста и поддерживаемые языки в README не указаны. Для файлов доступны варианты от BF16 и F16 до экстремально сжатых 1–8-битных квантований; типичный компромисс между качеством и размером — Q4_K_M. Сильные стороны модели — малое число активируемых параметров, экономичное потребление памяти, высокая скорость инференса и встроенный настраиваемый режим рассуждения. В README приведены ориентиры около 100–105 токенов в секунду на NVIDIA DGX Spark и 86–90 токенов в секунду на MacBook с M4 Pro при FP8, а также пиковое потребление около 8,34 ГБ памяти при контексте 8K. Ограничения зависят от выбранного уровня квантования: сильное сжатие снижает качество и может ухудшать связность ответов. Лицензия в предоставленном README не указана.

Карточка модели yentinglin/Llama-3.1-Taiwan-8B на Hugging Face совпадает с карточкой yentinglin/Llama-3.1-Taiwan-8B-Instruct, поэтому описание составлено по ней. yentinglin/Llama-3.1-Taiwan-8B-Instruct — чат-модель на базе архитектуры Llama, разработанная yentinglin. Она предназначена для генерации текста в диалогах и других сценариях, где требуется следовать инструкциям. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат Safetensors; заявленная длина контекста — 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Карточка предупреждает, что ответы нужно самостоятельно проверять на точность и пригодность. Модель не предназначена для медицинской диагностики, юридических консультаций и финансовых решений. В предоставленных материалах условия лицензии не описаны.

Это дообученная модель генерации текста artificialguybr на базе Meta Llama 3.2 1B, настроенная на наборе инструкций и диалогов OpenHermes-2.5. Она построена на плотной авторегрессионной архитектуре LlamaForCausalLM и содержит около 1,2 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает и генерирует текст, включая код, и рассчитана прежде всего на английский язык, с возможностью работы на других языках Llama 3.2. Модель предназначена для диалогового помощника и агентных сценариев: следования инструкциям, поиска знаний, суммаризации и переформулирования запросов. Компактный размер упрощает запуск по сравнению с крупными моделями, но качество и надёжность могут быть ограничены размером базовой модели и данными дообучения. Возможны смещения и неподходящие ответы; для чувствительных сценариев необходима проверка результатов. Лицензия — Llama 3.2 Community License (llama3.2), с соблюдением её условий и Acceptable Use Policy.

UKzExecution/LlamaExecutor-8B-3.0.5 — диалоговая языковая модель, созданная слиянием моделей Meta с помощью mergekit. В основе лежит Meta-Llama-3.1-8B-Instruct; в слияние также включена Meta-Llama-3-8B-Instruct. Использован метод task arithmetic с нормализацией и int8-маской. Модель содержит 7,5 млрд параметров, построена на архитектуре Llama и предназначена для генерации текста и диалоговых ответов, включая работу через интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Её нативный контекст составляет 131 072 токена. Карточка приводит результаты оценок IFEval и BBH, однако этих данных недостаточно для выводов о качестве в конкретных пользовательских сценариях. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

NVIDIA Llama Nemoretriever ColEmbed 3B v1 — мультимодальная модель позднего взаимодействия для поиска документов по запросу. Она дообучена на основе мультимодальной архитектуры с SigLIP 2 Giant и Llama 3.2 3B и формирует ColBERT-подобные многовекторные представления: принимает текстовый запрос и текст или изображение страницы документа, возвращая числовые векторы для токенов. Модель предназначена для поиска по страницам с текстом, таблицами, графиками и инфографикой, в том числе в системах мультимодального RAG и кросс-модального поиска. По заявлению разработчика, модель заняла первые места на ViDoRe V1, ViDoRe V2 и MTEB VisualDocumentRetrieval в опубликованных на июнь 2025 года оценках. Для запуска указаны Transformers 4.49.0 и Flash Attention; README перечисляет TensorRT и Triton, Linux и GPU NVIDIA A100 или H100. Модель доступна только для некоммерческого и исследовательского использования. Она предназначена для извлечения релевантных документов и выдаёт эмбеддинги, а не готовые текстовые ответы; показатели качества относятся к указанным бенчмаркам.

dell-research-harvard/lt-mexicantrade4748 — модель LinkTransformer от исследователей Harvard, основанная на архитектуре BERT и дообученная на hiiamsid/sentence_similarity_spanish_es с функцией потерь SupCon. Она предназначена прежде всего для сопоставления записей: связывания сущностей, кластеризации, дедупликации и агрегирования данных. Также подходит для поиска семантически похожих предложений и абзацев. Модель преобразует текст в плотные векторы размерностью 768 и имеет максимальную длину входной последовательности 512 токенов. Среднее объединение токенных представлений используется для получения вектора предложения. Карточка описывает применение к задачам сопоставления торговых записей и работу с испаноязычной моделью-основой; метаданные указывают 137,1 млн параметров и формат safetensors. Для использования в сценариях LinkTransformer модель интегрируется с пакетом LinkTransformer; её векторные представления можно применять и в задачах sentence-transformers. Ограничение длины контекста — 512 токенов; качество на конкретных наборах данных следует оценивать отдельно. Условия лицензии в предоставленных данных не описаны.

Megrez2-3x7B-A3B-Preview — предварительная версия языковой модели от Infinigence на архитектуре Mixture-of-Experts (MoE). Модель обучена на 5 трлн токенов; в карточке указано 3×7 млрд параметров, из которых активируются 3 млрд. Метаданные каталога указывают 2,7 млрд параметров. Модель принимает текстовые запросы и генерирует текст, в том числе в диалоговом режиме; заявлена длина контекста 163 840 токенов. Модель предназначена для генерации ответов и диалогов, а также для задач рассуждения и работы с агентами; разработчик описывает её как компактную модель с MoE, сочетающую сильные стороны экспертной и плотной архитектур. Доступны веса в формате safetensors, поддерживаются Transformers, vLLM и SGLang. Для инференса рекомендуется Transformers версии 4.52.4 или новее. Модель распространяется по лицензии Apache-2.0. Это preview-релиз: разработчик сообщает, что будущая официальная версия будет обучена на большем объёме данных и получит улучшенные способности к рассуждению и агентной работе. README не приводит численные результаты бенчмарков, поэтому качество для конкретных сценариев следует оценивать отдельно.

openbmb/MiniCPM5-2B-GGUF — компактная языковая модель MiniCPM5-2B от OpenBMB, представленная в формате GGUF для локального запуска. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и работы в условиях ограниченных вычислительных ресурсов, включая развёртывание на устройствах и edge-системах. Модель ориентирована на английский и китайский языки и поддерживает сценарии программирования, математического рассуждения, понимания длинного контекста, использования инструментов и агентских задач. Разработчики заявляют конкурентоспособность с моделями класса 4B и лучшие результаты среди сопоставимых открытых моделей класса 2B в ряде перечисленных направлений. Точная максимальная длина контекста, параметры квантования GGUF и сведения о мультимодальности в представленном README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или аудио. К сильным сторонам относятся небольшой размер, пригодность для локального и on-device использования, а также заявленные возможности в коде, математике, работе с длинным контекстом и инструментами. Ограничениями являются меньшая ёмкость по сравнению с крупными языковыми моделями и отсутствие подробных количественных результатов и характеристик конкретной GGUF-сборки в предоставленных данных. Модель распространяется по лицензии Apache-2.0.

Карточка модели nvcky/MiniFABLECPM5-Thinking на Hugging Face совпадает с карточкой GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking, поэтому описание составлено по ней. MiniCPM5-1B-Claude-Opus-Fable5-Thinking — компактная языковая модель, созданная дообучением openbmb/MiniCPM5-1B на данных Fable 5. Она предназначена для локального диалога, генерации и отладки кода, выполнения инструкций, рассуждений и вызова инструментов в формате MiniCPM5. Модель использует плотную архитектуру Llama, содержит 837,6 млн параметров и принимает контекст до 131 072 токенов. Доступны веса Safetensors для Transformers; для запуска через llama.cpp, Ollama или LM Studio автор указывает отдельную GGUF-версию. Карточка заявляет улучшения в задачах кодирования и следования инструкциям по сравнению с базовой моделью. Модель поддерживает шаблон Thinking, поэтому перед итоговым ответом может выдавать блоки рассуждений, которые приложению может потребоваться убрать. Масштаб 1B ограничивает её возможности в сложных задачах общего рассуждения по сравнению с более крупными моделями. Лицензия — Apache-2.0.

mmbert-rerank-32k-2d-matryoshka — многоязычный переранжировщик на архитектуре ModernBERT, дообученный на базе llm-semantic-router/mmbert-32k-yarn. Он оценивает релевантность пары «запрос — текст» как кросс-энкодер и подходит для перестановки результатов поиска, в том числе по длинным документам. Модель содержит около 307 млн параметров, принимает до 32 768 токенов и поддерживает сокращение числа слоёв и размерности представлений для выбора компромисса между скоростью и качеством. Модель обучалась на 1 569 864 парах «запрос — фрагмент» из cfli/bge-m3-data. Карточка заявляет поддержку более 1800 языков; метаданные перечисляют английский, китайский, немецкий, французский, испанский, русский, японский, корейский, арабский и хинди. В приведённых тестах модель показывает хорошие результаты на длинных текстах и языках с малым объёмом ресурсов; на коротких документах некоторые конкуренты немного превосходят её. Лицензия — Apache-2.0. Основное ограничение — обучение преимущественно на коротких фрагментах, поэтому качество на очень длинных текстах может зависеть от расширения контекста базовой модели YaRN. Для специализированных областей может потребоваться дообучение. Сокращение числа слоёв само по себе даёт небольшой прирост скорости без механизмов раннего выхода.

cross-encoder/monoelectra-base — англоязычный кросс-энкодер для ранжирования текстов, перенесённый из webis/monoelectra-base в библиотеки Sentence Transformers и Transformers. Модель основана на ELECTRA и содержит 136,7 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для второго этапа retrieve-rerank: она оценивает пары «запрос — найденный фрагмент» и переупорядочивает результаты, полученные поисковым движком, например BM25 или моделью эмбеддингов. Также метаданные указывают поддержку классификации текста. Доступны форматы safetensors, ONNX и OpenVINO. Лицензия — Apache-2.0. README описывает перенос модели в другой интерфейс, а метаданные указывают дообучение от google/electra-base-discriminator. Модель ориентирована на английский язык; её контекст ограничен 512 токенами, поэтому длинные пары текстов требуют усечения или разбиения.

mjwong/multilingual-e5-large-xnli — многоязычная модель классификации текста, дообученная на XNLI на основе intfloat/multilingual-e5-large. Её можно использовать в zero-shot-классификации: передать текст и произвольные метки классов, после чего модель оценит соответствие текста каждой метке. Для случаев, когда к тексту подходят несколько меток, поддерживается независимая оценка каждого класса. Модель построена на архитектуре XLM-RoBERTa-large и содержит около 658,7 млн параметров. Контекст — до 514 токенов. В README приведены результаты оценки на XNLI для 15 языков, а также тесты на MultiNLI и ANLI. Модель распространяется по лицензии MIT.

mlx-community/mxbai-rerank-large-v2 — версия модели mixedbread-ai/mxbai-rerank-large-v2, преобразованная сообществом mlx-community в формат MLX для запуска на устройствах Apple Silicon. Это плотная авторегрессионная модель Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов; базовая модель предназначена для переоценки и сортировки результатов поиска по релевантности запросу. Карточка указывает библиотеку MLX и формат safetensors, а также лицензию Apache-2.0. Модель подходит для включения в конвейеры поиска и RAG, где нужно пересортировать найденные документы или фрагменты по соответствию запросу. Метаданные Hugging Face помечают её задачей text-generation и разговорной моделью, хотя базовая модель предназначена для ранжирования; README описывает конвертацию весов, но не содержит подробностей о вызове реранкера или оценках качества. Языковые теги и карточка базовой модели указывают на многоязычность, но русский язык среди перечисленных языков карточки не указан.

Это крупная англоязычная модель распознавания именованных сущностей, распространяемая вместе с библиотекой Flair. Она размечает текст четырьмя классами NER: людьми (PER), местами (LOC), организациями (ORG) и ещё одним классом, который в доступной таблице README не виден. Модель основана на документных эмбеддингах XLM-R и архитектуре FLERT, обучена на CoNLL-03; для исправленной версии CoNLL-03 указана оценка F1 94,36. Модель предназначена для извлечения имен людей, географических названий и организаций из английского текста, например для индексирования документов и подготовки данных для последующего анализа. Используется через Flair SequenceTagger. В метаданных указана лицензия other, поэтому конкретные условия использования следует проверять в материалах репозитория.

Карточка модели PS4Research/NfEJUrTPxT77xQ8f на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

OpenSeeker-v1-30B-SFT — диалоговая модель-агент для поиска и глубокого исследования в интернете, разработанная командой OpenSeeker. Авторы дообучили Qwen3-30B-A3B-Thinking-2507 на 11,7 тыс. примеров и открыли обучающие данные. Модель предназначена для сценариев, где нужно искать информацию и решать сложные поисковые задачи; в метаданных указаны интерфейс вызова инструментов и архитектура MoE семейства Qwen3. Модель использует 2,6 млрд параметров и поддерживает контекст до 262 144 токенов. В карточке заявлены результаты на BrowseComp-ZH, BrowseComp, xbench-DeepSearch и WideSearch, включая сравнение с Tongyi DeepResearch. Указанные результаты относятся к бенчмаркам и сами по себе не гарантируют аналогичного качества в реальных сценариях. Лицензия — MIT.

OpenThinker2-7B — языковая модель с открытыми весами, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts2-1M и содержит 7,1 млрд параметров. Модель построена на архитектуре Qwen2 и доступна в формате Safetensors; контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов с акцентом на рассуждения, в частности при решении математических задач и задач на программирование. В README приведены результаты оценивания на математических и научных бенчмарках, а также LiveCodeBench; модель позиционируется как конкурентоспособная среди открытых моделей класса 7B. Она может быть полезна для обучения, экспериментов и создания приложений, которым нужны ответы с рассуждениями. Модель использует интерфейс чата и поддерживает интерфейс вызова инструментов. Данные не подтверждают отдельную языковую специализацию, поэтому язык применения следует выбирать с учётом возможностей базовой Qwen2.5-7B-Instruct. Лицензия — Apache 2.0.

AtomicChat/Ornith-9B-GGUF — это квантизированная в формат GGUF версия языковой модели Ornith 1.0 9B, разработанной DeepReinforce и самостоятельно квантизированной командой Atomic Chat на основе оригинальных весов. Модель предназначена для локальной и полностью офлайн-работы, включая генерацию текста, диалоговые сценарии и задачи программирования. Она распространяется в нескольких вариантах квантизации, подходящих для запуска через llama.cpp, Ollama, LM Studio, Jan и Atomic Chat. Модель имеет плотную decoder-архитектуру с 32 слоями, 16 attention heads и 4 KV heads; в README также указана реализация Qwen3_5ForConditionalGeneration. Заявленная длина контекста — до 262 144 токенов, размер словаря — 248 320 токенов. Базовая модель поддерживает текст и изображения, однако данный репозиторий содержит только текстовые GGUF-версии без vision projector. Доступны варианты IQ4_XS, Q4_K_M, UD-Q4_K_XL, Q5_K_M, Q6_K и Q8_0; применение importance matrix должно снижать потери качества при низкой разрядности. Сильными сторонами являются большой контекст, офлайн-запуск, широкий выбор размеров файлов и ориентация исходной модели на coding agents и самоулучшающееся обучение с использованием reinforcement learning. Заявленные benchmark-результаты относятся к базовой модели DeepReinforce, а не к независимым измерениям этого репозитория; качество квантизированных версий может отличаться. Для корректного диалога требуется применять chat template Ornith 1.0 через параметр --jinja. Модель распространяется по лицензии MIT.

google/pix2struct-base — предварительно обученная модель Pix2Struct, разработанная Google и представленная в экосистеме Hugging Face. Это архитектура «визуальный энкодер — текстовый декодер», обученная преобразовывать изображения в текст; веса предназначены для дообучения под конкретные задачи. Модель рассчитана на визуальное понимание содержимого изображений, включая подписи к изображениям и ответы на вопросы по ним. Предобучение нацелено на разбор замаскированных снимков веб-страниц в упрощённый HTML; подход охватывает сигналы, связанные с OCR и описанием изображений. Вход может иметь переменное разрешение, а языковые подсказки и вопросы могут быть представлены на изображении. Карточка перечисляет документы, иллюстрации, пользовательские интерфейсы и обычные фотографии как области последующего применения. Модель не заявлена как готовая универсальная система: для прикладного сценария требуется дообучение. Репозиторий распространяется по лицензии Apache-2.0.

Карточка модели JaehyeokLee/preliminary_efficient_batching_random_gist_checkpoint_epoch_1_step_20 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

QRWKV6-32B-Instruct-Preview-v0.1 — диалоговая языковая модель Recursal.AI, созданная преобразованием Qwen2.5-32B-Instruct в вариант архитектуры RWKV-6 без обучения с нуля. Модель имеет 32 млрд параметров; в метаданных заявлен контекст 131 072 токена, тогда как README сообщает, что обучение проводилось до 16 тыс. токенов и для стабильной работы на большей длине может потребоваться дополнительное обучение. Модель предназначена для генерации текста и диалогов, включая ответы на вопросы и интерфейс вызова инструментов. Разработчики приводят результаты ряда языковых и рассуждательных бенчмарков и описывают линейное внимание RWKV как способ снизить стоимость вывода на длинных контекстах. Наследуемые знания и языковой охват зависят от Qwen; README оценивает поддержку примерно в 30 языков. Для модели требуется отдельный код инференса. Распространяется в формате safetensors по лицензии Apache-2.0.

mlx-community/Qwen2.5-72B-Instruct-8bit — 8-битная версия модели Qwen2.5-72B-Instruct, подготовленная сообществом mlx-community из Qwen/Qwen2.5-72B-Instruct для формата MLX с помощью mlx-lm 0.18.1. Это плотная языковая модель на 71,5 млрд параметров с архитектурой Qwen2 и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и интерфейса вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В метаданных указан английский язык; иных языков карточка не подтверждает. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория.

Qwen3-235B-A22B-abliterated — доработанная методом ablation модель Qwen3 от null-space на базе Qwen/Qwen3-235B-A22B. Из весов удалено доминирующее направление отказа, из-за чего модель значительно реже отклоняет запросы, сохраняя основные возможности исходной модели. Это разреженная MoE-модель для генерации диалогового текста, рассуждений, программирования, перевода и работы с инструментами; поддерживает режимы /think и /no_think. Архитектура — Qwen3MoeForCausalLM, формат весов — BF16, контекст — до 40 960 токенов. Метаданные указывают 18,2 млрд параметров, тогда как README описывает базовую модель как 235-миллиардную MoE-модель. Модель подходит для творческого письма, диалогов и исследований поведения отказов в языковых моделях, включая red-teaming и оценку безопасности. В приведённой оценке MMLU для FP8-варианта результат составил 86,2% против опубликованных 87,8% у базовой модели; это сравнение не является полной независимой оценкой всех возможностей. Удаление отказов означает, что модель может отвечать на запросы, которые исходная модель отклоняла, поэтому её ответы требуют соответствующего контроля. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B Uncensored Heretic MLX 4bit — мультимодальная конверсия модели Qwen3.6, подготовленная froggeric на базе uncensored-варианта от llmfan46. Исходная модель разработана Alibaba Cloud. Версия предназначена для локального запуска на Apple Silicon через MLX и поддерживает работу с текстом, изображениями и видео, рассуждения, диалоги и вызов инструментов. Заявлены английский, китайский и другие языки. Модель использует гибридную архитектуру с линейными блоками внимания DeltaNet-типа и традиционным softmax-вниманием в соотношении 3:1. Веса представлены в 4-битной квантизации. Для модели исправлены параметры vision tower, а также шаблон чата: добавлена совместимость с ролями developer и инструментами, переключение режима рассуждений и обработка проблемных тегов. Указано, что архитектурно-ориентированное uncensoring с помощью Heretic и MPOA снизило частоту отказов при незначительной потере возможностей, однако конкретные результаты могут зависеть от задачи и не заменяют самостоятельное тестирование. Модель подходит для локальных чат-ассистентов, программирования, анализа изображений и мультимодальных сценариев, включая приложения с вызовом инструментов. Для работы рекомендуются mlx-lm версии 0.31.2 или выше и mlx-vlm версии 0.4.4 или выше. В README не указаны размер контекста и требования к объёму памяти. Лицензия — Apache-2.0; из-за uncensored-настройки модель может слабее применять стандартные ограничения безопасности, поэтому ответственность за фильтрацию и применение результатов лежит на пользователе.

Карточка модели bzannah/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 на Hugging Face совпадает с карточкой lactroiii/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16, поэтому описание составлено по ней. Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16 — дообученная методом abliteration версия мультимодальной модели Qwen3.8-27B от Alibaba, опубликованная lactroiii. Это плотная модель на 27 млрд параметров в формате BF16 на базе архитектуры Qwen3.5; она принимает текст и изображения и генерирует текст. В README описана проверка на NVIDIA H200 через vLLM, включая работу с изображениями, режим рассуждений и вызов инструментов. Для обслуживания автор проверял контекст 16 384 токена и указывает, что базовое окно модели достигает 262 144 токенов. Модель предназначена для диалогов и инструкций, рассуждений, программирования, анализа изображений, вызова инструментов, творческого письма и исследований безопасности и выравнивания. Abliteration уменьшает склонность модели отказывать и делает ответы более прямыми; автор сообщает о сохранении связности ответов, но это не является независимой оценкой качества. Модель может выдавать опасный, незаконный или откровенный контент и не должна использоваться в сценариях высокого риска без внешних мер безопасности. Лицензия — Apache-2.0.

Mirai’s Qwen3.8-27B Medium Quantization — это 4-битная квантованная версия модели Qwen3.8-27B, подготовленная Mirai Labs для эффективного локального запуска на устройствах Apple с Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования, включая агентские задачи, диалоги и работу с длинным контекстом; подробности об исходной архитектуре, языках и размере контекста в представленном описании не указаны. Модель использует асимметричную целочисленную 4-битную квантизацию с 4-битными zero points, масштабами bfloat16 и размером группы 64. Для уменьшения выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. Квантование выполнено после обучения и дополнено quantization-aware distillation. По сочетанию размера и KL-дивергенции разработчики относят чекпойнт к Pareto-фронту; по уровню квантизации и размеру он сопоставим с Unsloth UD-Q4_K_M. Сильная сторона модели — компромисс между качеством и эффективностью при локальном инференсе на Apple silicon. Основные ограничения заключаются в текущей поддержке только Apple silicon и необходимости использовать совместимое программное обеспечение, например пакет mirai или сборку uzu. Лицензия — Apache-2.0. Для архитектурных характеристик, языков, контекстного окна, оценок и ограничений следует обращаться к карточке исходной модели Qwen3.8-27B.

Chungulus/Qwen3.8-27B-Q3_K_S-GGUF — независимая ванильная квантизация модели Qwen/Qwen3.8-27B, опубликованная Chungulus. Модель предназначена для локального запуска задач генерации текста, вызова инструментов, анализа изображений и видео. Это vision-language модель с поддержкой мультимодального ввода; для работы с изображениями используется отдельный vision projector mmproj-Qwen3.8-27B-F16.gguf. Поддерживаются нативный формат вызова инструментов Qwen и управление режимами рассуждений через enable_thinking, reasoning_effort и preserve_thinking. Основной файл имеет размер около 12,257 ГБ, полный репозиторий — около 13,197 ГБ. Используется квантизация Q3_K_S на базе llama.cpp K/IQ quantization без дополнительного обучения, слияния или изменения шаблона чата. Сохранена гибридная структура Hybrid Gated DeltaNet/full-attention, а также MTP-тензоры и метаданные, однако спекулятивное ускорение не заявлено. Текстовая генерация, вызов инструментов, обработка изображений и видео прошли проверки; на валидационном хосте зафиксирована скорость около 17,35 токена в секунду. Для запуска требуется совместимый runtime, поддерживающий граф Qwen3.8, vision tower/projector, токенизатор и MTP-метаданные; рекомендуется иметь не менее примерно 17 ГБ доступной памяти, при этом KV-кэш увеличивает потребление в зависимости от контекста. Низкая разрядность квантизации может снижать качество. Максимальный контекст в README не указан и полноценно не тестировался. Модель и квантизация распространяются по лицензии Apache-2.0.

Chungulus/Qwen3.8-27B-Q4_K_M-GGUF — это неизменённая vanilla-квантизация базовой модели Qwen/Qwen3.8-27B в формате GGUF. Репозиторий подготовлен Chungulus и содержит основной файл модели с квантизацией Q4_K_M, а также отдельный vision projector в формате F16. Это не дообученная, не объединённая и не изменённая с точки зрения шаблона чата модель. Модель предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов через нативный формат Qwen. Сохранены механизмы управления рассуждениями, включая enable_thinking, reasoning_effort и preserve_thinking. Архитектура включает гибридную структуру Gated DeltaNet и полноразмерного внимания, зрительную башню и проектор; заявленный размер базовой модели — 27 млрд параметров. Поддерживаемые языки и максимальная длина контекста в README не указаны. Преимущества модели — подтверждённая работоспособность генерации текста, vision- и video-сценариев, tool calling и совместимость с llama.cpp при наличии соответствующей поддержки архитектуры. Квантизация уменьшает требования к памяти, однако может снижать качество, особенно по сравнению с полной точностью. Для запуска рекомендуется иметь примерно 21 ГБ доступной памяти, причём KV-кэш дополнительно увеличивает расход памяти в зависимости от контекста. Максимальный контекст README не подтверждает тестированием. Модель и её квантизация распространяются по лицензии Apache-2.0.

Chungulus/Qwen3.8-27B-Q8_0-GGUF — это независимая, неизменённая квантизация Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для генерации текста, работы с изображениями и видео, а также вызова инструментов в нативном формате Qwen. Это не дообученная модель, не объединение моделей и не модификация шаблона чата. Модель содержит около 27 миллиардов параметров и использует квантизацию Q8_0 с 8-битным представлением весов. Архитектура сочетает Hybrid Gated DeltaNet и полноценное внимание; в составе также есть vision tower, проектор для мультимодального ввода и сохранённые MTP-тензоры. Для работы с изображениями требуется отдельный файл vision projector. Поддерживаются режимы управления рассуждением через enable_thinking, reasoning_effort и preserve_thinking. Сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. К сильным сторонам относятся сохранение исходной архитектуры и шаблона чата, проверенная генерация текста, вызов инструментов, обработка изображений и видео, а также отсутствие дополнительной потери качества от тонкой настройки или слияния моделей. Для запуска требуется совместимый runtime с поддержкой гибридного графа Qwen3.8, vision-компонентов, токенизатора и MTP-метаданных. Основные ограничения — возможное снижение качества из-за квантизации, высокая потребность в памяти: рекомендуется иметь не менее примерно 33 ГБ с учётом модели, проектора и служебных расходов, а память под KV-кэш дополнительно растёт вместе с контекстом. Максимальный контекст не был проверен в рамках описанной валидации. Родительская модель и данная ванильная квантизация распространяются по лицензии Apache-2.0.