I.14Автоматизация процессов и AI-агенты

Карточка модели Sing0402/legal-embed-gte-distilled на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

LettuceDetect от KRLabsOrg — англоязычная модель для выявления галлюцинаций в ответах, сформированных по контексту, например в системах RAG. Она дообучена для классификации токенов на базе answerdotai/ModernBERT-base и возвращает оценки для отдельных токенов ответа, которые можно объединить в фрагменты, не подтверждённые контекстом. В карточке указана поддержка контекста до 8192 токенов и обучение на датасете RagTruth; метаданные указывают архитектуру ModernBertForTokenClassification и 149 млн параметров. Модель принимает контекст и ответ и выдаёт разметку токенов. Модель подходит для проверки обоснованности ответов в RAG и подсветки неподтверждённых фрагментов. В README приведены результаты на RagTruth, но без числовых показателей для этой версии. Распространяется по лицензии MIT.

LFM2.5-230M Propella — компактная языковая модель примерно на 221,2 млн параметров, разработанная для генерации структурированных JSON-аннотаций и извлечения метаданных из англоязычного текста. Это дообучение LiquidAI/LFM2.5-230M на наборе agentlans/c4-en-propella; аннотации для обучающих данных были подготовлены с помощью ellamind/propella-1-0.6b. Модель использует плотную архитектуру LFM2 и поддерживает контекст до 128 000 токенов. Модель подходит для классификации и разметки текста, когда результат нужно получить в структурированном JSON-формате. Она рассчитана на быстрый запуск и небольшие ресурсы; доступна через Transformers, а формат весов в репозитории — safetensors. Лицензия — LFM Open License v1.0, унаследованная от базовой модели. Небольшой размер повышает эффективность, но качество аннотаций может уступать модели-учителю ellamind/propella-1-0.6b. Формат JSON иногда может быть некорректным, поэтому результаты рекомендуется проверять парсером; модель обучена исключительно на английском тексте, и её качество на других языках не гарантируется.

Это 4-битная квантизированная версия mxfp4 модели LFM2.5-Embedding-350M, подготовленная Sahil Chachra для запуска на Apple Silicon через MLX. Модель представляет собой плотный двунаправленный биэнкодер семейства LFM2.5 с вектором CLS размерности 1024; она кодирует запросы и документы для мультиязычного поиска. Для входов требуются префиксы «query: » и «document: », а сходство векторов можно оценивать косинусной мерой. Модель подходит для семантического и межъязыкового поиска по документам и для построения retrieval-компонента систем RAG. README сообщает о размере весов 188 МБ и скорости кодирования 13 936 токенов/с на устройстве серии M; приведённый бенчмарк охватывает только ограниченную англоязычную выборку NanoBEIR. Метаданные указывают 444,6 млн параметров и контекст 128 000 токенов. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой базовой модели и репозитория.

Llama3.1-8B-Chinese-Chat — языковая модель для генерации текста и диалогового взаимодействия на китайском и английском языках, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Модель дообучена на основе Meta-Llama-3.1-8B-Instruct с применением метода оптимизации предпочтений ORPO и фреймворка LLaMA-Factory. Обучение проводилось на более чем 100 тысячах пар предпочтений с полным обновлением параметров. Модель предназначена для чат-сценариев, ролевого общения, использования инструментов и function calling, а также решения математических задач. Она имеет 8,03 млрд параметров; заявленная длина контекста составляет 128K токенов, однако для китайской версии эта характеристика не тестировалась разработчиками. Длина контекста, использованная при дообучении, составляла 8192 токена. Доступны версии BF16 и GGUF с квантованиями q4_k_m и q8_0, а также в формате f16. К сильным сторонам относятся ориентация на китайско-английских пользователей, улучшенные возможности ролевого общения, работы с инструментами и математики, а также поддержка запуска через Transformers и llama.cpp. Ограничения включают неподтверждённую практическими тестами длину контекста 128K и возможную нестабильность ответов на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1 License.

Llama-3.2-1B-Instruct-GGUF — квантизированная GGUF-версия 1B-инструкционной модели семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention (GQA). Модель работает в текстовом формате и предназначена для диалоговых сценариев, включая агентский поиск с извлечением данных и суммаризацию. Доступны варианты с разной точностью квантования: 16, 8, 6, 5, 4, 3 и 2 бита, что позволяет выбирать компромисс между качеством, размером и требованиями к памяти. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; модель также обучалась на более широком наборе языков, но качество для них может различаться. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. Ограничения включают меньший размер по сравнению с более крупными моделями семейства, возможное снижение качества при сильном квантовании и отсутствие гарантии высокого качества для языков, не входящих в официальный список. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta.

tjake/Llama-3.2-1B-Instruct-JQ4 — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta. Она предназначена для диалогов в формате помощника и агентных сценариев, включая поиск знаний, суммаризацию, помощь при написании текстов и переформулирование запросов. Модель использует авторегрессионную архитектуру Transformer с 1,2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В README указано, что модель прошла supervised fine-tuning и обучение с обратной связью от людей; репозиторий содержит веса в формате safetensors. Указанная лицензия — Llama 3.2 Community License, специальное лицензионное соглашение, допускающее коммерческое и исследовательское использование при соблюдении его условий и Acceptable Use Policy. Компактный размер рассчитан, в частности, на запуск в ограниченных средах, включая мобильные устройства. По сравнению с более крупными моделями у неё могут быть слабее качество ответов и профиль безопасности; разработчикам следует проверять пригодность и защитные меры для своего сценария. Модель статична и обучена на данных с отсечкой знаний в декабре 2023 года.

Shenzhi Wang и соавторы разработали Llama3-8B-Chinese-Chat — диалоговую модель на базе Meta-Llama-3-8B-Instruct, дообученную методом ORPO для китайско- и англоязычных пользователей. Этот репозиторий содержит веса GGUF в формате F16; модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, включая ролевые сценарии, использование инструментов и решение математических задач. По сравнению с базовой моделью авторы отмечают меньше случаев, когда на китайский запрос следует английский ответ, и меньше смешения китайского и английского в китайских ответах. В README описана версия v2.1 с улучшениями в ролевых диалогах, вызове функций и математике. Известное ограничение: модель не дообучали на сохранение своей идентичности, поэтому ответы о том, кто она и кем создана, могут быть случайными. Для использования действуют условия лицензии Llama 3.

Llama-3-Taiwan-8B-Instruct — диалоговая языковая модель на архитектуре Llama 3, опубликованная yentinglin и дообученная для пользователей традиционного китайского языка и английского. Карточка описывает семейство Llama-3-Taiwan и приводит сведения о версии на 70B параметров, тогда как метаданные этого репозитория указывают 7,5 млрд параметров; поэтому характеристики размера и примеры оценки версии 70B нельзя напрямую переносить на вариант 8B. Модель предназначена для многоходового диалога, генерации и понимания текста, ответов в сценариях RAG, форматированного вывода, извлечения сущностей и вызова функций. В карточке описано обучение на корпусе традиционного китайского и английского языков с общими и отраслевыми материалами, в том числе из юридической, производственной, медицинской и электронной областей. Модель принимает текст и генерирует текст; метаданные указывают контекст 8192 токена, архитектуру LlamaForCausalLM и формат safetensors. Модель выпущена по лицензии Llama 3. Её заявленная специализация — традиционный китайский, включая тайваньский вариант, и английский. README относится преимущественно к версии 70B, поэтому приведённые там результаты испытаний, подробности корпуса и демонстрации не подтверждают качество именно версии 8B. Для работы с этой инструкционной версией в карточке рекомендовано задавать системное сообщение.

LongCat-Flash-Lite-Sparse-Uncensored-Heretic-Native-MTP-And-LSA-Preserved — дообученная версия LongCat-Flash-Lite-Sparse от независимого автора llmfan46. Это разговорная причинная языковая модель для генерации текста с архитектурой LongCat Flash Sparse и 4,6 млрд параметров. По метаданным, модель принимает контекст до 983 040 токенов; исходное семейство использует разреженное внимание LongCat Sparse Attention для эффективной работы с длинным контекстом. Модель изменена методом abliteration, чтобы снизить частоту отказов: в приведённом README сравнительном тесте отказов стало 9 из 100 против 99 из 100 у исходной модели. Она предназначена для диалогов, генерации текста и сценариев с длинными входными данными; README также ссылается на отдельную GGUF-версию. Заявленная лицензия — MIT. README предупреждает, что модель не оценивалась всесторонне для всех прикладных задач.

LRAT Qwen3-Embedding-0.6B Retriever-Observable Utility V2 — текстовая модель эмбеддингов для поиска документов по веб-запросу. Она разработана на базе Qwen3-Embedding-0.6B и дообучена с использованием траекторий LRAT: пары «запрос — документ» взвешивались по оценке самостоятельной полезности документа для поиска. Модель использует архитектуру Qwen3 с плотными весами, содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Для обучения применялись pooling последнего токена и нормализация эмбеддингов; обучающие запросы и passages ограничивались 512 токенами. Модель предназначена для получения представлений запросов и passages, которые можно применять для ранжирования кандидатов и семантического поиска релевантных документов. Обучение проводилось на датасете Yuqi-Zhou/LRAT-Train в течение двух эпох с weighted InfoNCE и девятью отрицательными примерами на положительный. Данные не подтверждают поддержку конкретных естественных языков, поэтому языковую специализацию не следует предполагать. Модель распространяется по лицензии Apache-2.0.

Модель Hjgugugjhuhjggg/mergekit-passthrough-owrmdht — объединение языковой модели meta-llama/Llama-3.2-1B-Instruct, созданное методом passthrough с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия, включая сценарии с интерфейсом вызова инструментов. Модель принимает текст и генерирует текст. Указанная длина контекста — 131 072 токена. Базовая модель Meta описана как компактная многоязычная модель, настроенная на выполнение инструкций и предназначенная для диалогов, поиска сведений, суммаризации и помощи в написании текста. Модель опубликована в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

MiniCPM5-2B-CoreAI — это конверсия модели openbmb/MiniCPM5-2B, разработанной OpenBMB, в формат Apple Core AI (.aimodel) для локального запуска на устройствах Apple. Модель предназначена для генерации текста, диалоговых приложений, суммаризации, работы с агентами и вызова инструментов полностью на устройстве, включая iPhone и Mac на Apple Silicon, без обязательной передачи данных в облако. Модель относится к классу 2B и поддерживает гибридные режимы рассуждения Think и No-Think, нативный вызов инструментов и контекст до 128K токенов. В README указаны варианты квантования для разных сценариев: int8 с block-32 и 6-битная k-means-палетизация с group 8 для Neural Engine. Для iPhone 17 Pro заявлена скорость декодирования около 38,5 токена в секунду в ANE-варианте, однако первая загрузка может занимать около 23 минут из-за построения программ Neural Engine, а размер модели составляет примерно 2,7 ГБ. Сильными сторонами модели являются небольшой размер, работа полностью на устройстве, поддержка длинного контекста, инструментов и режимов рассуждения, а также оптимизация под GPU и Neural Engine Apple. Ограничения включают значительные требования к памяти, длительную первоначальную компиляцию на iPhone и возможные расхождения квантованных вариантов с исходной моделью. Модель распространяется по лицензии Apache-2.0.

MPropositionneur-V2 — компактная языковая модель, разработанная Люком Поммере в LISN при CNRS. Она основана на Qwen3-0.6B и дообучена методом дистилляции для разложения сложных предложений и фрагментов текста на простые, независимые атомарные утверждения. Модель генерирует список утверждений в формате JSON. Модель предназначена для подготовки атомарных фактов для индексации в RAG-системах, извлечения информации в стиле OpenIE, упрощения текста и анализа дискурса. Карточка заявляет поддержку нескольких языков, в частности французского и английского; метаданные также перечисляют испанский, португальский, итальянский и немецкий. Контекст — до 40 960 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Специализация модели помогает получать более гранулярные утверждения для последующей обработки. Результаты могут терять контекст или искажать исходный смысл, поэтому атомарные утверждения стоит проверять перед использованием в критичных сценариях; отдельные оценки качества в карточке не приведены.

MS-Nudion-22B — слитая модель для генерации текста на базе архитектуры Mistral, созданная с помощью mergekit методом SLERP из knifeayumu/Cydonia-v1.3-Magnum-v4-22B и SteelSkull/MSM-MS-Cydrion-22B. Модель содержит 22 млрд параметров, использует формат safetensors и поддерживает контекст до 131072 токенов. Модель предназначена для диалогов и генерации связного текста; каталог также отмечает интерфейс вызова инструментов. В конфигурации слияния указан профиль смешивания, ориентированный на поведение Hermes на входе и выходе и WizardMath в средних слоях. Карточка не описывает отдельные гарантии качества или целевые предметные области. Лицензия в предоставленных данных не указана. Для использования следует учитывать, что это объединение двух моделей; ограничения и условия могут зависеть от их лицензий и свойств.

Nemotron-3.5-Lightning-Omni-30B-A3B-GGUF — мультимодальная версия NVIDIA Nemotron 3.5 Lightning, подготовленная engram-ae в формате GGUF для llama.cpp. Модель объединяет текстовую агентную основу NVIDIA Nemotron 3.5 Lightning 30B-A3B с 3B активных параметров, гибридной архитектурой Mamba-2, MoE и attention, а также контекстом до 1 млн токенов. Обучение для добавления модальностей не проводилось: использованы vision tower C-RADIO ViT-H и audio tower Parakeet FastConformer-XL из Nemotron-3-Nano-Omni, подключённые через единый мультимодальный проектор. Модель предназначена для работы с текстом, изображениями, аудио и видео, включая однопроходный анализ видео вместе с аудиодорожкой. Для видео применяются обработка кадров C-RADIO, временные патчи из двух кадров и прореживание токенов EVS. Доступны различные квантизации GGUF размером примерно от 18,7 до 35 ГБ; проектор занимает около 3 ГБ и используется со всеми вариантами. Поддерживаются сценарии локального запуска от Jetson до серверных систем и API-совместимый endpoint llama.cpp. Сильными сторонами являются широкий набор модальностей, большой контекст, агентная текстовая основа и возможность локального инференса. Видео для Nemotron требует специализированной ветки llama.cpp-omni; стандартная upstream-версия поддерживает текст, изображения и аудио, но не этот видеопуть. При совместном анализе видео и звука рекомендуется явно просить модель описать визуальную часть и транскрибировать речь, поскольку нейтральный запрос может привести к доминированию аудиоканала. Лицензия указана как openmdw-1.1.

OpenSonnet-Lite-MAX — дообученная языковая модель hadadxyz на архитектуре Qwen3, основанная на Qwen/Qwen3-4B-Thinking-2507. Она предназначена для диалоговой генерации текста, следования инструкциям и решения задач с рассуждением; в карточке также показана демонстрация вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Указаны многоэтапное дообучение в два прохода и оценка 85,22 на GSM8K; результатов для MMLU-Pro и GPQA Diamond карточка не приводит. Модель распространяется в формате safetensors через Transformers по лицензии Apache 2.0. Языки обучения или поддерживаемые естественные языки в предоставленных данных не обозначены. Результаты бенчмарка и заявленные возможности основаны на карточке модели и сами по себе не гарантируют аналогичное качество на других задачах.

PEARL-small — компактная модель эмбеддингов строк и фраз, разработанная Lihu Chen, Gaël Varoquaux и Fabian M. Suchanek. Работа принята на EACL Findings 2024. Модель представляет собой дообученную версию E5-small на контекстно-независимом наборе данных, созданном авторами. В основе — архитектура BERT; размер составляет около 40 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для получения векторных представлений коротких строк и сравнения их семантической близости. Она учитывает тип фразы и морфологические признаки, чтобы лучше сопоставлять варианты написания и формулировок. Основные сценарии — строковое сопоставление, поиск сущностей, кластеризация сущностей и нечёткое соединение записей. В README приведены примеры сравнения названий, а также результаты бенчмарков и сравнение ресурсов с FastText. Модель принимает текст и выдаёт эмбеддинги; метаданные указывают английский язык. Репозиторий распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Данные источников не описывают ограничения качества за пределами приведённых бенчмарков и длины контекста.

Phi-4-MedIT-10B-o1 — языковая модель для генерации текста и решения задач, требующих рассуждений. По карточке, модель создана на основе Phi-4: её сократили с 14 млрд до примерно 10 млрд параметров методом прореживания MKA2G и дообучили за одну эпоху на данных для рассуждений. В метаданных указаны плотная архитектура семейства Llama, реализация LlamaForCausalLM и контекст до 16 384 токенов. Модель предназначена для диалогового применения, задач на рассуждения и интеграции с ReasonFlow. Основной язык обучения — английский; карточка предупреждает о снижении качества на других языках. Репозиторий содержит веса в форматах Safetensors и GGUF, а лицензия — MIT. Ответы могут быть неточными или выдуманными, а также содержать предвзятость или нежелательный контент; для чувствительных сценариев нужна дополнительная проверка.

pii-identifier-v0.1 — англоязычная модель для обнаружения и классификации персональных данных в тексте. Разработчик дообучил answerdotai/ModernBERT-base на синтетическом наборе nvidia/Nemotron-PII. Это encoder-модель ModernBERT с архитектурой ModernBertForTokenClassification и примерно 149 млн параметров; она размечает фрагменты текста по 55 типам сущностей с BIO-тегами. Максимальная длина последовательности — 8192 токена. Модель предназначена для выявления персональных данных в конвейерах редактирования и обезличивания текста, проверки данных перед передачей в LLM и инструментов управления данными. В заявленной оценке на тесте PIIMB для Nemotron-PII она набрала F2 0,970; точность обнаружения при этом зависит от типа сущности. Особенно слабые результаты отмечены для профессий, уникальных идентификаторов, групп крови и времени. Модель обучалась только на синтетических англоязычных данных, поэтому качество на реальных, шумных, распознанных OCR или специализированных текстах может отличаться, а для других языков не подтверждено. Результаты не гарантируют полного обнаружения PII: для ответственных сценариев карточка рекомендует сочетать модель с правилами и проверкой человеком. Лицензия — Apache-2.0.

PP-OCRv5_mobile_rec_safetensors — мобильная модель распознавания текстовых строк из изображений, разработанная командой PaddleOCR и представленная в формате safetensors. Она предназначена для эффективного распознавания печатного и рукописного текста, включая сложные случаи: вертикальный и искажённый текст, пиньинь, редкие символы и художественные надписи. Модель поддерживает упрощённый и традиционный китайский, английский и японский языки. В README приведены метрики для нескольких типов текста; среднее значение составляет 0,8015 по метрике, где строка считается ошибочной при неверном распознавании хотя бы одного символа. Модель ориентирована на распознавание отдельных строк, поэтому для обработки целых страниц требуется предварительное обнаружение и выделение строк. Лицензия — Apache 2.0.

CultriX/Qwen2.5-14B-Wernickev3 — языковая модель для генерации текста, созданная CultriX путём слияния нескольких предварительно обученных моделей с помощью mergekit. В качестве базовой модели использована Qwen/Qwen2.5-14B; также в слияние вошли QwenSlerp6-14B, QwenStock3-14B, SeQwence-14B-EvolMerge, Qwen2.5-14B-Wernicke и SauerkrautLM-v2-14b-DPO. Применён метод DARE TIES. Модель основана на плотной архитектуре Qwen2 и содержит 14 млрд параметров. Она работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Подходит для диалоговой генерации и других задач продолжения текста; метаданные также отмечают интерфейс вызова инструментов. Модель использует лицензию Qwen/Qwen2.5-14B — Apache-2.0. Слияние объединяет свойства исходных моделей, но README не приводит отдельных оценок качества или сведений о специализации; качество для конкретных задач следует проверять самостоятельно.

Downtown-Case/Qwen2.5-32B-EVA-Instruct-Merge-0.1 — объединённая языковая модель на базе Qwen2.5-32B, созданная методом della с помощью mergekit. В объединение вошли EVA-Qwen2.5-32B версий 0.0 и 0.1, а также Qwen2.5-32B-Instruct; в качестве базовой модели при слиянии использовалась Qwen2.5-32B. Модель предназначена для генерации текста и диалогового взаимодействия. Она имеет плотную архитектуру Qwen2ForCausalLM, содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка указывает интерфейс для вызова инструментов. Карточка не описывает отдельную специализацию или проверенные преимущества слияния; качество ответов и работы с инструментами следует оценивать на целевых сценариях. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

llmfan46/Qwen3.5-35B-A3B-ultra-uncensored-heretic — мультимодальная разговорная модель, созданная независимым автором на основе Qwen3.5-35B-A3B от Alibaba. Это дообученная версия с методом abliteration: по приведённому в карточке тесту она реже отказывает в ответах, при этом сохраняет близость к поведению исходной модели по метрике KL divergence. Модель принимает текст и изображения и формирует текстовые ответы; её можно использовать для диалога, анализа изображений, рассуждений и сценариев с вызовом инструментов. В основе лежит архитектура Qwen3.5 MoE с 35 млрд параметров всего и примерно 3 млрд активных параметров. Исходная модель поддерживает контекст до 262 144 токенов с возможностью расширения; карточка производной модели отдельно не подтверждает изменения этого предела. README указывает поддержку 201 языка и диалекта для семейства Qwen3.5, но не уточняет, насколько полно она сохранена в этой версии. Формат весов — Safetensors; заявлена совместимость с Transformers и рядом движков инференса. Лицензия — Apache-2.0.

Это GGUF-версия модели insraq/Qwen3.5-4B-EmperoAI-Qwen3.8-Distill-Heretic-Abliterated-MTP-GGUF, созданная на базе Qwen/Qwen3.5-4B. Модель разработана Empero и insraq: исходная Qwen3.8-4B представляет собой полноразмерную дистилляцию модели Qwen3.8 2.4T A95B в архитектуру Qwen3.5-4B, а данная версия дополнительно декензурирована с использованием Heretic v1.4.0 и объединена с MTP-drafter из unsloth/Qwen3.5-4B-MTP-GGUF. Это причинная языковая модель для генерации текста, рассуждений, следования инструкциям и нативного function calling; заявлена поддержка английского языка. Модель содержит около 4 млрд параметров и обучалась методом SFT на примерно 45 000 отфильтрованных трасс рассуждений учителя. Она поддерживает контекст до 262 144 токенов, а исходная архитектура относится к текстовому пути vision-language базы Qwen3.5. К сильным сторонам относятся компактный размер, пригодность для запуска на потребительском оборудовании, улучшенные по сравнению с базовой моделью результаты на MMLU и сниженное число отказов: 6 из 100 против 99 из 100 у исходной Qwen3.8-4B. При этом на GSM8K модель уступает базовой версии Qwen3.5-4B, а декензурирование может снижать встроенные защитные ограничения. Для работы требуется совместимый runtime с поддержкой архитектуры Qwen3.5; лицензия — Apache-2.0.

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic. После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling. Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP — мультимодальная модель с 27 млрд параметров на архитектуре Qwen3.5, дообученная DavidAU совместно с участниками проекта на базе Qwen/Qwen3.6-27B. Она предназначена для диалогов общего назначения, следования инструкциям, решения задач, рассуждений, программирования и работы с изображениями. В карточке также заявлены возможности творческого письма и ролевого общения. Модель принимает текст и изображения и генерирует текст; в метаданных отмечены интерфейс вызова инструментов и поддержка зрения. Обучение включало несколько этапов дообучения и слияния, а также данные для рассуждений и письма. Указаны английский и китайский языки. Репозиторий использует Transformers и формат safetensors; лицензия — Apache 2.0. Автор сообщает об улучшениях следования инструкциям и рассуждений, однако приведённые сравнительные результаты являются заявлениями карточки и не гарантируют качество на конкретных задачах. Упомянуты также варианты GGUF-квантования с отдельными рекомендациями по настройкам MTP, но в текущих метаданных форматом репозитория указан safetensors.

Chungulus/Qwen3.8-27B-Q3_K_L-GGUF — это независимая ванильная GGUF-квантизация базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель не является дообучением, слиянием или изменённой версией; сохранены исходные шаблон чата, режимы рассуждений, нативный формат вызова инструментов и мультимодальные компоненты. Квантизация выполнена в формате Q3_K_L с использованием llama.cpp, размер основного файла составляет около 14,56 ГБ, а полный репозиторий занимает около 15,5 ГБ. Модель предназначена для генерации текста, вызова инструментов, анализа изображений и работы с видео через vision projector. Она использует гибридную архитектуру с чередованием Gated DeltaNet и полнотекстового внимания, а также содержит MTP-тензоры, однако спекулятивное ускорение не заявлено. Текстовая генерация, вызов инструментов и мультимодальные сценарии прошли функциональную проверку; валидационная скорость составила около 14,77 токена в секунду на тестовой системе. Для запуска требуется совместимый runtime, поддерживающий граф Qwen3.8, vision tower, проектор, токенизатор и MTP-метаданные, а также ориентировочно не менее 19 ГБ доступной памяти без гарантии пикового потребления. Максимальный размер контекста в README не указан и полноценно не тестировался, языки также не перечислены. Квантизация может снижать качество, особенно из-за небольшой разрядности. Модель и её квантизация распространяются по лицензии Apache-2.0.

hanhainebula/qwen3-8b-ft-msmarco — текстовая модель эмбеддингов, созданная дообучением Qwen/Qwen3-8B на английских обучающих данных MSMARCO в течение одной эпохи с помощью FlagEmbedding. Она выпущена в рамках ресурсов ReasonEmbed, посвящённых улучшению эмбеддингов для поиска документов со сложными рассуждениями. Модель предназначена для преобразования текста в векторные представления и задач извлечения документов; в метаданных для неё указан pipeline feature-extraction. Модель имеет плотную архитектуру Qwen3, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Весовые файлы представлены в формате safetensors; токенизатор изменён для автоматического добавления EOS-токена. Лицензия — Apache-2.0. Обучение описано для английских данных MSMARCO; многоязычность базовой Qwen3 сама по себе не подтверждает, что этот чекпойнт одинаково хорошо работает на других языках.

Atomic-Germ/Qwen3.8-Flash-Next-APEX-GGUF — набор оптимизированных GGUF-квантизаций модели Qwen3.8-Flash-Next, разработанный Atomic-Germ на базе mudler/Qwen3.8-Flash-Next-APEX-GGUF. Модель описана как Mixture-of-Experts архитектура объёмом 125B/177B параметров с технологиями GDN и Qwen Sparse Attention. Репозиторий ориентирован на локальный запуск и совместное использование с Guanaco, включая потоковую загрузку с диска на потребительском оборудовании. Основные варианты включают Q6_K с высококачественной квантизацией весов, Q8_0 для скрытых состояний и F32 для нормализаций, а также более компактный Q4_0 с меньшими требованиями к памяти. В комплект также входит importance matrix imatrix.dat, предназначенная для настройки квантизации и оптимизации динамической выгрузки экспертов. В репозитории заявлен улучшенный шаблон чата с поддержкой многошагового диалога, строгих JSON-схем и параллельных вызовов инструментов. Для запуска через Guanaco указана возможность работы примерно в 24 ГБ памяти; конкретная скорость зависит от оборудования, типа квантизации и используемых ядер. Сильными сторонами являются высокая степень сжатия при заявленном небольшом ухудшении perplexity относительно BF16, оптимизация размещения чувствительных слоёв и поддержка потокового запуска крупных MoE-моделей на ограниченных ресурсах. Ограничения включают зависимость производительности от конкретного оборудования и режима загрузки, отсутствие измерений пропускной способности в README, а также неполную оценку на отложенных данных. Языки, точная максимальная длина контекста и полноценные мультимодальные возможности явно не указаны; в примере запуска используется контекст 128000 токенов. Лицензия — Apache-2.0.