I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиEverMind-AI разработала skillcorpus-embedding-0.6b — плотный bi-encoder для поиска подходящих описаний навыков ИИ-агентов по формулировке задачи. Модель дообучена на Qwen/Qwen3-Embedding-0.6B и предназначена для первого этапа поиска: она кодирует задачу и документы навыков в общее пространство, после чего кандидаты отбираются по косинусному сходству. Для дополнительной сортировки результатов авторы предлагают парный skillcorpus-reranker-0.6b. Модель содержит около 507,6 млн параметров по метаданным; в README указаны 596 млн параметров, размер эмбеддинга 1024 и 28 слоёв. Контекст — до 32 768 токенов. Она выдаёт L2-нормализованные текстовые эмбеддинги. При использовании важно подавать запрос с зарегистрированным префиксом инструкции, а документ навыка — без него, в формате name | description | body; нарушение этой схемы снижает качество поиска. Модель не генерирует ответы. Лицензия — Apache-2.0.
SKILLRET-Edge-109M — компактная двуязычная архитектурно BERT-модель для подбора навыков агента по запросу на естественном языке. Её разработчик — ThakiCloud. Модель преобразует запросы и описания навыков в L2-нормализованные эмбеддинги; для извлечения признаков используется Sentence Transformers, а длина контекста составляет 512 токенов. В карточке указан размер 109,5 млн параметров, а метаданные каталога указывают 136,7 млн параметров. Модель предназначена для семантического поиска и ранжирования навыков в каталоге: например, чтобы сопоставить просьбу пользователя с подходящим навыком агента. Она дообучена дистилляцией SKILLRET-Embedding-0.6B на датасете SKILLRET. В тесте авторов на публичном разбиении из 4 392 запросов и 6 006 навыков fp16-вариант получил NDCG@10 79,18; эти результаты зависят от протокола оценки. Запросы следует кодировать без префикса-инструкции, согласованно с обучением и оценкой. Модель принимает текст и выдаёт векторы эмбеддингов. README сообщает о вариантах fp16 и int8, но также отмечает, что INT2/тернарная постквантовка резко ухудшила результат. Лицензия — Apache-2.0.】【。
SLIM-EMOTIONS — специализированная модель серии SLIM от llmware, дообученная для анализа эмоций в тексте и вызовов функций. Она построена на плотной decoder-only архитектуре Llama и содержит 1 млрд параметров. Модель принимает текст и генерирует структурированный результат в виде словаря Python, например с перечнем распознанных эмоций. Модель предназначена для классификации эмоциональной окраски текста и включения результата в программные и многошаговые LLM-процессы. Для генерации используется формат prompt с задачей classify и параметром emotions. Контекст составляет 2048 токенов; веса представлены в формате PyTorch. Лицензия — Apache-2.0. Карточка описывает специализированный формат вывода, но не приводит метрик качества или перечня поддерживаемых языков. Результат генерируется как текст и может потребовать проверки перед разбором программой.
Карточка модели Dennis1315/ward-pwn-14b на Hugging Face совпадает с карточкой Dennis1315/ward-cloud-14b, поэтому описание составлено по ней. Dennis1315/ward-cloud-14b — мультимодальная модель семейства Qwen3.5, дообученная Dennis1315 на базе Qwen/Qwen3.5-9B с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалога с текстом и изображениями; метаданные также указывают интерфейс вызова инструментов. Базовая модель рассчитана на анализ изображений, рассуждения, программирование и агентные задачи. Модель принимает текст и изображения и формирует текстовые ответы. В репозитории используются веса Safetensors. Лицензия — Apache-2.0. Подробности обучающего набора и оценки качества в доступной карточке не приведены.
ZYR3.1MoE-GGUF — квантизированная версия модели ZYR3.1MoE, разработанной zyr-AGENT и подготовленной mradermacher. Модель предназначена для генерации текста, многоагентных сценариев и оркестрации взаимодействия между агентами. В метаданных указаны поддержка английского языка, библиотека Transformers и архитектура MoE (Mixture of Experts), однако подробности об устройстве модели, числе параметров и размере контекста не приведены. Репозиторий содержит файлы GGUF с различными уровнями квантизации — от Q2_K размером около 3,9 ГБ до f16 размером около 18 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как быстрый вариант с наилучшим качеством среди перечисленных. Квантизация уменьшает требования к памяти, но может снижать качество по сравнению с исходной моделью; конкретные характеристики производительности не указаны. Лицензия обозначена как other, без дополнительных условий в README, поэтому точные правила использования следует уточнять в исходном репозитории модели. Описанная версия является текстовой и не заявляет поддержку изображений или других модальностей.
Atomight V2.5-1.7B — языковая модель NovatasticRoScript для генерации текста и диалогов с упором на пошаговые рассуждения. Она основана на Qwen/Qwen3-1.7B и дообучена методом GRPO с использованием LoRA/PEFT; адаптер объединён с весами в 16-битном формате. Модель содержит 1,7 млрд параметров, использует архитектуру Qwen3 для причинной генерации текста и поддерживает контекст до 40 960 токенов. Модель предназначена для математических и STEM-задач, научных вопросов, программирования, отладки, многошагового планирования и сценариев с агентами. В карточке заявлено обучение на открытых наборах данных по STEM, науке, математике и коду; также приведены результаты собственных оценок на ряде бенчмарков. Основной язык, указанный в метаданных карточки, — английский. Модель распространяется по лицензии CC-BY-4.0. Это компактная модель, поэтому её результаты могут уступать более крупным системам; авторы отдельно отмечают слабые результаты на задачах HumanEval и MBPP по сравнению с некоторыми моделями, специально дообученными для кода. Результаты бенчмарков заявлены авторами и не являются независимой проверкой.
Bobcat 1.1 — дообученная модель sanghwa-na на базе Qwen/Qwen3.8-27B. Это плотная модель архитектуры Qwen3.5 с весами BF16 в формате safetensors; исходную LoRA ранга 16 объединили с базовой моделью. Для каждого запроса приложение задаёт состояние и набор допустимых ответов, а модель оценивает их вероятности за один проход. Она не генерирует текст: приложение формирует из результатов ответ в заданном формате. Модель предназначена для повторяющихся ограниченных решений, например маршрутизации запросов, ранжирования, проверки цитат, классификации и проверки вызовов инструментов. Карточка указывает поддержку английского и корейского языков; в обучающих данных 36% решений были на английском. Лицензия — Apache-2.0. По опубликованным разработчиком оценкам, Bobcat 1.1 повысила точность на тестах по сравнению с необученной базовой моделью и реже поддавалась ответам, подсказанным внутри состояния. Модель может ошибиться, хотя её ответ останется одним из допустимых вариантов. Она слабо распознаёт ситуации с недостатком свидетельств, а уверенность не гарантирует правильность. В длинных состояниях результаты зависят от длины и развертывания; вычисления, подсчёт и сравнение дат лучше выполнять в коде. Для критически важных решений модель не предназначена. Для развёртывания автор описывает работу через vLLM; требуются подходящие GPU-ресурсы.
Chroma Context-1 — агентная поисковая модель Chroma, дообученная на базе openai/gpt-oss-20b с помощью SFT и RL. Она предназначена для поиска подтверждающих документов по сложным многошаговым запросам в паре с более мощной моделью рассуждений: разбивает запрос на подзадачи, вызывает инструменты поиска и редактирует рабочий контекст, удаляя менее полезные документы. Модель имеет архитектуру MoE и принимает текстовые запросы, выдавая текст и вызовы инструментов в агентной среде. В README заявлена поддержка задач из веба, права и финансов, а также обобщение на другие области. По данным каталога, модель содержит 1,6 млрд параметров, использует Transformers и формат safetensors, а длина контекста составляет 131 072 токена. Для воспроизведения заявленных результатов необходим специальный агентный harness, который выполняет инструменты и управляет бюджетом токенов, очисткой контекста и удалением дубликатов; авторы пока его не опубликовали. Поэтому работа модели без harness не гарантирует результаты из технического отчёта. Лицензия — Apache-2.0.
AtlasCloud/DeepSeek-V4-Flash-Vision-Exp-FP8-DSpark — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная на базе DeepSeek-V4-Flash-Vision-Exp. Репозиторий содержит преобразованную версию официальных весов с FP4 для маршрутизируемых экспертов в формат FP8 e4m3 с блоковым масштабированием 128×128 ue8m0; плотные слои, общие эксперты, токенизатор и конфигурации DSpark и зрения сохранены без изменений. Модель распространяется как готовый checkpoint для Hugging Face и предназначена для запуска через SGLang или встроенную эталонную реализацию. Модель поддерживает обработку текста и изображений и ориентирована на мультимодальное понимание, агентские сценарии, работу с инструментами, графиками и визуальными данными, сохраняя сопоставимую производительность в текстовых агентских задачах. В README указано использование архитектурных компонентов vision encoder, aligner, DFlash attention, MoE, Hyper-Connections и DSpark forward path. Точный размер модели, окно контекста и перечень поддерживаемых языков не указаны. Ключевое свойство этой версии — lossless-преобразование экспертных весов в FP8 без дополнительного этапа конвертации при развертывании. Для запуска требуется совместимая конфигурация SGLang и отключение FP4-пути экспертов; конкретные требования к оборудованию не приведены. Модель распространяется по лицензии MIT.
duvo-eye-1.5 — мультимодальная модель duvoai для привязки текстового описания элемента интерфейса к точке на скриншоте. Она предназначена для одного шага GUI-автоматизации: отдельный планировщик выбирает действие, а модель определяет координаты цели. Модель использует архитектуру Qwen3.5 MoE с 35 млрд параметров и примерно 3 млрд активных параметров; принимает изображение и текст, возвращает координаты в JSON, нормализованные в диапазоне от 0 до 1000. В README указано, что для корректного вывода координат в шаблоне чата нужно отключить режим thinking. Модель создана дообучением duvo-eye-1 с помощью GRPO и последующим объединением адаптера с весами; исходная модель duvo-eye-1 была дообучена на базе Hcompany/Holo-3.1-35B-A3B. Разработчики сообщают о небольшом улучшении на трёх тестах GUI-grounding по сравнению с предыдущей версией. Модель лучше находит текстовые цели, чем значки и мелкие элементы. Она всегда возвращает координату, даже если цель отсутствует, и не выполняет планирование или многошаговое управление интерфейсом. Лицензия — Apache-2.0.
Это версия Gemma 4 12B в формате SafeTensors, опубликованная пользователем tepirale. Согласно карточке, веса преобразованы из GGUF в SafeTensors; метаданные связывают модель с yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF и классифицируют её как дообученную производную. Модель предназначена для диалоговых сценариев с изображениями; теги также указывают на агентное использование, работу с инструментами и кодом. Архитектура — плотная Gemma4UnifiedForConditionalGeneration, размер семейства — 12B по идентификатору модели. Карточка указывает поддержку изображений и текста, а лицензия в метаданных — Apache-2.0. README сообщает о конверсии формата, но не описывает методику преобразования или проверку сохранности поведения; сведений о контекстном окне и поддерживаемых естественных языках в предоставленных данных нет.
NVIDIA gpt-oss-120b-Eagle3-long-context — вспомогательная модель Eagle3 для авторегрессионной языковой модели OpenAI gpt-oss-120b. Она обучена предсказывать несколько следующих токенов, чтобы ускорять спекулятивное декодирование исходной модели при сохранении проверки её основными весами. Модель предназначена для разработчиков чат-ботов, AI-агентов, RAG-систем и приложений с инструкциями и генерацией текста. В репозитории указаны архитектура Llama и класс LlamaForCausalLMEagle3; веса представлены в safetensors. Метаданные сообщают о 747,1 млн параметров и контексте до 131 072 токенов. Для запуска карточка рекомендует TensorRT-LLM на Linux с GPU NVIDIA; упомянута совместимость с Blackwell. В README приведён пример конфигурации сервинга с длиной последовательности 8 192 токена, поэтому конкретный предел зависит от конфигурации развертывания. Модель оптимизирована NVIDIA Model Optimizer и предназначена для спекулятивного декодирования вместе с базовой gpt-oss-120b; сама по себе она не заменяет базовую модель. README заявляет готовность к коммерческому и некоммерческому использованию, но метаданные обозначают лицензию как other, поэтому перед применением следует свериться с условиями лицензии репозитория. Карточка также рекомендует проверять модель на данных и требованиях конкретного сценария.
MhoOmm/HotPotQA_DEBERT — англоязычная модель извлечения ответов, разработанная на базе DeBERTa-v3-base и дообученная для open-domain и multi-hop вопросно-ответных задач на HotpotQA. Она предназначена для роли reader в системе retrieval-augmented question answering: внешний поисковый компонент находит документы, а модель выделяет точный фрагмент ответа в переданном контексте. Модель основана на архитектуре DeBERTa-v2, содержит 211,6 млн параметров и принимает вопрос вместе с контекстом длиной до 512 токенов. Она работает с текстом на английском языке и выдаёт извлечённый текстовый фрагмент, а не свободно сгенерированный ответ. В описанной конфигурации использовались dense retriever BAAI/bge-base-en-v1.5, FAISS и корпус англоязычных статей Википедии. На валидационной выборке HotpotQA указаны Exact Match 60,53 и F1 74,21. Модель подходит для поисковых систем, образовательных помощников и RAG-конвейеров, где требуется ответ, обоснованный найденным контекстом. Она распространяется по лицензии MIT.
InternVL3-38B-GGUF — мультимодальная большая языковая модель семейства InternVL3, разработанная OpenGVLab и представленная в формате GGUF командой Unsloth. Модель предназначена для работы с текстом и изображениями, включая мультимодальное восприятие и рассуждение, анализ промышленных изображений, 3D-восприятие, использование инструментов и сценарии GUI-агентов. Заявлена поддержка multilingual-задач. Архитектура построена по схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-32B, соединённые MLP-проектором. Обозначение 38B относится к размеру модели; точные параметры GGUF-квантизации и размер контекста в представленных данных не указаны. Модель основана на OpenGVLab/InternVL3-38B и обучалась с использованием набора данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание визуального и языкового анализа, расширенные мультимодальные возможности и применение в специализированных агентных сценариях. Ограничения, такие как фактическая точность на конкретных задачах, требования к памяти и производительности, зависят от варианта GGUF и в README не уточняются. Указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen, поэтому условия использования следует сверять с лицензиями исходных компонентов.
InternVL3.5-241B-A28B-HF — мультимодальная модель семейства InternVL, разработанная OpenGVLab и представленная в формате Hugging Face Transformers. Она принимает изображения и текст и генерирует текстовые ответы; предназначена для диалога по изображениям, визуального и математического рассуждения, распознавания текста на изображениях, анализа видео, а также GUI- и агентных задач. В README описаны Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптивной обработки визуальных токенов. Метаданные указывают архитектуру InternVLForConditionalGeneration и формат safetensors. Модель дообучена на основе OpenGVLab/InternVL3_5-241B-A28B-MPO и распространяется по лицензии Apache-2.0. Для запуска требуются значительные вычислительные ресурсы: в README говорится, что модель семейства на 235B параметров требует восьми GPU A100; точные требования для этой версии отдельно не приведены. Длина контекста и конкретный набор поддерживаемых языков в предоставленных данных не указаны.
Jan-Nano — компактная диалоговая языковая модель примерно на 3,7 млрд параметров, разработанная Alan Dao и Bach Vu Dinh для исследовательских задач с использованием инструментов. Она дообучена на Qwen/Qwen3-4B и рассчитана на работу с серверами Model Context Protocol (MCP), чтобы обращаться к исследовательским инструментам и источникам данных. Модель поддерживает диалог и интерфейс вызова инструментов; авторы описывают её как нетребовательную к пошаговому режиму рассуждений. Заявлена оценка на SimpleQA с MCP-инструментами, однако численные результаты в карточке не приведены. Модель принимает текстовые запросы и генерирует текстовые ответы и вызовы инструментов. Она использует архитектуру Qwen3ForCausalLM, библиотеку Transformers и формат safetensors; длина контекста — 40 960 токенов. Карточка описывает сценарии исследовательского поиска и локальный запуск через Jan или vLLM. Распределение поддерживаемых естественных языков не указано. Лицензия — Apache-2.0.
Это декензурированная версия K2-Horizon-MoVA-36B-A4B, созданная с помощью Heretic v1.4.0. Исходная модель разработана IFM и представляет собой разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values (MoVA). В README указано 36 млрд параметров модели и около 4 млрд активных на токен; метаданные каталога указывают 3,7 млрд параметров. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и агентных сценариев; поддерживает интерфейс вызова инструментов. В карточке описано снижение частоты отказов после abliteration, однако в приведённом сравнении модель всё ещё отказывала в 56 из 100 запросов против 98 у оригинала. Указанные языковые сведения ограничены английским. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers; в README также приведены инструкции для vLLM и SGLang. Лицензия — Apache-2.0. Для запуска исходной конфигурации автор приводит пример с двумя ускорителями H200; это не устанавливает минимальные требования для всех вариантов развёртывания.
K2-Horizon-MoVA-36B-A4B-ROCmFP4-GGUF — это набор квантизованных GGUF-версий reasoning-модели IFM/MBZUAI K2-Horizon-MoVA-36B-A4B, подготовленный пользователем kingjones777 для запуска на GPU AMD с поддержкой ROCmFP4/ROCmFPX. Модель предназначена для генерации текста, рассуждений, агентских сценариев и вызовов инструментов. Базовая модель распространяется по лицензии Apache-2.0. Модель использует архитектуру k2_horizon MoVA с двумя независимыми экспертными системами: банком из 64 value-экспертов с выбором top-4 и MoE-блоком из 100 feed-forward-экспертов с выбором top-8. Всего модель содержит 36 млрд параметров, из которых активно используется около 4 млрд; архитектура включает 48 слоёв и скрытое представление размерностью 2560. Поддерживаются варианты Q4_0_ROCMFP4 и Q8_0_ROCMFPX объёмом от 18,57 до 36,45 ГиБ. README не указывает языки и максимальную длину контекста; в примерах запуска используется контекст 8192 токена. Основное преимущество — высокая скорость декодирования при меньшем числе активных параметров: на Ryzen AI Max+ 395 с Radeon 8060S заявлена скорость до 41 токена в секунду и prefill до 1238 токенов в секунду для варианта FAST. Доступны профили, ориентированные на скорость, качество квантования и агентские сценарии. Ограничения — необходимость специальной сборки llama.cpp с поддержкой одновременно k2_horizon и ROCmFP4/ROCmFPX, а также совместимого оборудования AMD Strix Halo (gfx1151). Модель генерирует рассуждения в поле reasoning_content, поэтому ей требуется достаточный бюджет токенов; при слишком коротком бюджете содержимое ответа может быть пустым.
konic-labs выпустила 50%-ную обрезанную по экспертам версию LiquidAI/LFM2.5-8B-A1B, созданную методом REAP (Ranking and Eliminating Experts via Activation Patterns). Это причинная MoE-модель для генерации текста и диалогов. В каждом MoE-слое оставлено 16 из 32 экспертов; по README, размер сократился на 45,5% относительно базовой модели. Сохранившиеся веса экспертов и веса маршрутизатора побитно совпадают с исходными, дополнительного дообучения не проводилось. Модель рассчитана на диалоговое использование, математические задачи и вызов инструментов; README приводит результаты тестов MATH500 и BFCLv3. Метаданные указывают контекст до 128 000 токенов и английский язык. Модель можно запускать в bf16, в том числе через vLLM; лицензия — Apache-2.0. Обрезка снижает качество относительно исходной модели: в приведённых результатах точность на MATH500 составляет 77,0%, а на BFCLv3 — 59,07%. README позиционирует её как промежуточный этап сжатия и допускает дальнейшую квантизацию; результаты тестов не гарантируют качество на других задачах.
nonetrix/llama-3.1-70B-nemotron-agent-ja-120B — объединённая модель на архитектуре Llama 3.1, созданная разработчиком nonetrix линейным слиянием двух моделей: nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и cyberagent/Llama-3.1-70B-Japanese-Instruct-2407. Она предназначена для генерации текста в диалогах и ответов на запросы; в метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит 118,3 млрд параметров в формате safetensors, поддерживает контекст до 131 072 токенов и предназначен для работы через Transformers. Слияние объединяет диалоговую модель NVIDIA на базе Llama 3.1 с японской инструктивной моделью CyberAgent, поэтому модель ориентирована на японские и многоязычные диалоговые сценарии. README не приводит сравнительных оценок качества или подробных рекомендаций по применению. Лицензия в предоставленных данных не указана.
Карточка модели Elio2151/Llama-3.1-8B-Instruct-TechnicalAgentFineTuned-Merged_5 на Hugging Face совпадает с карточкой Elio2151/Llama-3.1-8B-Instruct-TechnicalAgentFineTuned-Merged_4, поэтому описание составлено по ней. Elio2151 дообучил модель на основе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Это плотная авторегрессионная языковая модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста в диалоговом формате; также заявлен интерфейс для вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. Модель можно использовать для диалоговых приложений, генерации текста и сценариев с вызовом инструментов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. Карточка не описывает обучающие данные, специализацию дообучения или результаты оценки качества.
Llama-3-Groq-8B-Tool-Use-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели Llama-3-Groq-8B-Tool-Use, разработанной Groq. Модель предназначена для генерации текста и сценариев, связанных с использованием инструментов, а формат GGUF ориентирован на локальный запуск и эффективное использование ресурсов. Модель имеет 8 миллиардов параметров и доступна в вариантах квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и GPT4All. README не указывает поддерживаемые языки, размер контекста, дополнительные модальности или точные характеристики архитектуры. К сильным сторонам относятся широкий выбор уровней квантования, возможность локального запуска и поддержка сценариев tool use. Ограничения зависят от выбранного уровня квантования и используемой среды инференса; конкретные показатели качества и требования к оборудованию не приведены. Лицензия в представленном README не указана.
Lucy — компактная языковая модель на 1,7 млрд параметров, разработанная Alan Dao, Bach Vu Dinh, Alex Nguyen и Norapat Buppodom на базе Qwen3-1.7B. Она предназначена для агентного веб-поиска, лёгкого просмотра веб-страниц и диалоговой генерации текста. Для поиска и работы с веб-страницами модель использует внешние инструменты через MCP, например Serper и Crawl4AI. Модель построена на плотной архитектуре Qwen3 и рассчитана на контекст до 40 960 токенов. Авторы описывают оптимизацию для мобильных устройств и запуска на CPU, а также обучение с подкреплением без supervised fine-tuning и сгенерированные машинным способом task vectors. Карточка приводит результат сравнения на SimpleQA, но не содержит подробностей протокола или воспроизводимых результатов. Модель поддерживает английский язык; лицензия — Apache-2.0.
Midas-FableAgent-8B-i1-GGUF — GGUF-квантизированная версия модели Midas-FableAgent-8B, разработанной EphAsad и подготовленной к квантизации пользователем mradermacher. Модель обучалась с использованием наборов данных OpenThoughts-Agent-v1-SFT, kelexine/fable-5-sft-traces, Glint-Research/Fable-5-traces и armand0e/claude-fable-5-claude-code. Модель предназначена для англоязычной генерации текста, диалоговых сценариев, reasoning, agentic-задач и взаимодействия с инструментами. В метаданных указаны связи с Qwen3, Unsloth и LoRA, однако точная архитектура и параметры базовой модели в README не описаны. Размер базовой модели составляет 8B; поддерживается английский язык. Информация о контекстном окне и мультимодальных возможностях отсутствует. Главное преимущество репозитория — широкий выбор GGUF-квантизаций с различным балансом между размером, скоростью и качеством, включая варианты от i1-IQ1_S до i1-Q6_K. Более низкие уровни квантизации экономят память, но могут заметно снижать качество; для варианта i1-Q4_K_M заявлены высокая скорость и рекомендованный баланс характеристик. Модель ориентирована на запуск в средах, поддерживающих GGUF, но конкретные требования к оборудованию не указаны. Лицензия — Apache-2.0.
Tess-4-27B-GGUF — это квантизированная версия модели Tess-4-27B, разработанной migtissera. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. По данным карточки, модель ориентирована на мультимодальные сценарии image-text-to-text, агентные задачи, рассуждения, работу с длинным контекстом и использование инструментов. Указана архитектурная принадлежность к семейству Qwen3, однако точный размер контекста, поддерживаемые языки и подробные характеристики модальностей в README не приведены. Доступны варианты от BF16 до низкоразрядных Q2–Q8-квантизаций; размеры файлов составляют примерно от 13 до 55 ГБ. Варианты Q5–Q6 обозначены как высококачественные, а Q4_K_M — как типичный вариант для большинства сценариев. Сильной стороной являются различные уровни квантизации, позволяющие выбирать между качеством, скоростью и требованиями к памяти, а также поддержка экосистемы llama.cpp. Более низкоразрядные варианты экономят память, но могут заметно уступать по качеству; некоторые форматы являются устаревшими или не рекомендуются. Модель и её квантизированные варианты распространяются по лицензии Apache-2.0.
MuXodious выпустил дообученную версию Ministral-3-14B-Instruct-2512, изменённую методом abliteration с использованием Heretic и слияния с Magnitude-Preserving Orthogonal Ablation. Это мультимодальная плотная модель семейства Mistral 3: языковая часть содержит 13,5 млрд параметров, а визуальный энкодер — 0,4 млрд. Она принимает текст и изображения и предназначена для диалогов, выполнения инструкций и анализа изображений; в README также заявлены вызов функций и вывод JSON. Модель поддерживает английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки, а контекстное окно базовой модели составляет 256 тыс. токенов. Модификация снижает склонность к отказам: в приведённой оценке Heretic модель отказала в 5 случаях из 100. Автор предупреждает, что модель сильно uncensored, и рекомендует использовать её с осторожностью. Для работы указаны Transformers v5; в метаданных также заявлена поддержка vLLM. Лицензия Apache-2.0 допускает коммерческое и некоммерческое использование.
Sabomako/Mistral-Small-3.2-24B-Instruct-2506-heretic — декензурированная версия Mistral-Small-3.2-24B-Instruct-2506 от Sabomako. Модель создана с помощью Heretic v1.3.0 и метода ORBA abliteration; в тесте с оценкой LLM-судьи Gemma4-12B-it-Heretic она отказала в 1 из 100 случаев против 98 из 100 у исходной модели. Это плотная мультимодальная модель семейства Mistral 3 с 24 млрд параметров, предназначенная для диалогов по инструкциям, работы с изображениями и интерфейса вызова инструментов. Принимает текст и изображения, выдаёт текст. В метаданных указана лицензия Apache-2.0. Снижение числа отказов может привести к ответам на запросы, которые исходная модель отклоняла; результат теста отказов не характеризует точность и безопасность в целом.
Mistral-Small-3.2-24B-Instruct-2506-ultra-uncensored-heretic — доработанная участником сообщества версия Mistral-Small-3.2-24B-Instruct-2506 от Mistral AI. К модели применена abliteration: README сообщает о целевых слоях и компонентах и приводит метрики, указывающие на снижение частоты отказов при сравнительно небольшом изменении поведения базовой модели. Это плотная мультимодальная модель семейства Mistral3 с поддержкой чата и анализа изображений; в карточке перечислены многочисленные языки, включая русский. Она подходит для диалогов по инструкциям, анализа изображений, вызова инструментов и задач, где нужны ответы с меньшим числом отказов. В README описаны улучшения базовой версии в следовании инструкциям, вызове функций и снижении повторов, а также приведены результаты тестов по STEM и зрительным задачам; эти результаты относятся к базовой модели и не подтверждают отдельную оценку данной доработки. Репозиторий содержит веса safetensors, указанная библиотека — vLLM; README также упоминает Transformers. Лицензия — Apache-2.0. Для запуска базовой версии в bf16 или fp16 README указывает потребность примерно в 55 ГБ видеопамяти, что свидетельствует о значительных аппаратных требованиях.
JANGQ-AI/Nemotron-Cascade-2-30B-A3B-JANG_4M — квантованная версия NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленная Jinho Jang с помощью открытого формата и движка JANG для MLX. Это языковая модель для диалогов и генерации текста с пошаговым режимом рассуждений и интерфейсом вызова инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, смесь экспертов (MoE) и слои внимания; в README указаны 52 слоя и 128 экспертов с выбором шести. Квантование JANG_4M использует 4,1 бита и 8-битные веса внимания. Метаданные указывают 1,9 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на рассуждения, в том числе решение математических задач, а также на обычные диалоги и агентные сценарии. По результатам теста MMLU на 200 вопросах, приведённым автором карточки, она набрала 93% в режиме рассуждений; это результат собственного тестирования, а не независимая оценка. Для запуска нужны Apple Silicon с не менее чем 24 ГБ объединённой памяти и совместимая среда MLX, например MLX Studio или пакет JANG для MLX; обычные загрузчики MLX могут не поддерживать отображение весов этой архитектуры. В карточке указана лицензия «other», конкретные условия следует проверять у автора базовой модели и производной версии.
OrcaAgent-llama3.2-1b — дообученная модель Isotonic на базе meta-llama/Llama-3.2-1B-Instruct. Она предназначена для генерации текста и диалогов, включая сценарии работы в формате агента; при дообучении использована часть набора microsoft/orca-agentinstruct-1M-v1. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 1,2 млрд параметров и поддерживает контекст до 131 072 токенов. Метаданные также отмечают интерфейс вызова инструментов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Карточка указывает английский язык; качество и ограничения для конкретных задач отдельно не описаны.