I.14Автоматизация процессов и AI-агенты

Orchestrator-8B GGUF — модель оркестрации инструментов и экспертных моделей, разработанная NVIDIA и University of Hong Kong. Эта версия распространяется пользователем Mungert в формате GGUF и создана с использованием llama.cpp. В основе лежит 8-миллиардная decoder-only Transformer-модель Qwen3-8B, обученная на GeneralThought-430K и ToolScale. Заявленный язык модели — английский; поддерживается генерация текста. Модель предназначена для сложных многошаговых и многоходовых агентских задач, в которых требуется координировать неоднородные инструменты, включая поиск, выполнение кода, а также специализированные и универсальные LLM. При обучении применялось многоцелевое обучение с подкреплением GRPO, оптимизирующее точность, задержку, стоимость и соответствие пользовательским предпочтениям. Разработчики заявляют об обобщении на ранее не встречавшиеся инструменты и конфигурации ценообразования. Согласно README, на Humanity’s Last Exam модель получила 37,1% и демонстрировала более высокую эффективность по сравнению с рядом крупных монолитных моделей, включая GPT-5, Claude Opus 4.1 и Qwen3-235B-A22B; также приводятся результаты на FRAMES и τ²-Bench. Конкретный размер контекста и характеристики модальностей не указаны. GGUF-файл подвергнут квантованию с выборочным повышением точности отдельных слоёв, что может улучшать качество при ограниченной разрядности ценой увеличения размера файла. Модель предназначена только для исследований и разработок и распространяется по лицензии Apache 2.0.

Osaurus-AppleScript-8B-JANG_6M — дообученная Osaurus модель на базе Zyphra/ZAYA1-8B для автоматизации macOS с помощью AppleScript и вызовов инструментов. Она принимает текстовые запросы и при наличии описания инструмента формирует структурированный вызов run_applescript с AppleScript-кодом; без описания инструмента выдаёт код напрямую. Предназначена для использования в агентном цикле, где внешний агент запускает скрипт и передаёт модели результат. Модель построена на архитектуре Zaya с MoE и 16 экспертами. README указывает 8,84 млрд параметров и размер около 7,4 ГБ; метаданные каталога — 5,4 млрд параметров. Представлены 6-битные веса с 8-битными эмбеддингами в формате MLX, а метаданные указывают контекст до 131 072 токенов. Модель рассчитана на английский язык и локальный запуск через MLX, в том числе в vMLX. В тесте README на 87 задачах AppleScript модель достигла 100% выдачи вызовов инструмента, 80% компилируемых скриптов и 75% правильного выполнения на вычислительной подвыборке; эти результаты относятся к описанному тесту и не гарантируют такую же точность в других сценариях. Для запуска скриптов требуется внешний исполнитель, например osascript. Лицензия указана как other, поэтому условия использования следует сверить с лицензией репозитория.

mzbac/Phi-3-mini-4k-instruct-function-calling — дообученная модель семейства Phi-3, подготовленная mzbac для вызова функций. Она предназначена для диалоговых сценариев, где модель генерирует текст и формирует запросы к функциям в формате, использованном при дообучении. Модель имеет плотную архитектуру Phi3ForCausalLM, содержит 3,7 млрд параметров и рассчитана на контекст до 4096 токенов. Карточка указывает на обучение с помощью MLX-LM и набор данных mzbac/function-calling-phi-3-format-v1.1. Репозиторий содержит веса safetensors; лицензия в доступных данных не указана.

Qwen3.6-27B-Fable-Uncensored — 27-миллиардная плотная модель семейства Qwen3.5 от Lemura Labs, дообученная на основе lemuralabs/Qwen3.6-27B-Fable-Agentic. Она предназначена для диалогов, пошаговых рассуждений, общих вопросов и многошагового вызова инструментов. Архитектура поддерживает текст и изображения; README описывает работу с инструментами в нескольких ходах диалога. В тестах, приведённых авторами, модель показала 88,29% на MMLU-Pro, 97,67% на GSM8K и 56,57% на GPQA-Diamond. У модели снижено число отказов от запросов, поэтому она может отвечать на запросы, которые отклонила бы модель с более строгими ограничениями. Указанная в метаданных лицензия — Apache-2.0; README также рекомендует учитывать лицензии базовой модели и обучающих данных. Длина контекста в метаданных не приведена; пример запуска задаёт максимальную длину 16 384 токена, что является параметром конфигурации запуска.

Qwen3-8B TMax AENV v39b, итерация 69 — чекпойнт Qwen3-8B, опубликованный willamazon1. Модель дообучена с подкреплением методом group-relative policy optimization на асинхронных траекториях в многоходовых агентных средах; исходным чекпойнтом был willamazon1/qwen3-8b-tmax-sft-v3-iter353, ранее дообученный на Qwen/Qwen3-8B. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров с контекстом до 40 960 токенов, поддержкой диалоговой генерации и интерфейсом вызова инструментов. Модель предназначена для генерации текста в диалогах и агентных сценариях, где требуется вести многоходовое взаимодействие и использовать инструменты. Это одна из итераций обучающего запуска; в той же коллекции опубликованы другие точки обучения, что позволяет сравнивать изменения по ходу обучения. Доступны веса bfloat16 в формате safetensors; чекпойнт преобразован из Megatron-LM torch_dist, состояние оптимизатора не включено. Лицензия — Apache-2.0.

Qwen3-8B TMax AENV v39b, итерация 159 — чекпойнт обучения с подкреплением, созданный командой willamazon1 на основе willamazon1/qwen3-8b-tmax-sft-v3-iter353. Модель семейства Qwen3 с плотной архитектурой Qwen3ForCausalLM содержит 7,6 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 40 960 токенов. Модель дообучена методом group-relative policy optimization на асинхронных многоходовых взаимодействиях с агентными средами. Она предназначена для диалоговой генерации и сценариев использования инструментов агентом. Это одна из опубликованных итераций обучения, поэтому её можно сравнивать с другими чекпойнтами той же серии. Веса доступны в формате safetensors, bf16; модель распространяется по лицензии Apache-2.0.

Qwen3-8B TMax AENV v39b, итерация 179 — чекпойнт модели Qwen3-8B, дообученной командой willamazon1 методом обучения с подкреплением на асинхронных многоходовых взаимодействиях в агентной среде. Он инициализирован из willamazon1/qwen3-8b-tmax-sft-v3-iter353, который ранее был дообучен на Qwen/Qwen3-8B. Архитектура — плотная Qwen3ForCausalLM на 7,6 млрд параметров; модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. Контекст — до 40 960 токенов. Чекпойнт предназначен для диалоговых и агентных сценариев, где модель ведёт многоходовое взаимодействие и использует инструменты. Это одна из итераций обучения v39b; соседние итерации опубликованы для сравнения динамики обучения. Веса преобразованы из формата Megatron-LM torch_dist в safetensors для Hugging Face, хранятся в bfloat16; состояние оптимизатора не включено. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-32B-Thinking-Desktop-Teacher — разработанная проектом UI-MOPD мультимодальная модель для взаимодействия с графическим интерфейсом настольных компьютеров. Это дообученная на траекториях взаимодействия из настольной части набора Uni-GUI модель Qwen/Qwen3-VL-32B-Thinking; архитектура Qwen3-VL плотная, модель загружается через Transformers и распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для роли платформенного учителя в конвейере дистилляции UI-MOPD, а также для самостоятельного выполнения задач на компьютере: навигации в браузере, управления файлами и приложениями. В README сообщается результат 46,3% успешных задач в OSWorld против 41,0% у базовой модели. Модель принимает изображения и текстовые инструкции, а её целевые действия для интерфейса представлены текстом. Карточка не сообщает длину контекста или подробные ограничения эксплуатации.

Qwen3-VL-8B-Thinking-Desktop-SFT — плотная мультимодальная модель семейства Qwen3-VL, разработанная в проекте UI-MOPD и дообученная методом supervised fine-tuning на траекториях взаимодействия с настольным интерфейсом из набора Uni-GUI. Это отдельный вспомогательный чекпойнт на 8B-параметров, созданный на базе Qwen/Qwen3-VL-8B-Thinking. Модель предназначена для работы в качестве агента графического интерфейса: она анализирует изображения экрана и формирует ответы и действия для выполнения задач в файловых менеджерах, браузерах и приложениях. Её также можно использовать как базовую точку для оценки качества данных Uni-GUI и экспериментов по слиянию с другими GUI-агентами. Модель наследует мультимодальные возможности Qwen3-VL и рассчитана на английский и китайский языки. В README указано, что этот SFT-чекпойнт выпущен как вспомогательный артефакт и не используется в основном пути обучения студента UI-MOPD, который обучается отдельно с помощью дистилляции. Модель распространяется по лицензии Apache-2.0.

Rewnozom-GGUF — это конверсия модели Rewnozom/Rewnozom в формат GGUF, разработанная авторами Rewnozom на основе Qwen/Qwen2.5-7B-Instruct-1M. Модель предназначена для локального запуска через llama.cpp, Ollama, LM Studio, Jan и другие совместимые загрузчики. Указан английский язык, а исходная модель относится к семейству 7B instruct-моделей с контекстом до 1 млн токенов. Модель ориентирована на генерацию текста, рассуждения и задачи, связанные с логикой, декомпозицией запросов, планированием и исправлением планов, маршрутизацией инструментов, управлением состоянием и памятью, retrieval, разрешениями и многоагентной оркестрацией. В README также упоминается обучение на синтетических данных с детерминированными формальными мирами, проверками оракула и машинно проверяемыми ответами. Доступны варианты от F32, F16 и BF16 до низкобитных квантований, включая K-quants, legacy-quants, T-quants и гибридные профили. Сильными сторонами являются широкий выбор размеров файлов и компромиссов между качеством, скоростью и потреблением памяти, а также возможность локального использования. Качество и производительность зависят от выбранного квантования, длины контекста, аппаратного ускорения и характера задач; низкобитные варианты могут заметно менять поведение модели. Контроль разрешений, деструктивных действий и изменения состояния рекомендуется оставлять за детерминированной логикой приложения. Распространение заявлено по лицензии Apache 2.0.

ThinkingCap-Qwen3.6-27B-int4-AutoRound-v1 — это общественная INT4-квантизация модели ThinkingCap-Qwen3.6-27B, исходно выпущенной BottleCap AI. Квантизацию выполнил Josef Prusa с использованием Intel AutoRound 0.14.0. Модель предназначена для локального инференса и агентных сценариев с длинным контекстом, включая работу с инструментами, вызов функций, оркестрацию задач и обслуживание через vLLM. Модель основана на архитектуре Qwen3.6 с 27 млрд параметров и использует текстовую генерацию. Применена весовая схема W4A16 с 4-битными весами, group size 128 и симметричной квантизацией; размер файлов составляет около 20 ГБ. Тензоры Multi-Token Prediction сохранены в BF16 для поддержки speculative decoding. В рекомендуемой конфигурации vLLM заявлен максимальный контекст до 262 144 токенов, а KV-кэш может дополнительно квантизироваться в 4-битный формат. Поддерживаются режимы рассуждений, tool calling и соответствующие парсеры Qwen3. Сильные стороны модели — уменьшенное потребление памяти, высокая скорость локального инференса, возможность размещения на видеокарте класса RTX 5090 с 32 ГБ памяти и сохранение поведения исходной ThinkingCap в задачах рассуждений и работы с инструментами. По локальным предварительным тестам модель показала результаты 81 в Hermes Agent, 90 в наборе tool-call-style, 89 в instructfollow-15, 73 в bugfind-15 и 65 в cli-40. Эти показатели получены на локальных тестах и не являются полной независимой оценкой качества. Ограничения связаны с потерями качества, возможными для 4-битной квантизации, а также с тем, что приведённые оценки и показатели производительности являются предварительными измерениями на одной конфигурации. Параметр group size 128 выбран в пользу скорости, меньшего потребления VRAM и запаса для длинного KV-кэша; меньшие группы могут повысить качество, но требуют больше памяти. Лицензия в представленном README не указана.

ToolCUA-8B — мультимодальный агент для управления компьютером через графический интерфейс, разработанный авторами проекта ToolCUA. Модель основана на Qwen/Qwen3-VL-8B-Instruct и дообучена для выбора между действиями в GUI, вызовами инструментов и возвратом к GUI-взаимодействию. Она принимает текст и изображения интерфейса и формирует текстовые ответы со структурированными вызовами инструментов для выполнения задач на рабочем столе. Модель предназначена для автоматизации последовательностей действий в настольных приложениях и выполнения задач в средах компьютерного управления. В оценке на выполнимых задачах OSWorld-MCP показала точность 46,85%, долю вызовов инструментов 24,32% и в среднем 14,93 шага на задачу. Для развёртывания авторы рекомендуют vLLM версии 0.12.0 или выше и включение trust-remote-code. Репозиторий содержит веса safetensors; лицензия — MIT.

VISTA-4B — модель зрения и языка для привязки текстовых инструкций к элементам графического интерфейса. Её разработала команда inclusionAI на основе семейства Qwen3.5; метаданные указывают на слияние моделей Qwen3.5-4B и Qwen3.5-9B. Архитектура — плотная Qwen3.5 с генерацией текста по изображению и тексту; модель использует библиотеку Transformers и формат Safetensors. Лицензия — Apache-2.0. Модель принимает снимок экрана и инструкцию на естественном языке и возвращает координаты точки в нормализованной системе 0–1000. Она обучена методом VISTA — View-Consistent Self-Verified Training, с сопоставлением разных геометрических представлений одного интерфейса и самопроверкой предсказаний. Предназначена для локализации целей в GUI и может служить компонентом систем автоматизации интерфейсов. В README приведены результаты на наборах SSPro, SSV2, OSWorld-G и OSWorld-G-R; при этом оценка засчитывается, если предсказанная точка попадает внутрь целевого элемента. Для вызова используется интерфейс чата с изображением, аналогичный базовой модели. Описанный выход ограничен координатой клика; оценки получены при детерминированной генерации и одиночном представлении экрана. Указанная в метаданных поддержка английского языка не означает, что модель рассчитана только на англоязычные интерфейсы.

WebBrain Compass Tiny XS v3 — компактная языковая модель, разработанная WebBrain и дообученная на Spark-X2.5-1.7B с 1,7 млрд параметров. Это плотная авторегрессионная модель для генерации текста, настроенная на диалоговое принятие решений и выполнение браузерных действий через структурированные вызовы инструментов. Модель предназначена для агентных сценариев в среде WebBrain: она может отвечать на вопросы, запрашивать недостающие сведения, выбирать браузерные инструменты и формировать аргументы на основе дерева доступности страницы, а также отказываться или передавать задачу на более высокий уровень исполнения, если данных недостаточно. Заявленная длина контекста — до 1 048 576 токенов; в README приведены результаты фиксированной оценки маршрутизации, включая 97 из 100 успешных первых структурированных вызовов. Репозиторий содержит эталонные веса BF16 с объединёнными весами; исходный LoRA-адаптер также приложен. Для исполнения внешних действий необходима среда WebBrain: она проверяет схемы инструментов, обоснованность аргументов и актуальность состояния браузера. Указана лицензия other, поэтому конкретные условия использования следует сверять с файлами лицензии репозитория.

xLAM-8x7b-r-GGUF — это GGUF-квантизированная версия языковой модели xLAM-8x7b-r, разработанной Salesforce и подготовленной для распространения пользователем bartowski. Модель ориентирована на text-generation, function calling, использование инструментов и создание LLM-агентов. Обучение связано с датасетом Salesforce/xlam-function-calling-60k; заявленный язык — английский. Модель основана на архитектуре, обозначенной в карточке тегом mistral, и имеет конфигурацию 8x7B; точные сведения о числе активируемых параметров и размере контекста не указаны. Доступны варианты от F16 до сильно сжатых квантов GGUF, включая Q8_0, Q6_K, Q5_K, Q4_K и Q3/Q2, с размером файлов примерно от 17 до 93 ГБ. Квантизация выполнена с использованием llama.cpp и метода imatrix; некоторые варианты оптимизированы для ARM и CPU-инференса. Сильная сторона модели — специализация на вызове функций и взаимодействии с внешними инструментами, а также широкий выбор квантов для компромисса между качеством и требованиями к памяти. Ограничения включают заявленную ориентацию на английский язык, отсутствие данных о мультимодальности и контекстном окне, а также снижение качества у малобитных вариантов. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование; для доступа к репозиторию требуется подтверждение согласия с лицензией.

Salesforce xLAM-v0.1-r — версия 0.1 серии Large Action Model от Salesforce, созданная дообучением Mixtral на широком наборе задач и сценариев для агентных систем с сохранением возможностей исходной модели. Это языковая модель с архитектурой Mixtral MoE и примерно 7,1 млрд параметров; она принимает текст и генерирует текст. Контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых агентных сценариев, включая вызов функций и инструментов, а также общие задачи генерации текста. Она совместима с vLLM и FastChat. Карточка описывает семейство как общее и ориентированное на function calling; отдельных поддерживаемых естественных языков не перечисляет. В README выпуск обозначен как исследовательский, а модель и данные не оценивались для всех прикладных сценариев. Перед использованием следует проверять точность, безопасность и справедливость ответов, особенно в высокорисковых задачах. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование.

Модель dinalzein/xlm-roberta-base-finetuned-language-identification — дообученная версия XLM-RoBERTa с классификационной головой для определения языка текста. Она принимает текст документа и относит его к одному из 20 языков: арабскому, болгарскому, немецкому, греческому, английскому, испанскому, французскому, хинди, итальянскому, японскому, нидерландскому, польскому, португальскому, русскому, суахили, тайскому, турецкому, урду, вьетнамскому или китайскому. Модель содержит 305,2 млн параметров, имеет контекст до 514 токенов и доступна в формате PyTorch. В README сообщается о точности 99,59% на оценочном наборе и 99,5% на тестовой выборке из 1000 предложений. Её можно использовать для автоматического определения языка коротких текстов и документов, например, перед маршрутизацией запросов или выбором языкового конвейера. Лицензия — MIT.

AppGen Qwen3 policy SFT — arm R — это полноценно дообученный чекпойнт Qwen/Qwen3-VL-8B-Instruct, подготовленный на пользовательских синтетических данных AppGen. Модель предназначена для интерпретации интерфейсов приложений и выдачи действий по строгой политике «одно действие за ответ» с учётом семантической истории до десяти шагов. Модель принимает текст и изображения, а её визуальный энкодер и aligner были заморожены при обучении. Для оценки авторы указывают использовать системный промпт из репозитория, включать явное рассуждение и передавать нормализованные целочисленные координаты в диапазоне 0–999. Чекпойнт не обучался на перечисленных в README наборах для оценки интерфейсных агентов. Лицензия — Apache 2.0.

Compactor-Qwen3.5-4B — модель Schneewolf Labs для сжатия контекста агентных диалогов. Она принимает историю сообщений, которая будет удалена при компактизации, и создаёт краткое резюме, сохраняющее задачу, найденные сведения и текущее состояние работы. Модель предназначена для вспомогательного запуска в egirl: основной агент продолжает работать в своём контексте, а отдельная компактная модель подготавливает сводку. Это плотная причинно-языковая модель семейства Qwen3.5 с архитектурой Qwen3_5ForCausalLM и 3,4 млрд параметров; максимальный контекст — 262 144 токена. Чекпойнт получен слиянием LoRA-адаптера ранга 64 с Lazarus-Ai/ReAligned-Qwen3.5-4B и опубликован в safetensors для Transformers. Автор сообщает о проверке на 45 отложенных окнах: в каждом сводном тексте присутствовала строка задачи, а полнота сохранения фактов выросла относительно базовой модели. Проверка охватывала транскрипты одного оператора и агентное программирование; применимость к другим областям не подтверждена. Среди ограничений автор отмечает обучение на разметке, подготовленной по суждениям GPT-5, и отсутствие сравнения с другими эпохами обучения. Лицензия — Apache-2.0.

ivelin/donut-refexp-combined-v1 — модель, разработанная пользователем Hugging Face ivelin и основанная на архитектуре vision-encoder-decoder Donut. Она обучена на наборе данных ivelin/rico_refexp_combined и предназначена для визуального понимания интерфейсов на английском языке. Модель решает задачи визуального вопросно-ответного взаимодействия с элементами пользовательского интерфейса по текстовым описаниям и пространственным или визуальным признакам. Она может помогать находить элементы рядом с указанной подписью, выбирать компоненты по цвету и интерпретировать инструкции вроде «выберите текстовое поле рядом с именем» или «нажмите зелёную кнопку». Модель ориентирована на сценарии автоматизации и навигации по графическим интерфейсам, где нужно сопоставить естественно-языковое описание с компонентом на изображении. Лицензия модели — AGPL-3.0.

Frankenstein-3.0 — дообученная модель RouterBrain для маршрутизации пользовательских запросов между специализированными моделями и инструментами в мультимодальном приложении. Она основана на Qwen/Qwen2.5-1.5B-Instruct, дообучена методом QLoRA на синтетических примерах маршрутизации, а веса объединены в fp16. Модель принимает текст и выдаёт структурированное решение в JSON, включая выбор специалиста и шаги для составных задач. RouterBrain предназначена для оркестрации диалогов, генерации и редактирования кода, создания изображений и видео, поиска в интернете, вычислений и поиска по загруженным текстовым документам. В README описана система с несколькими специалистами и инструментами; сам репозиторий содержит веса текстового маршрутизатора, а не все модели этой системы. Для RouterBrain указано окно контекста 32 768 токенов; модель имеет 1,5 млрд параметров и распространяется под лицензией Apache-2.0. В карточке приведена оценка 60% точности RouterBrain на разнообразном тестовом наборе; заявленная более высокая эффективность относится к маршрутизации всей системы с дополнительными уровнями проверки и резервным маршрутизатором. Маршрутизатор может ошибаться при самостоятельном использовании. Генерация изображений и видео в приложении требует GPU с достаточным объёмом видеопамяти; RAG поддерживает только TXT, веб-поиск основан на разборе HTML DuckDuckGo, а выполнение кода ограничено пятью секундами.

Fugu Ultra — старшая по производительности модель семейства Fugu от Sakana AI. Это не единая монолитная модель, а обученная система оркестрации нескольких агентов: языковая модель маршрутизирует задачи между ними. Доступный фрагмент карточки не содержит подробностей об архитектуре, размере, модальностях, языках, контексте или лицензии.

FunReason — дообученная авторами карточки модель на базе Qwen/Qwen2.5-Coder-7B-Instruct, предназначенная для улучшения вызова функций языковой моделью. Работа описывает методику автоматического уточнения обучающих данных и Self-Refinement Multiscale Loss, которая балансирует связность рассуждений и точность вызова функций. Модель относится к семейству Qwen2 и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке приведена рекомендация по использованию, но её конкретные настройки не раскрыты в доступном тексте. Лицензия — Apache-2.0.

GLM-4.5V-FP8 — мультимодальная vision-language модель, разработанная ZhipuAI на базе текстовой модели GLM-4.5-Air. Она предназначена для анализа изображений, видео и документов, визуального рассуждения, понимания интерфейсов и задач GUI-агента, а также точной локализации объектов на изображениях. Модель поддерживает китайский и английский языки и работает через библиотеку Transformers. Модель имеет архитектурную основу GLM-4.5-Air с 106 млрд параметров, из которых 12 млрд активны, и представлена в формате FP8. Она поддерживает режим Thinking Mode для выбора между быстрыми ответами и углублённым рассуждением, умеет выполнять анализ сцен и нескольких изображений, распознавать события в длинных видео, разбирать сложные графики и длинные документы, а также возвращать координаты ограничивающих рамок объектов в нормализованном формате. Заявлена высокая эффективность на 42 публичных vision-language бенчмарках среди моделей сопоставимого масштаба. Ограничения, включая размер контекста, перечень поддерживаемых форматов и требования к ресурсам, в README не указаны. Модель распространяется по лицензии MIT.

NVIDIA gpt-oss-120b-Eagle3-short-context — текстовая модель для генерации ответов, основанная на OpenAI gpt-oss-120b и дополненная модулем Eagle3 для спекулятивного декодирования. Базовая gpt-oss-120b использует архитектуру Mixture-of-Experts с 120 млрд общих и 5 млрд активируемых параметров; этот репозиторий содержит 739,4 млн параметров Eagle-модуля. Модель принимает текст и генерирует текст, а её контекстное окно составляет 131 072 токена. Модель предназначена для разработчиков чат-ботов, ИИ-агентов и RAG-систем, а также для диалогов и выполнения инструкций. Вариант short-context обычно предпочтителен для запросов с контекстом менее 8 тысяч токенов. Eagle3 предсказывает кандидаты следующих токенов, которые проверяет базовая модель, ускоряя генерацию при принятии нескольких токенов за шаг. Для запуска NVIDIA указывает TensorRT-LLM и GPU NVIDIA; README описывает совместимость с Blackwell. Модель оптимизирована для инференса на системах с GPU NVIDIA. Карточка заявляет готовность к коммерческому и некоммерческому использованию, но в метаданных лицензия обозначена как other, поэтому перед применением следует проверить условия лицензии репозитория. Качество и безопасность необходимо проверять на данных и сценариях конкретного приложения; опубликованные результаты приводят показатели принятия токенов Eagle на MT-Bench, а не оценку качества ответов.

DAXZEIT/GRM-2.6-Plus-0628-MTP-reasoning-i1-GGUF — это набор квантованных GGUF-сборок модели OrionLLM/GRM-2.6-Plus-0628, предназначенной для агентных сценариев, рассуждений, работы с инструментами и задач «изображение—текст». Базовая модель имеет около 27 млрд параметров, архитектуру на основе Qwen3.5/3.6 с MTP-слоем и гибридными gated DeltaNet-рекуррентными слоями. Для работы с изображениями требуется мультимодальный проектор mmproj. В README продемонстрирована конфигурация с контекстом до 262 144 токенов. Сборки используют reasoning-domain importance matrix, оптимизированную для задач рассуждения, а также повышенную точность для ключевого тензора ssm_out во всех DeltaNet-слоях. Доступны варианты квантования от IQ2_M до Q6_K размером примерно от 10,1 до 21,3 ГиБ; более высокая разрядность обычно обеспечивает меньшие отклонения от исходных bf16-весов и лучшее совпадение предсказаний, но требует больше памяти. Встроенный шаблон чата исправляет обработку вызовов инструментов внутри рассуждений и поддерживает агентные циклы. Модель подходит для локального запуска через llama.cpp, включая speculative decoding с MTP, обработки текста и изображений, а также приложений с большим контекстом. Ограничения связаны с потерями точности из-за квантования, требованиями к видеопамяти и необходимостью корректно настроить llama.cpp, мультимодальный проектор и параметры контекста. Поддерживаемые языки в README не указаны. Лицензия — Apache-2.0.

HieraMind I2W Qwen3-4B — дообученная модель-компонент системы HieraMind для преобразования запросов на естественном языке в планы оркестрации сервисов. Получив запрос пользователя и контекст найденного каталога сервисов, она генерирует структурированный ориентированный ациклический граф (DAG) с нужными функциями сервисов и зависимостями их выполнения. Модель основана на плотной архитектуре Qwen3ForCausalLM с 3,7 млрд параметров и контекстом до 262 144 токенов. Для обучения применялось групповое обучение с подкреплением с оценкой рабочих процессов, направляемой учителем; семантический поиск ограничивает каталог сервисов, подаваемый модели. В оценке HieraMind I2W указаны точность выбора узлов 96,0% и полнота 92,6%. Модель предназначена для оркестрации сервисов в разнородных сетевых и вычислительных инфраструктурах. Она генерирует текстовое структурированное представление рабочего процесса, но качество результата зависит от запроса и предоставленного контекста каталога; показатели оценки не описывают все сценарии эксплуатации. Распространяется под лицензией Apache-2.0.

Holo-3.1-35B-A3B-MTP-GGUF — это набор GGUF-квантизаций модели Hcompany/Holo-3.1-35B-A3B, подготовленный пользователем gbuzhf для запуска через llama.cpp. Модель предназначена для мультимодальных задач image-text-to-text, компьютерного управления и GUI-агентов, включая анализ скриншотов, описание элементов интерфейса, рассуждения по accessibility tree, выдачу координат, многошаговые действия и обработку ответов инструментов. Поддерживается английский язык. В поставку включены восстановленная голова multi-token prediction (MTP) для speculative decoding, vision projector для обработки изображений и importance matrix, откалиброванная на агентских и кодовых сценариях. Архитектура относится к классу MoE; в названии указано 35B-A3B. Доступны варианты IQ4_XS, Q3_K_M, Q4_K_M, Q5_K_S и Q6_K с размером файлов примерно от 14,27 до 30,01 ГБ, а также исходный BF16-вариант. Заявленная измеренная доля принятых черновых токенов MTP составляет 85% при скорости 204 токена в секунду на смешанном наборе запросов, однако это не результат отдельного GUI-бенчмарка. Сильные стороны модели — сочетание мультимодальности, возможностей компьютерного управления, speculative decoding и нескольких уровней квантизации. Для подачи изображений обязательно требуется отдельный файл vision projector; без него модель работает только с текстом. Более компактные варианты экономят память, но могут уступать старшим по качеству. Контекстное окно и точные требования к оперативной или видеопамяти в README не указаны. Артефакты распространяются по лицензии Apache-2.0.

Llama-3-Groq-8B-Tool-Use-GGUF — GGUF-квантизированная версия языковой модели Llama-3-Groq-8B-Tool-Use, разработанной Groq и подготовленной к распространению компанией Second State Inc. Модель предназначена для генерации текста и сценариев function calling: она может выбирать одну или несколько функций из предоставленных сигнатур и возвращать их имена и аргументы в структурированном формате. Модель работает с текстом на английском языке и поддерживает контекст до 8192 токенов. Для корректной работы с вызовами инструментов используется специальный шаблон запросов groq-llama3-tool, в котором описания функций передаются внутри XML-тегов tools, а результаты вызовов — внутри tool_call. Модель представлена в нескольких вариантах GGUF-квантизации от Q2_K до Q8_0; рекомендуемыми указаны Q4_K_M, Q5_K_M и Q5_K_S, обеспечивающие компромисс между размером файла и качеством. Сильные стороны модели — специализированная поддержка вызова инструментов, возможность локального запуска и широкий выбор уровней квантизации с размером файлов примерно от 3,18 до 6,60 ГБ для указанных вариантов. Ограничения включают поддержку только английского языка согласно карточке, текстовую модальность и снижение качества при использовании более агрессивной квантизации, особенно вариантов Q2 и Q3. Модель распространяется по лицензии llama3.

Mungert/Llama-xLAM-2-8b-fc-r-GGUF — это GGUF-версия модели Llama-xLAM-2-8b-fc-r из семейства xLAM-2, разработанного Salesforce AI Research. Модель предназначена для построения AI-агентов, которые интерпретируют намерения пользователя, планируют действия и вызывают внешние функции или инструменты. Она ориентирована на многоходовые диалоги и сценарии function calling, включая автоматизацию рабочих процессов и взаимодействие с API. Модель содержит около 8 млрд параметров, работает с текстом и поддерживает контекст до 128 тысяч токенов. В карточке указан английский язык. Данная версия сгенерирована в формате GGUF с использованием llama.cpp и включает экспериментальный подход к квантованию: отдельные важные слои переводятся на более высокую точность, что может улучшать качество при заданном уровне квантования, но увеличивает размер файла. При этом квантование в целом может снижать точность по сравнению с исходной моделью. Модель заявлена как эффективная для многоходового использования инструментов и стабильного выполнения агентских сценариев; семейство xLAM-2 демонстрирует высокие результаты на бенчмарках BFCL и τ-bench. Релиз предназначен только для исследовательских целей. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование ограничено условиями лицензии.