I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиЭто PyTorch-модель распознавания текста docTR CRNN VGG16-BN, созданная Mindee и размещённая rrainn как побайтовая копия официального предварительно обученного чекпойнта. Модель использует сверточный экстрактор признаков VGG16-BN, двунаправленный LSTM-декодер и CTC-декодирование для чтения текста на изображениях отдельных, уже выделенных слов. Лицензия — Apache-2.0. Модель предназначена для OCR-конвейеров: транскрибирования документов, распознавания текста в обрезанных изображениях слов, сравнительного тестирования OCR и инициализации дообучения для конкретного домена. Для обработки целых страниц её нужно сочетать с детектором текста; при использовании docTR соответствующую предобработку и декодирование обеспечивает recognition_predictor. Вход модели имеет форму 3 × 32 × 128 с RGB-каналами. Распознавание ограничено настроенным алфавитом латиницы и французского языка. Качество может снижаться на рукописном, изогнутом или вертикальном тексте, при размытии, низком контрасте и шрифтах, отличающихся от обучающих данных; состав этих данных подробно не раскрыт. Уверенность последовательности не гарантированно откалибрована, поэтому результатам для важных решений требуется проверка человеком и оценка на целевом наборе данных.
Dolphin 3.0 Qwen 2.5 0.5B — диалоговая языковая модель, дообученная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Qwen/Qwen2.5-0.5B. Она предназначена для локального использования в качестве универсального помощника и может отвечать на вопросы, помогать с кодом и математикой, а также работать с вызовами функций и агентными сценариями. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и поддерживает контекст до 32 768 токенов. Для общения применяется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. В обучении использовались наборы данных для инструкционного диалога, программирования, математики и вызова функций. Карточка модели описывает англоязычное назначение. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Это компактная модель, поэтому её ответы и сложные рассуждения могут уступать более крупным моделям; примеры выводов и результаты оценивания в карточке не представлены.
DSE-Phi3-Vidore-ft — биэнкодер для поиска по документам, разработанный на базе Phi-3.5-Vision и обученный авторами с использованием Tevatron. Он преобразует скриншоты документов в плотные векторные представления, сохраняя текст, изображения и структуру страниц, а также умеет кодировать текстовые запросы и текст документов для поиска по содержимому. Модель дообучена на части Docmatix-ir и затем на обучающем наборе ViDoRe; перед этим она прошла этап обучения на текстовом поиске и поиске по веб-страницам. Модель предназначена для семантического поиска и ответов на вопросы по PDF и другим визуально представленным документам: запрос и документ кодируются отдельно, после чего их векторы сравниваются по сходству. Архитектура — плотная Phi3VForCausalLM с 3,7 млрд параметров и контекстом 4096 токенов; библиотека — Tevatron. README приводит для модели DSE-Phi3-Vidore-V2 результат 82,9 nDCG@5 на таблице ViDoRE, но это число не следует приписывать данному чекпойнту. Модель распространяется по лицензии MIT. Ограничения: карточка не приводит отдельной оценки качества именно этого чекпойнта; для использования как поискового энкодера нужны подходящие процессор, схема кодирования и ранжирование по сходству векторов.
evomodel-1.9 — настраиваемая версия Qwen-3.5 9B, выпущенная в формате GGUF для запуска через llama.cpp. Модель дообучена с помощью LoRA-адаптера с параметрами r=8 и alpha=8, который затем объединён с базовой моделью. Поддерживает генерацию текста и диалоговый режим; заявленная длина контекста — до 262 тыс. токенов. Репозиторий содержит варианты Q8_0, NVFP4 и Q4_K_M; у NVFP4 и Q4_K_M эмбеддинги токенов и выходной слой сохранены в Q8_0. Для вызова инструментов модель выдаёт текст в специальном формате, который должен разбирать обслуживающий клиент: llama.cpp сам этот формат не обрабатывает. Лицензия — Apache-2.0.
Это инструктивно настроенная причинная языковая модель для генерации текста и диалогов в формате чата. Репозиторий разработан latent-artist; модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для ответов на запросы и ведения диалога через текстовые промпты. В метаданных также отмечен интерфейс для вызова инструментов. Она принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов, а карточка указывает английский язык. Веса доступны в формате safetensors, для загрузки рекомендуется библиотека Transformers. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или специальных ограничений применения.
Fleet Llama Release — экспериментальная архитектура маршрутизации запросов по специалистам, разработанная Noumenon Labs на базе Meta Llama 3.2 3B Instruct. Модель содержит общий языковой backbone и обученный семантический маршрутизатор, который выбирает подходящий эксперт для каждого пользовательского хода; затем выбранный маршрут сохраняется на время генерации ответа. Среди маршрутов указаны Python, медицина, математика, вызов функций, SQL и базовая модель. Специалисты реализованы как лёгкие адаптеры или дельты весов. Модель предназначена для диалоговой генерации текста с выборочной специализацией по содержанию запроса. В карточке указаны 3,2 млрд параметров, контекст до 131 072 токенов, поддержка интерфейса вызова инструментов и формат safetensors. Для загрузки требуется пользовательский код модели Transformers с параметром trust_remote_code=True. Авторы называют релиз экспериментальным; производительность зависит от оборудования и конфигурации, а универсальное ускорение не заявлено. Лицензия — Llama 3.2 Community License. Основа — Meta Llama 3.2 3B Instruct; языки в карточке модели напрямую не перечислены.
Карточка модели bryordas/g-20-16-5e-5 на Hugging Face совпадает с карточкой bryordas/d-40-16-5e-5, поэтому описание составлено по ней. Модель bryordas/d-40-16-5e-5 — дообученная автором bryordas разговорная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке указаны английский язык и формат safetensors. Для обучения использовались Unsloth и библиотека TRL; конкретный набор данных и специализированная область применения не описаны. Модель распространяется по лицензии Apache-2.0. Данных о качестве и ограничениях дообучения в карточке нет.
lokeshe09/gemma-4-31B-it-SFT_OCR_OCR — дообученная lokeshe09 мультимодальная модель Gemma 4 на 31 млрд параметров, созданная на основе unsloth/gemma-4-31B-it с использованием Unsloth и TRL. Модель принимает изображения и текст и предназначена для ответов на запросы по изображениям; название указывает на дообучение для OCR и извлечения текста из изображений. Модель использует плотную архитектуру Gemma4ForConditionalGeneration и распространяется в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о контекстном окне или конкретных языках OCR; метаданные карточки указывают английский язык.
GLiNER-small-PII — модель распознавания именованных сущностей, разработанная Vicgalle путём дообучения gliner-community/gliner_small-v2.5 на синтетическом наборе данных urchade/synthetic-pii-ner-mistral-v1. Она предназначена для поиска и классификации персональных данных в текстах, включая имена, организации, контакты, адреса, номера удостоверений, финансовые и медицинские сведения, а также другие идентификаторы. Модель использует архитектуру GLiNER и решает задачу token-classification. Карточка перечисляет поддержку английского, французского, немецкого, испанского, португальского и итальянского языков. Веса доступны в форматах PyTorch и Safetensors по лицензии Apache-2.0. Модель подходит для первичного выявления конфиденциальных фрагментов в документах и текстовых потоках. Порог извлечения влияет на полноту результатов; распознавание не гарантирует обнаружения всех сущностей и может требовать проверки человеком, особенно для чувствительных или регулируемых данных.
GPT-6 Astra Pro — вариант GPT-6 Astra от OpenAI, работающий с параметром reasoning.mode, установленным в pro. Он предназначен для получения более качественных ответов на сложные задачи. README направляет к документации OpenAI за дополнительными сведениями; данных об архитектуре, размере, модальностях, языках, контексте и лицензии в доступной карточке нет.
Granite Guardian 3.1 2B — модель IBM Research, дообученная на базе Granite 3.1 2B Instruct для выявления рисков в запросах пользователей и ответах моделей. Она предназначена для работы в режиме проверки по заданному шаблону: модель выдает оценку «да/нет» и может использоваться как защитный слой в корпоративных приложениях. Модель выявляет вредоносный контент, предвзятость, попытки обхода ограничений, насилие, ненормативную лексику, сексуальный контент и неэтичное поведение. В сценариях RAG она оценивает релевантность найденного контекста и ответа, а также обоснованность ответа контекстом. В агентных системах помогает обнаруживать ошибки и галлюцинации в вызовах инструментов. Архитектура — плотная GraniteForCausalLM, размер — 2,5 млрд параметров, контекст — до 131 072 токенов; модель принимает и генерирует текст. Она обучена и проверена только на английских данных. Модель рассчитана на оценку рисков, мониторинг и выборочные проверки при умеренных требованиях к стоимости и задержке. Отклонение от предписанного режима оценки может приводить к неожиданным или небезопасным ответам; возможна уязвимость к состязательным атакам. Для пользовательских определений рисков требуется тестирование. Лицензия — Apache 2.0.
Granite Guardian 3.3 8B — специализированная языковая модель IBM Research для оценки запросов и ответов систем на базе LLM по заданным критериям. Она построена на плотной архитектуре GraniteForCausalLM и содержит 8,2 млрд параметров; модель поддерживает контекст до 131 072 токенов и работает через Transformers. В карточке указана поддержка английского языка и формат весов safetensors. Модель предназначена для проверки безопасности и качества ответов в чат-ботах, RAG-системах и агентных сценариях. Встроенные критерии охватывают попытки обхода ограничений, вредный контент, ненормативную лексику, релевантность контекста и ответа, соответствие ответа источникам и ошибки в вызовах инструментов. Можно задавать собственные критерии и схему оценивания. В режиме рассуждений модель выдаёт подробные объяснения оценки, а в обычном режиме — только результат проверки. Модель обучена на сочетании человеческих аннотаций и синтетических данных, включая данные внутреннего red teaming; в README заявлены результаты выше других открытых моделей той же области на стандартных бенчмарках, но численные таблицы в предоставленном тексте опущены. Лицензия Apache 2.0. Она выдаёт текстовые оценки и обоснования, поэтому решения о безопасности или качестве в критичных сценариях следует проверять отдельно.
InternVL3-78B-GGUF — мультимодальная большая языковая модель семейства InternVL3, подготовленная Unsloth на основе OpenGVLab/InternVL3-78B. Модель предназначена для обработки текста и изображений, мультимодального восприятия и рассуждений, а также для сценариев с использованием инструментов, GUI-агентами, промышленным анализом изображений и восприятием 3D-сцен. Указанный вариант распространяется в формате GGUF. Архитектура модели следует схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-72B, объединённые через MLP-проектор. Размер модели — 78B параметров. Модель поддерживает мультимодальные входы и заявлена как многоязычная, однако точный перечень языков и размер контекстного окна в README не указаны. Обучение связано с набором данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание крупной языковой и визуальной подсистем, развитые возможности мультимодального анализа и рассуждений, а также поддержка специализированных агентных и визуальных задач. Ограничения включают высокие требования к вычислительным ресурсам, характерные для модели такого размера, и отсутствие в README подробных данных о производительности, контекстном окне и языковом покрытии. Лицензия указана как other с названием qwen; приведена ссылка на лицензию Qwen2.5-72B-Instruct.
Jellyfish-8B — языковая модель с 7,5 млрд параметров на архитектуре Llama, разработанная Хаочэнем Чжаном, Юяном Дуном, Чуанем Сяо и Масафуми Оямадой при поддержке NEC Corporation и Университета Осаки. Модель дообучена с помощью LoRA на базе Meta-Llama-3-8B-Instruct на части набора Jellyfish-Instruct и предназначена для работы с табличными данными на английском языке. Модель применяют для выявления ошибочных значений и заполнения пропусков в данных, сопоставления схем и сущностей, определения типов столбцов и извлечения атрибутов товаров. Она принимает текстовые запросы и генерирует текстовые ответы; контекст составляет 8192 токена. В карточке приведены результаты на наборах данных для этих задач, включая сравнение с другими моделями. Лицензия CC BY-NC-4.0 разрешает использование на некоммерческих условиях. Оценки в карточке относятся к конкретным наборам данных и настройкам промптов, поэтому сами по себе не гарантируют аналогичного качества на других данных.
Josiefied-Qwen3-8B-abliterated-v1 — диалоговая языковая модель, разработанная Gökdeniz Gülmez на основе Qwen/Qwen3-8B и дообученная для более свободных ответов с сохранением следования инструкциям и поддержки вызова инструментов. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и распространяется в формате safetensors для Transformers; заявленная длина контекста — 40 960 токенов. Модель предназначена для генерации текста в диалоге, ответов на инструкции и сценариев, где требуется менее ограниченная фильтрация ответов. Метаданные базовой модели указывают на многоязычные возможности, работу с рассуждениями и кодом. Автор перечисляет сторонние варианты в форматах GGUF и MLX, но карточка этого репозитория указывает safetensors. Модель разработал и распространяет Gökdeniz Gülmez. Лицензия в предоставленных данных не указана. Автор предупреждает о сниженной фильтрации безопасности: модель может выдавать чувствительный или спорный контент, а качество и безопасность ответов не гарантируются.
Это дообученная диалоговая модель yatokim на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она построена на плотной архитектуре семейства Llama и содержит 7,5 млрд параметров; модель предназначена для генерации текста и общения в формате инструкций, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. В карточке указан английский язык; базовая Kanana предназначена также для программирования, математики и вызова инструментов, однако README этой версии не описывает отдельную специализацию или результаты оценки качества. Репозиторий содержит веса safetensors, модель обучена с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0.
ohkwon/kanana-1.5-8b-instruct-2505-Safe-DPO — диалоговая языковая модель семейства Llama, представленная ohkwon. Это дообученная модель с 7,5 млрд параметров для генерации текста и общения; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель подходит для диалоговых сценариев и генерации ответов на текстовые запросы. В карточке указана лицензия Apache-2.0. Данных о специализации по предметной области или дополнительных ограничениях качества в доступных источниках нет.
Карточка модели KeefeBuild/Keefe-Discere-v3.0 на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v3.0-Final, поэтому описание составлено по ней. Keefe-Discere-v3.0-Final — языковая модель на архитектуре Qwen2, дообученная KeefeBuild на базе KeefeBuild/Keefe-Discere-v3.0-Ultimate с использованием Unsloth и Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; заявлены возможности диалога и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через интерфейс вызова инструментов. В карточке указан английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или конкретные ограничения качества.
KR-X-AI/krx-qwen2.5-7B-0.0.1 — дообученная языковая модель KR-X-AI на архитектуре Qwen2, предназначенная для генерации текста и диалогового взаимодействия. Она основана на KR-X-AI/krx-qwen2.5-7B-pt и содержит 7,1 млрд параметров; модель обучали с использованием Unsloth и библиотеки TRL. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. В метаданных указана поддержка английского языка, а также интерфейс для вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Bigheadjoshy/layoutlmv3_document_classification — дообученная Microsoft модель LayoutLMv3-base для классификации документов. Она относится к мультимодальному семейству Transformer для понимания текста, изображений и структуры документов; содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Для классификации использует архитектуру LayoutLMv3ForSequenceClassification. На оценочном наборе указаны accuracy 0,8859 и F1 0,8805. README не раскрывает набор данных, классы, сценарии применения и подробности обучения, поэтому результаты нельзя напрямую переносить на другие коллекции документов. Модель опубликована в формате Safetensors по лицензии CC BY-NC-SA 4.0, которая предусматривает некоммерческое использование и распространение на тех же условиях.
hmart824 выпустил эту модель как дообученную версию hmart824/layoutlmv3-finetuned_0.1 для классификации токенов в документах. Она построена на архитектуре LayoutLMv3 и содержит 151,8 млн параметров; формат весов — safetensors. README сообщает значение loss 0,0014 на оценочном наборе, но не описывает набор данных, метрики подробнее или целевые метки. Модель предназначена для разметки токенов с учётом текста и структуры документа. Лицензия CC BY-NC-SA 4.0 требует указания авторства, ограничивает коммерческое использование и распространяет производные материалы на тех же условиях.
Unsloth/Liquid AI LFM2-350M — компактная плотная гибридная языковая модель для генерации текста и диалогов, рассчитанная на запуск на периферийных устройствах. В этой карточке представлены веса постобученной модели LiquidAI/LFM2-350M в формате safetensors; архитектура сочетает 10 блоков коротких LIV-свёрток и 6 блоков группового внимания. Размер по метаданным — 444,6 млн параметров, контекст — до 32 768 токенов. Модель предназначена для локальных приложений с ограниченными ресурсами, включая многошаговые диалоги, извлечение данных, RAG, творческое письмо и агентные сценарии с вызовом инструментов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Разработчик отмечает скорость и эффективность на CPU, GPU и NPU, а также рекомендует дообучать модель для узких задач. Она не рекомендуется для задач, требующих обширных знаний или навыков программирования. В README указаны дистилляция от LFM1-7B, масштабное дообучение с учителем, DPO и итеративное объединение моделей в ходе подготовки семейства LFM2; однако метаданные этой конкретной карточки обозначают её как finetune от LiquidAI/LFM2-350M. Лицензия указана как other, поэтому условия использования следует сверить с лицензией в репозитории перед внедрением.
KoarAI разработала LFM2.5-350M-Thinking-0003 как дообученную компактную гибридную языковую модель на основе LiquidAI/LFM2.5-350M. Модель с архитектурой LFM2 и примерно 443,4 млн параметров предназначена для генерации текста и диалогов с пошаговыми рассуждениями: она формирует внутренние шаги решения, а затем выдаёт итоговый ответ. Модель дообучена на примерах математических и алгоритмических рассуждений, программирования, русскоязычных диалогов, многошаговых ответов и вопросов из STEM, бизнеса и права. Заявлены контекст до 128 000 токенов и поддержка английского и русского языков. Модель рассчитана на компактное развертывание и сценарии, где нужны ответы с инструкциями, рассуждениями или вызовом инструментов; качество рассуждений и кодогенерации на малой модели может быть ограничено. Репозиторий содержит веса в формате safetensors. Указана лицензия Apache-2.0. Для локального запуска через llama.cpp и совместимые приложения автор отдельно указывает квантованные версии GGUF в другом репозитории.
wanlige/li-14b-v0.4-slerp0.1 — объединённая модель генерации текста семейства Qwen2, созданная с помощью mergekit методом SLERP из wanlige/li-14b-v0.4 и sthenno-com/miscii-14b-0218. Модель содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. Модель подходит для диалогов и генерации текста; в метаданных также указана поддержка интерфейса вызова инструментов. README приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но не описывает специализированные области применения или точный перечень поддерживаемых языков. Файлы представлены в формате safetensors и предназначены для использования с Transformers. Сведения о лицензии в предоставленных данных отсутствуют.
LiLT-InfoXLM — базовая модель SCUT-DLVCLab, созданная объединением предварительно обученных InfoXLM и Language-Independent Layout Transformer (LiLT). Архитектура сочетает языковой RoBERTa-энкодер с лёгким трансформером разметки страницы; модель содержит 305,2 млн параметров и рассчитана на контекст до 514 токенов. Веса доступны в форматах PyTorch и Safetensors, лицензия — MIT. Модель предназначена для извлечения признаков и дообучения на задачах понимания структурированных документов: классификации изображений документов, разбора документов и ответов на вопросы по ним. LiLT позволяет сочетать трансформер разметки с предварительно обученными RoBERTa-энкодерами для разных языков. В карточке указаны InfoXLM как языковой компонент и поддержка обработки изображений; отдельные языки и готовые пользовательские сценарии не перечислены.
Ling-3.0-Tiny-NVFP4-GGUF — квантизированная в формат GGUF версия модели inclusionAI/Ling-3.0-tiny, опубликованная WhiskyAKM. Это компактная гибридная MoE-модель с архитектурой hybrid-linear: в ней чередуются Kimi Delta Attention и Multi-Head Latent Attention, а блок FFN использует 128 маршрутизируемых экспертов. Всего модель содержит 7,9 млрд параметров, из которых на каждом токене активны 1,3 млрд; контекстное окно — 256 тысяч токенов. Модель предназначена для диалогов, рассуждений и вызова инструментов, включая локальный запуск через llama.cpp. Она поддерживает английский и китайский языки, а режим рассуждений можно включать и отключать. Представлен файл с квантизацией NVFP4, рассчитанной на ускорение на оборудовании NVIDIA с поддержкой FP4. Лицензия — MIT. Качество и скорость могут зависеть от аппаратного ускорения и используемой конфигурации llama.cpp.
naturalseeker/Llama3.1_8I_ARC — дообученная naturalseeker диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана на основе unsloth/Meta-Llama-3.1-8B-Instruct и обучалась с использованием Unsloth и Hugging Face TRL. Модель предназначена для диалогов и генерации текста; доступен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Веса опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или отдельные возможности дообучения, поэтому качество для конкретных задач следует оценивать на подходящих примерах.
Typhoon T1 3B (Research Preview) — открытая языковая модель рассуждений, разработанная SCB 10X на основе Typhoon 2 3B Instruct. Это плотная авторегрессионная модель семейства Llama с 3,2 млрд параметров, предназначенная для диалога, следования инструкциям и решения задач, где полезно рассуждать перед выдачей ответа. Модель поддерживает контекст до 131 072 токенов и работает с текстом на английском и тайском языках. Модель рассчитана на математические и научные вопросы, задачи общего рассуждения и широкий круг запросов; авторы сообщают об улучшениях на GPQA, MMLU Pro и математических бенчмарках относительно базовой Typhoon 2 3B Instruct. В версии от 1 февраля 2025 года добавлена генерация рассуждений на тайском и улучшено следование инструкциям. Доступен интерфейс вызова инструментов. Лицензия — Llama 3.2 Community License. Это исследовательская предварительная версия; как и другие генеративные модели, она может иногда выдавать небезопасные или ошибочные ответы, а поведение при рассуждениях требует дальнейшей оценки.
Мультимодальная модель-реранкер NVIDIA для поиска документов, содержащих ответ на текстовый запрос. Она оценивает пары «запрос — документ» и возвращает логит релевантности, чтобы переупорядочить кандидатов, найденных поисковой или векторной системой, в том числе в конвейере vision RAG. Документы могут быть представлены текстом, изображением страницы или слайда либо их сочетанием; модель рассчитана на работу с текстом, таблицами, диаграммами и инфографикой. Модель построена как cross-encoder на архитектуре Eagle VLM: визуальный энкодер SigLIP 2 на 400 млн параметров сочетается с языковой моделью семейства Llama Nemotron. В карточке указано около 1,7 млрд параметров; выход декодера агрегируется усреднением, а ранжирование выполняет дообученная бинарная классификационная голова. Для обучения использовались изображения и контекст до 2048 токенов; при оценке заявлены текстовые, визуальные и комбинированные входы, контекст до 10240 токенов и до шести тайлов изображения. Длинные входы обрезаются. Модель предназначена для повышения качества мультимодального поиска и ответов на вопросы по большим корпусам, когда нужно переоценить ограниченный набор кандидатов; запуск на всех документах корпуса не масштабируется. NVIDIA сообщает о готовности к коммерческому использованию. Лицензия в метаданных указана как other, а конкретные условия использования в предоставленных сведениях не раскрыты.
Модель ryugyosoft/llm-jp-4.1-8b-thinking-onw — версия llm-jp/llm-jp-4.1-8b-thinking, преобразованная для запуска движком onw на Intel NPU. Исходную модель разработал проект LLM-jp Национального института информатики Японии; это плотная Llama-подобная языковая модель на 7,8 млрд параметров с контекстом до 65 536 токенов, ориентированная прежде всего на японский язык и также поддерживающая английский. Модель генерирует ответы в диалогах, выполняет рассуждения и поддерживает вызов инструментов через OpenAI-совместимый API. Она предназначена для локального использования на компьютерах с Intel Core Ultra и NPU; README сообщает о сегментированных весах INT4 и отдельном выходном слое INT8. Указаны хорошие результаты исходной модели в японских диалоговых тестах и проверка совпадения генерации после преобразования, однако скорость и доступность зависят от NPU и объёма памяти. Обучение для этой версии не проводилось. Лицензия — Apache 2.0.