IV.11Патенты, товарные знаки и интеллектуальная собственность

Granite-3.1-3B-A800M-Base — базовая языковая модель IBM Granite Team для генерации текста и задач преобразования текста. Это декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE), доступный в формате safetensors и содержащий 352,3 млн параметров. Модель расширяет контекст Granite-3.0-3B-A800M-Base с 4K до 128K токенов; для адаптации к длинному контексту использовалось дополнительное обучение примерно на 500 млрд токенов. Модель предназначена для суммаризации, классификации и извлечения информации из текста, ответов на вопросы, а также как основа для специализированного дообучения. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель выпущена IBM под лицензией Apache 2.0. Модель не прошла выравнивание по безопасности и может выдавать проблемный или недостоверный текст; для небольшой модели также отмечен риск дословного воспроизведения обучающих данных. Как базовая модель, она может требовать дообучения под конкретные инструкции и сценарии.

evsinlb/Qwen3.8-Flash-Next-oQ4e-fp16-mtp — это 4-битная MLX-квантизированная версия Qwen3.8-Flash-Next, разработанной командой Qwen. Сборка подготовлена с использованием oQ/oMLX и предназначена для запуска на Apple Silicon, прежде всего M1 и M2. Модель относится к архитектуре qwen4_exp и поддерживает генерацию текста, а также встроенные компоненты для работы с изображениями. Модель использует MoE-архитектуру с 512 экспертами и маршрутизацией top-10, 48 слоями и гибридом линейного и полноформатного внимания. В ней присутствует таблица PLE n-грамм объёмом 51,2 млрд параметров, Lightning MTP-голова, 4-битные веса с отдельными 5-битными улучшениями для чувствительных тензоров и контекст до 262 144 токенов. Размер модели на диске составляет около 99,82 GiB в 21 шарде; компоненты vision и MTP сохранены. Сильная сторона сборки — обработка длинных документов: она подходит для пакетного суммирования, извлечения данных и одноразового анализа больших текстов. На M2 Ultra заявлена высокая скорость предварительной обработки, около 525 токенов в секунду при контексте 8K, тогда как генерация выполняется примерно со скоростью 23–25 токенов в секунду. Ограничениями являются очень большой объём памяти, зависимость производительности от режима размещения PLE-таблицы и аппаратной платформы, а также сравнительно невысокая скорость декодирования для интерактивных сценариев. Модель распространяется по лицензии Apache 2.0. Формат — MLX safetensors; для запуска требуется совместимое окружение oMLX/MLX и достаточный объём оперативной памяти, поскольку только постоянно резидентная часть занимает около 70 GiB, а полное размещение модели требует примерно 100 GiB.

Dolphin-v2-f32-GGUF — это мультимодальная vision-language модель для интеллектуального разбора документов. Базовая модель Dolphin-v2 разработана ByteDance, а данный репозиторий prithivMLmods содержит её варианты в формате GGUF с разными уровнями квантования. Модель основана на Qwen2.5-VL-3B, насчитывает около 3 млрд параметров и использует vision encoder Native Resolution Vision Transformer (NaViT) вместе с авторегрессионным декодером. Модель предназначена для OCR и структурированного понимания цифровых документов, PDF-файлов, отсканированных и сфотографированных страниц. Она распознаёт заголовки, абзацы, формулы с выводом в LaTeX, таблицы в HTML, код, списки, изображения и другие элементы, возвращая их с абсолютными координатами на странице. Двухэтапная архитектура сначала различает цифровые и фотографированные документы, а затем применяет параллельный поэлементный или целостный разбор. Поддерживаются английский и китайский языки; заявлены сценарии локального использования в медицине, юриспруденции и финансах. К сильным сторонам относятся высокая точность анализа структуры и порядка чтения, распознавания формул и таблиц, устойчивость к искажениям, наклонам и перспективе, а также возможность локального запуска. Для вариантов модели указаны размеры от примерно 791 МБ до 12,3 ГБ; производительность исходной модели заявлена на уровне 0,1729 кадра в секунду на GPU с 8–12 ГБ VRAM, при этом она может превосходить универсальные VLM по скорости и точности. Конкретные характеристики зависят от выбранного GGUF-варианта: более сильное квантование уменьшает требования к памяти, но может снижать качество. Размер контекста и подробные требования к программному обеспечению не указаны. Лицензия — Apache 2.0.

Ovis2.6-30B-A3B — мультимодальная большая языковая модель семейства Ovis, разработанная ATH-MaaS. Она предназначена для диалога и анализа изображений: отвечает на вопросы по документам и нескольким страницам, распознаёт текст, извлекает сведения из таблиц и диаграмм, а также рассуждает по визуальным данным. Модель использует архитектуру Mixture-of-Experts с 30 млрд параметров, из которых при генерации активны примерно 3 млрд. Карточка указывает контекст до 64 тыс. токенов и обработку изображений с разрешением до 2880×2880; метаданные каталога указывают контекст 262 144 токена. README описывает возможность активного анализа областей изображения, включая кадрирование и поворот, с помощью визуальных инструментов. Модель принимает текст и изображения и выдаёт текст. В карточке не перечислены поддерживаемые языки, поэтому языковые коды не указаны. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. README предупреждает, что разработчики не гарантируют полного отсутствия проблем с авторскими правами или нежелательного содержания.

sahilchachra/Unlimited-OCR-AWQ — это квантизированная 4-битная версия мультимодальной модели baidu/Unlimited-OCR, разработанная пользователем sahilchachra. Модель предназначена для multilingual OCR и разбора документов: преобразования изображений документов в Markdown или обычный текст, извлечения текста с координатами, анализа макета, обработки рисунков, графиков и диаграмм, визуального вопросно-ответного взаимодействия, а также разбора многостраничных документов и PDF. Архитектура включает vision tower DeepEncoder на базе SAM-ViT-B и CLIP-L/14 с входом 1024×1024 и 16-кратным уменьшением, линейный projector и текстовый декодер DeepSeek-V2 MoE. Декодер содержит 12 слоёв, скрытое состояние размером 1280, 64 маршрутизируемых и 2 общих эксперта, при этом на токен выбираются 6 экспертов; нулевой слой является dense. Текстовые линейные слои квантизированы методом AWQ по схеме W4A16 с int4, симметричными группами по 128 элементов, тогда как vision tower, projector, embeddings, lm_head, маршрутизатор, нормы и отдельные слои сохранены в BF16. Модель поддерживает мультиязычные сценарии и работает с изображениями. К сильным сторонам относятся существенное уменьшение размера весов при сохранении совместимости с архитектурой Transformers, поддержка распознавания текста вместе с координатами ограничивающих рамок и долгого разбора документов. В README указано, что на тестовом документе результат OCR совпал с BF16-версией. Для запуска требуется custom remote code с параметром trust_remote_code=True, transformers 4.57.x, compressed-tensors и CUDA GPU; также возможен запуск в совместимых средах, включая vLLM. Модель распространяется по лицензии MIT, унаследованной от базовой модели.

Infinity-Parser2-Flash — мультимодальная модель понимания и разбора документов от Infly. Она основана на плотной архитектуре Qwen3.5 и предназначена для быстрого извлечения содержимого и структуры из изображений документов и PDF с выводом в Markdown или структурированном виде. Модель решает задачи OCR, анализа макета и порядка чтения, распознавания таблиц, графиков и химических формул, а также визуальных вопросов по документам. В README заявлены низкая задержка и скорость вывода в 3,68 раза выше, чем у предыдущей Infinity-Parser-7B; подробные показатели Flash в карточке не приведены. Модель работает с изображениями и текстовыми инструкциями, а её основной заявленный языковой охват — английский и китайский. Лицензия — Apache-2.0. Качество может снижаться на многоязычных документах, сложных графиках и повернутых элементах таблиц; модель не сохраняет тонкое форматирование текста и может ненадёжно выполнять сложные многошаговые инструкции по изображению.

IndexTeam разработала Index-1.9B-32K — плотную авторегрессионную языковую модель примерно на 2 млрд параметров с контекстом до 32 768 токенов. Модель прошла продолжительное предобучение и дообучение с учителем на длинных текстах и инструкциях для работы с контекстами свыше 32 тысяч токенов. Модель предназначена для генерации текста и диалогового взаимодействия, особенно для перевода и суммаризации длинных документов. В README также приведены результаты теста NeedleBench на извлечение сведений из длинного контекста. Указанные результаты отражают оценки разработчиков и не гарантируют качество на других данных. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует проверить в карточке модели. Модель может выдавать неточные, предвзятые или нежелательные ответы; разработчики рекомендуют проверять результаты и проводить оценку безопасности перед внедрением.

GRM-OCR — компактная модель оптического распознавания символов от OrionLLM на 300 млн параметров, дообученная на основе tiiuae/Falcon-OCR. Она использует архитектуру Falcon-OCR с ранним объединением изображений и текста в одном Transformer без отдельного визуального энкодера и принимает изображения документов для извлечения текста. Модель предназначена для распознавания печатного и рукописного текста на сканах и фотографиях, а также для извлечения таблиц, формул, заголовков, подписей и других элементов документов. Для страниц со сложной структурой доступен двухэтапный сценарий: PP-DocLayoutV3 выделяет области, после чего GRM-OCR распознаёт содержимое каждого фрагмента. Модель рассчитана на локальный запуск, периферийные устройства и высокопроизводительную обработку; заявлена совместимость с vLLM. Репозиторий выпущен по лицензии Apache 2.0. README описывает OCR для разных типов документов, однако не приводит перечень поддерживаемых языков или измерения качества; результаты могут зависеть от качества изображения и сложности макета.

Llama-3-Taiwan-8B-Instruct — диалоговая языковая модель на архитектуре Llama 3, опубликованная yentinglin и дообученная для пользователей традиционного китайского языка и английского. Карточка описывает семейство Llama-3-Taiwan и приводит сведения о версии на 70B параметров, тогда как метаданные этого репозитория указывают 7,5 млрд параметров; поэтому характеристики размера и примеры оценки версии 70B нельзя напрямую переносить на вариант 8B. Модель предназначена для многоходового диалога, генерации и понимания текста, ответов в сценариях RAG, форматированного вывода, извлечения сущностей и вызова функций. В карточке описано обучение на корпусе традиционного китайского и английского языков с общими и отраслевыми материалами, в том числе из юридической, производственной, медицинской и электронной областей. Модель принимает текст и генерирует текст; метаданные указывают контекст 8192 токена, архитектуру LlamaForCausalLM и формат safetensors. Модель выпущена по лицензии Llama 3. Её заявленная специализация — традиционный китайский, включая тайваньский вариант, и английский. README относится преимущественно к версии 70B, поэтому приведённые там результаты испытаний, подробности корпуса и демонстрации не подтверждают качество именно версии 8B. Для работы с этой инструкционной версией в карточке рекомендовано задавать системное сообщение.

NuExtract-2.0-8B-GGUF — мультимодальная и многоязычная модель компании NuMind, предназначенная для структурированного извлечения информации. Она принимает текстовые и визуальные входные данные, а также JSON-шаблон с описанием требуемых полей, и возвращает извлечённые значения в структурированном виде. Модель подходит для обработки документов, форм, изображений и других источников, где требуется преобразовать неструктурированные данные в JSON. Модель основана на Qwen2.5-VL-7B-Instruct и содержит около 8 млрд параметров; распространяется в формате GGUF для запуска с совместимыми средствами, включая llama.cpp. Поддерживаются строковые значения, verbatim-string для дословного извлечения, числа, даты и времени в формате ISO, массивы, перечисления и multi-label-категории. При отсутствии подходящей информации модель возвращает null или пустой массив. Для задач извлечения рекомендуется температура, равная или близкая к 0. К сильным сторонам относятся специализированная настройка на извлечение, поддержка текста и изображений, многоязычность и возможность задавать целевую структуру результата. README не указывает точный размер контекста, перечень поддерживаемых языков и количественные результаты бенчмарка; также не описывает ограничения качества для отдельных языков или типов документов. Модель распространяется по лицензии MIT.