I.1Поиск и навигация по информации

Oblix/yolov10m-doclaynet_ONNX_document-layout-analysis — модель обнаружения объектов на базе YOLOv10m, предоставленная в формате ONNX для использования через Transformers.js. Она предназначена для анализа макета документа: находит и размечает текстовые блоки, заголовки, списки, таблицы, изображения, формулы, подписи, сноски и элементы колонтитулов. Модель принимает изображение страницы и выдаёт рамки обнаруженных областей с классами из набора DocLayNet. Карточка не сообщает размер модели или поддерживаемые языки. Репозиторий содержит ONNX-веса; сведения о лицензии в доступных данных отсутствуют.

Zabanshenas RoBERTa Base Mix — трансформерная модель для определения языка письменного текста, опубликованная m3hrdadfi. Она классифицирует текст, выбирая наиболее вероятный язык; в карточке приведены оценки для документов, предложений и фрагментов длиной 3–5 токенов. Модель основана на RoBERTa, содержит 137,8 млн параметров и рассчитана на контекст до 512 токенов. Для классификации использован набор WiLI-2018; карточка сообщает о поддержке множества языков. Модель подходит для автоматической маршрутизации и предварительной разметки текстов по языку, в том числе на уровне абзаца или короткого фрагмента. Метаданные указывают форматы PyTorch и TensorFlow и лицензию Apache-2.0. Приведённые в карточке метрики различаются в зависимости от длины входа, поэтому качество на коротких фрагментах может быть ниже, чем на абзацах.

OpenThai Chinda 4B — языковая модель iApp Technology, дообученная на базе Qwen3-4B для работы прежде всего с тайским языком. Она построена на плотной архитектуре Qwen3ForCausalLM и содержит около 3,7 млрд параметров. Модель поддерживает диалог и переключение между режимами рассуждения и обычной генерации; заявленное нативное окно контекста — 40 960 токенов по метаданным, а README рекомендует держать контекст в пределах 32 768 токенов для оптимальной работы и описывает расширение до 131 072 токенов с YaRN. Модель предназначена для тайскоязычных чат-ботов и RAG-систем, математических задач, генерации кода и локального запуска на пользовательских устройствах. README заявляет точность генерации на тайском 98,4% и высокие результаты в приведённых бенчмарках, но эти показатели представлены разработчиком и зависят от методики оценки. Для фактических вопросов без контекста модель может галлюцинировать; для таких сценариев рекомендуется предоставлять источники или использовать RAG. Модель выпущена по лицензии Apache 2.0, разрешающей коммерческое и частное использование, модификацию и распространение.

EIDORA/CLIP_VITB32 — лёгкая модель для получения векторных представлений изображений. Пакет разработан EIDORA на основе оригинальной модели OpenAI CLIP ViT-B/32 и экспортирован в формат ONNX для выполнения через ONNX Runtime. Модель предназначена для быстрого визуального группирования, поиска, извлечения похожих изображений, построения карт обнаружения и других embedding-сценариев, особенно на ноутбуках и в крупных проектах с первичной обработкой коллекций. Модель принимает изображение и возвращает нормализованный float32-вектор размерности 512, предназначенный для сравнения по cosine similarity. Используется центральное кадрирование, масштабирование значений на 1/255 и нормализация внутри ONNX-графа. К сильным сторонам относятся небольшой размер загрузки, низкое потребление памяти и высокая скорость работы на CPU. Ограничения включают меньшую пригодность для тонкого визуального сходства и специализированных предметных областей, а также возможное отражение смещений веб-данных, на которых обучалась исходная CLIP. Результаты сходства не следует использовать как единственное доказательство идентичности, авторства, намерений или чувствительных атрибутов. Пакет распространяется по лицензии MIT; EIDORA является разработчиком ONNX-конвертации, а не исходной модели.

DocLayout-YOLO Docstructbench — модель компьютерного зрения для обнаружения элементов структуры документов, основанная на семействе DocLayout-YOLO и представленная в формате ONNX. Она предназначена для поиска и классификации десяти типов областей: заголовков, обычного текста, иллюстраций и подписей к ним, таблиц и их подписей и сносок, а также формул и подписей к ним. Модель можно применять в конвейерах анализа документов и подготовки их структурированного представления. Модель рассчитана на входные изображения документов и выдаёт обнаруженные области с метками классов. Репозиторий указывает Apache-2.0 в качестве лицензии. Карточка не сообщает сведения о размере модели, контексте или языковой поддержке; применимость может зависеть от качества и разметки входного документа.

Fanar-2-27B-Instruct — арабско-английская большая языковая модель, разработанная Институтом компьютерных исследований Катара (QCRI) при Университете Хамада бин Халифы. Это плотный авторегрессионный трансформер на 28,3 млрд параметров, дообученный на основе google/gemma-3-27b-pt. Модель рассчитана на диалоговую генерацию текста, рассуждения на арабском языке и работу с инструментами; поддерживает литературный арабский и диалекты, включая заливный, левантийский и египетский, а также английский. Модель ориентирована на арабоязычные и двуязычные сценарии: ответы на вопросы, понимание текста, математические задачи и культурно адаптированный диалог. В README описаны режим выборочного рассуждения, вызов инструментов и меры снижения галлюцинаций. Метаданные указывают контекст до 131 072 токенов; карточка также приводит 32 768 токенов. Доступна в формате safetensors и совместима с Transformers. Лицензия — Apache-2.0. Как и другие генеративные модели, Fanar может выдавать предвзятые, оскорбительные или неверные ответы. Авторы не рекомендуют использовать её самостоятельно для решений с высокими ставками, включая медицинские, юридические и финансовые; для таких сценариев нужны проверки и дополнительные меры безопасности.

MuXodious/gpt-oss-20b-RichardErkhov-heresy — доработанная версия модели OpenAI gpt-oss-20b, созданная сообществом MuXodious с применением модифицированного движка abliteration Heretic и метода Magnitude-Preserving Orthogonal Ablation. Модель предназначена для генерации текста, локального использования, экспериментов, специализированных приложений и сценариев, требующих снижения частоты отказов отвечать. В README заявлены 6 отказов из 100 против 98 из 100 у исходной версии, а также низкое значение KL divergence 0,0802, однако эти показатели относятся к авторской методике оценки и не гарантируют качество или безопасность в практических задачах. Модель основана на gpt-oss-20b — MoE-модели OpenAI с 21 млрд параметров и 3,6 млрд активных параметров, рассчитанной на низкую задержку и локальное выполнение. Она поддерживает генерацию текста, настраиваемый уровень рассуждений, агентные сценарии, вызов функций, веб-браузинг, выполнение Python и структурированные ответы. Указано, что модель обучена для работы с форматом Harmony, который необходимо использовать для корректной работы. Также заявлена посттренировочная MXFP4-квантизация весов MoE, позволяющая запускать исходную gpt-oss-20b примерно в пределах 16 ГБ памяти. Языки и размер контекстного окна для данной версии в README не указаны. К сильным сторонам относятся существенно сниженная склонность к отказам, сохранение близости к исходной модели по метрике KL divergence и пригодность для локальных и исследовательских сценариев. Ограничения включают экспериментальный характер abliteration, возможное повреждение исходных способностей, отсутствие независимых подробных оценок качества и потенциальные риски использования менее ограниченной модели. Модель распространяется по лицензии Apache 2.0.

GravityOCR — дообученная модель trillionlabs на базе zai-org/GLM-OCR для распознавания текста и разбора документов по изображениям. Она использует архитектуру GlmOcrForConditionalGeneration с визуальным энкодером CogViT и текстовым декодером 0,5 млрд параметров; веса сохранены в формате bf16. Модель принимает изображение с запросом на распознавание текста, таблицы или формулы и выдаёт текст, HTML таблицы либо LaTeX формулы. Модель предназначена для OCR документов с обработкой отдельных областей страницы; для целых страниц README указывает на предварительное обнаружение макета. В режиме авторегрессивного декодирования она совместима с обычным конвейером GLM-OCR. Основное отличие — самоспекулятивное декодирование: модель черновым блоком предсказывает несколько токенов и проверяет их собственным авторегрессивным путём. На OmniDocBench v1.6 автор сообщает ускорение страниц в секунду в 1,32 раза относительно авторегрессивного режима при том же итоговом балле. Дообучение было преимущественно на английском; для китайского заявлен уровень базовой GLM-OCR. Лицензия — MIT. Самоспекулятивный режим требует кода репозитория и специальной настройки сервинга; результаты по скорости приведены для одного H100 и конкретного бенчмарка.

Grey-12b — языковая модель AIXON Lab на архитектуре Transformer/Mistral, созданная слиянием нескольких моделей методом della_linear на основе aixonlab/Aether-12b. Веса модели содержат около 12,1 млрд параметров, формат — safetensors; в README указан тип float16. Модель предназначена для генерации текста, ответов на вопросы и анализа. Основной язык — английский; README допускает поддержку других языков, но не уточняет их перечень. Контекстное окно составляет до 1 024 000 токенов по метаданным. Модель распространяется по лицензии Apache-2.0. Метрики качества для Grey-12b не представлены. Возможны смещения, унаследованные от обучающих данных и объединённых моделей, поэтому ответы следует проверять.

eleldar/language-detection — модель классификации текста, разработанная на базе XLM-RoBERTa и дообученная на датасете Language Identification. Она определяет язык текстовой последовательности, выбирая один из 20 классов: арабский, болгарский, немецкий, греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Модель использует XLM-RoBERTa с классификационной головой, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. В тестировании на сбалансированном наборе из 20 языков автор сообщает среднюю точность 99,6%; это значение относится к указанному набору и не гарантирует такую же точность на коротких, смешанных или нестандартных текстах. Модель распространяется по лицензии MIT.

NeuML/language-id — модель NeuML для определения языка по тексту. Это экспорт модели FastText Language Identification в формат staticvectors; инференс выполняется в Python с NumPy, а распознавание опирается на символьные n-граммы, что обеспечивает эффективную работу. Модель предназначена для автоматической классификации коротких или длинных текстовых фрагментов по языку. Её можно использовать для предварительной маршрутизации текста в многоязычных конвейерах обработки данных. Карточка указывает многоязычную поддержку, но не перечисляет отдельные языки. Модель распространяется по лицензии CC BY-SA 3.0.

lmstudio-community/Llama-3-Groq-8B-Tool-Use-GGUF — это GGUF-квантизация дообученной модели Llama 3 8B, разработанной Groq для использования инструментов и вызова функций. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, взаимодействия с API, работы со структурированными данными и выполнения сложных сценариев, в которых требуется выбирать и вызывать внешние инструменты. Модель поддерживает английский язык и использует текстовую модальность. В README указано 8 млрд параметров; размер контекста не указан. Для работы в LM Studio рекомендуется выбрать шаблон Llama 3. Ответы на вызовы функций оформляются в JSON внутри тегов tool_call, а доступные инструменты и их параметры передаются в системном запросе. Заявленная точность на Berkeley Function Calling Leaderboard составляет 89,06%. Сильная сторона модели — специализация на function calling, API-интеграциях и структурированном взаимодействии с инструментами. Ограничения включают отсутствие сведений о размере контекста и конкретных вариантах квантизации, а также ориентацию на английский язык; корректность вызовов зависит от качества описаний инструментов и используемого шаблона запроса. В метаданных указана лицензия llama3.

mistralai/Mistral-Nemo-Instruct-2407 дообучена автором репозитория nbeerbower на наборах jondurbin/truthy-dpo-v0.1 и kyujinpy/orca_math_dpo. Это плотная авторегрессионная модель семейства Mistral для генерации текста и диалога; метаданные указывают 12,1 млрд параметров, контекст до 1 024 000 токенов и формат Safetensors. Модель предназначена для ответов на инструкции, диалоговых сценариев и генерации текста, включая математические запросы и задачи на правдивость, представленные в данных дообучения. Базовая модель многоязычная и поддерживает вызов инструментов через соответствующий интерфейс. По README, дообучение выполнено в течение одной эпохи на A100 в Google Colab. Репозиторий приводит результаты Open LLM Leaderboard: среднее 24,72, IFEval 67,94 и BBH 29,54; эти оценки не гарантируют качество на конкретных пользовательских задачах. Лицензия — Apache-2.0.

Nanonets-OCR2-3B — мультимодальная модель компании Nanonets для распознавания документов и преобразования их содержимого в структурированный Markdown. Она дообучена на базе Qwen/Qwen2.5-VL-3B-Instruct, использует архитектуру Qwen2.5-VL с 3,1 млрд параметров и принимает изображения вместе с текстовыми запросами. Контекст модели — до 128 000 токенов. Модель извлекает текст, таблицы, формулы, водяные знаки и подписи, описывает изображения в документах, распознаёт рукописный текст и преобразует блок-схемы и организационные схемы в код Mermaid. Она также отвечает на вопросы по содержимому документа и поддерживает многоязычные документы, в том числе на русском, английском, китайском, французском, испанском, немецком, японском, корейском и арабском языках. Модель предназначена для подготовки документов к обработке LLM и извлечения из них структурированных данных. Повышение разрешения изображения может улучшить распознавание; для сложных таблиц README рекомендует подбирать параметры генерации и разрешение. Сведения о лицензии в предоставленных данных отсутствуют.

NuExtract 2.0 4B — мультимодальная модель для извлечения структурированных данных, разработанная NuMind и дообученная на базе Qwen2.5-VL-3B-Instruct. Она принимает текст и изображения, а запрос задаётся JSON-шаблоном с названиями полей и типами ожидаемых значений: строки, числа, даты, перечисления и массивы. Если нужные сведения не найдены, модель может вернуть null или пустой массив. Модель подходит для извлечения фактов из документов и изображений, заполнения заданных схем, а также генерации шаблонов извлечения по примерам или описанию на естественном языке. Семейство заявлено как многоязычное; архитектура — плотная Qwen2.5-VL для генерации текста по текстовым и визуальным входам. Размер составляет 3,1 млрд параметров, контекст — до 128 000 токенов. Для извлечения README рекомендует температуру, близкую к нулю; примеры в контексте могут помочь при неоднозначных задачах и требованиях к формату. В метаданных указана лицензия MIT, однако README для версии 4B указывает Qwen Research License, поэтому условия использования следует сверить с лицензией репозитория и базовой модели перед применением, особенно в коммерческих сценариях. Качество может снижаться на сложных или неоднозначных запросах; README не приводит подробных количественных результатов бенчмарка.

NuExtract-2-2B-experimental — экспериментальная мультимодальная модель NuMind для извлечения структурированных данных. Она дообучена на базе OpenGVLab/InternVL2_5-2B и принимает текст или изображения вместе с JSON-шаблоном, который задаёт нужные поля и типы значений. Модель извлекает дословные и обобщённые строки, числа, даты, значения из заданных списков, а также массивы этих типов. Если нужных сведений нет, она может вернуть null или пустой массив. Модель многоязычная; для извлечения рекомендуется температура около нуля. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

mlx-community/Ornith-1.5-35B-A3B-OptiQ-4bit — квантизированная версия модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная сообществом mlx-community с использованием MLX-native инструментария mlx-optiq. Это vision-language модель на архитектуре Qwen3.5-MoE: всего 35 млрд параметров, из которых активно используется около 3 млрд. Модель поддерживает работу с текстом и изображениями, а также оснащена головкой MTP для multi-token prediction и ускорения генерации. В карточке заявлен английский язык; размер модели на диске составляет около 24 ГБ. Модель предназначена для локального запуска на Apple Silicon и сценариев, связанных с рассуждениями, обработкой изображений и текста, function calling, использованием инструментов и агентными приложениями. Для подачи изображений сохраняется vision tower в формате bf16. Квантизация OptiQ использует смешанную точность: 113 компонентов представлены в 4-битном, а 399 — в 8-битном формате, с group size 64. Это снижает требования к памяти при сохранении более высокой точности для чувствительных слоёв, однако квантизация может ухудшать качество по сравнению с полной точностью, а для работы требуется совместимая MLX/OptiQ-среда и оборудование Apple Silicon. Распространяется по лицензии Apache 2.0. Контекст модели, точные показатели качества и поддерживаемый диапазон языков, кроме указанного английского, в README не приведены.

Qwen3.6 Flash — быстрая и эффективная мультимодальная модель из серии Qwen 3.6, разработанной Alibaba. Она принимает текст, изображения и видео и предназначена для запросов, где нужны ответы по визуальному или текстовому содержимому. Заявлена длина контекста до 1 млн токенов. Карточка также упоминает тарифы с оплатой по уровням, но не приводит подробностей о них. Данных о лицензии и конкретных ограничениях нет.

evsinlb/Qwen3.8-Flash-Next-oQ4e-fp16-mtp — это 4-битная MLX-квантизированная версия Qwen3.8-Flash-Next, разработанной командой Qwen. Сборка подготовлена с использованием oQ/oMLX и предназначена для запуска на Apple Silicon, прежде всего M1 и M2. Модель относится к архитектуре qwen4_exp и поддерживает генерацию текста, а также встроенные компоненты для работы с изображениями. Модель использует MoE-архитектуру с 512 экспертами и маршрутизацией top-10, 48 слоями и гибридом линейного и полноформатного внимания. В ней присутствует таблица PLE n-грамм объёмом 51,2 млрд параметров, Lightning MTP-голова, 4-битные веса с отдельными 5-битными улучшениями для чувствительных тензоров и контекст до 262 144 токенов. Размер модели на диске составляет около 99,82 GiB в 21 шарде; компоненты vision и MTP сохранены. Сильная сторона сборки — обработка длинных документов: она подходит для пакетного суммирования, извлечения данных и одноразового анализа больших текстов. На M2 Ultra заявлена высокая скорость предварительной обработки, около 525 токенов в секунду при контексте 8K, тогда как генерация выполняется примерно со скоростью 23–25 токенов в секунду. Ограничениями являются очень большой объём памяти, зависимость производительности от режима размещения PLE-таблицы и аппаратной платформы, а также сравнительно невысокая скорость декодирования для интерактивных сценариев. Модель распространяется по лицензии Apache 2.0. Формат — MLX safetensors; для запуска требуется совместимое окружение oMLX/MLX и достаточный объём оперативной памяти, поскольку только постоянно резидентная часть занимает около 70 GiB, а полное размещение модели требует примерно 100 GiB.

google/t5gemma-xl-xl-ul2 — предварительно обученная текстовая модель семейства T5Gemma от Google с энкодером XL и декодером XL, адаптированная с использованием UL2. Архитектура типа encoder-decoder преобразует текст в текст; веса сохранены в формате safetensors и предназначены для работы через Transformers. Модель рассчитана на английский язык. Модель подходит для генерации текста, суммаризации, ответов на вопросы и рассуждений; энкодер также можно применять в задачах классификации и понимания текста. Возможные сценарии — подготовка черновиков и кратких изложений, ответы по предоставленному тексту и NLP-исследования. В карточке не указаны размер в параметрах и длина контекста. К ограничениям относятся возможные фактические ошибки, влияние пробелов и смещений обучающих данных, трудности с неоднозначностью и сложными открытыми задачами. Лицензия — Gemma; для применения необходимо учитывать условия Gemma и политику допустимого использования.

Карточка модели Iambackup/Unlimited-OCR на Hugging Face совпадает с карточкой netfarm/Unlimited-OCR, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR для распознавания текста и разбора документов по изображениям. Разработчики представляют её как развитие DeepSeek-OCR, ориентированное на однократный разбор длинных документов. Модель доступна для запуска через Transformers и SGLang, в том числе через OpenAI-совместимый API. Модель содержит 559,7 млн параметров, использует плотную архитектуру UnlimitedOCRForCausalLM и принимает изображения с текстовым содержимым для преобразования в текст. Заявлена поддержка нескольких языков; контекст составляет 32 768 токенов. В карточке указана лицензия MIT. README описывает варианты инференса, но не приводит результатов оценки качества или подробных ограничений применимости.

ABrunsch/Unlimited-OCR-repacked — перепакованная копия мультимодальной модели Unlimited-OCR, разработанной Baidu. По README, веса соответствуют оригинальной версии; отличие репозитория — разбиение Safetensors на четыре файла для хранения и передачи. Модель предназначена для распознавания текста и разбора длинных документов по изображениям; README также описывает преобразование PDF-страниц в изображения для подачи модели. Архитектура — плотная UnlimitedOCRForCausalLM с 559,7 млн параметров и контекстом 32 768 токенов. Модель работает с изображениями и текстом, заявлена как мультиязычная. Метаданные указывают задачи image-text-to-text и text-generation; для сценария OCR основная задача — image-text-to-text. Репозиторий использует Transformers и формат Safetensors. Лицензия — MIT. Для запуска README приводит GPU-ориентированные варианты Transformers, vLLM и SGLang.

VARCO-VISION-2.0-1.7B — разработанная NCSOFT мультимодальная модель для диалогов по изображениям и тексту. Она построена на архитектуре LLaVA-OneVision и объединяет визуальную основу SigLIP2-so400m-patch16-384 с языковой моделью Qwen3-1.7B; размер языковой модели — 1,7 млрд параметров. Модель принимает несколько изображений в одном запросе и отвечает на вопросы о документах, таблицах, диаграммах и других визуальных материалах. Модель ориентирована прежде всего на корейский и английский языки, с особым вниманием к корейскому языку и культурному контексту. Она подходит для повседневных вопросов и ответов, суммаризации визуальной информации, распознавания текста на изображениях и локализации текстовых областей с помощью рамок. Компактная версия предназначена в том числе для запуска на смартфонах и ПК. В репозитории указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. Для работы рекомендуется Transformers версии 4.53.1 или новее, особенно для поддержки нескольких изображений.

xlm-v-base-language-id — модель классификации текста, разработанная Julien Simon и дообученная на базе facebook/xlm-v-base на датасете Google FLEURS. Она определяет язык по тексту и рассчитана на распознавание 102 языков. Модель построена на архитектуре XLM-RoBERTa и содержит около 805,7 млн параметров; максимальный контекст — 514 токенов. Модель подходит для автоматической сортировки и маршрутизации текстов по языку, а также для определения языка пользовательских сообщений и документов. В README указана точность 0,993 на оценочной выборке; обучение и оценка проводились на обучающей и валидационной выборках FLEURS. Доступны веса PyTorch, Safetensors и OpenVINO. Лицензия — MIT.

Карточка модели cocoirun/Yi-Ko-6B-instruct-v1.5-DPO на Hugging Face совпадает с карточкой cocoirun/Yi-Ko-6B-instruct-v1.5, поэтому описание составлено по ней. Yi-Ko-6B-instruct-v1.5 — инструктивная языковая модель, дообученная автором cocoirun на базе семейства Llama. По карточке, модель прошла SFT на примерно 110 тысячах примеров: использовались самостоятельно подготовленные корейские данные по истории, естественным наукам, математике, машинному чтению, анализу отзывов и грамматике, а также материалы Open-Orca-Ko, KoBEST и AIHub. Обучение выполнялось с помощью LoRA. Модель предназначена для генерации ответов и выполнения инструкций в задачах на корейском и английском языках, включая вопросы и ответы, машинное чтение, суммаризацию, перевод и анализ отзывов. Это плотная архитектура LlamaForCausalLM примерно на 5,9 млрд параметров с контекстом 2048 токена; репозиторий содержит веса Safetensors. Лицензия — CC BY-SA 4.0. Карточка не приводит количественных оценок качества. Данные обучения закрыты, поэтому состав и воспроизводимость SFT ограничены доступной информацией; контекст 2048 токена ограничивает работу с длинными документами.

google-bert/bert-base-multilingual-uncased — базовая многоязычная модель BERT, разработанная командой Google. Это плотная трансформерная архитектура BertForMaskedLM с 194,6 млн параметров, обученная на текстах Википедии для 102 языков с помощью masked language modeling и предсказания следующего предложения. Модель приводит текст к нижнему регистру, использует общую WordPiece-лексиконную таблицу размером 110 000 токенов и поддерживает контекст до 512 токенов. Модель предназначена для восстановления замаскированных слов и получения контекстных представлений текста, которые можно использовать при дообучении для классификации последовательностей и токенов, ответов на вопросы и других задач понимания текста. Она принимает текст и в задаче fill-mask выдаёт вероятные подстановки для пропущенных токенов. Это энкодерная модель, поэтому она не предназначена для свободной генерации текста. Нижний регистр стирает различия между прописными и строчными буквами; предсказания могут отражать смещения обучающих данных. Лицензия — Apache-2.0.

Chandra OCR 2 FP8 Dynamic — неофициальная общественная FP8-квантизованная версия модели datalab-to/chandra-ocr-2, подготовленная dangvansam с использованием llm-compressor и формата compressed-tensors для инференса через vLLM. Это мультимодальная модель распознавания документов, предназначенная для OCR изображений и PDF, извлечения текста с сохранением разметки и структуры документа, а также вывода в Markdown. Исходная модель поддерживает 90 языков, однако дополнительные характеристики архитектуры и размер контекста в карточке этой версии не указаны. Квантизация использует веса FP8 E4M3 с поканальными статическими масштабами и динамическую квантизацию активаций без калибровочного набора данных. Vision tower, lm_head, MoE-gates и некоторые компоненты attention сохраняются в bf16. Модель рассчитана прежде всего на последовательную обработку документов и работает с аппаратным ускорением FP8 на GPU Ada, Hopper и Blackwell; на Ampere используется программный fallback без ожидаемого прироста скорости, а Turing и более старые поколения не поддерживаются. В указанном тесте на RTX PRO 6000 Blackwell она обрабатывала страницу примерно за 5434 мс, что в 2,3 раза быстрее базовой версии bf16 при последовательной обработке. Основные преимущества — уменьшенное потребление памяти, отсутствие необходимости в калибровке и близкая к исходной bf16 точность в пределах обычного шума OCR. Ограничения связаны с зависимостью производительности от поколения GPU и режима пакетной обработки: для параллельного fan-out по страницам на Blackwell в README рекомендована другая квантизованная версия. Для запуска рекомендуется vLLM версии 0.17 или новее; также доступно использование через Transformers. Модель распространяется по лицензии OpenRAIL-M, унаследованной от upstream-модели: разрешено использование для исследований, личных проектов и стартапов с выручкой менее 2 млн долларов, но запрещено конкурирующее использование с размещённым API Datalab; более широкое коммерческое применение требует проверки условий лицензии и тарифов Datalab.

mlx-community/Falcon-OCR-bf16 — конвертированная в формат MLX модель Falcon-OCR от Falcon Perception Team института TII, подготовленная для запуска через mlx-vlm на компьютерах Apple Silicon. Это компактная раннеобъединённая vision-language-модель с 300 млн параметров, которая принимает изображение документа и формирует текстовый ответ; её применяют для распознавания текста, формул и таблиц на страницах документов. Модель предназначена для инференса с mlx-vlm и может использоваться, в частности, через MlxVlmEngine в Docling. Репозиторий содержит веса в bf16; для загрузки применяется пользовательский процессор FalconOCRProcessor и класс FalconOCRForCausalLM с trust_remote_code=True. Модель распространяется по лицензии Apache 2.0, как и исходная Falcon-OCR. В README отмечена ошибка AttributeError в конце шага конвертации, однако веса и токенизатор к этому моменту записываются и, согласно карточке, доступны для загрузки. Для использования требуется совместимое окружение MLX на Apple Silicon.

GLM-5.3-Flash-GSQ-RCO-GGUF — это сторонняя общественная GGUF-квантизация мультимодальной модели GLM-5.3-Flash от zai-org. Файлы созданы независимым сообществом с применением методов GSQ и RCO, разработанных Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Модель содержит около 320 млрд параметров и предназначена для работы с текстом и изображениями; для визуального ввода поставляется отдельный BF16 vision encoder и projector. Доступны варианты с эффективной точностью около 3,0 и 3,5 бит размером примерно 117,48 и 137,07 ГБ соответственно, а также vision projector размером 1,16 ГБ. GSQ выполняет посттренировочную скалярную квантизацию с настройкой сеток и масштабов, а RCO распределяет типы квантизации между тензорами с учётом общего бюджета размера. Эти варианты рассчитаны на запуск через совместимый GGUF-совместимый runtime, в README отдельно описана проверка с использованием llama.cpp. Основное преимущество модели — существенное уменьшение размера по сравнению с FP8-чекпойнтом объёмом около 328,3 ГБ при сохранении близких характеристик: в тестах вариант 3,5 бит показал точность 60,55% на MMLU-Pro против 61,95% у Q8_0, а вариант 3,0 бит — 60,00%. Ограничения включают очень большой объём файлов, требования к производительному оборудованию и некоторое ухудшение perplexity и качества относительно восьмибитного эталона; показатели зависят от выбранного варианта квантизации. В опубликованной оценке использовался контекст 2 048 токенов, но общий максимальный контекст модели не указан. Лицензия файлов — MIT.

MOSS-VL-Instruct-0708 — мультимодальная модель OpenMOSS, полученная supervised fine-tuning базовой MOSS-VL-Base-0708. Она предназначена для офлайн-анализа изображений и видео, следования инструкциям и визуальных рассуждений. Модель принимает текст, изображения и видео и использует архитектуру vision-language с cross-attention, связывающую визуальные представления с языковыми токенами. В README указаны 11 млрд параметров, контекст 256K и поддержка английского и китайского языков. Модель подходит для распознавания текста и разбора документов по изображениям, описания визуальных сцен, ответов на вопросы по видео, распознавания действий и локализации событий по времени. Для видео она использует абсолютные временные метки кадров, а XRoPE кодирует координаты времени, высоты и ширины. Выпущена под лицензией Apache-2.0. Ограничения включают плотные видео, узкоспециализированные области, мелкий текст на изображениях и задачи со строгими числовыми рассуждениями; для них могут потребоваться настройка выборки кадров, специальные инструкции или дообучение.