II.8Инженерия данных и аналитика

DeepSeek-OCR-2-GGUF — это квантованные варианты мультимодальной vision-language OCR-модели DeepSeek-OCR-2, разработанной командой DeepSeek AI и распространяемой в репозитории SandLogicTechnologies. Модель работает с изображениями и текстом, поддерживает многоязычные сценарии и ориентирована на распознавание текста, понимание структуры документов и извлечение структурированной информации. Модель предназначена для оцифровки сканов, обработки счетов, чеков, форм, таблиц, книг и отчетов, анализа сложных визуальных документов, выделения пар «ключ-значение», а также построения корпоративных OCR-конвейеров, систем поиска и индексации документов. Заявлены возможности анализа макета, взаимосвязей между абзацами, таблицами и формами, включая работу с рукописным и цифровым содержимым. Размер исходной модели составляет около 3 млрд параметров. Доступны GGUF-варианты IQ3_M, IQ4_NL и IQ4_XS для локального запуска через llama.cpp; их размер составляет примерно 1,35, 1,59 и 1,53 ГБ соответственно вместо 5,47 ГБ для 16-битной версии. Ключевое преимущество вариантов GGUF — сниженные требования к памяти и возможность локального развертывания на потребительском оборудовании и периферийных устройствах. IQ4_NL ориентирован на более высокую сохранность качества распознавания, IQ4_XS предлагает баланс между точностью, скоростью и потреблением памяти, а IQ3_M обеспечивает максимальную компактность, но может сильнее терять качество на плотных макетах, рукописном тексте и сложных документах. Для модели не указаны точное максимальное окно контекста, полный перечень поддерживаемых языков и количественные результаты бенчмарков. Лицензия — MIT.

KnightsAnalytics/distilbert-NER — модель для распознавания именованных сущностей, основанная на архитектуре DistilBERT. По доступной карточке модели dslim/distilbert-NER с тем же названием и назначением, она дообучена на английской версии датасета CoNLL-2003 и выделяет в тексте людей, организации, местоположения и сущности категории MISC. Модель содержит около 66 млн параметров; максимальная длина контекста — 512 токенов. Метаданные указывают формат ONNX. Модель подходит для извлечения сущностей из англоязычных новостей и похожих текстов. Обучение на CoNLL-2003 ограничивает перенос результатов на существенно отличающиеся типы текста; возможны ошибки на сложных предложениях и смещения, связанные с обучающими данными. Для модели dslim/distilbert-NER указана лицензия Apache-2.0; идентичность лицензии репозитория KnightsAnalytics отдельно не подтверждена.

Florence-2-large-TableDetection — мультимодальная модель обнаружения таблиц на изображениях, созданная ucsahin дообучением microsoft/Florence-2-large-ft на выборке ucsahin/pubtables-detection-1500-samples. Она принимает изображение и текстовый запрос и предсказывает ограничивающие рамки таблиц. Модель предназначена для автоматизации поиска таблиц в документах и изображениях перед извлечением данных или дальнейшим анализом. Модель основана на архитектуре Florence-2 и распространяется в формате safetensors. В README приведён результат Loss 0.7601 на оценочной выборке; этот показатель сам по себе не описывает точность обнаружения и зависит от протокола оценки. Лицензия — MIT. Для загрузки в Transformers README указывает необходимость trust_remote_code=True.

Granite-Docling-258M — компактная мультимодальная модель IBM Research для преобразования документов, предназначенная для работы в составе библиотеки Docling. Она принимает изображение документа и формирует текстовое представление, сохраняя структуру и элементы страницы; модель не рассчитана на общее понимание изображений. Архитектура основана на Idefics3 и включает визуальный энкодер SigLIP2 Base Patch16-512, pixel shuffle-проектор и языковую модель Granite 165M. Модель обучена распознавать текст и код, формулы и диаграммы, извлекать структуру документов и отвечать на вопросы об их элементах. Основной язык — английский; поддержка японского, арабского и китайского заявлена как экспериментальная. Для преобразования документов IBM рекомендует использовать модель через Docling. Модель выпущена под лицензией Apache 2.0. Среди ограничений — возможны ошибки распознавания и галлюцинации, особенно при генерации; качество для общих задач понимания изображений не является целью модели. Поддержка японского, арабского и китайского языков экспериментальная.

Карточка модели oneboxs/granite-docling-258M на Hugging Face совпадает с карточкой ibm-granite/granite-docling-258M, поэтому описание составлено по ней. Granite-Docling-258M — компактная мультимодальная модель IBM Research для преобразования документов, предназначенная для работы в составе библиотеки Docling. Она принимает изображение документа и формирует текстовое представление, сохраняя структуру и элементы страницы; модель не рассчитана на общее понимание изображений. Архитектура основана на Idefics3 и включает визуальный энкодер SigLIP2 Base Patch16-512, pixel shuffle-проектор и языковую модель Granite 165M. Модель обучена распознавать текст и код, формулы и диаграммы, извлекать структуру документов и отвечать на вопросы об их элементах. Основной язык — английский; поддержка японского, арабского и китайского заявлена как экспериментальная. Для преобразования документов IBM рекомендует использовать модель через Docling. Модель выпущена под лицензией Apache 2.0. Среди ограничений — возможны ошибки распознавания и галлюцинации, особенно при генерации; качество для общих задач понимания изображений не является целью модели. Поддержка японского, арабского и китайского языков экспериментальная.

furiosa-ai/harrier-oss-v1-0.6b — производная версия мультиязычной модели эмбеддингов Harrier OSS v1 от Microsoft, подготовленная FuriosaAI для запуска на ускорителях RNGD с Furiosa-LLM. В основе лежит плотная decoder-only архитектура Qwen3; модель содержит 507,9 млн параметров и принимает текст, выдавая L2-нормированные векторы размерности 1024. Контекст — до 32 768 токенов. Модель предназначена для поиска по смыслу, кластеризации, оценки семантического сходства, классификации текстов, поиска параллельных текстов и ранжирования. Она учитывает инструкцию к задаче: для запросов рекомендуется добавлять краткое описание задачи в формате «Instruct: …\nQuery: …», а документы передавать без этой инструкции. Помимо Furiosa-LLM, исходная модель поддерживает запуск через Sentence Transformers и Transformers. Модель опубликована под лицензией MIT. В карточке указана поддержка многих языков, включая английский, арабский, китайский? [исправить]

Lacaille-MoT-4B-Supreme2 — языковая модель prithivMLmods на архитектуре Qwen3, дообученная на базе prithivMLmods/Qwen3-4B-ft-bf16. Модель содержит 3,7 млрд параметров и рассчитана на контекст до 40 960 токенов; веса представлены в формате safetensors. Она дообучена на Mixture of Thoughts с кластерами по программированию, математике и естественным наукам, а также на наборе данных для рассуждений о коде. Модель предназначена для генерации текста в технических сценариях: написания и анализа кода, решения математических задач, объяснения научных понятий и создания структурированных материалов в LaTeX, Markdown, JSON, CSV и YAML. Она поддерживает диалог и интерфейс вызова инструментов. В карточке заявлена поддержка английского языка; перечень языков программирования отдельно не уточняется. Разработчик позиционирует модель как компактную для запуска на GPU среднего уровня и в автономных средах. Ограничения: она ориентирована на технические и символьные задачи, может хуже справляться с общим разговором и длинным творческим текстом, а контекст может быть недостаточен для анализа нескольких документов или больших кодовых баз. Лицензия — Apache-2.0.

onelevelstudio/MPNET-0.3B — многоязычная модель эмбеддингов предложений, основанная на архитектуре XLM-RoBERTa и библиотеке Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В README указана модель sentence-transformers/paraphrase-multilingual-mpnet-base-v2 как описание и источник сведений о назначении; разработчиком базовой модели названа команда Sentence-Transformers. Модель содержит 305,2 млн параметров и принимает текстовые фрагменты с контекстом до 514 токенов. Доступны веса и реализации в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Поддерживаются многие языки, в том числе русский и английский. Лицензия — Apache-2.0. Подходит для семантического поиска, оценки сходства текстов и кластеризации предложений и абзацев. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы или разметку; качество зависит от языка и предметной области, а предел контекста ограничивает длину обрабатываемого фрагмента.

Multilingual-E5-large — мультиязычная модель текстовых эмбеддингов, основанная на XLM-RoBERTa-large и обученная контрастивным методом на смеси мультиязычных данных. В карточке перечислены авторы Liang Wang, Nan Yang, Xiaolong Huang, Binxing Jiao, Linjun Yang, Daxin Jiang, Rangan Majumder и Furu Wei. Модель имеет 24 слоя, размер эмбеддинга 1024 и около 658,7 млн параметров. Она предназначена для поиска по текстам, семантического сходства, поиска парафраз и межъязыкового сопоставления текстов, а также для получения признаков для классификации и кластеризации. Для поиска нужно добавлять к запросу префикс «query:», а к документу — «passage:»; для симметричных задач и получения признаков используется префикс «query:». Поддерживается 100 языков семейства XLM-RoBERTa, включая русский, однако качество может снижаться на языках с малым объёмом обучающих данных. Модель принимает текст и выдаёт векторные представления. Контекст ограничен 512 токенами: более длинные тексты обрезаются. Лицензия — MIT.

paraphrase-xlm-r-multilingual-v1 — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерности 768. Она основана на XLM-RoBERTa, содержит 305,2 млн параметров и предназначена для вычисления сходства по смыслу, семантического поиска и кластеризации текстов. Контекст модели составляет до 514 токенов. Модель обучена командой Sentence-Transformers и поддерживает многоязычные тексты. Для получения векторов её можно использовать через библиотеку Sentence-Transformers или через Transformers с подходящей операцией pooling. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель подходит для поиска похожих предложений, группировки текстов и построения семантического поиска. Она выдаёт векторные представления, а не готовые ответы; качество может зависеть от языка и предметной области. Лицензия — Apache-2.0.

Qianfan-OCR — мультимодальная модель для анализа документов, разработанная командой Baidu Qianfan. Модель объединяет распознавание текста, анализ структуры и понимание содержимого документа в единой архитектуре vision-language и преобразует изображения документов, например, в Markdown или структурированный вывод JSON и HTML. Модель содержит 4 млрд параметров и состоит из визуального энкодера Qianfan-ViT, языковой модели Qwen3-4B и межмодального адаптера. Она поддерживает изображения с разрешением до 4K, контекст языковой модели — 32 тыс. токенов с возможностью расширения до 131 тыс. README заявляет поддержку 192 языков. Среди сценариев — извлечение таблиц и ключевых сведений, анализ макета и порядка чтения, ответы на вопросы по документам и понимание диаграмм. Режим Layout-as-Thought позволяет сначала построить структурное представление страницы, что полезно для сложных макетов. Модель предназначена для распознавания и анализа документов, а не для универсальной генерации текста. Качество может зависеть от сложности макета и типа документа; заявленные результаты бенчмарков приведены в README и сами по себе не гарантируют качество на конкретных данных. Репозиторий распространяется по лицензии Apache-2.0.

Essential AI разработала rnj-1-instruct — открытую плотную языковую модель на 8,3 млрд параметров, дообученную на базе EssentialAI/rnj-1. Модель построена на архитектуре Gemma 3 Text и предназначена для диалогового использования, генерации кода и решения задач STEM. Она поддерживает контекст до 32 768 токенов и работает с библиотекой Transformers; веса опубликованы в формате Safetensors под лицензией Apache-2.0. Модель подходит для написания и анализа кода, исправления ошибок в проектах и работы с инструментами в агентных сценариях. Также она решает математические и научно-технические задачи, поддерживает заполнение пропусков в коде и может помогать с интерактивным анализом данных. В README приведены результаты сравнительных оценок по кодированию, использованию инструментов, математике и научному рассуждению. Карточка не указывает естественные языки, на которых модель специально обучена или которые она поддерживает. Заявленные возможности и оценки описаны разработчиком; фактическое качество зависит от задачи и способа применения.

SLANet_plus — модель PaddlePaddle для распознавания структуры таблиц на изображениях. Она определяет расположение строк, столбцов и ячеек и преобразует таблицу в редактируемое представление, например HTML. Модель предназначена для использования как отдельный модуль распознавания или в составе конвейеров PaddleOCR и PP-StructureV3. В составе полного конвейера распознавание структуры может сочетаться с обнаружением и распознаванием текста, классификацией таблиц и анализом макета документа; конвейер способен формировать HTML или Excel. Карточка также показывает поддержку английского и китайского языков. Модель распространяется по лицензии Apache-2.0. Качество итогового распознавания зависит от остальных модулей конвейера: сама модель структуры таблиц не выполняет полный OCR и ограничена извлечением структуры табличной области.

Supertron2-24B — плотная языковая модель на 24 млрд параметров, разработанная Surpem на основе mistralai/Devstral-Small-2-24B-Instruct-2512 и дообученная для следования инструкциям. Это причинный Transformer для генерации текста; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Модель предназначена для помощи в программировании, структурированных рассуждений, математических и научных объяснений, общего диалога и повседневного выполнения инструкций. Она может помогать писать, объяснять и отлаживать код, разбирать ошибки, планировать реализацию, сравнивать варианты, решать арифметические и алгебраические задачи, писать и кратко пересказывать тексты. Карточка указывает английский язык; длина контекста не приведена. Модель может выдавать ошибочный код, неполные рассуждения и устаревшие сведения. Важные результаты следует проверять; модель не подходит как единственный источник для медицинских, юридических, финансовых решений и задач, связанных с безопасностью.

voyage-4-nano-ONNX — это ONNX-экспорт модели voyage-4-nano от Voyage AI, подготовленный для CPU-инференса с библиотекой sentence-transformers и интеграции с Vespa. Модель предназначена для получения векторных представлений текстов, семантического поиска, построения retrieval-систем и сравнения текстов по косинусному сходству. Модель имеет 306,6 млн параметров, формирует L2-нормализованные эмбеддинги размерности 2048 и использует mean pooling. В метаданных указана нативная длина контекста 40960 токенов; в README максимальная длина последовательности указана как 32K токенов. Доступны варианты FP32 размером около 1,3 ГБ и INT8 для AVX512 размером 332 МБ; INT8 рекомендован для экономии памяти и сохраняет косинусное сходство около 0,96 относительно FP32. Для retrieval-сценариев запросы следует кодировать с префиксом «Represent the query for retrieving supporting documents: », а документы — без префикса. Модель распространяется по лицензии Apache 2.0. Она предназначена для эмбеддингов, а не для генерации текста; качество INT8 может немного отличаться от FP32, а использование требует ONNX Runtime или sentence-transformers с ONNX-бэкендом.

Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

thoddnn/all-MiniLM-L6-v2-4bit — компактная англоязычная модель семейства MiniLM для получения векторных представлений предложений и оценки их семантического сходства. Модель основана на sentence-transformers/all-MiniLM-L6-v2 и преобразована в формат MLX; README указывает использование mlx-embeddings. Модель содержит 25,9 млн параметров, использует 4-битное представление и поддерживает контекст до 512 токенов. Модель предназначена для семантического поиска, сопоставления предложений, кластеризации текстов, дедупликации и построения retrieval-компонентов. Она возвращает нормализованные эмбеддинги, между которыми можно вычислять сходство скалярным произведением. Обучение исходной модели связано с наборами данных для поиска, вопросов и ответов, текстового сходства и извлечения информации. Основные преимущества — небольшой размер, низкие требования к памяти и возможность запуска в MLX на совместимом оборудовании. Модель ориентирована на английский язык и не предназначена для генерации текста, диалогов или прямого ответа на вопросы. Длина входа ограничена 512 токенами, а 4-битная квантизация может снижать точность по сравнению с исходной моделью. Лицензия — Apache-2.0.

alexakkol/BAAI-bge-base-en-nowr-1-2 — модель эмбеддингов на базе BERT, опубликованная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384, пригодные для семантического поиска, кластеризации и сравнения текстов. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства; поддерживает контекст до 512 токенов и содержит около 40 млн параметров. Модель рассчитана на получение текстовых эмбеддингов для поиска по смыслу и группировки текстов. В метаданных указаны sentence-similarity и feature-extraction; при этом название репозитория указывает на вариант без русского языка, но README не подтверждает языковой охват. Файлы модели представлены в safetensors. Лицензия в предоставленных данных не указана.

jondurbin/bagel-8x7b-v0.2 — экспериментальный SFT-чекпойнт, созданный jondurbin на основе Mixtral-8x7B-v0.1 с помощью инструментария Bagel. Это языковая модель с архитектурой Mixtral MoE и 7,1 млрд параметров; она поддерживает контекст до 32 768 токенов и представлена в формате safetensors. Модель предназначена для диалогов и следования инструкциям, ответов на вопросы по предоставленному контексту, задач на рассуждение, математику, программирование и SQL, а также для ролевых диалогов. Для настройки использовались обучающие части разнообразных наборов данных: среди прочего, датасеты для чтения и понимания текста, общих знаний, математики, кода, чатов и ролевых сценариев. Карточка описывает модель после этапа SFT и до применения DPO; для общения предусмотрено несколько шаблонов промптов, а шаблон по умолчанию основан на Llama 2. Модель лицензирована по Apache 2.0. README называет настройку экспериментальной, поэтому качество на отдельных задачах следует проверять в целевом сценарии.

BEE-spoke-data/bert-plus-L8-v1.0-syntheticSTS-4k — модель эмбеддингов на архитектуре BERT, разработанная BEE-spoke-data на базе BEE-spoke-data/bert-plus-L8-v1.0-allNLI_matryoshka. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов и кластеризации. Модель дообучена на синтетических данных о сходстве текстов; поддерживает Matryoshka-размерности 768, 512, 256, 128 и 64, а контекст составляет до 4096 токенов. Её можно применять для семантического поиска, сравнения сходства текстов и группировки документов по смыслу. Репозиторий содержит веса Safetensors и формат ONNX; модель рассчитана на английский язык. Лицензия — Apache-2.0.

barisaydin/bge-base-en — англоязычная модель встраивания текста из семейства BGE (BAAI General Embedding), представленная в карточке FlagEmbedding. Она кодирует текст в плотные векторы для поиска релевантных документов, семантического поиска, кластеризации и классификации, а также для использования в векторных базах данных и системах RAG. Архитектура — BERT; модель содержит 136,7 млн параметров и обрабатывает до 512 токенов. Для поиска по короткому запросу в длинных документах авторы рекомендуют добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:», но не к документам. В README рекомендован переход на BAAI/bge-base-en-v1.5: у текущей версии распределение оценок сходства менее удобно. Абсолютные значения сходства могут быть высокими даже у несхожих предложений, поэтому порог следует подбирать на данных конкретной задачи и ориентироваться на относительный порядок результатов. Модель распространяется по лицензии MIT.

BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

CALE-XLM-R — модель Sentence-Transformers на базе FacebookAI/xlm-roberta-large, дообученная для преобразования текста в плотные векторы размерности 1024. Она предназначена для поиска семантически близких текстов, кластеризации и вычисления сходства предложений. Модель принимает текст и формирует эмбеддинги; мультиязычная базовая XLM-RoBERTa поддерживает 100 языков. Контекст модели составляет 514 токенов. Репозиторий распространяется по лицензии Apache-2.0.

Cerium-Qwen3-R1-Dev — компактная плотная языковая модель, разработанная prithivMLmods на базе Qwen/Qwen3-0.6B и дообученная на наборах для программирования, математики и научных рассуждений, включая данные rStar-Coder и примеры трасс рассуждений DeepSeek R1. Модель содержит около 508 млн параметров, использует архитектуру Qwen3ForCausalLM и формат весов safetensors; длина контекста — до 40 960 токенов. Модель предназначена для генерации кода и объяснений, решения математических и научных задач, технического диалога и создания структурированных материалов. Она может формировать LaTeX, Markdown, JSON, CSV и YAML. Карточка заявляет поддержку нескольких языков программирования и ориентирует модель на разработчиков, преподавателей и исследователей, а метаданные указывают английский язык. Модель рассчитана на работу при ограниченных вычислительных ресурсах. Среди ограничений карточка отмечает слабую пригодность для творческого письма и обычного общения, а также то, что контекст может быть недостаточен для анализа нескольких документов или целой кодовой базы. Лицензия — Apache-2.0.

DeepSeek-Coder-V2-Lite-Instruct — языковая модель для генерации текста и программного кода, разработанная компанией DeepSeek и представленная в GGUF-квантизации сообществом LM Studio. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для выполнения инструкций по программированию, завершения кода, решения задач в области информатики и математического рассуждения. Модель использует архитектуру Mixture of Experts (MoE): общий объём составляет 16 млрд параметров, из которых при обработке активируются 2,4 млрд. Она дообучалась на 6 трлн высококачественных токенов с кодом и поддерживает контекст длиной до 128k токенов. В README языки явно не перечислены; указано, что официальный шаблон иногда приводит к генерации текста на китайском языке. К сильным сторонам относятся специализация на программировании, следовании инструкциям, завершении кода и высокая скорость вывода благодаря разреженной активации параметров. Для работы в LM Studio требуется версия 0.2.25 или новее, а Flash Attention необходимо отключить. Модель распространяется по лицензии DeepSeek License; конкретные условия следует уточнять в файле LICENSE исходного репозитория. README не содержит подробных результатов бенчмарков и не описывает ограничения по безопасности или точности, поэтому сгенерированный код и ответы требуют проверки.

DeepSeek-OCR-Latest-BF16.I64 — оптимизированная версия DeepSeek-OCR, представленная в карточке как открытая мультимодальная vision-language модель для OCR. Она извлекает печатный и рукописный текст из изображений и сканов документов, формируя обычный текст или Markdown. Модель может сохранять структуру документа, включая заголовки, таблицы и списки, и учитывать расположение элементов страницы. Для обработки изображений документов она использует визуально-языковой подход; README описывает 3B VLM backbone, а метаданные указывают 559,7 млн параметров и контекст 8192 токена. Модель рассчитана на Transformers и поддерживает настройки реализации attention, включая Flash Attention и SDPA. В карточке указана лицензия MIT. README сообщает о тестировании BF16-варианта на NVIDIA H200 MIG; практическое качество и совместимость с другими конфигурациями могут отличаться.

dots.ocr-1.5 — мультимодальная модель семейства dots_ocr, предназначенная для распознавания и разбора документов и других изображений. В README указана архитектура с визуальным энкодером на 1,2 млрд параметров и языковой моделью на 1,7 млрд параметров; метаданные Hugging Face указывают размер 1,5 млрд параметров. Модель принимает изображения и может обрабатывать PDF, извлекая текст и структуру страницы. Модель предназначена для многоязычного OCR, разбора макета и преобразования содержимого документов в структурированные данные и Markdown. Она также распознаёт экранные интерфейсы и текст в сценах, выполняет задачи поиска и подсчёта объектов, а графики, диаграммы и другие структурированные изображения может преобразовывать в SVG-код. Контекст составляет 131 072 токена; в карточке заявлена поддержка письменностей разных языков, а метаданные перечисляют английский и китайский. Лицензия — MIT. Среди ограничений README отмечает трудности с комплексными таблицами и математическими формулами, а также недостаточную надёжность преобразования графики в SVG; возможны отдельные сбои разбора. Это компактная модель, поэтому качество может различаться на сложных визуальных задачах.

E5-large-v2 — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang, Xiaolong Huang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 24 слоя и размерность эмбеддинга 1024. Общее число параметров — 433,9 млн, максимальная длина входа — 512 токенов. Модель преобразует тексты в векторы для семантического поиска, сопоставления запросов и документов, оценки сходства предложений, поиска перефразировок, кластеризации и использования эмбеддингов как признаков для классификации. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к документу — «passage: »; для симметричного сравнения обычно используют «query: » перед обоими текстами. Модель предназначена только для английских текстов; более длинные входы обрезаются до 512 токенов. При использовании косинусного сходства важнее относительный порядок оценок, чем их абсолютные значения. Расхождения в версиях PyTorch и Transformers могут вызывать небольшие различия результатов. Лицензия — MIT.

mlx-community/Falcon-OCR-bf16 — конвертированная в формат MLX модель Falcon-OCR от Falcon Perception Team института TII, подготовленная для запуска через mlx-vlm на компьютерах Apple Silicon. Это компактная раннеобъединённая vision-language-модель с 300 млн параметров, которая принимает изображение документа и формирует текстовый ответ; её применяют для распознавания текста, формул и таблиц на страницах документов. Модель предназначена для инференса с mlx-vlm и может использоваться, в частности, через MlxVlmEngine в Docling. Репозиторий содержит веса в bf16; для загрузки применяется пользовательский процессор FalconOCRProcessor и класс FalconOCRForCausalLM с trust_remote_code=True. Модель распространяется по лицензии Apache 2.0, как и исходная Falcon-OCR. В README отмечена ошибка AttributeError в конце шага конвертации, однако веса и токенизатор к этому моменту записываются и, согласно карточке, доступны для загрузки. Для использования требуется совместимое окружение MLX на Apple Silicon.

granite-20b-code-instruct-8k-GGUF — это инструкционная языковая модель для генерации и работы с программным кодом, созданная на базе ibm-granite/granite-20b-code-base-8k. Исходная модель разработана IBM Granite, а данная версия преобразована в формат GGUF пользователем Mungert с использованием llama.cpp. Модель предназначена для написания, объяснения и исправления кода, а также для задач, связанных с SQL, математикой, вызовом функций и ассистированием разработчикам. Модель содержит около 20 млрд параметров и поддерживает контекст до 8K токенов. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. В представленных результатах оценивается генерация, объяснение и исправление кода на Python, JavaScript, Java, Go, C++ и Rust. Показатели pass@1 находятся в диапазоне от 18,3% до 60,4%, однако результаты помечены как непроверенные, поэтому их следует рассматривать как ориентировочные. К сильным сторонам относятся специализация на программировании, поддержка нескольких языков разработки и возможность локального запуска через GGUF-совместимые инструменты. Версия использует дополнительное повышение точности отдельных слоёв при квантовании, что, по заявлению автора сборки, может улучшать качество при небольшом увеличении размера файла. Ограничения включают зависимость характеристик от выбранного варианта квантования, непроверенный статус приведённых бенчмарков и отсутствие данных о фактических требованиях к памяти и производительности. Лицензия модели — Apache 2.0.