II.8Инженерия данных и аналитика

mlx-community/Qwen2.5-Coder-14B-bf16 — конвертированная в формат MLX версия Qwen/Qwen2.5-Coder-14B, подготовленная сообществом mlx-community с помощью mlx-lm 0.19.3. Это плотная авторегрессионная модель семейства Qwen2, предназначенная для генерации кода и диалогового взаимодействия с ним; размер модели — 14 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. Она подходит для генерации фрагментов и функций кода, помощи при программировании и работы с запросами о коде. Метаданные указывают английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка этой версии подтверждает конвертацию формата, но не описывает отдельного дообучения поверх базовой модели.

RexBERT-base-embed-pf-v0.4 — модель Sentence Transformers, дообученная thebajajra на базе thebajajra/RexBERT-base-embed-pf-v0.1 на наборе nomic-embed-supervised-data. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения текстов по косинусному сходству. Архитектура включает ModernBERT и mean pooling; модель рассчитана на последовательности до 1024 токенов по README, а метаданные указывают контекст до 7999 токенов. Модель предназначена для семантического поиска и оценки сходства текстов, а также для поиска перефразировок, кластеризации и подготовки признаков для классификации. Данные не указывают на специализацию по языку или прикладной области. Репозиторий использует формат safetensors и библиотеку sentence-transformers. Сведения о лицензии в предоставленных источниках отсутствуют.

rStar-Coder-Qwen3 — дообученная на наборе microsoft/rStar-Coder компактная плотная языковая модель семейства Qwen3, разработанная prithivMLmods на базе Qwen/Qwen3-0.6B. Она предназначена для генерации кода и технических объяснений, математических и научных рассуждений, а также структурированных ответов в форматах вроде JSON, LaTeX, CSV и YAML. Модель имеет около 508 млн параметров, принимает текст и поддерживает контекст до 40 960 токенов. Карточка заявляет поддержку кода на нескольких языках программирования, но метаданные указывают английский как язык карточки; естественные языки обучения отдельно не перечислены. Небольшой размер рассчитан на запуск при ограниченных вычислительных ресурсах. Распространяется по лицензии Apache-2.0. Модель ориентирована на программирование, STEM-задачи и структурированную генерацию, а не на универсальный разговор или творческое письмо. README предупреждает, что длинный контекст может затруднять анализ нескольких документов или крупных кодовых баз, а обычный чат и эмоциональный стиль могут быть слабее специализированных технических ответов. Заявления о возможностях основаны на карточке модели и не сопровождаются в предоставленных данных результатами бенчмарков.

rubra-11b-h — диалоговая языковая модель на архитектуре Mistral, дообученная Sanjay920 на коде и разговорных данных. Она создана на основе mistralai/Mistral-7B-Instruct-v0.2 с целью улучшить рассуждения, сохранив способности исходной модели следовать инструкциям и вести диалог. Модель содержит 10,6 млрд параметров, использует формат весов safetensors и поддерживает контекст до 32 768 токенов; для чата применяются маркеры [INST] и [/INST]. Модель подходит для многошагового диалога, ответов на инструкции, рассуждений и генерации кода, а также для поиска сведений в длинном текстовом контексте. В README приведён пример успешного извлечения факта из документа длиной 14 334 токена, но это не гарантирует точность на других задачах. Модель всё ещё разрабатывается и не прошла выравнивание по безопасности, поэтому может выдавать предвзятые ответы. Лицензия — Apache-2.0.

ys7yoo/sbert_alpha — модель на базе BERT, опубликованная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. Модель содержит 137,8 млн параметров, принимает текстовые последовательности длиной до 512 токенов и сохраняется в формате PyTorch. Модель подходит для построения векторного поиска, поиска похожих фраз и группировки текстов по смыслу. Для использования в Transformers поверх контекстных представлений токенов необходимо применить соответствующую операцию pooling; Sentence-Transformers упрощает этот этап. В карточке указано обучение с CosineSimilarityLoss. Сведения о поддерживаемых естественных языках и лицензии в предоставленных данных отсутствуют.

khanhpd2/sbert_phobert_large_cosine_sim — модель Sentence-Transformers на базе RoBERTa, содержащая 162,4 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для оценки семантического сходства, поиска по смыслу и кластеризации текстов. Для получения векторов можно использовать библиотеку sentence-transformers или Transformers с соответствующей операцией pooling. Модель обучалась с функцией потерь CosineSimilarityLoss. Контекст составляет 258 токенов. Название модели и базовое семейство PhoBERT указывают на ориентацию на вьетнамский язык; языковая поддержка не перечислена в метаданных. Модель выдаёт векторные представления текста, а не готовые ответы. Лицензия в предоставленных данных не указана.

SLIM-CATEGORY — специализированная модель серии SLIM от llmware, дообученная для анализа тем и классификации текста по категориям с помощью вызовов функций. Она построена на плотной decoder-only архитектуре Llama и содержит 1 млрд параметров. Модель принимает текст и формирует структурированный результат в виде словаря Python, например категорию «markets», который можно использовать в автоматизированных рабочих процессах с несколькими моделями. Модель предназначена для тематической категоризации текстов и выдачи результата по заданным ключам. Её можно подключать через Transformers или библиотеку llmware; README также упоминает отдельную квантизованную версию slim-category-tool. Репозиторий содержит веса PyTorch, контекст составляет 2048 токенов. Лицензия — Apache-2.0. Результат ориентирован на заданную категорию и структурированный вывод, а не на универсальный диалог. В README приведён пример классификации финансовой новости, но перечень поддерживаемых тематик и языков не задан; для надёжного разбора результата предлагается преобразование строки в словарь Python.

Это объединённая модель MaziyarPanahi на базе Mistral-7B-Instruct-v0.1 и uukuguy/speechless-code-mistral-orca-7b-v1.0. Модели объединены методом SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса представлены в safetensors, исходная конфигурация слияния использует bfloat16. Модель предназначена для диалоговых ответов на инструкции и генерации кода на английском языке. Контекстное окно — до 32 768 токенов. Лицензия — Apache-2.0.

futuredatascience/to-classifier-v2 — модель на архитектуре MPNet, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и вычисления сходства между предложениями. Модель относится к семейству Sentence Transformers и распространяется в формате PyTorch. Обучение использовало CosineSimilarityLoss. Контекст модели составляет 514 токенов. Лицензия в предоставленных данных не указана.

Unlimited-OCR MLX — мультимодальная модель для распознавания и структурированного разбора документов, портированная на Apple MLX. Она основана на модели Unlimited-OCR команды Baidu PaddlePaddle и предназначена для работы на компьютерах Apple с чипами Silicon. Модель принимает изображения документов, включая страницы PDF и одно- или многостраничные изображения, распознаёт китайский, английский и другой многоязычный текст, извлекает таблицы и сохраняет структуру документа: абзацы, заголовки, списки и элементы разметки. Динамическое разбиение изображений позволяет обрабатывать документы произвольной длины в рамках последовательной обработки страниц. Доступны режимы повышенной точности с тайлингом и быстрого сканирования в одном масштабе. Архитектура включает визуальные кодировщики SAM-ViT-B и CLIP-L, объединяемые через проекционный слой, а также 12-слойную языковую модель DeepSeek-V2 MoE с 64 маршрутизируемыми и 2 общими экспертами. Всего модель содержит около 3,34 млрд параметров, поддерживает контекст до 32 768 токенов, использует FP16 и занимает примерно 6,2 ГБ. Модель оптимизирована для Apple Silicon и требует macOS 14 или новее, Python 3.10+ и MLX 0.20+. Сильные стороны модели — специализированная обработка документов, распознавание текста и таблиц, анализ компоновки, высокая точность соответствия исходной реализации и ускорение на Apple Silicon. Ограничения включают зависимость от платформы Apple Silicon, значительный объём модели и отсутствие подробных данных о качестве на независимых наборах. Модель распространяется по лицензии MIT.

UTC-DeBERTa-large — универсальный классификатор токенов от Knowledgator, основанный на DeBERTaV3-large и дообученный на нескольких задачах разметки последовательностей с prompt tuning. Модель предназначена для извлечения информации из текста: распознавания именованных сущностей, ответов на вопросы, извлечения отношений и разрешения кореференции; README также указывает очистку и суммаризацию текста как возможные сценарии. Метаданные относят модель к DeBERTa-v2 и задаче token classification, указывают 533,8 млн параметров и контекст до 512 токенов. Многозадачное обучение нацелено на обобщение и zero-shot распознавание сущностей; в README приведены результаты на CrossNER для областей ИИ, литературы, музыки, политики и науки. Модель принимает текст и выдаёт токенную разметку. Карточка указывает английский язык и лицензию Apache-2.0. Результаты и обобщение могут зависеть от формулировки запроса и типа текста; контекст ограничен 512 токенами.

BlueAvenir/vaillant_relation_depth_model — модель на базе XLM-RoBERTa, разработанная для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для оценки семантической близости текстов и может применяться для семантического поиска и кластеризации. Модель обучалась с функцией потерь CosineSimilarityLoss и доступна в формате PyTorch; использовать её можно через Sentence-Transformers или Transformers с подходящей операцией pooling. Модель содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Карточка не уточняет языковую специализацию; XLM-RoBERTa рассчитана на многоязычные тексты. Лицензия в предоставленных данных не указана.

wtp-canine-s-12l — модель токен-классификации семейства La-CANINE, опубликованная пользователем benjamin и предназначенная для библиотеки wtpsplit. Она определяет границы предложений в тексте, чтобы разбивать его на предложения в многоязычных сценариях. Модель содержит 113,2 млн параметров, принимает текст и выдаёт метки токенов. В карточке Hugging Face заявлена поддержка 85 языков; метаданные также указывают контекст до 16 384 токенов. Модель распространяется по лицензии MIT. Практическое ограничение — качество сегментации может зависеть от языка и особенностей текста.

ronanki/xlmr_02-02-2022 — модель Sentence-Transformers на базе XLM-RoBERTa, разработчик которой в карточке указан как ronanki. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства предложений. Модель содержит 305,2 млн параметров, принимает текст и формирует векторные представления; длина контекста — 514 токенов. Для обучения использовалась TripletLoss с евклидовой метрикой и отступом 5. Модель подходит для семантического поиска и группировки текстов, когда требуется сравнивать их по смыслу. В метаданных указаны XLM-RoBERTa и Sentence-Transformers; поддерживаемые естественные языки явно не перечислены. Модель опубликована в формате PyTorch. Лицензия в предоставленных сведениях не указана.

tjruesch/xlm-roberta-base-ner-hrl-onnx — ONNX-версия модели Davlan/xlm-roberta-base-ner-hrl, экспортированная ELAN Languages. Модель предназначена для извлечения именованных сущностей из текста и может использоваться через ONNX Runtime, Transformers.js и в сценариях обезличивания данных, включая bridge-anonymization. В основе лежит XLM-RoBERTa base для многоязычной token classification. Модель поддерживает английский, немецкий, испанский, французский, итальянский, португальский, нидерландский и другие языки. Заявлены сущности PER для имён людей, ORG для организаций, LOC для местоположений и DATE для дат, если они поддерживаются базовой моделью. Доступны полноточная версия FP32 размером около 1059 МБ и квантизованная версия INT8 размером около 265 МБ. Сильные стороны модели — многоязычность, совместимость с ONNX Runtime и уменьшенный размер INT8-варианта, что может быть удобно для локального или браузерного развёртывания. Ограничения включают зависимость набора распознаваемых сущностей от базовой модели и отсутствие в README сведений о точности, максимальной длине контекста и производительности. Модель распространяется по лицензии MIT.

Mungert/Youtu-LLM-2B-GGUF — GGUF-версия языковой модели Youtu-LLM-2B, разработанной Tencent. Это авторегрессионная causal language model для генерации текста; семейство включает базовую и instruct-версии. Данная сборка создана с использованием llama.cpp, однако конкретный уровень квантования в README не указан. Модель содержит 1,96 млрд параметров, 32 слоя и использует плотную архитектуру MLA с 16 attention heads для Q/K/V. Поддерживается контекст до 131 072 токенов, размер словаря — 128 256. Модель ориентирована на рассуждения, следование инструкциям, STEM-задачи, программирование, работу с длинным контекстом и агентские сценарии с инструментами; для instruct-версии заявлен режим reasoning. В представленных тестах она показывает особенно сильные результаты в генерации кода, математике, обработке длинного контекста и ряде end-to-end агентских задач, но результаты зависят от версии модели и настроек запуска. README не указывает поддерживаемые языки, точные требования к ресурсам и ограничения безопасности. Лицензия обозначена как other; условия следует уточнять по файлу лицензии Tencent.

Ziya-Coding-15B-v1 — разработанная IDEA-CCNL предварительно обученная и дообученная модель для задач программирования на основе StarCoderBase с 15,5 млрд параметров. Она принимает инструкции и генерирует, продолжает и исправляет код, объясняет его, выполняет перевод кода и задачи NL2SQL; также обучалась на общих инструкциях на китайском языке. Модель рассчитана на работу с текстом и кодом, поддерживает китайский и английский языки и имеет контекст длиной 8192 токена. Для улучшения понимания китайского и следования инструкциям разработчики продолжили обучение StarCoderBase на корпусе из китайского, английского и кода, а затем провели трёхэтапное supervised fine-tuning на общих и кодовых инструкциях, включая данные с обратной связью компилятора. В README приведены результаты HumanEval и MBPP, однако они не гарантируют качество на других языках программирования и прикладных задачах. Модель распространяется по лицензии GPL-3.0.

Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240416141927-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели jamiehudson/579-STmodel-v3 на Hugging Face совпадает с карточкой jamiehudson/579-STmodel-v4, поэтому описание составлено по ней. jamiehudson/579-STmodel-v4 — модель Sentence Transformers на базе архитектуры MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости текстов, семантического поиска и кластеризации. Для получения эмбеддингов используются веса PyTorch и операция pooling над контекстными представлениями токенов. Модель содержит 136,7 млн параметров, а длина контекста составляет 514 токенов. В README указано обучение с CosineSimilarityLoss. Языки применения не обозначены. Лицензия в предоставленных данных не указана.

Vezora/Agent-7b-v1-128k — дообученная языковая модель, созданная Nicolas Mejia Petit на базе CallComply/openchat-3.5-0106-128k. Модель построена на архитектуре Mistral с 7,1 млрд параметров и принимает текст; заявленное контекстное окно составляет 131 072 токена. Модель обучена на 31 000 примерах набора m-a-p/Code-Feedback с использованием Unsloth QLoRA. Она предназначена для интерактивного программирования с обратной связью, генерации кода и агентных сценариев, включая задачи, подобные TaskWeaver и OpenInterpreter. README указывает на генерацию до 8 192 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Разработчик сообщает о хороших результатах внутренних проверок, но планировал провести бенчмаркинг; независимые сравнительные результаты в карточке не приведены.

KhaledReda выпустил англоязычную модель Sentence Transformers, дообученную на sentence-transformers/all-MiniLM-L6-v2 на наборе пар текстов с оценками сходства. Энкодер на архитектуре BERT преобразует предложения и абзацы в плотные векторы размерности 384; для оценки сходства используется косинусная близость. Метаданные указывают 25,9 млн параметров и максимальный контекст 512 токенов, а в карточке модели заявлена максимальная длина последовательности 256 токенов. Модель предназначена для сравнения смысловой близости текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Её можно применять для ранжирования найденных по смыслу предложений и группировки похожих формулировок. Модель принимает текст и выдаёт векторы; основным языком является английский. Лицензия — Apache-2.0.

KhaledReda/all-MiniLM-L6-v35-pair_score — англоязычная модель Sentence Transformers, дообученная автором KhaledReda на наборе pairs_with_scores_v30. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; косинусное сходство между векторами можно использовать для оценки семантической близости текстов. Архитектура включает BERT-трансформер, mean pooling и нормализацию; размер модели — 25,9 млн параметров. Контекст по метаданным — до 512 токенов, а README указывает ограничение последовательности в 256 токенов. Модель предназначена для семантического поиска, сравнения текстовых пар, поиска перефразировок, кластеризации и классификации текста. Обучающий набор содержит пары текстов со скалярными оценками сходства; обучение выполнено с помощью CoSENTLoss. Поддерживается английский язык. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги, а не готовые текстовые ответы или метки: для сравнения текстов и поиска нужно отдельно вычислять сходство либо применять векторный индекс. Качество для языков кроме английского не подтверждено; указанная длина последовательности в README меньше контекстного лимита из метаданных.

Jebadiah/Aria-CodeQwen-stone — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES на основе Jebadiah/Aria-7b-128k-v4 с включением Qwen/CodeQwen1.5-7B-Chat. Модель с архитектурой Mistral и примерно 7,1 млрд параметров предназначена для генерации текста, включая диалоговые и связанные с программированием сценарии. В README указаны параметры слияния и формат bfloat16; метаданные сообщают о контексте длиной 32 768 токенов и использовании Transformers. Модель может применяться для генерации и объяснения кода, исправления программ и преобразования запросов в SQL — эти возможности следуют из описания базовой CodeQwen. Карточка не содержит оценок качества самого слияния или детальных результатов тестирования, поэтому пригодность для конкретного проекта следует проверять отдельно. Репозиторий не указывает лицензию.

Athena-codegemma-2-9b — дообученная компанией EpistemeAI языковая модель семейства Gemma 2 с плотной архитектурой и 9 млрд параметров. Она создана на основе EpistemeAI/EpistemeAI-codegemma-2-9b и предназначена для генерации кода и текста по запросу. Модель принимает текст и генерирует текст; её контекстное окно составляет 8192 токена. В карточке указан английский язык. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

AutoCoder — языковая модель для генерации кода, построенная на архитектуре Llama и содержащая 33,1 млрд параметров. По README, её разработчики заявляют результат 90,9% на базовом наборе HumanEval против 90,2% у GPT-4 Turbo (апрель 2024 года). Карточка также описывает возможность по запросу устанавливать необходимые пакеты и запускать сгенерированный код с повторными попытками до обнаружения ошибок. Модель предназначена для генерации кода и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная базовая модель — deepseeker-coder. Контекст составляет 16 384 токена, файлы весов опубликованы в формате Safetensors. Лицензия — Apache-2.0. README не раскрывает подробности проверки результата HumanEval и реализации запуска кода.

BEE-spoke-data/bert-plus-L8-v1.0-allNLI_matryoshka — модель семейства BERT, разработанная BEE-spoke-data для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства, кластеризации и связанных задач с текстовыми эмбеддингами. Модель дообучена на датасете allNLI с функцией потерь MatryoshkaLoss и поддерживает вложенные размерности эмбеддингов 768, 512, 256, 128 и 64. Базовая модель поддерживает контекст до 4096 токенов, однако это дообучение проводилось на коротких примерах с контекстом 512 токенов. Модель рассчитана на английский язык и использует библиотеку Sentence-Transformers. Лицензия — Apache-2.0.

Карточка модели shashengdong/bge-base-zh-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

hooman650/bge-m3-onnx-o4 — версия весов модели BAAI/bge-m3 в формате ONNX. Это многоязычная модель на архитектуре XLM-RoBERTa с 658,7 млн параметров и контекстом до 8194 токенов. Она предназначена для извлечения признаков текста и задач поиска: поддерживает плотные эмбеддинги, разреженное представление и многовекторный поиск; заявлена поддержка более 100 языков и документов длиной до 8192 токенов. Модель подходит для построения семантического и гибридного поиска, поиска по длинным документам и многоязычных систем извлечения информации. Репозиторий указывает, что веса нельзя загрузить напрямую через обычный онлайн-интерфейс, и описывает скачивание снимка репозитория. Поддержка многовекторного режима обозначена как планируемая. Лицензия — MIT.

Luong23/bmg-m3-finetune-embedding — дообученная модель Sentence Transformer на базе BAAI/bge-m3, предназначенная для получения плотных текстовых эмбеддингов. Она преобразует предложения и абзацы в векторы размерности 1024; архитектура включает XLM-RoBERTa, CLS-пулинг и нормализацию, а сходство оценивается косинусной мерой. В метаданных указана длина контекста 8194 токена, однако карточка модели задаёт максимальную длину последовательности 256 токенов. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. В примерах обучающих данных есть короткие запросы и подробные описания товаров на вьетнамском языке, но это не подтверждает, что модель рассчитана только на него. Модель принимает текст и выдаёт векторы; опубликована в формате safetensors. Условия лицензии в предоставленных данных не указаны.

Chandra OCR 2 FP8 Dynamic — неофициальная общественная FP8-квантизованная версия модели datalab-to/chandra-ocr-2, подготовленная dangvansam с использованием llm-compressor и формата compressed-tensors для инференса через vLLM. Это мультимодальная модель распознавания документов, предназначенная для OCR изображений и PDF, извлечения текста с сохранением разметки и структуры документа, а также вывода в Markdown. Исходная модель поддерживает 90 языков, однако дополнительные характеристики архитектуры и размер контекста в карточке этой версии не указаны. Квантизация использует веса FP8 E4M3 с поканальными статическими масштабами и динамическую квантизацию активаций без калибровочного набора данных. Vision tower, lm_head, MoE-gates и некоторые компоненты attention сохраняются в bf16. Модель рассчитана прежде всего на последовательную обработку документов и работает с аппаратным ускорением FP8 на GPU Ada, Hopper и Blackwell; на Ampere используется программный fallback без ожидаемого прироста скорости, а Turing и более старые поколения не поддерживаются. В указанном тесте на RTX PRO 6000 Blackwell она обрабатывала страницу примерно за 5434 мс, что в 2,3 раза быстрее базовой версии bf16 при последовательной обработке. Основные преимущества — уменьшенное потребление памяти, отсутствие необходимости в калибровке и близкая к исходной bf16 точность в пределах обычного шума OCR. Ограничения связаны с зависимостью производительности от поколения GPU и режима пакетной обработки: для параллельного fan-out по страницам на Blackwell в README рекомендована другая квантизованная версия. Для запуска рекомендуется vLLM версии 0.17 или новее; также доступно использование через Transformers. Модель распространяется по лицензии OpenRAIL-M, унаследованной от upstream-модели: разрешено использование для исследований, личных проектов и стартапов с выручкой менее 2 млн долларов, но запрещено конкурирующее использование с размещённым API Datalab; более широкое коммерческое применение требует проверки условий лицензии и тарифов Datalab.