/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
3 241–3 270 из 23 488
Lihuchen
pearl_small

PEARL-small — компактная модель эмбеддингов строк и фраз, разработанная Lihu Chen, Gaël Varoquaux и Fabian M. Suchanek. Работа принята на EACL Findings 2024. Модель представляет собой дообученную версию E5-small на контекстно-независимом наборе данных, созданном авторами. В основе — архитектура BERT; размер составляет около 40 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для получения векторных представлений коротких строк и сравнения их семантической близости. Она учитывает тип фразы и морфологические признаки, чтобы лучше сопоставлять варианты написания и формулировок. Основные сценарии — строковое сопоставление, поиск сущностей, кластеризация сущностей и нечёткое соединение записей. В README приведены примеры сравнения названий, а также результаты бенчмарков и сравнение ресурсов с FastText. Модель принимает текст и выдаёт эмбеддинги; метаданные указывают английский язык. Репозиторий распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Данные источников не описывают ограничения качества за пределами приведённых бенчмарков и длины контекста.

34413февр. 2024ctx512
textembeddingapache-2.0hugging-face
Qwen
CodeQwen1.5-7B-Chat

CodeQwen1.5-7B-Chat — диалоговая модель для программирования от команды Qwen, основанная на Qwen1.5. Это плотная авторегрессионная трансформерная модель с 6,9 млрд параметров, обученная на большом объёме кода; для эффективного вывода используется групповое внимание к запросам (GQA). Модель принимает и генерирует текст, поддерживает контекст до 65 536 токенов и заявлена для работы с 92 языками программирования. Модель предназначена для генерации и понимания кода в диалоговом формате. Её можно применять для дополнения кода, исправления ошибок, ответов на вопросы по коду и преобразования текстовых запросов в SQL. Карточка заявляет сильные результаты на ряде тестов, но не приводит здесь их численные оценки. Репозиторий содержит веса Safetensors и поддерживает загрузку через Transformers версии 4.37.0 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

4.7K356апр. 2024ctx65.5K
textotherhugging-face
numind
NuExtract-2.0-2B-GGUF

NuExtract-2.0-2B-GGUF — мультимодальная и многоязычная модель компании NuMind, предназначенная для извлечения структурированной информации из текста и изображений. Модель принимает входные данные вместе с JSON-шаблоном, в котором задаются требуемые поля и их типы, и возвращает заполненный JSON-объект. Модель имеет размер 2B параметров и основана на Qwen2-VL-2B-Instruct. Версия GGUF предназначена для запуска с совместимыми inference-инструментами, включая llama.cpp. Поддерживаются строки с дословным извлечением или перефразированием, целые и дробные числа, даты и время в формате ISO, массивы, перечисления и многозначные категориальные поля. Если значение не найдено, модель возвращает null или пустой массив. Она подходит для обработки документов, форм, заявок и других текстовых или визуальных источников, где требуется привести данные к заданной схеме. К сильным сторонам относятся специализация на структурированном извлечении, поддержка текста и изображений, небольшой размер и возможность коммерческого использования. Для надёжной работы рекомендуется температура, близкая к 0; качество зависит от корректности JSON-шаблона и входных данных. В README не указаны конкретные поддерживаемые языки, максимальный контекст и результаты бенчмарков в числовом виде. Модель распространяется по лицензии MIT.

1.4K1сент. 2025
textimagemithugging-face
tencent
Youtu-Parsing

Youtu-Parsing — специализированная модель Tencent для разбора документов, созданная на основе Youtu-LLM 2B. Она сочетает языковую модель с визуальным энкодером динамического разрешения в стиле NaViT и предназначена для извлечения структуры и содержания из изображений документов. Архитектура модели — YoutuVLForConditionalGeneration; число параметров — 2,1 млрд, контекст — до 20 480 токенов. Модель принимает изображения документов и выдаёт текст с распознанным содержимым и его структурой. Модель локализует текстовые области, восстанавливает порядок чтения и распознаёт текст, таблицы, формулы и диаграммы. Формулы преобразуются в LaTeX, таблицы — в HTML, а диаграммы могут представляться таблицами Markdown, картами мыслей или схемами Mermaid. README заявляет ускорение вывода в 5–11 раз за счёт параллельной обработки токенов и дополнительное ускорение запросов примерно вдвое. Модель предназначена для анализа документов и исследований и разработок в области понимания документов. В метаданных указан интерфейс Transformers и формат Safetensors. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в лицензии репозитория.

50943янв. 2026ctx20.5K
textotherhugging-face
ajibawa-2023
Code-290k-6.7B-Instruct

Code-290k-6.7B-Instruct — языковая модель для генерации кода и пояснений, созданная ajibawa-2023 полным дообучением DeepSeek-Coder-6.7B-Instruct. Модель основана на плотной архитектуре Llama и содержит около 6,6 млрд параметров; репозиторий предоставляет веса в формате safetensors. Для общения используется шаблон Alpaca. Модель обучалась на наборе Code-290k-ShareGPT примерно из 290 тысяч примеров кода с подробными объяснениями. Она предназначена для генерации и объяснения кода на Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia, Haskell и других языках программирования. Контекст составляет до 16 384 токенов. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у базовой модели. Оценки в карточке охватывают лишь часть общих бенчмарков и не гарантируют корректность сгенерированного кода; результаты следует проверять, особенно перед запуском или использованием в критичных системах.

856февр. 2024ctx16.4K
textotherhugging-face
deepseek-ai
DeepSeek-Coder-V2-Instruct

DeepSeek-Coder-V2-Instruct — диалоговая модель для программирования от DeepSeek AI, дообученная на базе DeepSeek-Coder-V2-Base. Это вариант семейства DeepSeek-Coder-V2 на архитектуре DeepSeekMoE; в карточке репозитория указано 18,1 млрд параметров, а README сообщает о версиях семейства с 16 млрд и 236 млрд параметров, из которых активно используются соответственно 2,4 млрд и 21 млрд. Контекст модели по метаданным составляет 163 840 токенов. Модель предназначена для генерации и дополнения кода, вставки фрагментов в существующий код, диалоговой помощи при разработке и решения задач на математические рассуждения. Семейство поддерживает 338 языков программирования и заявляет улучшенные способности к кодированию при сохранении возможностей в задачах на естественном языке. README приводит сравнительные результаты на бенчмарках, но не уточняет их методику для данного конкретного варианта. Для запуска в формате BF16 README указывает требование к оборудованию 8 GPU с 80 ГБ памяти каждый. Репозиторий содержит веса Safetensors. Лицензия в метаданных обозначена как «other», поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

6.6K715июнь 2024ctx163.8K
textotherhugging-face
cmarkea
dit-base-layout-detection

cmarkea/dit-base-layout-detection — модель cmarkea для анализа структуры страниц документов. Это BEiT-base, дообученная на наборе DocLayNet; модель сегментирует изображение документа по 11 типам элементов: подписи, сноски, формулы, пункты списка, колонтитулы, изображения, заголовки разделов, таблицы, основной текст и заголовки. Модель предназначена для извлечения макета страниц из сканов и изображений документов, в том числе при подготовке документных коллекций для систем ответов на вопросы по документам. Она содержит около 119,5 млн параметров и выдаёт семантическую сегментацию; из масок сегментации можно получить ограничивающие рамки элементов. В опубликованной оценке на страницах DocLayNet приведены F1 90,77, GIoU 56,29 и точность классов рамок 85,26; для DETR-варианта cmarkea в той же таблице показатели рамок выше. Модель принимает изображения и выдаёт разметку областей документа. Лицензия — Apache-2.0. Результаты обнаружения рамок приведены для простого преобразования масок через OpenCV findContours без дополнительной постобработки, поэтому точность рамок может зависеть от последующей обработки.

437июль 2024
imageapache-2.0hugging-face
conjuncts
ditr-e15

conjuncts/ditr-e15 — модель обнаружения объектов из экосистемы Transformers, опубликованная пользователем или организацией conjuncts. В метаданных она также помечена как table-transformer, поэтому ориентирована на задачи обнаружения элементов таблиц на изображениях или в документах. Модель содержит около 6,3 млн параметров и предназначена для использования через библиотеку Transformers. Её можно применять как компонент систем анализа документов, извлечения структуры таблиц и последующей обработки найденных областей. README не содержит сведений о разработчиках, лицензии, обучающих данных, поддерживаемых языках, архитектуре, длине контекста, метриках качества или ограничениях применения. Поэтому перед использованием в production необходимо отдельно проверить лицензионные условия, качество на целевых документах и устойчивость к различным форматам таблиц.

3260окт. 2024
imagehugging-face
knowledgator
gliner-x-large

GLiNER x-large — мультиязычная модель распознавания именованных сущностей от Knowledgator. Она построена на двунаправленном трансформерном энкодере семейства MT5 и распознаёт типы сущностей, заданные пользователем, вместо работы только с фиксированным набором классов. Модель предназначена для извлечения информации из текста и может служить более компактной альтернативой крупным языковым моделям в сценариях, где нужны разметка сущностей и ограниченные вычислительные ресурсы. Модель поддерживает датский, шведский, норвежский, чешский, польский, литовский, эстонский, латышский, испанский, финский, английский, немецкий, французский, румынский, итальянский, португальский, нидерландский, арабский, китайский, хинди и украинский языки. В опубликованных бенчмарках GLiNER x-large превосходит сравниваемые модели на приведённых наборах для датского, немецкого и английского языков. Доступны веса в форматах Safetensors и ONNX; лицензия — Apache-2.0.

1.3K49июнь 2025
textapache-2.0hugging-face
zai-org
GLM-OCR

GLM-OCR — мультимодальная модель оптического распознавания символов и понимания документов от zai-org. Она построена на архитектуре GLM-V encoder–decoder: использует визуальный энкодер CogViT, межмодальный коннектор с уменьшением числа токенов и языковой декодер GLM-0.5B. Общее число параметров — 0,9 млрд; модель распространяется в формате safetensors и работает через Transformers. Модель предназначена для распознавания текста и формул, извлечения таблиц, разбора документов и получения структурированных сведений по заданной JSON-схеме. Для полного разбора документов авторы рекомендуют SDK, объединяющий модель с анализом макета PP-DocLayout-V3; модель также можно запускать отдельно для извлечения информации. Заявлена поддержка китайского, английского, французского, испанского, русского, немецкого, японского и корейского языков. В README приведены результаты тестов на наборах для понимания документов и скорости обработки, но они не гарантируют аналогичных показателей на иных данных и оборудовании. Модель распространяется по лицензии MIT. Для извлечения информации требуется строго задавать JSON-схему; готовый SDK для разбора документов не предназначен для этого сценария.

1.7M2.2Kянв. 2026ctx655.4K
textimagemithugging-face
prithivMLmods
lift-GGUF

lift-GGUF — это 9-миллиардная multimodal-модель для структурированного извлечения данных из PDF-документов и изображений, разработанная Datalab на базе Qwen3.5-9B и представленная в формате GGUF пользователем prithivMLmods. Модель принимает произвольную JSON Schema и возвращает соответствующий JSON-объект с использованием декодирования, ограниченного схемой, что обеспечивает валидный и типизированный результат. Она поддерживает обработку многостраничных документов за один проход, включая значения, распределённые по нескольким страницам, а также локальный inference через Hugging Face и удалённый inference через vLLM. Указан английский язык; поддержка других языков не заявлена. Модель предназначена для автоматизированного извлечения полей, списков и других структурированных сведений из документов и изображений, включая сценарии с отвлекающими похожими данными и межстраничными значениями. На тесте из 225 документов объёмом от 6 до 64 страниц она показала точность на уровне полей 90,2% и точность целого документа 20,9% при медианной задержке 9,5 секунды, превзойдя Qwen3.5-9B и NuExtract3 сопоставимого размера, но уступив более крупным размещённым в облаке системам. Доступны варианты квантования от Q2_K до Q8_0, а также BF16 и F16; размеры файлов варьируются примерно от 3,91 до 18,4 ГБ, для multimodal-обработки требуются отдельные mmproj-файлы. Код распространяется по Apache 2.0, а веса — по модифицированной лицензии OpenRAIL-M. Согласно описанию, веса бесплатны для исследований, личного использования и стартапов с финансированием или выручкой менее 5 миллионов долларов. Ограничениями являются зависимость качества от выбранной JSON Schema и конфигурации квантования, высокая требовательность к ресурсам для полноразмерных вариантов, а также сравнительно низкая точность полного документа по приведённому benchmark.

2.2K8июнь 2026
textimageopenrailhugging-face
dell-research-harvard
lt-wikidata-comp-en

lt-wikidata-comp-en — англоязычная модель LinkTransformer, разработанная исследователями Harvard. Это дообученная модель Sentence Transformers на базе multi-qa-mpnet-base-dot-v1, с архитектурой MPNet и 136,7 млн параметров. Она кодирует предложения и абзацы в плотные векторы размерности 768; максимальная длина последовательности составляет 512 токенов. Модель предназначена прежде всего для сопоставления записей и сущностей по названиям и их вариантам, обучена на алиасах компаний из Wikidata. В LinkTransformer её можно применять для связывания записей, дедупликации, кластеризации и агрегации; также она подходит для семантического поиска и других задач сходства предложений в Sentence Transformers. Репозиторий содержит веса в формате safetensors. Карточка не приводит результатов количественной оценки качества, поэтому качество на данных, отличающихся от алиасов компаний из Wikidata, следует проверять отдельно. Лицензия в предоставленных данных не указана.

17K2авг. 2023ctx514
textembeddinghugging-face
agentlans
multilingual-MiniLM-L12-v2-harrier

Multilingual MiniLM-L12-v2 (Harrier-Distilled) — компактный многоязычный кодировщик предложений, дообученный командой agentlans методом дистилляции эмбеддингов на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с учителем microsoft/harrier-oss-v1-270m. Модель содержит 124,3 млн параметров, использует архитектуру BERT и принимает текстовые последовательности длиной до 512 токенов. Для работы требуется вспомогательный пакет, поскольку модель использует обученный проекционный слой. Модель предназначена для межъязыкового семантического поиска, сравнения сходства текстов, кластеризации и фильтрации корпусов, включая параллельные и переводные данные. Она рассчитана на высокую пропускную способность при умеренных вычислительных затратах и ориентирована на многоязычные сценарии. Лицензия — Apache-2.0. Качество может снижаться для малоресурсных языковых вариантов и узкоспециализированной терминологии. Размерности и архитектура отличаются от учительской модели, поэтому её представления не взаимозаменяемы с представлениями учителя.

270сент. 2026ctx512
textapache-2.0hugging-face
nvidia
nemotron-table-structure-v1

Nemotron Table Structure v1 — разработанная NVIDIA специализированная модель компьютерного зрения для выделения структуры таблиц на изображениях. Она обнаруживает ячейки, строки и столбцы и возвращает для каждого объекта класс, координаты ограничивающей рамки и оценку уверенности. Модель построена на YOLOX с backbone DarkNet53 и FPN decoupled head; содержит около 54 млн параметров и обрабатывает RGB-изображения, приводимые к размеру 1024 × 1024. Модель предназначена для извлечения табличных данных из сканов и документов, в том числе в конвейерах обработки документов и enterprise-поиска. В сочетании с OCR она помогает сохранить связи между элементами таблицы и преобразовать её структуру для последующего анализа или представления в Markdown. NVIDIA сообщает о предварительном обучении на COCO train2017 и дообучении на изображениях Digital Corpora с разметкой Azure AI Document Intelligence. Для инференса требуются PyTorch и код из репозитория; модель оптимизирована для систем с GPU NVIDIA. Карточка заявляет готовность к коммерческому и некоммерческому использованию по NVIDIA Open Model License Agreement; скрипты постобработки лицензированы Apache 2.0. Для распознавания текста модель следует использовать вместе с OCR: сама она выдаёт геометрию и классы элементов таблицы.

57540окт. 2025
imageotherhugging-face
numind
NuMarkdown-8B-Thinking

NuMarkdown-8B-Thinking — мультимодальная модель Numind для распознавания и структурированного извлечения содержимого из документов. Она дообучена на базе Qwen/Qwen2.5-VL-7B-Instruct: сначала на синтетических примерах «документ — рассуждение — Markdown», затем с помощью GRPO с наградой, ориентированной на структуру и компоновку документа. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и рассчитана на контекст до 128 000 токенов. Модель принимает изображения документов и преобразует их в аккуратный Markdown, уделяя внимание сложной разметке и таблицам. В ходе генерации она использует промежуточные рассуждения о структуре страницы; их объём зависит от сложности задачи. Такой формат вывода подходит для подготовки документов к индексации и поиску с дополненной генерацией (RAG). Модель распространяется по лицензии MIT. Её назначение — извлечение текста и структуры из документов; README описывает сравнительные результаты, но не приводит подробностей методики оценки, поэтому заявленные преимущества на сложных документах следует проверять на собственных данных.

73K497июль 2025ctx128K
textimagemithugging-face
viktor-shcherb
sberbank-rubert-base-collection3

Модель viktor-shcher/sberbank-rubert-base-collection3 — дообученная версия ruBert-base для распознавания именованных сущностей в русском тексте. Она использует архитектуру BERT и решает задачу классификации токенов, размечая сущности в последовательности. Модель обучена на датасете collection3; размер составляет 205,5 млн параметров, контекст — до 512 токенов. На валидационной выборке указаны precision 0,9380, recall 0,9594, F1 0,9486 и accuracy 0,9860. Модель подходит для извлечения именованных сущностей из русскоязычных текстов. Распространяется по лицензии Apache-2.0.

8785март 2023ctx512
textapache-2.0hugging-face
btbtyler09
shrew-2b

Shrew — набор LoRA-адаптеров для Qwen/Qwen3.5-2B от автора репозитория btbtyler09, созданный для извлечения структурированных данных в производственном RAG-приложении. Рекомендуемый объединённый адаптер doc_processing выполняет три задачи по имени задачи в системном промпте: извлекает метаданные документа, делит текст на семантические фрагменты и составляет краткое содержание. В репозитории также представлены отдельные адаптеры для извлечения метаданных и суммаризации, обозначенные как устаревшие относительно объединённого. Адаптер имеет ранг LoRA 128 и alpha 256, его размер составляет около 256 МБ в f16. Доступны файлы в форматах safetensors и GGUF; для применения требуется базовая модель Qwen/Qwen3.5-2B. Лицензия — Apache-2.0. README описывает маршрутизацию по системному промпту и предупреждает, что для загрузки адаптера в vLLM нужно переименовать ключи весов; также требуется max-lora-rank не ниже 128. Модель ориентирована на обработку документов и не является самостоятельной базовой моделью.

1800март 2026
textapache-2.0hugging-face
microsoft
table-transformer-structure-recognition

Table Transformer Structure Recognition — модель обнаружения объектов на базе DETR, дообученная Microsoft на наборе PubTables1M для распознавания структуры таблиц в документах. Она находит элементы таблицы, включая строки и столбцы, на изображении или фрагменте документа. Модель построена на Transformer-архитектуре с нормализацией перед слоями self-attention и cross-attention. Веса содержат 6,3 млн параметров; модель опубликована в форматах PyTorch и Safetensors. Лицензия — MIT. Модель подходит для извлечения структуры таблиц из документов и последующей обработки их содержимого. Карточка описывает обнаружение строк и столбцов, но не заявляет о распознавании текста внутри ячеек; для полного извлечения данных может потребоваться отдельный OCR-компонент.

1.2M240окт. 2022ctx1K
imagemithugging-face
microsoft
table-transformer-structure-recognition-v1.1-fin

Table Transformer (TATR) — модель Microsoft для распознавания структуры таблиц в документах, обученная на FinTabNet.c. Она основана на DETR и использует Transformer-архитектуру обнаружения объектов с нормализацией перед self-attention и cross-attention. Модель предназначена для поиска элементов таблиц на изображениях документов и может применяться в системах извлечения табличных данных. Модель содержит 6,3 млн параметров и опубликована в формате safetensors. Лицензия — MIT. Карточка не сообщает о распознавании текста внутри ячеек: модель обнаруживает структуру и объекты таблицы, а извлечение текста требует отдельного этапа обработки.

1.4K5нояб. 2023
imagemithugging-face
microsoft
table-transformer-structure-recognition-v1.1-pub

Table Transformer Structure Recognition v1.1 — модель Microsoft для распознавания структуры таблиц в документах. Она обучена на наборе PubTables1M и основана на DETR: Transformer-архитектура использует нормализацию перед слоями self-attention и cross-attention. Модель содержит 6,3 млн параметров и предназначена для обнаружения элементов структуры таблицы на изображении документа, например для последующего извлечения таблиц и их содержимого. Модель принимает изображения документов и выдаёт обнаруженные объекты и их расположение. Она распространяется в формате safetensors по лицензии MIT. README не приводит сведений о поддерживаемых языках или ограничениях качества.

61511нояб. 2023
imagemithugging-face
Universal-NER
UniNER-7B-all

UniNER-7B-all — модель семейства Llama, представленная проектом Universal-NER и предназначенная для извлечения именованных сущностей из текста. Она обучена на сочетании синтетических наборов Pile-NER, созданных ChatGPT, и данных 40 размеченных наборов бенчмарка Universal NER; из обучения исключены CrossNER и MIT для оценки переноса на новые данные. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовый запрос для генерации ответа с извлечёнными сущностями. Контекст — до 2048 токенов. Репозиторий распространяется в формате PyTorch по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

41093авг. 2023ctx2K
textcc-by-nc-4.0hugging-face
aidarmusin
address-ner-ru

aidarmusin/address-ner-ru — русскоязычная модель распознавания именованных сущностей для выделения частей адреса из строки. Она построена на архитектуре BERT и решает задачу классификации токенов; в репозитории указаны веса в формате Safetensors, 525,7 млн параметров и контекст до 512 токенов. Модель предназначена для извлечения адресных компонентов из необработанных адресов. В README указаны датасет из 5 тысяч адресов, разделение на обучающую и оценочную выборки в пропорции 90/10 и значение F1 0,960 на оценке. Лицензия — Apache-2.0.

20812май 2024ctx512
textapache-2.0hugging-face
Qwen
CodeQwen1.5-7B

CodeQwen1.5-7B — специализированная языковая модель для программирования, разработанная командой Qwen как версия семейства Qwen1.5. Это декодерный трансформер Qwen2 с 6,9 млрд параметров, предварительно обученный на большом массиве кода объёмом 3 трлн токенов. Модель поддерживает контекст до 65 536 токенов и эффективное внимание Group Query Attention. Модель предназначена для генерации и дополнения кода, понимания длинных фрагментов программ и дообучения под задачи программирования. В карточке отмечены сценарии исправления ошибок и преобразования текста в SQL, а также поддержка 92 языков программирования. Базовую версию не рекомендуют использовать как чат-модель; при генерации важно настроить условия остановки. Репозиторий содержит веса в формате safetensors. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует сверять с лицензией, приложенной к модели.

1.1K108апр. 2024ctx65.5K
textotherhugging-face
SalML
DETR-table-structure-recognition

SalML/DETR-table-structure-recognition — модель обнаружения объектов на основе DETR, предназначенная для распознавания структуры таблиц в документах. По карточке автор также создал Hugging Face Space, который применяет OCR к изображению с результатами Table Transformer и позволяет скачать таблицу в CSV. Модель содержит 6,3 млн параметров, использует PyTorch и обучена на PubTables-1M. Метаданные указывают английский язык; подходящий сценарий — выделение структурных элементов таблицы на изображении документа перед извлечением данных. Лицензия в метаданных обозначена как unknown.

145окт. 2022ctx1K
imageunknownhugging-face
zai-org
GLM-Z1-32B-0414

GLM-Z1-32B-0414 — языковая модель с 31,6 млрд параметров от Zhipu AI (zai-org), созданная на базе GLM-4-32B-0414. Это плотная autoregressive-модель семейства GLM-4 для генерации текста и диалогов, обученная рассуждению и дообученная с помощью reinforcement learning на задачах математики, программирования и логики. Поддерживает китайский и английский языки; родной контекст — 32 768 токенов. Модель предназначена для сложных задач, где полезны пошаговые рассуждения: решения математических задач, помощь с кодом, логический анализ, ответы на вопросы и подготовка отчётов. Карточка также указывает интерфейс для вызова инструментов. Для входов длиннее 8 192 токенов README рекомендует при необходимости включать YaRN; это может немного ухудшить качество на коротких текстах. В истории диалога следует сохранять только видимый пользователю ответ, поскольку модель использует скрытое рассуждение. Модель распространяется по лицензии MIT.

5.0K196апр. 2025ctx32.8K
textmithugging-face
ibm-granite
granite-vision-3.3-2b

Granite Vision 3.3 2B — компактная мультимодальная модель IBM для понимания изображений, особенно документов. Она предназначена для извлечения и структурирования сведений из таблиц, графиков, инфографики, диаграмм и других визуальных материалов, а также для ответов на вопросы по изображениям. Модель построена на архитектуре LLaVA: использует визуальный энкодер SigLIP2, двухслойный MLP-коннектор и языковую модель Granite 3.1 2B Instruct с контекстом 128 тыс. токенов. В карточке описаны экспериментальные возможности сегментации изображений, генерации doctags и анализа последовательностей до восьми страниц документа. Для многостраничной обработки рекомендуется уменьшать длинную сторону изображения до 768 пикселей. Модель подходит для извлечения данных из документов и визуального поиска с использованием MM-RAG. Возможны неточные, предвзятые или нежелательные ответы; авторы рекомендуют применять её прежде всего для понимания документов, поскольку более общие задачи по изображениям могут давать нежелательные результаты. Лицензия — Apache-2.0.

253K88июнь 2025ctx131.1K
textimageapache-2.0hugging-face
h2oai
h2ovl-mississippi-2b

H2OVL-Mississippi-2B — мультимодальная модель языка и зрения от H2O.ai с плотной архитектурой H2OVLChat и 2,1 млрд параметров. Она объединяет языковые модели H2O-Danube с обработкой изображений и предназначена для диалога по визуальным данным, ответов на вопросы об изображениях, описания сцен и понимания документов. Модель обучена на 17 млн пар «изображение — текст». В карточке приведены результаты на мультимодальных тестах, включая OCRBench, и описаны сценарии извлечения из изображений полей, таблиц и диаграмм с формированием структурированного JSON. Для запуска указаны Transformers и vLLM. Основной язык, указанный в метаданных, — английский; длина контекста в предоставленных данных не описана. Модель распространяется по лицензии Apache-2.0. Как и другие генеративные модели, она может ошибаться, а её ответы могут содержать предвзятые или оскорбительные формулировки; извлечённые из документов данные следует проверять.

23K46окт. 2024ctx8.2K
textapache-2.0hugging-face
KDLAI
KDL-Frontier-Parser-nano

KDL-Frontier-Parser-nano — компактная модель разбора документов с открытыми весами, упакованная и настроенная компанией KoreaDeep. Это плотная визуально-языковая модель семейства Qwen2-VL с 1,2 млрд параметров; она принимает изображение документа и текстовый запрос, а в ответ выдаёт текстовую разметку или распознанное содержимое. Модель предназначена для конвейера обработки документов: сначала определяют макет и вырезают области, затем вызывают модель отдельно для каждой области с запросом на распознавание текста, таблиц или макета. Для таблиц она формирует OTSL. По результатам ParseBench от 10 июня 2026 года, средний балл на полном наборе из 2553 примеров составил 76,48; в README также указано отсутствие сбоев инференса в этом прогоне. Для обслуживания README приводит настройки vLLM с контекстом до 8192 токенов, одним изображением на запрос и отключённым режимом thinking. Модель опубликована по лицензии AGPL-3.0. Ее назначение специализировано на разборе документов; распознавание выполняется по областям в несколько вызовов, а преобразование результатов в форматы, отличные от OTSL для таблиц, оставлено вызывающему приложению.

2.0K30июнь 2026ctx16.4K
textimageagpl-3.0hugging-face
numind
NuExtract-2-2B-experimental

NuExtract-2-2B-experimental — экспериментальная мультимодальная модель NuMind для извлечения структурированных данных. Она дообучена на базе OpenGVLab/InternVL2_5-2B и принимает текст или изображения вместе с JSON-шаблоном, который задаёт нужные поля и типы значений. Модель извлекает дословные и обобщённые строки, числа, даты, значения из заданных списков, а также массивы этих типов. Если нужных сведений нет, она может вернуть null или пустой массив. Модель многоязычная; для извлечения рекомендуется температура около нуля. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

378март 2025ctx8.2K
textmithugging-face
Horizon-Labs
pii-redactor-small

Horizon Labs разработала PII Redactor Small — компактную модель на 141 млн параметров для обнаружения и разметки персональных данных и секретов в тексте перед передачей в журналы, запросы к LLM, обучающие наборы или внешние API. Это дообученная для token classification модель архитектуры ModernBERT на базе jhu-clsp/mmBERT-small; она распознаёт 29 типов сущностей, включая имена, контакты, адреса, государственные и финансовые идентификаторы, пароли, API-ключи и сетевые идентификаторы. Модель рассчитана на многоязычную фильтрацию текста и интеграцию с Transformers, Presidio и LLM Guard. Веса доступны в форматах Safetensors и ONNX; заявлены работа на CPU и использование через transformers.js в браузере и на периферийных устройствах. Контекст составляет до 8192 токенов. README заявляет поддержку более 30 языков, включая русский; метаданные перечисляют языки от en до zh, ja, ko и других. Результаты на внешних тестах неоднородны: модель показывает полезное качество, но не лидирует на каждом наборе. Большая часть обучающих данных синтетическая; необычные форматы и языки вне обучающего набора могут снижать полноту обнаружения. Модель не гарантирует анонимизацию, может избыточно скрывать даты и не помечает некоторые чувствительные атрибуты, например религию и состояние здоровья. Лицензия — Apache-2.0.

5111сент. 2026ctx8.2K
textapache-2.0hugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей