/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
841–870 из 23 488
HiTZ
GoLLIE-7B

GoLLIE-7B — языковая модель для извлечения информации, разработанная исследователями HiTZ Basque Center for Language Technology при Университете Страны Басков. Модель дообучена на основе CODE-LLaMA2 и следует подробным инструкциям и правилам аннотирования, заданным для конкретной схемы. Она генерирует структурированные результаты извлечения по описанным пользователем классам и указаниям. Модель предназначена для распознавания именованных сущностей, извлечения событий и отношений, а также для zero-shot извлечения информации и задач с пользовательскими схемами аннотирования. Это плотная архитектура LLaMA с 6,6 млрд параметров и контекстом до 16 384 токенов; заявленный язык — английский. В карточке приведены средние F1 55,3 для zero-shot и 73,0 для supervised оценки. Для запуска нужны совместимые средства работы с моделями PyTorch и Transformers. Модель распространяется по лицензии LLaMA 2; ограничения лицензии следует учитывать при использовании.

32832сент. 2023ctx16.4K
textllama2hugging-face
ibm-granite
granite-3b-code-instruct-128k

Granite-3B-Code-Instruct-128K — языковая модель с 3,5 млрд параметров, разработанная IBM Research. Это плотная авторегрессионная модель семейства Llama, дообученная на основе ibm-granite/granite-3b-code-base-128k для выполнения инструкций по программированию и работы с длинным контекстом до 128 000 токенов. Модель предназначена для создания кодовых помощников: она может генерировать код и отвечать на инструкции по программированию, в том числе с учётом длинных входных материалов, например содержимого репозитория. Обучение включало короткие и длинные примеры, задачи по математике, SQL и вызову функций. Карточка не перечисляет поддерживаемые естественные языки; модель ориентирована на программный код. IBM не рекомендует применять эту версию в новых проектах и предоставляет её для исторических и научных целей, поскольку более новые модели Granite превосходят её в задачах программирования. Для языков программирования вне обучающего распределения качество может быть ниже; перед использованием в критических приложениях нужны проверка безопасности и целевая настройка. Лицензия — Apache 2.0.

73113июль 2024ctx128K
textapache-2.0hugging-face
ibm-granite
granite-timeseries-ttm-r2

Granite-TimeSeries-TTM-R2 — компактная предварительно обученная модель TinyTimeMixer для прогнозирования многомерных временных рядов, выпущенная IBM Research. Варианты TTM рассчитаны на определённые длины контекста и прогноза; эта версия относится к семейству моделей размером около 1 млн параметров и использует архитектуру TinyTimeMixerForPrediction. Модель поддерживает нулевое прогнозирование и дообучение на данных целевого ряда, включая режимы независимой обработки каналов и смешивания каналов. Модель предназначена для точечного прогнозирования временных рядов от минутной до часовой частоты. Она может использовать экзогенные признаки и статические категориальные данные; для каждого канала требуется предварительное масштабирование. По карточке модели, TTM отличается малыми требованиями к ресурсам и может запускаться на одной GPU или ноутбуке, а дообучение возможно на небольшой доле целевых данных. Версия распространяется по лицензии Apache-2.0. Ограничения включают зависимость выбора варианта от длины контекста, горизонта прогноза и распределения целевых данных. Не рекомендуется искусственно увеличивать короткую историю нулевыми значениями или повышением частоты; поддержка частот ниже часовой в описанной версии ограничена, при этом ежедневные и еженедельные частоты добавлены в выпуске r2.1.

157K167окт. 2024
textapache-2.0hugging-face
jth01
inf-o1-pi0-fixed

jth01/inf-o1-pi0-fixed — копия весов INF-o1-pi0 от INFLY TECH (Shanghai) Co., Ltd. с заменёнными файлами конфигурации токенизатора на вариант QwQ; автор репозитория сообщает, что так модель работает лучше. Это плотная причинная языковая модель семейства Qwen2 с 32 млрд параметров, рассчитанная на генерацию текста и диалог. Контекст — до 32 768 токенов. Исходный INF-o1-pi0 представлен как начальный чекпойнт для оценки конвейера подготовки данных и развития многошаговых рассуждений. В карточке описаны задачи математики, программирования, логики, безопасности и SQL, а также приведены сравнительные результаты на соответствующих тестах. Модель может применяться для решения математических и логических задач, объяснения решений и генерации кода или SQL-запросов. Метаданные указывают на слияние INF-o1-pi0 и Qwen/Qwen2.5-32B-Instruct; этот репозиторий дополнительно меняет конфигурацию токенизатора. Для запуска используется Transformers, веса хранятся в safetensors. Лицензия в предоставленных данных не указана. Результаты бенчмарков не гарантируют точность ответов в прикладных сценариях; README позиционирует исходный чекпойнт как основу для дальнейшей разработки, а не как завершённую модель для ответственных решений.

171янв. 2025ctx32.8K
texthugging-face
BaSalam
Llama2-7b-entity-attr-v1

BaSalam/Llama2-7b-entity-attr-v1 — дообученная компанией Basalam языковая модель семейства Llama 2 для анализа карточек товаров. По названию и описанию товара она определяет тип товара и извлекает его атрибуты, возвращая результат в структурированном JSON-формате. Модель подходит для автоматического обогащения каталогов и обработки похожих товарных данных. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 4096 токенов. В примере показаны персидские названия атрибутов и значения, а метаданные указывают персидский и английский языки. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.

255янв. 2024ctx4.1K
textmithugging-face
sagorsarker
mbert-bengali-ner

mBERT-Bengali-NER — модель распознавания именованных сущностей в бенгальском тексте, разработанная Sagor Sarker на основе bert-base-multilingual-uncased и обученная на датасете WikiAnn. Это трансформер BERT с архитектурой BertForTokenClassification, рассчитанный на классификацию каждого токена; контекст модели составляет 512 токенов, размер — около 194,6 млн параметров. В опубликованной оценке указаны F1 0,971, точность 0,968, полнота 0,974 и accuracy 0,977. Модель подходит для извлечения имён людей и других размеченных сущностей из бенгальских текстов, например для последующего индексирования или анализа документов. Карточка показывает метки PER, а полный набор меток в предоставленном фрагменте приведён не полностью. Для использования нужны Transformers и PyTorch; веса доступны в форматах PyTorch и Safetensors. Лицензия — MIT.

1563март 2022ctx512
textmithugging-face
Zual
MPropositionneur-V2

MPropositionneur-V2 — компактная языковая модель, разработанная Люком Поммере в LISN при CNRS. Она основана на Qwen3-0.6B и дообучена методом дистилляции для разложения сложных предложений и фрагментов текста на простые, независимые атомарные утверждения. Модель генерирует список утверждений в формате JSON. Модель предназначена для подготовки атомарных фактов для индексации в RAG-системах, извлечения информации в стиле OpenIE, упрощения текста и анализа дискурса. Карточка заявляет поддержку нескольких языков, в частности французского и английского; метаданные также перечисляют испанский, португальский, итальянский и немецкий. Контекст — до 40 960 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Специализация модели помогает получать более гранулярные утверждения для последующей обработки. Результаты могут терять контекст или искажать исходный смысл, поэтому атомарные утверждения стоит проверять перед использованием в критичных сценариях; отдельные оценки качества в карточке не приведены.

3971февр. 2026ctx41K
textapache-2.0hugging-face
Babelscape
mrebel-large

mREBEL — многоязычная модель извлечения отношений, разработанная авторами работы REDFM. Она формулирует задачу как генерацию последовательности и предназначена для извлечения субъектов, объектов и типов отношений из текста, а также для дальнейшей настройки на многоязычных наборах данных по извлечению отношений. Модель основана на архитектуре mBART, содержит около 457,4 млн параметров и имеет контекст до 1024 токенов. В карточке перечислены 19 языков: арабский, каталанский, немецкий, греческий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, русский, шведский, вьетнамский и китайский. Модель опубликована в форматах PyTorch и Safetensors и обучена на мультиязычном наборе SREDFM. При разборе результатов важны специальные токены, отделяющие сущности и типы отношений: согласно карточке, виджет вывода Hugging Face их не показывает. Лицензия CC BY-NC-SA 4.0 требует атрибуции, распространения производных материалов на тех же условиях и запрещает коммерческое использование.

72880июнь 2023ctx1K
textcc-by-nc-sa-4.0hugging-face
Ar86Bat
multilang-pii-ner

Ar86Bat разработал многоязычную модель на базе XLM-RoBERTa Base, дообученную для распознавания именованных сущностей, содержащих персональные данные, в тексте. Она определяет такие данные, как имена, адреса, даты, электронная почта и номера телефонов, чтобы их можно было маскировать в приложениях для защиты конфиденциальности. Модель принимает текст на английском, немецком, французском и итальянском языках; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Распространяется в формате safetensors по лицензии MIT. В карточке указаны общая точность 99,24%, macro F1 0,954 и weighted F1 0,992. Для распространённых сущностей, включая электронную почту и даты, результаты высокие; для редких и неоднозначных типов данных качество ниже. Модель не гарантирует полноту и точность обнаружения таких сущностей без дополнительной настройки.

1.2K9авг. 2025ctx514
textmithugging-face
splynx
multilang-pii-ner-ONNX

splynx/multilang-pii-ner-ONNX — ONNX-версия модели Multilingual PII NER, разработанной Arif Hizlan (Ar86Bat) и автоматически конвертированной для использования с Transformers.js. Модель основана на архитектуре XLM-RoBERTa Base и предназначена для распознавания сущностей методом NER с целью обнаружения и маскирования персональных данных в тексте. Модель поддерживает английский, немецкий, итальянский и французский языки и может использоваться в приложениях для обезличивания документов, защиты конфиденциальности и предварительной обработки текстов. Она обучена на наборе данных ai4privacy/open-pii-masking-500k-ai4privacy. В README указаны общая точность 99,24%, macro F1 0,954 и weighted F1 0,992; особенно высокие результаты показаны для адресов электронной почты и дат, тогда как для редких или неоднозначных типов данных, включая номера водительских удостоверений, гендер, номера паспортов, фамилии и пол, качество ниже. Модель не гарантирует идеальную полноту и точность для редких или неоднозначных категорий PII и может потребовать дополнительной тонкой настройки под конкретный домен. Формат ONNX и совместимость с Transformers.js удобны для интеграции в JavaScript-приложения. Модель распространяется по лицензии MIT.

1.3K0июнь 2026ctx514
textmithugging-face
samandar1105
named_entity-recognition

Модель samandar1105/named_entity-recognition — англоязычная модель распознавания именованных сущностей, разработанная Samandar1105 и дообученная на bert-base-cased на наборе CoNLL-2003 с новостными текстами Reuters. Она размечает токены как имена людей, организации, географические объекты и прочие сущности. Модель построена на архитектуре BERT и содержит 135,5 млн параметров. Она принимает текст, поддерживает контекст до 512 токенов и выполняет классификацию токенов. В README указан результат F1 0,9116 на тестовой выборке CoNLL-2003. Лицензия в предоставленных данных не указана.

211июнь 2026ctx512
texthugging-face
NbAiLab
nb-bert-base-ner

NbAiLab/nb-bert-base-ner — модель BERT, дообученная командой NbAiLab для распознавания именованных сущностей на датасете NorNE. Она предназначена для разметки норвежского текста по токенам, например для извлечения имён людей, организаций и других сущностей из документов. Модель содержит 151,6 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт метки для токенов. Доступна в форматах PyTorch и Safetensors; лицензия — CC BY 4.0.

1.5K5март 2022ctx512
textcc-by-4.0hugging-face
CATIE-AQ
NERmemberta-3entities

NERmemBERTa-3entities — модель распознавания именованных сущностей, разработанная Centre Aquitain des Technologies de l'Information et Electroniques. Это базовая CamemBERTa v2, дообученная для французского языка на объединённом и очищенном наборе frenchNER_3entities из пяти французских датасетов. Модель размечает сущности трёх типов: географические названия (LOC), имена людей (PER) и организации (ORG). Модель содержит 138,4 млн параметров, использует архитектуру DeBERTa-v2 для классификации токенов и поддерживает контекст до 1024 токенов. Её можно применять для извлечения организаций, персон и мест из французских текстов, например при разборе новостей или подготовке корпуса для поиска. В обучающем наборе было более 420 тысяч примеров, включая отдельные выборки для обучения, валидации и тестирования. Модель выпущена под лицензией MIT. Она предназначена для французского NER с тремя указанными классами; README не приводит численных метрик в доступном тексте, поэтому качество на конкретных данных следует оценивать отдельно.

371нояб. 2024ctx1K
textmithugging-face
djagatiya
ner-roberta-base-ontonotesv5-englishv4

Модель djagatiya/ner-roberta-base-ontonotesv5-englishv4 разработана как дообученная версия RoBERTa-base для распознавания именованных сущностей. Она размечает токены английского текста и объединяет их в сущности; модель обучена на наборе conll2012_ontonotesv5 версии english-v4. Архитектура — RobertaForTokenClassification, размер — 151,8 млн параметров, контекст — до 514 токенов. Модель подходит для извлечения сущностей из документов и текста, например имён людей, организаций и других категорий OntoNotes. В README указаны precision 88,88, recall 90,69 и F1 89,78. Модель предназначена для английского языка; качество на других языках и вне обучающего распределения не подтверждено. Файлы доступны в форматах PyTorch и Safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

2.3K2июль 2022ctx514
texthugging-face
numind
NuNER-v2.0

NuNER-v2.0 — англоязычная модель распознавания именованных сущностей, разработанная NuMind. Это дообученная на расширенной версии набора NuNER модель RoBERTa с контрастивным обучением; она предназначена для получения эмбеддингов текста для распознавания сущностей и может применяться сразу или дообучаться на специализированных наборах данных. Модель содержит 151,8 млн параметров, принимает текст и имеет контекстное окно 514 токенов. В карточке приведены результаты для сценариев, где обучение использует от 1 до 64 примеров на класс; численные показатели для версии v2.0 не представлены. Модель распространяется по лицензии MIT.

6.5K45апр. 2024ctx514
textmithugging-face
Mungert
OpenReasoning-Nemotron-32B-GGUF

Mungert/OpenReasoning-Nemotron-32B-GGUF — GGUF-версия большой языковой модели OpenReasoning-Nemotron-32B, производной от Qwen/Qwen2.5-32B-Instruct. Исходная модель разработана NVIDIA и дообучена для рассуждений, генерации решений по математике, программированию и научным задачам. Указан английский язык, текстовая модальность и сценарий text-generation. Модель создана с использованием llama.cpp; конкретный формат квантования зависит от файла GGUF. В README также описан подход с повышением точности отдельных важных слоёв при квантовании, что может улучшать качество на низких разрядностях, но увеличивает размер файла. Модель рассчитана на исследовательское и коммерческое/некоммерческое использование. Для сложных задач поддерживается генерация до 64K выходных токенов по данным исходной карточки. Сильные стороны — специализация на математическом, кодовом и научном рассуждении, а также возможность многократных параллельных генераций с последующим выбором решения через GenSelect. Ограничения включают высокие требования к вычислительным ресурсам для 32B-модели, возможную зависимость качества и размера от выбранного уровня квантования, а также отсутствие в предоставленных данных точного размера контекстного окна и подробностей об аппаратных требованиях. Лицензия модели — Creative Commons Attribution 4.0 International (CC-BY-4.0); для базовой модели дополнительно указана Apache 2.0.

4143июль 2025
textcc-by-4.0hugging-face
perplexity-ai
PII-Tracer-GGUF

PII-Tracer-GGUF — сборка детектора персональных данных PII-Tracer от Perplexity AI в формате GGUF для запуска с llama.cpp. В основе — двунаправленный энкодер Qwen3 примерно на 600 млн параметров с бэкбоном pplx-embed-v1-0.6b. Отдельные классификационные головы остаются в формате safetensors: одна размечает токены тегами BIOES по девяти категориям PII, другая оценивает чувствительность диалога целиком. Модель предназначена для обнаружения и маскирования персональных данных в разговорных текстах, включая имена, номера счетов, адреса, даты, электронную почту, телефоны, URL и секреты. Для разметки используется классификация токенов с ограниченным декодированием Viterbi; клиент применяет головы к векторам токенов, полученным от llama-server, и может маскировать найденные фрагменты. Карточка указывает поддержку английского и многоязычного ввода. Окно обработки составляет от 1 до 4096 токенов; более длинные документы требуется разбивать на фрагменты. Для двунаправленного внимания весь вход должен обрабатываться одним микропакетом, а для получения представлений на каждый токен нужны указанные в README параметры сервера. Точность конвертации и бэкенд могут менять результаты, возможны ложные срабатывания и пропуски PII, поэтому пороги и качество следует оценивать на целевых данных. Лицензия — MIT.

14K1июль 2026ctx131.1K
textmithugging-face
pinkelephantlimited
pinkelephant-llm-48b

Pink Elephant 48B — языковая модель с архитектурой Mixture-of-Experts от Pink Elephant Limited, дообученная на инструкциях по программированию и математическим рассуждениям. В карточке указаны 47,7 млрд параметров общей ёмкости и около 14,7 млрд активных на токен; метаданные Hugging Face указывают 8,6 млрд параметров. Модель использует восемь экспертов на слой и маршрутизацию к двум из них для каждого токена. Контекст — 16 384 токена. Модель предназначена для генерации кода, следования инструкциям по разработке ПО и решения математических задач с пошаговыми рассуждениями. Это объединённая версия с уже встроенными адаптерами экспертов и обученным маршрутизатором; для инференса не требуется отдельно подключать адаптеры. Поддерживаются текстовый ввод и генерация текста, заявлен английский язык. Модель основана на MoE-базе Pink Elephant 48B, созданной путём расширения плотной модели Pink Elephant 14B. Обучение включало около 100 тысяч примеров по коду и математике. По заявлению карточки, специализация на этих задачах ограничивает широту общих знаний; длинные агентные сценарии могут требовать дополнительного обучения использованию инструментов. Результаты следует проверять перед применением в регулируемых и критически важных областях. Лицензия — MIT.

520авг. 2026ctx16.4K
textmithugging-face
perplexity-ai
pplx-pii-masking

Perplexity AI разработала pplx-pii-masking для обнаружения и маскирования персональных и других чувствительных данных в разговорных текстах. Модель использует примерно 600-миллионную двунаправленную архитектуру Qwen3 на основе perplexity-ai/pplx-embed-v1-0.6b и содержит две выходные головы: токенную классификацию с BIOES-разметкой девяти категорий чувствительных данных и классификатор чувствительности беседы. Для последовательностей применяется ограниченный декодер Витерби; максимальная длина входа — 4096 токенов. Модель подходит для поиска имён, номеров счетов, URL, дат, адресов, адресов электронной почты, телефонов, прочих персональных данных и секретов в разговорных данных, а также для оценки чувствительности беседы целиком. Метаданные указывают английский и многоязычный охват. Веса доступны в формате safetensors; лицензия — MIT. Для запуска README описывает использование PyTorch и Transformers с trust_remote_code.

2.9K63июль 2026ctx131.1K
textmithugging-face
Sonorix
pulsar-coder-v1

Pulsar Coder v1 — кодовый ассистент Exo на базе архитектуры Qwen2 с 1,5 млрд параметров. README называет модель обученной с нуля, однако метаданные Hugging Face указывают на дообучение cognitivecomputations/Dolphin3.0-Qwen2.5-1.5B, поэтому происхождение модели в источниках расходится. Модель предназначена для ответов на русском языке и генерации кода на Python, JavaScript и TypeScript, Go, Rust, C++, C#, Java, SQL, Bash, HTML и CSS. Она поддерживает чат; заявленная длина контекста — 131 072 токена. Шаблон чата задаёт идентичность Pulsar по умолчанию. Модель распространяется в формате safetensors по лицензии Apache-2.0. README рекомендует настройки генерации с температурой 0,3–0,7, top_p 0,9 и штрафом за повторы 1,1–1,2, но не приводит результатов оценки качества. Учитывая небольшой размер, пригодность для сложных задач кодирования следует проверять на собственных примерах.

4821сент. 2026ctx131.1K
textapache-2.0hugging-face
thisavros
qwen25-1_5b-text2sql-lora-merged

Модель thisavros/qwen25-1_5b-text2sql-lora-merged — дообученная автором thisavros языковая модель Qwen2.5-1.5B-Instruct. Она предназначена для генерации текста; название репозитория указывает на сценарий Text-to-SQL, однако README не описывает его точнее. Модель содержит 1,5 млрд параметров, использует архитектуру Qwen2ForCausalLM и формат safetensors; базовая модель рассчитана на контекст до 32 768 токенов. Модель дообучена на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL от Hugging Face. Метаданные указывают поддержку английского языка и возможности чата. Лицензия — Apache-2.0.

130авг. 2026ctx32.8K
textapache-2.0hugging-face
Agnuxo
Qwen2-7B-Instruct_CODE_Python_Spanish_English_Asistant-16bit

Agnuxo/Qwen2-7B-Instruct_CODE_Python_Spanish_English_Asistant-16bit — локальная чат-модель для генерации кода, представленная Francisco Angulo de Lafuente в рамках экосистемы P2PCLAW. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. В README заявлена помощь с Python, JavaScript, TypeScript, Rust, Go и C++, а также с научными вычислениями и библиотеками NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Модель предназначена для диалоговой генерации кода и помощи при разработке, в том числе локально через Ollama или Transformers. Карточка заявляет поддержку английского и испанского языков. Лицензия — Apache-2.0. README также содержит указание перенаправлять запросы на написание научных статей в P2PCLAW; качество кода, языковое покрытие за пределами заявленных языков и результаты независимой оценки в предоставленных данных не подтверждены.

280авг. 2024ctx32.8K
textapache-2.0hugging-face
jinaai
reader-lm-0.5b

Jina Reader-LM 0.5B — компактная языковая модель, разработанная Jina AI для преобразования HTML-страниц в Markdown. Она обучена на отобранных парах HTML и соответствующего Markdown и принимает исходный HTML без дополнительной инструкции в запросе. Модель предназначена для извлечения и преобразования содержимого веб-страниц, например при подготовке страниц сайтов к чтению и дальнейшей обработке. Модель построена на архитектуре Qwen2 с плотной причинно-следственной языковой моделью и содержит 494 млн параметров. Она работает через Transformers, принимает текст и генерирует текст; заявленная длина контекста — 256 тысяч токенов. В метаданных указана поддержка многоязычного режима, но конкретные языки не перечислены. Модель специализируется на преобразовании веб-содержимого, поэтому её не следует считать универсальным средством для любых задач генерации текста. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но ограничивает коммерческое применение.

127151сент. 2024ctx256K
textcc-by-nc-4.0hugging-face
AliFartout
Roberta-fa-en-ner

AliFartout/Roberta-fa-en-ner — модель для распознавания именованных сущностей в английском и персидском тексте. Она разработана на базе XLM-RoBERTa и дообучена для классификации токенов на объединённых данных CoNLL 2003 для английского и PEYMA-ARMAN-Mixed для персидского. Модель содержит 305,2 млн параметров, принимает текст и выдаёт метки для токенов; длина контекста составляет 514 токенов. Модель подходит для извлечения сущностей из документов и текста на английском и персидском языках. В README приведён результат F1 около 94% после третьей эпохи, но не уточнено, относится ли он к отдельному языку или к объединённой оценке. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.

64K0авг. 2023ctx514
textapache-2.0hugging-face
cardiffnlp
roberta-large-tweet-topic-multi-all

cardiffnlp/roberta-large-tweet-topic-multi-all — модель Cardiff NLP, дообученная на базе roberta-large для многометочной классификации тем в сообщениях Twitter. Она обучена на полном разбиении train_all набора tweet_topic_multi и проверена на test_2021. Модель принимает текст и предсказывает тематические метки; размер составляет 454,1 млн параметров, длина контекста — 514 токенов. На test_2021 модель показала micro F1 0,763, macro F1 0,620 и accuracy 0,537. Она подходит для автоматической разметки тем в твитах и анализа тематик публикаций. В карточке не указана лицензия, поэтому условия использования по имеющимся данным определить нельзя.

76сент. 2022ctx514
texthugging-face
denis-gordeev
rured2-ner-microsoft-mdeberta-v3-base

Модель denis-gordeev/rured2-ner-microsoft-mdeberta-v3-base — русскоязычная модель распознавания именованных сущностей, разработанная Денисом Гордеевым путём дообучения microsoft/mdeberta-v3-base на RURED2. Она размечает токены текста несколькими возможными метками; среди классов указаны персоны, организации, страны, города, даты, денежные суммы, профессии, источники новостей и другие сущности. Модель построена на DeBERTa V3, содержит 306 млн параметров и принимает контекст длиной до 512 токенов. Модель подходит для извлечения сущностей из русскоязычных текстов, например новостей и документов, а также для структурирования упоминаний людей, мест, организаций, событий и числовых значений. В README приведены результаты оценки: micro-F1 0,5837 в целом, при этом качество заметно различается между классами; например, для B-person F1 составляет 0,9639, а для некоторых меток показатели низкие или нулевые. Для применения требуется учитывать многозначные предсказания для отдельных токенов и проверять разметку на целевом наборе данных. Распространяется по лицензии MIT.

1017нояб. 2023ctx512
textmithugging-face
segment-any-text
sat-3l

sat-3l — модель семейства Segment Any Text, предназначенная для сегментации текста на предложения в составе библиотеки wtpsplit. Она решает задачу токенной классификации: определяет границы сегментов в последовательности токенов. Архитектура — плотная SubwordXLMForTokenClassification с тремя слоями Transformer; размер составляет 220,3 млн параметров, нативная длина контекста — 514 токенов. Доступны веса PyTorch и ONNX. Модель рассчитана на многоязычную сегментацию текста и подходит для подготовки документов к дальнейшей обработке, включая разделение текста на предложения. Карточка ссылается на работу Segment Any Text, но не приводит подробностей о качестве по отдельным языкам. Лицензия MIT.

10K7июнь 2024ctx514
textmithugging-face
TechxGenus
starcoder2-7b-instruct

TechxGenus starcoder2-7b-instruct — дообученная для следования инструкциям модель генерации кода на архитектуре StarCoder2. В README указано, что StarCoder2-7B обучили ещё на 0,7 млрд токенов, связанных с кодом, в течение трёх эпох; размер модели в метаданных — 9,9 млрд параметров. Модель использует формат инструкций Alpaca без системного промпта и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации и дополнения кода по инструкциям, а также решения задач программирования. Авторы сообщают результат 73,2 pass@1 на HumanEval-Python. В README отмечены ограниченное тестирование, возможные ошибки и вводящие в заблуждение ответы, а также трудности с задачами вне программирования. Лицензия — BigCode OpenRAIL-M.

2024март 2024ctx16.4K
textbigcode-openrail-mhugging-face
satyaalmasian
temporal_tagger_BERT_tokenclassifier

satyaalmasian/temporal_tagger_BERT_tokenclassifier — модель на основе BERT для разметки временных выражений в обычном тексте. Она предназначена для извлечения упоминаний времени, дат, длительностей и повторяющихся временных интервалов. Модель представлена в работе «BERT got a Date: Introducing Transformers to Temporal Tagging»; автор использует BERT для классификации каждого токена по тегам BIO: начало и продолжение фрагмента времени, даты, длительности или множества, а также токены вне таких фрагментов. Это модель архитектуры BERT с 136,7 млн параметров, рассчитанная на английский текст и контекст до 512 токенов. Она выдаёт метки для токенов; для получения читаемых временных фрагментов рекомендуется использовать постобработку из исходного репозитория, включая выравнивание токенов и стратегии голосования: необработанные предсказания могут быть шумными. В карточке не указаны условия лицензии.

3834март 2022ctx512
texthugging-face
asahi417
tner-xlm-roberta-base-ontonotes5

Модель asahi417/tner-xlm-roberta-base-ontonotes5 разработана Асахи Усио и представляет собой XLM-RoBERTa, дообученную для распознавания именованных сущностей методом классификации токенов. Она предназначена для выделения в английском тексте сущностей и отнесения их к классам людей, организаций, мест и прочих объектов; выходные метки используют схему BIO. Модель основана на архитектуре XLM-RoBERTa и содержит 305,2 млн параметров. Максимальная длина контекста — 514 токенов. Её можно применять напрямую для NER или вместе с библиотекой tner. В карточке указана только поддержка английского языка. Предсказания могут отражать стереотипы и предвзятость в отношении защищённых групп и социальных характеристик. Лицензия в карточке не определена, поэтому условия использования следует уточнить у автора модели.

17K5март 2022ctx514
texthugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей