/ Профессии
Разработка ПО, данные, AI и инфраструктура

II.8Инженерия данных и аналитика

В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.

ЭмбеддингиТекст
AI-задач
22
в этой профессии
Подходящих моделей
23 488
по типу задач и модальности
Категория
II. Разработка и данные
Основные типы
ЭмбеддингиТекст

Рекомендованные модели

23 488 моделей
Загрузки
Лайки
Дата выхода
1–30 из 23 488
datajuicer
Juicer-35B-A3B

Juicer — локально развёртываемая модель Data-Juicer для уточнения и очистки данных по инструкциям на естественном языке. Это дообученная методом SFT и reinforcement learning модель Qwen/Qwen3.6-35B-A3B: архитектура MoE содержит 35 млрд параметров, из которых активируются 3 млрд на токен; в базовой архитектуре также есть визуальный энкодер, но Juicer предназначена для обработки текста. Модель принимает рецепты очистки, правила фильтрации и инструкции по семантической разметке, а результаты выдаёт в виде текста с тегами или канонического JSON. Juicer выполняет отдельные и составные операции, соблюдает их заданный порядок и поддерживает почти 70 операторов Data-Juicer. Примеры задач: нормализация пробелов, удаление дублей и ссылок, фильтрация по качеству, обезличивание персональных данных, оценка по рубрике и классификация безопасности. Модель рассчитана на локальные конвейеры подготовки данных, включая обработку приватных корпусов; доступна для запуска через vLLM, SGLang или Transformers. Карточка сообщает об оценке на CDR-Bench. Лицензия — Apache-2.0. Высокозначимые результаты следует проверять валидаторами или человеком; модель не предназначена для широкого чата, программирования, тестирования зрения или автономных юридических и комплаенс-решений.

2062авг. 2026ctx262.1K
textapache-2.0hugging-face
defog
sqlcoder2

Defog SQLCoder2 — созданная Defog языковая модель на 15 млрд параметров для преобразования вопросов на естественном языке в SQL-запросы. Это дообученная версия базовой модели StarCoder с архитектурой GPTBigCode; веса доступны в формате PyTorch, а контекст составляет 8192 токена. Модель предназначена для генерации запросов по описанию схемы базы данных и вопросу пользователя. В опубликованной Defog оценке на наборах данных, не встречавшихся при обучении, SQLCoder2 получила 77,5% правильных ответов. Разработчик также сообщает, что дообучение на конкретной схеме может повысить качество, однако результаты зависят от схемы и формулировки запроса. Для работы с полной точностью модель проверяли на GPU A100 с 40 ГБ памяти; README также описывает запуск 8- и 4-битных квантованных вариантов на устройствах с 20 ГБ памяти. В метаданных указана лицензия other, поэтому перед использованием следует проверить условия в репозитории модели.

8.2K117окт. 2023ctx8.2K
textotherhugging-face
opendatalab
meta-rater-cleanliness-rating

opendatalab разработала эту модель для оценки структурной чистоты текста в рамках метода Meta-rater. Это дообученная ModernBERT-base с 149 млн параметров, реализованная как ModernBertForSequenceClassification. Модель присваивает тексту непрерывную оценку от 0 до 5: чем выше балл, тем лучше форматирование, полнота и отсутствие шума. Модель подходит для фильтрации результатов веб-скрейпинга, очистки наборов данных, отбора текстов для предобучения языковых моделей и автоматической проверки качества документов. Она оценивает структурные свойства, например артефакты извлечения, обрывки предложений, повреждённые символы, избыток ссылок и рекламы; смысл, тематику, стиль и грамматическую сложность не оценивает. В README приведены показатели 87,88% F1 и 92,25% accuracy. Модель принимает текст и выдаёт оценку качества. В README заявлено контекстное окно 4096 токенов, а метаданные указывают нативный контекст до 8192 токенов. Она рассчитана преимущественно на английский текст; качество на технических форматах, коде и математической записи может меняться. Лицензия — MIT.

1080июнь 2025ctx8.2K
textmithugging-face
defog
sqlcoder-7b

SQLCoder-7B — языковая модель компании Defog для преобразования вопросов на естественном языке в SQL-запросы. Она дообучена на базе Mistral-7B и содержит 7,1 млрд параметров; архитектура — плотная авторегрессионная Mistral, формат весов в репозитории — PyTorch. Модель рассчитана на работу с текстовым описанием схемы базы данных и вопросом пользователя; заявленная длина контекста — 32 768 токенов. В карточке приведены результаты оценки на новых наборах данных и отмечено обучение на более чем 20 000 размеченных вопросов по 10 схемам. Модель подходит для генерации SQL по запросам на английском языке, в том числе для аналитических вопросов с группировкой, сортировкой и датами. Качество зависит от точности и полноты переданной схемы и формулировки вопроса; карточка сообщает, что эта версия устарела и рекомендует более новую SQLCoder-7B-2. Для инференса указана библиотека Transformers; тестирование проводилось на A100 с весами bfloat16, а для запуска на потребительских GPU предлагаются 8- и 4-битные варианты. Лицензия — CC BY-SA 4.0.

7869окт. 2023ctx32.8K
textcc-by-sa-4.0hugging-face
motherduckdb
DuckDB-NSQL-7B-v0.1

DuckDB-NSQL-7B-v0.1 — авторегрессионная языковая модель семейства NSQL, разработанная MotherDuck на базе Meta Llama 2 7B. Модель дополнительно предварительно обучена на общих SQL-запросах и дообучена на парах «естественный язык — DuckDB SQL». По метаданным, она содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста — 16 384 токена. Модель предназначена для генерации SQL по описанию задачи на естественном языке и схеме таблиц. В отличие от систем, ограниченных запросами SELECT, она может генерировать допустимые операторы DuckDB, включая запросы для официальных расширений DuckDB. В обучающих данных — 200 тысяч синтетических пар DuckDB text-to-SQL, созданных с опорой на документацию DuckDB 0.9.2, а также преобразованные в DuckDB SQL примеры NSText2SQL. Оценка описана на специализированном бенчмарке из 75 пар. Для работы рекомендуется формат промпта из карточки модели. Модель унаследовала лицензию Llama 2; перед использованием необходимо соблюдать её условия и условия Meta для базовой модели.

58105янв. 2024ctx16.4K
textllama2hugging-face
abdur197
fine-tuned-column-mapper

abdur197/fine-tuned-column-mapper — дообученная модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L6-v2, созданная для стандартизации названий столбцов. Она кодирует предложения и короткие фрагменты текста в плотные векторы размерности 384; сходство между ними оценивается косинусной мерой. Архитектура основана на BERT с усреднением токенных представлений и нормализацией векторов. Основной сценарий — сопоставление вариантов названий столбцов с каноническими названиями, например при приведении схем таблиц к единому виду. Модель также поддерживает семантический поиск и сравнение текстов, поиск перефразировок, кластеризацию и классификацию на основе эмбеддингов. Обучение проводилось на 1 786 примерах пар текстов с метками сходства. Метаданные указывают предел контекста 512 токенов; в README для конфигурации модели указан максимум 256 токенов. Модель описана как англоязычная базовая модель, а обучающие примеры содержат названия на индонезийском и английском, поэтому качество для других языков не подтверждено. Лицензия в предоставленных данных не указана.

30K0авг. 2025ctx512
textembeddinghugging-face
HridaAI
Hrida-T2SQL-3B-128k-V0.1

HridaAI/Hrida-T2SQL-3B-128k-V0.1 — языковая модель HridaAI для преобразования запросов на естественном языке в SQL. Она предназначена для специалистов по данным и других пользователей, которым нужно формировать SQL-запросы по описанию задачи и схеме базы данных. В README описан шаблон с инструкцией, SQL-диалектом, схемой таблиц и пользовательским запросом; можно указать диалект, например MySQL, PostgreSQL или SQL Server. Модель основана на архитектуре Phi-3 и содержит 3,7 млрд параметров. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные указывают native context в 4096 токенов; фактическую поддержку длинного контекста следует проверять при использовании. Репозиторий содержит веса Safetensors, библиотека — Transformers. Лицензия — Apache-2.0.

354июнь 2024ctx131.1K
textapache-2.0hugging-face
VikramPal
LFM2.5-8B-A1B-bf16

Это диалоговая модель для преобразования запросов на естественном языке в SQL. Модель VikramPal дообучил методом LoRA на базе LiquidAI/LFM2.5-8B-A1B: обучение охватило 49 905 примеров диалогов о text-to-SQL, после чего веса были объединены и сохранены в формате bf16. Архитектура — LFM2 MoE; в метаданных указано 1,6 млрд параметров и контекст до 128 000 токенов. Карточка README приводит для этого чекпойнта подсчёт в 8 467 856 128 параметров, поэтому размер модели в источниках расходится. Модель предназначена для генерации SQL по описанию задачи и схемы базы данных. На 12 000 отложенных задачах text-to-SQL README сообщает 84,29% совпадения результатов выполнения запросов; показатель составил 72,02% на наборе Gretel и 88,50% на WikiSQL. Это оценка одной задачи, и она не подтверждает качество на других сценариях. Чекпойнт загружается через Transformers в bf16; для него указана лицензия other, поэтому перед использованием следует проверить условия лицензии в карточке Hugging Face.

621авг. 2026ctx128K
textotherhugging-face
defog
llama-3-sqlcoder-8b

Defog, Inc. разработала Defog Llama 3 SQLCoder 8B — языковую модель для преобразования вопросов на естественном языке в SQL-запросы. Она дообучена на Meta-Llama-3-8B-Instruct и построена на плотной архитектуре Llama с 7,5 млрд параметров; модель принимает текст и генерирует текст, а заявленная длина контекста составляет 8192 токена. Модель предназначена для генерации SQL с учётом вопроса пользователя и переданных описаний таблиц (DDL). В README указана поддержка PostgreSQL, Redshift и Snowflake; авторы оценивали её на SQL-Eval, тестовом фреймворке для PostgreSQL. Для вывода рекомендуется температура 0 без сэмплирования. Модель распространяется по лицензии CC BY-SA 4.0. Карточка описывает её назначение и тестирование, но не приводит результатов оценки, поэтому фактическое качество на конкретных схемах и диалектах может различаться.

732276май 2024ctx8.2K
textcc-by-sa-4.0hugging-face
chatdb
natural-sql-7b

Natural-SQL-7B — инструкционная модель ChatDB.ai для преобразования вопросов на естественном языке в SQL-запросы. Она дообучена на базе DeepSeek Coder 6.7B Instruct и использует архитектуру Llama с плотной структурой, содержит около 6,5 млрд параметров и принимает текстовые инструкции и вопросы. Модель предназначена для генерации SQL по простым и составным вопросам к данным, в том числе для сценариев, где нужно получить запрос по описанию желаемой выборки или агрегирования. Разработчики заявляют о сильных результатах на сложных вопросах и тестировании на наборах данных, не использованных при обучении; подробные количественные результаты в карточке не приведены. Контекст — до 4096 токенов. Лицензия — CC BY-SA 4.0.

150K135февр. 2024ctx4.1K
textcc-by-sa-4.0hugging-face
SuanChang
rain-SQLCoder

Rain's SQLCoder — 32-миллиардная плотная языковая модель компании Rain, дообученная на базе Qwen/Qwen2.5-Coder-32B-Instruct для преобразования запросов на естественном языке в SparkSQL. Она принимает текстовый вопрос и генерирует SQL-запрос; заявленная длина контекста составляет до 32 768 токенов, что подходит для задач с крупными схемами и сложными запросами. Модель обучена следовать шаблону Alpaca и предназначена для генерации SELECT-запросов. По описанию, если схема таблиц не позволяет ответить на вопрос, модель отказывается от ответа. Авторы сообщают о сравнительной оценке на двух наборах данных и преимуществах в понимании намерения запроса, точности синтаксиса SQL и обработке сложных запросов, однако численные результаты в карточке не приведены. Модель распространяется в формате safetensors по лицензии Apache-2.0.

239март 2025ctx32.8K
textapache-2.0hugging-face
seeklhy
codes-15b

CodeS-15B — языковая модель для генерации SQL, разработанная как часть серии CodeS. Модель основана на StarCoder-15B и имеет плотную архитектуру GPTBigCode для авторегрессионной генерации текста и кода. Она рассчитана на последовательности длиной до 6144 токенов и распространяется в формате PyTorch. Модель предназначена прежде всего для преобразования запросов на естественном языке в SQL и других сценариев генерации SQL. В README сообщается о результатах на бенчмарках Text-to-SQL Spider и Bird. Лицензия — Apache-2.0. Карточка не уточняет поддерживаемые естественные языки; доступные сведения указывают на специализацию по коду.

459авг. 2023ctx8.2K
textapache-2.0hugging-face
seeklhy
codes-7b

CodeS-7B — языковая модель кода из семейства CodeS, разработанного специально для генерации SQL. Модель дообучена продолжением предварительного обучения StarCoderBase-7B и использует архитектуру GPTBigCode с плотной causal language model; веса доступны в формате PyTorch. Максимальная длина контекста составляет 8192 токена. Модель предназначена для преобразования запросов на естественном языке в SQL и других сценариев генерации SQL-кода. В README сообщается о высоких результатах семейства CodeS на бенчмарках Text-to-SQL Spider и BIRD. Репозиторий распространяется по лицензии Apache 2.0. Карточка не уточняет поддерживаемые естественные языки и ограничения применения; качество следует проверять на данных и диалектах SQL целевого сценария.

579авг. 2023ctx8.2K
textapache-2.0hugging-face
HridaAI
Hrida-T2SQL-3B-V0.2

HridaAI/Hrida-T2SQL-3B-V0.2 — компактная языковая модель HridaAI для преобразования запросов на естественном языке в SQL. Она дообучена на microsoft/Phi-3.5-mini-instruct и использует архитектуру Phi-3; число параметров составляет 3,7 млрд. Модель предназначена для работы с вопросом пользователя и схемой базы данных, включая имена таблиц и столбцов, типы данных и, при необходимости, диалект SQL. Модель ориентирована на помощь аналитикам данных и специалистам, которым нужно получать SQL-запросы из текстовых описаний. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные указывают нативный контекст 4096 токенов; фактическая поддержка длинного контекста по доступным данным не подтверждена. Карточка приводит шаблоны для Transformers и MLX, а метаданные указывают библиотеку Transformers. Модель распространяется по лицензии Apache-2.0.

210дек. 2024ctx131.1K
textapache-2.0hugging-face
mlx-community
sqlcoder-70b-alpha-4bit-mlx

mlx-community/sqlcoder-70b-alpha-4bit-mlx — конверсия модели defog/sqlcoder-70b-alpha в формат MLX с 4-битными весами, подготовленная сообществом mlx-community для запуска на совместимом оборудовании Apple. Это плотная авторегрессионная модель семейства Llama с 68,7 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации SQL по текстовым запросам и работы с кодом SQL; она подходит для локальных сценариев, где требуется преобразовывать вопросы к данным в запросы. В README указано использование библиотеки mlx-lm. Лицензия — CC BY-SA 4.0.

1056февр. 2024ctx16.4K
textcc-by-sa-4.0hugging-face
AIJian
TrustSQL-4B

TrustSQL-4B — дообученная модель для преобразования запросов на естественном языке в SQL, разработанная на базе Qwen3-4B в рамках работы TRUST-SQL. Она предназначена для работы с неизвестными схемами баз данных и использует многошаговое взаимодействие с инструментами: исследует схему, предлагает решение, формирует запрос и подтверждает его. Модель построена на архитектуре Qwen3ForCausalLM и содержит около 3,7 млрд параметров; длина контекста — 40 960 токенов. Модель обучалась в два этапа: начальная настройка на примерах и оптимизация методом GRPO с учётом фаз взаимодействия. В README приведены результаты на BIRD-Dev, Spider-Test и Spider-DK в сценарии неизвестной схемы. Для работы требуется оркестратор с настроенной средой инструментов. Модель обучена и оценена на бенчмарках SQLite, поэтому перенос на другие СУБД может требовать проверки. Перед использованием в чувствительных базах или базах с правом записи следует проверять сгенерированный SQL. Лицензия — Apache-2.0.

920март 2026ctx41K
textapache-2.0hugging-face
pawan2411
address-emnet

pawan2411/address-emnet — дообученная модель Sentence Transformers на базе pawan2411/address_net для создания векторных представлений адресов. Она использует архитектуру MPNet с усреднением токенных представлений; размер модели составляет 136,7 млн параметров, размерность эмбеддингов — 768, а максимальная длина последовательности — 512 токенов по README и 514 нативных токенов по метаданным. Сходство адресов оценивается косинусной мерой. Модель предназначена для сопоставления адресов, удаления дубликатов и унификации записей, различающихся форматом или написанием. Её можно применять для поиска похожих адресов и построения конвейеров очистки адресных данных. README не сообщает поддерживаемые языки или конкретные регионы адресации; качество за пределами описанных сценариев не установлено. Используется библиотека Sentence Transformers, веса представлены в формате safetensors. Лицензия в предоставленных данных не указана.

1011июль 2024ctx514
textembeddinghugging-face
aboOod3d
deepanalyze-8b

DeepAnalyze-8B — локальная модель для анализа табличных данных, представленная в формате GGUF и дообученная на базе RUC-DataLab/DeepAnalyze-8B. Репозиторий содержит 4-битную квантизацию Q4_K_M для запуска через llama.cpp; модель имеет 8 млрд параметров и контекст 8192 токена. В README также названа архитектура DeepSeek-Coder, но метаданные указывают на базовую модель семейства Qwen3. Модель предназначена для преобразования инструкций на естественном языке в код для анализа данных: очистки таблиц, работы с Pandas, Polars и DuckDB, статистического профилирования и построения графиков. Основной сценарий — локальное использование в Jupyter или IPython вместе с агентным расширением, которое проверяет и выполняет сгенерированный код. README описывает работу с англоязычными инструкциями и табличными данными, однако языки в метаданных не подтверждены. Лицензия — MIT. Модель рассчитана на специализированные задачи анализа данных, а не на универсальный диалог; качество и безопасность выполнения кода зависят также от внешней оболочки и проверок. Указанное в README AST-ограничение относится к агентному расширению, а не гарантируется самими весами модели.

230авг. 2026
textmithugging-face
RUC-DataLab
DeepAnalyze-8B

DeepAnalyze-8B — агентная большая языковая модель для автономной работы с задачами анализа данных. Её разработали Shaolei Zhang, Ju Fan, Meihao Fan, Guoliang Li и Xiaoyong Du; модель основана на плотной архитектуре Qwen3 и содержит 7,6 млрд параметров. Для запуска используется библиотека Transformers, веса опубликованы в формате safetensors; контекст — до 131 072 токенов. Модель предназначена для выполнения полного цикла работы с данными: подготовки и исследования данных, анализа, построения моделей, визуализации и подготовки отчётов. Она может исследовать структурированные источники, например базы данных, CSV и Excel, полуструктурированные JSON, XML и YAML, а также текстовые документы TXT и Markdown. В карточке указаны возможности чата и интерфейс вызова инструментов. Проект позиционируется как открытый, но в метаданных лицензия указана как MIT.

21693окт. 2025ctx131.1K
textmithugging-face
cis-lmu
glotlid

GlotLID — модель идентификации языка на базе fastText, разработанная командой cis-lmu. Актуальная версия V3 определяет язык текста среди 2102 меток, включая трёхбуквенные коды ISO с указанием письменности; доступны также предыдущие версии модели. Модель предназначена для автоматического определения языка коротких или длинных текстовых фрагментов, в том числе для маршрутизации текста по языковым обработчикам и предварительной разметки многоязычных корпусов. В метаданных указана задача text-classification, библиотека fastText и набор языковых тегов; README связывает разработку с исследованием EMNLP 2023 и датасетами GlotSparse, GlotStoryBook и glotlid-corpus. Модель выдаёт метку языка, а качество распознавания зависит от объёма и качества входного текста и покрытия конкретного языка в обучающих данных. Лицензия указана как other, поэтому перед использованием следует свериться с условиями репозитория.

250K104окт. 2023
textotherhugging-face
NeuML
language-id

NeuML/language-id — модель NeuML для определения языка по тексту. Это экспорт модели FastText Language Identification в формат staticvectors; инференс выполняется в Python с NumPy, а распознавание опирается на символьные n-граммы, что обеспечивает эффективную работу. Модель предназначена для автоматической классификации коротких или длинных текстовых фрагментов по языку. Её можно использовать для предварительной маршрутизации текста в многоязычных конвейерах обработки данных. Карточка указывает многоязычную поддержку, но не перечисляет отдельные языки. Модель распространяется по лицензии CC BY-SA 3.0.

3439янв. 2025
textcc-by-sa-3.0hugging-face
Mike0307
multilingual-e5-language-detection

Mike0307/multilingual-e5-language-detection — модель классификации текста для определения языка. Она разработана на основе multilingual-e5-base и дообучена на наборе данных common_language; архитектура — XLM-RoBERTa для классификации последовательностей, размер — 305,2 млн параметров. Модель поддерживает определение 45 языков и принимает текст длиной до 514 токенов. Модель подходит для автоматической разметки языка коротких сообщений и документов, маршрутизации текста по языковым конвейерам и предварительной фильтрации многоязычных корпусов. В README заявлена общая точность 98,37% на тестовой части common_language; результаты зависят от данных и условий оценки. Распространяется по лицензии Apache-2.0.

50013янв. 2024ctx514
textapache-2.0hugging-face
DataOrchestra
NP-0.6B

DataOrchestra NP-0.6B — компактная плотная языковая модель семейства Qwen3, разработанная DataOrchestra на базе Qwen/Qwen3-0.6B-Base и дообученная для удаления построчного шума из текстовых документов. Она принимает пронумерованный фрагмент документа в маркерах [DOC] и [/DOC] длиной до 1024 токенов Qwen3 и выдаёт операции удаления целых строк либо команду skip(). Модель предназначена для очистки веб-страниц и других текстовых источников от навигации, рекламы, панелей обмена, шаблонных фрагментов и метаданных каталогов; её можно запускать отдельно или включать в конвейер очистки DataOrchestra. В отличие от систем, которые переписывают текст или удаляют части строк, NP сохраняет все строки, не отмеченные для удаления. Модель содержит около 508 млн параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 32768 токенов; заявленный формат весов — safetensors. Карточка описывает англоязычное применение. Лицензия — Apache-2.0.

1961июль 2026ctx32.8K
textapache-2.0hugging-face
HPLT
OpenLID-v3

OpenLID-v3 — модель классификации текста для автоматического определения языка, разработанная HPLT. Это улучшенная версия OpenLID-v2; модель построена на fastText и охватывает 194 языковые разновидности. Для обучения использовались данные OpenLID-v2, glotlid-corpus и Wikipedia с нормализацией и балансировкой классов. Модель подходит для определения языка текстовых фрагментов и отбора многоязычных данных для последующей обработки в NLP-системах. Качество распознавания неодинаково для разных языков. Близкие разновидности, например арабские диалекты, бывает трудно различить, поэтому результат может определяться только на уровне макроязыка. Ошибки классификации способны ухудшить работу последующих систем, а сведение разновидностей к общим категориям может приводить к недостаточному распознаванию малых языков, диалектов и отдельных письменностей. Лицензия — GPL-3.0.

2.6K4февр. 2026
textgpl-3.0hugging-face
pipizhao
Pandalyst-7B-V1.1

Pandalyst-7B-V1.1 — языковая модель для анализа данных с помощью библиотеки pandas, разработанная авторами проекта Pandalyst. Она дообучена на CodeLlama-7b-Python и предназначена для генерации кода и ответов, помогающих работать с таблицами разной структуры и выполнять задачи анализа данных. Версия V1.1 не поддерживает построение графиков. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров. Она принимает текст и выдаёт текст; заявленная длина контекста — 16 384 токена. В карточке указан английский язык. Авторы сообщают результат 76,1 exec@1 на PandaTest_V1.0, однако это заявление из README, а независимая проверка здесь не представлена. Модель распространяется с лицензией Llama 2.

15814сент. 2023ctx16.4K
textllama2hugging-face
pipizhao
Pandalyst-7B-V1.2

Карточка модели pipizhao/Pandalyst-7B-V1.2 на Hugging Face совпадает с карточкой pipizhao/Pandalyst-7B-V1.1, поэтому описание составлено по ней. Pandalyst-7B-V1.1 — языковая модель для анализа данных с помощью библиотеки pandas, разработанная авторами проекта Pandalyst. Она дообучена на CodeLlama-7b-Python и предназначена для генерации кода и ответов, помогающих работать с таблицами разной структуры и выполнять задачи анализа данных. Версия V1.1 не поддерживает построение графиков. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 6,6 млрд параметров. Она принимает текст и выдаёт текст; заявленная длина контекста — 16 384 токена. В карточке указан английский язык. Авторы сообщают результат 76,1 exec@1 на PandaTest_V1.0, однако это заявление из README, а независимая проверка здесь не представлена. Модель распространяется с лицензией Llama 2.

358окт. 2023ctx16.4K
textllama2hugging-face
jk200201
qwen2.5-coder-7b-bird-cot

jk200201 разработал Qwen2.5-Coder-7B BIRD CoT — инструкционную плотную языковую модель на 7,1 млрд параметров, дообученную на базе Qwen/Qwen2.5-Coder-7B-Instruct для преобразования запросов на естественном языке в SQL. Модель пошагово анализирует схему базы данных и формирует SQL-запрос; её обучали на проверенных выполнением примерах набора BIRD с дистилляцией цепочек рассуждений. Репозиторий содержит объединённую модель в формате safetensors. Модель ориентирована на аналитические запросы к реалистичным базам данных и схемам в стиле BIRD. В README указана точность выполнения 52,1% для одиночной генерации и 58,5% при self-consistency с K=8, требующей примерно в восемь раз больше инференса. Контекст — до 32 768 токенов; заявленный язык карточки — английский. Модель выдаёт рассуждение и SQL в диалекте SQLite. Она распространяется по лицензии Apache-2.0. Ограничения: настройка рассчитана на сценарии BIRD и аналитический SQL, необычные диалекты или предметные области могут потребовать адаптации. Сгенерированные запросы следует проверять перед запуском на производственных данных.

932июль 2026ctx32.8K
textapache-2.0hugging-face
defog
sqlcoder-34b-alpha

SQLCoder-34B Alpha — языковая модель компании Defog для преобразования вопросов на естественном языке в SQL-запросы. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров, дообученная на базе CodeLlama. Карточка описывает обучение на более чем 20 000 подготовленных людьми вопросов и оценивание на схемах баз данных, не встречавшихся в обучающей выборке. Модель предназначена для генерации SQL по вопросу пользователя и схеме базы данных, включая запросы с фильтрацией, группировкой, сортировкой, объединениями таблиц и вычислением долей. README приводит результаты собственного тестирования Defog и примеры запуска через Transformers. Контекст составляет 16 384 токена, а README сообщает об испытаниях на четырёх GPU A10 с весами float16. Модель ориентирована на англоязычные запросы к базам данных. Она генерирует SQL, но точность результата зависит от корректности предоставленной схемы и формулировки вопроса; README отмечает, что дальнейшая настройка с Reward Modelling и RLHF ещё планировалась. Лицензия — CC BY 4.0.

115177нояб. 2023ctx16.4K
textcc-by-4.0hugging-face
TheBloke
sqlcoder-34b-alpha-GGUF

SQLCoder 34B Alpha — языковая модель, разработанная Defog.ai для генерации SQL-запросов по вопросам пользователя и описанию схемы базы данных. В данном репозитории представлена TheBloke в формате GGUF, предназначенном для локального запуска и инференса с использованием llama.cpp и совместимых инструментов. Модель основана на архитектуре Llama, содержит около 34 миллиардов параметров и ориентирована на англоязычные сценарии. Она принимает текстовые инструкции и схему базы данных, после чего формирует SQL-запрос для ответа на заданный вопрос. Доступны варианты с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью работы на CPU и GPU. Размер контекстного окна в README не указан. Сильная сторона модели — специализация на преобразовании естественно-языковых запросов в SQL с учетом структуры таблиц и связей между ними. Ограничения включают узкую предметную направленность, зависимость качества от полноты и точности переданной схемы, а также возможные потери качества в квантизированных версиях. Модель предназначена для текстовой генерации и не поддерживает мультимодальные входы по указанным данным. Лицензия — CC BY 4.0.

1.6K12нояб. 2023
textcc-by-4.0hugging-face
Hnabil
t5-address-standardizer

Hnabil разработал модель на архитектуре T5-base и дообучил её для преобразования ошибочных и нестандартно записанных адресов в стандартизованный вид. Она предназначена прежде всего для нормализации адресов в США и может применяться при очистке адресных данных в наборах данных и прикладных системах. Обучение проводилось на данных OpenAddresses.io. Модель содержит 123,8 млн параметров, принимает и генерирует текст; длина контекста составляет 512 токенов. В репозитории доступны веса PyTorch и Safetensors. Лицензия в предоставленных данных не указана.

10011июнь 2023ctx512
texthugging-face

Задачи профессии

22 задачи
400Профилирование нового набора данных. — Механизм: AI сопоставляет наблюдаемое состояние с эталонами, нормативами или историческими аналогами и оценивает степень соответствия. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: оценка по задаче «Профилирование нового набора данных» в числовой или категориальной форме с расшифровкой факторов, допущений и неопределённости. Проверка: сверкой с экспертными оценками или фактическими исходами, а также анализом чувствительности к входным данным; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
401Определение вероятного смысла и типа столбцов. — AI сопоставляет наблюдаемые признаки с критериями и устанавливает требуемое значение, состояние или вариант. К исходным данным относятся таблицы, события, файлы и схемы. Формат результата: установленное значение или вариант по задаче «Определение вероятного смысла и типа столбцов» с оценкой уверенности и основаниями решения. Надёжность оценивают по точности относительно эталона, калибровке уверенности и разбору случаев, где источники расходятся; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
402Обнаружение пропусков, выбросов и невозможных значений. — Для этой задачи система анализирует поток наблюдений и локализует признаки, которые отличают целевой объект или нарушение от обычного состояния. Рабочие входы: события, файлы, схемы и каталоги данных. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение пропусков, выбросов и невозможных значений», с локализацией, уверенностью и признаками срабатывания. Критерии приёмки: по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
403Выбор стратегии заполнения пропущенных данных. — Практическая реализация: AI объединяет историю, текущую ситуацию и обязательные условия, чтобы предложить следующий наиболее обоснованный шаг. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: несколько вариантов для «Выбор стратегии заполнения пропущенных данных», ранжированных по полезности, ограничениям и причинам выбора. Ошибки выявляют по полезности для пользователя, соблюдению ограничений и качеству результата после принятия рекомендации; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
404Очистка и стандартизация категориальных значений. — Механизм: AI преобразует исходный материал по заданным правилам, сохраняя смысл, структуру и критически важные детали. Исходные данные: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: преобразованный материал по задаче «Очистка и стандартизация категориальных значений» с сохранённым содержанием и журналом значимых изменений. Проверка: сравнением смысла и структуры до и после преобразования, а также поиском потерянных элементов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
405Сопоставление и объединение данных из разных источников. — AI строит единое пространство признаков и устанавливает соответствия между элементами, которые описаны по-разному. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: карта соответствий и различий для «Сопоставление и объединение данных из разных источников», где элементы приведены к единым критериям и связаны с первичными данными. Надёжность оценивают экспертной сверкой соответствий и проверкой, что различия не вызваны несовместимыми форматами; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
406Автоматическое построение ETL/ELT-конвейера. — Для этой задачи система объединяет уравнения, эмпирические данные и обученные зависимости в модель, пригодную для анализа чувствительности. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: вычислительная модель или карта для «Автоматическое построение ETL/ELT-конвейера» с результатами сценариев и анализом чувствительности. Критерии приёмки: сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
407Генерация преобразований данных по словесному описанию. — Практическая реализация: AI создаёт новый артефакт по требованиям, исходным фактам и примерам, сохраняя возможность последующего редактирования. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация преобразований данных по словесному описанию», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
408Проверка качества данных по автоматически предложенным правилам. — Механизм: AI сверяет объект с эталоном, правилами и взаимными зависимостями, отмечая пропуски, конфликты и нарушения. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: протокол выполнения «Проверка качества данных по автоматически предложенным правилам» с пройденными условиями, найденными нарушениями и спорными местами для ручного решения. Проверка: повторным запуском на эталонных примерах, ручной проверкой спорных случаев и полнотой контрольного покрытия; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
409Обнаружение нарушения контрактов данных. — AI сочетает обученные шаблоны с контрольными правилами, чтобы находить значимые случаи и не пропускать пограничные примеры. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. К исходным данным относятся таблицы и события, схемы и определения бизнес-метрик. Формат результата: перечень объектов, событий или отклонений, относящихся к «Обнаружение нарушения контрактов данных», с локализацией, уверенностью и признаками срабатывания. Надёжность оценивают по полноте обнаружения, доле ложных срабатываний и качеству локализации на независимой выборке; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
410Анализ происхождения показателя и цепочки преобразований. — Для этой задачи система разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Рабочие входы: файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ происхождения показателя и цепочки преобразований» с влияющими факторами, альтернативными трактовками и ссылками на данные. Критерии приёмки: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
411Генерация SQL по вопросу на естественном языке. — Практическая реализация: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Входной контекст включает таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Генерация SQL по вопросу на естественном языке», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Ошибки выявляют по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
412Объяснение SQL-запроса и поиск логических ошибок. — Механизм: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Исходные данные: таблицы и события, схемы и определения бизнес-метрик. Формат результата: объяснимые выводы по задаче «Объяснение SQL-запроса и поиск логических ошибок» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
413Автоматическое построение подходящей визуализации. — AI создаёт вычислительное представление объекта или процесса и проигрывает на нём альтернативные сценарии. К исходным данным относятся SQL, бизнес-метрики, таблицы и события. Формат результата: вычислительная модель или карта для «Автоматическое построение подходящей визуализации» с результатами сценариев и анализом чувствительности. Надёжность оценивают сопоставлением с наблюдениями, тестами чувствительности и воспроизводимостью вычислений; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
414Создание смыслового слоя метрик. — Для этой задачи система собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Предметная логика: профилирует источники, связывает преобразования и проверяет согласованность агрегатов. Рабочие входы: таблицы и события, схемы и определения бизнес-метрик. Формат результата: редактируемый артефакт по задаче «Создание смыслового слоя метрик», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Критерии приёмки: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
415Объяснение изменения показателя через декомпозицию факторов. — Практическая реализация: AI агрегирует разрозненные сигналы в целостную картину и показывает, какие данные поддерживают каждый вывод. Входной контекст включает таблицы, события, файлы и схемы. Формат результата: объяснимые выводы по задаче «Объяснение изменения показателя через декомпозицию факторов» с влияющими факторами, альтернативными трактовками и ссылками на данные. Ошибки выявляют воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
416Когортный анализ. — Механизм: AI разбирает данные по существенным признакам, выявляет связи и формирует выводы с привязкой к исходным свидетельствам. Исходные данные: события, файлы, схемы и каталоги данных. Формат результата: объяснимые выводы по задаче «Когортный анализ» с влияющими факторами, альтернативными трактовками и ссылками на данные. Проверка: воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
417Анализ воронки и точек потери. — AI сопоставляет наблюдения, отделяет устойчивые закономерности от случайных совпадений и объясняет влияющие факторы. К исходным данным относятся файлы, схемы, каталоги данных и SQL. Формат результата: объяснимые выводы по задаче «Анализ воронки и точек потери» с влияющими факторами, альтернативными трактовками и ссылками на данные. Надёжность оценивают воспроизводимостью расчётов, проверкой источников и сравнением выводов с альтернативными объяснениями; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
418Сегментация объектов по поведению. — Для этой задачи система строит границы между категориями и ранжирует объекты так, чтобы наиболее важные или срочные обрабатывались раньше. Рабочие входы: схемы, каталоги данных, SQL и бизнес-метрики. Формат результата: результат «Сегментация объектов по поведению» в виде метки, класса, ранга или тематического слоя с уверенностью и объясняющими признаками. Критерии приёмки: по матрице ошибок, калибровке уверенности и отдельному анализу пограничных классов; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
419Поиск статистически значимых зависимостей. — Практическая реализация: AI индексирует доступные материалы, понимает смысл запроса и ранжирует кандидатов по содержательному совпадению. Входной контекст включает каталоги данных, SQL, бизнес-метрики и таблицы. Формат результата: ранжированный список кандидатов по задаче «Поиск статистически значимых зависимостей» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Ошибки выявляют по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
420Подготовка аналитического отчёта с выводами и оговорками. — Механизм: AI собирает содержание и структуру из заданных ограничений, затем формирует несколько вариантов для выбора и доработки. Исходные данные: SQL, бизнес-метрики, таблицы и события. Формат результата: редактируемый артефакт по задаче «Подготовка аналитического отчёта с выводами и оговорками», согласованный с исходными фактами, форматом и ограничениями; тип артефакта — аналитический набор или запрос. Проверка: по соответствию фактам, требованиям, формату и качеству последующей экспертной доработки; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик.
421Естественно-языковой интерфейс к BI-системе. — AI обходит разрешённые источники, объединяет найденное и отсеивает нерелевантные либо дублирующиеся результаты. К исходным данным относятся бизнес-метрики, таблицы, события и файлы. Формат результата: ранжированный список кандидатов по задаче «Естественно-языковой интерфейс к BI-системе» со ссылками на источники, оценкой соответствия и фрагментами подтверждения. Надёжность оценивают по релевантности, полноте, отсутствию недопустимых источников и точности ссылок на подтверждение; тестами качества данных, сверкой агрегатов, lineage, повторяемостью запросов и согласованием определения метрик. <a id="section-ii-9"></a>

0 моделей