II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейhunkim/sentence-transformer-klue — модель на архитектуре RoBERTa, преобразующая предложения и абзацы в плотные векторы размерности 768. Она содержит 137,8 млн параметров и предназначена для получения эмбеддингов, сравнения смысловой близости текстов, семантического поиска и кластеризации. Модель обучена с функцией CosineSimilarityLoss и работает с библиотекой Sentence-Transformers или Transformers с подходящей операцией pooling. Модель принимает текст и возвращает векторные представления; контекст составляет до 514 токенов. Карточка описывает её как sentence-transformers модель для работы с предложениями и абзацами. Лицензия в предоставленных данных не указана.
bachngo/sentenv2 — модель Sentence Transformers на архитектуре XLM-RoBERTa, разработчик — bachngo. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации. В метаданных указано 305,2 млн параметров и контекст длиной 514 токенов; модель доступна в формате safetensors. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Лицензия в предоставленных данных не указана.
Watwat100/smol8 — модель на базе Sentence Transformers, разработанная пользователем Hugging Face Watwat100. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу и кластеризации. Архитектура основана на MPNet, число параметров — 136,7 млн, формат весов — PyTorch; максимальный контекст составляет 514 токенов. Модель подходит для построения семантического поиска по коллекциям текстов, группировки похожих документов и получения эмбеддингов для последующей обработки. В README указано обучение с функцией потерь CosineSimilarityLoss. Лицензия в предоставленных данных не указана.
ai-maker-space/snowflake-ft-tiktok — модель эмбеддингов предложений на базе BERT, опубликованная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения сходства. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством; модель содержит 136,7 млн параметров и поддерживает контекст до 512 токенов. Лицензия в предоставленных данных не указана.
pritamdeka/S-Scibert-snli-multinli-stsb — модель Sentence-Transformers на архитектуре BERT, содержащая 137,1 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и оценки сходства предложений. Модель обучалась с функцией потерь CosineSimilarityLoss; для использования с Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Модель принимает текст и выдаёт векторные представления. Максимальная длина контекста составляет 512 токенов. В README описаны примеры использования с библиотеками Sentence-Transformers и Hugging Face Transformers. Сведения о поддерживаемых естественных языках и лицензии в предоставленных данных отсутствуют.
dnth/ssf-retriever-all-MiniLM-L6-v2 — модель Sentence Transformer, дообученная на базе nomic-ai/modernbert-embed-base. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Архитектура включает ModernBERT, усреднение токенных представлений и нормализацию эмбеддингов; максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В карточке указаны обучающая выборка из 3016 примеров с парами и отрицательными примерами, а также оценочная выборка из 754 примеров. Метаданные называют её дообучением ModernBERT и указывают библиотеку Sentence Transformers. Модель работает с текстом и выдаёт векторы; карточка не указывает поддерживаемые естественные языки, поэтому область применения по языкам не уточняется. Лицензия в предоставленных данных не указана.
Stable-DiffCoder-8B-Instruct — инструктивная модель генерации кода от ByteDance-Seed, построенная на архитектуре Seed-Coder и дообученная на базе Stable-DiffCoder-8B-Base. Это плотная языковая модель с 7,6 млрд параметров и маскированной диффузионной генерацией; карточка указывает обучение на открытых и синтетических данных и настройку для следования пользовательским инструкциям. Модель предназначена для генерации, дополнения, редактирования и анализа кода, включая задачи рассуждения о коде. Контекст составляет 8192 токена. В README заявлены улучшения на ряде кодовых бенчмарков по сравнению с авторегрессионными и другими диффузионными моделями близкого размера; диффузионный подход также помогает обрабатывать структурированный код и языки программирования с меньшим количеством данных. Для запуска README описывает использование Transformers и параметры пошаговой генерации, включая длину блоков, стратегию повторного маскирования и порог декодирования. Модель распространяется по лицензии MIT. README не перечисляет поддерживаемые языки программирования, поэтому конкретные языки здесь не указаны.
starcoder2-15b-instruct-v0.1-GGUF — это квантизированная в формате GGUF версия StarCoder2-15B-Instruct, разработанной командой BigCode и опубликованной в вариантах квантования пользователем bartowski. Модель предназначена для генерации кода и работы в формате инструкций, включая написание, исправление и анализ программ, предсказание результатов выполнения и решение задач программирования. Модель основана на bigcode/starcoder2-15b и содержит около 15 млрд параметров. Доступны варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3_K и IQ3 объёмом примерно от 7 до 17 ГБ, что позволяет выбирать между качеством и требованиями к памяти. README не указывает поддерживаемые языки программирования и размер контекста. Модель использует специальный формат инструкций и не поддерживает системный промпт. Сильными сторонами являются специализация на задачах программирования и несколько вариантов квантования для локального запуска с разным балансом качества и потребления памяти. В бенчмарках указаны результаты HumanEval pass@1 72,6%, MBPP 75,2% и другие показатели LiveCodeBench и DS-1000, однако фактическое качество зависит от выбранного уровня квантования и сценария использования. Модель предназначена для текстовой генерации и не заявлена как мультимодальная. Лицензия — BigCode OpenRAIL-M.
sigridjineth/stella_en_1.5B_v5_sigrid — англоязычная модель эмбеддингов на базе Qwen2 с 1,5 млрд параметров, созданная автором Stella на основе Alibaba-NLP/gte-large-en-v1.5 и Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она предназначена для поиска релевантных фрагментов по запросу и оценки семантического сходства текстов; поддерживает также извлечение признаков и текстовую классификацию. Модель обучена с использованием Matryoshka Representation Learning и позволяет получать векторы размерностью 512, 768, 1024, 2048, 4096, 6144 или 8192. В README рекомендуются промпты для поиска passage по запросу и сравнения текстов; обычно достаточно размерности 1024. Хотя метаданные указывают контекст до 131072 токенов, автор рекомендует длину последовательности 512 токенов и отмечает слабые результаты на специализированных задачах поиска по длинным текстам. Модель опубликована под лицензией MIT.
r2d2 разработала модель эмбеддингов предложений на архитектуре RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 162,4 млн параметров, обучалась с функцией CosineSimilarityLoss и поддерживает контекст длиной до 130 токенов. Для работы доступны PyTorch и библиотека Sentence-Transformers. Модель подходит для построения семантического поиска и группировки текстов, когда важна близость значений, а не совпадение слов. Данных о лицензии и целевых языках в предоставленных источниках нет; применимость к конкретному языку следует проверить на своих данных.
Supertron-embedding-300M — компактная модель эмбеддингов на базе Sentence Transformers, разработанная Surpem и дообученная на основе google/embeddinggemma-300m. Она преобразует текст в векторные представления для семантического поиска, сравнения предложений и кластеризации документов, в том числе в системах RAG. Модель построена на плотном трансформере семейства Gemma 3 Text, содержит 302,8 млн параметров и рассчитана на контекст до 2048 токенов. В README указана максимальная длина последовательности 256 токенов для описанной процедуры обучения. Модель ориентирована на английский язык и демонстрирует результаты на задачах семантического сходства из бенчмарка MTEB. Компактный размер делает её подходящей для прикладных систем с ограниченными вычислительными ресурсами. Модель распространяется в формате Safetensors по лицензии Apache 2.0.
Карточка модели aakrati-agrawal/text-embedding-allmini на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Theta-Crucis-0.6B-Turbo1 — компактная языковая модель prithivMLmods на архитектуре Qwen3, дообученная на базе prithivMLmods/Qwen3-0.6B-ft-bf16 с использованием набора Mixture of Thoughts и акцентом на программирование. Модель содержит 507,9 млн параметров, принимает текст и генерирует текст; заявленная длина контекста — 40 960 токенов. Репозиторий использует формат safetensors, библиотеку Transformers и лицензию Apache-2.0. Модель предназначена для генерации и объяснения кода, поиска ошибок, технических рассуждений и формирования структурированных результатов в форматах вроде JSON и YAML. Карточка заявляет поддержку кода на Python, JavaScript, C++ и других языках, а также технических запросов более чем на 20 естественных языках; метаданные карточки указывают английский язык. Компактный размер делает модель подходящей для локального запуска на ноутбуках и устройствах с ограниченными ресурсами. Среди ограничений указаны более слабые результаты в длинных диалогах и абстрактных языковых задачах, а также ограниченная способность рассуждать о больших проектах с множеством файлов. Модель ориентирована на технические запросы, поэтому её общая языковая беглость и пригодность для творческого письма могут быть ограничены.
TimeR4-SentenceBERT-MultiTQ — модель эмбеддингов на базе MPNet, опубликованная пользователем 902chris. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для семантического поиска, сравнения сходства и кластеризации. Модель содержит 139,8 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате safetensors; для работы предусмотрена библиотека Sentence Transformers. В README указано обучение с ContrastiveTensionLoss и внутрипакетными негативными примерами. Модель подходит для построения текстового поиска и группировки семантически близких фрагментов. Лицензия в предоставленных данных не указана.
Карточка модели ramprasad571/U4_MH2_RAM на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
ValidateAI-2-33B-AT — объединённая модель для генерации кода, созданная из DeepSeek Coder 33B Instruct, WizardCoder 33B V1.1 и CodeFuse-DeepSeek-33B с помощью LazyMergekit. В метаданных архитектура указана как плотная LLaMA-совместимая причинная языковая модель на 33,1 млрд параметров; репозиторий содержит веса safetensors, а контекст составляет 16 384 токена. Модель предназначена для генерации программного кода и сценариев, где нужно дополнять или объяснять код. В конфигурации слияния указаны метод task arithmetic, нормализация и маска int8; итоговый тип данных — float16. Лицензия — Apache 2.0. README не приводит результатов сравнительной оценки качества, поэтому практическую точность следует проверять на целевых задачах.
tubyneto/wandss-bert — модель Sentence Transformers на архитектуре MPNet, содержащая 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель принимает текст и выдаёт векторные представления; заявленная длина контекста — 514 токенов. В README указано, что модель обучалась с функцией потерь SoftmaxLoss. Она подходит для семантического поиска, группировки текстов по смыслу и вычисления сходства предложений. Доступны веса в формате PyTorch; лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.
keremberke/yolov8n-table-extraction — модель компьютерного зрения на базе YOLOv8, опубликованная Keremberke для обнаружения таблиц в документах. Она обучена распознавать таблицы с рамками и без рамок и предназначена для выделения их областей на изображении. Модель использует библиотеку Ultralytics и доступна в формате PyTorch. Модель подходит для автоматического поиска таблиц при обработке сканов и изображений документов, в том числе как этап предварительной обработки перед извлечением содержимого таблиц. Карточка указывает классы bordered и borderless. Сведения о лицензии и количественных показателях качества в предоставленных данных отсутствуют.
Карточка модели avsolatorio/01-600-11-1-3-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240423213707-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Nhat1904/8_shot_STA_head_skhead — модель Sentence Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, кластеризации и семантического поиска. Модель принимает текст и возвращает векторные представления; в метаданных указан контекст до 514 токенов. Для использования подходит библиотека Sentence Transformers или Transformers с корректной операцией pooling. Обучение использовало CosineSimilarityLoss. Карточка не описывает языковой охват и не приводит результаты оценки, поэтому качество для конкретных языков и предметных областей по ней определить нельзя. В метаданных указана загрузка весов PyTorch; сведения о лицензии отсутствуют.
Карточка модели Nhat1904/8_shot_STA_head_trained_lr1e-4 на Hugging Face совпадает с карточкой lewtun/my-awesome-setfit-model, поэтому описание составлено по ней. lewtun/my-awesome-setfit-model — модель Sentence-Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения смысловой близости текстов. Модель подходит для семантического поиска и кластеризации текстов, а также для получения эмбеддингов, используемых в других системах. В README указано обучение с функцией потерь CosineSimilarityLoss. Для применения описана работа через Sentence-Transformers или Transformers с подходящей операцией pooling. Максимальная длина контекста — 514 токенов. Модель принимает текст и выдаёт векторы. В карточке нет сведений о лицензии или целевых языках, поэтому определить условия использования и языковую специализацию по доступным данным нельзя.
all_datasets_v3_MiniLM-L6 — модель эмбеддингов предложений, разработанная в рамках Community week Hugging Face. Она предназначена для кодирования текста в вектор, отражающий его семантическое содержание, и обучена контрастивным методом на более чем миллиарде пар предложений из объединения нескольких датасетов. В основе — шестислойная MiniLM-L6-H384-uncased, полученная из microsoft/MiniLM-L12-H384-uncased; модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Векторы подходят для поиска информации, кластеризации текстов и оценки сходства предложений. Модель имеет архитектуру BERT и доступна в формате PyTorch; README демонстрирует использование с библиотекой SentenceTransformers. Метаданные указывают английский язык. Лицензия в предоставленных данных не указана.
Карточка модели choosex/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели Renegad/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
all-MiniLM-L6-v23-pair_score — англоязычная модель Sentence Transformers, дообученная на основе sentence-transformers/all-MiniLM-L6-v2. Она использует BERT-энкодер с усреднением токенных представлений и нормализацией, преобразуя предложения и абзацы в плотные векторы размерности 384. Для сравнения векторов подходит косинусное сходство. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; карточка модели задаёт максимальную длину последовательности 256 токенов. Модель предназначена для оценки семантического сходства предложений и может применяться в семантическом поиске, поиске перефразировок, кластеризации и классификации текстов. Лицензия Apache-2.0 разрешает использование на её условиях. Модель рассчитана на английский язык; качество на других языках не подтверждено.
KhaledReda/all-MiniLM-L6-v77-pair_score — англоязычный Sentence Transformer от KhaledReda, дообученный на sentence-transformers/all-MiniLM-L6-v2 на парах текстов с оценками сходства. BERT-энкодер содержит 25,9 млн параметров и формирует нормализованные плотные векторы размерностью 384; сходство пар можно оценивать косинусной мерой. README указывает максимальную длину последовательности 256 токенов, а метаданные — нативный контекст 512 токенов. Модель предназначена для семантического сравнения предложений и абзацев, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Веса доступны в формате safetensors, использовать их можно через библиотеку Sentence Transformers. Лицензия — Apache-2.0. Карточка не приводит результатов бенчмарков, поэтому качество на конкретных данных следует оценивать отдельно; модель рассчитана на английский язык, а входы длиннее рабочего предела последовательности могут быть усечены.
KhaledReda/all-MiniLM-L6-v79-pair_score — англоязычная модель Sentence Transformers, дообученная KhaledReda на парах текстов с оценками сходства. Она основана на sentence-transformers/all-MiniLM-L6-v2, использует энкодер BERT и преобразует предложения и абзацы в плотные векторы размерности 384; для оценки близости подходит косинусное сходство. В README указана максимальная длина последовательности 256 токенов, а метаданные указывают контекст до 512 токенов. Модель предназначена для семантического сравнения текстов и получения эмбеддингов для поиска, выявления перефразировок, кластеризации и классификации текстов. Она обучалась с CoSENTLoss на датасете pairs_with_scores_v64. Лицензия — Apache-2.0. Модель ориентирована на английский язык. Векторы могут терять точность на текстах длиннее рабочего ограничения последовательности, а результаты для других языков в карточке не подтверждены.
KhaledReda разработал англоязычную модель Sentence Transformer на основе дообученной sentence-transformers/all-MiniLM-L6-v2. Энкодер семейства BERT содержит 25,9 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. Модель обучена на парах текстов с оценками сходства и рассчитана на последовательности до 256 токенов по README; метаданные указывают контекстное окно 512 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и получения признаков для классификации текстов. Её можно применять, например, для поиска товаров или документов по смыслу и ранжирования текстов по семантической близости. Для использования требуется библиотека Sentence Transformers или совместимая система инференса. Лицензия — Apache-2.0. Обучение на англоязычном датасете определяет основную область применения модели; качество для других языков в карточке не подтверждено. Для длинных текстов учитывайте предел последовательности из README; оценки сходства и результаты последующих задач могут требовать настройки под конкретные данные.
event-nlp/all-mpnet-base-v2-fine-tuned-epochs-8 — модель на базе MPNet, дообученная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель использует PyTorch и формат Sentence Transformers. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать для оценки семантической близости. Карточка сообщает об обучении с CosineSimilarityLoss, но не приводит сведения о наборе данных, целевых языках или результатах оценки. Лицензия в предоставленных данных не указана.
Ozgur Celik дообучил Sentence Transformer на базе sentence-transformers/all-mpnet-base-v2. Модель кодирует предложения и абзацы в плотные векторы размерности 768; для сравнения текстов используется косинусное сходство. В архитектуру входят MPNet, усредняющий пулинг токенов и нормализация. Максимальная длина последовательности в README — 384 токена, а метаданные указывают нативный контекст в 514 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Она обучалась на 793 примерах с anchor, positive и negative-текстами с использованием MultipleNegativesRankingLoss. Лицензия в предоставленных данных не указана.