II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейtanbinh2210/adapted_phobert — модель Sentence Transformers на архитектуре RoBERTa, разработчик которой представлен идентификатором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, семантического поиска, поиска перефразировок, классификации и кластеризации текста. Сходство векторов рекомендуется оценивать косинусной метрикой. Модель содержит 162,4 млн параметров и обрабатывает последовательности длиной до 258 токенов по метаданным; в README указан предел 256 токенов. Архитектура использует mean pooling поверх выходов RoBERTa. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
Arnaudmkonan/adn-setfit-model — модель предложений на базе MPNet, созданная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. В карточке указано обучение с CosineSimilarityLoss, что подходит для получения векторов, сохраняющих сходство между текстами. Модель можно применять для семантического поиска, группировки текстов и ранжирования по смысловой близости. Язык данных обучения в доступных сведениях не указан. Условия лицензии в предоставленных данных не приведены.
AlchemistCoder-CL-7B — языковая модель для генерации кода из серии AlchemistCoder, разработанной авторами исследования о настройке кодовых моделей на данных из нескольких источников. Модель основана на архитектуре Llama и содержит 6,6 млрд параметров; максимальная длина контекста — 16 384 токена. Доступны веса в формате PyTorch, лицензия — Apache-2.0. Модель дообучена на 200 млн токенов разнотипных данных с помощью AlchemistPrompts, предназначенных для согласования стилей и качества источников. Помимо генерации кода, обучение включало задачи понимания кода: развитие инструкций, фильтрацию данных и ревью кода. Авторы также сообщают об улучшениях в общих задачах рассуждения и знаний, но основное назначение модели — работа с кодом.
teven/all_bs160_allneg — модель на базе MPNet для получения плотных векторных представлений предложений и абзацев. Она содержит 136,7 млн параметров, выдаёт эмбеддинги размерности 768 и рассчитана на контекст до 514 токенов. Модель распространяется в формате PyTorch и используется через библиотеку Sentence-Transformers. Эмбеддинги подходят для семантического поиска, сравнения текстов и кластеризации. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. В карточке не указаны обучающие языки и лицензия, поэтому применимость к конкретному языку и условия распространения требуют проверки.
miller96/all-MiniLM-L12-v2-fine-tuned-v0.1 — модель Sentence Transformers, дообученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерностью 384 и подходит для семантического поиска и кластеризации. Модель основана на архитектуре BERT; в метаданных указаны 40 млн параметров и контекст до 512 токенов. Обучение проводилось в течение одной эпохи с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Модель принимает текст и выдаёт векторы, которые можно сравнивать для оценки семантической близости. В карточке не указаны языковая специализация или предметная область. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
youssefkhalil320 дообучил all-MiniLM-L6-v11-pair_score на базе sentence-transformers/all-MiniLM-L6-v2. Это энкодер Sentence Transformer на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и абзацы в нормализованные плотные векторы размерности 384, а сходство можно оценивать косинусной метрикой. Модель предназначена для поиска семантически близких текстов, сравнения предложений, поиска перефразировок, кластеризации и классификации текста. Модель работает с английским языком. Метаданные указывают контекст до 512 токенов, а карточка — максимальную длину последовательности 256 токенов. Лицензия Apache-2.0 разрешает использование на её условиях. Векторы подходят для семантического поиска и группировки текстов, но их качество зависит от предметной области и способа применения; модель не генерирует текст.
Карточка модели orange-21/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели sokeieqw/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели Tusitala/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
KhaledReda разработал all-MiniLM-L6-v61-pair_score — англоязычную модель Sentence Transformers, дообученную на парах текстов с оценками сходства. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384; близость текстов оценивается косинусным сходством. В архитектуру входят BERT-трансформер, усреднение токенных представлений и нормализация. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст до 512 токенов. Модель подходит для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и получения признаков для классификации текстов. Она обучена на наборе pairs_with_scores_v49 и имеет 25,9 млн параметров. Лицензия Apache-2.0 разрешает использование на её условиях. Модель предназначена для английского языка; качество на других языках не заявлено.
bekko-embedding-v1-a25m — компактная мультиязычная модель плотных текстовых эмбеддингов от разработчиков Bekko. Это Sentence Transformer на базе энкодера mmBERT в стиле ModernBERT: 13 слоёв, скрытый размер 384; в README указано 24,9 млн активных параметров, а в метаданных — 123,2 млн параметров всего. Модель принимает текст, поддерживает более 100 языков и контекст до 8192 токенов, формирует векторы размерности 384, которые можно усекать до 256, 128 или 64 измерений благодаря Matryoshka-представлению. Модель предназначена прежде всего для мультиязычного поиска по смыслу и получения эмбеддингов для семантического сравнения и retrieval-систем. Она рассчитана на работу с ограниченными ресурсами: README сообщает о запуске на CPU, включая Raspberry Pi 5, и наличии артефактов ONNX и OpenVINO; также описана поддержка GPU через SDPA или Flash Attention 2. В приведённых разработчиками тестах MMTEB Multilingual v2 и HAKARI-Bench модель показывает высокое качество поиска относительно ряда более крупных моделей, однако отдельные результаты зависят от задачи и бенчмарка. Модель является дообучением hotchpotch/bekko-embedding-v1-a25m-pt и распространяется под лицензией MIT. В метаданных заявлена библиотека Sentence Transformers; также доступны форматы safetensors, ONNX и OpenVINO.
BGE base ArgillaSDK Matryoshka — англоязычная модель Sentence Transformers, дообученная разработчиками модели на базе BAAI/bge-base-en-v1.5 для получения плотных эмбеддингов предложений и абзацев. Модель построена на BERT, использует пулинг CLS-токена и нормализацию векторов; размерность представления составляет 768, а сходство можно оценивать косинусной мерой. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Обучение на 882 примерах с MatryoshkaLoss и TripletLoss позволяет использовать укороченные представления размером 512, 256, 128 или 64 измерения наряду с полными 768-мерными эмбеддингами. Максимальная длина входной последовательности — 512 токенов. Модель работает с английским текстом; лицензия — Apache-2.0.
hqta1110/bge-m3 — дообученная разработчиком репозитория модель Sentence Transformer на базе BAAI/bge-m3, построенная на XLM-RoBERTa. Она кодирует предложения и абзацы в плотные векторы размерности 1024 и подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. Модель обучалась на 119 434 примерах из CSV с тройками Anchor, Positive и Negative; для сравнения в README указана косинусная мера сходства. Метаданные указывают контекст до 8194 токенов, тогда как в архитектуре README задана максимальная длина последовательности 1024 токена. Используйте её для получения текстовых эмбеддингов и сравнения текстов; конкретные языки и области применения в карточке не обозначены. Доступна в формате safetensors, библиотека — sentence-transformers. Сведения о лицензии в предоставленных данных отсутствуют.
Карточка модели mykor/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели RedHatAI/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели MehdiRtal/bge-m3-ct2-int8 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Это модель Sentence Transformer, дообученная на основе BAAI/bge-m3 и разработанная автором репозитория seongil-dn. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024 для семантического поиска и сравнения текстов по косинусному сходству. Также её можно применять для поиска перефразировок, кластеризации и классификации текстов. Модель использует XLM-RoBERTa с pooling по CLS-токену; README указывает максимальную длину последовательности 1024 токена. Метаданные сообщают о контекстном окне до 8194 токенов, поэтому фактический предел обработки следует сверять с используемой конфигурацией. Репозиторий предназначен для работы с библиотекой Sentence Transformers и содержит веса в формате Safetensors. Данных о лицензии в предоставленных источниках нет.
Это модель Sentence Transformers, дообученная разработчиком карточки на базе BAAI/bge-m3. Она использует XLM-RoBERTa и преобразует предложения и абзацы в плотные векторы размерности 1024, нормализованные для сравнения по косинусному сходству. Максимальная длина последовательности в README — 1024 токена. Модель предназначена для семантического поиска и сравнения текстов; также её можно применять для поиска перефразирований, кластеризации и классификации текстов. Она выдаёт векторы признаков, которые можно использовать в системах поиска и ранжирования. Метаданные указывают поддержку многоязычных представлений через базовую BGE-M3, однако конкретные языки этой версии не перечислены. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.
Карточка модели comet24082002/bgeM3_MaxSq256_1024 на Hugging Face совпадает с карточкой RishabJ/bge-m3-dim-384, поэтому описание составлено по ней. RishabJ/bge-m3-dim-384 — вариант мультиязычной модели эмбеддингов BGE-M3, опубликованный пользователем RishabJ. Основан на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров и рассчитан на последовательности длиной до 8194 токенов. Репозиторий содержит веса PyTorch и Safetensors; лицензия — MIT. Модель предназначена для поиска по смыслу, извлечения документов и построения RAG-систем. Семейство BGE-M3 поддерживает плотный поиск, разреженные лексические веса и многовекторное представление ColBERT, что позволяет строить гибридный поиск и обрабатывать как короткие фразы, так и длинные документы. README указывает поддержку более 100 языков; этот репозиторий имеет уменьшенную размерность эмбеддингов 384. Модель полезна для многоязычного семантического и гибридного поиска, а также для оценки сходства предложений. Для повышения точности поиска README рекомендует применять отдельный реранкер после извлечения кандидатов. Доступна по лицензии MIT.
collaborativeearth/bge-m3_wri_wflagtraining — модель Sentence Transformer на архитектуре XLM-RoBERTa, предназначенная для получения текстовых эмбеддингов и сравнения предложений. Модель кодирует предложения и абзацы в плотные векторы размерности 1024; для оценки сходства используется косинусное сходство. В метаданных указано 658,7 млн параметров и контекст до 8194 токенов, а карточка описывает конфигурацию с максимальной длиной последовательности 512 токенов. Модель подходит для семантического поиска, оценки текстового сходства, поиска перефразировок, кластеризации и классификации текстов. Карточка приводит результаты оценки на наборе ir-eval, включая cosine_accuracy@1 0,3645 и ndcg@10 0,5441. Указанные данные не определяют языковой охват и лицензию, поэтому их нельзя уточнить по доступным сведениям.
BumbaLM-Embedding-Qwen-4b-v0-200k — текстовая Sentence Transformer-модель, дообученная на базе Qwen/Qwen3-Embedding-4B. Она преобразует предложения и абзацы в плотные векторы размерности 2560 для поиска и сравнения текстов; сходство оценивается косинусной мерой. Архитектура включает трансформер Qwen3, pooling по последнему токену и нормализацию векторов. Модель содержит 3,7 млрд параметров и принимает последовательности длиной до 768 токенов. Модель предназначена для семантического поиска и задач извлечения информации: например, для сопоставления запроса с релевантными документами. README приводит оценку на tripletos_eval: cosine_accuracy@1 — 0,6286, @5 — 0,8024, @10 — 0,8626. Базовая модель мультиязычная, но конкретный языковой охват этого дообучения в карточке не установлен. Лицензия в предоставленных данных не указана.
consciousAI/cai-stellaris-text-embeddings — модель эмбеддингов на базе MPNet, представленная в формате PyTorch и совместимая с Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель содержит 136,7 млн параметров, а её контекст ограничен 514 токенами. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Это подходит для получения векторов, пригодных для семантического поиска и группировки текстов; в README приведена ссылка на оценку в Sentence Embeddings Benchmark, но конкретные результаты не указаны. Лицензия в предоставленных данных не указана.
Cipher-20B — плотная причинная языковая модель на 19,8 млрд параметров семейства Qwen2, представленная HelpingAI. Она предназначена прежде всего для генерации кода и работы в формате диалога с техническими запросами. Модель обучена на коде, задачах программирования и технической документации, а также дообучена для работы с несколькими языками программирования, включая Python, JavaScript и C++. Cipher-20B может создавать код, находить и исправлять распространённые ошибки и объяснять фрагменты кода. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные указывают на интерфейс вызова инструментов. Язык карточки — английский, а теги также отмечают поддержку английского. Возможные ограничения: ответы могут быть многословными, длинная генерация кода может упереться в лимит токенов, а неоднозначные запросы могут приводить к неполным или ошибочным решениям. README заявляет, что модель избегает вредоносного кода. Лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории модели.
Claude Opus 4.6 — модель Anthropic, предназначенная для программирования и длительных профессиональных задач. Карточка описывает её как особенно подходящую для агентов, которые выполняют целые рабочие процессы, а не отвечают на отдельные запросы. Данных о размере, архитектуре, модальностях, языках, длине контекста и лицензии в предоставленных источниках нет. Описание не уточняет конкретные возможности и ограничения модели.
CodeGeeX2-6B — многоязычная модель генерации кода от команды CodeGeeX, построенная на архитектуре ChatGLM2 и основанная на ChatGLM2-6B. После дополнительного предварительного обучения на 600 млрд токенов кода модель насчитывает около 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Она принимает запросы на китайском и английском языках и предназначена для генерации, дополнения и исправления кода; авторы сообщают о поддержке более 100 языков программирования. Модель подходит для автодополнения кода, в том числе между файлами, объяснения и перевода кода, отладки и создания комментариев или документации. В карточке приведены результаты HumanEval-X и указано, что квантованный вариант может запускаться примерно с 6 ГБ видеопамяти; это относится к квантованной версии, тогда как в репозитории указаны веса PyTorch. Для академических исследований веса открыты, а коммерческое использование требует подачи заявки.
Карточка модели manaladan6/codegeex4-all-9b на Hugging Face совпадает с карточкой zai-org/codegeex4-all-9b, поэтому описание составлено по ней. CodeGeeX4-ALL-9B — открытая многоязычная модель генерации кода от команды CodeGeeX, созданная на базе GLM-4-9B путём продолженного обучения. Она предназначена для помощи в разработке программного обеспечения: генерирует и дополняет код, отвечает на вопросы о коде и репозиториях, а также поддерживает сценарии с интерпретатором кода, веб-поиском и вызовом функций. Модель имеет плотную архитектуру семейства ChatGLM и 11,4 млрд параметров; заявленная длина контекста — 131 072 токена. Карточка указывает поддержку китайского и английского языков, а примеры ориентированы на программирование, в том числе на Python. По README, CodeGeeX4-ALL-9B показывает конкурентные результаты на BigCodeBench и NaturalCodeBench и рассчитана на широкий набор задач разработки. Метаданные указывают формат safetensors и лицензию other; конкретные условия лицензии следует проверять в репозитории модели. Результаты для конкретных языков программирования и сценариев могут различаться; сама карточка не приводит подробных ограничений или гарантий качества.
navneet11/contrastive-relevance-v1 — текстовый энкодер Sentence Transformers, дообученный разработчиком на базе sentence-transformers/all-MiniLM-L6-v2. Он преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384 и подходит для семантического поиска, сравнения сходства, поиска перефразировок, классификации и кластеризации. Архитектура включает BERT, усреднение токенных представлений и нормализацию; для сравнения векторов используется косинусное сходство. Метаданные указывают контекст до 512 токенов, а карточка модели — максимальную длину последовательности 256 токенов. Модель предназначена для сопоставления текстовых запросов с документами и поиска смыслово близких фрагментов. В примерах обучающих данных — финансовые и деловые новости; обучение описано как короткое дообучение на 192 образцах с MultipleNegativesRankingLoss. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
Tool-COLT/contriever-base-msmarco-v1-ToolBenchG3 — модель на базе архитектуры BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, поиска и кластеризации. Модель содержит 136,7 млн параметров и принимает текст с контекстом до 512 токенов. Обучение использовало MultipleNegativesRankingLoss с косинусной мерой сходства. Модель подходит для построения семантического поиска и группировки текстов; для получения эмбеддингов через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. В карточке указана библиотека PyTorch. Лицензия в предоставленных данных не приведена.
Kyleiwaniec/COS_TAPT_n_RoBERTa_STS — модель на архитектуре RoBERTa, созданная для Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024, предназначенные для оценки семантической близости, семантического поиска и кластеризации. Модель обучалась с функцией потерь CosineSimilarityLoss; её контекст составляет 514 токенов, размер — около 454,1 млн параметров. Модель подходит для поиска похожих текстов и группировки предложений или документов по смыслу. Для использования с Transformers поверх контекстных представлений требуется применить соответствующую операцию pooling. В репозитории указаны веса PyTorch; лицензия не приведена в доступных данных.
Deepseek Coder 33B Instruct GPTQ — квантизированная версия языковой модели DeepSeek Coder 33B Instruct, разработанная DeepSeek и подготовленная TheBloke. Модель ориентирована на задачи программирования и компьютерных наук: генерацию, объяснение и обсуждение программного кода в формате инструкций. Согласно шаблону запросов, она предназначена прежде всего для ответов на вопросы, связанные с computer science, и может отказываться от политически чувствительных, связанных с безопасностью и конфиденциальностью, а также других вопросов вне этой области. Модель содержит 33 млрд параметров и использует архитектуру DeepSeek; README не уточняет поддерживаемые языки программирования, естественные языки, максимальный контекст и набор доступных модальностей. Репозиторий включает GPTQ-файлы с несколькими вариантами квантования, отличающимися разрядностью и параметрами group size, act order и другими настройками. Квантование позволяет адаптировать модель к различным аппаратным ограничениям, но может снижать точность по сравнению с исходной неквантизированной fp16-версией. Модель предназначена для локального GPU-инференса и совместима, в частности, с text-generation-webui, KoboldAI United, LoLLMS Web UI и Hugging Face Text Generation Inference. Указана лицензия DeepSeek с типом other и ссылкой на файл LICENSE; конкретные условия README не раскрывает, поэтому перед использованием необходимо ознакомиться с лицензией репозитория.