II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейTess-v2.5.2-Qwen2-72B — языковая модель для диалоговой генерации текста, созданная Мигелем Тиссерой (Migel Tissera) в серии Tess. Это плотная модель Qwen2 с 71,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и обучена следовать формату диалога ChatML. Модель дообучена на Qwen2-72B с использованием набора Tess-v2.5 из 300 тысяч синтетических примеров по широкому кругу тем, включая программирование, математику, STEM, бизнес, историю, общественные науки и искусство. Автор указывает на улучшения в рассуждениях, программировании и математике. Модель может поддерживать беседу и задавать уточняющие вопросы; чтобы отключить их, в системной инструкции можно попросить не задавать дополнительных вопросов. Обучение проводилось без RLHF и DPO. Модель подходит для диалоговых помощников, объяснений, рассуждений и помощи с кодом. Она может выдавать неточные, вводящие в заблуждение, предвзятые или оскорбительные ответы; результаты следует проверять. Автор характеризует модель как uncensored. Лицензия в метаданных обозначена как other, конкретные условия использования следует проверять в репозитории.
Карточка модели 8u113t/Unlimited-OCR на Hugging Face совпадает с карточкой lenhattruong165/orc-deepseek-unli, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR, представленная авторами проекта в июне 2026 года. Она предназначена для распознавания текста на изображениях и длинного разбора документов за один проход, включая сценарии с преобразованием страниц PDF в изображения. В карточке указаны 559,7 млн параметров, архитектура UnlimitedOCRForCausalLM, контекст 32 768 токенов и работа через Transformers; README также описывает поддержку запуска в vLLM и SGLang. Модель принимает изображения и текстовые запросы, а результат выдаёт в виде текста. Метаданные отмечают мультиязычную поддержку, но конкретные языки не перечисляют. Лицензия — MIT. Карточка связывает модель с Deepseek-OCR, однако точный идентификатор базовой модели не указан.
Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240412205533-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-3-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424001745-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
jamiehudson/579-setfit-v2 — модель эмбеддингов предложений на базе MPNet, опубликованная пользователем jamiehudson в формате PyTorch. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Обучение использовало CosineSimilarityLoss. Модель предназначена для задач семантического поиска и группировки похожих текстов. Контекст составляет 514 токенов, размер модели — 136,7 млн параметров. Для использования подходят Sentence-Transformers или Transformers с соответствующей операцией pooling. В метаданных нет сведений о лицензии и языках, поэтому эти характеристики не описываются.
jamiehudson/600-STmodel-brand-rem — модель Sentence-Transformers на базе MPNet, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства текстов и кластеризации. Модель содержит 136,7 млн параметров и принимает текстовые входные данные; для работы доступны Sentence-Transformers и Hugging Face Transformers. Модель обучалась с функцией потерь CosineSimilarityLoss. В карточке не указаны специализированная предметная область или поддерживаемые естественные языки. Репозиторий содержит веса PyTorch; лицензия не приведена в доступных сведениях.
KhaledReda/all-MiniLM-L6-test_model-pair_score — англоязычная модель Sentence Transformers, дообученная на базе sentence-transformers/all-MiniLM-L6-v2. Это плотный BERT-энкодер с 25,9 млн параметров: он преобразует предложения и абзацы в нормализованные векторы размерности 384, которые можно сравнивать косинусным сходством. README указывает максимальную длину последовательности 256 токенов, а метаданные — контекст до 512 токенов. Модель предназначена для оценки семантического сходства, семантического поиска и поиска перефразировок; полученные векторы также подходят для кластеризации и классификации текстов. Она принимает текст и возвращает векторные представления. Обучение указано с функцией потерь CoSENTLoss. Лицензия — Apache-2.0.
KhaledReda дообучил англоязычный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2 на наборе пар текстов pairs_with_scores_v33. Модель использует энкодер BERT с усреднением токенных представлений и нормализацией; она преобразует предложения и абзацы в плотные векторы размерностью 384 и сравнивает их косинусным сходством. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а README заявляет максимальную длину последовательности 256 токенов. Модель предназначена для оценки семантического сходства пар текстов и создания эмбеддингов для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Обучение с CoSENTLoss на парах с оценками сходства помогает ранжировать тексты по близости смысла. Доступна по лицензии Apache-2.0.
Это англоязычная модель Sentence Transformer, разработанная KhaledReda на основе sentence-transformers/all-MiniLM-L6-v2 и дообученная на наборе pairs_with_scores_v50_fixed с функцией потерь CoSENTLoss. Она кодирует предложения и абзацы в плотные векторы размерности 384, нормализованные для сравнения по косинусному сходству. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста. Архитектура включает BERT-энкодер, усреднение токенных представлений и нормализацию. Метаданные указывают размер 25,9 млн параметров и контекст до 512 токенов; карточка модели задаёт максимальную длину последовательности 256 токенов. Модель принимает текст и возвращает векторы; README и метаданные указывают английский язык. Лицензия — Apache-2.0.
Это модель Sentence Transformers на базе MPNet, разработанная автором репозитория hmehta92. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения предложений и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. При обучении использовалась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
abhijitt/bert_st_qa_multi-qa-mpnet-base-dot-v1-epochs-1 — модель Sentence-Transformers на архитектуре MPNet, обученная разработчиком abhijitt для представления предложений и абзацев в виде плотных векторов размерности 768. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель опубликована в формате PyTorch. Векторы можно применять для семантического поиска, сравнения смысловой близости текстов и кластеризации. В README указано обучение с MultipleNegativesRankingLoss и косинусной функцией сходства. Модель принимает текст и выдаёт эмбеддинги; данные не устанавливают конкретные поддерживаемые языки, поэтому языковую специализацию определить нельзя. Для работы доступны Sentence-Transformers и Hugging Face Transformers; при использовании Transformers требуется подходящая операция pooling поверх контекстных представлений токенов. Сведения о лицензии в предоставленных данных отсутствуют.
567-labs/bge-base-en-v1.5-ft-quora-0.9 — модель эмбеддингов предложений и абзацев на базе BERT, представленная в формате Sentence-Transformers. Она кодирует текст в плотные векторы размерностью 768 и предназначена для семантического поиска и кластеризации. Модель обучалась с функцией потерь OnlineContrastiveLoss; в метаданных указано 136,7 млн параметров и контекст до 512 токенов. Модель подходит для поиска вопросов, похожих по смыслу, в частности в корпусах вопросов и ответов, а также для группировки текстов по тематике. Она принимает текст и выдаёт векторы для последующего сравнения, ранжирования или кластеризации. По названию репозитория и описанию обучения это дообученная версия BGE base English v1.5 на данных Quora; отдельная лицензия в предоставленных данных не указана.
BAAI/bge-large-zh-noinstruct — плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в векторы для семантического поиска, извлечения релевантных документов, кластеризации и классификации; эмбеддинги также можно использовать в векторных базах данных для систем с генерацией с дополнением по поиску. Архитектура модели основана на BERT, содержит 424,3 млн параметров и обрабатывает последовательности длиной до 512 токенов. Карточка указывает китайский язык и формат PyTorch. Модель предназначена для получения векторов текста и сравнения их относительной близости. README предупреждает, что у этой версии распределение оценок сходства менее удобно: высокий абсолютный балл сам по себе не означает, что тексты похожи. Для новых проектов авторы рекомендуют BAAI/bge-large-zh-v1.5, который улучшает распределение сходства и поиск без инструкций. Модель распространяется по лицензии MIT. Для пороговой фильтрации сходства порог следует подбирать на собственных данных; для поиска по коротким запросам и длинным документам инструкция для запроса может улучшить результат.
clinno/bge-large-zh-v1.6 — модель эмбеддингов предложений на базе BERT, опубликованная в формате sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, кластеризации и сравнения текстов. Модель обучалась с MultipleNegativesRankingLoss и косинусным сходством; в метаданных указан контекст до 512 токенов и 424,3 млн параметров. Это производная модель семейства BGE, ориентированная на китайский язык по названию репозитория. Модель подходит для построения векторного поиска и группировки текстов по смыслу. Она выдаёт эмбеддинги, а не готовые ответы или метки классов; качество зависит от текстов и способа сравнения векторов. Репозиторий использует библиотеку sentence-transformers и формат safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
seongil-dn/bge-m3-3800_steps_v2_24-144_mixed — модель Sentence Transformer на архитектуре XLM-RoBERTa, разработанная автором репозитория seongil-dn. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для поиска семантически близких текстов и сравнения их сходства. В README также заявлены поиск перефразировок, классификация текста и кластеризация как сценарии применения. Модель принимает текстовые последовательности длиной до 8192 токенов, использует CLS-пулинг и нормализацию векторов; для оценки сходства рекомендована косинусная мера. Веса опубликованы в формате safetensors, использовать их можно через библиотеку Sentence Transformers. Языки и условия лицензии в предоставленных данных не указаны.
peter2000/bmz_topics10 — модель Sentence-Transformers на базе XLM-RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для кластеризации и семантического поиска. Модель также подходит для сравнения смысловой близости текстов и получения эмбеддингов; в метаданных указаны 305,2 млн параметров и контекст длиной 514 токенов. Модель обучалась с BatchHardTripletLoss. Она доступна в формате PyTorch и рассчитана на текстовый ввод с векторным выходом. Карточка не уточняет языки, на которых качество проверялось. Условия лицензии в предоставленных данных не указаны.
Code Llama 13B Instruct — авторегрессионная плотная Transformer-модель Meta для генерации и понимания кода. Репозиторий содержит версию с настройкой на выполнение инструкций в формате Transformers; модель насчитывает 12,9 млрд параметров и поддерживает контекст до 16 384 токенов. Модель предназначена для дополнения и заполнения кода, ответов на инструкции и диалогового взаимодействия при разработке кодовых помощников. Она принимает текст и генерирует текст, работает с английским языком и языками программирования. Это instruct-вариант семейства Code Llama, основанный на CodeLlama-13b-hf. Модель может выдавать неточные или нежелательные ответы; перед внедрением следует проверить её поведение для конкретного применения. Использование регулируется лицензией Meta Llama 2.
CodeLlama 7B Python GGUF — это квантизированная версия языковой модели CodeLlama 7B Python, разработанной Meta и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена прежде всего для генерации кода, решения задач программирования и работы с запросами, требующими написания Python-кода. Это текстовая модель архитектуры Llama с 7 миллиардами параметров; заявленный язык — code, а поддерживаемые модальности ограничены текстом и кодом. Размер контекста в представленных данных не указан. Формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, KoboldCpp, llama-cpp-python и другие. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Ограничения включают возможное снижение качества из-за квантизации, отсутствие в README данных о результатах тестирования и точных требованиях к ресурсам. Модель распространяется по лицензии Llama 2.
perceptiveshawty/compositional-bert-large-uncased — англоязычная модель на архитектуре BERT Large без учёта регистра, разработанная пользователем или организацией perceptiveshawty для оценки семантического сходства предложений. Модель предназначена для сравнения текстов, поиска похожих предложений и построения систем семантического сопоставления. Модель содержит около 433,9 млн параметров, работает через библиотеку Transformers и поддерживает контекст до 512 токенов. В качестве источников обучения указаны datasets-for-compcse и datasets-for-simcse. Модель ориентирована на английский язык и распространяется по лицензии Apache-2.0.
COSMO-PRO-7B — созданная Aryyanthakrr объединением SLERP двух инструктивных языковых моделей Qwen2.5: Qwen2.5-7B-Instruct и Qwen2.5-Coder-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие; в метаданных также указана поддержка интерфейса вызова инструментов. Модель подходит для ответов на вопросы, ведения диалогов и генерации кода в сценариях с контекстом до 32 768 токенов. Репозиторий использует формат safetensors, библиотеку Transformers. Данных о поддерживаемых естественных языках в карточке нет. Условия лицензии в предоставленных источниках не приведены.
DeepSeek-OCR — мультимодальная модель DeepSeek для распознавания текста и анализа документов по изображениям. Она предназначена для извлечения текста из визуальных материалов, включая страницы документов; README также указывает поддержку обработки PDF через vLLM. Модель основана на архитектуре DeepSeek-VL2 и содержит 559,7 млн параметров. Она принимает изображения и текстовые запросы, а результат формирует в виде текста; заявлен контекст до 8192 токенов и многоязычная поддержка. В качестве среды запуска README описывает Transformers на GPU NVIDIA, а также отмечает поддержку vLLM. Модель доступна по лицензии MIT. README не приводит подробных оценок качества и перечня поддерживаемых языков, поэтому применимость к конкретному языку или типу документа следует проверять на собственных данных.
Карточка модели unsloth/DeepSeek-R1-Distill-Qwen-14B на Hugging Face совпадает с карточкой unsloth/DeepSeek-R1-Distill-Qwen-7B, поэтому описание составлено по ней. Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.
Это конвертированная в формат MLX версия DeepSeek-R1-Distill-Qwen-32B, подготовленная сообществом mlx-community из модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B с помощью mlx-lm 0.20.2. Модель построена на плотной архитектуре Qwen2 и содержит 32 млрд параметров; для генерации текста поддерживается контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста и решения задач рассуждения, в том числе по математике и программированию. Репозиторий содержит веса safetensors в формате MLX. Лицензия в предоставленных данных не указана.
MasterControlAIML разработала эту модель как дообученную версию Qwen/Qwen2.5-1.5B-Instruct с использованием TRL и стратегии обучения, вдохновлённой DeepSeek R1. Она предназначена для преобразования неструктурированных текстовых абзацев в JSON по заданной пустой схеме: модель извлекает сведения из текста и заполняет поля согласно правилам схемы. Это плотная авторегрессионная языковая модель архитектуры Qwen2 с 1,5 млрд параметров, рассчитанная на генерацию текста и диалоговый интерфейс. Контекстное окно — 32 768 токенов. Веса опубликованы в формате PyTorch под лицензией Apache-2.0. Карточка описывает сценарий структурирования JSON, но не приводит оценок качества или подробностей устойчивости к ошибочным и неоднозначным входным данным.
DocLayout-YOLO Docstructbench — модель компьютерного зрения для обнаружения элементов структуры документов, основанная на семействе DocLayout-YOLO и представленная в формате ONNX. Она предназначена для поиска и классификации десяти типов областей: заголовков, обычного текста, иллюстраций и подписей к ним, таблиц и их подписей и сносок, а также формул и подписей к ним. Модель можно применять в конвейерах анализа документов и подготовки их структурированного представления. Модель рассчитана на входные изображения документов и выдаёт обнаруженные области с метками классов. Репозиторий указывает Apache-2.0 в качестве лицензии. Карточка не сообщает сведения о размере модели, контексте или языковой поддержке; применимость может зависеть от качества и разметки входного документа.
EpistemeAI-codegemma-2-9b — языковая модель EpistemeAI на архитектуре Gemma 2, дообученная на 122 тысячах инструкций по программированию. Она предназначена для генерации кода и текста по запросу, а также для диалоговых интерфейсов и работы с текстом. Для генерации рекомендуется формат запросов Alpaca; доступны веса PyTorch и safetensors. Модель содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Модель основана на unsloth/gemma-2-9b-bnb-4bit и дообучалась с использованием Unsloth и TRL. В карточке указана лицензия Apache-2.0, тогда как метаданные Hugging Face содержат лицензию Gemma; условия использования стоит сверить с актуальными условиями репозитория и базовой модели. Модель может выдавать ошибочные или устаревшие ответы, испытывать трудности со сложными инструкциями и нюансами языка, а также воспроизводить смещения из обучающих данных.
FuseChat-Llama-3.1-8B-SFT — чат-модель FuseAI на архитектуре Llama 3.1 с плотной причинной языковой моделью примерно на 7,5 млрд параметров. Это SFT-этап FuseChat-3.0: модель Llama-3.1-8B-Instruct дообучена в рамках подхода неявного объединения возможностей нескольких более крупных языковых моделей. В метаданных указан контекст до 131 072 токенов и поддержка чата. Модель предназначена для диалога и выполнения инструкций, а также для общих задач, математики, программирования и китайского языка. В README описано, что итоговый подход FuseChat-3.0 сочетает SFT и оптимизацию предпочтений DPO; при этом данная карточка относится именно к варианту SFT. Модель опубликована в формате safetensors и создана на основе датасета FuseAI/FuseChat-3.0-SFT-Data. Лицензия в предоставленных данных не указана.
GPT-5.4 mini — компактная модель OpenAI, созданная для более быстрой и эффективной работы по сравнению с GPT-5.4 при высокой нагрузке. Она принимает текстовые и графические входные данные и предназначена для задач рассуждения и программирования. Модель подходит для приложений, которым нужны быстрые ответы при большом потоке запросов, включая задачи с изображениями. В предоставленных данных не описаны её размер, длина контекста, поддерживаемые языки или условия лицензирования.
granite-8b-code-instruct-4k-GGUF — GGUF-версия инструкционной модели для генерации и работы с программным кодом. Базовая модель ibm-granite/granite-8b-code-base-4k разработана IBM, а данная сборка подготовлена пользователем Mungert с использованием llama.cpp. Модель содержит около 8 миллиардов параметров и рассчитана на контекст до 4K токенов. Модель предназначена для генерации, объяснения и исправления кода, а также для задач, связанных с SQL, математическими инструкциями и вызовом функций. В README приведены результаты на HumanEvalPack для Python, JavaScript, Java, Go, C++, Rust; заявленные значения pass@1 варьируются в зависимости от языка и задачи, однако помечены как непроверенные. Модель является текстовой и не поддерживает мультимодальные входы. Формат GGUF позволяет использовать модель через совместимые инструменты llama.cpp и применять различные уровни квантования. Автор сборки описывает дополнительное повышение точности отдельных слоёв при квантовании, что может улучшать качество при сохранении умеренного размера файла, но увеличивает его объём. Ограничениями являются контекст 4K токенов, возможное снижение качества из-за квантования и непроверенный статус приведённых оценок. Лицензия модели — Apache 2.0.
bachngo/intf-e5-small-5t — модель Sentence Transformers на архитектуре BERT, разработанная автором репозитория. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска, сравнения текстов и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусным сходством; она подходит для поиска близких по смыслу фрагментов и группировки текстовых данных. Контекст ограничен 512 токенами, размер модели составляет 124,3 млн параметров. Лицензия в предоставленных данных не указана.