II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейK2-Chat — диалоговая языковая модель на 65 млрд параметров, разработанная MBZUAI и LLM360. Это дообученная версия K2-65B на наборах Infinity-Instruct, JiuZhang3.0-Corpus-SFT и glaive-function-calling-v2-sharegpt; модель построена на архитектуре Llama и распространяется в формате PyTorch. Контекст составляет 8192 токена. Модель предназначена для диалогов, ответов на вопросы, задач по математике и программированию, а также вызова функций по заданным схемам. В README заявлены улучшения в безопасности и результаты бенчмарков, но они не гарантируют качество на конкретных задачах. Примеры использования ориентированы на английский язык; модель описана как отвечающая только на английском. Для вызова функций требуется соблюдать специальный формат промпта; совместная работа режимов обычного диалога и вызова функций отдельно не проверена. Лицензия — Apache-2.0.
Mistral_Pro_8B_v0.1 — плотная авторегрессионная языковая модель семейства Mistral, разработанная лабораторией Tencent ARC. По описанию разработчиков, модель расширяет Mistral-7B добавлением блоков Transformer и дообучена на корпусах кода и математики; в метаданных указаны 8,9 млрд параметров, контекст до 32 768 токенов и формат Safetensors. Модель предназначена для генерации текста и широкого круга языковых задач, с особым акцентом на программирование, математику и общие языковые запросы. Она принимает текст и генерирует текст; в карточке указаны английский язык и датасеты по математике, коду и общим текстам. Разработчики приводят результаты сравнительных бенчмарков, но они не гарантируют качество на конкретных пользовательских задачах. Модель распространяется по лицензии Apache-2.0. Она может ошибаться, особенно в узкоспециализированных областях, и наследует возможные смещения обучающих данных.
facebook/mms-lid-512 — модель распознавания языка речи из проекта Massively Multilingual Speech, разработанного Vineel Pratap и коллегами в Facebook. Это дообученная на 512 языках версия facebook/mms-1b на архитектуре Wav2Vec2: она принимает аудио и распределяет вероятности по 512 классам языков, помогая определить, на каком языке говорят. Для работы ожидается аудио с частотой дискретизации 16 кГц. Модель подходит для автоматической идентификации языка в аудиозаписях и как начальный этап многоязычных речевых конвейеров. В карточке указана лицензия CC-BY-NC 4.0, которая ограничивает коммерческое использование. Модель предназначена для классификации языка речи, а не для транскрибирования или перевода аудио.
Myanmar ner Tagging Model — модель распознавания именованных сущностей, созданная дообучением chuuhtetnaing/myanmar-pos-model на датасете chuuhtetnaing/myanmar-ner-dataset. Она использует архитектуру XLM-RoBERTa с классификационной головой для токенов и предназначена для выделения сущностей в текстах на бирманском языке. В карточке приведены результаты оценки на тестовой части датасета: для DATE F1 составляет 0,83, для LOC — 0,95, для NUM — 0,90. Модель принимает текст и возвращает разметку токенов с метками сущностей. Размер — 305,2 млн параметров, длина контекста — 514 токенов. Распространяется по лицензии Apache-2.0.
BahAdoR0101/my_xlm-roberta-large-finetuned-conlljob04 — модель XLM-RoBERTa Large, дообученная на наборе данных conll2003job для классификации токенов. Она предназначена для извлечения и разметки сущностей в тексте. В карточке приведены результаты оценки: F1 0,9643, точность 0,9617, полнота 0,9670 и accuracy 0,9936. Модель содержит 658,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется по лицензии MIT. README не уточняет набор меток и языки примеров.
mschiesser/ner-bert-german — модель для распознавания именованных сущностей в немецком тексте. Она основана на bert-base-multilingual-cased, дообучена на немецком наборе WikiANN и использует архитектуру BERT для классификации токенов. Модель содержит 205,1 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Модель предназначена для выделения сущностей типов «человек», «организация» и «место» в немецких текстах. На оценочной выборке WikiANN указаны F1 0,8829 в целом, 0,9152 для персон, 0,8278 для организаций и 0,9067 для мест; точность составляет 0,9606, полнота — 0,8893. Опубликована под лицензией Apache-2.0.
Это крупная модель распознавания именованных сущностей на нидерландском языке, поставляемая в составе библиотеки Flair. Она основана на документных эмбеддингах XLM-R и архитектуре FLERT и предназначена для разметки текста тегами сущностей. Модель выделяет имена людей (PER), географические названия (LOC), организации (ORG) и четвертый класс сущностей. В README указана оценка F1 95,25 на нидерландской части CoNLL-2003. Модель подходит для извлечения сущностей из нидерландских документов и может использоваться через Flair с PyTorch. Модель обучена на CoNLL-2003; сведения о лицензии в предоставленных данных отсутствуют.
NuExtract — модель NuMind для извлечения структурированных сведений из текста. Она дообучена на частном высококачественном синтетическом наборе данных на базе microsoft/Phi-3-mini-4k-instruct; архитектура — плотная Phi-3, около 3,7 млрд параметров. Модель принимает текст и шаблон JSON с описанием нужных полей, а затем формирует извлечённые данные в заданной структуре. По карточке она предназначена для извлечения информации, включая сценарии без примеров; автор отмечает, что вывод является экстрактивным и текст ответа берётся из исходного текста. Модель рассчитана на вход менее 2000 токенов. Метаданные указывают контекст до 4096 токенов, английский язык и формат safetensors. Лицензия — MIT. Карточка помечает модель как устаревшую и указывает на обновлённую версию.
OctoCoder — модель для генерации кода по инструкциям, созданная BigCode дообучением StarCoder на наборах CommitPackFT и OASST. Она содержит 15,5 млрд параметров и построена на архитектуре GPT-2 с multi-query attention и целью Fill-in-the-Middle; для запуска доступны веса PyTorch и safetensors, а основная библиотека — Transformers. Модель предназначена для выполнения запросов на естественном языке: например, для написания функций и помощи в программировании. В карточке указана поддержка более 80 языков программирования; контекст составляет 8192 токена. Для работы с моделью авторы рекомендуют начинать запрос с «Question: » и завершать его «Answer:». Лицензия — BigCode OpenRAIL-M.
OpenCodeInterpreter-CL-7B — языковая модель для генерации кода из семейства OpenCodeInterpreter. Она разработана как система, объединяющая генерацию кода с выполнением и итеративным уточнением по обратной связи; в карточке указано, что модель основана на CodeLlama-7b-Python-hf. Модель имеет плотную архитектуру LlamaForCausalLM и около 6,6 млрд параметров. Она предназначена для написания и улучшения программного кода; для семейства OpenCodeInterpreter описано применение обратной связи от выполнения кода, но карточка не подтверждает, что этот репозиторий сам содержит среду выполнения. Контекст составляет 16 384 токена. В метаданных указан английский язык. В README приведены результаты серии OpenCodeInterpreter на HumanEval и MBPP, однако таблица относится к разным вариантам семейства и не содержит отдельного результата именно для CL-7B. Лицензия в предоставленных данных не указана.
Карточка модели luganoquant/OpenThinker3-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker3-7B, поэтому описание составлено по ней. OpenThinker3-7B — языковая модель с открытыми весами, разработанная командой Open Thoughts для задач рассуждения. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts3-1.2M, включающем вопросы по математике, программированию и естественным наукам. По данным авторов, модель обучалась без RL и показала улучшение по сравнению с предыдущими моделями OpenThinker в приведённых тестах. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов; поддерживаются чатовый режим и интерфейс вызова инструментов. Модель предназначена для решения математических задач, написания и анализа кода, научных вопросов и пошагового рассуждения. Доступна по лицензии Apache 2.0.
Карточка модели schwyzquant/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.
Карточка модели shaffhausen/OpenThinker-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker-7B, поэтому описание составлено по ней. OpenThinker-7B — плотная авторегрессионная языковая модель семейства Qwen2, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts-114k, созданном с использованием дистилляции DeepSeek-R1. Модель содержит 7,1 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов с упором на рассуждения, решение математических задач, вопросы по естественным наукам и программирование. В README приведены оценки на AIME24, MATH500, GPQA-Diamond и задачах LiveCodeBench; результаты показывают сильные стороны в математике и коде, но не гарантируют точность каждого ответа. Веса, данные и код проекта опубликованы; лицензия модели — Apache 2.0. Это текстовая модель, поэтому она не принимает изображения или аудио. Как и другие языковые модели, она может выдавать неверные ответы и требует проверки результатов, особенно в задачах, где ошибка критична.
Agnuxo публикует локальную GGUF-модель для генерации кода на основе Phi-3.5 Mini Instruct. Карточка описывает её как помощника для программирования и разговорного взаимодействия; модель можно запускать через Ollama, а формат файлов указан как GGUF F16. Количество параметров в доступных сведениях не приведено. Модель предназначена для генерации и помощи с кодом на Python, JavaScript, TypeScript, Rust, Go и C++, включая примеры научных вычислений и машинного обучения с NumPy, SciPy, Pandas, PyTorch, TensorFlow и JAX. Указаны также возможности координации агентных задач и интеграции с MCP и A2A. Лицензия — Apache-2.0. Карточка не содержит результатов оценки качества; заявленные в ней достижения и возможности не подтверждены независимыми данными.
Phind-Codefuse-34B — языковая модель для генерации кода, полученная слиянием Phind/Phind-CodeLlama-34B-v2 и codefuse-ai/CodeFuse-CodeLlama-34B методом task_arithmetic с помощью LazyMergekit. Модель построена на архитектуре Llama и содержит 33,5 млрд параметров; для генерации доступен контекст до 16 384 токенов. Модель предназначена для генерации кода и решения задач программирования в сценариях работы с текстовыми запросами. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Данные карточки не уточняют поддерживаемые языки программирования и сравнительное качество модели.
pico-type — компактная модель классификации содержимого от eulogik. Она принимает необработанные байты и за один проход определяет тип и модальность содержимого, подтип, язык кода или текста, MIME-тип и признаки риска. Токенизатор не требуется, поэтому модель рассчитана на разные языки и форматы данных. Модель использует байтовые эмбеддинги, параллельные свёртки Conv1D и двунаправленное внимание с RoPE. Доступны четыре варианта размерностью от 1,43 до 1,56 млн параметров; веса представлены в формате ONNX FP32. В README заявлены размер файла около 9 МБ и инференс примерно за 18 мс на CPU, а также варианты применения на периферийных устройствах, в браузере и серверless-средах. Модель подходит для автоматической маркировки текста и файлов, определения языков программирования и текста, MIME-типа и флагов риска. README отмечает, что точность распознавания некоторых языков кода ниже из-за малого числа обучающих примеров. Лицензия — Apache-2.0.
Pink Elephant 48B-S — разреженная языковая модель с архитектурой Mixture-of-Experts, разработанная Pink Elephant. В ней 47,7 млрд параметров, из которых на каждом токене активны около 14,66 млрд; используются 8 экспертов с маршрутизацией top-2. Модель создана на основе Pink Elephant 14B: плотную модель преобразовали в MoE, затем дообучили на примерах по программированию и математике и объединили обученные адаптеры с основными весами. Репозиторий содержит веса в формате safetensors; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации текста, диалогов, написания и анализа кода, а также решения математических задач. В README приведены результаты HumanEval 70,12%, MATH-500 38,40%, GSM8K 68,5% и MMLU 60,0%; выборки GSM8K и MMLU для проверки были небольшими. Модель поддерживает английский язык. По данным карточки, лицензия — MIT. Для загрузки автор рекомендует Transformers и указывает trust_remote_code=True.
PP-DocLayout_plus-L — модель PaddlePaddle для локализации и классификации областей на изображениях документов. Она основана на архитектуре RT-DETR-L и обучена на собственном наборе китайских и англоязычных научных статей, презентаций, журналов, контрактов, книг, экзаменационных материалов, старинных книг и исследовательских отчётов. Модель выделяет 20 типов областей, включая заголовки, основной текст, номера страниц, аннотации, таблицы, формулы, изображения, графики, колонтитулы, печати и списки литературы. Модель предназначена для анализа структуры страниц и может использоваться как компонент конвейера PP-StructureV3 вместе с OCR, распознаванием таблиц и формул и другими модулями. В README указана метрика mAP@0.5 83,2% на собственной тестовой выборке изображений документов на китайском и английском языках. Метрика относится к локализации областей, а не к распознаванию их текстового содержимого. Лицензия — Apache-2.0.
3MPER0RR/Qwen2.5-Coder-14B-Instruct-3MPER0RR-abliterated — доработанная 3MPER0RR версия инструкционной модели Qwen2.5-Coder-14B-Instruct, основанная на архитектуре Qwen2 и содержащая 14 млрд параметров. Модель предназначена для генерации кода в диалоговом формате; базовая модель также рассчитана на анализ и исправление кода. Модель принимает текст и выдаёт текст. Контекст составляет 32 768 токенов. В репозитории указаны веса в формате safetensors, лицензия — Apache 2.0. Карточка сообщает, что модель была протестирована и сохранена после 200 проб, но не описывает изменения, критерии тестирования или конкретные преимущества версии abliterated.
Qwen2.5-VL-32B-OCR — адаптер LoRA, созданный на базе Qwen/Qwen2.5-VL-32B и дообученный для оптического распознавания символов. Модель принимает изображения вместе с текстовыми запросами и формирует текстовый ответ; её основное назначение — извлечение текста из изображений и документов. Адаптер рассчитан на использование с базовой моделью через Transformers и PEFT. В основе лежит плотная vision-language архитектура Qwen2.5-VL с 32 млрд параметров и контекстом до 128 000 токенов. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Карточка не описывает качество распознавания, поддерживаемые языки или специальные возможности разбора структуры документов, поэтому их нельзя оценить по имеющимся данным.
khazarai разработала экспериментальную языковую модель Qwen3-4B-Qwen3.6-plus-Reasoning-Slerp с плотной архитектурой Qwen3ForCausalLM и 3,7 млрд параметров. Это слияние методом SLERP двух моделей на базе Qwen3-4B: khazarai/Qwen3-4B-Kimi2.5-Reasoning-Distilled и khazarai/Qwen3-4B-Qwen3.6-plus-Reasoning-Distilled. Модель принимает текст и генерирует текст; заявленная длина контекста — 262 144 токена. В карточке указаны английский язык, поддержка чата и интерфейс вызова инструментов. Модель предназначена для сложных логических выводов, математических задач, отладки кода на Python и ответов в сценариях RAG. Автор описывает настройку слияния, которая сохраняет словарь Qwen и плавно смешивает веса слоёв внимания и MLP. README приводит результат 77,18 на авторском бенчмарке из 100 вопросов, однако методика и независимое подтверждение результата не представлены. Автор также отмечает ожидаемое снижение качества творческого письма и не рекомендует модель для стихов и образного повествования. Лицензия — Apache-2.0.
Модель MonoHime/rubert-base-cased-sentiment-new разработана Татьяной Волошиной для классификации тональности русскоязычных текстов. Это модель семейства BERT на базе архитектуры BertForSequenceClassification с 205,1 млн параметров и контекстом до 512 токенов. Она присваивает тексту одну из трёх меток: нейтральная, положительная или отрицательная тональность. Модель подходит для автоматической разметки отзывов, сообщений и других русскоязычных текстов по тональности, а также для включения в конвейеры анализа мнений. Она обучалась на наборе Tatyana/ru_sentiment_dataset и распространяется в форматах PyTorch и Safetensors. Лицензия в доступных сведениях не определена. Предсказания могут содержать стереотипы и смещения, в том числе в отношении защищённых групп и чувствительных социальных характеристик. Перед применением в значимых сценариях следует учитывать эти ограничения и проверять качество на целевых данных.
mondk/Safetensors.chatgpt-gpt-codex-V2 — разговорная генеративная модель на архитектуре Qwen3, выпущенная в формате Safetensors. По карточке, она ориентирована на помощь с кодом и стремится давать более аккуратные ответы и отвечать быстрее, хотя автор отмечает небольшое снижение точности кода. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Это дообучение mondk/Safetensors.chatgpt-gpt-gpt5.1-thinking на наборах данных с диалогами, шутками и примерами для задач кодирования. Метаданные отмечают чат и интерфейс вызова инструментов; основной сценарий — генерация текста, в том числе ответы в диалоге и помощь при написании кода. Подтверждённая лицензия — Apache-2.0.
pucpr-br/sbertimbau_news_2021 — модель Sentence Transformers на базе BERTimbau, дообученная для получения семантических представлений новостных текстов на бразильском португальском. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и подходит для семантического поиска и кластеризации новостей. Модель использует архитектуру BERT и обрабатывает текстовые входы с контекстом до 512 токенов. В README указано обучение с BatchAllTripletLoss; в метаданных — 136,1 млн параметров и формат Safetensors. Лицензия в предоставленных данных не указана.
badrm2611/scraper-agent-qwen3.5-4b — дообученная на Qwen3.5-4B модель, разработанная для управления автономным агентом веб-скрейпинга. На каждом шаге она принимает наблюдение о странице и выдаёт один JSON-объект с выбранным инструментом, целевым элементом, ожидаемым результатом и уверенностью. Модель ориентируется на смысл страницы, роли, подписи и окружающий текст, проверяет результат действий и учитывает ошибки как новые наблюдения. Модель предназначена для работы в составе системы badrmellal/scraper-agent: для запуска через MLX на Apple Silicon ей нужны системный промпт агента и формат наблюдений. По данным README, на простом тесте она показала тот же результат, что базовая модель, а на глубоком обходе обработала 144 из 152 записей; обучение под заданную JSON-схему позволяет чаще обходиться без медленного декодирования с ограничениями грамматикой. В README рекомендуется использовать BF16: 4-битная квантизация заметно ухудшила результат, а преобразованные в GGUF веса выдавали некорректный текст в llama.cpp и Ollama. Лицензия — Apache-2.0.
taldarim/setfit-pc-multilabel-example — модель Sentence-Transformers на архитектуре MPNet, которая преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и кластеризации. В метаданных указаны 136,7 млн параметров и контекст до 514 токенов; модель доступна в формате PyTorch. Модель подходит для поиска похожих текстов, группировки предложений и построения векторных представлений для последующей обработки. Она обучалась с функцией потерь CosineSimilarityLoss. Язык обучения или основной язык в доступных материалах не указан. Лицензия в предоставленных метаданных и README не указана.
Модель dinghong-ner/siamese-name-matcher-v7 — дообученный Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанный для семантического сопоставления текстовых фрагментов. Архитектура BERT с усредняющим pooling преобразует предложения и короткие абзацы в плотные векторы размерности 384; близость оценивается косинусным сходством. Модель принимает текст, максимальная длина последовательности по README — 128 токенов, а метаданные указывают контекст до 512 токенов. Основной сценарий — сравнение имён и псевдонимов: обучающие примеры включают варианты написания имён, транслитерацию и японские имена. Модель также подходит для семантического поиска и извлечения похожих текстов. На валидационном наборе v7 указаны cosine accuracy 0,865 и F1 0,9078; результаты относятся к этому набору и не гарантируют качество на других данных. Веса опубликованы в формате safetensors; лицензия в предоставленных данных не указана.
StarChat2 15B — разговорная модель для помощи с программированием, разработанная HuggingFaceH4. Это плотная авторегрессионная модель семейства StarCoder2 с 21,7 млрд параметров и контекстом до 16 384 токенов, дообученная методами SFT и DPO на синтетических наборах данных для диалога, кода, математики и рассуждений. Модель рассчитана прежде всего на английский язык и более 600 языков программирования. Её можно применять для диалоговых ответов, написания и дополнения кода, а также решения задач на математику и рассуждения. В карточке сообщается о результатах на MT Bench, IFEval и HumanEval; результаты зависят от формата промпта и условий оценки. Модель доступна в формате safetensors и распространяется по лицензии BigCode Open RAIL-M v1. Модель не прошла выравнивание предпочтений с помощью RLHF и может выдавать проблемный контент. Сгенерированный код может быть ошибочным или уязвимым, а ссылки — вымышленными; ответы и код требуют проверки.
Georgia Tech Research Institute представил StarCoder GPTeacher-Codegen — модель GPTBigCode для генерации кода по инструкциям. Она создана дообучением bigcode/starcoder на наборе teknium1/GPTeacher-codegen, содержащем пары инструкций и ответов для генерации кода. В README указано 4,5 тыс. пар для дообучения; базовая модель имеет 15,5 млрд параметров и обучалась на коде более чем на 80 языках программирования. Модель принимает текстовые запросы и выдаёт код или текстовые ответы о программировании. Она рассчитана на написание функций и фрагментов кода, а также на технические запросы; карточка рекомендует формат промптов Alpaca. Контекст модели составляет 8192 токена, тогда как дообучение проводилось с длиной контекста 1024 токена. Модель использует архитектуру GPTBigCode с Multi Query Attention и поддерживает Fill-in-the-Middle. Генерируемый код может содержать ошибки, быть неэффективным или небезопасным, а ранняя настройка следования инструкциям может давать нестабильные результаты. Модель распространяется по лицензии BigCode OpenRAIL-M; код, похожий на обучающие данные, может требовать атрибуции или соблюдения других условий исходной лицензии.
Карточка модели gubernac/timesfm-3.0-pytorch на Hugging Face совпадает с карточкой google/timesfm-3.0-pytorch, поэтому описание составлено по ней. TimesFM 3.0 — предварительно обученная модель прогнозирования временных рядов, разработанная Google Research. Этот репозиторий содержит официальные веса и конфигурации для PyTorch. Модель построена на архитектуре Stacked Mixing Transformer с Variate Attention и CPM Iterative RevIN. В ней 20 слоёв трансформера, размерность модели 1280 и 16 голов внимания. Длина входного контекста составляет 32, длина патча горизонта прогноза — 64; модель также поддерживает прогнозирование квантилей, медиана находится по индексу 4. При обучении использовались наборы GiftEvalPretrain, Wikipedia Pageviews, Google Trends, а также синтетические и дополненные данные. Модель предназначена для прогнозирования временных рядов и может применяться к задачам оценки будущих значений последовательностей на основе их истории. Метаданные указывают тег задачи time-series-forecasting, формат весов — safetensors. Лицензия обозначена как other; конкретные условия использования следует проверять в репозитории.