II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейByT5-xl — предобученная байтовая модель семейства T5, разработанная Google. Она использует архитектуру Transformer для преобразования текста в текст и обрабатывает строки непосредственно как последовательности UTF-8 байтов, без отдельного токенизатора. Размер модели — 3,3 млрд параметров; доступны веса PyTorch и TensorFlow. Модель предобучена на mC4 с задачей восстановления замаскированных фрагментов и не проходила supervised-обучение для прикладных задач. Перед использованием её нужно дообучить под конкретный сценарий: например, ответы на вопросы или другие задачи преобразования текста. ByT5 особенно хорошо подходит для зашумлённого текста; в README отмечено превосходство над mT5-xl на TweetQA. Поддерживаются многие языки, включая английский, испанский, французский, арабский, хинди, японский и корейский; обработка байтов позволяет подавать текст на разных языках без токенизатора. Работа с байтовыми последовательностями может быть менее эффективной по длине входа, чем токенизация. Модель опубликована Google и распространяется по лицензии Apache-2.0.
ChartVerse-4B — мультимодальная модель для анализа диаграмм и графиков, разработанная проектом opendatalab/ChartVerse. Она дообучена на базе Qwen/Qwen3-VL-4B-Instruct и предназначена для ответов на вопросы по изображениям графиков, включая сложные многошаговые задачи визуального рассуждения. Модель использует архитектуру Qwen3-VL с 4 млрд параметров и принимает изображение вместе с текстовым запросом, выдавая текстовый ответ. Для обучения использованы наборы ChartVerse-SFT-600K и ChartVerse-RL-40K с проверкой ответов на основе фактических данных графиков. В README сообщается о среднем результате 61,9% и сравнении с Qwen3-VL-8B-Thinking; это заявленные авторами показатели. Модель распространяется под лицензией Apache-2.0.
CodeFuse-13B — модель генерации кода, разработанная командой CodeFuse и построенная на архитектуре GPT-NeoX. В метаданных указано 17,3 млрд параметров, а карточка описывает модель как 13B; она обучена на корпусе из кода, китайских и английских текстов и дообучена на CodeFuse-Evol-instruction-66k. Модель рассчитана на генерацию кода более чем на 40 языках программирования и поддерживает контекст до 4096 токенов по метаданным; README отдельно указывает последовательности кода до 4096 символов. Модель подходит для генерации фрагментов кода по текстовым инструкциям и решения задач программирования. В карточке заявлен результат Pass@1 37,1% на HumanEval при Beam Search с размером луча 3. Для работы описан стек PyTorch и Transformers. Лицензия обозначена как other, конкретные условия в предоставленных данных не раскрыты.
code-nothink-o7b-20260908 — кодовая языковая модель на базе Olmo-3-1025-7B, созданная для оценки генерации кода без режима рассуждений NoThink. Разработчик обучил LoRA-адаптер рангу 64 на паре проинструктированных примеров для кода, затем объединил его с базовой моделью; в репозитории размещены полные веса bf16 в формате safetensors. Модель имеет 6,9 млрд параметров и контекст до 65 536 токенов по метаданным; при обучении и описанной оценке использовался контекст 8 192 токена. Основной сценарий — генерация кода и решение задач программирования. В оценке LiveCodeBench DEV256 модель прошла 46 из 256 задач (18,0%) в режиме NoThink против 20 из 256 (7,8%) у базовой Olmo-3-1025-7B при том же протоколе; результат обозначен авторами как односидовый исследовательский, а не подтверждающий вывод. Для инференса автор рекомендует использовать токенизатор и шаблон чата из репозитория, не добавляя префикс режима рассуждений. Лицензия — Apache-2.0.
code-think-q8b-20260908 — это исследовательская версия Qwen3-8B-Base, дообученная modrill методом LoRA на трассах рассуждений Qwen3-30B-A3B-Thinking-2507 и затем объединённая в полные веса. Модель имеет плотную авторегрессионную архитектуру Qwen3ForCausalLM, около 7,6 млрд параметров и контекст до 32 768 токенов; для запуска объединённых весов PEFT не требуется. Чекпойнт предназначен для генерации кода и его решения с пошаговым рассуждением в режиме thinking. В оценке на 256 задачах LiveCodeBench-derived DEV256 он решил 81 задачу с pass@1; результат получен на одном seed и не является сопоставимой оценкой на лидерборде. В 130 генерациях сработал лимит длины в 32 тыс. токенов. Модель принимает текст и выдаёт текст, включая код. Лицензия — Apache-2.0, унаследованная от базовой модели.
Ido-shraga/distilbert-base-tweeteval-sentiment — англоязычная модель классификации тональности коротких сообщений в социальных сетях, разработанная автором репозитория и дообученная на DistilBERT. Она относит текст к одному из трёх классов: негативному, нейтральному или позитивному. Модель основана на distilbert/distilbert-base-uncased, содержит около 67 млн параметров и принимает текст длиной до 512 токенов; в обучении использовались сообщения из набора TweetEval, ограничение длины при обучении составляло 128 токенов. Модель подходит для анализа тональности твитов и потоковой обработки пользовательских публикаций, когда важна высокая пропускная способность. На тестовой части TweetEval указаны accuracy 0,6888 и macro-F1 0,6877; в сравнении с twitter-roberta-base автор сообщает примерно в 1,8 раза более быстрый вывод при меньшем размере, но с несколько меньшей точностью. Лицензия — Apache-2.0.
distilbert-foundation-category-c5 — дообученная модель DistilBERT для классификации текстов по категориям. Она разработана автором thedavidhackett на базе distilbert/distilbert-base-uncased и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для задач классификации последовательностей; в README приведены результаты оценки: accuracy 0,9335 и loss 0,3193. Максимальная длина контекста составляет 512 токенов. Базовая модель uncased, то есть не различает регистр английских букв; доступные сведения не описывают набор категорий, обучающие данные и ограничения применения. Модель распространяется по лицензии Apache-2.0.
zimplex выпустила DreamReasoner-8B FineCode approximate-CF-v6 CPT — контрольную точку после дополнительного предобучения DreamReasoner-8B на наборе FineCode B64 с графом зависимостей approximate-CF-v6. Это плотная модель семейства Dream для генерации текста, представленная в формате safetensors; она содержит 7,6 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена прежде всего для генерации кода и диалогового взаимодействия при решении задач программирования. В карточке приведены результаты greedy-декодирования на HumanEval, MBPP sanitized и LiveCodeBench Pro; они отражают конкретный режим оценки и не гарантируют аналогичного качества на других задачах. Для загрузки требуется custom DreamReasoner modeling code и параметр trust_remote_code=True. Это исследовательский чекпойнт без отдельной оценки безопасности и готовности к развёртыванию. Лицензия — Apache-2.0.
e2etext-T1edu1-T1 — дообученная авторами репозитория модель jerryyan на базе Qwen/Qwen3-0.6B для очистки веб-страниц и подготовки текста для предобучения. Она принимает не исходный HTML, а текст страницы, преобразованный заданным рендерером в канонический формат с нумерацией строк, и генерирует решения keep, edit, delete или rewrite с соответствующим содержимым. Детерминированный исполнитель применяет эти решения, формируя очищенный текст; модель использовалась в конвейере создания корпуса объёмом около 7,44 млрд токенов. Это плотная авторегрессионная модель семейства Qwen3 с примерно 508 млн параметров, контекстом до 40 960 токенов и форматом весов safetensors. Для воспроизводимого результата важны тот же рендерер и системный промпт, с которыми модель обучалась и запускалась: произвольный текст и другой способ рендеринга могут отличаться от обучающих данных. Веса, код и документация доступны по лицензии Apache-2.0; базовая модель также распространяется по этой лицензии.
Модель dbsamu/electra-small-discriminator-finetuned-ner — компактная модель Google ELECTRA Small, дообученная для распознавания именованных сущностей на датасете WikiAnn. Она присваивает метки токенам текста и предназначена для извлечения сущностей в задачах обработки естественного языка. Модель содержит 20,4 млн параметров, использует архитектуру ElectraForTokenClassification и принимает последовательности длиной до 512 токенов. На оценочном наборе WikiAnn модель показала F1 0,7435, точность 0,7331, полноту 0,7543 и accuracy 0,8883. Доступна в формате PyTorch по лицензии Apache-2.0. Карточка не уточняет набор типов сущностей и поддерживаемые языки, поэтому качество для конкретного языка и сценария следует проверять отдельно.
Instinct-Python-Coder-Gemma4-12B-Qwen3.8-27B — специализированная модель для генерации и решения задач на Python, разработанная как дообученная версия unsloth/gemma-4-12b-it. Она предназначена для программирования, рассуждений и диалогового взаимодействия, особенно в сценариях, где важны компактные рассуждения, скорость инференса и экономия ресурсов. Модель распространяется в формате GGUF и совместима с llama.cpp и приложениями, поддерживающими OpenAI-совместимый API. Модель представляет собой плотную модель с 12 млрд параметров, обученную на 5,67 млн токенов постобучения, обработанных дважды, с длиной последовательности 16 384 токена. Она использует канал рассуждений <think></think>, генерируя в среднем меньше рассуждений, чем Qwen3.8-27B, и ориентирована на английский язык. В поставляемом варианте Q8_0 размером около 13 ГБ для работы требуется примерно 16 ГБ памяти GPU или Mac; заявленный контекст при запуске через llama.cpp может быть настроен, например, на 8192 токенов. На закрытом наборе из 228 задач Python модель решила 110 задач (48,2%) при температуре 1,0, уступив 3- и 4-битным вариантам Qwen3.8-27B, но более чем вдвое превзойдя его 1-битную версию при сопоставимом объёме VRAM. Эти результаты получены в одном измерении без оценки погрешности и не подтверждают качество на других языках или задачах. Модель является производным вариантом Gemma и наследует ограничения базовой модели. Использование регулируется Google Gemma Terms of Use и Gemma Prohibited Use Policy.
serdarakyol/interpress-turkish-news-classification — модель классификации турецких новостных текстов на основе BERT. Она обучена на 108 тысячах примеров из набора данных Interpress; автор сообщает точность 97% на обучающей и валидационной выборках при разделении данных 80/20. Модель предназначена для отнесения новостных текстов к категориям в приложениях на PyTorch, TensorFlow или Flax. Число параметров составляет 137,8 млн, максимальная длина контекста — 512 токенов; карточка указывает поддержку турецкого языка. Лицензия в предоставленных данных не указана.
EpistemeAI/MathCoder-Llama3.1-8B-cot — дообученная EpistemeAI модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она создана для генерации текста с цепочкой рассуждений и ориентирована на решение математических задач и помощь с кодом. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В основе модели — плотный авторегрессионный трансформер Llama, дообученный методом supervised fine-tuning с использованием chain of thought. Карточка описывает Llama 3.1 как многоязычное семейство, однако именно для этой модели подтверждён английский язык. Лицензия в метаданных — Apache 2.0. Качество ответов и корректность рассуждений могут варьироваться, поэтому результаты вычислений и сгенерированный код требуют проверки.
Модель opendatalab/meta-rater-professionalism-rating разработана OpenDataLab и представляет собой дообученную ModernBERT-base с 149 млн параметров. Она оценивает профессиональную сложность текста: глубину и точность содержания, а также уровень специальных знаний, нужный для его понимания. Модель выдаёт непрерывную оценку от 0 до 5, которую можно интерпретировать как шкалу от общедоступного текста до материала, требующего экспертной подготовки. Модель предназначена для отбора и фильтрации текстов при подготовке данных для предобучения языковых моделей, оценки сложности учебных материалов и анализа научных или технических документов. Это encoder-модель для классификации последовательностей; в метаданных указано контекстное окно 8192 токена. В карточке приведены F1 91,57% и точность 93,78%, но условия и набор оценки не описаны. Модель рассчитана прежде всего на английский язык. Она оценивает профессиональную сложность, а не стиль или грамматику; качество может снижаться на недостаточно представленных предметных областях, поэтому оценку не следует использовать как единственный критерий качества. Лицензия — MIT.
LamaDiab выпустила дообученную модель Sentence Transformers на базе sentence-transformers/all-MiniLM-L6-v2. Это компактный плотный энкодер предложений с архитектурой BERT и 25,9 млн параметров: он преобразует текстовые фрагменты в нормализованные векторы размерности 384 для сравнения по косинусному сходству. Модель рассчитана на семантический поиск, оценку сходства предложений, поиск перефразировок, кластеризацию и классификацию текста; карточка описывает обучение на примерах товаров и категорий.
MyAwesomeModel — модель семейства BERT для извлечения признаков из текста, опубликованная в репозитории dfdfdgghh677/MyAwesomeModel-TestRepo. Она предназначена для получения векторных представлений текста, которые могут использоваться в последующих задачах анализа и машинного обучения. Модель работает с библиотекой Transformers и фреймворком PyTorch. В метаданных указана задача feature-extraction и архитектурный тег BERT; размер модели, поддерживаемые естественные языки и длина контекста не указаны. README также описывает возможности генерации текста, рассуждений, function calling и работы с веб-поиском, однако эти сведения не согласуются с указанным в метаданных pipeline-тегом и не подтверждают назначение модели как генеративной. Модель распространяется по лицензии MIT. Для практического применения следует проверить конфигурацию, токенизатор и фактическое поведение модели перед использованием в продуктивных системах.
MyAwesomeModel — модель из репозитория DSADSD12SZC/MyAwesomeModel-TestRepo, предназначенная по метаданным Hugging Face для извлечения признаков с использованием библиотеки Transformers и фреймворка PyTorch. В тегах также указана архитектурная принадлежность к BERT. README описывает обновлённую версию как модель с улучшенными рассуждениями, математическими и программными способностями, генерацией текста, ответами на вопросы, классификацией, суммаризацией и поддержкой function calling, однако эти заявления не согласуются с указанным pipeline_tag feature-extraction.
MyAwesomeModel — модель на базе архитектуры BERT, опубликованная в формате Hugging Face Transformers с поддержкой PyTorch. По метаданным она предназначена прежде всего для извлечения признаков из текста, то есть получения векторных представлений, пригодных для последующей классификации, поиска и других задач машинного обучения. В README заявлены улучшения рассуждений, понимания языка, генерации кода и текста, ответов на вопросы, суммаризации, перевода, диалогов, вызова функций и работы с файлами или результатами веб-поиска. Однако эти описания относятся к широкому набору возможностей и не согласуются напрямую с pipeline-тегом feature-extraction, поэтому для каталога основной подтверждённой задачей следует считать извлечение признаков. К сильным сторонам относятся совместимость с Transformers и PyTorch, а также заявленная эффективность на математических, логических и языковых тестах. Размер модели, длина контекста и поддерживаемые естественные языки в предоставленных данных не указаны. Модель распространяется по лицензии MIT.
NeoMME-800M — мультиязычный мультимодальный энкодер, разработанный Hcompany и обученный с нуля. Текстовые токены и патчи изображений обрабатываются одним общим Transformer-энкодером без отдельного предварительно обученного vision-энкодера и авторегрессионной языковой модели. Модель содержит 1,1 млрд параметров, принимает текст и изображения и имеет контекст 16 384 токена. Это базовая энкодерная модель, которая возвращает контекстные представления токенов. Для поиска, классификации, извлечения информации и других прикладных задач её необходимо дообучить с подходящей целевой головой; для поиска по документам авторы рекомендуют NeoMME-800M-Retriever. Предварительное обучение проводилось на многоязычных текстах и визуально-текстовых данных, включая веб-тексты, код, математику, страницы документов, подписи к изображениям и синтетические OCR-данные. Модель доступна в формате Safetensors через Transformers по лицензии Apache-2.0. Комплексная оценка безопасности, смещений и конфиденциальности не проводилась.
Венгерская модель распознавания и классификации именованных сущностей, разработанная на основе SZTAKI-HLT/hubert-base-cc и дообученная на корпусе NerKor+CARS-ONPP. Она размечает текст по более чем 30 типам сущностей: людям, организациям и местам, а также датам, количествам, языкам, национальностям и другим категориям. Отдельные типы охватывают автомобили и другие транспортные средства, СМИ, награды и проекты. Модель построена на архитектуре BERT, содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов по метаданным; в README указан предел max_seq_length 448. Она предназначена для NER на венгерском языке, в том числе для извлечения сущностей из новостных текстов. Лицензия — GPL.
guishe выпустил guishe/nuner-v1_orgs — модель распознавания именованных сущностей, дообученную на наборе NER-ORGS для выделения организаций в тексте. Она основана на NuNER-v1.0 с RoBERTa-base в качестве базового энкодера и использует архитектуру RoBERTa для классификации токенов. Модель содержит 151,8 млн параметров, работает с текстом и имеет контекстное окно 514 токенов. Модель предназначена для извлечения названий организаций из текста и может применяться при разборе документов или автоматической разметке упоминаний компаний. В карточке указан английский язык. Модель распространяется по лицензии CC BY-SA 4.0. Данных о качестве на иных типах сущностей или языках нет.
open-scene-detection — модель классификации изображений, разработанная prithivMLmods и дообученная на базе SigLIP2 для распознавания природных и городских сцен. Она относит изображение к одному из шести классов: здания, лес, ледник, гора, море или улица. Модель предназначена для автоматической разметки изображений, экологического и географического анализа, поиска и группировки изображений по типу сцены, а также для передачи визуальных меток системам навигации и восприятия. Используется архитектура SiglipForImageClassification; базовая модель — google/siglip-base-patch16-512. Лицензия — Apache-2.0.
open-vakgyata — модель OneCXI для определения языка по входящей речи. Она классифицирует аудио на индийские языки и английский вариант, используемый в Индии. Модель построена на архитектуре wav2vec2 и содержит 52,6 млн параметров; для работы используется библиотека Transformers. В README указана частота дискретизации 16 кГц и рекомендован формат PCM, 16 бит. Модель подходит для предварительного определения языка в речевых системах, маршрутизации звонков и аналитики аудио. В README перечислены английский (Индия), хинди и одия, а метаданные также указывают бенгальский, тамильский, телугу, каннада, малаялам, маратхи и гуджарати. Доступны файлы safetensors и ONNX. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель классифицирует язык аудио, а не выполняет распознавание речи в текст.
Ornith Harness 4B v2 — исследовательская текстовая модель на 4,2 млрд параметров, созданная на основе Qwen3.5-4B и распространяемая в формате GGUF Q5_K_M. Разработчики дообучили её на траекториях использования инструментов, а затем применили оптимизацию предпочтений и двухэтапную on-policy дистилляцию. Модель рассчитана на локальные агентные эксперименты, проверяемую обработку данных и написание небольших программ по заданным примерам и критериям. В комплект входит двухинструментальный harness для оценки результатов; заявленный контекст оценки — 8192 токена. В фиксированном тесте из 48 задач модель прошла 32; этот результат относится к конкретной конфигурации модели, среды и проверяющих программ и не гарантирует аналогичного качества на произвольных запросах. Авторы исключают из проверенной области применения общий чат, крупный рефакторинг, проектирование архитектуры и генерацию критичного к безопасности кода. Harness выполняет сгенерированные команды и записывает файлы, поэтому авторы рекомендуют запускать его в изолированной среде с ограничениями и проверять результаты независимо. Лицензия — Apache 2.0.
cwolff/qwen3.5-2b-grpo-bird — компактная модель cwolff на 2 млрд параметров, созданная дообучением Qwen/Qwen3.5-2B методом обучения с подкреплением GRPO. Она предназначена для агентного преобразования вопросов на естественном языке в SQL: модель исследует схему базы данных через инструменты, а затем отправляет запрос на исполнение. Для работы ей нужен внешний агентский цикл с протоколом exec_plan, в котором каждый ход содержит один JSON-объект; модель не рассчитана на обычный запрос «схема на вход, SQL на выход». Обучение и оценка проводились на SQLite с бюджетом в шесть ходов. В тесте разработчика на 300 вопросах BIRD dev точность исполнения составила около 0,55 как при наличии схемы в запросе, так и при её самостоятельном изучении через инструменты; эти результаты относятся к собственному тестовому стенду, а не к лидерборду. Модель заметно меньше и дешевле в обслуживании, чем крупные модели, но уступает им на сложных запросах с множественными соединениями. Контекст запуска в опубликованной инструкции ограничен 16 384 токенами; более длинные агентские эпизоды не проверены, а усечение в экспериментах достигало 9–22%. Визуальная часть базовой модели сохранена, но не обучалась и не оценивалась для этой задачи, поэтому модель следует использовать как текстовую. Лицензия — Apache-2.0.
crabz/slovakbert-ner — словацкая модель распознавания именованных сущностей, разработанная дообучением gerulata/slovakbert на наборе WikiANN. Она использует архитектуру RoBERTa и содержит около 151,8 млн параметров; максимальная длина контекста — 514 токенов. Модель размечает в словацком тексте имена людей, названия организаций и географические объекты. Её можно применять для извлечения сущностей из новостей и других текстов на словацком языке; в README приведены примеры использования через Transformers pipeline. На оценочном наборе указаны F1 0,9398 и точность 0,9785. Модель принимает текст и выдаёт метки токенов. Она обучена на WikiANN, поэтому качество на других жанрах и текстах может отличаться от приведённых оценок. Лицензия — MIT.
Модель guishe/span-marker-generic-ner-v1-fewnerd-fine-super — англоязычная модель распознавания именованных сущностей на архитектуре SpanMarker. Она разработана на основе numind/generic-entity_recognition_NER-v1 и дообучена на наборе FewNERD; для обработки использует библиотеку SpanMarker и веса PyTorch в формате safetensors. Модель размечает текст категориями сущностей, охватывающими, среди прочего, людей, организации и объекты культуры. Модель предназначена для извлечения сущностей из английского текста и может быть дообучена на собственных данных. Максимальная длина последовательности составляет 256 токенов, максимальная длина распознаваемой сущности — 8 слов. Лицензия — CC BY-SA 4.0, поэтому при использовании и распространении производных материалов следует соблюдать её условия.
stanfordnlp/stanza-en — англоязычная модель из набора Stanza, разработанного Stanford NLP. Она предназначена для лингвистического анализа текста: Stanza обрабатывает текст от базового языкового разбора до синтаксического анализа и распознавания сущностей. Репозиторий содержит веса PyTorch; в метаданных основная задача отмечена как token-classification, а поддерживаемый язык — английский. Модель подходит для анализа английского текста в приложениях NLP, включая разметку токенов и извлечение сущностей. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Размер модели и длина контекста в предоставленных данных не указаны.
Sunflower Language ID v2 — модель Sunbird для определения языка текста среди 64 африканских языков. Она дообучена на базе google/t5-efficient-tiny для классификации последовательностей; обучающие примеры охватывают сбалансированный корпус языков, а словарь SentencePiece из 32 тысяч токенов заменён и поддерживает байтовый fallback. Модель содержит 11,9 млн параметров, принимает текст длиной до 512 токенов и выдаёт метку языка. Модель особенно ориентирована на короткие фрагменты: в тестировании точность составила 40,5% для одного слова, 59,7% для двух и 70,1% для трёх слов среди 64 классов. Перед подачей текста необходимо соблюдать обработку регистра, соответствующую обучению: README указывает, что модель обучалась на строчных текстах. Для развёртываний, где допустим только поднабор языков, рекомендуется ограничивать классы при выборе результата. Для близкородственных языков точность на коротких фрагментах ниже: например, модель часто путает чига и ньянколе, ньоро и торо, а также кирунди и киньяруанда. Модель распространяется по лицензии Apache-2.0.
TabPFNMix Classifier — модель AutoGluon для классификации табличных данных. Это табличная фундаментальная модель на основе 12-слойного Transformer с архитектурой encoder-decoder и 37 млн параметров. Она предварительно обучена на синтетических наборах данных, полученных от смеси случайных классификаторов, и использует обучение в контексте, аналогичное TabPFN и TabForestPFN. Модель предназначена для предсказания классов по строкам табличных данных. Для использования автор рекомендует библиотеку AutoGluon. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.