II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейTechxGenus/starcoder2-7b-AWQ — AWQ-квантованная версия StarCoder2-7B, разработанная проектом BigCode. Это авторегрессионная модель генерации текста, ориентированная прежде всего на работу с исходным кодом: автодополнение, генерацию фрагментов, редактирование и задачи Fill-in-the-Middle. Модель не является instruction-моделью, поэтому прямые запросы на естественном языке, например просьбы написать функцию, могут обрабатываться неудовлетворительно. Модель содержит около 7 миллиардов параметров и обучена более чем на 3,5 триллиона токенов, включая данные The Stack v2, а также отдельные источники вроде arXiv и Wikipedia. Она поддерживает 17 языков программирования, использует Grouped Query Attention, контекстное окно 16 384 токена и Sliding Window Attention с окном 4 096 токенов. Квантирование AWQ снижает требования к памяти и делает модель более подходящей для локального запуска, сохраняя назначение базовой модели для генерации кода. К ограничениям относятся отсутствие instruction-настройки, возможное воспроизведение фрагментов обучающих данных и необходимость проверять лицензии сгенерированного кода; для этого рекомендуется использовать индекс поиска по исходным данным. Модель распространяется по лицензии BigCode OpenRAIL-M. В карточке также приведены результаты на бенчмарках HumanEval, HumanEval+, DS-1000, CruxEval-I, GSM8K (PAL) и RepoBench-v1.1, однако они относятся к StarCoder2-7B и не обязательно отражают точные показатели AWQ-версии.
shed-e/thucnews — модель классификации текста на базе hfl/rbt6, дообученная на наборе данных load_train. Это модель BERT с архитектурой BertForSequenceClassification, содержащая 72,8 млн параметров и принимающая последовательности длиной до 512 токенов. На оценочной выборке указаны loss 0,3191 и accuracy 0,9433. Модель предназначена для отнесения текста к классам. Название репозитория указывает на связь с THUCNews, однако карточка не описывает набор меток, состав данных или конкретные сценарии классификации. Лицензия — Apache-2.0.
lupinlevorace опубликовал компактную модель на основе BERT для классификации текста. Репозиторий указывает задачу text-classification; размер составляет 4,4 млн параметров, архитектура — BertForSequenceClassification, максимальная длина контекста — 512 токенов. Название и сведения в конфигурации токенизатора связывают модель с SST-2 и базовой моделью textattack/bert-base-uncased-SST-2. Это позволяет использовать её для классификации тональности англоязычных текстов, например отзывов. В карточке нет подробного описания оценки качества или условий лицензии, поэтому их нельзя надёжно охарактеризовать.
m3hrdadfi/typo-detector-distilbert-en — модель на базе DistilBERT для обнаружения опечаток в английском тексте. Она обучена на корпусе NeuSpell и применяется для токенной классификации: модель отмечает токены, распознанные как TYPO. В карточке приведены метрики на оценочной выборке: F1 для класса TYPO составляет 0,989. Модель использует архитектуру DistilBertForTokenClassification, доступна в форматах PyTorch и TensorFlow и принимает последовательности длиной до 512 токенов. Её можно подключить через Transformers pipeline для token-classification, например, для поиска вероятных опечаток в пользовательском тексте. Лицензия в предоставленных данных не указана.
UVDoc — модель для геометрической коррекции изображений документов, разработанная командой PaddlePaddle и предназначенная для использования в экосистеме PaddleOCR. Она исправляет искажения документа, включая деформацию, наклон и перспективные преобразования, чтобы повысить точность последующего распознавания текста. Модель работает с изображениями документов и возвращает скорректированное изображение. В карточке указаны языки en и zh, однако архитектура, количество параметров, размер модели и максимальный размер контекста не раскрыты. На тестовом наборе DocUNet модель показала CER 0,179. Её сильная сторона — специализированная коррекция сложных геометрических искажений перед OCR; ограничение заключается в том, что она не является самостоятельной моделью распознавания текста. Для запуска через ONNX Runtime используется PaddleOCR. Модель распространяется по лицензии Apache-2.0.
ViGOS-3B — мультимодальная модель для анализа изображений, разработанная в рамках подхода Visual Grounding On-Policy Self-Distillation. Это дообученная версия Qwen/Qwen2.5-VL-3B-Instruct с архитектурой Qwen2.5-VL, примерно 3,1 млрд параметров и контекстом до 128 000 токенов. Она принимает изображение и вопрос или инструкцию и генерирует текстовый ответ; при запросе может описывать визуальные признаки, рассуждать и выдавать итоговый ответ. Модель предназначена для исследований и разработки в области визуальных вопросов и ответов, визуальной математики, анализа диаграмм и графиков, OCR с опорой на изображение, пространственных рассуждений и визуального заземления. Метод обучения направлен на то, чтобы модель сначала сформировала описание изображения, прежде чем рассуждать и отвечать; на инференсе используются только изображение, запрос и формат ответа. В карточке приведены результаты на бенчмарках, включая MM-Vet, MMMU и ViLP. Модель может выдавать правдоподобные, но неверные описания и рассуждения, поэтому её ответы требуют проверки. Её не следует использовать как единственного принимающего решения инструмента в медицине, праве, финансах, робототехнике с критическими требованиями к безопасности, наблюдении или идентификации. Лицензия указана как other; конкретные условия использования следует уточнить в карточке репозитория.
5CD-AI/viso-twhin-bert-large — модель BERT для заполнения пропусков в тексте, построенная на TwHIN-BERT. Разработчики уменьшили словарь до 20 тысяч токенов и продолжили предобучение на наборе UIT в течение 10 эпох. Модель содержит 423,1 млн параметров, использует архитектуру BertForMaskedLM и поддерживает контекст до 512 токенов. Модель предназначена для работы с вьетнамскими текстами из социальных сетей. В README описана оценка её дообученных вариантов на распознавании эмоций, выявлении языка ненависти, спам-отзывов и фрагментов с языком ненависти. Для этих downstream-задач указано дообучение с длиной входа до 128 токенов. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.
google/vit-base-patch32-224-in21k — базовая модель Vision Transformer (ViT), опубликованная Google и представленная в статье Dosovitskiy и соавторов. Веса подготовлены для этого репозитория из реализации timm; модель содержит около 113,2 млн параметров и доступна в форматах PyTorch, TensorFlow и Flax. Она предобучена с учителем на ImageNet-21k, включающем около 14 млн изображений и 21 843 класса. Модель принимает изображения RGB, преобразованные к разрешению 224×224, разбивает их на патчи 32×32 и обрабатывает последовательность патчей трансформерным энкодером. Она предназначена для извлечения визуальных признаков и использования в последующих задачах, например для обучения классификатора поверх представления CLS. Готовой обученной классификационной головы нет, но сохранён предобученный pooler. Модель подходит для построения классификаторов и получения признаковых представлений изображений. Для тонкой настройки на классификацию авторы отмечают преимущества разрешения 384×384. Лицензия — Apache-2.0.
Это визуальный энкодер DINOv3 ViT-L/16 из библиотеки timm, созданный на основе DINOv3 ViT-7B и дистиллированный на наборе изображений LVD-1689M. Модель содержит 303,1 млн параметров и предназначена для извлечения признаков и эмбеддингов изображений; входной размер изображения в карточке — 256 × 256 пикселей. Полученные представления можно использовать как основу для классификации изображений, сегментации и других задач компьютерного зрения, включая дообучение на собственных данных. Модель работает с изображениями и возвращает векторы признаков; это не генератор изображений и не текстово-визуальная диалоговая модель. В README отмечены технические нюансы реализации в timm: смещения QKV отключены, поскольку исходные значения были нулевыми, а периоды RoPE представлены с другой точностью, что может вызывать небольшие численные расхождения с исходной реализацией. Лицензия указана как DINOv3, а в метаданных Hugging Face — как other; точные условия следует сверять с лицензией проекта DINOv3.
Google ViT-Large/32-384 — модель классификации изображений на основе крупного трансформерного энкодера Vision Transformer. Весами из репозитория timm поделился Ross Wightman; модель прошла предварительное обучение на ImageNet-21k, а затем дообучение на ImageNet 2012 для распознавания 1000 классов. В модели около 402,7 млн параметров; изображения разбиваются на патчи 32×32, а классификатор использует представление токена CLS. Для дообучения указано разрешение 384×384 пикселя. Модель предназначена для классификации изображений по классам ImageNet и может служить энкодером признаков для последующей настройки на размеченных наборах данных. Доступны версии весов PyTorch, TensorFlow и Flax. Карточка не указывает языковые возможности: входом служит изображение, результатом — метки классов. Лицензия — Apache-2.0. Качество на прикладных наборах данных зависит от соответствия их классов ImageNet и предварительной обработки. Для изображений с нестандартными объектами или доменами может потребоваться отдельное дообучение.
timm/vit_pe_core_tiny_patch16_384.fb — компактная модель зрения из семейства Perception Encoder (PE Core), опубликованная в репозитории timm на Hugging Face. Это Vision Transformer, принимающий изображения размером 384×384 и выдающий визуальные признаки для последующего использования в задачах компьютерного зрения. Модель доступна через timm и Transformers с pipeline image-feature-extraction. Карточка модели указывает лицензию Apache-2.0. Она относится к коллекции Perception Encoder, содержащей веса PE Core, Spatial и Lang; для этой версии заявлено извлечение признаков изображений. Коллекция отмечает, что эти веса несовместимы с исходным кодом моделирования.
volo_d1_224.sail_in1k — модель классификации изображений на основе архитектуры VOLO (Vision Outlooker), доступная через библиотеку timm. Она обучена авторами статьи на ImageNet-1k с разметкой токенов и может использоваться для определения объектов и сцен на изображениях, а также как визуальный backbone для извлечения признаков. Модель содержит 26,6 млн параметров, рассчитана на изображения размером 224 × 224 пикселя и требует входное изображение. Репозиторий предоставляет веса PyTorch и SafeTensors. Лицензия Apache-2.0.
Модель wageehkhad/whisper-medium-finetuned-sada-asr — версия Whisper Medium, дообученная на наборе SADA22 для автоматического распознавания саудовской арабской речи. Она преобразует аудиозаписи в текст и использовалась как компонент распознавания речи в экспериментах по оценке диалектности арабского языка: полученную расшифровку передавали текстовому классификатору диалектности. Модель построена на архитектуре WhisperForConditionalGeneration и содержит 455,8 млн параметров; опубликована в формате safetensors. Базовая модель — openai/whisper-medium. Основной сценарий — транскрибация саудовской арабской речи. Модель рассчитана на речевые сегменты длительностью до 30 секунд; более длинные записи можно обрабатывать с автоматическим разбиением на части в используемом pipeline. Дообучение ориентировано на саудовский диалект, поэтому качество на других арабских диалектах и передачах на литературном арабском может быть ниже. Лицензия — Apache-2.0.
oddadmix/whisper-small-arabic-dialectal-v2 — модель oddadmix, полученная дообучением openai/whisper-small с 244 млн параметров на сбалансированном по диалектам наборе oddadmix/lahgtna-v3-small. Она предназначена для распознавания речи на разных диалектах арабского языка и выдаёт транскрипцию без диакритических знаков. Модель принимает аудио и генерирует текст; реализована на архитектуре Whisper и доступна в формате safetensors через Transformers. На сбалансированной тестовой выборке примерно из 2600 фрагментов указаны WER 0,4034 и CER 0,1528. Среди описанных результатов лучше распознаются диалекты Персидского залива и Леванта, а тунисский, алжирский и марокканский варианты даются сложнее. Лицензия — Apache-2.0.
Shirali/whisper-small-ISSAI_KSC_335RS_v2 — аудиомодель семейства Whisper с архитектурой WhisperForConditionalGeneration и 153,1 млн параметров. Репозиторий содержит веса PyTorch; модель предназначена для автоматического распознавания речи. В README указано, что модель обучена с нуля, но набор данных обозначен как None, а сведения о назначении, обучающих данных и оценке не приведены. Языки распознавания и качество для конкретных условий записи установить по доступным данным нельзя. Лицензия не указана.
Модель wrice/whisper-tiny-grpo-d46ed86-cv22-tiny-sftanneal2 — экспериментальное дообучение Whisper tiny от OpenAI, выполненное с помощью GRPO и комбинированной функции вознаграждения на основе ошибок слов и символов. Она предназначена для преобразования аудиозаписей в текст; обучение проводилось на данных Common Voice для 77 языковых локалей с фиксацией языка по локали записи. Для модели указаны итоговые значения WER 0,661 и CER 0,298 на валидационной выборке по 77 языкам. Модель использует архитектуру WhisperForConditionalGeneration и распространяется в формате safetensors через Transformers. Лицензия — MIT. Это proof of concept, а качество в реальных условиях зависит от языка, тематики, акцента и качества аудио.
thelou1s/yamnet — копия модели YAMNet, предназначенной для классификации звуковых событий по аудио. Репозиторий содержит модель в формате TFLite; в метаданных указаны связь с набором AudioSet и мультиязычная маркировка. Модель принимает аудио и выдаёт классы звуковых событий. Для этого репозитория указана лицензия Apache-2.0. README не содержит подробностей о размере модели, поддерживаемых классах и конкретных ограничениях применения.
african-speech-id — модель для определения языка африканской речи, разработанная авторами репозитория AfriSpeech. Она распознаёт речь с помощью облегчённой версии Omnilingual ASR, затем классифицирует полученный текст по одному из 1 386 языков. Классификатор — линейная модель по символьным n-граммам с TF-IDF, встроенным в граф ONNX; распознавание и классификация рассчитаны на работу на CPU, в том числе на телефонах и ноутбуках. Модель предназначена для автоматического определения языка в аудиозаписях, особенно для малоресурсных африканских языков. Для устойчивого результата рекомендуется подавать не менее пяти секунд речи, оптимально около десяти; тишина снижает полезную длительность фрагмента. На тестах для 104 языков модель показала суммарную точность 0,474, но результаты зависят от набора данных: на FLEURS для 17 распространённых языков MMS-LID работает лучше. Классификатор всегда выбирает один из известных ему языков, даже если речь относится к языку вне списка; для отсева сомнительных результатов авторы рекомендуют смотреть на разницу между двумя верхними оценками, а не на небольшие значения softmax. Диалекты отдельно не различаются. Обучающие записи — религиозная речь, поэтому точность на разговорных аудио может быть ниже. Независимо оценены только 104 из 1 386 языков. Репозиторий содержит ONNX-модель и распознаватель речи Meta Omnilingual ASR; заявлена лицензия Apache-2.0.
Это версия DistilBERT для классификации английских текстов, оптимизированная для ускорения на Apple Neural Engine (ANE). Модель основана на distilbert-base-uncased-finetuned-sst-2-english; исходный код взят из репозитория Apple ml-ane-transformers и немного изменён для использования с библиотекой Transformers. Доступны форматы PyTorch и Core ML, лицензия — Apache-2.0. Модель предназначена для классификации тональности коротких текстов на английском языке по двум категориям датасета SST-2. Для ускорения на ANE следует использовать Core ML пакет DistilBERT_fp16.mlpackage; PyTorch сам по себе не задействует ANE, поэтому запуск через него на CPU или GPU может быть медленнее исходной модели. Контекст — до 512 токенов.
Bangla Punctuation Restoration v2 — модель Манжары Хасин Аль Питома (HasinManjare) для восстановления знаков препинания в бенгальском тексте. Она дообучена на BanglaBERT — дискриминаторе ELECTRA для бенгальского языка — и присваивает токенам метки пунктуации; среди меток указаны отсутствие знака, запятая и бенгальская точка «।». Размер модели — 137,8 млн параметров, максимальный контекст — 512 токенов. Модель предназначена для пунктуации текста без знаков, в том числе расшифровок автоматического распознавания речи. README сообщает оценку macro F1 около 0,570 для пунктуации и 0,623 в целом на отложенной тестовой выборке; качество заметно различается между классами. Для производственного применения рекомендуется оценить её на данных, характерных для целевой системы распознавания речи. Модель распространяется под лицензией с меткой «other»; конкретные условия следует сверить на странице репозитория.
BERTurk — регистрозависимая модель BERT для турецкого языка, созданная командой цифровой библиотеки MDZ при Баварской государственной библиотеке совместно с сообществом турецкого NLP. Модель содержит 211,6 млн параметров и использует словарь размером 128 тыс. токенов; длина контекста — 512 токенов. Для предобучения использованы очищенный и сегментированный корпус Turkish OSCAR, Википедия, корпуса OPUS и специальный корпус Кемаля Офлазера; обучение проводилось на TPU v3-8 в течение 2 млн шагов. Модель предназначена как турецкий языковой энкодер для задач понимания текста и построения прикладных NLP-систем, включая разметку частей речи и распознавание именованных сущностей. Карточка приводит веса PyTorch, а метаданные также указывают форматы TensorFlow и Flax. Лицензия — MIT. Это базовая предобученная модель, поэтому для конкретных задач разметки может потребоваться дообучение.
orai-nlp/bert-medium-sw — компактная модель BERT среднего размера от Orai NLP Technologies, созданная совместно с HiTZ Center при Университете Страны Басков. Она предварительно обучена на подмножестве корпуса CC-100 на суахили объёмом 125 млн токенов для исследования масштабирования BERT в условиях ограниченных ресурсов. Модель имеет 8 слоёв, около 59,2 млн параметров по метаданным, словарь размером 50 000 токенов и контекст до 512 токенов. Модель предназначена для получения векторных представлений текста на суахили, которые можно использовать как основу для задач классификации тем и тональности, а также распознавания именованных сущностей. В опубликованных результатах bert-medium-sw уступает bert-base-sw на указанных тестах, но превосходит mBERT по оценкам тональности и тематической классификации. Доступна по лицензии CC BY 4.0.
Карточка модели google/bert_uncased_L-12_H-128_A-2 на Hugging Face совпадает с карточкой google/bert_uncased_L-2_H-128_A-2, поэтому описание составлено по ней. google/bert_uncased_L-2_H-128_A-2 — компактная англоязычная модель BERT Miniatures от Google, описанная в работе «Well-Read Students Learn Better: On the Importance of Pre-training Compact Models». Это BERT с 2 слоями и скрытым размером 128; модель содержит около 4,4 млн параметров и принимает последовательности длиной до 512 токенов. Она обучена без учёта регистра с маскированием WordPiece и предназначена для сред с ограниченными вычислительными ресурсами. Модель можно дообучать для задач понимания текста, таких как классификация и оценка сходства предложений. Авторы отмечают, что компактные модели особенно эффективны при дистилляции, когда метки для дообучения генерирует более крупная и точная модель-учитель. Доступны веса PyTorch, Flax и Safetensors. Модель рассчитана на английский язык. Её компактность снижает требования к вычислительным ресурсам, но качество может уступать более крупным моделям, а для прикладных задач обычно требуется дообучение или дистилляция. Лицензия — Apache-2.0.
Карточка модели google/bert_uncased_L-6_H-128_A-2 на Hugging Face совпадает с карточкой google/bert_uncased_L-2_H-128_A-2, поэтому описание составлено по ней. google/bert_uncased_L-2_H-128_A-2 — компактная англоязычная модель BERT Miniatures от Google, описанная в работе «Well-Read Students Learn Better: On the Importance of Pre-training Compact Models». Это BERT с 2 слоями и скрытым размером 128; модель содержит около 4,4 млн параметров и принимает последовательности длиной до 512 токенов. Она обучена без учёта регистра с маскированием WordPiece и предназначена для сред с ограниченными вычислительными ресурсами. Модель можно дообучать для задач понимания текста, таких как классификация и оценка сходства предложений. Авторы отмечают, что компактные модели особенно эффективны при дистилляции, когда метки для дообучения генерирует более крупная и точная модель-учитель. Доступны веса PyTorch, Flax и Safetensors. Модель рассчитана на английский язык. Её компактность снижает требования к вычислительным ресурсам, но качество может уступать более крупным моделям, а для прикладных задач обычно требуется дообучение или дистилляция. Лицензия — Apache-2.0.
AmberYifan/capsd-marin-8b-base-code_qurating_b16000_s0 — дообученная модель генерации текста на архитектуре Llama, созданная на основе marin-community/marin-8b-base. По названию обучающего набора модель ориентирована на код и ранжирование качества ответов, однако README не описывает её поведение и результаты подробно. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и формат safetensors; заявленная длина контекста — 4096 токенов. Она принимает текст и генерирует текст, поддерживает разговорный сценарий. Базовая модель описана как англоязычная, но языки и качество этой производной модели отдельно не подтверждены. Лицензия указана как other, поэтому условия использования следует сверить с карточкой модели и лицензией базовой модели.
JoseVilla/cfe-telmex-classification-finetuned-v2 — модель классификации изображений, разработанная JoseVilla и дообученная на основе JoseVilla/cfe-telmex-classification-finetuned-v1. Она построена на архитектуре Swin и содержит около 33 млн параметров. Модель предназначена для отнесения изображений к категориям; конкретные классы и целевые сценарии в карточке не описаны. На указанном наборе для оценки модель достигла accuracy 1,0 и loss 0,1568. Эти результаты относятся только к приведённому набору и не гарантируют такого же качества на других данных. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
CodeTrans — модель, разработанная Ahmed Elnaggar и Wei Ding для автоматического создания документации к функциям на Python. Она принимает исходный код функции и генерирует её текстовое описание; также её можно дообучать для других задач работы с кодом на Python. Модель основана на архитектуре T5-base, содержит 123,8 млн параметров и обучена на корпусе Python из CodeSearchNet в режиме одной задачи. Для токенизированных функций качество обычно выше, хотя модель может работать и с исходным нетокенизированным кодом. Указанная длина контекста — 512 токенов. В карточке приведены результаты оценки генерации документации по BLEU для нескольких языков программирования, но модель специально обучалась на Python. Лицензия в предоставленных данных не указана.
ConvNeXt Tiny — модель классификации изображений из библиотеки timm, разработанная Ross Wightman. Её предварительно обучили на ImageNet-12k, подмножестве ImageNet-22k с 11 821 классом, а затем дообучили на ImageNet-1k. Модель также можно использовать как основу для извлечения признаков и эмбеддингов изображений. Архитектура ConvNeXt содержит 28,6 млн параметров и требует 4,5 GMACs на изображение. Размер изображения при обучении — 224 × 224 пикселя, при тестировании — 288 × 288. Для загрузки доступны веса PyTorch и safetensors; модель предназначена для обработки изображений и выдаёт метки классов. Модель подходит для классификации изображений общего назначения и извлечения визуальных признаков. Её обучение и оценки в карточке связаны с ImageNet, поэтому качество на других предметных областях и распределениях данных может отличаться. Лицензия — Apache-2.0.
dapack-math — это англоязычная сборка Qwen3.5-35B-A3B от R3n3r0, настроенная и сжато представленная для математики и количественных рассуждений. Модель использует архитектуру mixture-of-experts: эксперты, выбранные для математической области, сохранены в точности q2_K, остальные — в IQ2_XXS. Файл GGUF занимает 10,7 ГБ; карточка сообщает о 35 млрд параметров базовой модели, но не приводит отдельный размер этой сборки. Модель предназначена для генерации ответов на математические задачи и количественных рассуждений на английском языке. В README также заявлены вызов инструментов и генерация кода. Приведённые там измерения для GSM8K, восьми проверок вызова инструментов и генерации кода являются результатами разработчика; методика описана лишь частично. Для запуска требуется специальная среда dapack: стандартные llama.cpp, Ollama и LM Studio этот формат не загружают. Карточка сообщает о деградации качества вне математической области, резком ухудшении перевода и провале сертификации на итальянском; маршрутизатор dapack направляет неанглоязычные запросы в другие сборки. Лицензия — MIT.
deepfake-detector-model-v1 — модель классификации изображений от prithivMLmods, дообученная на базе SigLIP для бинарного определения, является ли изображение реальным или синтетически созданным. Она использует архитектуру SiglipForImageClassification и рассчитана на проверку подлинности визуальных материалов, предварительную модерацию контента и поддержку цифровой экспертизы. В отчёте для тестовой выборки указана точность 94,44%; эта метрика сама по себе не гарантирует качество на новых источниках изображений и при иных способах генерации или манипуляции. Модель работает с изображениями и выдаёт метку класса. Лицензия репозитория — Apache-2.0.