II.8Инженерия данных и аналитика

dmis-lab/biosyn-sapbert-ncbi-disease — модель извлечения признаков, разработанная лабораторией Data Mining and Information Systems Lab Корейского университета. Она предназначена для получения векторных представлений текста; заявленное прямое применение — извлечение признаков. В репозитории указана архитектура BERT с 136,7 млн параметров и контекстом до 512 токенов, веса представлены в формате PyTorch. README связывает модель с BERT и описывает предобучение BioBERT на англоязычных корпусах Wikipedia, BooksCorpus, PubMed и PMC. Название указывает на связь с SapBERT и NCBI Disease, однако доступные сведения не уточняют конкретное применение, данные дообучения или измеренные результаты. Лицензия в карточке не приведена. Векторы модели могут служить представлениями текста в NLP-системах, в том числе для последующего сравнения и поиска. README предупреждает о возможных стереотипных и вредоносных результатах, связанных с предвзятостью языковых моделей; результаты следует оценивать с учётом этих ограничений.

Brouhaha — аудиомодель сообщества pyannote для совместного определения активности речи, оценки отношения речи к шуму (SNR) и оценки акустического параметра C50, характеризующего помещение. Она предназначена для анализа аудиозаписей, в том числе оценки участков с речью и качества акустической среды. Модель использует формат PyTorch и работает в экосистеме pyannote.audio; в карточке указана лицензия OpenRAIL. Для установки README упоминает пакеты pyannote-audio и brouhaha-vad.

CamDistill-8B — модель понимания движения камеры в видео, созданная на базе Qwen/Qwen3-VL-8B-Instruct с помощью дистилляции геометрических знаний VGGT. Дополнительный модуль Camera Token формирует геометрически информативные токены камеры и передаёт их языковой модели. Модель принимает видео и выдаёт структурированный JSON с описанием каждого сегмента движения камеры. Она предназначена для анализа и временной разметки движений камеры; токены камеры генерируются внутри модели, поэтому для инференса не требуется подключение VGGT. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Для корректной работы нужны репозиторий CamDistill и его изменённый проход модели: загрузка через обычный класс Qwen3VLForConditionalGeneration пропускает дополнительные веса Camera Token Module и приводит к неправильным результатам.

NVIDIA Cosmos Reason 2 — дообученная мультимодальная модель с 32 млрд параметров для физических задач ИИ, робототехники и автономных систем. Она основана на Qwen/Qwen3-VL-32B-Instruct и принимает изображения и текстовые запросы, чтобы рассуждать о пространстве, времени, физике и происходящем в реальном мире. Модель поддерживает диалог, интерфейс вызова инструментов, локализацию объектов с координатами точек и рамок, а также объяснения и метки. Заявлена поддержка контекста до 256 тыс. входных токенов. Модель предназначена для анализа видео, отбора и аннотирования сенсорных данных, а также планирования действий воплощённых агентов, включая роботов и автономные автомобили. NVIDIA указывает, что модель готова к коммерческому использованию; лицензия в метаданных обозначена как other, поэтому перед внедрением следует проверить её условия. Поскольку выводы могут влиять на физические действия роботов, ошибки рассуждений и локализации могут привести к небезопасному поведению.

Koichi Yasuoka выпустил модель на базе DeBERTa V2, дообученную на текстах японской библиотеки Аозора Бунко для разметки частей речи и морфологических признаков. Модель обрабатывает японский текст и присваивает каждому длинному слову метки UPOS и FEATS из схемы Universal Dependencies. В метаданных указаны 137,8 млн параметров, контекст до 512 токенов и формат PyTorch. Модель предназначена для токенной разметки японских текстов и может использоваться в лингвистическом анализе и подготовке данных для дальнейшей обработки. В README также указана задача синтаксического анализа зависимостей, однако в метаданных основной pipeline-тег — token-classification. Лицензия — CC BY-SA 4.0.

Это модель классификации текста на базе DistilBERT, дообученная leomaurodesenv на неизвестном наборе данных. Она предназначена для присвоения меток текстовым последовательностям; карточка сообщает точность 0,9453 и значение loss 0,1704 на оценочном наборе, однако назначение меток и подробности оценки не раскрыты. Модель использует архитектуру DistilBertForSequenceClassification, принимает текст, работает с контекстом до 512 токенов и сохранена в формате safetensors. Модель унаследовала англоязычную основу distilbert/distilbert-base-uncased. Она может быть полезна для классификации на данных, близких к обучающим, но из-за отсутствия сведений о датасете, классах и методике оценки нельзя оценить переносимость результатов на другие задачи. Лицензия — Apache-2.0.

Finance2_embedding_small_en-V1.5 — англоязычная модель Sentence Transformer, дообученная baconnier на BAAI/bge-small-en-v1.5 на финансовом наборе данных baconnier/finance_dataset_small_private. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерностью 384 для семантического поиска и сравнения текстов. Модель основана на BERT, использует CLS-пулинг и нормализацию векторов; максимальная длина входа — 512 токенов, сходство можно оценивать косинусной мерой. Модель подходит для поиска финансовых фрагментов по смыслу, сопоставления близких по содержанию предложений, кластеризации и извлечения признаков для классификации текста. В README приведены результаты оценки на triplet-наборе, однако они сами по себе не подтверждают качество на иных данных или задачах. Обучающие данные и примеры ограничены финансовым доменом и английским языком. Лицензия в предоставленных данных не указана.

Модель lucaordronneau/finbert-finetuned-FG-SINGLE_SENTENCE-NEWS — дообученная версия ProsusAI/finbert для классификации отдельных предложений из новостных текстов. Она основана на архитектуре BERT и имеет около 136,7 млн параметров; максимальная длина входа — 512 токенов. В README приведены результаты оценки: accuracy 0,6414 и F1 0,6295, но классы и набор данных не описаны. Модель распространяется в формате PyTorch. Условия лицензии в доступных данных не приведены.

FinSentenceBERT — модель sentence-transformers, разработанная авторами работы Yang, Yang и Mai о семантическом сходстве финансовых текстов. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения смысловой близости, семантического поиска и кластеризации. Модель основана на stsb-mpnet-base-v2 и дополнительно настроена с помощью активного обучения для повышения качества на задаче семантического сходства финансовых текстов. Модель использует архитектуру MPNet, содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Она предназначена прежде всего для англоязычных финансовых текстов. Лицензия — MIT. В README не приведены результаты численных бенчмарков; качество на текстах вне финансовой области отдельно не подтверждено.

MahmoodAnaam разработал flaird-modernbert-large-attention-multitask-frozen — дообученную модель классификации последовательностей на базе архитектуры FlairdForSequenceClassification. Она предназначена для отнесения текстового ввода к классам. В README приведены результаты оценки: ROC-AUC 0,992, F1 0,974 и другие метрики, однако описание набора данных и методики оценки отсутствует. Модель распространяется в формате safetensors и использует библиотеку Transformers. Базовая модель, поддерживаемые языки, конкретные классы и условия лицензии в доступных сведениях не определены. README также не раскрывает целевые сценарии и ограничения применения.

HiNER-collapsed-muril-base-cased — модель классификации токенов на базе архитектуры BERT, обученная с нуля на наборе данных cfilt/HiNER-collapsed. Она предназначена для присвоения меток отдельным токенам, однако карточка не описывает набор меток и конкретные сценарии разметки. Модель содержит 264,8 млн параметров, принимает последовательности длиной до 512 токенов и опубликована в формате PyTorch. По названию можно предположить связь с MuRIL и обработкой индийских языков, но README и метаданные не подтверждают, что именно это за языки или назначение разметки. Лицензия в предоставленных сведениях не указана.

Improved-CAMEL-attempt2 — модель классификации арабского текста, дообученная Anwaarma на базе CAMeL-Lab/bert-base-arabic-camelbert-da. Она использует архитектуру BERT и содержит 136,3 млн параметров; контекст ограничен 512 токенами. Модель предназначена для задач классификации последовательностей на арабском языке. В карточке приведены результаты оценки: accuracy 0,86 и loss 0,7469. Датасет, набор классов и конкретная область применения не описаны, поэтому эти результаты не позволяют судить о качестве на других данных. Модель опубликована под лицензией Apache-2.0.

intanm/indonesian_financial_sentiment_analysis — модель классификации текста на основе BERT, дообученная на базе indobenchmark/indobert-base-p1 для анализа тональности финансовых текстов на индонезийском языке. Репозиторий использует PyTorch; размер модели — 151,6 млн параметров, максимальный контекст — 512 токенов. README сообщает точность 0,9560 и loss 0,1788 на оценочном наборе, но не описывает сам набор данных и метки классов. Модель предназначена для определения тональности финансовых текстов, например новостей или сообщений о рынке. Распространяется по лицензии MIT. Карточка не уточняет, какие именно классы тональности поддерживаются и на каких типах финансовых текстов проводилась оценка.

Koda-0.5B — дообученная модель pooraddyy на базе Qwen2.5-Coder-0.5B-Instruct от команды Qwen (Alibaba Cloud). Она предназначена для генерации коротких фрагментов Python-кода по инструкциям на естественном языке и диалоговых сценариев. Модель имеет плотную архитектуру Qwen2ForCausalLM на 494 млн параметров, принимает текст, выдаёт текст и поддерживает контекст до 32 768 токенов. Веса LoRA объединены с базовой моделью, поэтому модель загружается напрямую через Transformers без PEFT. Модель ориентирована на простые функции и сниппеты Python, а также подходит для обучения и экспериментов с дообучением небольших моделей. В README приведены значения финальных train loss 0,78 и eval loss 0,82. Модель обучалась на коротких инструкциях по Python; она может генерировать ошибочный или небезопасный код, хуже подходит для длинных программ, других языков программирования и сложных рассуждений. Лицензия — Apache-2.0; сгенерированный код следует проверять перед запуском.

LittleInstructionJudge-4B-v0.1 — компактная языковая модель, созданная trollek дообучением h2oai/h2o-danube3-4b-base с помощью BAdam. Она предназначена для оценки инструкций в роли LLM-судьи, в частности для предварительной фильтрации низкокачественных инструкций при создании наборов данных методом Magpie в условиях ограниченных аппаратных ресурсов. По заданному шаблону модель формирует JSON-оценку с полями intent, knowledge, task_category, other_task_category, difficulty, quality_explanation и instruct_reward. Модель имеет плотную архитектуру семейства Llama, около 3,8 млрд параметров и контекст до 8192 токенов. Карточка ориентирована на английские инструкции; опубликована в формате safetensors и имеет лицензию Apache-2.0. Автор предупреждает, что значение instruct_reward некорректно из-за ошибки при обучении, а остальные оценки могут быть мало полезны; по его оценке, другие модели с подходящим промптом могут справляться лучше. Также отмечена проблема загрузки модели в LM Studio, тогда как Ollama запускает её без этой проблемы.

LittleInstructionMaker-4B-v0.1 — англоязычная языковая модель, созданная trollek на базе h2oai/h2o-danube3-4b-base. Модель дообучена и объединена с другими обученными вариантами: в описании указаны Model Stock и LoRA+ с обучением на промптах. Она содержит 3,8 млрд параметров, использует плотную архитектуру семейства Llama и поддерживает контекст до 8192 токенов. Модель предназначена для генерации пользовательских инструкций и промптов по системному сообщению, задающему роль или тематику. Полученные инструкции можно отбирать другой моделью и использовать для подготовки нишевых наборов данных для последующего обучения. Для работы требуется системное сообщение; модель также может завершать EOS-токеном заготовку пользовательского промпта. Доступна по лицензии Apache-2.0.

SeanD103/Longformer_for_financial_sentiment_analysis — модель Longformer, дообученная на наборе Financial PhraseBank для определения тональности финансовых текстов. Она относит текст к положительной, нейтральной или отрицательной тональности и предназначена для анализа финансовых новостей, отчетов о доходах и финансовой отчетности. Модель имеет архитектуру LongformerForSequenceClassification и содержит 151,8 млн параметров. Контекст составляет до 4098 токенов, что позволяет классифицировать более длинные фрагменты финансового текста. Для обучения использован Financial PhraseBank из 4840 предложений финансовых новостей. Модель распространяется в формате safetensors по лицензии MIT. Модель ориентирована на англоязычные финансовые формулировки из обучающего набора. Результаты на иных языках, типах документов или распределениях данных не описаны; для критичных решений классификацию следует проверять отдельно.

DeepNeural/medical-ner — англоязычная модель распознавания именованных сущностей в медицинских текстах, разработанная DeepNeural на основе bert-base-uncased. Она дообучена на наборе medical-ner-bleurt-separated и предназначена для выделения названий частей тела в клинических документах и электронных медицинских записях. Модель использует архитектуру BERT для классификации токенов, содержит 136,7 млн параметров и принимает текст с контекстом до 512 токенов. В карточке приведены результаты оценки: F1 1,0 и loss 0,0; они не гарантируют такое же качество на других данных. Модель может служить основой для разработки систем извлечения медицинских сущностей и поддержки обработки клинической информации. Для надёжного применения результаты следует проверять на целевых данных и в клиническом процессе. Лицензия — Apache-2.0.

mHuBERT-147 — компактная многоязычная модель извлечения речевых признаков, разработанная в рамках европейского проекта UTTER. Это вторая итерация модели на архитектуре HuBERT base: в README указано 95 млн параметров, а метаданные репозитория сообщают 113,3 млн. Модель обучена на 90 тысячах часов открытых данных для 147 языков с использованием дискретных речевых единиц, полученных с помощью faiss IVF. В репозитории представлены исходный чекпойнт Fairseq, конвертированный чекпойнт для Hugging Face Transformers и индекс Faiss. Модель предназначена для извлечения представлений из речи и может служить основой для последующих речевых систем, включая распознавание речи и определение языка. В README сообщается о высоких результатах на лидербордах ML-SUPERB, в том числе о сильных результатах для задач определения языка. Поддержка охватывает 147 языков; в метаданных перечислены лишь часть языковых кодов. Лицензия — CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных материалов на тех же условиях и ограничивает коммерческое использование.

Это модель распознавания симптомов в итальянских клинических текстах, разработанная командой NLP4BIA Барселонского суперкомпьютерного центра для задачи MultiClinNER в рамках MultiClinAI. Модель основана на BERT для итальянского языка с сохранением регистра и дообучена для token classification: она помечает упоминания симптомов тегами BIO — B-SYMPTOM и I-SYMPTOM — и остальные токены тегом O. Модель содержит 137,1 млн параметров, принимает текст и имеет контекстное окно 512 токенов. Для длинных документов авторы рекомендуют обработку с шагом stride=128. Чтобы воспроизводить опубликованные результаты и точнее определять границы сущностей, при инференсе следует использовать ту же предварительную токенизацию, что и при обучении; обычная токенизация может менять предсказания около знаков препинания. На тестовом наборе MultiClinNER модель получила строгий F1 0,5758 и символьный F1 0,7292. Оценка систематических смещений не проводилась. Лицензия — CC BY 4.0.

Модель распознавания именованных сущностей в испанских клинических текстах онкологической тематики, созданная Jhusef Alfonso López Parra. Она дообучена для токенной классификации на базе BETO — испаноязычной модели BERT — и выделяет сущности по схеме BIO с 30 метками. Модель предназначена для извлечения онкологических понятий и других размеченных клинических сущностей из медицинских записей на испанском языке. Архитектура — BertForTokenClassification, размер — 137,1 млн параметров, максимальный контекст — 512 токенов. В README приведены показатели на валидации: F1 0,9463, точность 0,9381 и полнота 0,9546. Модель выпущена под лицензией Apache-2.0. Это академический инструмент: результаты могут содержать клинические ошибки и отражать смещения обучающего корпуса, поэтому модель не заменяет оценку медицинского специалиста.

NeuCodec — разработанный Neuphonic нейронный аудиокодек для токенизации и сжатия речи. Он предназначен для подготовки аудиоданных и обучения высококачественных моделей синтеза речи и SpeechLM, в том числе на устройствах с ограниченными ресурсами. Кодек использует конечное скалярное квантование (FSQ) с одной кодовой книгой и формирует 50 токенов в секунду при 16 битах на токен, обеспечивая битрейт 0,8 кбит/с. Он принимает аудио с частотой 16 кГц и декодирует его с повышением частоты до 24 кГц; FSQ также рассчитан на устойчивость к ошибкам передачи. В README заявлено, что потери при реконструкции речи почти неслышны. Модель в значительной степени основана на X-Codec2.0. Для обучения и проверки в метаданных перечислены многоязычные речевые датасеты, однако конкретный перечень поддерживаемых языков не подтверждён. Лицензия Apache-2.0 разрешает коммерческое использование. Кодек специализируется на речи; качество реконструкции и пригодность для других типов аудио в предоставленных материалах подробно не оценены.

Parrot Fluency Model — вспомогательная модель фреймворка Parrot, разработанного для расширения обучающих данных NLU с помощью перефразирования. Она классифицирует текст и предназначена для оценки беглости вариантов высказываний в процессе отбора перефразировок. Модель построена на архитектуре BERT для классификации последовательностей, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель распространяется по лицензии Apache-2.0. Карточка описывает её как компонент более широкой системы Parrot, а не как самостоятельную модель для генерации перефразировок; генерацию выполняет отдельная модель Parrot на основе T5.

NurzatS/Product_Image_Classification — классификатор изображений товаров на архитектуре Vision Transformer (ViT), разработанный NurzatS и дообученный на базе google/vit-base-patch16-224-in21k. Модель распознаёт пять категорий: наушники, ноутбуки, смартфоны, телевизоры и часы. Она обучена на изображениях узбекских маркетплейсов asaxiy.uz, texnomart.uz и olcha.uz. Модель принимает цветное RGB-изображение размером 224×224 пикселя и выдаёт категорию товара. В README приведена оценка на тестовой выборке из 163 изображений; для нескольких классов указаны высокие значения F1, но выборка невелика. Вес модели — 113,2 млн параметров, файлы опубликованы в формате safetensors. Лицензия MIT.

hfl/rbt4 — китайская предварительно обученная модель BERT с маскированием целых слов (Whole Word Masking), опубликованная HFL. Она предназначена для ускорения обработки китайского естественного языка и предсказания замаскированных токенов в тексте. Модель имеет архитектуру BertForMaskedLM, содержит 54 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит как основа для задач обработки китайского языка, где требуется восстановить пропущенные слова или адаптировать предобученный BERT под прикладную задачу. Доступны версии в форматах PyTorch, TensorFlow и Flax. Лицензия — Apache-2.0.

RT-PluRel — чекпойнт Relational Transformer, опубликованный командой Stanford STAR. Модель предварительно обучена только на синтетических базах данных PluRel и предназначена для классификации табличных данных с учётом связей между таблицами и записей. В карточке сообщается, что модель заняла первое место в объединённом рейтинге RelArena-alpha на момент подачи результатов. Модель содержит 85 млн параметров, 12 блоков, размерность модели 512, 8 голов внимания и размерность FFN 2048. Текстовые столбцы встраиваются с помощью all-MiniLM-L12-v2; веса доступны в формате safetensors. README указывает, что rt-j использует ту же архитектуру и структуру файлов, но является более сильной моделью, поскольку дополнительно обучен с использованием RT-PluRel как начальной точки. Модель применима к задачам классификации реляционных и табличных данных, в том числе в сценариях обучения в контексте. Лицензия — Apache-2.0. Обучение только на синтетических базах PluRel может ограничивать перенос на реальные данные; README также отмечает, что существует более сильная модель rt-j.

Sentence-ALDi — модель на основе BERT, разработанная для оценки степени диалектности арабского текста. Она дообучена на базе MarBERT и использует регрессионную голову для предсказания уровня диалектности. Модель предназначена для анализа отдельных текстов; заявленная языковая поддержка — арабский. Модель решает задачу классификации текста по тегу Hugging Face, хотя её выход описан как регрессионная оценка. Параметры модели составляют 190 млн, максимальная длина контекста — 512 токенов. Для обучения использован датасет AOC-ALDi; файлы представлены в формате PyTorch. Лицензия в предоставленных данных не указана.

SERENE — модель классификации аудио, созданная дообучением facebook/wav2vec2-base на наборе данных mali111222333/SERENE_DATA. Она использует архитектуру Wav2Vec2ForSequenceClassification и содержит 113,3 млн параметров. На указанной в карточке оценочной выборке модель достигла accuracy 0,8262 и loss 0,5125. Подходит для классификации аудиозаписей в задачах, соответствующих меткам обучающего набора; состав меток и конкретное целевое применение в карточке не раскрыты. Модель принимает аудио и выдаёт классы. В репозитории используются веса Safetensors, библиотека Transformers; лицензия — Apache-2.0. Язык данных и длина контекста не приведены, поэтому их нельзя определить по карточке.

SLIP (Sensor Language-Informed Pretraining) — мультимодальная модель и метод предварительного обучения Dartmouth College для получения переносимых представлений данных с датчиков, согласованных с языком. В этом репозитории размещён вариант на основе Gemma-3-270M; модель дообучена на парах сигналов датчиков и текстовых описаний. Модель обрабатывает многомерные временные ряды с разными временными разрешениями и переменной длиной. Архитектура включает сенсорный энкодер с FlexMLP и 2D RoPE, текстовый энкодер и мультимодальный декодер. Контрастивное выравнивание сигналов и текста поддерживает извлечение признаков, а декодер позволяет генерировать текст по сигналам. Общий размер — около 220 млн параметров, из них 67 млн обучаемых; опубликованы также специализированные SFT-чекпойнты для распознавания активности и вопросов о сне. SLIP предназначена для переноса между разными сенсорными установками и задачами, включая распознавание активности, анализ сна и медицинских сигналов, а также описание и ответы на вопросы по временным рядам. В карточке приведены результаты на наборах оценки из областей активности, клинических данных и стресса. Лицензия — MIT. Заявленные метрики относятся к указанным наборам и не гарантируют качество на новых датчиках или прикладных сценариях.

nteku1/stage1 — дообученная на базе openai-community/gpt2 модель для классификации текста. Архитектура — GPT-2 с головой классификации последовательностей; файлы весов представлены в формате safetensors. Модель рассчитана на входные тексты и выдаёт классы. Карточка не описывает назначение классов, обучающие данные или результаты оценки, поэтому применимость для конкретной тематики и качество классификации установить нельзя. Модель опубликована под лицензией MIT; контекстное окно — 1024 токена.