II.8Инженерия данных и аналитика

UTC-DeBERTa-small — универсальный классификатор токенов от Knowledgator на базе DeBERTaV3-small. Модель дообучена на нескольких задачах разметки токенов и задачах, которые можно представить в таком виде; карточка описывает её как prompt-tuned. В репозитории указаны архитектура DeBERTa-v2, 155 млн параметров и контекст до 512 токенов. Модель предназначена для извлечения сущностей и другой информации из текста. Она поддерживает zero-shot распознавание именованных сущностей и может применяться к ответам на вопросы, извлечению отношений, разрешению кореференции, очистке и суммаризации текста. В бенчмарке CrossNER приведены результаты на нескольких предметных категориях, включая ИИ, литературу, музыку, политику и науку. Модель принимает английский текст и выдаёт разметку токенов. Для запуска рекомендуется Transformers pipeline `ner`. Доступна по лицензии Apache-2.0; результаты могут зависеть от формулировки запроса и типа текста.

WizardCoder-Python-7B-V1.0 — языковая модель для генерации кода на Python, опубликованная как реплика официального репозитория WizardCoder. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 16 384 токенов; для работы используется библиотека Transformers и формат PyTorch. Модель предназначена для генерации и дополнения кода по инструкциям на естественном языке, а также для решения задач программирования на Python. README приводит формат инструкционного запроса, но не содержит отдельных результатов именно для версии 7B. Карточка указывает, что реплика создана для воспроизведения результатов и исследований. Лицензия — Llama 2. Оценки из README относятся к другим размерам семейства WizardCoder и не позволяют судить о качестве этой версии; фактическая поддержка языков общения отдельно не описана.

Модель creemur/xlm-roberta-base-finetuned-panx-all — версия XLM-RoBERTa Base, дообученная для классификации токенов. Она предназначена для задач разметки последовательностей, в частности для распознавания именованных сущностей в тексте на разных языках с использованием набора PAN-X. Модель содержит 305,2 млн параметров, принимает текст и имеет контекст до 514 токенов. В карточке указаны результаты оценки: F1 0,8502 и loss 0,1701. Модель опубликована в формате safetensors и распространяется по лицензии MIT. README не уточняет состав обучающего набора и ограничения применения.

Davlan/xlm-roberta-base-ner-hrl — модель распознавания именованных сущностей, разработанная на основе XLM-RoBERTa base и дообученная для NER на текстах новостных статей на десяти языках. Она размечает токены как сущности типа «персона», «организация» или «место» и подходит для извлечения таких упоминаний из новостных текстов. Модель содержит 305,2 млн параметров, использует архитектуру XLM-RoBERTa для классификации токенов и принимает текст с контекстом до 514 токенов. Поддерживаются арабский, немецкий, английский, испанский, французский, итальянский, латышский, нидерландский, португальский и китайский языки. Распространяется по лицензии AFL-3.0. Обучение на размеченных новостях определённого периода может ограничивать переносимость на другие жанры и предметные области.

Davlan/xlm-roberta-base-wikiann-ner — многоязычная модель распознавания именованных сущностей, разработанная Davlan на основе XLM-RoBERTa и дообученная на датасете WikiANN. Модель содержит 305,2 млн параметров, принимает текст и классифицирует токены с контекстом до 514 токенов. Она предназначена для извлечения из текста имён людей (PER), организаций (ORG) и географических объектов (LOC) на 20 языках. Подходит, например, для разметки новостных статей и извлечения сущностей из многоязычных текстовых коллекций. Качество зависит от сходства текста с новостными данными WikiANN: результаты могут хуже переноситься на другие предметные области. Лицензия в предоставленных данных не указана.

AbdiSQL-1.0 — компактная инструкционная языковая модель для преобразования вопросов на естественном языке в исполняемые запросы SQLite с учётом переданной схемы базы данных. Её разработали как специализированную модель платформы ABDI на основе Qwen/Qwen2.5-Coder-1.5B-Instruct; это декодерный трансформер с 1,5 млрд параметров, дообученный методом QLoRA. Модель поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель предназначена для генерации SQL по схемам одной или нескольких таблиц, включая JOIN, группировки, сортировку, агрегаты и подзапросы. Она обучалась на примерах Spider и ориентирована на SQLite, в том числе для локальной аналитики и развёртывания на устройствах с ограниченными ресурсами. В описанной оценке на отложенной выборке из 150 запросов точность выполнения составила 54,67%, а корректность синтаксиса — 69,33%. Модель рассчитана на одношаговые запросы и не предназначена для автоматического перевода между диалектами SQL, изменения схемы, настройки индексов или интерактивного уточнения неоднозначных запросов. Сложные соединения и рекурсивные CTE могут требовать проверки. Сгенерированные запросы следует выполнять в режиме только для чтения. Лицензия — Apache-2.0.

MutazYoune/Arabic-NER-PII — модель на основе BERT, разработанная для выявления персональных данных в арабском тексте. Она дообучена на MutazYoune/ARAB_BERT для классификации токенов и предназначена для разметки фрагментов текста с адресами электронной почты, телефонными номерами, IP-адресами и структурированными идентификаторами. Модель содержит 136,3 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Модель создана для задач обнаружения и последующего удаления или маскирования PII в арабских текстах, в том числе в сценариях обработки пользовательских данных. В карточке указаны результаты участия в Maqsam Arabic PII Redaction Challenge: итоговый балл 0,5341, точное F1 0,024 и частичное F1 0,534. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Основные ограничения — низкое качество точного определения границ сущностей, ограниченное покрытие диалектов (обучение преимущественно на современном литературном арабском) и возможные ошибки при контекстно-зависимом распознавании PII.

Модель kamranibiyev/azNER-xlmr предназначена для распознавания именованных сущностей в азербайджанском тексте. Это XLM-RoBERTa base, дообученная на вручную исправленном корпусе azWikiNER из 16 740 фрагментов Википедии; модель использует архитектуру XLMRobertaForTokenClassification и различает 16 категорий, включая имена людей, организации, географические объекты, события, даты и время, суммы и названия произведений. Контекст ограничен 514 токенами. На тестовой выборке azWikiNER модель показала F1 81,77 для полного набора категорий и 82,81 для 15 общих категорий. Она подходит для извлечения сущностей из азербайджанских текстов, в том числе для обогащения документов и подготовки данных для поиска. Репозиторий содержит веса PyTorch; лицензия — MIT. Качество может быть ниже на жанрах, отличных от Википедии. Оценки для чисел и дат следует трактовать осторожно: эти категории размечались с использованием автоматизированного прохода OntoNotes и правил объединения. Длинные входы обрезаются по лимиту токенизатора; отдельной метки DATE нет, даты относятся к TIME.

CAMeL-Lab разработала CAMeLBERT MSA NER — модель распознавания именованных сущностей в арабском тексте на основе BERT, дообученную от CAMeLBERT для современного литературного арабского языка (MSA). Для дообучения использован датасет ANERcorp. Модель размечает сущности на уровне токенов; её можно применять через компонент NER в CAMeL Tools или через Transformers pipeline. Модель содержит 136,3 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch и TensorFlow. Она предназначена для текста на современном стандартном арабском языке. Лицензия — Apache-2.0. Результаты могут зависеть от соответствия текста MSA и характеристикам обучающего набора ANERcorp.

Модель kamalkraj/bert-base-cased-ner-conll2003 — дообученная версия BERT base cased для распознавания именованных сущностей. Она выполняет токенную классификацию, размечая текстовые фрагменты как сущности; модель дообучена на наборе CoNLL-2003. Модель содержит 135,5 млн параметров, использует архитектуру BERT и принимает последовательности длиной до 512 токенов. В README для оценочного набора CoNLL-2003 указаны F1 0,9482, точность 0,9438 и полнота 0,9525. Модель распространяется по лицензии Apache-2.0. Данные карточки не уточняют полный перечень распознаваемых типов сущностей и подробные ограничения применения.

Модель gyr66/bert-base-chinese-finetuned-ner — дообученная версия Danielwei0214/bert-base-chinese-finetuned-ner, разработанная для обнаружения приватных данных в китайском тексте. Она выполняет классификацию токенов на основе BERT и обучена на наборе gyr66/privacy_detection. Модель содержит 129,5 млн параметров, принимает последовательности длиной до 512 токенов и предназначена для извлечения и разметки фрагментов, содержащих чувствительную информацию. На оценочном наборе модель показала F1 0,6947, точность 0,6532 и полноту 0,7417. Эти результаты относятся к указанному набору данных и могут не переноситься на другие типы текста. Модель распространяется в формате PyTorch; сведения о лицензии в предоставленных источниках отсутствуют.

Модель learnrr/bert-base-ontonotes5-ner — англоязычная BERT-base-cased, дообученная на английской части набора OntoNotes 5.0 (CoNLL-2012) для распознавания именованных сущностей. Она размечает токены в тексте и распознаёт 18 типов сущностей, включая имена людей и организаций, географические названия, даты, суммы, события и произведения. Архитектура — BertForTokenClassification, размер — 135,5 млн параметров, формат весов — Safetensors, максимальная длина контекста — 512 токенов. Модель подходит для извлечения сущностей из англоязычных текстов и их последующей структуризации. В README приведены результаты на тестовой части OntoNotes 5.0, но показаны лишь отдельные классы, поэтому по карточке нельзя оценить качество на всех типах сущностей или на данных из других областей. Модель распространяется по лицензии MIT.

savasy/bert-base-turkish-ner-cased — модель на основе BERT, дообученная для распознавания именованных сущностей в турецком тексте. Автор описывает её как простую в использовании NER-модель на базе transfer learning; в README также приведены результаты оценки на двух наборах данных: F1 около 0,925 и 0,953 соответственно. Архитектура — BertForTokenClassification, размер — 137,8 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст и возвращает метки для токенов. Она предназначена для извлечения сущностей из турецких текстов. В README указана базовая модель dbmdz/bert-base-turkish-cased. Репозиторий содержит веса в форматах PyTorch, Safetensors и Flax. Лицензия в предоставленных данных не указана.

ivalpa/bert-finetuned-ner — дообученная модель на базе BAAI/bge-small-en-v1.5 для классификации токенов, вероятно, распознавания именованных сущностей. Модель построена на архитектуре BERT, содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты на оценочной выборке: precision 0,8969, recall 0,9265, F1 0,9114 и accuracy 0,9815. Датасет и набор меток не описаны, поэтому нельзя определить, какие именно сущности или другие классы размечает модель. Репозиторий распространяется по лицензии MIT.

Kuiyen/bert-finetuned-ner — модель Kuiyen для распознавания именованных сущностей. Она дообучена на базе BERT base cased на наборе CoNLL-2003 и использует архитектуру BertForTokenClassification. Модель принимает текст и присваивает метки отдельным токенам, выделяя сущности в последовательности; максимальная длина контекста составляет 512 токенов. В репозитории указано 135,5 млн параметров. На оценочном наборе CoNLL-2003 модель показала F1 0,94, точность 0,9313, полноту 0,9488 и accuracy 0,9862. Эти результаты относятся к указанному набору данных и не гарантируют такого же качества на других текстах и предметных областях. Лицензия — Apache-2.0.

Chronos-T5 Tiny — компактная предварительно обученная модель прогнозирования временных рядов, разработанная Amazon. Она основана на архитектуре T5; временные ряды масштабируются и квантуются в последовательности токенов, после чего модель авторегрессионно генерирует возможные будущие значения. Выборка нескольких траекторий позволяет получить вероятностный прогноз. Модель предназначена для прогнозирования временных рядов по историческим наблюдениям. Её обучали на общедоступных рядах и синтетических данных, созданных с помощью гауссовских процессов. В README для варианта Tiny указано 8 млн параметров и база t5-efficient-tiny; метаданные каталога указывают 4,7 млн параметров. Контекст составляет 512 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку chronos-forecasting. Лицензия — Apache 2.0.

CodeBooga-34B-v0.1 — языковая модель для генерации кода, созданная автором репозитория слиянием Phind-CodeLlama-34B-v2 и WizardCoder-Python-34B-V1.0 с помощью BlockMerge Gradient. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 33,5 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для ответов на инструкции и решения задач программирования, в частности на Python и JavaScript. Для работы используется шаблон Alpaca: запрос помещается после заголовка Instruction, ответ модели следует после Response. Автор приводит неформальную сравнительную оценку на небольшом наборе вопросов по Python и JavaScript; она указывает на хорошие результаты, но не является строгим бенчмарком. Модель распространяется в формате safetensors по лицензии Llama 2. В README также упомянуты сторонние квантизованные варианты GGUF, но они не являются форматом весов этого репозитория.

Code-Jamba-v0.1 — языковая модель для генерации кода, созданная автором ajibawa-2023 дообучением Jamba-v0.1 от AI21 Labs. Модель содержит 7,2 млрд параметров, использует архитектуру Jamba с Mixture of Experts и предназначена для диалогового взаимодействия в формате ChatML. Модель генерирует код на разных языках программирования, включая Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, R, Julia и Haskell, а также может объяснять логику решения. Обучение проводилось на наборах Code-290k-ShareGPT и Code-Feedback с применением QLoRA. Репозиторий содержит веса safetensors; лицензия — Apache-2.0. Карточка заявляет возможности генерации кода, но не приводит примеров результата и не даёт количественных оценок качества. Языки программирования не следует трактовать как поддержку естественных языков.

Модель EmTpro01 — дообученная версия CodeLlama-7b-hf для генерации кода по текстовым инструкциям. Она создана на базе архитектуры Llama и содержит 6,6 млрд параметров; при обучении использовались Unsloth и библиотека TRL. Для дообучения указан набор инструкций по Python-коду iamtarun/python_code_instructions_18k_alpaca. Модель принимает текст и генерирует текст, включая код; заявленный контекст — до 16 384 токенов. Модель подходит для генерации фрагментов кода Python по запросу и выполнения инструкций, связанных с программированием. В карточке указаны английский язык и лицензия Apache 2.0. Качество, точность и ограничения генерации в README не описаны; как и другие языковые модели, она может выдавать ошибочный или небезопасный код, который следует проверять.

alexandrainst/da-ner-base — модель на базе BERT, дообученная Институтом Александры на распознавание именованных сущностей в датских предложениях. Она присваивает токенам метки в формате BIO для персон, организаций, географических названий и прочих сущностей. Модель обучена на наборе данных DaNE и основана на датской предварительно обученной модели BERT от BotXO. Архитектура — BertForTokenClassification, размер — 137,8 млн параметров, длина контекста — до 512 токенов. Доступны веса PyTorch и TensorFlow. Модель подходит для извлечения сущностей из датских текстов, например для индексации документов и анализа новостей. Она рассчитана на датский язык и не предназначена для распознавания сущностей в других языках. Распространяется по лицензии Apache-2.0.

davanstrien/dataset-schema-task-classifier — модель классификации текста на базе двунаправленного энкодера LiquidAI/LFM2.5-Encoder-350M, дообученного для многометочной классификации схем датасетов. Она предсказывает категории задач, связанные с датасетом, например распознавание речи, генерацию текста, классификацию изображений, поиск и прогнозирование временных рядов; всего в карточке заявлено 35 меток. Модель содержит 444,6 млн параметров, использует архитектуру LFM2 и поддерживает контекст до 128 000 токенов. Модель предназначена для автоматической разметки описаний и схем датасетов категориями задач, в том числе как этап каталога или поиска данных. В README приведены значения F1: micro 0,5898 при пороге 0,5 и 0,6238 при настроенных порогах; для применения меток с приоритетом точности рекомендуется отбирать предсказания с высокой уверенностью и направлять остальные на проверку. Используется специальная голова классификации, поэтому для загрузки требуется trust_remote_code=True; README также отмечает ограничение стандартных архитектур для обслуживания через vLLM. Лицензия в предоставленных данных не указана.

DeepCode-7B-Aurora-v3 — объединённая модель для генерации текста, созданная ALBADDAWI с помощью LazyMergekit на основе DeepSeekMath-7B-Instruct, DeepSeekMath-7B-Base и DeepSeekMath-7B-RL. Это плотная авторегрессионная архитектура семейства Llama примерно на 6,5 млрд параметров; карточка указывает поддержку диалогового режима и контекст длиной 4096 токенов. Модель ориентирована на генерацию кода и математически направленные запросы.

ai4data разработала эту bi-encoder модель эмбеддингов для поиска по структурированным статистическим метаданным. Модель дообучена на DevDataBench на основе intfloat/multilingual-e5-small с перестановкой порядка полей и их исключением в обучающих примерах, чтобы сопоставлять смысл с названиями полей независимо от порядка сериализации. Использована функция потерь CGIST и guide-модель ai4data/devdata-search-multilingual-e5-small-cgist. Модель предназначена для семантического поиска и подбора запросов к описаниям статистических показателей и наборов метаданных. Это компонент для построения поиска, а не готовый размещённый поисковый сервис. При кодировании README рекомендует добавлять к запросам префикс «query: », а к документам — «passage: ». Архитектура — плотный BERT на базе multilingual-e5-small, библиотека Sentence Transformers; размер — 124,3 млн параметров, максимальная длина входа — 512 токенов. Модель создаёт текстовые эмбеддинги; базовая модель многоязычная, но конкретный перечень языков в карточке не приведён. Репозиторий распространяется по лицензии Apache-2.0.

Это модель классификации текста из проекта Adaptive Classifier, построенная на базе answerdotai/ModernBERT-base. Она относит текст к одному из двух классов качества: high_quality или poor_quality; в карточке указаны 10 обучающих примеров, поровну для каждого класса, и размерность эмбеддингов 768. Модель предназначена для оценки качества текстов и поддерживает непрерывное обучение с добавлением новых классов. Для каждого класса требуется не менее трёх примеров; максимум составляет 150 примеров на класс, а прототипы обновляются каждые 10 примеров. Модель распространяется в формате safetensors по лицензии Apache-2.0.

ranjanrajib/DPO-trained-Qwen2.5-Python-Coder-7B — модель генерации кода на Python, созданная дообучением Qwen/Qwen2.5-Coder-7B-Instruct методом Direct Preference Optimization (DPO) с адаптером LoRA. Она принимает текстовые инструкции и выдаёт код; архитектура — плотная Qwen2, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Репозиторий содержит веса safetensors, а лицензия — Apache-2.0. Модель предназначена для написания функций и реализаций на Python, решения задач программирования и генерации кода с заданными функциональными требованиями. Предпочтительные примеры для обучения выбирались по результатам запуска кода на тестах. В оценке на отложенных задачах BigCodeBench показатель Pass@1 составил 45,22% против 41,87% у базовой модели; это результат конкретного эксперимента и не гарантирует такого же улучшения на других задачах. Ограничения включают зависимость предпочтений от автоматических тестов, которые могут не охватывать все случаи, возможное влияние пересечения источника задач обучения и оценки, а также специализацию на Python: качество для других языков программирования не установлено. Перед применением на реальных задачах стоит проверить модель на собственных примерах.

Это сборка классификатора fastText LID-176 в формате GGUF от автора репозитория cstr. Она определяет язык короткого текста и предназначена, в частности, для распознавания языка транскрипции после ASR и использования в runtime crispasr. Модель охватывает 176 языков и возвращает ISO 639-1 код языка; для одного текста можно получить несколько наиболее вероятных вариантов. В основе — оригинальный fastText `lid.176.bin` от Facebook с классификацией через hierarchical softmax. Репозиторий содержит веса F16 размером около 63 МБ; конверсия в GGUF сохраняет пути и коды дерева Huffman. Сборка распространяется по лицензии CC-BY-SA-3.0. README сообщает, что на коротких входах из двух слов для маратхи и хинди возможна перестановка предсказаний; это ограничение исходной модели.

Fleet Llama Release — экспериментальная архитектура маршрутизации запросов по специалистам, разработанная Noumenon Labs на базе Meta Llama 3.2 3B Instruct. Модель содержит общий языковой backbone и обученный семантический маршрутизатор, который выбирает подходящий эксперт для каждого пользовательского хода; затем выбранный маршрут сохраняется на время генерации ответа. Среди маршрутов указаны Python, медицина, математика, вызов функций, SQL и базовая модель. Специалисты реализованы как лёгкие адаптеры или дельты весов. Модель предназначена для диалоговой генерации текста с выборочной специализацией по содержанию запроса. В карточке указаны 3,2 млрд параметров, контекст до 131 072 токенов, поддержка интерфейса вызова инструментов и формат safetensors. Для загрузки требуется пользовательский код модели Transformers с параметром trust_remote_code=True. Авторы называют релиз экспериментальным; производительность зависит от оборудования и конфигурации, а универсальное ускорение не заявлено. Лицензия — Llama 3.2 Community License. Основа — Meta Llama 3.2 3B Instruct; языки в карточке модели напрямую не перечислены.

G2PTL-1 — разработанная Cainiao AI модель Transformer для представления и понимания китайских адресов. Это плотный encoder-only чекпойнт на 144 млн параметров, предварительно обученный на большом корпусе китайских адресов с самоконтролем. В обучении использованы masked language modeling с whole word masking географических сущностей, моделирование иерархии административных уровней адреса и обучение связи текста адреса с географическими координатами. Контекст модели — до 2048 токенов. Модель предназначена для извлечения признаков адресного текста и использования в прикладных системах логистики и геоаналитики. Её можно применять для геокодирования, распознавания географических сущностей, сопоставления и оценки сходства адресов, классификации адресов, а также как основу для прогнозирования ETA, маршрутов доставки и объёма отправлений. Модель поддерживает только китайские адреса и не предназначена для генерации текста, например ответов на вопросы. Лицензия — Apache 2.0.

GEFS-language-detector — модель классификации текста для определения, написан ли текст на немецком, английском, французском или испанском языке. Её разработал Muhammad Imran Zaman; модель дообучена на наборе данных papluca/language-identification на базе xlm-roberta-base. Модель использует архитектуру XLM-RoBERTa для классификации последовательностей, содержит 305,2 млн параметров и принимает текст длиной до 514 токенов. На выходе она предсказывает код одного из четырёх поддерживаемых языков: de, en, fr или es. Автор сообщает о результате F1, близком к 100%, но не приводит подробностей методики оценки. Модель подходит для автоматической сортировки и маршрутизации текстов по языку. Распознавание ограничено четырьмя указанными языками, поэтому для других языков её предсказания могут быть ненадёжны. Лицензия — Apache-2.0.

Kukedlc/Gemma-2b-it-FT-Code — дообученная для программирования и анализа данных языковая модель на основе Gemma. В карточке указано, что для обучения использован датасет MagiCoder. Модель предназначена для генерации текста в диалоговом режиме и может применяться для помощи с программированием и задачами Data Science. Это плотная причинная архитектура GemmaForCausalLM на 2,5 млрд параметров с контекстом до 8192 токенов; репозиторий содержит веса в формате safetensors. Карточка не уточняет поддерживаемые языки и конкретные языки программирования. Модель распространяется по лицензии Apache-2.0. Данных о качестве на отдельных задачах или специальных ограничениях нет.