I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельboltuix/bert-pro — англоязычная модель BoltUIX на архитектуре BERT, дообученная на основе google/bert-base-uncased. Это трансформер с 136,7 млн параметров и контекстом до 512 токенов; для предобучения использовались BookCorpus и Wikipedia, а карточка сообщает об оценке на задачах GLUE. Модель поддерживает заполнение маски: предсказывает пропущенные слова в тексте. Модель предназначена для дальнейшей настройки под классификацию последовательностей и токенов, анализ тональности, распознавание сущностей, ответы на вопросы и вывод на естественном языке. Она принимает текст и выдаёт предсказания для маскированных токенов; генерация произвольного текста не является её назначением. Английская чувствительность к регистру отключена, используется WordPiece-токенизация. В метаданных указана лицензия MIT. Карточка предупреждает о возможных предубеждениях в данных BookCorpus и Wikipedia и о значительных требованиях к ресурсам; для ограниченных устройств рекомендуется рассмотреть сжатие модели.
BioLORD-2023-S — модель представления текста, разработанная FremyCompany для получения семантических эмбеддингов клинических предложений и биомедицинских понятий. Она основана на sentence-transformers/all-mpnet-base-v2 и дообучена на BioLORD-Dataset и определениях из Automatic Glossary of Clinical Terminology. Архитектура — MPNet, размер — 136,7 млн параметров; модель обрабатывает текстовые фразы, предложения и абзацы и выдаёт плотные векторы размерности 768. Максимальная длина контекста — 514 токенов. Модель предназначена для сравнения сходства медицинских текстов и понятий, семантического поиска и кластеризации. Определения и описания из биомедицинского графа знаний помогают связывать представления понятий с их смыслом и иерархическими отношениями в онтологиях. В README заявлены высокие результаты на MedSTS и EHR-Rel-B; эмбеддинги медицинских текстов и терминов совместимы в общем пространстве. Поддерживаемый язык карточки — английский. Модель опубликована в формате PyTorch. В метаданных указана лицензия «other», но её конкретные условия в предоставленных данных не раскрыты; перед использованием следует проверить лицензию на странице модели.
Модель British Library Books Genre Detector разработана Британской библиотекой и дообучена на базе distilbert-base-cased. Она классифицирует название книги как fiction или non-fiction, помогая распределять записи о книгах по этим двум широким категориям. Модель создана для коллекции оцифрованных печатных книг Британской библиотеки XVIII–XIX веков и может применяться для первичной разметки похожих библиотечных каталогов. Модель принимает текст названия книги и выдаёт класс. Она обучалась преимущественно на англоязычных названиях; в данных также были другие языки, включая русский, но значительно реже. Контекст составляет 512 токенов. Лицензия — MIT. Качество может снижаться на современных названиях и каталогах с другими правилами описания. Обучающая выборка смещена к поздним годам, а часть меток была получена автоматически, поэтому предсказания следует считать грубой жанровой оценкой.
Карточка модели introvoyz041/ChemicalOCR на Hugging Face совпадает с карточкой docling-project/ChemicalOCR, поэтому описание составлено по ней. ChemicalOCR — компактная модель компьютерного зрения и языка от Docling Project, дообученная на базе SmolDocling для распознавания текста на изображениях химических структур. Она принимает изображение молекулярного рисунка и извлекает текстовые фрагменты с ограничивающими рамками, распознавая подписи атомов, химические сокращения и пояснительный текст рядом со структурой. Модель основана на архитектуре Idefics3ForConditionalGeneration и содержит 256 млн параметров. ChemicalOCR предназначена для OCR химических схем, в том числе для извлечения текста и координат его расположения из патентных документов. В README приведены результаты на наборах M2S, USPTO-M и IP5-M, где модель показала F1 от 86,5 до 93,0 при IoU 0,5. Она также может использоваться как компонент конвейера MarkushGrapher-2 для распознавания химических структур. Лицензия — Apache-2.0.
seeledu/Chinese-Llama-2-7B — плотная модель семейства Llama с 6,6 млрд параметров, дообученная на китайском наборе инструкций на основе llama2-7B-HF. В карточке Hugging Face для неё указана задача извлечения признаков; модель доступна в формате PyTorch и имеет контекстное окно до 4096 токенов. Модель предназначена для извлечения векторных представлений текста. Дообучение на китайских инструкциях указывает на ориентацию на китайский язык, однако README не описывает конкретные сценарии применения, результаты оценки или ограничения. Лицензия в предоставленных данных не указана.
Модель Zainab Binte Khalid из Code Saviours (SI-26) — дообученная версия XLM-RoBERTa Base для определения языка каждого токена в предложениях на романизированном урду и английском с переключением языков. Архитектура — XLMRobertaForTokenClassification, около 305,2 млн параметров; контекст — до 514 токенов. Для каждого слова модель предсказывает один из классов: урду (URD), английский (ENG) или гибридное слово (MIX). Модель предназначена для языковой разметки неформальных сообщений и комментариев, а также для подготовки текста к последующему анализу тональности, переводу и проверке орфографии. В оценке на тестовой выборке F1 составил 0,967 для URD и 0,947 для ENG; класс MIX практически не освоен: в обучающих данных было только 2 таких токена из 21 368. Обучение проводилось на 1 901 вручную размеченном предложении из WhatsApp-сообщений и комментариев. Модель может хуже работать с формальными или специализированными текстами и вариантами написания, отсутствовавшими в обучающей выборке; стандартизированной орфографии романизированного урду нет. Репозиторий распространяется по лицензии CC BY 4.0.
ai4data/devdata-search-harrier-270m-nopermute-cmnrl — биэнкодерная модель для создания текстовых эмбеддингов, разработанная как часть семейства DevData Search. Она дообучена на DevDataBench на базе microsoft/harrier-oss-v1-270m для поиска по структурированным статистическим метаданным: модель кодирует запросы и описания данных в векторы, которые можно использовать для извлечения релевантных записей. Это модель эмбеддингов, а не готовый поисковый сервис. Модель построена на архитектуре Gemma3TextModel, содержит 257 млн параметров и принимает текстовые входы. В карточке указана длина контекста 512 токенов; метаданные каталога сообщают о native context в 32768 токенов, поэтому фактический предел может зависеть от конфигурации и способа запуска. Модель поддерживает задачи feature extraction и sentence similarity; лицензия — Apache-2.0.
ai4data/devdata-search-multilingual-e5-small-cmnrl — компактная модель эмбеддингов с архитектурой BERT, разработанная ai4data для семантического поиска по структурированным статистическим метаданным. Это дообученная версия intfloat/multilingual-e5-small, обученная на DevDataBench с функцией потерь cmnrl и перестановкой полей и их пропуском при сериализации, чтобы представление данных меньше зависело от порядка полей. Модель кодирует запросы и записи отдельно; при использовании Sentence Transformers для запросов применяется префикс «query: », а для документов — «passage: ». Она предназначена для поиска и сопоставления записей, а не является готовым поисковым сервисом. Модель содержит 124,3 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные эмбеддинги для извлечения признаков и оценки сходства предложений. Базовая модель многоязычная, поэтому подходит для семантического поиска на разных языках; конкретный перечень языков в предоставленных данных не задан. Репозиторий использует формат safetensors и библиотеку Sentence Transformers. Лицензия — Apache-2.0.
Distil Labs разработала Distil-Qwen3-4B-Text2SQL — дообученную модель Qwen3-4B для преобразования вопросов на естественном языке в SQL-запросы. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и рассчитана на контекст до 262 144 токенов. В README описано обучение с дистилляцией на синтетических данных, созданных с помощью DeepSeek-V3; для запуска доступны веса в формате Safetensors и варианты GGUF, включая 4-битную квантизацию. Модель подходит для создания интерфейсов к базам данных на естественном языке, помощи в написании SQL, разговорной аналитики и обучения SQL. Она генерирует один запрос с синтаксисом SQLite, поддерживая типичные операции выборки, агрегаты, соединения, группировки и подзапросы. README сообщает о результатах оценивания, но они зависят от использованного набора данных и методики проверки. Модель обучалась только на англоязычных вопросах; лучше всего работает со схемами из одной-двух таблиц и может испытывать трудности со сложными вложенными подзапросами. Распространяется по лицензии Apache-2.0.
Dukaan Saathi Receipt Parser — дообученная на базе Llama-3.2-3B-Instruct модель, созданная для разбора чеков и накладных в индийских магазинах kirana; она входит в демонстрационный проект помощника по учёту запасов Dukaan Saathi. Модель принимает распознанный OCR-текст поставщицких документов и формирует структурированный JSON со строками товаров, количеством, ценами и сведениями о поставщике. Она рассчитана на шумный текст из рукописных счетов, печатных налоговых накладных и неформальных записей. Обучение ориентировано на единообразие формата: использованы 28 примеров, из них 6 составлены вручную по реальным форматам kirana, а 22 синтетических примера добавлены для редких случаев. В метаданных указаны архитектура LlamaForCausalLM, 3,2 млрд параметров, контекст до 131 072 токенов, английский и телугу, формат safetensors и лицензия MIT. Малый объём обучения ограничивает обобщение: модель склонна переобучаться на знакомые шаблоны чеков и не предназначена для универсального разбора чеков. Перед записью любых изменений в учёт запасов требуется подтверждение владельца.
Eagle-X2-Llama3-8B-ConsecutiveTableReadout-Mix-160k — визуально-языковая модель семейства Eagle, разработанная на основе adapter-based структуры LLaVA и Eagle. Она дообучена на базе meta-llama/Meta-Llama-3-8B-Instruct и использует визуальные энкодеры CLIP-448 на основе CLIP-336 и ConvNeXt. Модель предназначена для диалоговой работы с изображениями и генерации текста по визуальному содержимому. Название указывает на чтение таблиц, однако README не описывает конкретные сценарии или результаты этой специализации. Архитектура — EagleLlamaForCausalLM; размер составляет 7,5 млрд параметров, контекст — 8192 токена. Метаданные задают основную задачу как image-text-to-text, а также отмечают поддержку text-generation. Для использования доступны веса в формате safetensors через Transformers. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование. Качество на чтении таблиц и поддерживаемые языки в предоставленных данных не описаны.
thivy/embeddinggemma-300m-norwegian-health-granite-ds-v1 — модель Sentence Transformers на основе google/embeddinggemma-300m, дообученная на наборе eti-embedding-training-data-2048-gemma-v3. Она преобразует предложения и абзацы в плотные эмбеддинги размерностью 768 для сравнения по косинусному сходству; максимальная длина входа — 2048 токенов. Модель предназначена для семантического поиска и сопоставления текстов, включая поиск похожих фрагментов, выявление перефразировок, классификацию и кластеризацию. В README приведены результаты оценки на тестовых наборах для triplet-сопоставления и информационного поиска. Название модели и примеры данных указывают на норвежский медицинский контекст, однако карточка не описывает медицинскую точность или клиническую пригодность; применять её следует как текстовый энкодер, а результаты проверять для конкретного корпуса. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.
Fara1.5-9B-GGUF — это набор GGUF-квантизированных версий мультимодальной модели Fara1.5-9B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для сценариев computer use: управления браузером и интерфейсами, автоматизации веб-задач, работы веб-агентов и других задач, требующих понимания изображений и текста. Модель содержит около 9 миллиардов параметров, относится к классу vision-language и поддерживает обработку изображений и текста. В карточке указано, что основной язык — английский. Доступны варианты от BF16 до различных уровней квантизации, включая Q8_0, Q6_K, Q5_K, Q4_K и более компактные форматы; размер файлов составляет примерно от 4,3 до 17,9 ГБ. Контекстное окно, точная архитектура и требования к видеопамяти или оперативной памяти не указаны. Сильные стороны модели — мультимодальность, ориентация на агентские и браузерные сценарии, а также широкий выбор квантизаций для запуска на оборудовании с разными ресурсами. Более компактные варианты снижают требования к памяти, но могут заметно уступать исходной BF16-версии по качеству. Для работы подходят llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты; при поддержке новой архитектуры может потребоваться обновление используемого приложения. Модель распространяется по лицензии MIT.
Fleet Semantic 4B v0.10 — модель генерации текста от noumenon-labs, созданная на базе Qwen/Qwen3-4B-Instruct-2507. Это плотная причинная языковая модель архитектуры FleetForCausalLM с 3,7 млрд параметров и контекстом до 262 144 токенов. Внутри одной модели размещены специализированные LoRA-преобразования, которые выбираются во время вывода с помощью семантической маршрутизации. Модель предназначена для диалогов и генерации ответов с маршрутизацией к экспертам по математическим рассуждениям, медицине, юридическим операциям, определению намерений, вызову функций и структурированному выводу. Доступны режимы exact, balanced и fast; версия 0.10 оптимизирует маршрутизацию, разреженное выполнение LoRA и пакетную генерацию. Поддержка русского языка в предоставленных данных отдельно не подтверждена. Разработчик обозначает Fleet как исследовательский прототип. Качество и задержку режимов balanced и fast следует оценить на целевых задачах; крупные fused kernels, интеграция с vLLM/Punica и continuous batching не входят в эту версию. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели и её базовой модели.
HaS Text 0209 Q8 — разработанная Xuanwu Lab компактная текстовая модель для локального выявления и обезличивания персональных и других чувствительных сущностей с возможностью последующего восстановления исходных значений. Она основана на Qwen3-0.6B и дообучена для задач приватности; версия в репозитории квантизирована в GGUF Q8_0, имеет 0,6 млрд параметров и занимает около 639 МБ. Модель предназначена для запуска на устройстве через llama.cpp и не требует передачи данных по сети. В набор возможностей входят распознавание именованных сущностей, обезличивание с существующим словарём соответствий или без него, согласованная замена сущностей в нескольких фрагментах и восстановление значений. Семантические метки помогают сохранить смысл обезличенного текста для дальнейшей обработки языковыми моделями. Заявлена поддержка китайского, английского, португальского, французского, испанского, немецкого, корейского и японского языков. Контекст составляет 8 тыс. токенов на фрагмент; длинные документы можно обрабатывать рекурсивным разбиением на части. Для применения нужны рекомендованные шаблоны запросов: карточка предупреждает, что изменения шаблонов могут ухудшить качество. Заявленные скорости измерены на Apple M4 и могут отличаться на другом оборудовании. Лицензия — Apache-2.0.
Модель anshulVashist/houdini_gemma4_finetune — дообученная pahaadi мультимодальная Gemma 4 E2B IT на базе unsloth/gemma-4-E2B-it. Она предназначена для диалогов с текстовым и визуальным вводом, включая анализ изображений и документов. В репозитории доступны веса Safetensors и GGUF в формате F16; при обучении использовались Unsloth и библиотека Hugging Face TRL. Модель подходит для вопросов по изображениям и документов, содержащих визуальную информацию, а также для обычного общения с текстовым помощником. README не описывает специальную предметную область или результаты оценки качества. Лицензия — Apache-2.0.
HridaAI/Hrida-T2SQL-3B-V0.2 — компактная языковая модель HridaAI для преобразования запросов на естественном языке в SQL. Она дообучена на microsoft/Phi-3.5-mini-instruct и использует архитектуру Phi-3; число параметров составляет 3,7 млрд. Модель предназначена для работы с вопросом пользователя и схемой базы данных, включая имена таблиц и столбцов, типы данных и, при необходимости, диалект SQL. Модель ориентирована на помощь аналитикам данных и специалистам, которым нужно получать SQL-запросы из текстовых описаний. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные указывают нативный контекст 4096 токенов; фактическая поддержка длинного контекста по доступным данным не подтверждена. Карточка приводит шаблоны для Transformers и MLX, а метаданные указывают библиотеку Transformers. Модель распространяется по лицензии Apache-2.0.
InternVL2_5-26B-MPO — мультимодальная диалоговая модель OpenGVLab, созданная на основе InternVL2.5 с применением Mixed Preference Optimization (MPO). Она предназначена для ответов на вопросы о визуальном содержимом и диалога с изображениями; семейство также поддерживает работу с несколькими изображениями и видео. Модель следует архитектурному подходу ViT-MLP-LLM: зрительная часть InternViT соединена через MLP-проектор с языковой моделью. Для обработки изображений используются динамическое разбиение на фрагменты 448×448 пикселей и уменьшение числа визуальных токенов. Модель можно запускать через Transformers; карточка приводит примеры инференса в bf16/fp16, квантизации BNB до 8 бит, работы на нескольких GPU и потоковой генерации. Метаданные указывают мультиязычную поддержку, но конкретные языки и длина контекста в доступных материалах не приведены. Модель распространяется по лицензии MIT. Возможные сценарии — визуальные вопросы и ответы, анализ изображений и видео, распознавание текста на изображениях и мультимодальный диалог; результаты могут зависеть от качества и разрешения входных изображений.
KoMiniLM — компактная корейскоязычная модель семейства BERT, разработанная BM-K для снижения задержки и затрат памяти при дообучении и онлайн-инференсе. В метаданных указано 26,4 млн параметров; README также описывает версию KoMiniLM-23M. Модель основана на дистилляции KLUE-BERT: в студенческую модель переносились распределения self-attention и отношения значений внимания на нескольких слоях. Модель предназначена для извлечения признаков из корейского текста и может служить основой для задач понимания языка, включая анализ тональности, распознавание сущностей, определение сходства и перефразирования предложений, а также ответы на вопросы после дообучения. Контекст ограничен 512 токенами. README сообщает об экспериментах дообучения на корейских наборах данных, но численные результаты таблицы представлены не полностью. Файлы доступны в форматах PyTorch и Safetensors. Лицензия в предоставленных данных не указана.
hbpkillerX/legal-clause-minilm-l6-v2 — дообученный Sentence Transformer на базе sentence-transformers/all-MiniLM-L6-v2 для представления предложений и абзацев в виде плотных семантических векторов. Модель построена на архитектуре BERT и содержит 25,9 млн параметров. Она формирует векторы размерности 384, нормализует их и сравнивает тексты с помощью косинусного сходства; метаданные указывают контекст до 512 токенов, а конфигурация из README задаёт максимальную длину последовательности 256 токенов. Модель предназначена для семантического поиска и сравнения юридических положений, поиска перефразировок, кластеризации и классификации текстов. README описывает дообучение на парах anchor-positive и оценку на clause-eval-triplets с cosine_accuracy 0,9761. Это англоязычный энкодер; сведения указывают на специализацию на юридических положениях, но подробности лицензии и юридических юрисдикций в предоставленных данных отсутствуют.
justArmenian/legal_paraphrase — дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-MiniLM-L3-v2 для преобразования предложений и абзацев в плотные векторы размерности 384. Архитектура основана на BERT: модель использует среднее объединение токенных представлений; сходство векторов рекомендуется оценивать косинусной мерой. В метаданных указаны 18,8 млн параметров и контекст до 512 токенов, тогда как README задаёт максимальную длину последовательности 128 токенов. Модель адаптирована к юридическим текстам и предназначена для семантического сравнения, поиска похожих формулировок и парафразов, кластеризации и извлечения признаков для классификации. В примерах обучающих данных сопоставляются перефразированные фрагменты судебно-правового текста и семантически отличающиеся фрагменты. README не подтверждает поддержку других языков; примеры приведены на английском. Модель выдаёт векторы, а не готовые ответы или юридические заключения. Воспроизводимые результаты оценки и качество на конкретных юридических корпусах не описаны. Лицензия в предоставленных сведениях не указана.
VikramPal/LFM2.5-8B-A1B-text2sql-DynQuant-4bit — это дообученная и квантованная версия модели LiquidAI/LFM2.5-8B-A1B. Модель дообучалась методом LoRA на 49 905 диалогах для преобразования естественно-языковых запросов в SQL, а затем была сжата методом DynQuant с использованием 4-битного представления и переменной разрядности по модулям. Размер модели на диске составляет около 4,096 ГиБ, в ней примерно 8,47 млрд параметров; для загрузки требуются transformers и установленный пакет dynquant. Модель предназначена для задач text-to-SQL: генерации SQL-запросов по описанию задачи и схеме базы данных. На отложенной выборке из 12 000 задач показатель совпадения результата выполнения запроса составил 82,84%. Для наборов данных WikiSQL и Gretel показатели составили соответственно 87,36% и 69,67%. Модель относится к текстовой модальности; поддерживаемые языки и размер контекстного окна в карточке не указаны. К сильным сторонам относятся существенное уменьшение занимаемого объёма по сравнению с представлением bf16 и более высокий результат среди сопоставленных 4-битных вариантов GPTQ и AWQ на данной оценке. При этом заявленные результаты относятся только к text-to-SQL и измерялись в специальном вычислительном представлении bf16, а не непосредственно на упакованном файле модели. В карточке также не приведены измерения скорости декодирования или пикового потребления VRAM, поэтому преимущества по производительности не подтверждены. Лицензия обозначена как other; применяются условия базовой модели LiquidAI/LFM2.5-8B-A1B.
Varun12387 опубликовал производную модель LiquidAI/LFM2.5-VL-450M: мультимодальную LFM2.5-VL-450M дообучили с помощью LoRA на 3 500 примерах с изображениями, а веса объединили и подготовили для локального запуска через llama.cpp. Модель принимает изображения и текстовые запросы, чтобы отвечать на вопросы о визуальном содержимом, читать текст, диаграммы и схемы, а также описывать сцены и объекты. В основе — плотная архитектура LFM2-VL с языковой частью LFM2 и визуальным энкодером SigLIP2 NaFlex; указанный в README контекст — 128 000 токенов. Репозиторий содержит GGUF-варианты F16, Q8_0 и Q4_K_M, а также safetensors. Дообучение охватывало визуальные вопросы, анализ диаграмм и схем и локализованные описания. В приведённых автором тестах результаты ниже показателей базовой модели по RealWorldQA, OCRBench и POPE, поэтому точность на сложных визуальных задачах может быть ограничена. Лицензия указана как other; конкретные условия следует сверить с карточкой модели и лицензией базовой модели.
Модель skshmjn предназначена для генерации запросов MongoDB по запросу на естественном языке. Она дообучена на базе unsloth/Llama-3.2-1B-Instruct и поддерживает создание CRUD-запросов, aggregation pipeline, запросов для индексации и запросов с вложенными структурами и операцией $lookup. Можно передать схему MongoDB, чтобы учитывать структуру данных; без схемы модель генерирует общие запросы. Это плотная языковая модель семейства Llama, доступная для Transformers и в форматах GGUF, включая варианты квантизации. Карточка указывает английский язык. Лицензия — Apache-2.0. Компактный размер базовой модели позволяет запускать её на CPU или GPU, однако карточка не приводит отдельной оценки качества или гарантии корректности сгенерированных запросов.
llama-3-sqlcoder-8b-GGUF — это набор GGUF-квантизованных версий языковой модели llama-3-sqlcoder-8b, разработанной Defog и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и, судя по названию и исходной модели, ориентирована прежде всего на задачи, связанные с SQL и программным кодом. README не содержит подробного описания архитектуры, языков, поддерживаемых модальностей или размера контекста. Квантизация выполнена с помощью llama.cpp версии b2940 и метода imatrix. Доступны варианты от Q8_0 до крайне компактных IQ1, поэтому можно выбирать между качеством вывода и требованиями к памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S. Более агрессивные варианты занимают меньше места, но дают заметно более низкое качество и могут быть непригодны для некоторых задач. Для работы следует использовать указанный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Лицензия модели — CC BY-SA 4.0. README не описывает результаты бенчмарков, ограничения по коммерческому применению или требования к аппаратному обеспечению, поэтому качество генерации SQL и практическую производительность необходимо оценивать отдельно для конкретного сценария.
LongformerZH — разработанная ValkyriaLenneth предобученная китайская языковая модель на архитектуре Longformer с 129,5 млн параметров. Она использует локальное оконное и глобальное внимание, чтобы обрабатывать длинные последовательности с контекстом до 4096 токенов при линейной сложности по длине последовательности. Модель построена на основе Roberta_zh_mid и обучена с Whole-Word Masking на смеси китайских корпусов; для работы с ней автор рекомендует PyTorch и библиотеку Transformers. Модель предназначена для извлечения признаков из длинных китайских текстов и как основа для дообучения под задачи обработки длинных документов. В карточке приведены результаты оценки на китайском анализе тональности и машинном чтении: для CMRC указаны F1 86,15 и EM 66,84. Модель выпущена в формате PyTorch; сведения о лицензии в предоставленных данных отсутствуют.
SetFit-модель для классификации коротких названий товаров по 18 категориям интернет-магазина. Её опубликовал пользователь mini1013; модель основана на klue/roberta-base и использует дообученный Sentence Transformer с контрастивным обучением и классификатор LogisticRegression. Для работы применяется библиотека SetFit. Модель принимает текстовые названия и категории товаров, например товары для дома, одежду, электронику, продукты и туристические услуги, и присваивает им одну из 18 меток. Контекст ограничен 512 токенами. В README приведена метрика 0,9798, однако не уточняется её тип и набор оценки, поэтому её нельзя напрямую трактовать как ожидаемую точность в новых данных. Модель и базовая RoBERTa ориентированы на корейский язык; фактические метки и примеры также преимущественно на корейском. Лицензия в предоставленных сведениях не указана. Модель подходит для автоматической категоризации товарных названий, но область её применения ограничена набором из 18 классов и каталогом, на котором она обучалась.
GroNLP разработала эту модель на основе mDeBERTa V3, дообучив её для определения субъективности предложений в газетных статьях. Для каждого предложения модель предсказывает метку OBJ (объективное) или SUBJ (субъективное); она предназначена для анализа новостных текстов и участвовала в задаче CLEF 2023 CheckThat! Lab Task 2. Модель содержит 305,3 млн параметров, использует архитектуру DeBERTa V2 для классификации последовательностей и принимает до 512 токенов контекста. В соревновании CheckThat! она заняла второе место с macro F1 0,81 и F1 для класса SUBJ 0,81. Обучение проводилось на многоязычном наборе данных, однако конкретный перечень языков в доступных сведениях не приведён. Условия лицензии в доступных сведениях не указаны.
ejahdil разработал сегментатор границ документов на основе MobileNetV3-Large с энкодером, предварительно обученным на ImageNet, и декодером U-Net. Модель принимает фотографию страницы, масштабирует её с сохранением пропорций до входа 384×384 и выдаёт маску с оценкой для каждого пикселя; по маске можно восстановить четырёхугольник границ документа. Модель предназначена для обнаружения страницы на фотографии, в том числе на фоне, близком по тону к бумаге. Она обучена на SmartDoc 2015 Challenge 1 с синтетическим повторным размещением страниц на различных фонах. В README указаны медианный Quad IoU 0,991 и 98,5% кадров с IoU не ниже 0,95 на отложенных документах. Это специализированная модель компьютерного зрения без текстового ввода и вывода. Оценка дана на ограниченном наборе SmartDoc; качество на иных типах документов и условиях съёмки отдельно не описано. Лицензия — CC BY 4.0.
myX-Semantic — модель DatarrX, разработанная Khant Sint Heinn для семантического представления текстов на бирманском языке. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для поиска и сравнения по смыслу, кластеризации и классификации текстов. Модель основана на sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 и дообучена методом дистилляции, чтобы приблизить представления к модели paraphrase-multilingual-mpnet-base-v2; дополнительный линейный слой преобразует исходные 384 измерения в 768. Архитектура — BERT с усреднением токенных представлений, максимальная длина входа — 512 токенов. Модель обучалась на DatarrX/myX-Mega-Corpus и рассчитана прежде всего на текст в Unicode-кодировке бирманского языка. Для измерения сходства автор рекомендует косинусную близость; порог 0,60 приводится как ориентир, который следует проверять на собственных данных. Модель распространяется по лицензии Apache-2.0.