I.3Извлечение и структурирование данных

muhtasham/Phi-3.5-vision-instruct_20240915_223241 — дообученная версия мультимодальной Phi-3.5-vision-instruct от Microsoft. В карточке указано, что модель обучалась на датасете со средним размером 1,8 млн, но его название не приведено. Модель предназначена для диалоговой генерации текста. Базовая модель поддерживает работу с текстом и изображениями, включая ответы на вопросы по изображениям, OCR, анализ документов и суммирование видеоклипов по кадрам; README не уточняет, сохраняются ли все эти возможности после дообучения. Архитектура — плотная Phi3VForCausalLM, объём — 3,7 млрд параметров, библиотека — Transformers, формат весов — safetensors, указанная длина контекста — 4096 токенов. Карточка не содержит результатов оценки качества и конкретных рекомендаций по применению. Модель распространяется по лицензии MIT.

OPI-PIB/pl-ModernBERT-large — крупный предварительно обученный энкодер ModernBERT для обработки польского языка, разработанный как часть семейства Polish ModernBERT. Это плотная модель с 28 слоями и размером скрытого представления 1 024; в репозитории указано около 474,5 млн параметров. Она принимает текст длиной до 8 194 токенов и предсказывает пропущенные токены, а после дообучения может использоваться как основа для классификации документов, разметки последовательностей, оценки сходства, поиска и переранжирования. Модель обучена примерно на 44,5 млрд польских токенов. Архитектура использует RoPE, GeGLU, предварительную нормализацию и чередование глобального и локального внимания; веса опубликованы в формате safetensors. В README приведены оценки на польских задачах NLU, включая KLEJ и LongContext, где модель показывает конкурентные результаты среди крупных польских энкодеров. Для перечисленных прикладных задач потребуется адаптация или дообучение под целевой сценарий. Лицензия — Apache-2.0. Модель предназначена прежде всего для польскоязычных задач; качество и применимость к другим языкам не подтверждены приведёнными сведениями.

PP-LCNet_x1_0_doc_ori — модель PaddlePaddle/PaddleOCR для классификации ориентации изображений документов. Она предназначена для определения поворота документов и удостоверений личности перед последующей коррекцией изображения, чтобы повысить точность OCR в сценариях сканирования документов и съёмки ID-фотографий, когда устройство может быть повернуто. Модель основана на архитектуре PP-LCNet_x1_0, имеет размер около 7 МБ и классифицирует изображения по четырём категориям: 0°, 90°, 180° и 270°. В README указана средняя точность распознавания 99,06%. Модель обрабатывает изображения документов; заявлены языки en и zh, однако отдельные характеристики контекстного окна и дополнительные модальности не указаны. Модель может использоваться через PaddleOCR с движком ONNX Runtime, включая GPU-вариант onnxruntime-gpu, и поддерживает CLI и Python API. Она выполняет классификацию ориентации, а исправление поворота производится последующей обработкой. Расширенные ограничения и условия эксплуатации, помимо требований к использованию PaddleOCR и ONNX Runtime, не описаны. Лицензия — Apache-2.0.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-GRPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

SwagMessiah100/Qwen3.8-27B-Unleashed-GGUF — это квантованная GGUF-версия uncensored-модели Qwen3.8-27B-Uncensored, разработанной JonathanColetti. Репозиторий SwagMessiah100 применяет к исходным весам карту динамического распределения битов Unsloth Dynamic 3.0 и соответствующую матрицу важности. Модель предназначена для генерации текста, диалогов и локального запуска через совместимые инструменты, включая llama.cpp. Заявлены английский и китайский языки. Модель имеет размер 27 млрд параметров и поддерживает контекст до 262 144 токенов, включая заявленное извлечение информации на длине около 250 806 токенов для варианта UD-Q3_K_XL. Доступны девять уровней квантования, включая UD-IQ4_XS, UD-Q3_K_XL и UD-IQ3_XXS. Динамическое распределение битов сохраняет более высокую точность в чувствительных тензорах и сильнее сжимает менее чувствительные, благодаря чему, по приведённым измерениям, вариант Q3 превосходит протестированные варианты Q4 по perplexity и может обеспечивать более высокую скорость. К сильным сторонам относятся uncensored-поведение, длинный контекст, несколько вариантов размера и качества квантования, а также проверка файлов нагрузочным тестированием. Производительность и качество зависят от конкретного варианта, оборудования и длины генерации; измерения проводились на RTX 4090 24 ГБ с llama.cpp и DFlash2. Для коротких запросов заявлена медианная скорость около 24,9 токена в секунду, для длинной генерации — до 56,3 токена в секунду, поэтому модель требовательна к ресурсам. Лицензия — Apache 2.0.

FinaPolat/Qwen3-8B-grounded_KGC-sft-domains — генеративная языковая модель семейства Qwen3, опубликованная пользователем или организацией FinaPolat. Модель доступна для работы через библиотеку Transformers и имеет около 7,6 млрд параметров; в метаданных указаны обучение с учителем (SFT), TRL и conversational-сценарии. По названию репозитория модель ориентирована на grounded KGC и доменную адаптацию, поэтому может применяться для генерации ответов с опорой на контекст или знания, а также для задач, связанных с дополнением графов знаний и специализированными доменными инструкциями. Нативная длина контекста составляет 40 960 токенов, что позволяет обрабатывать достаточно объёмные входные данные. Лицензия, поддерживаемые естественные языки, точная архитектура, состав обучающих данных и результаты оценки в доступных материалах не описаны.

Qwen3.8-Flash-Next MLX Activation-Weighted 3-bit — это MLX-конверсия модели Qwen/Qwen3.8-Flash-Next, опубликованная авторами данного репозитория. Модель предназначена для генерации текста и работы с изображениями, включая сценарии vision-language и OCR. Указанный pipeline имеет тип image-text-to-text, однако поддерживаемые языки в README не перечислены. Исходная модель содержит около 180 млрд параметров: 125 млрд основных параметров, 51 млрд параметров n-граммных embedding-таблиц и 4 млрд параметров MTP. Набор включает 48 банков маршрутизируемых экспертов, сжатых до 3 бит с размером группы 64; остальные подходящие матрицы используют 4-битное квантование. Нативный размер контекста составляет 262 144 токена, а размер артефакта — 83,49 ГиБ. Для запуска требуется MLX-совместимый и Qwen4Exp-aware runtime, например mere.run или mlx-vlm. К сильным сторонам относятся снижение пикового потребления памяти примерно на 19,58% по сравнению с опубликованным Q4-вариантом и сохранение результатов на закрытом наборе из 16 текстовых, графических и OCR-тестов. При этом приведённая квалификация не доказывает общее качество модели или эквивалентность BF16-версии; оценка проводилась на ограниченных наборах, а MTP был отключён при выборе чекпойнта. Распространение осуществляется по Qwen Community License 1.0 с дополнительными требованиями атрибуции и отдельными лицензионными условиями для некоторых коммерческих сценариев.

Qwen3-VL-30B-A3B-Wanda-50 — разреженная версия мультимодальной модели Qwen3-VL-30B-A3B-Instruct, созданная Felix Nguyen с помощью GBLM-Pruner. К матрицам декодера применён метод Wanda: измеренная разреженность составляет 50%; формы тензоров и размер плотных файлов не изменены. Визуальный энкодер, маршрутизаторы MoE, эмбеддинги, нормализация и выходная голова оставлены плотными. Модель предназначена для диалоговой работы с изображениями и видео, включая ответы на вопросы по визуальному содержимому и OCR. Она принимает текст и изображения и выдаёт текст; в метаданных указаны возможности чата и зрения. Оценка RealWorldQA обозначена как отдельная и ещё не завершённая, поэтому подтверждённых заявлений о качестве нет. Использование распространяется по лицензии Apache-2.0.

Qwen3-VL-4B-Instruct-NPU — мультимодальная модель на 4 млрд параметров от команды Qwen компании Alibaba Cloud, подготовленная для запуска на Qualcomm NPU через NexaSDK. Это вариант Qwen3-VL-4B-Instruct с инструкционной настройкой и файлом GGUF в формате F16. Модель принимает текстовые запросы и изображения, а также понимает видеоконтекст; отвечает текстом в диалоге, объясняет визуальные сцены и анализирует документы, диаграммы и снимки экрана. Подходит для визуальных помощников, описания изображений, вопросов по визуальным материалам и мультиязычных сценариев. README заявляет поддержку нескольких языков, но не перечисляет их по отдельности. Размер 4 млрд параметров рассчитан на более компактный запуск на устройствах. Конкретная длина контекста и лицензия в предоставленных сведениях не указаны.

tomaarsen/Qwen3-VL-Embedding-2B-vdr — модель Sentence Transformers, разработанная tomaarsen на основе Qwen/Qwen3-VL-Embedding-2B и дообученная для визуального поиска по документам. Она сопоставляет текстовые запросы со скриншотами страниц PDF, кодируя их в плотные векторы для поиска наиболее релевантных документов. Модель принимает текст, изображения и видео; обучена на 10 000 примерах англоязычного набора llamaindex-vdr-en-train-preprocessed, созданного на основе датасета Visual Document Retrieval Goes Multilingual. Контекст — до 262 144 токенов. По умолчанию выдаёт векторы размерности 1024; размерность можно настроить от 64 до 2048. Для сходства используется косинусная мера. В описанной автором оценке модель показала NDCG@10 0,947 на наборе из 300 запросов и 1500 скриншотов документов и превзошла исходную модель на этой задаче. Настройка Matryoshka позволяет уменьшать размер вектора с небольшим снижением качества в рамках приведённой оценки. Модель распространяется по лицензии Apache-2.0.

elplaguister/qwen_chemTEB — дообученная модель Sentence Transformers на базе Qwen/Qwen3-Embedding-0.6B, разработанная elplaguister. Она преобразует предложения и абзацы в плотные векторы размерности 1024, нормализованные для сравнения косинусным сходством. Архитектура включает Qwen3Model, объединение по последнему токену и нормализацию; README указывает максимальную длину последовательности 1024 токена. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. В обучающей выборке 2 976 пар anchor-positive; примеры включают извлечение полей из паспортов безопасности химических веществ и соответствие запросов фрагментам текста, что указывает на специализацию в химико-технических документах. Метаданные указывают 507,6 млн параметров и контекстную длину базовой модели 32 768 токенов, но README для этой модели задаёт максимум 1024 токена. Лицензия в предоставленных данных не указана.

Reasoning Summarizer — Qwen3.5 0.8B Preview — текстовая модель, которую автор дообучил для преобразования цепочки рассуждений в краткие структурированные метаданные в формате JSON. Она выделяет заголовок, подзаголовок, краткое содержание и текущую задачу, что подходит для организации следов рассуждений в агентных сценариях и дальнейшей обработки программами. Модель основана на Qwen/Qwen3.5-0.8B-Base, использует архитектуру Qwen3.5 для причинной генерации текста и содержит 581,4 млн параметров. Заявленная длина контекста — 262 144 токена; карточка описывает англоязычные данные и обучение на наборе Qyrou/reasoning-summaries-61k. Репозиторий включает объединённую модель для инференса и LoRA-адаптеры для продолжения обучения. Лицензия — Apache-2.0, при этом сохраняются условия использования базовой модели Qwen. Модель предназначена для узкой задачи извлечения метаданных, а не для общего диалога. Автор не приводит результаты отложенного бенчмарка и предупреждает, что модель может выдавать некорректный JSON или пропускать детали; формат и точность сводки следует проверять.

FacebookAI roberta-large-mnli — англоязычная модель на базе трансформерной архитектуры RoBERTa Large, дообученная на корпусе Multi-Genre Natural Language Inference (MNLI). Она предназначена для классификации текстов и пар предложений, в том числе для классификации с нулевым количеством примеров: пользователь задаёт категории в виде текстовых гипотез, а модель оценивает их соответствие входному тексту. Модель содержит 454,1 млн параметров и принимает последовательности длиной до 514 токенов. В задаче MNLI она различает логическое следование, противоречие и нейтральное отношение между посылкой и гипотезой. Подходит для тематической категоризации, отбора и сравнения текстов по заданным меткам, но не обучена генерировать текст или гарантировать фактическую достоверность. Результаты могут отражать стереотипы и смещения из обучающих данных, поэтому их следует проверять, особенно при оценке людей и чувствительных групп. Модель разработана на основе RoBERTa Large и обучена на MNLI; в карточке также описаны исходные англоязычные данные предобучения RoBERTa, включая Wikipedia и BookCorpus. Лицензия — MIT.

TEMPO SFT Stage 2 — дообученная модель Kaousheik на базе NVIDIA Audio Flamingo 3 для анализа речи, звуков и музыки с привязкой ответов ко времени. Архитектура Audio Flamingo 3 объединяет аудиокодировщик Whisper-large и Qwen2-7B; в этом варианте используется временной мультимодальный проектор. Модель принимает аудио и выдаёт текст с временными метками для пяти связанных задач: распознавания речи, диаризации говорящих, поиска временного интервала по текстовому запросу, плотного описания звуковых событий и анализа музыки. Вариант Stage 2 обучен на реальных данных и предназначен, в частности, для разметки разговоров и встреч, локализации событий в аудиозаписи и временного анализа музыкальных элементов. Модель рассчитана на английский язык. Токенизация времени ограничивает метки интервалами до 60 секунд, поэтому более длинные записи нужно разбивать на фрагменты. Качество распознавания многоголосой речи и определения аккордов ограничено; метки говорящих произвольны между разными клипами. Лицензия указана как other, конкретные условия в предоставленных материалах не раскрыты.

TinyBERT_General_6L_768D — компактная предварительно обученная языковая модель на основе BERT, разработанная лабораторией HUAWEI Noah’s Ark Lab. Это общая версия TinyBERT, полученная дистилляцией BERT-base; она предназначена как начальная модель для задач понимания естественного языка и может дообучаться под конкретные задачи. Модель содержит около 80,1 млн параметров, имеет 6 слоёв Transformer, скрытый размер 768 и принимает последовательности длиной до 512 токенов. Модель работает с текстом и рассчитана на английский язык. Разработчики сообщают, что TinyBERT в целом существенно меньше и быстрее при инференсе, чем BERT-base, сохраняя конкурентное качество на задачах понимания языка. Сам репозиторий содержит базовую модель без отдельной классификационной или иной task-specific головы, поэтому для прикладного использования её обычно дообучают. Карточка Hugging Face не содержит сведений о лицензии.

cardiffnlp/tweet-topic-latest-multi — модель Cardiff NLP на архитектуре RoBERTa-base для многометочной классификации тем англоязычных твитов. Её обучали на 168,86 млн твитов, опубликованных до конца сентября 2022 года, а затем дообучили для классификации на корпусе из 11 267 твитов. Модель относит текст к темам вроде искусства и культуры, бизнеса, повседневной жизни, здоровья, еды, новостей, науки, спорта и путешествий; один твит может получить несколько меток. Модель принимает текст и выдаёт метки классов. Она подходит для анализа тематики публикаций в социальных сетях и тематической сортировки англоязычных твитов. Размер модели — 151,8 млн параметров, максимальная длина контекста — 514 токенов; доступны веса PyTorch и TensorFlow. В карточке указана пригодность для английского языка. Лицензия в предоставленных данных не указана.

unSQLv1-7b-sqlite-lora — модель генерации SQL-запросов для SQLite, созданная unsqldotai. Это LoRA-дообучение CodeLlama-7B; архитектура — плотная авторегрессионная Llama с 6,6 млрд параметров. Модель предназначена для преобразования запросов на естественном языке в SQL с учётом схемы базы данных SQLite. Контекст — до 16 384 токенов. Модель рассчитана на работу с синтаксисом SQLite; README указывает, что варианты для других диалектов SQL планировались отдельно. Веса доступны в формате safetensors, лицензия — Apache-2.0.

Vela PII — модель vllm-sr для обнаружения фрагментов текста с персональными и другими чувствительными данными, предназначенная для маршрутизации запросов с учётом приватности и редактирования таких данных. Это дообученная версия Vela-1.0-Encoder-307M на базе ModernBERT с 306,9 млн параметров; модель принимает последовательности длиной до 32 768 токенов и выдаёт разметку токенов метками BIO: 35 меток для 17 типов сущностей. Карточка приводит синтетические оценки exact-span micro F1 для шести языков, включая длинные контексты, но отмечает, что наборы использовались при отборе модели и не являются независимым тестом на естественных документах. Модель распространяется по лицензии Apache-2.0.

Werea-TR-QA — турецкая модель извлечения ответов на вопросы: она находит фрагмент ответа в предоставленном контексте и подходит, в частности, для систем RAG. Модель разработала Werea; это дообученная на задаче question answering модель BERTurk на базе dbmdz/bert-base-turkish-cased с архитектурой BertForQuestionAnswering и 137,8 млн параметров. Контекст — до 512 токенов. В README указано, что модель обучалась два эпоха на наборе TQuAD2 с человеческой разметкой. Для TQuAD2 (validation) приведены EM 53,8% и F1 72,7%, для XQuAD-tr — EM 46,1% и F1 64,5%. Лицензия — MIT. Модель рассчитана на турецкий язык и извлечение ответов из текста; она не предназначена для свободной генерации развернутых ответов.

WordDetector — модель обнаружения отдельных рукописных слов на изображениях документов, разработанная как часть проекта Xournal++ HTR. Она предназначена для этапа выделения слов в конвейере распознавания рукописного текста и выдаёт ограничивающие рамки, не выполняя транскрипцию. Модель использует модифицированный энкодер ResNet-18 и декодер в стиле U-Net. На вход подаётся изображение в оттенках серого, приводимое к размеру 448×448; выходные карты сегментации и геометрии обрабатываются для получения рамок слов. Для инференса предусмотрен формат ONNX и ONNX Runtime, поэтому модель рассчитана на запуск на обычных устройствах без GPU. Обучение проводилось на IAM Handwriting Database. Модель распознаёт расположение слов, но не их содержание. Фиксированное масштабирование до 448×448 может искажать неквадратные изображения, а качество на почерках, отличающихся от стиля IAM, может варьироваться. Лицензия — MIT.

AfrimBert-QA-int4-qat — модель BERT для извлечения ответов на вопросы по тексту, созданная на основе amidblue/AfrimBert-QA с применением обучения с учётом квантования (QAT). Она предназначена для ответов на вопросы по контексту на африканских языках и английском; обучение проводилось на сбалансированной по языкам подвыборке AfriQuAD. Модель содержит 205,1 млн параметров и поддерживает контекст до 512 токенов. Репозиторий предоставляет обычный чекпойнт safetensors с весами, адаптированными к сетке квантования, а также целочисленные веса int4 с динамическими активациями int8; эмбеддинги хранятся в int8. Целочисленные веса экономят место, но ускорение вычислений int4 требует совместимого бэкенда. Условия лицензирования в предоставленных данных не описаны; базовая модель ограничена собственными условиями доступа, которые следует проверить перед публикацией производной модели.

Это модель классификации текста на основе ALBERT-base-v2, дообученная TextAttack на наборе данных AG News для отнесения новостных текстов к тематическим категориям. Она принимает последовательность текста и выдаёт метку класса; модель обучалась пять эпох с максимальной длиной последовательности 128 токенов. В карточке указана точность 0,947 на проверочной выборке. Модель предназначена для классификации новостных публикаций по категориям AG News. Архитектура — ALBERT для классификации последовательностей; размер составляет 136,3 млн параметров, нативное окно контекста — 512 токенов. Лицензия в предоставленных данных не указана.

ValkB/all-MiniLM-L12-v2_HazMiner_nonevents — модель классификации текста, созданная на основе sentence-transformers/all-MiniLM-L12-v2 с помощью SetFit. Разработчик карточки использовал обучение с малым числом примеров: дообучил Sentence Transformer контрастивным методом, а затем обучил классификационную голову LogisticRegression. Модель содержит около 40 млн параметров, поддерживает последовательности длиной до 512 токенов по метаданным; в README указана максимальная длина 128 токенов. Классификатор различает два класса: сообщения о событиях и сообщения без событий, в частности в примерах речь идёт о наводнениях и других опасных явлениях. Модель предназначена для отбора и категоризации текстовых сообщений по наличию события, например для мониторинга сообщений об угрозах и происшествиях. Она принимает текст и выдаёт метку класса. Базовая модель описана как компактная англоязычная модель эмбеддингов; примеры и обучающие данные в карточке англоязычные. Репозиторий использует PyTorch и библиотеку SetFit. Лицензия — Apache-2.0.

Это англоязычная модель Sentence Transformers, разработанная пользователем jaimevera1107 и дообученная на базе sentence-transformers/all-MiniLM-L6-v2 на 67 560 парах предложений с оценками сходства. Архитектура основана на BERT: энкодер с усреднением токенных представлений и нормализацией формирует плотные векторы размерности 384. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; в README заявлена максимальная длина последовательности 256 токенов. Модель предназначена для семантического сравнения предложений и абзацев, семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Она выдаёт векторы, которые можно сравнивать косинусным сходством; примеры обучающих данных относятся к биомедицинской тематике, поэтому модель может быть полезна для поиска и сопоставления научных текстов этой области. Лицензия в предоставленных данных не указана.

tavakolih/all-MiniLM-L6-v2-pubmed-full — модель Sentence-Transformers на базе архитектуры BERT, обученная для преобразования предложений и абзацев в плотные векторы размерностью 384. В метаданных указаны 25,9 млн параметров, PyTorch и контекст до 512 токенов; датасет модели связан с PubMed. Модель предназначена для семантического поиска и кластеризации текстов: она представляет похожие по смыслу фрагменты близкими векторными представлениями. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Это текстовая модель эмбеддингов, а не генератор ответов; лицензия и конкретная специализация на медицинских текстах в доступных данных не подтверждены.

BERT base Japanese v3 — предобученная модель семейства BERT от команды Tohoku NLP для работы с текстами на японском языке. Это базовая архитектура BERT: 12 слоёв, размер скрытого состояния 768 и 12 голов внимания; модель содержит 138,4 млн параметров и принимает последовательности длиной до 512 токенов. Веса доступны в форматах PyTorch, TensorFlow и Flax, лицензия — Apache-2.0. Модель обучена на японских частях CC-100 и Википедии. Текст токенизируется сначала с помощью MeCab и словаря Unidic 2.1.2, затем алгоритмом WordPiece; размер словаря — 32 768 токенов. Для задачи masked language modeling применялось маскирование целых слов. Чекпойнт подходит как основа для дообучения и извлечения контекстных представлений в японских NLP-сценариях. Это модель для понимания текста, а не генеративный чат-ассистент: сама по себе она не предназначена для диалоговой генерации или непосредственного выполнения прикладных задач без соответствующей головы и дообучения. Её контекст ограничен 512 токенами, а обучение ориентировано на японский язык.

Карточка модели fatymahaly/bert-base-uncased на Hugging Face совпадает с карточкой google-bert/bert-base-uncased, поэтому описание составлено по ней. BERT base uncased — англоязычная предварительно обученная модель Google на базе архитектуры BERT для восстановления замаскированных слов. Она содержит 136,7 млн параметров и принимает текст в нижнем регистре; токенизатор WordPiece использует словарь из 30 000 токенов. Контекст ограничен 512 токенами. Предобучение на BookCorpus и англоязычной Википедии использовало задачи masked language modeling и предсказания следующего предложения. Модель предназначена прежде всего для дальнейшей настройки под задачи понимания текста, например классификацию, разметку токенов и ответы на вопросы. Её можно применять для заполнения пропусков в тексте; она также может служить источником признаков для downstream-моделей. Это базовый чекпойнт, а не модель для генерации длинных текстов. Предобучение без учительской разметки позволяет использовать корпусный контекст, однако предсказания могут отражать смещения данных. Модель распространяется по лицензии Apache-2.0.

Модель textattack/bert-base-uncased-ag-news — классификатор текстов на базе BERT, дообученный командой TextAttack на наборе данных AG News. Она предназначена для отнесения новостных текстов к тематическим категориям. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов; при обучении использовалась максимальная длина 128 токенов. В карточке указана точность 0,9514 на оценочной выборке. Модель подходит для автоматической сортировки новостей и тематической разметки текстовых публикаций. Данных о лицензии в предоставленных источниках нет.

shahrukhx01/bert-multitask-query-classifiers — модель на основе BERT с двумя классификационными головами для определения типа коротких текстовых фрагментов. Одна голова различает предложения с ключевыми словами и утверждения или вопросы, другая — утверждения и вопросы. Модель содержит около 12 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Модель предназначена для классификации запросов и предложений, например для разделения ключевых фраз, утверждений и вопросов. В карточке указаны наборы Quora Keyword Pairs и Spaadia SQuaD pairs. Она опубликована в форматах PyTorch и Safetensors; лицензия в предоставленных данных не указана.

anas-awadalla/bert-small-finetuned-squad — компактная модель на архитектуре BERT, дообученная на наборе SQuAD для ответов на вопросы по предоставленному текстовому фрагменту. Модель содержит 32,4 млн параметров, принимает текст и рассчитана на контекст длиной до 512 токенов. Модель подходит для поиска ответа в статье, справке или другом тексте, когда вопрос и контекст передаются вместе. В оценке на SQuAD указаны exact match 71,06 и F1 80,83; эти показатели относятся к указанному набору данных и сами по себе не гарантируют качество на других типах текста. Веса доступны в формате PyTorch. Лицензия в предоставленных данных не указана.