I.3Извлечение и структурирование данных

Модель Yueh-Huan — классификатор новостных заголовков на базе DistilBERT, дообученный на 210 тысячах заголовков HuffPost за 2012–2022 годы. Она предназначена для отнесения заголовка к категории новостей и может использоваться для автоматической разметки новостных материалов. Модель принимает текст и возвращает метку класса. Архитектура — DistilBertForSequenceClassification; репозиторий содержит веса в формате TensorFlow. Карточка указывает поддержку английского языка и контекст до 512 токенов. Лицензия — OpenRAIL.

Модель dima806/news-category-classifier-distilbert классифицирует текст новостей по категориям. Это дообученная для классификации последовательностей модель на базе google-bert/bert-base-uncased, разработанная автором репозитория dima806. Она принимает текст и возвращает категорию новости. Модель использует архитектуру BERT и доступна в форматах PyTorch и Safetensors; размер составляет 136,7 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для автоматической тематической сортировки новостных материалов и категоризации текстов в новостных потоках. Базовая модель англоязычная, поэтому классификатор ориентирован на английский текст. Лицензия — Apache-2.0.

dinushiTJ/nz-research-commons-embedding-gemma — текстовая Sentence Transformer-модель, дообученная на наборе nz_research_commons_embedding_triplets_5k. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска и сравнения текстов по косинусному сходству. Модель основана на текстовой архитектуре Gemma 3, содержит 302,8 млн параметров и принимает последовательности длиной до 2048 токенов. Обучение на 5 000 триплетах использовало TripletLoss; в README указана точность cosine_accuracy 0,984 на оценке TripletEvaluator для набора rc-triplet-eval. Подходит для семантического поиска и извлечения релевантных текстов в корпусе NZ Research Commons. Данные не описывают поддерживаемые естественные языки или лицензию, поэтому их нельзя надёжно указать.

Mungert/Qwen2.5-0.5B-Instruct-GGUF — это компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen при участии Alibaba Cloud. Модель предназначена для диалоговых сценариев, генерации текста, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Она также ориентирована на задачи программирования и математики, однако из-за небольшого размера её возможности ограничены по сравнению с более крупными моделями. Модель представляет собой causal language model на архитектуре Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV-матрицах внимания и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд не относятся к эмбеддингам, 24 слоя и Grouped Query Attention с 14 головами для Q и 2 для K/V. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Поддерживаются более 29 языков, включая английский, китайский, французский, испанский, немецкий, русский, японский, корейский, арабский и другие. Модель работает с текстом и не предназначена для мультимодальных задач. К сильным сторонам относятся малый размер, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к различным системным промптам и поддержка структурированного вывода. Ограничениями являются компактная ёмкость модели и отсутствие заявленной поддержки изображений, аудио или других модальностей; подробные показатели производительности в README не приведены. Модель распространяется по лицензии Apache 2.0.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-ORPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

Wangkanai публикует модифицированную версию Qwen3-VL-2B-Instruct — мультимодальной модели семейства Qwen3-VL с архитектурой Transformer и 2 млрд параметров. Она принимает изображения и текст, а отвечает текстом; поддерживает диалоговый режим и визуальное понимание. В репозитории доступны веса SafeTensors и GGUF в FP16. Заявлены сценарии описания изображений, визуальных вопросов и ответов, OCR, анализа документов и рассуждений о сценах. Модель предназначена для работы с изображениями и текстовыми инструкциями, в том числе для создания текстовых описаний и анализа визуального содержимого. В README указана версия с удалёнными механизмами отказа, рассчитанная автором на исследования и творческие эксперименты; из-за этого ответы могут быть неограниченными и небезопасными, а точность не гарантируется. Языковая поддержка и длина контекста в предоставленных данных не описаны. Лицензия репозитория — Apache-2.0.

reazonspeech-nemo-v2 — модель автоматического распознавания речи, разработанная Reazon Research и обученная на корпусе ReazonSpeech v2.0. Она преобразует японскую речь из аудиозаписей в текст и предназначена в том числе для расшифровки длинных записей продолжительностью до нескольких часов. Модель основана на улучшенной архитектуре Conformer из Fast Conformer с линейно масштабируемым механизмом внимания. Это субсловная RNN-T-модель с 619 млн параметров: кодировщик использует Longformer attention с локальным контекстом 256 и одним глобальным токеном, а словарь декодера содержит 3000 токенов SentencePiece unigram. Для использования разработчик рекомендует библиотеку reazonspeech. Модель ориентирована на японскую речь и длительные аудиозаписи. Лицензия Apache-2.0.

SaMer-k64-colpali — адаптерная версия SaMer от команды dmis-lab для модели vidore/colpali-v1.3-hf, предназначенная для визуального поиска по документам. Репозиторий содержит обученный проекционный слой и обёртку для применения слияния токенов; веса базовой модели загружаются отдельно во время работы. Модель объединяет визуальные признаки в 64 области с помощью пространственно-ориентированного мягкого слияния центроидов без использования рамок объектов. Она рассчитана на поиск релевантных страниц PDF по визуальному содержимому и использует функцию потерь для обучения на задаче поиска. Для применения нужны базовая модель vidore/colpali-v1.3-hf и поддержка обёртки с trust_remote_code. Лицензия в метаданных указана как Gemma; README предписывает соблюдать лицензию и условия использования базовой модели.

Карточка модели mitra-mir/setfit-model-Miscellaneous-Misinformation на Hugging Face совпадает с карточкой mitra-mir/setfit-model-Misinformation-on-Global-Support, поэтому описание составлено по ней. Это модель Sentence-Transformers на архитектуре MPNet, разработанная автором репозитория mitra-mir. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации текстов. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Название репозитория указывает на тему дезинформации о глобальной поддержке, однако README не описывает специализированные функции или результаты классификации по этой теме. Модель подходит для получения текстовых эмбеддингов и поиска семантически близких фрагментов. Для использования описан интерфейс библиотеки Sentence-Transformers. Лицензия в предоставленных данных не указана.

sqrl-4b — дообученная модель на 4 млрд параметров, разработанная feyninc на базе Qwen/Qwen3.5-4B для преобразования вопросов на естественном языке в SQL-запросы к базам SQLite. Модель может сначала выполнять read-only запросы для изучения значений, связей и фильтров в базе, а затем формировать итоговый SQL. Для работы с ней нужны схема базы данных и, при необходимости, текстовые подсказки с дополнительными сведениями; модель обучалась по специальному протоколу с отдельными действиями исследования и завершения. Обучение включало дистилляцию проверенных траекторий от более крупной модели и последующее обучение с подкреплением по совпадению результатов выполнения SQL. В карточке указаны результаты 64,6% pass@1 на BIRD-dev и 84,0% на Spider-test; голосование по нескольким генерациям повышало точность. Модель основана на мультимодальной архитектуре Qwen3.5-4B, но её SQL-обучение проводилось только на тексте; унаследованная от базы визуальная часть не является целевой возможностью этого дообучения. Лицензия — Apache-2.0. Модель предназначена прежде всего для SQLite и лучше работает с описанным в карточке протоколом взаимодействия. Она не настроена на другие диалекты SQL, использует соглашения SQLite для кавычек идентификаторов, а сгенерированные запросы следует выполнять в режиме только для чтения и проверять перед использованием результатов.

TabiBERT — энкодерная трансформерная языковая модель в стиле BERT, разработанная TABILAB при поддержке VNGRS. Она основана на архитектуре ModernBERT-base и содержит 148,8 млн параметров. Модель обучена преимущественно на турецких текстах, а также на английском языке, коде и математических данных; поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, GeGLU и Flash Attention. Модель предназначена для заполнения пропусков и может служить основой для дообучения под задачи классификации, извлечения ответов на вопросы, NLI, поиска и представления кода, а также семантического поиска по длинным документам. В описанной авторами оценке на турецком бенчмарке TabiBench она показала высокие результаты, включая задачи поиска и QA. Репозиторий содержит веса Safetensors для использования через Transformers. Лицензия — Apache-2.0. По README, качество модели на английском может уступать качеству на турецком, а на других языках — быть ниже; возможны унаследованные от обучающих данных смещения. Обработка последовательностей близких к 8192 токенам может быть медленнее, и авторы рекомендуют проверять результаты перед применением в критических сценариях.

SkillScout Large — плотный bi-encoder, дообученный для TalentCLEF 2026 Task B на основе jjzha/esco-xlm-roberta-large. Он кодирует название профессии в эмбеддинг размерности 1024 и позволяет находить семантически близкие навыки в таксономии ESCO с помощью косинусного сходства. Модель предназначена для первого этапа двухэтапного поиска «профессия — навыки»: быстрого извлечения кандидатов, например с помощью FAISS; для повышения качества ранжирования её можно дополнить cross-encoder-реранкером. Модель использует XLM-RoBERTa-large со mean pooling, содержит 658,7 млн параметров и принимает текст. Контекст модели — 514 токенов, однако карточка рекомендует ограничивать вход 64 токенами; длинные описания вакансий следует сокращать до названия должности. Модель обучена на английских метках ESCO и оптимизирована для этой таксономии; результаты на O*NET и пользовательских таксономиях могут отличаться. Bi-encoder сам по себе ненадёжно различает основные и контекстные навыки, поэтому для градуированного ранжирования полезен реранкер. Лицензия — Apache-2.0.

TEMPO — Table 3 — + Both — это экспериментальный англоязычный аудио-языковой чекпойнт, дообученный Kaousheik на базе NVIDIA Audio Flamingo 3 для определения временных границ событий в аудио. Он объединяет распознавание речи с временными метками, диаризацию говорящих, поиск временного интервала по текстовому запросу, плотное описание звуков и анализ музыки. Архитектура Audio Flamingo 3 сочетает аудиоэнкодер Whisper-large и Qwen2-7B; вариант использует временной мультимодальный проектор и функцию потерь, учитывающую близость ошибочных временных меток. Для загрузки этой версии требуется файл time_proj.pt. Модель принимает аудио и текстовые инструкции с тегом задачи, а выдаёт текст с временными метками. Шаг временной шкалы составляет 0,1 секунды, но словарь временных токенов ограничивает разметку отрезками до 60 секунд, поэтому более длинные записи нужно разбивать на фрагменты. Модель рассчитана на английский язык; качество многоголосого распознавания и определения аккордов ограничено, а метки говорящих согласованы только внутри одной записи. Лицензия указана как other, конкретные условия использования в карточке не описаны.

Jebadiah/Tess-gradient-ruby-p1 — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом DARE linear. В качестве основы использована Jebadiah/Tess-gradient-ruby, в слияние также включена defog/llama-3-sqlcoder-8b; архитектура — плотная Llama с классом LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Благодаря включению SQLCoder её можно использовать для генерации SQL-запросов по вопросам пользователя и описаниям таблиц, в том числе для баз PostgreSQL, Redshift и Snowflake. Контекст составляет 8192 токена; модель работает с текстом и выдаёт текст. Веса опубликованы в формате safetensors и имеют тип bfloat16. Лицензия в предоставленных сведениях не указана.

Ghazouaniwala/trocr-tunisian-arabic — модель распознавания рукописного тунисского арабского текста, разработанная для обработки юридических форм в системе Wathiqa. Это TrOCR с архитектурой vision-encoder-decoder, дообученная на рукописном тунисском арабском; словарь декодера заменён на арабский словарь из 30 тысяч токенов. Модель распознаёт отдельные слова на изображениях и рассчитана на локальную офлайн-обработку без передачи документов в облако. Модель подходит для извлечения арабских имён, заметок и других рукописных текстовых полей из структурированных форм. Перед распознаванием нужно сегментировать текст на слова и подавать их по отдельности; обработка целых строк и предложений не является целевым сценарием. Для цифр и печатного текста в Wathiqa используются отдельные распознаватели. Модель распространяется по лицензии MIT.

timm/vit_pe_lang_gigantic_patch14_448.fb — вариант только с визуальным энкодером семейства Perception Encoder (PE), опубликованный Meta и преобразованный для библиотеки timm. Модель принимает изображения и выдаёт визуальные признаки; это чекпойнт PE-Lang-G14-448 с патчами 14×14 и разрешением 448 пикселей. PE Lang обучалась на визуально-языковом выравнивании и предназначена для использования в мультимодальных системах с языковым декодером, например Llama или Qwen. Энкодер особенно подходит для извлечения признаков, которые можно использовать в ответах на вопросы по изображениям и документам, OCR-сценариях, классификации и поиске по изображениям. В опубликованных Meta оценках PE-Lang-G14-448 показала сильные результаты на DocVQA, InfoQA и TextVQA при работе с замороженным энкодером и декодером Llama 3.1 8B. Этот репозиторий содержит только энкодер, а не готовую систему для диалога или генерации ответов; упомянутые результаты зависят от декодера и настройки системы. Лицензия — Apache 2.0.

NbAiLab/wav2vec2-xls-r-1b-npsc-bokmaal — дообученная модель распознавания речи на базе facebook/wav2vec2-xls-r-1b, созданная NbAiLab на датасете NbAiLab/NPSC, подвыборке 16K_mp3_bokmaal. Модель использует архитектуру wav2vec2 с CTC-декодированием, принимает аудио и преобразует речь в текст. В метаданных указано 1,3 млрд параметров; веса представлены в формате PyTorch. Модель предназначена для автоматической транскрипции речи на норвежском букмоле. Для оценки на тестовой выборке автор приводит WER 0,0966 и loss 0,1598. Лицензия — Apache-2.0. Подробности о других условиях записи, поддерживаемых языках и ограничениях применения в карточке не приведены.

facebook/webssl-dino3b-light2b-224 — визуальная модель Meta AI на архитектуре Vision Transformer, обученная методом самообучения DINOv2 на веб-изображениях без языковой супервизии. Вариант light2b обучен на подмножестве данных MetaCLIP, включающем изображения с текстовым содержимым; размер модели в метаданных — 3,9 млрд параметров, разрешение обучения — 224×224 пикселя. Модель предназначена для извлечения визуальных признаков и представлений изображений, которые можно использовать в задачах компьютерного зрения. Разработчики отмечают сильные результаты в распознавании текста и понимании диаграмм, сохраняя широкую применимость к визуальным задачам. Это не языковая модель: она обучена без языковой супервизии. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Whisper Hindi Medium — модель распознавания речи, дообученная Vasista22 на основе openai/whisper-medium на данных для автоматического распознавания речи на хинди из нескольких открытых корпусов. Она предназначена для преобразования аудиозаписей на хинди в текст, в том числе для обработки речевых корпусов и оценки качества транскрипции. Модель построена на архитектуре Whisper и содержит около 455,8 млн параметров; доступны форматы PyTorch и Flax. Для работы с Flax в карточке упоминается библиотека whisper_jax. Обучение использовало GramVaani ASR Corpus, ULCA ASR Corpus, Shrutilipi ASR Corpus и обучающую и валидационную части Google Fleurs. Лицензия — Apache-2.0. Карточка не приводит количественных оценок качества, поэтому точность на конкретных типах записей по ней определить нельзя.

anuragshas/whisper-large-v2-bg — модель распознавания речи, дообученная на базе Whisper Large-v2 на болгарской части набора Mozilla Common Voice 11.0. Она преобразует болгарскую речь в текст и подходит для транскрибирования аудиозаписей. Архитектура — WhisperForConditionalGeneration, число параметров — около 905,2 млн; для обучения использована библиотека Transformers, веса представлены в формате PyTorch. На тестовой выборке указана WER 13,404 и loss 0,3208. Модель распространяется по лицензии Apache-2.0.

WR30a-Deep-7B-0711-i1-GGUF — это квантизированная версия vision-модели WR30a-Deep-7B-0711, преобразованная в формат GGUF пользователем mradermacher. Исходную модель разработала команда или автор prithivMLmods. Модель предназначена для задач визуального понимания, генерации подписей к изображениям, оптического и интеллектуального распознавания символов, преобразования изображений в текст, а также для математических и STEM-сценариев. Модель относится к мультимодальным vision-language моделям и поддерживает английский и китайский языки. В карточке указано около 7 миллиардов параметров, однако архитектура, размер контекстного окна и точный набор поддерживаемых модальностей не раскрыты. Для обработки изображений могут потребоваться дополнительные файлы mmproj из статического репозитория исходной модели. Репозиторий содержит варианты квантизации i1 с разными компромиссами между размером, скоростью и качеством; рекомендуемыми названы Q4_K_M и Q4_K_S, тогда как наиболее компактные варианты могут заметно снижать качество. Основные преимущества — возможность локального запуска в GGUF-совместимой инфраструктуре, поддержка визуальных задач и широкий выбор уровней квантизации. Ограничения связаны с потерей качества при сильной квантизации, необходимостью совместимого программного обеспечения и, возможно, дополнительных multimodal-компонентов; конкретные показатели качества в README не приведены. Модель распространяется по лицензии Apache-2.0.

Карточка модели 01-ai/Yi-VL-34B на Hugging Face совпадает с карточкой 01-ai/Yi-VL-6B, поэтому описание составлено по ней. Yi-VL-6B — мультимодальная модель 01.AI для диалогов по изображениям. Она построена на архитектуре LLaVA: использует CLIP ViT-H/14 для кодирования изображения, проекционный модуль на основе двухслойного MLP и языковую модель Yi-6B-Chat. Модель содержит 5,8 млрд параметров, принимает текст и одно изображение и генерирует текст; поддерживает контекст до 4096 токенов и обработку изображений с масштабированием до 448×448 пикселей. Модель предназначена для визуальных вопросов и ответов, распознавания текста на изображениях, извлечения и обобщения визуальной информации. Она поддерживает общение на английском и китайском языках. В README отмечены сильные результаты на мультимодальных бенчмарках MMMU и CMMMU по данным на январь 2024 года. Среди ограничений — возможные галлюцинации и ошибки в описании объектов; за один запрос можно передать только одно изображение. Лицензия — Apache-2.0.

AIguard-0.6B-PII-Chinese — модель классификации токенов для выявления и извлечения 21 категории персональных данных в китайскоязычных текстах. Она дообучена разработчиками проекта ZJUICSR на базе Qwen3-0.6B и рассчитана на защиту конфиденциальности, проверку соответствия требованиям и подготовку данных к обезличиванию. Модель использует архитектуру Qwen3 с плотными весами, содержит около 507,9 млн параметров и принимает текстовые последовательности. В README рекомендовано разбивать длинные входы на фрагменты до 512 токенов, хотя контекст модели составляет 40 960 токенов. В карточке заявлены entity-level F1 96,29% и 21 тип чувствительных сущностей; обучение проводилось на синтетических примерах с ручной проверкой и охватывало несколько сфер повседневной жизни. Модель подходит для поиска утечек PII в диалогах и журналах, извлечения персональных данных из документов и последующего маскирования. Она обучена для китайского языка. Лицензия — Apache-2.0. Качество на реальных данных может отличаться от результатов тестирования на синтетических примерах. Для номера отслеживания YTO авторы отмечают низкую полноту и рекомендуют дополнительную проверку правилами; модель также не гарантирует выявление поддельных или изменённых идентификационных данных, а результаты в важных сценариях следует проверять вручную.

avsolatorio/all-MiniLM-L6-v2-MEDI-MTEB-triplet-final — англоязычная модель Sentence Transformers, дообученная на базе sentence-transformers/all-MiniLM-L6-v2 для получения векторных представлений предложений и оценки их семантического сходства. Её можно применять для поиска похожих текстов, ранжирования кандидатов по близости к запросу, кластеризации и дедупликации предложений, в том числе в задачах с медицинскими и научными текстами среди обучающих данных. Модель построена на архитектуре BERT, содержит 25,9 млн параметров и выдаёт векторы размерности 384. Для сравнения векторов используется косинусное сходство. README указывает максимальную длину последовательности 256 токенов, а метаданные — контекстное окно 512 токенов. Модель принимает текст и возвращает эмбеддинги; заявленный язык — английский. Модель распространяется по лицензии Apache-2.0. Это энкодер предложений, а не генеративная модель: он не предназначен для свободной генерации ответов. Качество сходства зависит от домена и формулировок; длину входного текста следует учитывать с учётом ограничения README в 256 токенов.

MutazYoune/Arabic-NER-PII — модель на основе BERT, разработанная для выявления персональных данных в арабском тексте. Она дообучена на MutazYoune/ARAB_BERT для классификации токенов и предназначена для разметки фрагментов текста с адресами электронной почты, телефонными номерами, IP-адресами и структурированными идентификаторами. Модель содержит 136,3 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. Модель создана для задач обнаружения и последующего удаления или маскирования PII в арабских текстах, в том числе в сценариях обработки пользовательских данных. В карточке указаны результаты участия в Maqsam Arabic PII Redaction Challenge: итоговый балл 0,5341, точное F1 0,024 и частичное F1 0,534. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Основные ограничения — низкое качество точного определения границ сущностей, ограниченное покрытие диалектов (обучение преимущественно на современном литературном арабском) и возможные ошибки при контекстно-зависимом распознавании PII.

ArabicT5-news-classification-generation — модель на архитектуре T5, разработанная Hezam и дообученная для классификации и генерации текстов арабских новостей. Она принимает текст новости и формирует текстовый ответ, где число обозначает одну из восьми категорий: политика, экономика, здоровье, спорт, культура, технологии, искусство или происшествия. Модель содержит 89,8 млн параметров, использует библиотеку Transformers и формат safetensors; родной контекст — 512 токенов. В карточке приведены результаты оценки: точность классификации 96,17% и генерации 87,16%. Модель подходит для автоматической категоризации арабских новостных материалов и генерации связанных с категорией ответов. Лицензия в предоставленных данных не указана.

NAMAA-Space/AraModernBert-Topic-Classifier — экспериментальная арабоязычная модель классификации тем, созданная NAMAA-Space на основе answerdotai/ModernBERT-base. Это encoder-модель ModernBERT с 149 млн параметров, дообученная для отнесения текста к семи темам: политике, финансам, медицине, культуре, спорту, технологиям и религии. Для обучения использован датасет SANAD; карточка также описывает арабский токенизатор и предварительное обучение на арабской Википедии. Модель принимает текст и выдаёт метку класса; автор сообщает F1 0,95 на тестовом наборе из 14 181 примера. Контекст — до 8192 токенов. Распространяется по лицензии Apache-2.0. Результаты относятся к указанному набору данных и не гарантируют такую же точность на других текстах и распределениях тем.

BERT Large Cased Whole Word Masking — предварительно обученная языковая модель BERT, выпущенная авторами BERT и представленная в карточке Hugging Face. Это англоязычная модель с архитектурой BERT: 24 слоя, скрытое представление размером 1024, 16 голов внимания и 432,3 млн параметров по метаданным. Она обучалась на корпусах BookCorpus и English Wikipedia с задачами masked language modeling и предсказания следующего предложения. При whole word masking все токены WordPiece, составляющие одно слово, маскируются одновременно; модель различает регистр букв. Основное применение — предсказание пропущенных слов в контексте. Модель также можно дообучать для классификации последовательностей и токенов, ответов на вопросы и других задач понимания текста. Контекст ограничен 512 токенами; модель не предназначена для генерации связного текста. Предобучение выполнено на английских книгах и Википедии, поэтому возможны смещения в предсказаниях. Лицензия — Apache-2.0.

BetterWright-K2-Horizon-7B-Uno — плотная языковая модель ProCreations для управления браузером в среде BetterWright. Это полнопараметрическое дообучение IFM/K2-Horizon-7B на 3 840 отобранных траекториях работы агента; корневые веса содержат дообученную авторегрессионную модель, а в каталоге adapter/ поставляется неизменённый diffusion-адаптер Uno для ускорения генерации. Модель принимает текстовые наблюдения DOM и выдаёт текст, включая XML-вызовы инструментов; она рассчитана на системный промпт BetterWright и инструменты browser, done и ask. Поддерживает английский язык, режимы рассуждения none, low, medium и high, а базовая модель имеет контекст до 524 288 токенов. Модель предназначена прежде всего для выполнения браузерных задач внутри BetterWright, например поиска сведений на сайтах и взаимодействия с веб-страницами через инструменты. README сообщает о 1,85 принятых токенах на один проход модели с Uno на промптах BetterWright и сохранении качества генерации авторегрессионных весов при проверке набросков. Модель обучалась один этап на синтетических траекториях от двух моделей-учителей; заявленных оценок бенчмарков нет. Лицензия — Apache-2.0. Обучение ограничивало длину траекторий 65 536 токенами, а длинное поведение за пределами этого диапазона не проверялось. Данные создавались без скриншотов, поэтому модель работает по текстовым наблюдениям DOM; авторы ожидают от неё лучших результатов в BetterWright, чем в роли универсального ассистента. Uno-адаптер не переобучали на новых авторегрессионных весах.

bp400-xlsr — модель автоматического распознавания речи на базе Wav2Vec 2.0, дообученная для бразильского португальского языка. Карточка описывает её как демонстрационную модель, обученную на объединённых корпусах CETUC, Common Voice, LaPS BM, MLS, TEDx, SID и VoxForge; веса представлены в формате PyTorch. Размер модели — около 402,7 млн параметров. Модель преобразует аудиозаписи речи в текст и предназначена для транскрибирования бразильского португальского, в том числе записей из перечисленных корпусов. В README приведены результаты WER на отдельных тестовых наборах: без языковой модели среднее значение составляет 0,124, а с 4-граммовой языковой моделью — 0,105. Качество зависит от корпуса; для TEDx ошибки заметно выше, чем для некоторых других наборов. Для использования указана лицензия Apache-2.0.