I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейosiria/bert-italian-cased-ner — модель BERT базового размера с учётом регистра, разработанная для распознавания именованных сущностей в итальянском тексте. Она дообучена на базе bert-base-italian-cased на датасете WikiNER и дополнительном наборе вручную размеченных абзацев из Википедии. Модель присваивает токенам метки четырёх классов: люди, места, организации и прочие сущности, включая события, товары и услуги. Она предназначена для извлечения сущностей из веб-страниц, новостей и других грамотных цифровых текстов. В README приведён результат F1 92,78 на тестовом наборе; метрики рассчитаны на уровне токенов и усреднены по классам. Модель имеет около 136,9 млн параметров, контекст до 512 токенов и доступна в форматах PyTorch и Safetensors. Модель хуже подходит для шумных текстов с ошибками и сленгом, а также для узкоспециализированных медицинских, финансовых и юридических материалов. Лицензия — Apache-2.0.
Just-Bax/bge-m3-uzbek-cyrillic — дообученная модель на базе BAAI/bge-m3 для семантического поиска и сравнения текстов на узбекском языке в кириллической письменности. Она построена на архитектуре XLM-RoBERTa, содержит около 658,7 млн параметров и формирует плотные эмбеддинги размерностью 1024. Заявленная длина контекста — 8194 токена. Модель предназначена для поиска по документам, retrieval-augmented generation (RAG), оценки сходства предложений, проверки перефразирований, кластеризации и поиска дубликатов. Дообучение с контрастивной целью проводилось на узбекских юридических и официально-деловых текстах; используются CLS pooling и L2-нормализация. Поддерживается библиотекой Sentence Transformers, веса доступны в формате safetensors. Модель особенно подходит для узбекских текстов на кириллице в правовой и формальной тематике. Качество на узбекском в латинской письменности может отличаться; на разговорных текстах точность может быть ниже. Для сопоставимых результатов важно одинаково предварительно обрабатывать и нормализовать тексты при индексации и поиске. Лицензия — Apache-2.0.
Breeze-7B-32k-Base-v1_0 — базовая языковая модель MediaTek Research из семейства Breeze-7B, построенная на архитектуре Mistral-7B. Это декодерный трансформер с 7,2 млрд параметров и контекстом до 32 768 токенов; словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским языком. Модель рассчитана на английский и традиционный китайский (zh-TW) и предназначена для дальнейшего дообучения под конкретные задачи. Увеличенное контекстное окно позволяет обрабатывать длинные документы и извлекать сведения из текста, распределённого по большому контексту. В описанных тестах модель показала более 90% точности при поиске ключа в длинном контексте и улучшенные результаты на длинных вариантах DRCD по сравнению с Breeze-7B-Base. Это базовая модель, поэтому её обычно дообучают перед применением для диалога и других прикладных задач. Распространяется по лицензии Apache-2.0.
CamemBERTa-L8 — обрезанная версия предварительно обученной модели CamemBERTa, опубликованная Antoine Louis. Из исходного чекпойнта удалены верхние слои энкодера; модель содержит 100,1 млн параметров и использует архитектуру DeBERTa-v2. Она принимает текст и выдаёт контекстные признаки; максимальная длина контекста — 512 токенов. Модель предназначена прежде всего для дообучения под задачи, где решение зависит от всего предложения: классификации текста, извлечения ответа на вопрос и семантического поиска. Также её можно использовать для masked language modeling. Для генерации текста автор рекомендует авторегрессионные модели. Модель распространяется по лицензии MIT. Удаление верхних слоёв уменьшает модель, но может ограничивать её пригодность для задач, которым нужны полные представления исходной модели; качество на конкретных задачах зависит от дообучения.
Moritz Laurer разработал DeBERTa-v3-small-mnli-fever-docnli-ling-2c — англоязычную модель классификации текстовых пар для задач вывода по естественному языку (NLI). Она дообучена на 1 279 665 парах «гипотеза — посылка» из восьми наборов данных, включая MultiNLI, Fever-NLI, LingNLI и DocNLI. Базовая архитектура — DeBERTa-v3-small от Microsoft; модель содержит 155 млн параметров и принимает последовательности длиной до 512 токенов. Модель предсказывает один из двух классов: entailment («следует из текста») или not-entailment («не следует из текста»). Обучение на DocNLI, содержащем длинные документы, нацелено на рассуждения с учётом удалённых фрагментов текста. В README приведены результаты оценки на тестовых выборках MultiNLI, ANLI и Fever-NLI; качество на ANLI заметно ниже, чем на MultiNLI. Модель рассчитана прежде всего на английский язык. Распространяется в форматах PyTorch и Safetensors; сведения о лицензии в предоставленных источниках отсутствуют.
ai4data разработала DevData Search MiniLM L6 CGIST — биэнкодер для получения векторных представлений и поиска по структурированным статистическим метаданным. Модель дообучена на DevDataBench на основе sentence-transformers/all-MiniLM-L6-v2 с функцией потерь CGIST. Архитектура — плотный BERT-энкодер примерно на 25,9 млн параметров; максимальная длина последовательности — 512 токенов. При обучении использовались перестановка порядка полей и исключение части полей, чтобы модель связывала значения с названиями полей, а не с их позицией в записи. Она подходит для векторизации запросов и описаний наборов данных, семантического поиска и сравнения статистических метаданных. Это модель для построения retrieval-систем, а не готовый хостинг поиска. Лицензия — Apache-2.0.
Davlan разработал distilbert-base-multilingual-cased-ner-hrl — мультиязычную модель распознавания именованных сущностей на базе DistilBERT, дообученную на корпусах новостных текстов. Она размечает токены как части имён людей (PER), организаций (ORG) и мест (LOC), а также как текст вне сущностей. Подходит для извлечения этих сущностей из текстов на арабском, немецком, английском, испанском, французском, итальянском, латышском, нидерландском, португальском и китайском языках. Модель использует архитектуру DistilBertForTokenClassification и поддерживает контекст до 512 токенов. Её можно применять через pipeline NER в Transformers для извлечения имён, компаний и географических названий из новостных и похожих текстов. Доступны форматы PyTorch, safetensors и TensorFlow. Модель выпущена по лицензии AFL-3.0. Качество может снижаться на других жанрах и в предметных областях, поскольку обучающие данные состоят из аннотированных новостных статей определённого периода.
Модель Карла Вайнмайстера — англоязычная версия DistilBERT, дообученная на наборе MultiNLI для классификации текстовых последовательностей и оценки сходства предложений. Она принимает текст и выдаёт оценки классов; подходит для сравнения предложений и задач понимания текстовых пар. Модель основана на DistilBERT с архитектурой DistilBertForSequenceClassification, опубликована в формате safetensors и поддерживает контекст до 512 токенов. Лицензия — Apache-2.0.
tardellirs/embeddinggemma-pt-br-128k — португалоязычная модель для создания текстовых эмбеддингов, полученная из google/embeddinggemma-300m. Разработчик сократил словарь токенизатора до 128 тысяч токенов, обрезав матрицу эмбеддингов токенов; трансформерный энкодер и слои pooling и Dense сохранены без изменений. В репозитории указаны 202,1 млн параметров в метаданных и около 207 млн в README. Модель предназначена для семантического поиска, сравнения предложений и других сценариев, где нужны векторные представления текста на португальском языке. README приводит результат MTEB(por) mean_16 0,7192 — 99,1% результата исходной модели при меньшем размере. Контекст модели — 2048 токенов; для использования подходят Sentence Transformers и text-embeddings-inference. Это артефакт сокращения словаря, а не дообучение: README сообщает, что обучение не проводилось. Модель распространяется по лицензии Gemma; качество за пределами португальских задач не подтверждено, а сокращение словаря может ограничивать работу с текстами на других языках.
smartmind/ko-sbert-augSTS-maxlength512 — модель эмбеддингов предложений на базе BERT, опубликованная smartmind. Она преобразует предложения и абзацы на корейском языке в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения семантической близости. Вариант основан на snunlp/KR-SBERT-V40K-klueNLI-augSTS и поддерживает входную последовательность длиной до 512 токенов. Модель подходит для семантического поиска и группировки корейских текстов, а также может использоваться как представление текста в задачах классификации документов. В README приведён результат 0,8628 для KR-SBERT-V40K-klueNLI-augSTS в сравнении моделей на задаче классификации документов; этот показатель не следует считать гарантией качества для данного репозитория или иных наборов данных. Доступны веса PyTorch, лицензия MIT.
LettuceDetect от KRLabsOrg — англоязычная модель для выявления галлюцинаций в ответах, сформированных по контексту, например в системах RAG. Она дообучена для классификации токенов на базе answerdotai/ModernBERT-base и возвращает оценки для отдельных токенов ответа, которые можно объединить в фрагменты, не подтверждённые контекстом. В карточке указана поддержка контекста до 8192 токенов и обучение на датасете RagTruth; метаданные указывают архитектуру ModernBertForTokenClassification и 149 млн параметров. Модель принимает контекст и ответ и выдаёт разметку токенов. Модель подходит для проверки обоснованности ответов в RAG и подсветки неподтверждённых фрагментов. В README приведены результаты на RagTruth, но без числовых показателей для этой версии. Распространяется по лицензии MIT.
Llama-3-Typhoon-1.5X-70B-instruct — диалоговая языковая модель команды SCB 10X Typhoon, созданная на основе Llama 3 70B Instruct и Typhoon 1.5 70B с помощью редактирования модели методом task arithmetic. Это плотная decoder-only модель архитектуры Llama примерно на 69,5 млрд параметров; она принимает и генерирует текст, использует шаблон чата Llama 3 и поддерживает контекст до 8192 токенов. Модель рассчитана прежде всего на тайский язык, также поддерживает английский. Её предназначение — следование инструкциям, рассуждения, ответы на вопросы и применение в RAG-сценариях и генерации с заданными ограничениями. В карточке приведены результаты тестов ThaiExam, MMLU, MT-Bench и IFEval, включая оценки на тайском и английском. Разработчики отмечают экспериментальный характер модели и рекомендуют отдельно оценивать её риски для конкретного применения. Модель распространяется по лицензии Llama 3 Community License; для работы указана Transformers версии 4.38.0 или новее.
Metis-8B-RL — мультимодальный агент для рассуждений по тексту и изображениям, разработанный Accio-Lab в рамках фреймворка Metis. Это финальный чекпойнт обучения с подкреплением по алгоритму Hierarchical Decoupled Policy Optimization (HDPO), обученный на основе Metis-8B-ColdStart; метаданные также связывают модель с Qwen3-VL-8B-Instruct. Модель ведёт многоходовый диалог и выбирает, когда задействовать инструменты выполнения кода, текстового поиска и поиска изображений. Модель предназначена для визуального рассуждения, понимания документов, математических и логических задач с изображениями и текстом, а также для агентных сценариев с выборочным использованием инструментов. В README заявлено снижение доли вызовов инструментов с 98% до 2% и высокие результаты на 13 бенчмарках открытых агентных моделей с 8 млрд параметров. Архитектура — плотная Qwen3-VL для условной генерации; веса опубликованы в safetensors и используются через Transformers. Метаданные указывают английский язык. Лицензия — Apache-2.0. Для полного запуска требуются внешние инструменты и зависимости, описанные в проекте; приведённые в карточке заявления о качестве основаны на бенчмарках разработчиков.
MyAwesomeModel — модель на базе архитектуры BERT, опубликованная в репозитории ASDASD12321WSX/MyAwesomeModel-TestRepo и предназначенная для извлечения признаков из текста. В метаданных Hugging Face указаны библиотеки Transformers и PyTorch, а также задача feature-extraction. Модель можно использовать для получения векторных представлений текста в задачах семантического поиска, кластеризации, сравнения текстов и построения прикладных классификаторов поверх эмбеддингов. README также содержит заявления о способностях к рассуждению, генерации кода, диалогу, суммаризации и другим задачам, однако эти возможности не подтверждены указанным pipeline-тегом и описанием архитектуры. Модель распространяется по лицензии MIT. Размер, длина контекста, поддерживаемые естественные языки и точные сведения о разработчике в доступных данных не указаны.
MyAwesomeModel — модель из репозитория SAD1D1321321/MyAwesomeModel-TestRepo, опубликованная для извлечения признаков из текста. В метаданных Hugging Face она обозначена как модель для задачи feature-extraction и связана с экосистемой Transformers и PyTorch; тег BERT указывает на использование архитектуры или семейства BERT. Модель предназначена для получения векторных представлений текста, которые можно применять в семантическом поиске, кластеризации, классификации, оценке сходства и других задачах обработки естественного языка. README также заявляет о возможностях рассуждения, генерации текста, ответов на вопросы, программирования, вызова функций и снижении галлюцинаций, однако эти характеристики не согласуются с основным pipeline-тегом feature-extraction и не подтверждены техническими сведениями о конфигурации модели. Модель распространяется по лицензии MIT. Размер, длина контекста, поддерживаемые естественные языки и точные архитектурные параметры в доступных данных не приведены. Для практического использования следует проверить конфигурацию и фактическое назначение модели перед применением в продуктивных системах.
Это англоязычная модель распознавания именованных сущностей: энкодер BERT base uncased с головой классификации токенов, дообученный на наборе CoNLL-2003. Она присваивает метку каждому токену и выделяет людей, организации, местоположения и прочие сущности в новостном тексте. Модель содержит 136,7 млн параметров, использует контекст до 512 токенов и доступна в формате safetensors через библиотеку Transformers. На тестовой выборке CoNLL-2003 указаны precision 0,896, recall 0,909 и F1 0,902 на уровне сущностей; слабее всего модель распознаёт класс MISC. Она рассчитана на английские новости, а uncased-токенизатор не сохраняет регистр и может разбивать многословные сущности на подслова; для объединения фрагментов в сущности README рекомендует aggregation_strategy="simple". Лицензия — Apache-2.0.
Nemotron-Orchestrator-8B — языковая модель на основе decoder-only Transformer, разработанная NVIDIA и Университетом Гонконга для координации инструментов и экспертных моделей при решении сложных многошаговых задач. Она дообучена на Qwen/Qwen3-8B методом GRPO и содержит около 7,6 млрд параметров; нативный размер контекста — 40 960 токенов. Модель предназначена для агентных сценариев с несколькими ходами: выбора и вызова инструментов, включая поиск и выполнение кода, а также передачи задач другим языковым моделям. В карточке заявлены обучение с учётом точности, стоимости, задержки и предпочтений пользователя и способность работать с незнакомыми наборами инструментов. Основной указанный язык — английский. По данным карточки, на Humanity’s Last Exam модель набрала 37,1%; также заявлены результаты на FRAMES и τ²-Bench. Эти показатели приведены разработчиками и сами по себе не гарантируют аналогичное качество в конкретном приложении. Модель предназначена для исследований и разработок; распространяется по лицензии NVIDIA.
Модель legalvn/paraphrase-multilingual-MiniLM-L12-v2-vn-171000 — дообученная на вьетнамских парах текстов модель Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически близких текстов, сравнения сходства, поиска перефразирований, кластеризации и классификации текста. Архитектура включает BERT с усреднением токенных представлений; карточка указывает максимум 128 токенов на последовательность, а метаданные — контекст до 512 токенов. Для сравнения векторов применяется косинусное сходство. Модель содержит 124,3 млн параметров и распространяется в формате safetensors. Примеры обучающих данных и название модели указывают на специализацию на вьетнамском языке, в том числе на текстах юридической тематики; README также описывает её как многоязычную. Лицензия в предоставленных данных не указана. Качество для конкретной области или языка следует оценивать на собственных данных; длина последовательности в карточке ограничена 128 токенами.
Карточка модели patentory/patentory_model на Hugging Face совпадает с карточкой LeopoldBloom2K/patentscout-models, поэтому описание составлено по ней. LeopoldBloom2K/patentscout-models — дообученная модель Sentence Transformers на базе mpi-inno-comp/paecter для преобразования английских предложений и абзацев в плотные эмбеддинги. Она использует архитектуру BERT с усреднённым пулингом токенов, формирует векторы размерности 1024 и сравнивает их по косинусному сходству. Максимальная длина входа — 512 токенов; модель опубликована в формате safetensors и рассчитана на работу с библиотекой Sentence Transformers. Модель подходит для семантического поиска и сравнения патентных текстов, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Обучение описано как дообучение с MultipleNegativesRankingLoss на наборе из 250 примеров с парами и отрицательными примерами. Лицензия в предоставленных данных не указана.
vitdangyeu/Pbert_embedding_v2 — модель Sentence Transformers на архитектуре RoBERTa, обученная разработчиком репозитория для получения векторных представлений предложений и абзацев. Она отображает текст в плотное пространство эмбеддингов размерностью 1024 и использует косинусное сходство для сравнения текстов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. В карточке приведены примеры вьетнамских юридических текстов и набор из 50 857 пар предложений с метками; это указывает на специализацию обучения на вьетнамском языке и налогово-правовых материалах. Максимальная длина последовательности — 258 токенов по метаданным; README указывает лимит 256 токенов. Размер модели — 468,2 млн параметров, выход — векторы размерностью 1024. Распространяется в формате safetensors; лицензия в предоставленных данных не указана.
npc0/qwen3-embedding-rerank-projection — экспериментальная проекционная голова, дообученная автором репозитория на замороженных эмбеддингах Qwen/Qwen3-Embedding-0.6B. Она преобразует векторы размерности 1024 в нормализованные векторы размерности 256, пригодные для ранжирования документов по скалярному произведению. Модель предназначена для повторного ранжирования кандидатов семантического поиска: документы можно заранее закодировать, а затем сопоставлять с запросами по векторам. README приводит оценку на BEIR-nq с кандидатами BM25: nDCG@10 0,4354. Данные обучения преимущественно китайские, также использовались MS MARCO и NQ; проверка на BEIR-nq проводилась на английском. Модель основана на Qwen3-Embedding-0.6B и использует многослойную проекционную голову с нормализацией, ReLU и dropout. Это дообученный артефакт в формате safetensors, распространяемый по лицензии Apache-2.0. Проекция сжимает представление с потерями и ограничена информацией о релевантности, уже содержащейся в сходстве исходных эмбеддингов.
rasyosef разработал амхароязычную модель эмбеддингов предложений Sentence Transformers, дообученную из rasyosef/roberta-base-amharic на наборе amharic-passage-retrieval-dataset. Модель на базе XLM-RoBERTa содержит 137,8 млн параметров, принимает текстовые последовательности длиной до 512 токенов и преобразует предложения и абзацы в плотные векторы размерностью 768 с нормализацией; сходство можно оценивать косинусной мерой. Модель предназначена для семантического поиска и извлечения амхароязычных фрагментов, сравнения предложений, поиска перефразирований, кластеризации и классификации текста. В опубликованной оценке поиска на амхарском наборе данных точность cosine_accuracy@5 составляет 0,8712 для полного 768-мерного представления и 0,8649 при усечении до 256 измерений. Модель поддерживает амхарский язык и распространяется по лицензии Apache-2.0. Это модель векторных представлений, поэтому она возвращает эмбеддинги, а не готовые ответы или сгенерированный текст; результаты за пределами амхарского поиска и перечисленных оценок README не характеризует.
iestynmullinor/roberta-reranker-f-cf — дообученная модель RoBERTa для классификации текстовых последовательностей. Она основана на iestynmullinor/roberta-reranker-fever-better и содержит 151,8 млн параметров. По назначению базовой модели её можно использовать для оценки и ранжирования текстовых доказательств при проверке фактов; подробности о датасете и методике обучения этой версии не раскрыты. Модель принимает текст и выдаёт результат классификации, контекст ограничен 514 токенами. Модель опубликована в формате safetensors и распространяется по лицензии MIT. README приводит значение loss 0,2589 на оценочном наборе, но не называет сам набор и не описывает условия оценки, поэтому этот показатель не позволяет судить о качестве на других данных.
stefra разработал модель roberta-unical-old на базе дообученной FacebookAI/roberta-large. Это энкодер архитектуры UNICAL, обученный методом statement tuning для оценки утверждений относительно текста-состояния: модель возвращает вероятность истинности каждого утверждения и не генерирует текст. Блочная двунаправленная маска внимания позволяет оценивать несколько утверждений в одном запросе независимо друг от друга, что предназначено для быстрой фильтрации семантических утверждений. Модель работает через Transformers и содержит собственный код архитектуры; на GPU может загружаться в float16. Модель подходит для классификации по заданным категориям, когда их можно представить как утверждения, а также для оценки и ранжирования таких утверждений по вероятности истинности. В README приведены результаты проверки на нескольких наборах данных, включая отдельные задачи, не встречавшиеся при обучении; качество на них различается, поэтому перенос на новые домены требует проверки. Языковая ориентация следует от англоязычной базовой RoBERTa-large. Сведения о лицензии в предоставленных данных отсутствуют.
SciEmbed-CTX — дообученная модель эмбеддингов научных документов из выпуска SciEmbed. Она построена на encoder-only архитектуре ModernBERT-base и содержит 149 млн параметров. Модель обучали контрастивным методом на парах предложений из научных документов, используя контекст цитирования как основной обучающий сигнал; описанный результат получен на подвыборке из 7 млн пар за три эпохи. Модель предназначена для преобразования научных текстов в векторы, пригодные для поиска и оценки семантической близости. В README приведены результаты SciRepEval по классификации, регрессии, близости и поиску, а также пример применения Sentence Transformers с нормализацией эмбеддингов. Поддерживается контекст до 8192 токенов; основной язык карточки — английский. Лицензия — MIT.
myrkur/sentence-transformer-parsbert-fa — Sentence Transformers модель, дообученная на базе HooshvareLab/bert-base-parsbert-uncased для поиска семантически близких персидских предложений и абзацев, в том числе в системах RAG, вопросно-ответных системах и чат-ботах. Архитектура включает BERT и mean pooling; модель преобразует текст в плотные векторы размерности 768, а сходство можно оценивать косинусной мерой. Модель рассчитана на персидский язык, использует библиотеку sentence-transformers и принимает последовательности длиной до 512 токенов. Для подготовки модели указан датасет Gholamreza/pquad. Модель распространяется по лицензии Apache-2.0. Она предназначена для поиска и сопоставления текстов, а не для самостоятельной генерации ответов; качество на других языках и вне задач семантического поиска не подтверждено.
stackoverflow_mpnet-base — модель эмбеддингов предложений, разработанная в рамках Community Week Hugging Face для проекта по обучению моделей sentence embeddings. Она основана на microsoft/mpnet-base и дообучена сиамской сетью с контрастивной целью на 18,56 млн пар заголовков и текстов вопросов Stack Overflow; в качестве эмбеддинга используется mean pooling скрытых состояний. Веса доступны в формате PyTorch, размер модели — 136,7 млн параметров, контекст — до 514 токенов. Модель кодирует текст в векторы для семантического поиска, сравнения сходства и кластеризации. Она ориентирована на технические вопросы и ответы Stack Overflow, поэтому особенно подходит для поиска похожих вопросов и семантической навигации по базе знаний разработчиков. Карточка описывает обучение с последовательностями до 128 токенов; более длинные входы могут не соответствовать режиму обучения. Лицензия в предоставленных данных не указана.
shibing624/text2vec-base-chinese-sentence — модель text2vec, разработанная проектом text2vec. Это дообученный методом CoSENT китайский энкодер предложений на базе nghuyong/ernie-3.0-base-zh. Модель преобразует предложение или короткий абзац в плотный вектор размерностью 768 для сравнения семантической близости; она предназначена для поиска по смыслу, сопоставления текстов, кластеризации и задач sentence-to-sentence. Архитектура основана на ERNIE, размер модели — 144 млн параметров. Контекст модели составляет до 2048 токенов по метаданным, а карточка указывает усечение входа после 256 word pieces. Модель обучена на отобранных китайских данных семантической близости shibing624/nli-zh-all и рассчитана прежде всего на китайский язык. Она выдаёт векторные представления, пригодные для поиска и ранжирования по косинусной близости. По карточке приведены оценки на китайских наборах NLI и STS, но они не дают гарантии качества на других языках и доменах. Распространяется по лицензии Apache-2.0.
WebOrganizer/TopicClassifier — англоязычный классификатор веб-страниц по темам, разработанный WebOrganizer на основе Alibaba-NLP/gte-base-en-v1.5. Модель принимает URL страницы и её текстовое содержимое и распределяет страницу по 24 категориям. Это дообученная плотная энкодерная модель с архитектурой sequence classification, примерно 136,7 млн параметров, максимальным контекстом 8192 токена и весами в формате safetensors. Модель предназначена для тематической организации веб-контента и классификации страниц при построении каталогов или обработке больших коллекций URL и текстов. Обучение проходило в два этапа на наборах WebOrganizer с аннотациями, созданными Llama 3.1: сначала на 1 млн документов, затем на 100 тыс. документов. README рекомендует для ускоренного вывода реализацию gte-base-en-v1.5 с unpadding и memory-efficient attention; для этого требуется xformers. Сведения о лицензии в предоставленных данных отсутствуют.
AfriTeVa V2 Base — мультиязычная модель семейства T5 версии 1.1, разработанная авторами исследования о качестве предобучающих данных и моделей T5 для африканских языков. Модель предобучена на корпусе Wura с размером словаря 150 000 токенов. В метаданных каталога указано 214,4 млн параметров; в README приведено другое значение — 428 млн параметров. Модель служит базой для дообучения на классификацию текста, машинный перевод, суммаризацию и межъязыковой вопросно-ответный поиск. В исследовании она превзошла существовавшие базовые модели на этих задачах, а на оценке межъязыкового QA показала результат более чем вдвое выше multilingual T5. Она ориентирована на африканские языки, включая амхарский, хауса, игбо, суахили, йоруба и зулу, а также поддерживает английский, французский и португальский. Лицензия — Apache-2.0. При дообучении рекомендуется повторно включить dropout, отключённый во время предобучения. Приведённые результаты относятся к оценкам из исследования и не гарантируют качество на произвольных данных.