I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельKaousheik/tempo-ablation-naive — экспериментальный чекпойнт TEMPO, разработанный для временной привязки содержания аудио. Он дообучен на базе NVIDIA Audio Flamingo 3: аудиоэнкодер Whisper-large соединён с языковой моделью Qwen2-7B через MLP-проектор. Модель принимает аудио и текстовый запрос с тегом задачи и выдаёт текст с временными метками; охватывает речь, звуки и музыку, поддерживает распознавание речи, диаризацию говорящих, плотное описание аудио и поиск интервалов по текстовому запросу. Этот вариант «Table 3 — Naive» создан для абляционного эксперимента на подмножестве из 2 000 примеров. В нём отключены учитывающая расстояние функция потерь и проектор с временным кодированием, поэтому опубликованные результаты уступают более полным вариантам TEMPO. Модель рассчитана на английский язык; метки времени ограничены 60 секундами, а записи большей длины нужно разбивать на фрагменты. Распознавание речи нескольких говорящих остаётся сложным, музыкальные оценки приблизительны, а метки говорящих согласованы только внутри отдельной записи. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели.
twitter-roberta-base-emotion-multilabel-latest — англоязычная модель Cardiff NLP для многометочной классификации эмоций в сообщениях Twitter. Она дообучена на основе cardiffnlp/twitter-roberta-base-2022-154m на наборе SemEval 2018 Task 1 Affect in Tweets, подзадача E-c. Модель принимает текст и может присваивать сообщению несколько эмоциональных меток одновременно. Модель построена на архитектуре RoBERTa и содержит 151,8 млн параметров; нативная длина контекста — 514 токенов. Для тестовой выборки указаны micro-F1 0,7169, macro-F1 0,5464 и средний Jaccard Index 0,5970. Метаданные указывают форматы PyTorch и TensorFlow. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
UniME-Phi3.5-V-4.2B — мультимодальная модель для получения эмбеддингов по тексту и изображениям, основанная на Microsoft Phi-3.5-vision-instruct и дообученная командой DeepGlint-AI. Она предназначена для мультимодального поиска и оценки сходства: сопоставляет запросы с изображениями или текстами и помогает находить релевантные элементы в наборах данных. В карточке заявлен результат на верхней позиции таблицы MMEB для обучения с разрешением изображений 336×336. Модель использует архитектуру Phi-3 Vision с 3,7 млрд параметров, работает с текстом и изображениями и имеет контекст до 4096 токенов. При обучении донастраивался только языковой компонент; остальные параметры были заморожены. Для обучения использовались дистилляция текстовых представлений и настройка инструкций с подбором сложных негативных примеров. Лицензия — MIT. Карточка описывает метод обучения и результат на MMEB, но не приводит подробностей об использовании модели для извлечения эмбеддингов, форматах векторов или оценках релевантности. Поэтому заявленный результат не заменяет независимую проверку на целевых данных.
Vietnamese_Embedding — модель Sentence Transformer, разработанная nrl-ai и дообученная на базе BAAI/bge-m3 для улучшения поиска по вьетнамским текстам. Она преобразует запросы и документы в векторы размерностью 1024; для сравнения используется скалярное произведение. Обучение проводилось примерно на 300 тысячах троек «запрос, релевантный документ, нерелевантный документ». README указывает максимальную длину последовательности 2048 токенов, тогда как метаданные каталога указывают нативный контекст 8194 токена. Модель предназначена для семантического поиска и извлечения релевантных документов на вьетнамском языке. В README приведена оценка на наборе Legal Zalo 2021, который не использовался при обучении: Accuracy@1 — 0,7274, MRR@10 — 0,8181. Метаданные также отмечают поддержку извлечения признаков и сходства предложений. Лицензия — Apache 2.0.
Nachuwu/wav2vec2-fleur-mms-batch6-epoch16 — модель автоматического распознавания речи на архитектуре Wav2Vec2, дообученная на базе facebook/mms-1b-FL102 на наборе данных audiofolder. Модель принимает аудио и выдаёт распознанный текст; карточка сообщает о размере 1,3 млрд параметров. На оценочной выборке указаны loss 0,9813 и WER 0,4603. Эти значения описывают только приведённую оценку и не гарантируют качество на других данных. Лицензия — CC BY-NC 4.0, допускающая использование с указанием авторства и запрещающая коммерческое применение.
wav2vec2-large-slavic-parlaspeech-hr — модель автоматического распознавания хорватской речи от разработчиков Classla. Она основана на facebook/wav2vec2-large-slavic-voxpopuli-v2 и дообучена на 300 часах записей и расшифровок заседаний хорватского парламента из набора ParlaSpeech-HR v1.0. Архитектура — Wav2Vec2ForCTC семейства wav2vec2; размер составляет 402,7 млн параметров. Модель принимает аудио и выдаёт текстовую расшифровку. Модель подходит для транскрибирования выступлений и записей парламентских заседаний на хорватском языке. На тестовой части ParlaSpeech-HR v1.0 указаны CER 0,0222 и WER 0,0679; отдельная версия с языковой моделью показала лучшие метрики CER и WER. Лицензия в предоставленных материалах не указана.
BauyrjanQ/whisper-kk — модель распознавания речи на базе Whisper-small от OpenAI, дообученная для автоматического преобразования речи в текст. Она подходит для транскрибирования аудио; в README приведена оценка WER 24,8145 на тестовом наборе, однако датасет и условия оценки не описаны. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и формат PyTorch. Репозиторий создан 7 июля 2023 года. Лицензия — Apache-2.0.
whisper-large-v3-bn-cv17 — модель распознавания речи, дообученная разработчиком на базе openai/whisper-large-v3 на наборе Common Voice 17.0 и данных IIT Madras SPRING-INX. Она предназначена для преобразования речи в текст; архитектура Whisper содержит около 905,2 млн параметров. На оценочном наборе указаны loss 0,0669 и WER 30,8364. Лицензия модели в предоставленных данных не указана.
TalTechNLP дообучила мультиязычную модель OpenAI Whisper large-v3-turbo для автоматического распознавания речи. Обучение включало 1400 часов аудио с вручную подготовленными дословными транскрипциями на эстонском языке, около 4000 часов эстонских новостных аудиозаписей с автоматически созданными транскрипциями и контекстной подсказкой, а также около 500 часов англоязычных подкастов и видео YouTube. Модель особенно рассчитана на эстонскую речь с английскими терминами и фрагментами, например в технических подкастах. Это плотная модель семейства Whisper с архитектурой WhisperForConditionalGeneration и 905,2 млн параметров. Она принимает аудио и выдаёт текст; использовать её можно через Transformers, а опубликованный вариант в формате GGML — с инструментами на базе whisper.cpp. Лицензия — MIT. Карточка не сообщает отдельные метрики качества или гарантии точности распознавания.
zeynepgulhan/whisper-medium-mediaspeech-cv-tr — дообученная модель распознавания речи на базе openai/whisper-medium, разработанная автором репозитория. Она предназначена для преобразования аудио в текст; в карточке приведены результаты оценки: loss 0,1813 и WER 9,9776. Модель содержит 455,8 млн параметров, построена на архитектуре Whisper и распространяется в формате PyTorch. Базовая Whisper-medium мультиязычная, однако язык и особенности обучающих данных этой дообученной версии не установлены: README ссылается на набор данных «None» и не раскрывает область применения. Лицензия — Apache-2.0. Оценка WER приведена без описания набора тестов и условий измерения, поэтому её нельзя напрямую переносить на другие данные.
BlueRaccoon/whisper-small-uz — модель автоматического распознавания речи, созданная участником мероприятия Whisper fine-tune sprint. Это дообученная версия openai/whisper-small с архитектурой Whisper и 153,1 млн параметров; она принимает аудио и преобразует речь в текст на узбекском языке. Обучение и оценка проводились на узбекских данных Mozilla Common Voice 11 и Google FLEURS. В оценке указана частота ошибок слов (WER) 23,65 на тестовом наборе Common Voice 11 и 47,15 на FLEURS. Эти результаты относятся к указанным наборам и не гарантируют такое же качество на других записях. Модель распространяется по лицензии Apache-2.0.
Yi-Ko-6B-instruct-v2.0 — корейская инструкционная языковая модель семейства Llama, разработанная автором репозитория cocoirun. Модель дообучена методом SFT с LoRA на примерно 110 тысячах примеров, собранных из открытых NLP-данных и вручную подготовленных материалов. В обучение вошли задания по истории, естественным наукам, математике, машинному чтению, анализу отзывов, обобщению, грамматике и общим знаниям, а также корейско-английские и англо-корейские переводы. Модель предназначена для генерации ответов и выполнения инструкций на корейском и английском языках. В карточке указаны 5,9 млрд параметров, архитектура LlamaForCausalLM и контекст 2048 токенов. Автор сообщает об использовании LoRA и двух ускорителей A100 40G при обучении; обучающие данные закрыты. Репозиторий распространяется в формате safetensors по лицензии CC BY-SA 4.0. Качество может зависеть от тематики и формулировки запроса; в карточке нет количественных оценок качества или подробных результатов тестирования. Модель ориентирована на текстовые задачи и не заявлена как специализированная система для отдельных прикладных областей.
Athena-1 0.5B — компактная инструктивная языковая модель, дообученная aayanmishra-ml на основе Qwen/Qwen2.5-0.5B-Instruct. Она содержит 494 млн параметров, использует архитектуру Qwen2 для генерации текста и рассчитана на запуск в условиях ограниченных вычислительных ресурсов, включая edge-устройства. Метаданные указывают контекст до 32 768 токенов; в README заявлены 16 384 токена и генерация до 4 000 токенов за ответ. Модель предназначена для диалогов и выполнения инструкций, а также для базовой помощи с кодом и математикой, анализа и краткого пересказа небольших документов, работы с таблицами и JSON. README заявляет поддержку более 20 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский и тайский; карточка указывает английский. Модель поставляется в формате PyTorch под лицензией Apache-2.0. Небольшой размер удобен для ресурсов с ограничениями, однако заявленные возможности кодирования и математики описаны как базовые.
DeepPavlov/bert-base-cased-conversational — англоязычная разговорная модель BERT, разработанная DeepPavlov на основе английского BERT-base с сохранением регистра. Она обучалась на англоязычных сообщениях Twitter и Reddit, диалогах DailyDialogues, субтитрах OpenSubtitles, дебатах, блогах и комментариях к новостям Facebook. Модель предназначена для извлечения контекстных признаков из текста; карточка также сообщает о загрузке версии с MLM- и NSP-головами. Архитектура — BERT-base: 12 слоёв, скрытый размер 768 и 12 голов внимания. В README указано 110 млн параметров, а в метаданных — 135,5 млн; контекст составляет до 512 токенов. В метаданных отмечены английский язык и форматы PyTorch и Flax. Модель подходит для получения контекстных представлений разговорного английского текста, которые можно использовать в последующих NLP-задачах. Она не является генеративным чат-ботом и сама по себе не предназначена для свободной генерации ответов. Лицензия в предоставленных данных не указана.
Bioformer-16L-UMLS-Pubmed_PMC-Forward_TCE-Epoch-2 — модель Sentence Transformer на архитектуре BERT, представленная пользователем pankajrajdeo. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска и сравнения текстов по смыслу. Модель обучалась на парах anchor–positive из набора parquet; название указывает на связь с биомедицинскими текстами UMLS, PubMed и PMC, однако README не раскрывает подробности происхождения данных или обучения. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов. В README указаны максимальная длина последовательности 1024 токена и косинусная мера сходства; метаданные подтверждают 50,3 млн параметров и формат safetensors. Обучающие примеры англоязычные, поэтому модель ориентирована на английский. Лицензия в предоставленных сведениях не указана. Результаты зависят от предметной области и качества текста; README не приводит оценки на независимых тестах, а заявленная связь с биомедицинскими источниками не сопровождается описанием состава или качества датасета.
hfl/chinese-pert-base — китайская модель семейства BERT, опубликованная HFL. Это плотный трансформер BertModel примерно на 129,5 млн параметров, предназначенный для извлечения признаков из текста; README рекомендует загружать её средствами для BERT. Модель принимает текст и формирует контекстные векторные представления токенов, которые можно использовать как признаки в последующих задачах обработки китайского языка. Контекст модели составляет 512 токенов. Доступны веса PyTorch и TensorFlow. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные материалы на тех же условиях; лицензия также ограничивает коммерческое использование. Карточка находится в разработке и отсылает за дополнительными сведениями к репозиторию GitHub.
CLIP ViT-B/32 — модель сопоставления изображений и текста, обученная Romain Beaumont с помощью OpenCLIP на англоязычной подвыборке из 2 млрд пар LAION-5B. В репозитории представлены веса PyTorch и safetensors; модель использует архитектуру CLIP с визуальным энкодером ViT-B/32. Модель предназначена для классификации изображений по произвольным текстовым меткам без отдельного обучения, а также для поиска изображений по текстовому запросу и поиска текста по изображению. Её можно применять в исследованиях, при настройке классификаторов и для управления генерацией изображений. В README указана точность zero-shot классификации ImageNet-1k 66,6% top-1. Модель ориентирована на английский язык и не оценивалась специально на других языках. README не рекомендует развёртывание в продуктах и неконтролируемое применение без тщательной проверки на конкретных данных и фиксированном наборе классов; распознавание лиц и задачи наблюдения обозначены как недопустимые сценарии. Обучающие данные собраны из интернета и не были полностью отфильтрованы, поэтому возможны смещения и нежелательные результаты. Лицензия репозитория — MIT.
Data2Vec-Audio-Large-960h — акустическая модель Facebook для автоматического распознавания английской речи. Это крупная Transformer-модель семейства data2vec с архитектурой Data2VecAudioForCTC и 402,7 млн параметров; она предварительно обучена и дообучена на 960 часах аудио из LibriSpeech. Модель принимает речь с частотой дискретизации 16 кГц и выводит текстовую транскрипцию. Модель предназначена для транскрибирования аудиозаписей и оценки систем распознавания речи на наборах LibriSpeech. В карточке приведены результаты WER 1,89 для раздела clean и 4,07 для other. Эти показатели относятся к указанной оценке на LibriSpeech и не гарантируют аналогичного качества на других данных. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Она рассчитана на английскую речь и требует аудио с частотой 16 кГц; карточка не описывает поддержку других языков или сценариев работы.
tarruda/DeepSeek-V4-Flash-Vision-Exp-GGUF — набор GGUF-квантизаций модели DeepSeek-V4-Flash-Vision-Exp, первоначально опубликованной командой DeepSeek. Модель предназначена для мультимодальных диалоговых сценариев, в которых требуется обрабатывать изображения и текст и генерировать текстовые ответы. Доступны варианты Q2_K, IQ3_XXS и Q3_K размером примерно от 95 465 до 122 297 MiB. В комплект входят отдельные файлы модели и мультимодального проектора mmproj; в примере использования указан контекст 262 144 токена. Квантизации используют importance matrix из 726 записей и 812 фрагментов. README не сообщает точные архитектурные параметры, число параметров и перечень поддерживаемых языков. Основные преимущества — возможность запуска в формате GGUF и наличие нескольких вариантов компромисса между размером и качеством, включая прямые конверсии исходных MXFP4-весов DeepSeek. Ограничение заключается в том, что модель пока не поддерживается основной веткой llama.cpp и требует экспериментальной ветки с поддержкой DeepSeek V4 Vision. Лицензия — MIT.
ai4data/devdata-search-minilm-l6-cmnrl — модель-биэнкодер семейства DevData Search, разработанная ai4data для поиска по структурированным статистическим метаданным. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с использованием DevDataBench и функции потерь cmnrl. Модель преобразует запросы и описания наборов данных в векторы для семантического поиска и сравнения. При обучении применялись перестановка порядка полей и исключение части полей, чтобы модель связывала смысл с названиями полей, а не с их порядком. Для работы используются Sentence Transformers; модель не является готовым хостинговым поисковым сервисом. Это англоязычный BERT-энкодер с 25,9 млн параметров и контекстом до 512 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Она предназначена для векторизации текста и сама не генерирует ответы.
pilotj/distilbert-base-uncased-fibe-v8-finetuned — дообученная модель семейства DistilBERT для классификации текстов. Она основана на biggy-smiley/distilbert-base-uncased-fibe-v5 и использует архитектуру DistilBertForSequenceClassification. Модель предназначена для отнесения входного текста к классам; подробности о метках и целевых сценариях в карточке не раскрыты. Модель работает с текстом и имеет контекстное окно до 512 токенов. В README приведены результаты оценки: eval_loss 0,7672 после примерно 1,86 эпохи обучения; название обучающего набора данных отсутствует. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
EVA-LLaMA-3.33-70B-v0.0-GGUF — это квантизированная версия большой языковой модели EVA-LLaMA-3.33-70B-v0.0, разработанной EVA-UNIT-01 и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. В README указано использование наборов данных для инструкционного обучения, письма, ролевого взаимодействия и генерации структурированных ответов. Модель содержит 70B параметров и относится к семейству LLaMA; точная архитектура, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Доступны варианты квантизации от Q8_0 до Q3 и IQ3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Наиболее качественными считаются Q8_0 и Q6_K, а Q4_K_M, Q4_K_S и IQ4_XS предназначены для более сбалансированного локального использования. Некоторые варианты оптимизированы для ARM или AVX и имеют ограничения по совместимости с устройствами Apple. Сильными сторонами являются большой размер модели, ориентация на качественную генерацию текста и широкий выбор уровней квантизации. Ограничения включают значительные требования к оперативной памяти: размер файлов составляет примерно от 27 до 75 ГБ, а снижение разрядности может ухудшать качество. Модель предназначена для текстовых задач; сведения о мультимодальности, результатах оценивания и конкретных ограничениях безопасности отсутствуют. Лицензия указана как eva-llama3.3 с типом other; дополнительные условия в README не приведены.
rookshanks/gemma_300m_grocery — модель Sentence Transformer, дообученная разработчиком на базе google/embeddinggemma-300m для поиска и сравнения текстов о продуктах и товарах в продуктовом каталоге. Она кодирует предложения и абзацы в плотные векторы размерности 768; близость векторов измеряется косинусным сходством. Модель подходит для семантического поиска, подбора похожих товаров, поиска перефразировок, кластеризации и классификации текста. Модель основана на текстовой архитектуре Gemma 3, содержит 302,8 млн параметров и принимает текстовые последовательности длиной до 2048 токенов. В обучении использовались 4571 пример с парами положительных и отрицательных соответствий; в README приведена оценка cosine_accuracy 0,7988 на наборе TripletEvaluator. Для запуска предусмотрена библиотека sentence-transformers, веса опубликованы в формате safetensors. Лицензия модели — Apache-2.0.
Карточка модели Rqwannn/grounded-bbox-base на Hugging Face совпадает с карточкой IDEA-Research/grounding-dino-base, поэтому описание составлено по ней. Grounding DINO Base — модель обнаружения объектов с открытым набором классов, представленная авторами исследования «Grounding DINO: Marrying DINO with Grounded Pre-Training for Open-Set Object Detection». Архитектура Grounding DINO объединяет детектор объектов DINO с текстовым энкодером, чтобы находить на изображении объекты, соответствующие текстовым описаниям или названиям классов. Модель предназначена для обнаружения объектов без заранее размеченных примеров для каждого класса. Её можно использовать для поиска объектов по текстовому запросу и zero-shot-детекции; в README сообщается результат 52,5 AP на COCO в режиме zero-shot. Репозиторий содержит веса PyTorch и safetensors. Модель принимает изображение и текстовый запрос, а выдаёт координаты обнаруженных объектов и оценки уверенности. Карточка не приводит сведения о поддерживаемых естественных языках или ограничениях качества по типам изображений. Лицензия — Apache-2.0.
Это модель автоматического распознавания речи на основе Arabic HuBERT-Large с CTC-декодером, дообученная авторами репозитория на наборах MGB-3 и Egyptian Arabic Conversational Speech Corpus. Она предназначена для преобразования египетской арабской разговорной речи в текст; языковая модель при декодировании не используется. Базовый HuBERT был предварительно обучен на 2 000 часах арабской речи с частотой дискретизации 16 кГц, поэтому входное аудио следует подавать с частотой 16 кГц. В README приведены WER 23,55% на валидации и 25,59% на тесте; заявленный авторами результат для египетского арабского — state of the art на момент публикации карточки. Модель содержит около 402,7 млн параметров и доступна в форматах PyTorch и Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
InternVL3.5-30B-A3B — мультимодальная модель OpenGVLab из семейства InternVL3.5, дообученная на основе OpenGVLab/InternVL3_5-30B-A3B-MPO. Она сочетает обработку изображений и текста для диалога, ответов на вопросы и решения задач на визуальное рассуждение; поддерживает многоязычные сценарии. Архитектура реализована классом InternVLChatModel и рассчитана на запуск через Transformers. В репозитории представлены веса в формате safetensors. В README описаны методы Cascade RL для улучшения рассуждений и Visual Resolution Router для динамической настройки разрешения визуальных токенов, а также варианты развертывания мультимодальной системы. Для моделей семейства размером до 30 млрд параметров заявлена возможность запуска на одном GPU A100; точный размер этой конкретной модели в приведенных данных не указан. По README семейство также поддерживает взаимодействие с GUI и embodied-сценарии, однако отдельная оценка этих возможностей для данного чекпойнта не приводится. Модель подходит для анализа изображений, визуальных вопросов и мультимодального общения. Карточка опубликована под лицензией Apache-2.0. Практическое применение требует значительных вычислительных ресурсов; качество зависит от изображения и формулировки запроса, а в предоставленной карточке нет конкретных ограничений по языкам или длине контекста.
InternVL3.5-4B-Flash — мультимодальная чат-модель OpenGVLab из семейства InternVL3.5. Она принимает изображения и текст и формирует текстовые ответы для диалога, визуального анализа и рассуждений по содержимому изображений. Вариант Flash использует Visual Resolution Router для динамической настройки разрешения визуальных токенов; семейство также поддерживает сценарии взаимодействия с графическим интерфейсом и embodied agency. Модель основана на InternVL3.5 с архитектурой InternVLChatModel и дообучена на OpenGVLab/MMPR-v1.2 и MMPR-Tiny. Карточка описывает мультиязычность, но не перечисляет отдельные языки или размер контекстного окна. Репозиторий содержит веса safetensors для Transformers. Лицензия — Apache-2.0.
jhgan/ko-sbert-multitask — модель на базе Sentence-BERT и архитектуры BERT, дообученная для получения векторных представлений корейских предложений и абзацев. Она преобразует текст в плотные эмбеддинги размерности 768 и подходит для семантического поиска, оценки сходства и кластеризации текстов. Модель обучалась на наборах KorSTS и KorNLI в режиме многозадачного обучения. В карточке приведены результаты оценки на KorSTS: корреляция Спирмена для косинусного сходства составляет 84,71. Максимальная длина контекста — 512 токенов; доступны веса PyTorch и TensorFlow. Модель рассчитана прежде всего на корейский язык. Её можно применять для поиска похожих фраз и группировки текстов, но качество за пределами корейских данных не подтверждено. Лицензия в предоставленных данных не указана.
haryads/kurdish-sentence-embeddings — модель векторных представлений предложений на центральнокурдском языке (сорани), разработанная для семантического поиска, поиска фрагментов для RAG, кластеризации и оценки сходства. Она преобразует текст в 512-мерные векторы; используется архитектура RoBERTa с усреднением токенов и L2-нормализацией. Базовая курдская RoBERTa обучена с нуля на корпусе из примерно миллиона предложений, затем модель дообучена контрастивным методом на примерно 22 тысячах пар предложений с трудными отрицательными примерами. Модель рассчитана на центральнокурдский (сорани, ckb), записанный арабским письмом. Контекст ограничен 130 токенами по метаданным. README приводит результаты на внутреннем курдском бенчмарке и сообщает о превосходстве над мультиязычной MiniLM в поиске и разделении тем; эти показатели относятся к описанным тестам. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. По README, обучение преимущественно на новостных текстах ограничивает надёжность на узкоспециализированных и разговорных данных; для них может потребоваться дообучение на профильном корпусе. Для лучших результатов рекомендуется нормализовать варианты арабских и курдских символов, ZWNJ и цифры перед кодированием.
laion/larger_clap_music_and_speech — модель CLAP от LAION, улучшенный чекпойнт, специально обученный на парах музыки, речи и текстовых описаний. Она сопоставляет аудио и текст в общем векторном пространстве: аудиокодировщик на основе Swin Transformer обрабатывает логарифмическую Mel-спектрограмму, а текстовый кодировщик RoBERTa формирует текстовые признаки. Размер модели — 132,1 млн параметров. Модель предназначена для извлечения аудио- и текстовых эмбеддингов и классификации аудио без дообучения: по аудиофрагменту можно ранжировать предложенные текстовые метки или описания по сходству. Подходит для поиска музыки и речи по тексту, классификации звуков и сопоставления аудио с описаниями. Лицензия — Apache-2.0. Качество сопоставления зависит от формулировок текстовых кандидатов и обучающих данных; модель оценивает сходство, а не генерирует текст или аудио. README не приводит ограничений по длине аудио или поддерживаемым языкам.