II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейeleldar/language-detection — модель классификации текста, разработанная на базе XLM-RoBERTa и дообученная на датасете Language Identification. Она определяет язык текстовой последовательности, выбирая один из 20 классов: арабский, болгарский, немецкий, греческий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, польский, португальский, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. Модель использует XLM-RoBERTa с классификационной головой, содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. В тестировании на сбалансированном наборе из 20 языков автор сообщает среднюю точность 99,6%; это значение относится к указанному набору и не гарантирует такую же точность на коротких, смешанных или нестандартных текстах. Модель распространяется по лицензии MIT.
Это компактная модель классификации текста для определения языка. Она разработана на базе BERT и обучена автором репозитория на наборе hac541309/open-lid-dataset, который, согласно README, содержит 121 миллион предложений на 200 языках. Архитектура — BertForSequenceClassification: 4 слоя, скрытый размер 384, 6 голов внимания и около 25,2 млн параметров. Максимальная длина входа — 512 токенов. Модель предназначена для автоматического распознавания языка коротких и длинных текстовых фрагментов, например при маршрутизации запросов, сортировке документов или предварительной обработке многоязычных данных. README сообщает об accuracy и F1 около 0,973 на оценочном наборе примерно из 12 миллионов текстов; эти показатели зависят от состава данных и не гарантируют такое же качество на произвольных текстах. В метаданных указаны языки en, fr, de, es, ar и el, а README заявляет обучение на 200 языках. Модель принимает текст и выдаёт метку языка. Она распространяется по лицензии MIT. Возможны ошибки на очень коротких, смешанных по языкам, шумных или не представленных в обучении текстах; максимальная длина обрабатываемого контекста составляет 512 токенов.
prudant/lsg_4096_sentence_similarity_spanish — модель эмбеддингов предложений на основе BERT с механизмом внимания Local Sparse Global (LSG). Она создана как адаптация hiiamsid/sentence_similarity_spanish_es для работы с более длинными последовательностями и предназначена прежде всего для вычисления сходства между предложениями и создания эмбеддингов длинных текстов. Модель обрабатывает последовательности длиной до 4096 токенов и содержит 137,1 млн параметров. Модель ориентирована на испанский язык. Эмбеддинги можно применять для сравнения предложений и поиска семантически близких фрагментов в длинных документах. LSG распределяет внимание между локальными, разреженными и глобальными позициями, что снижает вычислительную сложность при работе с длинным контекстом. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.
atasoglu/mbert-base-cased-nli-stsb-tr — модель Sentence Transformers на основе многоязычного BERT, дообученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель основана на google-bert/bert-base-multilingual-cased и обучена на наборах данных nli_tr и emrecan/stsb-mt-turkish. Она предназначена прежде всего для работы с турецким языком. Архитектура — BERT, число параметров — 205,1 млн, максимальный контекст — 512 токенов. Модель подходит для поиска смыслово близких текстов и группировки предложений. В карточке приведены результаты оценки на тестовой части STS-b, но конкретные значения здесь не представлены. Распространяется по лицензии Apache-2.0.
Fremtind/mmBERT-base-norwegian — модель Sentence Transformer, разработанная Fremtind и дообученная на базе многоязычного энкодера ModernBERT jhu-clsp/mmBERT-base. Она преобразует предложения и абзацы на норвежском языке в плотные векторы размерностью 768 для сравнения смысловой близости, семантического поиска, классификации и кластеризации текста. Модель использует архитектуру ModernBERT с 306,9 млн параметров и формат safetensors. Для дообученного Sentence Transformer стандартная максимальная длина последовательности составляет 75 токенов; базовая модель допускает контекст до 8192 токенов. Модель оценивали на норвежских задачах классификации и кластеризации из MTEBv2. Модель распространяется по лицензии MIT. Она предназначена прежде всего для норвежского языка; результаты README указывают на оценивание по ограниченному набору задач, поэтому качество на других языках и сценариях этими данными не подтверждено.
MMLW-roberta-large — польский текстовый энкодер семейства RoBERTa, разработанный для получения векторных представлений предложений и текстов. Модель содержит 533,7 млн параметров и преобразует текст в векторы размерностью 1024; максимальная длина контекста — 514 токенов. Модель дистиллирована из польского чекпойнта RoBERTa с использованием мультиязычной дистилляции: учительскими моделями были английские FlagEmbeddings (BGE), а обучающий корпус включал 60 млн пар текстов на польском и английском языках. Она предназначена для семантического сравнения, кластеризации и поиска информации, а также может служить основой для дальнейшего дообучения. Для кодирования запросов README требует добавлять префикс «zapytanie: ». В README приведены средний результат 63,23 на польском бенчмарке MTEB и NDCG@10 55,95 на польском бенчмарке поиска PIRB. Доступны веса PyTorch и Safetensors; лицензия — Apache-2.0. Модель специализирована на польском, поэтому результаты для других языков и задач за пределами описанных сценариев могут отличаться.
karsar/ModernBERT-base-hu — модель Sentence Transformers, дообученная автором на базе tasksource/ModernBERT-base-nli для получения векторных представлений венгерских предложений и абзацев. Она использует энкодер ModernBERT с усреднением токенных представлений и создаёт плотные эмбеддинги размерности 768; максимальная длина входа — 2048 токенов. Векторы предназначены для сравнения косинусного сходства. Модель подходит для семантического поиска на венгерском языке, поиска перефразирований, кластеризации текстов и классификации на основе эмбеддингов. В README приведена оценка cosine accuracy 0,7102 на all-nli-dev и 0,67 на all-nli-test; эти значения относятся к указанным наборам и не гарантируют такое же качество в других сценариях. Модель выпущена под лицензией Apache-2.0.
Parakeet RNNT 1.1B — модель автоматического распознавания речи, совместно разработанная командами NVIDIA NeMo и Suno.ai. Это крупная версия FastConformer Transducer с примерно 1,1 млрд параметров и декодером RNNT; она принимает монофоническое аудио WAV с частотой 16 кГц и возвращает текстовую расшифровку строчными буквами английского алфавита. Модель предназначена для транскрибирования английской речи в аудиозаписях, в том числе разговоров, совещаний, лекций и подкастов. Она обучена на 64 тысячах часов английской речи из частных и открытых наборов данных; в README приведены результаты оценки WER для нескольких речевых корпусов. Модель доступна через NeMo и Transformers, а также может использоваться как исходный чекпойнт для дообучения. Лицензия — CC-BY-4.0. Модель специализируется на английском языке и формате входа 16 кГц, моно; показатели качества зависят от акцента, условий записи и предметной области.
Perception Encoder Language G14-448 — визуальный энкодер Meta из семейства Perception Encoder, обученный для мультимодальных языковых сценариев. Модель извлекает визуальные признаки и предназначена для подключения к языковому декодеру, например Llama или Qwen; в карточке приведены результаты связки с Llama 3.1 8B. Особенно хорошо энкодер показывает себя в задачах OCR и анализа документов, а также в визуальном поиске и понимании изображений и видео. Чекпойнт G/14 с разрешением 448 пикселей использует контрастивное предварительное обучение и дополнительное выравнивание для языкового моделирования. В сравнении с L14-448 в описанном авторами тестировании с замороженным энкодером он показал более высокие результаты на DocVQA, InfoQA, TextVQA и ряде видеобенчмарков. Для практического применения как мультимодальной языковой модели нужен совместимый языковой декодер. Модель опубликована под лицензией Apache-2.0.
Карточка модели tomaarsen/Qwen3-VL-Embedding-8B на Hugging Face совпадает с карточкой Qwen/Qwen3-VL-Embedding-8B, поэтому описание составлено по ней. Qwen3-VL-Embedding-8B — мультимодальная модель эмбеддингов семейства Qwen, разработанная командой Qwen и дообученная на базе Qwen/Qwen3-VL-8B-Instruct. Она предназначена для поиска и сопоставления информации между текстом, изображениями, скриншотами и видео, а также для кластеризации мультимодального контента. Модель принимает отдельные модальности и их сочетания и кодирует их в общее векторное пространство. Модель содержит 8 млрд параметров, имеет архитектуру Qwen3-VL и контекст длиной до 32 тысяч токенов. Размерность эмбеддинга достигает 4096; поддерживаются настраиваемые размерности от 64 до 4096. Заявлена поддержка более 30 языков, а среди сценариев — мультимодальный и межъязыковой поиск, сопоставление текста с изображениями и видео и визуальный поиск по документам. Модель распространяется под лицензией Apache-2.0. Эмбеддинги подходят для первичного поиска и кластеризации; для уточнения порядка найденных результатов карточка рекомендует отдельную модель Qwen3-VL-Reranker. Для многоязычных сценариев README советует формулировать инструкции на английском, поскольку большинство инструкций при обучении были на этом языке.
RamManavalan/Qwen3-VL-Embedding-8B-FP8 — мультимодальная embedding-модель, представляющая собой FP8-квантизированную версию Qwen/Qwen3-VL-Embedding-8B. В README указано, что модель подготовлена для эффективного инференса с vLLM; разработчик исходной модели — Qwen, а данный вариант опубликован пользователем RamManavalan. Модель предназначена для получения векторных представлений текста, изображений, скриншотов, видео и мультимодальных комбинаций, поэтому может применяться в семантическом поиске, сопоставлении контента и мультимодальном retrieval. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размерность embedding составляет 4096, максимальная длина контекста — 32K токенов. Используется FP8_DYNAMIC-квантизация W8A8: веса слоёв декодера представлены в FP8 E4M3 с поканальным масштабированием, активации квантизуются динамически по токенам во время выполнения. Vision Encoder и выходные embedding сохраняются в BF16. Размер модели сокращён примерно с 16 до 9 ГБ, что даёт около 45% экономии памяти; калибровочные данные не требуются. Для инференса рекомендуется vLLM версии 0.14.0 или новее с pooling runner; требуется GPU NVIDIA с поддержкой FP8 и compute capability не ниже 8.9, а минимальный объём VRAM заявлен около 10 ГБ. Сильными сторонами являются поддержка нескольких модальностей, высокая эффективность инференса и сохранение большей части качества исходной модели; для FP8 заявлено обычно более 95% исходной точности, однако отдельные результаты приведены для базовой модели, а не как независимая оценка этой квантизированной версии. Ограничения включают требования к совместимому FP8-оборудованию и зависимость от vLLM или специальной конфигурации Transformers. Модель распространяется по лицензии Apache-2.0.
m3hrdadfi/roberta-zwnj-wnli-mean-tokens — модель эмбеддингов на архитектуре RoBERTa, представленная в формате PyTorch и содержащая 145,5 млн параметров. Она преобразует текст в векторные представления для извлечения признаков и вычисления сходства между предложениями. Для получения итогового представления README рекомендует использовать Sentence-Transformers либо применить подходящую операцию pooling к контекстным представлениям токенов в Transformers. Модель подходит для поиска семантически похожих предложений, группировки текстов и получения признаков для последующей обработки. Максимальная длина контекста — 514 токенов. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.
WpythonW выпустил версию cointegrated/rubert-tiny2, адаптированную для высокопроизводительного инференса эмбеддингов через vLLM. Это компактный BERT-энкодер на 29 млн параметров с контекстом до 2048 токенов. Модель формирует эмбеддинги предложений и подходит для сравнения их семантического сходства; заявлена численная эквивалентность эмбеддингов оригинальной модели при использовании float32. При преобразовании веса не менялись: удалены ненужные головы предобучения, а архитектура приведена к BertModel для совместимости с vLLM. Оптимизированный инференс с пакетной обработкой подходит для сервисов семантического поиска и сопоставления текстов. Для точного совпадения с оригиналом автор рекомендует использовать float32. Модель поддерживает русский и английский языки и распространяется по лицензии MIT. Для стандартного использования через PyTorch или Transformers автор рекомендует исходную модель cointegrated/rubert-tiny2.
Ruri v3 70M — модель текстовых эмбеддингов для японского языка, разработанная cl-nagoya на основе предварительно обученной cl-nagoya/ruri-v3-pt-70m. Это Sentence Transformer с архитектурой ModernBERT: 70 млн параметров, 13 слоёв и выходными векторами размерности 384. Модель принимает последовательности длиной до 8192 токенов и использует токенизатор SentencePiece, которому не требуется внешняя сегментация японского текста. Модель предназначена для семантического поиска, оценки сходства предложений, классификации, кластеризации и ранжирования японских текстов. В JMTEB она показывает средний результат 75,48; сходство вычисляется по косинусной мере. Указанная лицензия — Apache 2.0. Для практического использования описана поддержка Transformers версии 4.48.0 или выше и Sentence Transformers.
LazarusNLP/simcse-indoroberta-base — модель эмбеддингов предложений на архитектуре RoBERTa, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения семантической близости, поиска и кластеризации. Модель обучалась с MultipleNegativesRankingLoss и косинусной функцией сходства; в качестве датасета в метаданных указан корпус Wikipedia на индонезийском языке. Модель принимает текст и выдаёт векторные представления. Её можно использовать для семантического поиска по индонезийским текстам, группировки похожих предложений и оценки сходства пар текстов. Размер модели — 151,8 млн параметров, максимальный контекст — 514 токенов. Доступны веса PyTorch и Safetensors; лицензия в предоставленных данных не указана.
cl-nagoya/sup-simcse-ja-base — японская модель эмбеддингов предложений, разработанная с помощью supervised SimCSE на основе cl-tohoku/bert-base-japanese-v3 и дообученная на наборе JSNLI. Она использует архитектуру BERT с 138,4 млн параметров; для получения векторов применяет pooling по токену CLS. Модель предназначена для представления японских предложений в виде векторов и вычисления сходства между ними, например при поиске семантически близких фраз или группировке текстов. Модель доступна через Sentence-Transformers или Transformers и принимает последовательности длиной до 512 токенов по контекстному ограничению; при обучении использовалась максимальная длина 64. Выход — векторные представления текста. Лицензия CC BY-SA 4.0 требует атрибуции и распространения производных материалов на тех же условиях.
Xenova/UAE-Large-V1 — это версия модели WhereIsAI/UAE-Large-V1 с весами в формате ONNX, подготовленная для использования через библиотеку Transformers.js. Модель предназначена для построения векторных представлений текстов и может применяться в семантическом поиске, вычислении сходства предложений, кластеризации и других задачах, где нужны sentence embeddings. В README приведён пример использования JavaScript-пайплайна feature-extraction и вычисления cosine similarity. При использовании с pooling cls модель возвращает эмбеддинги размерности 1024. Поддерживаются варианты точности fp32, fp16, q8 и q4, что позволяет выбирать компромисс между качеством, размером и производительностью. Сведения о точной архитектуре, размере, языках, поддерживаемых модальностях, максимальной длине контекста и характеристиках качества в README отсутствуют, поэтому эти параметры нельзя достоверно определить. Модель удобна для запуска в JavaScript-средах и веб-ориентированных сценариях благодаря ONNX-весам и совместимости с Transformers.js. Ограничения включают отсутствие подробной информации о назначении, обучающих данных и результатах оценки; применение для конкретных языков и задач следует дополнительно проверять. Лицензия — MIT.
victormuryn/use-combined-pt — модель Sentence Transformers, дообученная на базе sentence-transformers/paraphrase-multilingual-mpnet-base-v2 для получения векторных представлений украинских предложений. Она использует архитектуру XLM-RoBERTa с плотным энкодером, контрастивную цель обучения и комбинированные стратегии аугментации с pool targets. Размер модели — 305,2 млн параметров, максимальная длина контекста — 514 токенов. Модель предназначена для семантического сравнения предложений и получения эмбеддингов украинского текста; их можно использовать для поиска похожих фраз, кластеризации и других сценариев, где нужно сравнивать смысл текстов. Обучение проводилось на корпусе UberText 2.0. Базовая модель поддерживает множество языков, но карточка описывает дообучение именно для украинского; лицензия — Apache 2.0.
phatvucoder/vietnamese-bi-encoder-mp — дообученная разработчиком Phat Vu модель Sentence Transformers на базе bkai-foundation-models/vietnamese-bi-encoder. Она преобразует текстовые предложения и абзацы во векторы размерности 768 для извлечения признаков, семантического поиска и сравнения текстов по косинусному сходству. Архитектура состоит из RoBERTa и слоя среднего пулинга; модель рассчитана прежде всего на вьетнамский язык. Модель принимает только текст, имеет максимальную длину последовательности 256 токенов по README; метаданные каталога указывают контекст 258 токенов. Обучающий набор содержит 117 759 примеров, оценочный — 13 364. Лицензия в предоставленных данных не указана.
bond005/wav2vec2-large-ru-golos — акустическая модель распознавания русской речи, созданная как компонент системы Pisets для транскрибации лекций и интервью. Она основана на facebook/wav2vec2-large-xlsr-53 и дообучена на датасете SberDevices/Golos с аугментациями аудио, включая изменение высоты тона и скорости, а также реверберацию. Модель реализована на архитектуре Wav2Vec2ForCTC, содержит 402,7 млн параметров и работает с аудио, оцифрованным с частотой 16 кГц. Модель подходит для преобразования русской речи в текст, в том числе в условиях, отражённых тестами для ближней и дальней записи. В README приведены результаты на тестовых поднаборах Golos: WER 10,144% для crowd и 20,353% для farfield; CER — 2,168% и 6,030% соответственно. Модель распространяется по лицензии Apache-2.0. Для практического применения учитывайте требование к частоте дискретизации 16 кГц и возможное снижение точности при дальней записи.
OpenASR/whisper-large-v3 — это версия мультиязычной модели Whisper Large v3, разработанной OpenAI и адаптированной проектом OpenASR для нативного запуска в формате .oasr. Модель предназначена для автоматического распознавания речи и перевода речи на английский язык, включая сценарии локальной транскрипции аудиозаписей на CPU и GPU без использования Python во время инференса. Модель построена на стандартной encoder-decoder архитектуре Whisper и содержит 1,55 млрд параметров. Версия v3 обучена на более крупном и разнообразном размеченном корпусе и использует 128 mel-частотных каналов, что повышает устойчивость распознавания в разных языках и акустических условиях. Доступны сборки fp16, q8_0 и q4_k с различными требованиями к размеру файлов и оперативной памяти; q8_0 рекомендуется как вариант, близкий по качеству к fp16, но более компактный. Сильными сторонами модели являются высокая точность среди моделей семейства Whisper, поддержка множества языков, возможность speech-to-text и speech translation, а также оптимизация OpenASR для локального запуска и сниженного потребления памяти. Ограничения включают значительный размер полной модели и повышенные требования к ресурсам по сравнению с дистиллированными или меньшими вариантами; для q4_k в README не приведены показатели скорости и изменения качества. Пакеты распространяются по лицензии Apache-2.0, унаследованной от исходной модели OpenAI; OpenASR выполняет преобразование формата и квантование весов.
Whisper-Large-v3-CV11 — мультиязычная модель распознавания речи, разработанная Burak Aydın и дообученная на корпусе Whispered с лицензией CC0. Это контрольная версия OpenAI Whisper large-v3 со стандартной архитектурой без преобразования внимания MHA в MLA; модель содержит 905,2 млн параметров и работает через Transformers без пользовательского кода. Модель предназначена для транскрибации речи на 11 языках. В карточке перечислены английский, немецкий, испанский, французский, русский, турецкий, валлийский, арабский, грузинский, тайский и китайский. README приводит результаты оценки на CommonVoice-17 для части языков и описывает обучение на 15 000 шагах с замороженным энкодером. Данные указывают на применение для чтения вслух речи; модель также можно конвертировать стандартными инструментами для faster-whisper, CTranslate2 и whisper.cpp. Модель принимает аудио и выдаёт текст. Apache-2.0 разрешает широкое использование. Приведённые метрики относятся к тесту CommonVoice-17 с жадным декодированием и заданной нормализацией; они не гарантируют такое же качество на других типах аудио.
OpenASR/whisper-large-v3-turbo — модель автоматического распознавания речи, разработанная OpenAI и перепакованная проектом OpenASR для нативного выполнения в формате .oasr. Она предназначена для преобразования речи в текст на разных языках, а также для перевода речи на английский язык. Модель унаследовала мультиязычный интерфейс и архитектуру Whisper large-v3, но использует укороченный декодер: его глубина уменьшена с 32 до 4 слоёв. Модель ориентирована на локальное распознавание речи на CPU и GPU без использования Python во время инференса. Она сохраняет устойчивость Whisper к шумным и разнообразным аудиодоменам благодаря обучению на более чем пяти миллионах часов размеченного аудио. Доступны варианты fp16, q8_0 и q4_k размером примерно от 564 МБ до 1,62 ГБ; q8_0 рекомендован как компромисс между качеством и требованиями к памяти, а q4_k подходит для более ограниченных систем. Ключевое преимущество модели — существенно более высокая скорость генерации по сравнению с полной версией Whisper large-v3 при небольшом ухудшении качества. Ограничения включают возможную потерю качества из-за сокращения декодера и квантизации, особенно в компактной версии q4_k; точные языки и размер контекстного окна в карточке не указаны. Модель и пакеты распространяются по лицензии MIT, унаследованной от исходной модели OpenAI.
Whisper medium GGUF — это квантованная версия мультиязычной модели автоматического распознавания речи OpenAI Whisper medium, подготовленная handy-computer для работы с transcribe.cpp. Модель предназначена для преобразования речи в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Она подходит для транскрибации аудио, субтитров, голосовых архивов и других сценариев speech-to-text. Потоковая обработка не поддерживается; длинные записи обрабатываются чанками на основе окон длительностью 30 секунд, доступны сегментные временные метки. Модель использует архитектуру encoder-decoder Transformer и поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты GGUF с точностью F32, F16 и квантованием Q8_0, Q6_K, Q5_K_M и Q4_K_M; размер файлов составляет примерно от 504 МБ до 3,06 ГБ. На тесте LibriSpeech test-clean указанный показатель WER составляет 2,59–2,64% в зависимости от варианта квантования. Сильными сторонами являются мультиязычность, определение языка, перевод речи и сохранение близкого к исходной модели качества при уменьшении размера. Ограничения включают отсутствие streaming, зависимость производительности от оборудования и заметно различающееся качество между языками: приведённые оценки WER и CER показывают особенно слабые результаты для ряда малоресурсных языков. Модель распространяется по лицензии Apache-2.0.
Это дообученная модель OpenAI Whisper Medium с архитектурой WhisperForConditionalGeneration и 455,8 млн параметров. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. В README приведены результаты на наборе оценки: loss 0,5381 и глобальный WER 13,3026; обучающий набор данных не описан. Модель принимает аудио и выдаёт текст; семейство Whisper также поддерживает многоязычную транскрибацию и перевод речи, однако язык и режимы, проверенные именно для этой версии, в карточке не уточнены. Модель распространяется в формате safetensors по лицензии Apache-2.0.
hon9kon9ize/yue-embed — модель Sentence Transformers, разработанная hon9kon9ize и дообученная на базе hon9kon9ize/bert-large-cantonese-sts на смешанном наборе данных для оценки семантического сходства предложений на кантонском и английском языках. Она кодирует предложения и абзацы в плотные векторы размерности 1024; сходство между ними оценивается косинусной мерой. Модель подходит для семантического поиска, поиска перефразировок, кластеризации, классификации текста и сравнения текстовых фрагментов. Архитектура состоит из BERT и слоя mean pooling. Максимальная длина входа — 512 токенов; модель принимает текст и выдаёт векторные представления. Данные модели указывают лицензию Apache-2.0. В README приведены результаты на англоязычных наборах NanoBEIR и Nano BEIR, однако их недостаточно, чтобы подтвердить качество для всех перечисленных языков и сценариев; показатели следует проверять на целевых данных.
Карточка модели avsolatorio/00-100-11-1-0-1-0-0-cls-normed-768-512-hard_GIST_BAAI_bge-base-en-v1.5-20240128213417-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.
LazarusNLP/all-indobert-base-p2 — модель Sentence Transformers на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Её можно применять для семантического поиска, кластеризации и сравнения смысловой близости текстов на индонезийском языке. Модель содержит 151,6 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления. Она обучалась с MultipleNegativesRankingLoss и косинусной функцией сходства на наборах данных для индонезийского языка, включая IndoNLI, MIRACL и TyDiQA. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.
LazarusNLP/all-indobert-base-v2 — модель эмбеддингов предложений на базе BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения смысловой близости и кластеризации текстов. Модель распространяется в формате safetensors и рассчитана на контекст до 512 токенов. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на получение векторов, полезных для поиска и сопоставления текстов. Данные карточки указывают на индонезийский язык и наборы данных для индонезийских задач понимания и поиска информации. Лицензия в предоставленных источниках не указана.
LazarusNLP/all-indo-e5-small-v3 — модель эмбеддингов предложений на базе архитектуры BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерности 384 для поиска семантически близких текстов, кластеризации и других задач сравнения смысла. Модель обучалась с MultipleNegativesRankingLoss на наборах данных, включающих индонезийские задачи понимания, поиска и сходства текстов. Модель содержит 124,3 млн параметров, принимает текстовые последовательности с контекстом до 512 токенов и выдаёт векторы. Она ориентирована прежде всего на индонезийский язык. Для использования доступны веса Safetensors и библиотека Sentence Transformers; условия лицензии в предоставленных данных не приводятся.