I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельShisa V2 Llama 3.3 70B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на основе Meta-Llama-3.3-70B-Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит веса в формате safetensors. Модель обучали с акцентом на улучшение японского языка, сохраняя возможности английского, с помощью расширенного синтетического постобучения и оптимизации инструктивного поведения. Модель предназначена для диалогов, следования инструкциям и генерации текста на японском и английском языках; также предусмотрен интерфейс вызова инструментов. По опубликованным оценкам, она превосходит базовую Llama 3.3 70B Instruct по ряду японских тестов, но результаты на английских бенчмарках неоднородны и зависят от теста. Для запуска проверена совместимость с vLLM и SGLang. Лицензия — Llama 3.3; использование регулируется условиями лицензии Meta.
slinger-base — англоязычная модель Sentence Transformer, созданная разработчиком carsondial путём дообучения BAAI/bge-base-en-v1.5 на 45 000 парах текстов. Архитектура основана на BERT: модель формирует 768-мерные плотные эмбеддинги, использует CLS-пулинг и нормализацию; сходство векторов можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, сравнения предложений и абзацев, поиска перефразировок, кластеризации и классификации текста. В README приведены результаты оценки поиска с разными размерностями эмбеддингов, включая укороченные варианты от 64 до 512 измерений. Модель рассчитана на английский язык и распространяется по лицензии Apache-2.0.
QuantFactory/Sparse-Llama-3.1-8B-2of4-GGUF — квантизированная версия разреженной текстовой модели Sparse-Llama-3.1-8B-2of4, созданная QuantFactory с использованием llama.cpp. Базовая архитектура — Llama-3.1-8B; исходную разреженную модель разработала Neural Magic на основе Meta Llama 3.1 8B. Модель принимает текст и генерирует текст. Модель предназначена для задач генерации текста и общего языкового моделирования, включая понимание языка, ответы на вопросы, рассуждения и работу с текстовыми запросами. Ключевая оптимизация — разреженность 2:4: в каждой группе из четырёх весов сохраняются два, а два удаляются. Для восстановления качества после pruning использовались обучение с дистилляцией знаний на 13 млрд токенов, SparseGPT и подход SquareHead. Формат GGUF ориентирован на запуск через llama.cpp; в исходной карточке также указана возможность эффективного развертывания через vLLM. По данным OpenLLM, средняя оценка составляет 62,16 против 63,19 у плотной Llama-3.1-8B, что соответствует 98,37% восстановления точности. На Mosaic Eval Gauntlet средняя оценка равна 53,85 против 55,34, или 97,3% восстановления. Основное преимущество — снижение избыточности модели при сохранении большей части качества исходной версии; ограничениями являются возможное ухудшение результатов на отдельных задачах и отсутствие в предоставленных данных сведений о поддерживаемых языках, длине контекста, точных параметрах квантизации и требованиях к оборудованию. Лицензия указана как llama3.1.
Англоязычная модель эмбеддингов на архитектуре ModernBERT-base, дообученная для оценки сходства предложений и поиска по смыслу. Веса преобразованы в 6-битный формат MLX для запуска на устройствах Apple с поддержкой MLX; для работы предлагается библиотека mlx-embeddings. Модель подходит для семантического поиска, сопоставления запросов с документами, поиска ответов и определения сходства текстов. Она принимает текст и формирует векторные представления, которые можно использовать для ранжирования и поиска ближайших по смыслу фрагментов. Контекст составляет до 8192 токенов, размер базовой модели — 149 млн параметров. Модель дообучена на наборах для поиска и сопоставления текстов, включая Natural Questions, GooAQ, MS MARCO и NLI. Карточка указывает преобразование исходной версии в формат MLX, а метаданные — дообучение ModernBERT-base и наличие файлов safetensors. Лицензия в предоставленных данных не указана.
mlx-community/tasksource-ModernBERT-base-embed-bf16 — англоязычная encoder-only модель эмбеддингов на архитектуре ModernBERT, подготовленная сообществом mlx-community в формате MLX для использования с mlx-embeddings. Это преобразованная версия tasksource/ModernBERT-base-embed; исходная модель дообучена на основе answerdotai/ModernBERT-base и предназначена для извлечения признаков и оценки сходства предложений. Модель содержит 149 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Её можно применять для семантического поиска, сопоставления запросов с документами, поиска ответов и ранжирования текстов по смысловой близости. Английский язык подтверждён карточкой модели; обучение включало наборы данных для поиска, сходства предложений и вывода на естественном языке. Модель распространяется в формате safetensors, а README указывает на применение через mlx-embeddings. Лицензия в предоставленных данных не указана.
vSR Embeddings v1 Text Large — мультиязычная плотная модель эмбеддингов от Xunzhuo, дообученная на базе Qwen/Qwen3-Embedding-4B и предназначенная для семантического поиска, сопоставления текстов, кластеризации и векторной маршрутизации запросов. Модель содержит 3,7 млрд параметров, использует архитектуру Qwen3 и доступна через Sentence Transformers. Контекст модели — до 40 960 токенов; для длинных документов README описывает разбиение на фрагменты по 320 токенов с перекрытием 64 токена и оценку по максимальному сходству запроса с фрагментами. Модель поддерживает мультиязычные тексты и Matryoshka-векторы размерностью 2560, 1024, 512, 256, 128 или 64, позволяя выбирать баланс между качеством поиска и стоимостью хранения и обработки. В README приведены результаты MTEB Multilingual v2: среднее 69,45 по задачам и 60,86 по типам задач; показатели производительности на одном MI300X являются ориентиром, а не гарантией для других конфигураций. Модель выдаёт векторы для поиска и сравнения, а не ранжирует пары текстов как cross-encoder и не является классификатором безопасности на уровне последовательности. Лицензия — Apache-2.0.
Whisper large-v2 — мультиязычная модель распознавания речи от OpenAI, основанная на архитектуре Transformer encoder-decoder (sequence-to-sequence). Она содержит 905,2 млн параметров и обучена на 680 тыс. часов размеченных аудиоданных; по сравнению с Whisper large модель обучалась в 2,5 раза дольше и с дополнительной регуляризацией. Модель предназначена для транскрибации речи на исходном языке и перевода речи на другой язык, в том числе на английский. Она подходит для расшифровки записей, субтитров и длинных аудиоматериалов; для обработки фрагментов длиннее 30 секунд можно использовать чанкинг. Модель устойчива к акцентам, фоновому шуму и технической лексике, но точность неодинакова для разных языков, диалектов и условий записи. Возможны галлюцинации — появление в транскрипте слов, которых нет в аудио, а также повторяющийся текст. Качество ниже для языков с малым объёмом обучающих данных и может различаться между группами говорящих. Модель распространяется по лицензии Apache-2.0.
Карточка модели zhouyunhu/whisper-large-v3 на Hugging Face совпадает с карточкой openai/whisper-large-v3, поэтому описание составлено по ней. Whisper large-v3 — мультиязычная модель распознавания речи на основе Transformer encoder-decoder, разработанная OpenAI. Она предназначена для транскрибирования аудио на исходном языке и перевода речи в текст на другом языке, включая перевод на английский. Модель содержит 905,2 млн параметров; по сравнению с предыдущими версиями использует спектрограммы с 128 Mel-частотными полосами и включает отдельный токен для кантонского языка. Модель обучалась на слабой разметке и псевдоразмеченных аудиоданных и рассчитана на работу с разными языками, акцентами, шумом и предметными областями. При обработке длинных записей требуется последовательная или сегментированная обработка: рецептивное поле модели составляет 30 секунд. Лицензия — Apache-2.0. Возможны ошибки транскрибации и генерация текста, отсутствующего в аудио; качество неодинаково для разных языков, акцентов и диалектов и ниже для языков с малым объёмом обучающих данных. Архитектура также может порождать повторяющийся текст.
ZEUS-8B-V19 — объединённая языковая модель семейства Llama 3.1, созданная T145 с помощью mergekit и метода DARE TIES. В основу слияния положена unsloth/Meta-Llama-3.1-8B-Instruct; также объединены Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B, Llama-3.1-SauerkrautLM-8b-Instruct и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors. Она предназначена для диалогов и генерации текста, поддерживает интерфейс вызова инструментов и контекст до 131 072 токенов. Карточка приводит результаты оценивания на IFEval и BBH. Лицензия в предоставленных данных не указана.
ZEUS-8B-V23 — объединённая языковая модель на архитектуре Llama 3.1, созданная с помощью mergekit методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединение также вошли Llama-3.1-Tulu-3-8B, Llama-3.1-Storm-8B, SuperNova-Lite, SauerkrautLM, Lexi-Uncensored-V2 и HuatuoGPT-o1-8B. Модель содержит 7,5 млрд параметров, работает через Transformers и принимает текст для генерации текста; поддерживает диалоги и интерфейс вызова инструментов. Заявленный контекст — до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации ответов и следования инструкциям. В README приведены результаты Open LLM Leaderboard, включая 76,21% на IFEval и 31,47% на BBH; эти показатели относятся к указанным оценочным настройкам и не гарантируют качество в конкретном приложении. В карточке не приведены сведения о лицензии, поэтому условия использования следует проверять в репозитории и у моделей-источников.
Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240415163943-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-3-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424001745-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-4-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424004605-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели avsolatorio/01-600-11-1-4-2-0-0-cls-qli_0-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240424004605-latest на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_1640 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2000 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2640 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2840 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_3000 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_720 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.
flax-sentence-embeddings/all_datasets_v4_MiniLM-L12 — модель эмбеддингов предложений, разработанная участниками Community Week Hugging Face в рамках проекта по обучению моделей на большом наборе пар предложений. За основу взята MiniLM-L12, дообученная контрастивным обучением на более чем миллиарде пар из объединённых датасетов. Модель принимает текстовое предложение и выдаёт векторное представление его смысла. Эмбеддинги подходят для поиска по смыслу, сравнения сходства предложений и кластеризации. Это плотная BERT-подобная модель на 40 млн параметров; контекст ограничен 512 токенами. В карточке указано обучение на последовательностях длиной до 128 токенов. Поддерживаемый язык — английский. Модель рассчитана на прикладное использование как sentence encoder. Репозиторий содержит веса PyTorch; лицензия в доступных сведениях не приведена.
Карточка модели Luther123456/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели Nil626yhh/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели sox90/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели Zhaoxingbing/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
KhaledReda разработал англоязычную модель Sentence Transformer на основе дообученной sentence-transformers/all-MiniLM-L6-v2. Энкодер семейства BERT содержит 25,9 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. Модель обучена на парах текстов с оценками сходства и рассчитана на последовательности до 256 токенов по README; метаданные указывают контекстное окно 512 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и получения признаков для классификации текстов. Её можно применять, например, для поиска товаров или документов по смыслу и ранжирования текстов по семантической близости. Для использования требуется библиотека Sentence Transformers или совместимая система инференса. Лицензия — Apache-2.0. Обучение на англоязычном датасете определяет основную область применения модели; качество для других языков в карточке не подтверждено. Для длинных текстов учитывайте предел последовательности из README; оценки сходства и результаты последующих задач могут требовать настройки под конкретные данные.
Модель omarelshehy/arabic-english-sts-matryoshka — двуязычная Sentence Transformer, дообученная разработчиком на базе FacebookAI/xlm-roberta-large. Она преобразует предложения и абзацы на арабском и английском языках в плотные векторы размерностью 1024 для сравнения семантической близости. Векторы можно сокращать до 768, 512, 256, 128 или 64 измерений, чтобы уменьшить требования к памяти и вычислениям; для оценки сходства используется косинусная мера. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и классификации. Она поддерживает как сравнение текстов внутри каждого языка, так и межъязыковое сопоставление арабского и английского текстов. Архитектура основана на XLM-RoBERTa large, содержит 658,7 млн параметров, принимает текст длиной до 514 токенов и выдаёт векторы. Для использования требуется библиотека Sentence Transformers. В README приведены обнадёживающие результаты MTEB, но разработчик рекомендует проверять качество на целевых данных. Модель распространяется по лицензии Apache-2.0.
Это двуязычная модель Sentence Transformers на базе FacebookAI/xlm-roberta-large, дообученная для работы с арабскими и английскими предложениями. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для сравнения смысловой близости, семантического поиска и других задач, где нужно сопоставлять тексты. Модель поддерживает как отдельную работу с арабским и английским, так и межъязыковое сопоставление между ними. Модель поддерживает Matryoshka embeddings: векторы можно сокращать до 768, 512, 256, 128 или 64 измерений, чтобы уменьшить потребление памяти и ускорить последующую обработку. Максимальная длина последовательности — 512 токенов по README и 514 токенов в метаданных; используется библиотека sentence-transformers, веса доступны в формате safetensors. Автор сообщает об улучшении метрик MTEB по сравнению с предыдущей версией, особенно для арабско-английских задач, и рекомендует самостоятельно проверять соответствие модели конкретному сценарию. Лицензия в предоставленных данных не указана.
Jebadiah/Aria-daughter-128k — слитая линейным методом модель на основе двух инструктивных языковых моделей: Nitral-AI/Echidna-7b-128k и gradientai/Llama-3-8B-Instruct-262k. По архитектуре это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогов и генерации текста. Контекстное окно составляет 262 144 токена; модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель подходит для ведения диалогов, генерации ответов и работы с длинными текстами в пределах её контекста. Карточка не сообщает отдельные языковые или предметные специализации. Лицензия в предоставленных данных не указана.
BERTA-uncased — двуязычная модель эмбеддингов предложений, разработанная Сергеем Жуковым как дистиллированная версия BERTA, основанной на ai-forever/FRIDA. Она построена на архитектуре BERT и предназначена для семантического сравнения русских и английских текстов, поиска и задач классификации и кластеризации на основе эмбеддингов. Модель содержит 155,5 млн параметров, 12 слоёв, формирует векторы размером 768 и обрабатывает до 512 токенов. Mean pooling и режим uncased делают представления нечувствительными к регистру. Поддерживаются префиксы для поиска, перефразирования, категоризации, анализа тональности, тем и следования. В README приведены результаты на ruMTEB; показатели различаются по задачам и бенчмаркам. Модель доступна в формате Safetensors по лицензии MIT. Она выдаёт эмбеддинги, поэтому для получения меток классификации или результатов поиска требуется подходящий downstream-компонент.