I.3Извлечение и структурирование данных

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_1320 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_1880 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели avsolatorio/60-600-13-1-4-2-0-0-384-512-cm_NOI_avsolatorio_GIST-all-MiniLM-L6-v2-20240511173541-best на Hugging Face совпадает с карточкой avsolatorio/GIST-all-MiniLM-L6-v2, поэтому описание составлено по ней. GIST Embedding v0 — модель векторных представлений текста, созданная Av Solatorio. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с методом GISTEmbed: обучающие негативные примеры отбираются из MEDI и дополненных триплетами обучающих данных классификации MTEB. Модель имеет архитектуру BERT, содержит 25,9 млн параметров и принимает текст с контекстом до 512 токенов. Модель предназначена для получения эмбеддингов предложений и оценки их сходства, в том числе для семантического поиска и retrieval. Для кодирования запросов не требуются специальные инструкции. Модель оценивали на бенчмарке MTEB; дообучение улучшило некоторые задачи, но ухудшило результаты на других, включая поиск по TRECCOVID. Поддерживается английский язык. Лицензия — MIT.

Карточка модели mxc2002/adv-nlp-homework1_xm29 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Audio Flamingo Next Think — модель понимания аудио и ответов на вопросы, разработанная NVIDIA. Это вариант семейства Audio Flamingo Next, настроенный на многошаговое рассуждение по длинным аудиозаписям: он объединяет сведения о событиях, говорящих и временных отметках и может обосновывать ответы фрагментами аудио. Модель рассчитана на речь, окружающие звуки и музыку, включая записи длительностью до 30 минут. Модель принимает монофоническое аудио с частотой 16 кГц и выдаёт текст. Архитектура сочетает аудиоэнкодер AF-Whisper, обработку аудио фрагментами по 30 секунд, MLP-адаптер и текстовую основу семейства Qwen2.5 с механизмом временной привязки RoTE. В карточке указано окно контекста 131 072 токена для текстовой основы; контекст метаданных каталога указан как 1 200 токенов. Модель поддерживает задачи распознавания речи, перевода речи и вопросов по аудио; основное назначение этого варианта — сложные вопросы с временно привязанными объяснениями. Основной язык в карточке — английский, при этом обучение включает многоязычные данные для распознавания и перевода речи. Модель сильна в рассуждениях по длинным записям и связывании событий, разделённых во времени. Ответы могут включать длинные рассуждения перед итогом. По описанию авторов, качество рассуждения снижается, когда нужные свидетельства редки или сильно разнесены по времени; аудиоданные также неравномерны по языкам и областям. Лицензия обозначена как other; карточка ограничивает использование некоммерческими исследовательскими целями.

Bangla Sentence Transformer — разработанная автором репозитория модель Sentence Transformers на архитектуре XLM-RoBERTa, дообученная на базе stsb-xlm-r-multilingual. Она кодирует предложения в плотные векторные представления для сравнения семантической близости, семантического поиска и поиска информации; эмбеддинги также можно использовать в классификации текста. Модель содержит 305,2 млн параметров, работает с текстом и имеет контекст до 514 токенов. В карточке указаны бенгальский и английский языки. Форматы весов — PyTorch и Safetensors; для использования README рекомендует библиотеку sentence-transformers. Лицензия и конкретные ограничения качества в предоставленных данных не описаны.

bruhzair/Behemoth-Gigaber-SLERP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit на основе Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Репозиторий содержит веса в формате safetensors; размер модели — 122,2 млрд параметров, заявленный контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов, а также для сценариев с интерфейсом вызова инструментов. Карточка не приводит оценки качества или подробностей о специализации объединённых моделей. Лицензия в предоставленных данных не указана.

sobamchan/bert-base-uncased-no-mrl — англоязычная модель Sentence Transformers, дообученная автором на google-bert/bert-base-uncased с использованием датасета all-nli. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для сравнения смысловой близости с помощью косинусного сходства. Архитектура состоит из BERT и mean pooling; модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. В README приведены результаты оценки сходства предложений на STS, однако они не гарантируют такое же качество на других данных. Модель рассчитана на английский язык. Лицензия в предоставленных данных не указана.

Компактная модель Sentence Transformer, дообученная на базе англоязычной google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерностью 128 и рассчитывает косинусное сходство; архитектура включает BERT с усреднённым pooling. Модель предназначена для поиска и сравнения текстов по смыслу, в том числе для retrieval-сценариев. Модель принимает текст, использует контекст до 512 токенов по метаданным Hugging Face; в карточке Sentence Transformers указана максимальная длина последовательности 128 токенов. Число параметров — 4,4 млн. Обучение описано на 549 502 парах текстов с контрастивной функцией потерь. Репозиторий содержит веса в формате safetensors. Данных о лицензии в предоставленных источниках нет.

Это компактная Sentence Transformer модель, разработанная swardiantara на основе google/bert_uncased_L-2_H-128_A-2 и дообученная для сравнения предложений и поиска по смыслу. Она преобразует текстовые предложения и абзацы в плотные векторы размерностью 128; сходство между ними можно оценивать косинусной мерой, а векторные представления использовать для поиска и извлечения релевантных текстов. Модель построена на архитектуре BERT с двумя слоями и mean pooling. В метаданных указаны 4,4 млн параметров и контекст до 512 токенов; README задаёт максимальную длину последовательности 128 токенов, поэтому для работы следует учитывать это более узкое ограничение. Модель принимает и выдаёт текстовые представления, рассчитана на английский язык и обучалась на парах текстов с метками сходства. Модель подходит для семантического поиска и ранжирования кандидатов по сходству, но её компактный размер и обучение на описанном наборе пар могут ограничивать качество на длинных текстах, других языках и предметных областях. Лицензия в предоставленных данных не указана.

RinKana/bge-base-en-v1.5-cross-lingual-retriever — текстовая модель Sentence Transformers, дообученная разработчиком RinKana на базе BAAI/bge-base-en-v1.5 для поиска релевантных фрагментов по предложениям и абзацам. Архитектура объединяет BERT, pooling по CLS-токену и нормализацию; модель формирует плотные эмбеддинги размерностью 768 и сравнивает их с помощью косинусного сходства. Объём модели — 136,7 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска и retrieval-сценариев, включая подбор контекста для RAG. README показывает обучение на парах запросов и passages с MultipleNegativesRankingLoss, однако не уточняет языки обучающих данных или результаты оценки кросс-языкового поиска. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

RK-1235/bge-base-FIR-matryoshka-BASELINE-10epo-triplet — дообученная модель Sentence Transformers на основе англоязычной BAAI/bge-base-en, созданная разработчиком репозитория. Она преобразует предложения и абзацы в плотные текстовые векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации. Архитектура включает BERT, пулинг по CLS-токену и нормализацию векторов; максимальная длина входа — 512 токенов, сходство оценивается косинусной мерой. В README приведены оценки поиска для усечённых векторов размерностью от 64 до 1024 на тестовом наборе dim_1024/dim_768 и других наборах; результаты относятся к этим данным и не гарантируют качество на иных задачах. Модель рассчитана на английский текст. Лицензия в предоставленных сведениях не указана.

NaqibL дообучил модель BGE на базе BAAI/bge-base-en-v1.5 для получения эмбеддингов предложений и абзацев. Это текстовая Sentence Transformer модель с архитектурой BERT, которая преобразует вход в нормализованный плотный вектор размерности 768; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на поиск и сопоставление текстов, включая семантический retrieval. Максимальная длина входа — 512 токенов, а обучение проводилось на наборе из 26 953 примеров. В README приведён результат cosine accuracy 0,8534 на оценке TripletEvaluator. Модель унаследовала англоязычную основу BGE; отдельные поддерживаемые языки и лицензия в предоставленных данных не описаны. Для неё нужны совместимые средства Sentence Transformers или text-embeddings-inference.

TyKaoz выпустил 8-битную версию модели BAAI/bge-m3 в формате MLX для устройств Apple Silicon. Это многоязычная модель на архитектуре XLM-RoBERTa с 658,7 млн параметров, которая преобразует текст в плотные эмбеддинги размерности 1024. Максимальная длина контекста составляет 8194 токена; модель предназначена для локального использования через mlx-embeddings и занимает около 592 МБ. Модель подходит для семантического поиска, сравнения сходства предложений и построения систем поиска по текстам и документам. README описывает именно плотные векторы; широкие возможности исходной BGE-M3 для лексического и гибридного поиска здесь отдельно не подтверждены. Указана лицензия Apache-2.0.

BAAI/bge-small-en — компактная англоязычная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная командой FlagEmbedding. Она преобразует текст в векторные представления для семантического поиска, извлечения релевантных документов и сравнения текстов по смыслу. В retrieval-сценариях можно добавлять инструкцию к короткому запросу; для документов и фрагментов текста инструкция не требуется. Модель основана на архитектуре BERT, содержит около 40 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт эмбеддинги. Подходит для компактных систем поиска и retrieval-augmented generation, а также может использоваться с FlagEmbedding, Sentence-Transformers и LangChain. В README отмечено, что более новая версия bge-small-en-v1.5 имеет более разумное распределение оценок сходства и рекомендуется вместо этой версии. Модель распространяется по лицензии MIT. Оценки сходства для исходной версии часто лежат в диапазоне примерно 0,6–1 даже для несходных предложений, поэтому абсолютный порог нельзя переносить между задачами: его следует подбирать на своих данных, ориентируясь также на относительный порядок результатов.

abhinav90parmar/bge-small-en-v1.5-erpguard — англоязычная модель Sentence Transformers, дообученная разработчиком на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 384 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура состоит из BERT, CLS-пулинга и нормализации; модель содержит 40 млн параметров и обрабатывает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, извлечения релевантных текстов и ранжирования кандидатов по близости эмбеддингов. В README приведены результаты оценки на наборе для информационного поиска, однако данных недостаточно, чтобы определить специализированное назначение суффикса «erpguard» или оценить качество на других задачах. Для практического использования требуются библиотека Sentence Transformers либо совместимая система инференса. Лицензия — MIT.

Bielik-11B-v2.6-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с HPC-центром ACK Cyfronet AGH. Это дообученная в формате инструкций версия Bielik-11B-v2 с архитектурой причинного декодера и шаблоном диалога ChatML. Модель работает с текстом и особенно хорошо ориентирована на польский язык; также заявлена поддержка английского. Модель предназначена для диалогов и выполнения текстовых инструкций, включая задачи по математике, программированию и STEM. При обучении использовались польские корпуса и более 20 млн инструкций, а для выравнивания ответов — обучение на предпочтениях и задачи с проверяемыми критериями. Лицензия — Apache 2.0. Разработчики предупреждают, что модель может выдавать фактически неверные, предвзятые или оскорбительные ответы и не имеет механизмов модерации. Её ответы требуют проверки, особенно в сценариях, где важны точность и безопасность.

Bielik-11B-v3.0-Instruct-FP8-Dynamic — языковая модель SpeakLeash и ACK Cyfronet AGH, предназначенная для генерации текста и диалоговых сценариев. Это FP8-квантизованная версия Bielik-11B-v3.0-Instruct, дообученная на базе Bielik-11B-v3-Base-20250730. Модель ориентирована на многоязычное использование, поддерживает 32 европейских языка и оптимизирована для польского языка. Модель имеет архитектуру causal decoder-only и содержит около 11 млрд параметров. Квантизация FP8 применена к весам и активациям линейных операторов внутри transformer-блоков с симметричной поканальной для всего тензора схемой масштабирования. Это примерно вдвое уменьшает размер модели на диске и требования к памяти GPU. Модель рассчитана на работу с vLLM версии 0.5.0 и выше или SGLang; вычисления FP8 поддерживаются на GPU NVIDIA с compute capability выше 8.9, включая Ada Lovelace и Hopper. Максимальный контекст в README не указан. К сильным сторонам относятся сниженные требования к памяти и возможность эффективного развёртывания через совместимые серверы и OpenAI-совместимый API. Ограничением является возможное снижение качества ответов и повышение вероятности галлюцинаций из-за квантизации. Модель работает с текстом; сведения о поддержке других модальностей отсутствуют. Распространяется по лицензии Apache 2.0.

BitNet b1.58 2B4T — языковая модель для генерации текста, разработанная Microsoft Research. Она предназначена для диалоговых сценариев, следования инструкциям и работы с текстом и кодом. Модель обучена на 4 триллионах токенов и содержит около 2 миллиардов параметров; заявленный язык — английский. Модель построена на архитектуре Transformer с модифицированными BitLinear-слоями, RoPE, активацией ReLU² в FFN и нормализацией subln. Она обучена с нуля с использованием нативной схемы квантования W1.58A8: веса принимают тернарные значения {-1, 0, +1}, а активации квантуются до 8 бит. Максимальная длина контекста составляет 4096 токенов, используется токенизатор LLaMA 3 с размером словаря 128 256 токенов. Обучение включало предварительное обучение, supervised fine-tuning и DPO. Ключевое преимущество модели — потенциальное снижение требований к памяти, энергопотреблению и задержке благодаря нативным 1,58-битным весам. Однако эти преимущества раскрываются только при использовании специализированной реализации bitnet.cpp; стандартный запуск через transformers не обеспечивает ожидаемого прироста эффективности и может быть сопоставим по скорости и энергопотреблению с полноточными моделями. Представленная BF16-версия предназначена главным образом для обучения и дообучения, а не для развертывания. Модель распространяется по лицензии MIT.

Brocae-Area-7B-slerp — языковая модель на архитектуре Mistral, созданная Kukedlc объединением моделей Fasciculus-Arcuatus-7B-slerp и NeuralKrishna-7B-V2-DPO методом slerp с помощью LazyMergekit. Она предназначена для генерации текста по запросам и может применяться для диалогов, ответов на вопросы и задач рассуждения. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. В README приведены результаты оценивания на бенчмарках Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0.

Это GGUF-квантизированная версия языковой модели CohereForAI/c4ai-command-r-plus-08-2024, подготовленная пользователем legraphista с использованием llama.cpp и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты llama.cpp. Доступны варианты с разными уровнями квантования — от 16-битного FP16 до 1–8-битных форматов, включая Q4_K, Q3_K и Q2_K; часть вариантов использует IMatrix для улучшения качества при уменьшенном размере. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. К сильным сторонам относятся широкий выбор квантованных вариантов, возможность локального использования и компромисс между качеством, размером файлов и требованиями к памяти. При этом README не содержит сведений о точной архитектуре, числе параметров, размере контекста и результатах оценки, а низкие уровни квантования могут снижать качество по сравнению с исходной FP16-моделью. Распространение осуществляется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Citaman/command-r-19-layer — объединённая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-20-layer. В конфигурации объединения используются срезы слоёв одной базовой модели; в метаданных указано 17,7 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Максимальная длина контекста — 8192 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Карточка не приводит сведений о лицензии, языковой специализации или результатах оценки качества, поэтому их нельзя определить по доступным данным.

Citaman/command-r-26-layer — слитая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-27-layer. В карточке указано 23,5 млрд параметров, формат safetensors и контекстное окно 8192 токена. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Данных о поддерживаемых естественных языках нет, поэтому языковую специализацию определить нельзя. Репозиторий использует лицензию, унаследованную от базовой модели, но сведения о её условиях в предоставленных данных отсутствуют.

ConGen-BERT-Tiny — компактная модель семейства BERT, опубликованная пользователем kornwtp. Она преобразует предложения в плотные векторы размерностью 128 и предназначена для оценки семантического сходства и семантического поиска. Модель содержит 4,4 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Модель подходит для поиска предложений и документов по смыслу, сравнения текстовых фрагментов и построения систем на основе эмбеддингов. В README упомянута оценка на Sentence Embeddings Benchmark для задачи Semantic Textual Similarity. Лицензия — Apache-2.0.

Карточка модели jameshan5040/cs598-adv-nlp-hw1-jameshan5040 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

DeepSeek-R1-ReDistill-Qwen-7B-v1.1-GGUF — набор GGUF-квантизованных версий модели mobiuslabsgmbh/DeepSeek-R1-ReDistill-Qwen-7B-v1.1, опубликованный ThomasBaruzier. Базовая модель — deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Квантизация выполнена с помощью llama.cpp с использованием imatrix и калибровочного файла Bartowski. Модель предназначена для локального запуска задач генерации текста и диалогового применения через совместимое с GGUF программное обеспечение, включая llama.cpp. Доступны варианты квантизации от IQ1_S и IQ1_M до более точных Q4, Q5 и других форматов; размер файлов в представленной таблице составляет примерно от 1,8 до 5,1 ГБ. Для отдельных вариантов указаны значения perplexity и accuracy: более крупные и точные квантизации обычно обеспечивают лучшее качество при повышенных требованиях к памяти. Ключевые характеристики архитектуры, поддерживаемые языки, максимальная длина контекста и мультимодальные возможности в README не указаны. Основные преимущества — широкий выбор компромиссов между размером, потреблением ресурсов и качеством, а также формат GGUF для локального инференса. Ограничения связаны с потерями качества при агрессивной квантизации и зависимостью от совместимого рантайма; приведённые метрики относятся к тестированию конкретных квантов и не гарантируют качество в любых сценариях. Распространение указано по лицензии MIT.

Dolphin3.0-Qwen2.5-1.5B-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Dolphin3.0-Qwen2.5-1.5B, опубликованная и квантизированная bartowski на основе модели cognitivecomputations. Модель основана на Qwen2.5-1.5B и предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию текста, выполнение инструкций, программирование, математические задачи, работу с function calling и агентскими сценариями. В README указаны английский язык и размер базовой модели 1,5 млрд параметров; сведения о длине контекста, точной архитектуре и других модальностях не приведены. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4 и Q3 с размерами примерно от 0,78 до 6,18 ГБ. Для большинства сценариев рекомендуются варианты Q4–Q6, обеспечивающие баланс качества и требований к памяти. Сильными сторонами являются компактный размер, возможность автономного запуска на локальном оборудовании и широкий выбор уровней квантизации. Более низкие варианты экономят память, но снижают качество; некоторые форматы являются устаревшими. Для корректного взаимодействия следует использовать шаблон prompt в формате ChatML, указанный в README. Модель распространяется по лицензии Apache-2.0.

Карточка модели OrcaDB/e5-large на Hugging Face совпадает с карточкой onelevelstudio/ML-E5-0.6B-Instruct, поэтому описание составлено по ней. onelevelstudio/ML-E5-0.6B-Instruct — мультиязычная модель эмбеддингов текста на архитектуре XLM-RoBERTa. Она преобразует запросы и документы в векторы для семантического поиска, ранжирования и оценки сходства. Для запросов рекомендуется добавлять краткую инструкцию на естественном языке, описывающую задачу; документам инструкции не нужны. В метаданных указано около 658,7 млн параметров, контекст до 514 токенов и лицензия MIT. Репозиторий содержит веса в форматах Safetensors и ONNX. Карточка связывает модель с Multilingual-E5-large-instruct и сообщает о поддержке 100 языков на основе XLM-RoBERTa; для языков с малым объёмом ресурсов качество может снижаться. Длинные тексты обрезаются примерно до 512 токенов.

Карточка модели RedHatAI/e5-mistral-7b-instruct на Hugging Face совпадает с карточкой intfloat/e5-mistral-7b-instruct, поэтому описание составлено по ней. E5-mistral-7b-instruct — текстовая модель эмбеддингов, созданная командой авторов статьи «Improving Text Embeddings with Large Language Models». Это дообученная версия Mistral-7B-v0.1 с 32 слоями и размерностью эмбеддингов 4096; число параметров — 7,1 млрд. Модель принимает текст и преобразует его в векторы для поиска и сравнения текстов. Она поддерживает контекст до 32 768 токенов, однако авторы не рекомендуют подавать входы длиннее 4096 токенов. Модель предназначена для получения эмбеддингов с инструкциями, задающими цель поиска или сравнения. Инструкцию следует добавлять к запросу, но не к документу. Примеры сценариев — семантический поиск, ранжирование passage по запросу и оценка сходства предложений. Модель обучена на смеси многоязычных наборов данных, но ориентирована прежде всего на английский; в некоторых многоязычных сценариях она уступает multilingual-e5-large. Модель распространяется по лицензии MIT. Для воспроизводимости результатов учитывайте, что версии Transformers и PyTorch могут вызывать небольшие различия в оценках.

E5-small — англоязычная модель текстовых эмбеддингов, разработанная Liang Wang, Nan Yang, Xiaolong Huang, Binxing Jiao, Linjun Yang, Daxin Jiang, Rangan Majumder и Furu Wei. Она обучена методом слабого контролируемого контрастивного предобучения и предназначена для кодирования запросов и текстов в векторы для поиска и сравнения семантической близости. Модель основана на BERT и содержит 12 слоёв; размер эмбеддинга — 384, число параметров — около 40 млн. Она принимает английский текст и выдаёт векторы. Контекст ограничен 512 токенами. Для поиска рекомендуется добавлять к текстам префиксы «query: » и «passage: » в соответствии с типом задачи; без них качество может снижаться. Модель распространяется по лицензии MIT. В README рекомендуется перейти на e5-small-v2, у которой выше качество при том же способе использования. Тексты длиннее 512 токенов обрезаются; результаты могут немного отличаться в зависимости от версий PyTorch и Transformers.