I.3Извлечение и структурирование данных

Nhat1904/Final-32shots-Twitter-Skhead-Train — модель Sentence Transformers на архитектуре MPNet с 136,7 млн параметров. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Обучение использовало CosineSimilarityLoss. Модель принимает текст и выдаёт векторные представления, которые можно использовать для семантического поиска и оценки сходства. Контекст ограничен 514 токенами. Репозиторий содержит веса PyTorch; сведения о лицензии и целевых языках в предоставленных данных отсутствуют.

Это GGUF-квантизации модели gemma-3-27b-it-ultra-uncensored-heretic, созданной независимым разработчиком LLMfan46 на основе Google Gemma 3 27B Instruct от Google DeepMind. Модель модифицирована с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA), чтобы уменьшить склонность исходной модели к отказам и ограничениям при сохранении её исходных возможностей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений. Это мультимодальная модель с текстовым и графическим вводом и текстовым выводом; заявлена поддержка более 140 языков. Контекстное окно составляет 128K токенов, максимальный объём вывода — 8192 токена. Для работы с изображениями требуется отдельный vision projector, совместимый с выбранной квантизацией. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S, что позволяет выбирать между качеством, размером и требованиями к памяти. По данным README, модифицированная версия показала 5 отказов из 100 против 98 из 100 у исходной модели, а KL divergence составила 0,0616; это указывает на значительно меньшее число отказов при относительно близком поведении к оригиналу. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Используется лицензия Gemma; применяются условия использования Google.

OnlyTextLLMs выпустила текстовую версию инструкционной модели Google Gemma 4 12B IT: из исходной модели удалены блоки обработки изображений и аудио и мультимодальные специальные токены, а текстовая часть и LM-голова сохранены. Это плотная причинная языковая модель Gemma4UnifiedForCausalLM с 11,6 млрд параметров и контекстом до 262 144 токенов; репозиторий содержит веса Safetensors в формате bfloat16. Модель предназначена для диалогов и генерации текста на основе текстовых запросов. По заявлению авторов, дообучение не проводилось, новые обучающие данные и возможности не добавлялись. Модель распространяется по лицензии Apache-2.0.

GLiClass Large V3.0 — модель Knowledgator для классификации текста с нулевым примером. Она использует архитектуру GLiClass и выполняет классификацию за один проход, что, по данным карточки, делает её вычислительно эффективнее кросс-энкодеров при сопоставимом качестве. Модель предназначена для тематической классификации, анализа тональности и ранжирования текстов в RAG-системах. Модель дообучена на логических задачах с помощью LoRA-адаптеров, чтобы расширить способность к рассуждению и сохранить прежние знания. В карточке приведены результаты тестирования без дообучения на целевых наборах данных и показатели скорости на GPU A6000; размер и число параметров этой конкретной версии не указаны. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией Apache-2.0.

Карточка модели mdizak/infoxlm-large-sentence-embeddings-rust на Hugging Face совпадает с карточкой KnutJaegersberg/infoxlm-large-sentence-embeddings, поэтому описание составлено по ней. KnutJaegersberg/infoxlm-large-sentence-embeddings — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторы размерностью 1024. Она основана на XLM-RoBERTa и предназначена для поиска семантически близких текстов, кластеризации и семантического поиска. В обучении использовалась функция TripletLoss с евклидовой метрикой расстояния. Модель содержит 658,7 млн параметров, принимает текст и выдаёт векторные представления; максимальная длина контекста — 514 токенов. В карточке указаны форматы PyTorch и safetensors. Лицензия в предоставленных данных не приведена.

Это мультимодальная модель для создания эмбеддингов, опубликованная пользователем ewin-reg и основанная на jinaai/jina-embeddings-v5-omni-small-retrieval с архитектурой Qwen3-VL-Audio. Она предназначена для семантического поиска и сопоставления текста, изображений и аудио в общем векторном пространстве. Согласно README, размер эмбеддингов составляет 1024 измерения; заявлена поддержка сокращения векторов средствами MRL. Модель использует смешанную квантизацию INT4 и FP8 и поставляется в формате SafeTensors; в метаданных также указана библиотека Sentence Transformers. Модель подходит для межмодального поиска, сравнения аудиофрагментов и ранжирования соответствий, в том числе в системах с ограничениями по памяти. Она извлекает представления, но не предназначена для генерации свободного текста или синтеза аудио. README сообщает, что для тонкой настройки квантизированные веса нужно сначала деквантизировать в BF16 или FP16. Лицензия — Apache-2.0.

Это 4-битная сборка MLX модели LFM2.5-ColBERT-350M, подготовленная сообществом mlx-community на основе LiquidAI/LFM2.5-ColBERT-350M для локального инференса на компьютерах Apple с Apple Silicon. Модель использует архитектуру ColBERT с поздним взаимодействием: формирует 128-мерный вектор для каждого токена, а релевантность запроса и документа оценивает методом MaxSim. В метаданных указаны 443,4 млн параметров и контекст до 128 000 токенов. Модель предназначена для многоязычного семантического поиска и извлечения документов. В тестах README 4-битная версия сохранила в среднем 98,7% NDCG@10 и 99,7% Recall@10 относительно bf16 версии на восьми наборах данных; оценки получены на небольших или сокращённых корпусах и не сопоставимы напрямую с результатами на полных корпусах. В репозитории указана лицензия other; условия исходной модели следует сверить с её карточкой.

GSAI-ML разработала LLaDA-MoE-v2-30B-A3B-Instruct как инструкционно дообученную модель семейства LLaDA MoE v2 — языковых моделей на основе диффузии с архитектурой mixture-of-experts. Модель использует ту же открытую реализацию архитектуры, что и LLaDA-MoE-v2-Base, но имеет отдельные веса, настроенные для следования инструкциям. Репозиторий содержит веса Safetensors и рассчитан на работу с библиотекой Transformers. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также указывают поддержку извлечения признаков и интерфейса вызова инструментов. Контекст составляет 32 768 токенов. Указанный общий размер — 4,8 млрд параметров. Веса распространяются по лицензии Apache-2.0. Карточка не сообщает о целевых языках или специализированных предметных областях, поэтому модель следует рассматривать как универсальную. Качество и ограничения в README не охарактеризованы; сведения о её возможностях опираются на указанные задачи и интерфейсы.

MLX Community Llama-3.1-8B-Instruct-4bit — это 4-битно квантованная версия инструкционной языковой модели Llama 3.1 8B Instruct, разработанной Meta и адаптированной сообществом MLX для запуска с использованием экосистемы MLX. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, написание и преобразование текста, обобщение и другие задачи обработки естественного языка. Модель относится к текстовым моделям и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Размер базовой модели составляет 8 миллиардов параметров. Квантование до 4 бит снижает требования к памяти и может упростить локальный запуск, однако способно немного ухудшить точность и качество по сравнению с полной версией. В README не указаны размер контекстного окна, конкретные требования к оборудованию и результаты бенчмарков. Модель распространяется по лицензии Llama 3.1 Community License от Meta. При распространении материалов или производных продуктов необходимо соблюдать условия лицензии, включая предоставление текста соглашения, указание «Built with Llama», сохранение уведомления об авторстве и соблюдение Acceptable Use Policy. Для организаций с более чем 700 миллионами ежемесячно активных пользователей предусмотрено требование получить отдельную лицензию Meta.

Cerebras Llama-3-CBHybridL-8B — языковая модель Cerebras, созданная на базе Llama-3.1-8B-Instruct для работы с длинным контекстом. Это вариант с гибридным плотным и разреженным вниманием: 25 из 32 слоёв внимания дообучены для разреженного lambda-mask attention. По данным авторов, такой подход уменьшает память KV-кэша в 1,6–1,7 раза при сохранении большей части качества на задачах с длинным контекстом. Модель предназначена для генерации текста и диалогов, включая ответы на вопросы по длинным документам и работу с несколькими источниками. Метаданные указывают 7,5 млрд параметров и контекст до 33 792 токенов; поддерживается интерфейс вызова инструментов. В README приведены результаты на LongBench и HELMET: качество зависит от задачи и может снижаться относительно исходной модели. Для улучшения работы с длинным контекстом авторы предлагают вставлять вспомогательные токены памяти; их добавление требует соответствующей обработки входа. Модель распространяется в формате safetensors под лицензией other; конкретные условия лицензии следует уточнить на странице репозитория. Карточка описывает её как эксперимент Cerebras на основе инструкционной модели Llama 3.1, а не как универсальную замену исходной модели.

LongAlign-6B-64k — чат-модель на архитектуре ChatGLM, разработанная авторами проекта LongAlign. Она дообучена на LongAlign-6B-64k-base, созданной на основе ChatGLM3-6B с расширенным контекстом, для следования инструкциям в длинных диалогах и работы с запросами, содержащими большие объёмы текста. В README описан набор LongAlign-10k из 10 000 инструкций длиной 8–64 тыс. токенов и подходы к обучению, включая упаковку примеров с взвешиванием потерь и пакетирование по длине. Для модели указано окно контекста до 65 536 токенов; заявленные сценарии оценки включают запросы длиной 10–100 тыс. токенов. Модель принимает и генерирует текст; в метаданных указаны английский и китайский языки, 7,8 млрд параметров и библиотека Transformers. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. Длинный контекст ориентирован на работу с большими документами и многошаговыми инструкциями, однако README не приводит количественных результатов оценки именно этой модели; эффективная длина и качество могут зависеть от задачи и аппаратных ресурсов.

sharedalfalfa/market-matcher-trained-v1 — дообученный разработчиком модели энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2 для сопоставления текстов. Он преобразует предложения и абзацы в плотные векторы размерности 384; сходство между векторами оценивается косинусной мерой. Архитектура состоит из BERT-энкодера, среднего пулинга токенов и нормализации. По метаданным модели в ней 25,9 млн параметров, а длина контекста составляет до 512 токенов; в конфигурации из README указана максимальная длина последовательности 256 токенов. Модель предназначена для семантического сравнения, поиска похожих текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. README указывает на обучение на наборе из 179 пар предложений с оценками сходства; примеры посвящены прогнозным рынкам, но данных недостаточно, чтобы считать специализацию на этой области подтверждённой. Карточка не сообщает лицензию. Англоязычная базовая модель предполагает основной упор на английский; качество для других языков не подтверждено.

Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.

Unsloth/Meta-Llama-3.1-8B-Instruct-unsloth-bnb-4bit — это 4-битная версия инструкционно настроенной текстовой языковой модели Meta Llama 3.1 с 8 млрд параметров, подготовленная Unsloth для использования с Transformers и форматом bitsandbytes. Модель предназначена для диалогов, генерации и обработки текста, выполнения инструкций, суммаризации и других задач, где требуется компактная LLM с пониженным потреблением памяти. Модель использует авторегрессионную архитектуру Transformer и работает в режиме «текст на входе — текст на выходе». Ключевая особенность версии — селективная динамическая 4-битная квантизация Unsloth, направленная на снижение требований к памяти при сохранении большей точности по сравнению со стандартной 4-битной квантизацией. В карточке официально указан английский язык; дополнительные языки, размер контекста и другие характеристики для данной версии не подтверждены. Разработчик базовой модели — Meta, адаптацию и квантизацию выпустила Unsloth. Ограничения включают возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробной информации о производительности, контекстном окне и поддерживаемых сценариях за пределами текста. Модель распространяется по лицензии Llama 3.1.

mal-sh/mith-embed-v2-train — модель Sentence Transformers на базе арабоязычной aubmindlab/bert-base-arabertv2, дообученная для получения плотных векторных представлений предложений и абзацев. Она предназначена для поиска семантически близких текстов, оценки сходства, поиска перефразировок, кластеризации и классификации текстов; особенно полезна для задач с арабскими вопросами и ответами. Модель выдаёт векторы размерности 768, для сравнения текстов использует косинусное сходство и принимает последовательности длиной до 512 токенов. В README перечислены арабский, китайский, немецкий, английский, французский, итальянский, польский, русский, испанский и турецкий языки; обучающие данные включают наборы арабских QA, NLI и межъязыкового сходства предложений. Архитектура состоит из BERT-трансформера и mean pooling. Репозиторий содержит веса в формате safetensors, размер модели — 162,4 млн параметров. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Карточка модели avsolatorio/MixEmbed-base-20240110225225-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122103941-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122145230-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240122145230-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123004625-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123004641-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123184551-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

Карточка модели avsolatorio/MixEmbedFinetune-base-20240123213810-best на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

ilhkn/my-awesome-setfit-model3 — модель Sentence-Transformers на архитектуре MPNet, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Она подходит для семантического поиска, сравнения сходства текстов и кластеризации. В метаданных указано 136,7 млн параметров и контекст до 514 токенов; модель распространяется в формате PyTorch. Модель обучалась с помощью CosineSimilarityLoss. Её можно использовать через Sentence-Transformers или Transformers, применяя подходящую операцию pooling к контекстным представлениям токенов. Данных о специализации по языку или предметной области нет. Условия лицензии в предоставленных данных не указаны.

naija-embed-base — модель эмбеддингов предложений, разработанная OlaVerse для поиска смыслового сходства между английским, хауса, йоруба и игбо. Это дообученная на контрастных парах версия olaverse/mist-encoder-base-ng: пары для обучения получены машинным переводом английских предложений на нигерийские языки. Архитектура — ModernBERT с mean pooling; размер — 30,7 млн параметров, максимальный контекст — 1024 токена. Модель предназначена для межъязыкового поиска, семантического поиска внутри одного языка, кластеризации и удаления дубликатов. Эмбеддинги можно использовать в RAG-системах, например для поиска документов на йоруба по запросу на хауса. В README приведены результаты классификации тематик новостей и межъязыкового поиска на FLORES+. Обучение на синтетических переводах добавляет шум и ограничивает точность межъязыкового выравнивания; для игбо оно несколько слабее, чем для хауса. Нигерийский пиджин не входил в обучение. Модель распространяется по лицензии Apache-2.0.

annazdr/new-nace-pl-up-3 — модель на базе BERT, опубликованная в формате sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 для вычисления семантического сходства, кластеризации и семантического поиска. Модель содержит 124,3 млн параметров, принимает текстовые входы, а максимальная длина контекста составляет 512 токенов. При обучении использовалась функция BatchAllTripletLoss. Модель подходит для построения эмбеддингов и сравнения текстов; сведений о поддерживаемых языках, лицензии и оценках качества в предоставленных данных нет.

NVIDIA NV-QwenOmni-Embed-3B-v1 — мультимодальная модель эмбеддингов для поиска и извлечения информации. Она основана на Thinker-компоненте Qwen/Qwen2.5-Omni-3B; компонент Talker для генерации ответов не входит в модель. По данным карточки, модель содержит 4,7 млрд параметров и использует архитектуру Transformer с отдельными кодировщиками зрения и аудио. Она принимает текст, изображения, аудио и видео по отдельности или в сочетании, а также мультимодальные запросы, и возвращает векторы эмбеддингов размерностью 2048. Максимальная длина контекста — 32 768 токенов. Модель обучена как bi-encoder с контрастивным обучением: запросы и материалы кодируются независимо в общем пространстве эмбеддингов. Она предназначена для мультимодальных RAG-систем, поиска по медиакорпусам и межмодального извлечения, включая поиск видео по тексту, аудио по тексту и визуальных документов. Для крупных нетекстовых входов, например длинных видео, может потребоваться настройка разрешения и выборки кадров. Карточка рекомендует запуск на NVIDIA GPU; указана совместимость с A100 и H100. Условия использования регулируются NVIDIA Open License Agreement и Qwen Research License Agreement.

facebook/opt-6.7b — языковая модель семейства OPT, разработанная Meta AI и выпущенная как часть серии Open Pre-trained Transformers. Это плотный декодерный трансформер с авторегрессионной языковой моделью; метаданные указывают 8,8 млрд параметров и контекст до 2048 токенов. Модель предварительно обучена преимущественно на английских текстах, а в обучающем корпусе присутствует небольшое количество неанглоязычных данных. Модель предназначена для генерации текста и оценки задач по промптам, в том числе в сценариях zero-shot и few-shot; её также можно дообучать для прикладных задач. Чекпойнт представлен в формате PyTorch. Для эффективной генерации больших OPT-моделей README рекомендует загружать веса в half-precision и вызывать generate напрямую. Обучение на неотфильтрованных интернет-текстах приводит к смещениям; возможны галлюцинации и недостаточное разнообразие генераций. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Brendan/orig-refpydst-5p-referredstates-split-v1 — модель эмбеддингов предложений на архитектуре MPNet, разработанная Brendan. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Модель содержит 136,7 млн параметров, принимает текст и рассчитана на контекст до 514 токенов. Модель обучалась с использованием OnlineContrastiveLoss и распространяется в формате PyTorch. Лицензия в предоставленных данных не указана.

PolDense-68M — польская модель эмбеддингов из семейства PolDense, разработанного для плотного поиска. Она построена на энкодере ettin с архитектурой ModernBERT, содержит 68,1 млн параметров и поддерживает контекст до 7 999 токенов. Модель выдаёт векторные представления текста для поиска, извлечения релевантных фрагментов, сценариев RAG и оценки семантического сходства. Модель обучалась в три этапа: её адаптировали для польского языка дистилляцией знаний от BGE-Multilingual-Gemma2, затем дополнительно дистиллировали на польских текстах и дообучили для поиска на примерах запросов и фрагментов, отобранных с помощью BGE-Reranker-v2.5-Gemma2-Lightweight. Для поиска к запросам добавляют префикс «[query]: », а для симметричного сравнения текстов — «[sts]: ». По данным авторов, на польском бенчмарке PIRB вариант 68M сопоставим с более крупными многоязычными моделями. Репозиторий содержит веса в формате safetensors; лицензия — Gemma.