I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиlecore-bge-assimilated — англоязычная модель текстовых эмбеддингов на базе BAAI/bge-base-en-v1.5 от BAAI, обработанная механизмом leCore: спектральный фильтр не изменил слои, а веса были повторно квантованы с переменной разрядностью. Архитектура — BERT; размер — 136,7 млн параметров, контекст — до 512 токенов. Репозиторий содержит контейнер весов fp32, привязанный к квантовочной сетке; средняя разрядность весов после обработки составляет 7,62 бита. Модель предназначена для получения эмбеддингов и сравнения текстов, в том числе для семантического поиска и систем RAG. В тестах автор README сообщает результаты, близкие к полной версии BGE на SciFact, NFCorpus, ArguAna и SCIDOCS. Лицензия — MIT. Повторная квантовка уменьшает размер представления весов, но сама по себе не ускоряет CPU-инференс: по данным README, он работает примерно со скоростью обычной bge-base. Указанные около 132 МБ относятся к оценке упакованных весов; в репозитории поставляется fp32-контейнер размером 438 МБ, а для реализации экономии памяти при инференсе нужен совместимый упакованный runtime.
Llama-3.1-Minitron-4B-Depth-Base — базовая языковая модель NVIDIA для генерации текста. Она построена на архитектуре Llama 3.1 с авторегрессионным трансформером, механизмом Grouped-Query Attention и позиционными эмбеддингами RoPE; размер модели составляет 4 млрд параметров, а длина контекста — до 131 072 токенов. Модель принимает и выдаёт текст. Модель создана прореживанием слоёв Llama-3.1-8B, после чего её продолжили обучать с дистилляцией на 94 млрд токенов. Она предназначена для адаптации к задачам генерации естественного языка, включая продолжение текста, ответы на вопросы и генерацию кода. Обучающий корпус включал английские и многоязычные тексты, код, диалоги и документы из разных областей; основным языком карточки указан английский. Модель заявлена как готовая к коммерческому использованию. Метаданные указывают лицензию other, поэтому перед применением следует проверить условия NVIDIA. Возможные ограничения — токсичные ответы и усиление предвзятости из обучающих данных, а также неточные, неполные или избыточные ответы; данные предобучения имеют срез до июня 2023 года.
DavidAU/Llama3.1-MOE-4X8B-Gated-IQ-Multi-Tier-Deep-Reasoning-32B-GGUF — текстовая instruct-модель, разработанная DavidAU на базе Llama 3.1 и объединяющая четыре 8B-модели в конфигурации Mixture of Experts. В состав входят Llama-3.1-DeepHermes-3-8B-Preview для рассуждений, а также Llama-3.1-Hermes-3-8B, Llama-3.1-dolphin-2.9.4-8b и Llama-3.1-SuperNova-Lite для генерации и дополнительной обработки. Заявленный общий размер — 32B параметров, при этом модель описывается как имеющая около 25B весов. Распространяется в формате GGUF и рассчитана на контекст до 128K токенов. Модель предназначена для текстовой генерации, глубокого рассуждения, решения задач, творческого письма, сторителлинга, ролевых сценариев и работы с инструментами. Поддерживает управление режимом рассуждений через системные промпты, включая включение, отключение и многоуровневое рассуждение, а также совместима с вызовами инструментов благодаря встроенному Llama 3.1 Instruct. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Сильными сторонами являются сочетание нескольких экспертных моделей, возможность управлять режимом рассуждений и универсальность сценариев применения. README рекомендует шаблон Llama 3 Instruct, контекст не менее 4K–8K токенов и более крупные квантизации для лучшего качества. К ограничениям относятся возможная нестабильность активации блока рассуждений, необходимость повторной генерации и зависимость качества от промпта, температуры и выбранной квантизации; заявленные улучшения производительности не подтверждены независимыми бенчмарками. Лицензия — Apache-2.0.
unsloth/Meta-Llama-3.1-70B-Instruct-bnb-4bit — это 4-битно квантованная версия Meta-Llama-3.1-70B-Instruct, подготовленная с использованием экосистемы Unsloth. Базовую модель разработала Meta; в карточке указано, что Unsloth предоставляет квантованный вариант и инструменты для более эффективного дообучения. Модель предназначена для генерации текста и диалоговых сценариев, включая создание виртуальных ассистентов, обработку инструкций и адаптацию под специализированные наборы данных. Модель относится к семейству Llama 3.1, содержит 70 миллиардов параметров и использует архитектуру decoder-only Transformer, характерную для этой серии. Указан основной язык English; поддержка других языков в карточке не заявлена. Формат bnb-4bit снижает требования к памяти по сравнению с полноразмерной моделью, что может упростить локальный запуск и дообучение, однако потенциально сопровождается потерей качества относительно исходной версии и требует совместимого программного и аппаратного окружения. Сведения о размере контекста, мультимодальности и точных характеристиках инференса отсутствуют. Модель распространяется по лицензии Llama 3.1. Перед использованием необходимо учитывать условия этой лицензии и требования совместимого стека, включая Transformers и поддержку 4-битной загрузки.
Meta-Llama-3.1-8B-Instruct — инструктивно дообученная языковая модель семейства Llama 3.1, разработанная Meta. Это плотная авторегрессионная модель на архитектуре Transformer с 7,5 млрд параметров; версия Instruct прошла supervised fine-tuning и обучение с обратной связью от людей. Репозиторий содержит веса в формате safetensors, модель предназначена для генерации текста и диалогов с помощником. Окно контекста — 131 072 токена. Модель рассчитана на многоязычный диалог, ответы на вопросы, написание и преобразование текста, а также может использоваться в приложениях и для создания синтетических данных. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель принимает и выдаёт текст; поддержка инструментов зависит от интеграции разработчиком. Модель выпущена Meta 23 июля 2024 года. Лицензия — Llama 3.1 Community License с условиями использования и Acceptable Use Policy; перед коммерческим применением необходимо ознакомиться с её условиями. Это статический чекпойнт, обученный на офлайн-данных. Качество и безопасность ответов могут различаться между языками, а карточка не заявляет поддержку русского языка.
keeeeenw/MicroLlama-text-embedding — англоязычная модель Sentence Transformers, дообученная разработчиком на базе keeeeenw/MicroLlama. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для сравнения смысловой близости и поиска по тексту. Модель использует архитектуру LlamaModel с усреднённым пулингом токенов, принимает текстовые последовательности длиной до 2048 токенов и рассчитывает сходство по косинусной мере. Модель обучалась на наборах all-nli, STSB, Quora и Natural Questions. Её можно применять для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Она рассчитана на английский язык; качество для других языков не заявлено. Лицензия в предоставленных данных не указана.
MindLink-72B-0801 — диалоговая большая языковая модель, разработанная Kunlun Inc на базе Qwen2.5-72B-Instruct. В карточке описано семейство MindLink с дообучением и посттренировочными методами; экземпляр содержит 71,5 млрд параметров, использует плотную архитектуру Qwen2 и формат safetensors. Модель предназначена для генерации текста и диалогов, рассуждений, математики и других общих задач. Для этой версии метаданные указывают контекст 32 768 токенов. Заявлены адаптивное планирование рассуждений и способность выдавать подробные рассуждения для сложных запросов и краткие ответы для простых; README также отмечает многошаговые диалоги. Описание не приводит численных результатов сравнительных тестов. Основной язык, указанный в метаданных карточки, — английский. Лицензия — Apache 2.0; README просит сохранять уведомления об авторских правах Qwen и описывать внесённые изменения.
MiniCPM5-2B-heretic — компактная плотная языковая модель семейства MiniCPM5, представленная в карточке как модель для локального запуска на устройствах с ограниченными ресурсами. Она основана на архитектуре LlamaForCausalLM и содержит около 2,2 млрд параметров; README указывает 2,52 млрд параметров всего и 1,98 млрд без эмбеддингов. Контекстное окно составляет 131 072 токена. Модель предназначена для диалоговых помощников, генерации текста, программирования, математических рассуждений, работы с длинным контекстом и сценариев использования инструментов. Карточка заявляет сильные результаты относительно моделей сопоставимого размера в программировании, математике, понимании длинного контекста и агентных задачах, а также пригодность для локального и периферийного развертывания. Эти оценки приведены разработчиками и не являются независимой проверкой. Теги «heretic», «uncensored» и «abliterated» указывают на модификацию с ослабленными отказами, но README не описывает способ её получения; поэтому происхождение именно этой версии нельзя уверенно установить. Модель принимает текст и генерирует текст. В метаданных указаны английский и китайский языки. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; модель может выдавать нежелательный контент под воздействием специально составленных запросов. Ответы на чувствительные темы не являются профессиональной консультацией, а для практического применения нужны собственные меры безопасности.
MiniMind-Embedding-Dense — плотная модель текстовых эмбеддингов на основе MiniMind-3, разработанная в проекте minimind-embedding. Это причинный Transformer-декодер с 63,9 млн параметров и размером скрытого слоя 768; вектор текста формируется по последнему токену EOS. Обучение использует контрастивную функцию InfoNCE с маскированием вероятных ложных негативов и Matryoshka Representation Learning, поэтому эмбеддинг можно сокращать до 64, 128, 256 или 512 измерений для более быстрого поиска. Максимальная длина контекста — 32 768 токенов. Модель предназначена для получения векторов текста, поиска семантически близких предложений и извлечения релевантных документов по запросу. В карточке показаны оценки на китайских наборах ATEC, BQ и LCQMC; заявленная область применения — прежде всего китайские тексты, также указана поддержка английского. Карточка отмечает, что качество ограничивают небольшой словарь в 6400 токенов и сравнительно малый объём первого этапа обучения. Модель дообучена на jingyaogong/minimind-3 и распространяется по лицензии Apache-2.0.
Mistral-7B-Instruct-v0.2 — диалоговая языковая модель Mistral AI для генерации ответов на инструкции и сообщения пользователя. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров; для общения используется формат instruct. Она рассчитана на чат, ответы на вопросы, объяснения и другие задачи генерации текста. В метаданных указан контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Карточка показывает пример кодирования запроса и генерации ответа, но не приводит перечень поддерживаемых языков или специализированных областей. Модель выпущена под лицензией Apache-2.0. По заявлению авторов, это демонстрация возможностей дообучения базовой модели; встроенных механизмов модерации нет, поэтому ответы могут не соблюдать заданные ограничения.
Карточка модели OmarIDK/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели Gswrtz/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели julpiro/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой intfloat/e5-base-v2, поэтому описание составлено по ней. E5-base-v2 — англоязычная модель эмбеддингов текста, разработанная Liang Wang, Nan Yang и соавторами. Она обучена методом контрастивного предобучения со слабой супервизией и основана на архитектуре BERT: 12 слоёв, размерность эмбеддинга 768, около 136,7 млн параметров. Модель принимает текст и выдаёт векторные представления для сравнения предложений и поиска по смыслу. Модель подходит для семантического сходства, поиска документов и пассажей, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Для асимметричного поиска рекомендуется добавлять к запросам префикс «query: », а к документам — «passage: »; для сходства и других симметричных задач используется префикс «query: ». Контекст ограничен 512 токенами, длинные тексты обрезаются; модель предназначена только для английского языка. Лицензия — MIT.
Карточка модели raduv98/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
jfarray/Model_all-distilroberta-v1_50_Epochs — модель Sentence-Transformers на основе RoBERTa, разработанная jfarray. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель содержит 95,2 млн параметров и принимает контекст длиной до 514 токенов. Модель обучена с функцией CosineSimilarityLoss и предназначена для получения эмбеддингов предложений. Её можно использовать в семантическом поиске и других задачах сравнения текстов через библиотеку Sentence-Transformers. Репозиторий содержит веса PyTorch. Сведения о лицензии и языках в предоставленных данных отсутствуют.
estrogen/ModernBERT-base-nli-v3 — англоязычная модель Sentence Transformers, дообученная на наборе all-nli для получения эмбеддингов предложений и абзацев. В основе лежит encoder-модель ModernBERT-base; архитектура использует ModernBertModel и mean pooling. Модель содержит 149 млн параметров, выдаёт плотные векторы размерностью 768 и поддерживает последовательности до 8192 токенов. Векторы предназначены для сравнения текстов по косинусному сходству и подходят для семантического поиска, поиска перефразирований, кластеризации и классификации текста. Обучение с MatryoshkaLoss поддерживает также укороченные представления размерностью 512, 256, 128 и 64. Для оценки сходства в README приведены результаты на STS-dev и STS-test. Лицензия в предоставленных данных не указана.
ModernBERT Embed Base — англоязычная модель эмбеддингов от Nomic AI, созданная на основе ModernBERT-base и обученная на слабонаблюдаемых и размеченных данных Nomic Embed. Она преобразует текст в векторы для семантического поиска, сравнения предложений, классификации и кластеризации. Модель имеет архитектуру ModernBERT, около 149 млн параметров и контекст до 8192 токенов; стандартная размерность эмбеддинга — 768. Поддерживается Matryoshka Representation Learning: вектор можно сократить до 256 измерений с небольшими потерями качества и меньшим расходом памяти. Модель подходит для поиска по документам и запросам, оценки смысловой близости текстов и других задач, использующих текстовые представления. Доступны веса Safetensors и ONNX, а README описывает использование через Transformers, Sentence Transformers и Transformers.js. Карточка приводит результаты на бенчмарках MTEB и сообщает о многоэтапном обучении с контрастивным предобучением и последующей настройкой на поисковых данных. Лицензия — Apache-2.0. По данным карточки, модель рассчитана на английский язык.
IoannisKat1 разработал англоязычную модель Sentence Transformers для получения плотных векторных представлений предложений и абзацев. Это дообученная версия nomic-ai/modernbert-embed-base на архитектуре ModernBertModel с усреднением токенных представлений и нормализацией выходного вектора. Модель имеет 149 млн параметров, формирует эмбеддинги размерности 768 и принимает последовательности длиной до 8192 токенов; для сравнения используется косинусное сходство. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README приведены результаты оценки поиска при сокращении размерности эмбеддингов до 512, 256, 128 и 64 измерений, однако качество зависит от набора данных. Данные обучения содержат 1627 пар anchor-positive. Лицензия Apache-2.0.
ModernBERT-small-v2 — компактная модель Sentence Transformers для получения плотных векторов предложений и оценки их семантического сходства. В карточке Hugging Face указаны архитектура ModernBERT и 37 млн параметров; разработчик описывает её как 12-слойный энкодер с размерностью эмбеддингов 384. Модель принимает текст и выдаёт векторные представления, которые можно сравнивать по косинусному сходству. Модель предназначена для семантического поиска, ранжирования и извлечения релевантных документов, в том числе в корпусах с вопросами и академическими текстами. По README, её инициализировали проекцией PCA знаний answerdotai/ModernBERT-base, затем обучали на задаче masked language modeling и дистиллировали подражанием эмбеддингам Alibaba-NLP/gte-modernbert-base с MSE loss. Максимальная длина последовательности составляет 1024 токена; заявлены англоязычные поисковые и энциклопедические данные. Узкая размерность вектора и сравнительно небольшой размер модели рассчитаны на быстрое кодирование и компактные поисковые индексы. Модель подходит для применения в поисковых системах и retrieval-сценариях; в README приведены результаты оценивания на NanoMSMARCO, NanoHotpotQA и NanoBEIR. Результаты зависят от данных и конфигурации поиска. Лицензия в предоставленных сведениях не указана.
Это англоязычная модель Sentence Transformer, разработанная tomaarsen и дообученная на базе microsoft/mpnet-base на наборе вопросов и ответов GooAQ. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые можно сравнивать по косинусному сходству; архитектура включает MPNet и mean pooling. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений и поиска перефразировок. Векторы также подходят для кластеризации и классификации текста в составе внешнего конвейера. Обучение с QuantizationAwareLoss и MultipleNegativesRankingLoss ориентировано на поиск и сохраняет пригодность представлений для квантованных вариантов. Лицензия — Apache-2.0.
tomaarsen/mpnet-base-nq-prompts — англоязычная модель Sentence Transformers, дообученная на парах запросов и ответов датасета Natural Questions. Она основана на microsoft/mpnet-base и преобразует предложения и абзацы в плотные векторы размерностью 768 для вычисления семантического сходства по косинусной мере. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 514 токенов по метаданным; в README указан предел 512 токенов. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. Её обучение на парах Natural Questions ориентировано на сопоставление вопросов с ответами, а приведённые в карточке оценки охватывают несколько наборов для поиска информации. Лицензия — Apache-2.0. Качество зависит от соответствия данных предметной области и языка; основной язык обучения и карточки — английский.
IoannisKat1/multilingual-e5-large-ft-new — это дообученная модель Sentence Transformers на базе intfloat/multilingual-e5-large, разработанная автором репозитория IoannisKat1. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 1024 для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. Архитектура включает XLM-RoBERTa, усреднение токенных представлений и нормализацию; сходство векторов можно измерять косинусной близостью. Максимальная длина последовательности — 512 токенов. Карточка указывает английский язык. Модель подходит для построения векторного поиска и других систем, где требуется сопоставлять тексты по смыслу; опубликованные результаты оценки поиска приведены для нескольких размерностей эмбеддингов. Лицензия — Apache-2.0. README описывает дообучение на 1 627 парах anchor-positive, поэтому качество за пределами указанных задач и данных может отличаться; более конкретные сведения о составе обучающих данных не приведены.
Minnow-Em1-0.6B — компактная многоязычная модель эмбеддингов от KiteFish AI, дообученная на базе Qwen/Qwen3-0.6B. Это плотный трансформер с примерно 507,9 млн параметров, преобразованный в двунаправленный энкодер: каждый токен учитывает контекст с обеих сторон. Модель принимает текст и формирует векторные представления для поиска, сравнения и группировки текстов; поддерживает контекст до 40 960 токенов и инструкции, задающие тип задачи для запроса. Модель предназначена для семантического поиска и извлечения документов, оценки сходства текстов, классификации, кластеризации, ранжирования и поиска параллельных фрагментов на разных языках. Для корректной работы при загрузке необходимо включить двунаправленное внимание: в сохранённых весах это изменение не зафиксировано, и стандартная причинная маска заметно ухудшает эмбеддинги. Авторы готовят оценку на MMTEB/MTEB; опубликованных итоговых результатов пока нет. В обучении использовались обучающие части ряда публичных бенчмарков, поэтому результаты на соответствующих задачах следует считать внутридоменными; версия v1 смещена в сторону англоязычного поиска вопросов и ответов, а низкоресурсные и межъязыковые задачи могут выполняться слабее. Лицензия — Apache 2.0.
Noema 1.5 2B GGUF — локальная языковая модель с открытыми весами, разработанная NoemaAI-labs и распространяемая в формате GGUF для запуска через llama.cpp. Это вариант модели Noema 1.5 2B, ориентированный на восстановление знаний, генерацию кода, строгое следование инструкциям, многоходовые диалоги и более эффективное рассуждение. Модель имеет около 2 млрд параметров, 24 слоя и размерность скрытого состояния 2048. В основе используется гибридная архитектура Qwen3.5 с Gated DeltaNet и gated attention. Поддерживается только текстовая модальность; основной оценённый язык — английский. Архитектурный лимит контекста составляет 262 144 токена, однако разработчик независимо проверил работу только до 24 576 токенов. MTP отключён. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M и Q4_K_M; последний рекомендован как компактный вариант по умолчанию. Сильными сторонами модели являются небольшой размер, возможность локального запуска, улучшенная генерация кода, строгое выполнение инструкций и повышенная надёжность многоходового взаимодействия. В режиме без рассуждений она подходит для кратких инструкций, структурированной генерации и кода, а режим рассуждений предназначен для более сложных задач, но может выдавать длинные или повторяющиеся ответы. README не содержит полной информации об обучении, бенчмарках, ограничениях применения и целевых сценариях исходной модели. Веса доступны для скачивания, но репозиторий не предоставляет открытой лицензии и не является open source.
mlx-community/nomicai-modernbert-embed-base-4bit — англоязычная модель эмбеддингов на базе ModernBERT, опубликованная mlx-community. Репозиторий содержит версию для MLX, преобразованную из nomic-ai/modernbert-embed-base; модель предназначена для получения векторных представлений текста и оценки сходства предложений. Она основана на архитектуре ModernBERT, имеет 149 млн параметров и контекст до 8192 токенов. README предлагает использовать её через библиотеку mlx-embeddings. Модель подходит для семантического поиска, сопоставления предложений и построения систем поиска по текстам. Указана лицензия Apache-2.0. README подтверждает преобразование в формат MLX, тогда как метаданные связывают модель с answerdotai/ModernBERT-base и nomic-ai/modernbert-embed-unsupervised через merge и finetune; точная последовательность происхождения в источниках не согласована.
CrazyDave53/OpenCV-finetuned — модель Sentence Transformers, дообученная на базе HZeroxium/paraphrase-multilingual-MiniLM-L12-v2-job-cv-multi-dataset. Она преобразует предложения и абзацы в плотные векторы размерности 384; близость текстов можно оценивать косинусным сходством. Архитектура включает BertModel и mean pooling. В README указана максимальная длина последовательности 350 токенов, а в метаданных — контекст до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации текста на основе эмбеддингов. README сообщает о датасете обучения из 160 000 примеров; метаданные указывают 124,3 млн параметров, библиотеку sentence-transformers и формат safetensors. Базовая модель мультиязычная, однако конкретные языки обучения или поддерживаемые языки в доступных данных не перечислены. Лицензия в предоставленных метаданных и README не приведена. Для работы с текстами длиннее 350 токенов следует учитывать ограничение длины последовательности, заявленное в README; фактический предел также может зависеть от используемой конфигурации модели.
Pythia 6.9B Tulu — языковая модель Allen Institute for AI, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров в метаданных и контекстом до 2048 токенов. Модель предназначена для генерации ответов на инструкции, диалоговых запросов, рассуждений и кода. В карточке приведены результаты на наборах тестов для общих знаний, математики, вопросов и ответов и генерации кода; авторы отмечают, что результат зависит от соблюдения обучающего формата с переводом строки после маркера сообщения. Модель поддерживает английский язык. Она распространяется в формате PyTorch и является полным набором весов, а не diff. Условия использования определяются лицензией модели из LICENSE.txt и исходной лицензией Pythia из pythia_license.txt; их конкретные положения в предоставленных данных не приведены.
Microsoft Phi-3 Medium-4K-Instruct в этом репозитории представлен в формате ONNX и оптимизирован для инференса через ONNX Runtime на NVIDIA GPU с CUDA. Это конверсия инструкционной модели семейства Phi-3 с плотной архитектурой Phi3ForCausalLM и примерно 13,8 млрд параметров; исходная модель прошла дообучение с учителем и оптимизацию по предпочтениям для следования инструкциям и повышения безопасности. Модель принимает текст и генерирует текстовые ответы в диалоговом формате; поддерживает контекст до 4096 токенов. В README описаны варианты FP16 и INT4, причём INT4 получен квантованием RTN; метаданные указывают формат ONNX. Модель подходит для диалоговых ассистентов, ответов на вопросы, рассуждений, математики и генерации кода. README сообщает о тестировании на NVIDIA A100 и минимальном требовании CUDA GPU с Compute Capability 7.0 или выше; приведённые замеры производительности относятся к A100 и не гарантируют таких же результатов на другом оборудовании. Лицензия — MIT.
Phi-4-mini-instruct-GGUF — GGUF-квантизированная версия инструкционной модели Phi-4-mini-instruct, разработанной Microsoft. Квантизацию выполнил bartowski на базе llama.cpp версии b4792; модель распространяется в рамках программы Community Models для LM Studio. Модель предназначена для широкого круга коммерческих и исследовательских задач генерации текста, включая диалоговое взаимодействие, следование инструкциям и вызов функций. Она поддерживает контекст длиной до 128 тысяч токенов, заявлена как многоязычная и обладает улучшенными возможностями instruction following и function calling. README не содержит сведений о точном размере модели, конкретной архитектуре, перечне поддерживаемых языков и типе квантизации. Для использования в LM Studio на указанную дату требуется Beta runtime. Лицензия в предоставленных данных не указана; модель может генерировать неточный, вредный или нежелательный контент.
BlueAvenir/prosieben_media_activities_scoring_model_updated — модель на базе XLM-RoBERTa, созданная с использованием Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантической близости, поиска по смыслу и кластеризации. В README указано обучение с CosineSimilarityLoss; всего модель содержит около 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель подходит для ранжирования текстов по смысловому сходству, семантического поиска и группировки похожих текстов. В метаданных и карточке не указана специализированная предметная область или лицензия, поэтому условия распространения по имеющимся сведениям определить нельзя.