I.14Автоматизация процессов и AI-агенты
В разделе собраны самостоятельные задачи, где AI помогает выполнять многошаговые цифровые процессы и координировать действия между системами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 022 моделиLaBSE (Language-agnostic BERT Sentence Encoder) — многоязычная модель на архитектуре BERT, представленная Google и перенесённая из версии v2 на TensorFlow Hub в формат PyTorch для Hugging Face. Модель содержит 498,1 млн параметров и формирует векторные представления предложений для 109 языков; контекст ограничен 512 токенами. Предобучение сочетает маскированное языковое моделирование и моделирование перевода. LaBSE предназначена для сопоставления предложений между языками и поиска соответствующих текстов в двуязычных корпусах. Её можно применять для мультиязычного поиска, поиска семантически близких фраз и построения систем поиска по тексту. Репозиторий предоставляет веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Лицензия — Apache-2.0.
LFM2.5-2.6B — компактная текстовая модель Liquid AI для локального запуска и агентных сценариев на устройствах с ограниченными ресурсами. Это дообученная на базе LiquidAI/LFM2.5-2.6B-Base модель семейства LFM2: плотная архитектура Lfm2ForCausalLM с 2,6 млрд параметров, 30 слоями, включая блоки коротких свёрток и GQA. Модель поддерживает контекст до 131 072 токенов и работает с Transformers, vLLM и SGLang; для репозитория указан формат safetensors. Модель предназначена для диалогов, вызова инструментов, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В README заявлена многоязычная поддержка 17 языков, включая русский, а также постобучение с обучением с подкреплением в популярных агентных средах. README приводит высокую скорость инференса на отдельных устройствах, но эти показатели зависят от оборудования и условий запуска. Модель не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и документах Liquid AI.
Snowflake AI Research разработала Snowflake/Llama-3.1-SwiftKV-8B-Instruct — инструкционную языковую модель на архитектуре Llama-3.1 с преобразованием SwiftKV для ускорения вывода. Метод оптимизирует обработку входного промпта: перенастраивает модель и применяет дистилляцию с сохранением знаний, чтобы часть токенов при обработке промпта могла пропускать до половины слоёв. Репозиторий содержит веса в формате safetensors; число параметров — 7,5 млрд, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев, где важны скорость обработки промптов и эффективность обслуживания запросов. В README заявлены улучшения пропускной способности, задержки и стоимости до 2 раз при небольшой потере точности; для версии 8B приведены результаты бенчмарков, где среднее значение снизилось с 73,71 до 72,70 относительно базовой модели. Поддерживается лицензия Llama 3.1; применяются её условия использования.
Llama-3.1-Tulu-3-8B — языковая модель семейства Tülu 3, разработанного Allen Institute for AI (AI2). Это плотная авторегрессионная модель на архитектуре Llama с 7,5 млрд параметров, дообученная на основе allenai/Llama-3.1-Tulu-3-8B-DPO. Она предназначена для диалогов и следования инструкциям, а также для решения широкого круга задач, включая математические вопросы и проверку следования заданным условиям. Модель работает с текстом, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. В карточке описана серия Tülu 3 как открытый пакет постобучения с данными, кодом и рецептами обучения; приведены результаты оценок на ряде бенчмарков. Модель можно загружать через Transformers и обслуживать с помощью vLLM. Указанная лицензия — Llama 3.1 Community License Agreement. Разработчики отмечают, что модель прошла ограниченное обучение безопасности и может выдавать проблемный контент, особенно при соответствующих запросах. В README также советуют при запуске через vLLM учитывать длину шаблона чата и задавать max_model_len=8192.
OpenRLHF/Llama-3-8b-sft-mixture — плотная языковая модель семейства Llama, выпущенная командой OpenRLHF. Это контрольная точка supervised fine-tuning модели Meta-Llama-3-8B на смеси открытых наборов данных: ShareGPT, Evol-Instruct, SlimOrca, MathInstruct, Magicoder-Evol-Instruct, GPT4-LLM, OrcaMath, GPTeacher и UltraInteract. Обучение длилось одну эпоху; модель содержит 7,5 млрд параметров и использует контекст до 8192 токенов. Модель генерирует текст в диалоговом формате и предназначена для использования как отправная точка в исследованиях RLHF. Она не проходила RLHF-обучение. В README указано, что исправлена конфигурация генерации; подробные параметры обучения приводятся в техническом отчёте. Лицензия в предоставленных данных не указана.
M3E-Large — текстовая модель эмбеддингов, разработанная MokaAI на базе архитектуры RoBERTa из серии моделей лаборатории HFL и распространяемая в формате PyTorch. Модель содержит 424,3 млн параметров, формирует плотные векторы размерности 768 и обрабатывает последовательности длиной до 512 токенов. Модель предназначена прежде всего для китайского текста и поддерживает ограниченные сценарии с английским. Она обучалась контрастивным методом с внутрипакетными отрицательными примерами на китайских парах предложений и английских триплетах; при кодировании может учитывать инструкции. Её применяют для оценки сходства текстов, поиска релевантных фрагментов по запросу и построения текстовых классификаторов на эмбеддингах. Модель совместима с Sentence Transformers и может использоваться в системах семантического поиска и RAG. В карточке приведены результаты сравнительных тестов сходства, классификации и поиска; качество зависит от данных и сценария, а для кода модель не предназначена. Контекст ограничен 512 токенами. Лицензия в доступных сведениях не указана.
Это объединённая языковая модель на базе семейства Llama 3.2, созданная методом TIES с помощью mergekit. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; в объединение также вошли модели для рассуждений, программирования и математики, соблюдения инструкций и ответов на медицинские вопросы. Модель предназначена для диалоговой генерации текста, включая ответы на вопросы, рассуждения и помощь с кодом. Она содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текст, выдавая текст. Заявленная длина контекста — 131 072 токена. В метаданных указана библиотека Transformers и формат весов safetensors. Лицензия и отдельные результаты оценки качества в предоставленных данных не указаны. Поскольку объединены модели с разными специализациями, пригодность для конкретных задач следует проверять на собственных примерах.
Карточка модели Openintelligent123/Meta-Llama-3.1-8B на Hugging Face совпадает с карточкой unsloth/Meta-Llama-3.1-8B, поэтому описание составлено по ней. Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.
Meta-Llama-3.1-8B — плотная авторегрессионная языковая модель семейства Llama, опубликованная Meta и представленная в репозитории Unsloth в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев; карточка также описывает её как основу для дообучения с помощью ноутбуков Unsloth. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Для использования действует лицензия Llama 3.1. README не приводит результатов оценки качества или подробных ограничений применения.
MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Она построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Контекстное окно составляет до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. В предоставленных материалах не описаны языковое покрытие и специальные ограничения качества или безопасности.
openbmb/MiniCPM-V-4_5-gguf — квантизированная версия мультимодальной модели MiniCPM-V 4.5, разработанной OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языковых диалогов, включая локальное использование на компьютерах и мобильных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает мультиязычные сценарии более чем на 30 языках, обработку изображений высокого разрешения до 1,8 млн пикселей при любом соотношении сторон, а также видео с высокой частотой кадров и длинным контекстом. Унифицированный 3D-ресэмплер обеспечивает сжатие видеотокенов до 96 раз. Доступны управляемые режимы быстрого и глубокого рассуждения. Формат GGUF ориентирован на эффективный локальный инференс через llama.cpp и совместимые инструменты. Сильные стороны модели — высокие заявленные результаты в задачах vision-language, OCR и разбора PDF-документов, эффективная обработка видео, экономное использование визуальных токенов и возможность запуска на локальных устройствах. Ограничения включают зависимость качества от используемой квантизации, аппаратных ресурсов и программной совместимости; конкретные требования к памяти и поддерживаемые варианты квантизации в предоставленных данных не указаны. В README лицензия модели не указана.
Mistral-7B-Uncensored — разговорная текстовая модель на базе архитектуры Mistral 7B с примерно 7 миллиардами параметров. Согласно карточке, её разработчик и сопровождающий — luvGPT; модель создана посредством дообучения, ориентированного на выполнение инструкций. Указанный язык — английский, основная модальность — текст. Репозиторий содержит квантованную версию для локального запуска. Модель предназначена для диалоговых сценариев, следования инструкциям, творческого письма, открытого обсуждения, помощи с кодом и техническими объяснениями. Она ориентирована на локальное и автономное использование, включая приватные или изолированные среды, исследование prompt engineering и alignment, а также эксперименты с пользовательской настройкой поведения. Поддерживается формат диалога с ролями system, user и assistant; заявлена стабильная работа в продолжительных разговорах и выполнение многошаговых задач. К сильным сторонам относятся компактный для локального развертывания размер, пригодность для квантованных и CPU-ориентированных сред, гибкость и сниженный уровень автоматической фильтрации. Ограничение модели заключается в отсутствии встроенного защитного фильтра: ответственность за применение и управление рисками возлагается на оператора. Модель распространяется по лицензии Apache 2.0.
Mistral-7B-v0.3 — плотная авторегрессионная языковая модель семейства Mistral, разработанная командой Mistral AI. Это версия Mistral-7B-v0.2 с расширенным словарём; в метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи. Модель принимает текст и генерирует текст. Для запуска рекомендована библиотека mistral-inference; также приведены инструкции по использованию с Transformers. В карточке указано, что модель не имеет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации. Лицензия — Apache 2.0.
Mistral-Trismegistus-7B-Mistral-7B-Instruct-v0.2-slerp — объединённая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.2 и teknium/Mistral-Trismegistus-7B методом SLERP; веса опубликованы в формате safetensors. Модель предназначена для диалоговой генерации текста и выполнения инструкций. Контекст составляет до 32 768 токенов, что подходит для многошаговых диалогов и запросов с большим объёмом входного текста. Карточка не уточняет специализацию Trismegistus, поэтому узкие области применения не заявляются. Лицензия — Apache-2.0. Как и другие генеративные языковые модели, она может выдавать неточные или вымышленные сведения; результаты следует проверять.
avsolatorio/MixEmbedMean-base-20240116005519-best — компактная модель эмбеддингов предложений на архитектуре BERT, распространяемая в формате safetensors. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для семантического поиска и кластеризации. Модель дистиллирована из BAAI/bge-small-en-v1.5; в ней примерно 18,8 млн параметров, а контекст ограничен 512 токенами. Модель предназначена для создания векторного представления текста и поиска смыслово близких фрагментов. В README заявлено, что при примерно половине числа параметров all-MiniLM-L6-v2 она показывает сопоставимое качество; отдельные результаты оценки в карточке не приведены. Ориентирована на английский язык. Лицензия в предоставленных данных не указана.
mmBERT-base — многоязычный двунаправленный энкодер от команды JHU CLSP, построенный на архитектуре ModernBERT и обученный методом masked language modeling. Модель содержит около 307 млн параметров, использует библиотеку Transformers и имеет контекст до 8192 токенов. Энкодер предназначен для многоязычного понимания текста и переноса между языками. Его можно дообучать для классификации, построения эмбеддингов, поиска и ранжирования; опубликованная карточка также указывает превосходство над XLM-R в этих задачах и высокую скорость относительно предыдущих многоязычных энкодеров. Для прямого применения без дополнительного обучения основная задача — заполнение замаскированных фрагментов текста. Модель обучалась более чем на 3 трлн токенов и охватывает свыше 1800 языков, включая низкоресурсные. Карточка описывает обучение на корпусах FineWeb2 и других веб-, научных, справочных и общественных текстах. Репозиторий предоставляет веса PyTorch под лицензией MIT.
Карточка модели cristiano-sartori/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.
Карточка модели pgilliar/MNLP_M2_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Карточка модели Jenjamin3000/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой KingName1/sentence_transformer, поэтому описание составлено по ней. KingName1/sentence_transformer — модель Sentence Transformers на архитектуре MPNet, предназначенная для преобразования предложений и коротких абзацев в плотные семантические векторы размерности 768. README описывает её как дообученную на основе microsoft/mpnet-base с контрастивной целью на более чем миллиарде пар предложений; метаданные указывают 136,7 млн параметров и библиотеку sentence-transformers. Входной текст кодируется для семантического поиска, сравнения сходства и кластеризации.
Это модель Sentence Transformers на базе encoder-архитектуры ModernBERT, дообученная newmindai от artiwise-ai/modernbert-base-tr-uncased на турецком наборе all-nli-tr. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Модель предназначена для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и классификации текста. Модель содержит 134,9 млн параметров. В README указан максимальный размер последовательности 256 токенов, тогда как метаданные указывают контекст до 8192 токенов; фактический рабочий предел зависит от конфигурации Sentence Transformers. Для турецкого STS в карточке приведены результаты Spearman 0,8081 на sts-test и 0,8327 на stsb-test при размерности 768; векторы также можно усекать до меньших размерностей. Модель принимает текст и выдаёт векторы, сама по себе не генерируя ответы. Условия лицензии в предоставленных данных не описаны.
Akryl/modernbert-embed-base-akryl-matryoshka — англоязычная Sentence Transformers модель, дообученная разработчиком Akryl на базе nomic-ai/modernbert-embed-base. Она преобразует предложения и абзацы в плотные векторы размерностью 768 с нормализацией; близость текстов можно оценивать косинусным сходством. Архитектура включает ModernBertModel, усреднение токенных представлений и нормализацию. Модель принимает последовательности длиной до 8192 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, классификации и кластеризации. Matryoshka-обучение позволяет использовать укороченные представления, в том числе размерностью 512 и 256; в карточке приведены результаты поиска для этих размерностей и исходных 768 на наборе dim_768. Лицензия — Apache-2.0. Оценки в карточке относятся к небольшому набору из 402 примеров и не гарантируют такое же качество на других данных.
ModernBERT-TR Embed — компактная модель текстовых эмбеддингов на основе ModernBERT, разработанная ytu-ce-cosmos для представления турецких текстов в виде векторов. Модель содержит около 148,7 млн параметров, принимает текст и поддерживает контекст до 8192 токенов. Она предназначена для семантического поиска и оценки сходства предложений; также применима для классификации, кластеризации и двуязычного поиска на турецком и английском языках. Модель дистиллирована из Qwen/Qwen3-Embedding-8B, затем дообучена на задачах поиска и понимания турецкого языка, а несколько чекпойнтов объединены усреднением весов. По приведённому в карточке сравнению, она показывает конкурентные результаты на турецких бенчмарках при меньшем числе параметров, чем некоторые сравниваемые модели. Доступны форматы ONNX и safetensors; модель рассчитана на использование с Sentence Transformers и Text Embeddings Inference. Лицензия — Apache-2.0.
tomaarsen опубликовал модель Sentence Transformers, дообученную на парах запросов и ответов из набора Natural Questions. Она использует трансформер MPNet на базе microsoft/mpnet-base с усреднением токенных представлений и преобразует текст в плотные векторы размерности 768 для сравнения по косинусному сходству. Максимальная длина входной последовательности — 512 токенов; модель рассчитана на английский язык. Модель подходит для семантического поиска, сопоставления вопросов с ответами, оценки смыслового сходства, поиска перефразировок, кластеризации и классификации текстов. На Natural Questions она обучалась на 100 231 примере; в README приведены метрики поиска на тестовой выборке. Для работы с длинными текстами их потребуется разбивать на фрагменты. Лицензия — Apache-2.0.
flax-sentence-embeddings/multi-qa_v1-mpnet-cls_dot — модель SentenceTransformers для построения векторных представлений предложений, разработанная в рамках проекта Hugging Face Community Week. Она основана на microsoft/mpnet-base и дообучена сиамской сетью с контрастивной целью на парах вопросов и ответов из Stack Exchange, MSMARCO, Natural Questions и других наборов данных. Для представления предложения используется выход CLS, а сходство при обучении вычислялось скалярным произведением. Модель предназначена для кодирования текста в векторы, сохраняющие семантическую информацию, прежде всего для поисковых систем и поиска ответов по смыслу. Полученные эмбеддинги также подходят для сравнения сходства предложений и кластеризации. Архитектура — MPNet; в репозитории указано 136,7 млн параметров и контекст до 514 токенов. Обучающие последовательности ограничивались 128 токенами. Модель принимает текст и выдаёт векторы; обучение на вопросно-ответных парах делает её особенно подходящей для поиска по вопросам и ответам. Лицензия в предоставленных данных не указана.
mxbai-edge-colbert-v0-17m — компактная модель поиска Mixedbread AI: 16,8 млн параметров, основана на Ettin-17M и архитектуре ModernBERT. Она строит многовекторные представления текста в стиле ColBERT с размерностью проекции 48 и предназначена для семантического поиска, извлечения документов и переранжирования результатов после первичного поиска. Модель совместима с PyLate и Sentence Transformers. В README заявлена обработка документов длиной до 32 000 токенов. Метаданные указывают нативный контекст в 7 999 токенов, поэтому предел 32 000 следует считать заявленной возможностью представления документов, а не подтверждённой длиной нативного контекста. Модель ориентирована на английский язык. Доступны форматы safetensors и ONNX; лицензия — Apache-2.0.
MyAwesomeModel — модель из репозитория ASD12ZXCQE/MyAwesomeModel-TestRepo, предназначенная для извлечения признаков из текста. В метаданных Hugging Face она отнесена к архитектуре BERT и поддерживает библиотеку Transformers на PyTorch; основная задача обозначена pipeline-тегом feature-extraction.
BoldingBuilds/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-ShimQuant-GGUF — квантизированная GGUF-версия NVIDIA Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA. Сборка использует технологию ShimQuant и предназначена для генерации текста и программного кода, включая сценарии локального запуска на потребительских видеокартах с ограниченным объёмом памяти. Модель основана на архитектуре Nemotron H с разреженной MoE-компонентой: заявлены 30 млрд параметров при 3 млрд активных параметров (30B-A3B). Файл имеет размер около 11,77 GiB, эффективную разрядность 3,07 бит на вес и рассчитан на контекст до 262 144 токенов. В конфигурации преобладают SSM-слои, поэтому увеличение контекста требует сравнительно немного дополнительной VRAM. README не указывает поддерживаемые языки. Ключевое преимущество сборки — возможность запуска на видеокарте с 16 ГБ памяти: на RTX 5080 заявлены полный offload и загрузка контекста 262 144 токена. На тесте HumanEval модель показала pass@1 91,5%. При этом квантизация вносит заметное отклонение от эталонной версии Q8_0, а результаты зависят от выбранной конфигурации. Файл несовместим со стандартными llama.cpp, LM Studio и Ollama и требует пропатченной сборки с поддержкой ShimQuant. Лицензия указана как openmdw-1.1 (other).
Accio-Lab/occamy-1.0-NVFP4 — это версия модели Occamy 1.0 со смешанными NVFP4-квантованными весами, разработанная Accio-Lab. Модель основана на Qwen3.6-35B-A3B и использует архитектуру mixture-of-experts (MoE). Она относится к мультимодальным моделям image-text-to-text и предназначена для работы с текстовыми и визуальными запросами. Квантованию подвергнуты маршрутизируемые эксперты: для их весов и активаций используются NVFP4. Механизмы внимания, маршрутизаторы, общие эксперты, эмбеддинги, выходная голова и vision-компоненты сохранены в формате BF16. Сохранены исходные токенизатор и chat template Occamy; отдельная MTP-голова в этот checkpoint не включена. Модель подходит для генерации текста и кода, структурированных ответов в JSON, tool calling и базового распознавания изображений. Проверки показали сопоставимое с BF16-версией поведение на небольшом наборе тестов для текста, кода, JSON, вызова инструментов и изображений. При этом заявленные проверки не являются общими бенчмарками и не подтверждают качество на широком спектре задач, аудио, видео, длинном контексте или производительность. Набор калибровки был ограниченным, а нативное выполнение NVFP4 требует совместимого оборудования и ядер; совместимость с vLLM проверялась через Marlin W4A16, а не через нативные FP4-вычисления. Валидация проводилась с контекстом 2048 токенов. Модель распространяется по лицензии Apache-2.0.
Octen-Embedding-4B — плотная текстовая embedding-модель, разработанная Octen и дообученная методом LoRA на базе Qwen/Qwen3-Embedding-4B. Она преобразует текст в векторы размерности 2560 для семантического поиска, извлечения информации, сравнения и кластеризации документов, а также для поиска по запросам на разных языках и языках программирования. Модель содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов; в карточке заявлена поддержка более 100 языков, включая английский и китайский. Модель предназначена прежде всего для retrieval-сценариев, в том числе поиска по юридическим, финансовым, медицинским и техническим материалам. Лицензия Apache-2.0. Это модель эмбеддингов, поэтому она не предназначена для генерации текста; качество может различаться в зависимости от языка и предметной области, а документы длиннее контекстного окна требуют усечения.
Open-Instruct Human-mix 30B — модель AllenAI на архитектуре LLaMA, дообученная на смеси созданных людьми наборов инструкций: FLAN V2, CoT, Dolly и OpenAssistant 1. Она предназначена для генерации текста в ответ на инструкции, включая общие вопросы, задачи на рассуждение и программирование. В README приведены результаты оценки на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Модель содержит 32,3 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 2048 токенов. Репозиторий содержит diff весов: для использования нужна совместимая базовая LLaMA в формате Hugging Face. Модель принимает текст и генерирует текст; README описывает специальный формат входных инструкций, соблюдение которого влияет на качество генерации. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании. Модель обучена преимущественно на англоязычных инструкционных данных, поэтому её применение на других языках не подтверждено карточкой.