III.9Закупки и управление поставщиками
В разделе собраны самостоятельные задачи, где AI помогает повышать прозрачность закупок, находить экономию и снижать риски поставщиков. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
643 моделиLlama-Magpie-3.2-3B-Instruct — языковая модель prithivMLmods, дообученная на базе meta-llama/Llama-3.2-3B-Instruct на наборе Magpie-Pro-300K-Filtered-H4. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций. Метаданные указывают контекстное окно до 131 072 токенов; модель доступна в формате safetensors и поддерживает чатовый интерфейс и интерфейс вызова инструментов. Модель подходит для создания текстов и кратких пересказов, ответов в чат-ботах и выполнения задач, заданных естественным языком. В карточке указан английский язык; базовая модель описана как мультиязычная, однако README не уточняет языки, на которых именно эта настройка проверена. Качество на конкретных задачах и практический эффект увеличенного контекста не приведены. Указана лицензия CreativeML OpenRAIL-M.
Poro 2 Long Instruct — чат-модель с инструкционной настройкой, разработанная LumiOpen на основе семейства Poro 2 и архитектуры Llama. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров, полученная объединением базовой модели Poro 2 Long и её версии после supervised fine-tuning. README заявляет контекст до 128 тыс. токенов; метаданные указывают native context 8192 токена. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для суммаризации и анализа длинных документов, вопросов по нескольким документам, генерации текстов, обучения, поддержки клиентов и перевода между финским и английским. В README приведены результаты тестирования следования инструкциям на обоих языках и длинноконтекстных задачах. Качество на английском в приведённых короткоконтекстных тестах уступает Llama 3.1 8B Instruct, тогда как на финском модель показывает более высокие результаты. Возможны фактические ошибки и смещения; навыки на других языках и в узкоспециализированных областях ограничены, а работа с длинным контекстом требует больше памяти и может быть медленнее. Лицензия в метаданных указана как llama3.3.
Mistral-NeMo-Minitron-8B-Chat — разговорная языковая модель, опубликованная rasyosef и дообученная методом supervised fine-tuning на базе nvidia/Mistral-NeMo-Minitron-8B-Base. Для настройки использовано 32 тысячи пар «инструкция — ответ» из набора teknium/OpenHermes-2.5. Модель построена на плотной архитектуре Mistral с классом MistralForCausalLM, содержит 7,9 млрд параметров и принимает текстовые запросы в формате чата, генерируя текстовые ответы. Контекст — до 8192 токенов. Модель подходит для диалогового общения, ответов на вопросы, выполнения инструкций и генерации текста по запросу. В README приведены результаты оценки следования инструкциям IFEval: 45,83; также указаны результаты Open LLM Leaderboard. Эти оценки не гарантируют качество на конкретных пользовательских задачах. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в карточке модели.
Open Instruct ShareGPT Llama2 7B — языковая модель из серии Tulu, разработанной Allen Institute for AI (AI2). Это дообученная на данных ShareGPT модель Meta Llama 2 с плотной архитектурой LlamaForCausalLM и 6,6 млрд параметров. Она предназначена для генерации текста в ответ на инструкции и ведения диалогов в роли помощника; для получения лучших результатов следует использовать обученный формат сообщений с переводом строки после маркера начала сообщения. Модель принимает текст и выдаёт текст, в первую очередь на английском языке. Размер её контекстного окна — 2048 токенов. Она подходит для диалоговых сценариев и выполнения широкого круга текстовых инструкций. Модель не проходила этап RLHF для выравнивания безопасных ответов и может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Лицензия — AI2 ImpACT Low-risk.
OpenPipe-7B-slerp — текстовая генеративная модель на архитектуре Mistral, созданная слиянием OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев с использованием возможностей объединённых исходных моделей. Модель принимает текст и выдаёт текст. Лицензия — Apache-2.0. В карточке не приводятся сравнительные оценки качества или подробности обучения после слияния.
MaziyarPanahi объединил модели mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/zephyr-7b-alpha-dare-0.85 методом SLERP с настройкой весов для слоёв self-attention и MLP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и выполнения инструкций. Она принимает текст и выдаёт текст; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Распространяется в формате Safetensors по лицензии Apache-2.0. В предоставленной карточке не приведены оценки качества объединённой версии или сведения о конкретных языках; характеристики базовой модели не гарантируют аналогичное качество после слияния.
flammen6-mistral-7B — языковая модель на базе архитектуры Mistral, созданная flammenai слиянием SLERP через mergekit моделей Nous-Hermes-2-Mistral-7B-DPO и flammen5-mistral-7B. Модель содержит 7,1 млрд параметров, предназначена для генерации текста и диалогового взаимодействия по инструкциям; доступна в формате safetensors и использует библиотеку Transformers. Контекстное окно составляет 32 768 токенов. Модель подходит для чат-ботов, написания и преобразования текста, а также ответов на запросы в диалоге. В карточке не приведены сведения о специальных доменах или подтверждённых языках. Распространяется по лицензии Apache-2.0.
FrankenMonarch-11b — объединённая модель для генерации текста, созданная mlabonne с помощью LazyMergekit на основе mlabonne/NeuralMonarch-7B и mlabonne/AlphaMonarch-7B. Конфигурация объединяет диапазоны слоёв двух моделей методом passthrough; архитектура — плотная MistralForCausalLM, размер — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и следование инструкциям. Доступна в формате safetensors и использует лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.
Gemma 2B IT — компактная инструкционная языковая модель Google из семейства Gemma, созданного с использованием исследований и технологий, применявшихся при разработке Gemini. Это текстовая авторегрессионная модель с архитектурой decoder-only; версия IT настроена на выполнение инструкций и диалог. Веса открыты, модель доступна в формате Safetensors и GGUF и запускается через Transformers. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и диалоговых приложений. Небольшой размер упрощает развёртывание на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. В карточке семейства заявлена поддержка английского языка; конкретный размер контекста не указан в предоставленных данных. К ограничениям относятся возможные фактические ошибки, устаревшие сведения, смещения в ответах и трудности со сложными задачами, нюансами языка и сарказмом. Модель не является базой знаний; для пользовательских приложений рекомендуется проверять ответы и применять меры безопасности. Использование регулируется лицензией Gemma.
Карточка модели Aliados/gemma-3-1b-it на Hugging Face совпадает с карточкой unsloth/gemma-3-1b-it, поэтому описание составлено по ней. unsloth/gemma-3-1b-it — диалоговая версия Gemma 3, размещённая Unsloth и основанная на Google/gemma-3-1b-it. Это плотная языковая модель Gemma3ForCausalLM примерно с 1 млрд параметров, предназначенная для генерации текста и общения по инструкциям. Репозиторий содержит веса в формате Safetensors; модель работает через Transformers и рассчитана на контекст до 32 768 токенов. Модель подходит для диалоговых помощников, черновиков текстов и писем, суммаризации и ответов на вопросы. В README описаны возможности семейства Gemma 3, включая мультимодальный ввод изображений, но этот конкретный чекпойнт имеет текстовую архитектуру и базовую модель Gemma 3 на 1 млрд параметров; поэтому поддержку изображений ему не приписываю. Метаданные указывают английский язык. Лицензия — Gemma. Как и другие генеративные модели, она может ошибаться в фактах, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Качество зависит от промпта и контекста.
Hermes-2-Pro-11B — текстовая генеративная модель Matt Shumer, созданная с помощью LazyMergekit на основе NousResearch/Hermes-2-Pro-Mistral-7B. Несмотря на описание README как слияния нескольких моделей, в нём перечислена одна и та же базовая модель десять раз; метаданные каталога классифицируют связь как дообучение. Архитектура — плотная MistralForCausalLM, размер — 11 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Лицензия Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей обучения, поэтому пригодность для конкретной задачи следует проверять на собственных примерах.
Higgs-Llama-3-70B — языковая модель Boson AI, дообученная на основе meta-llama/Meta-Llama-3-70B. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, рассчитанная на генерацию текста и диалоги; для работы используется формат prompt’ов Meta-Llama-3-70B-Instruct, а максимальная длина контекста составляет 8192 токена. Модель специально настроена для ролевых диалогов и старается последовательно придерживаться заданной роли и системного сообщения. Она также предназначена для следования инструкциям и рассуждений в задачах общего назначения. Обучение включало контролируемую настройку на инструкциях и чатах, а затем итеративную оптимизацию предпочтений с участием человеческих разметчиков и внутренних языковых моделей. Модель принимает текст и генерирует текст. Карточка сообщает о настройке поведения, но не приводит здесь численные результаты оценивания: таблицы бенчмарков опущены. Для использования весов указана лицензия other; конкретные условия следует сверять с лицензией репозитория и базовой модели Meta-Llama-3-70B.
Letemoin/L3-Deluxe-Smurge_l3-12B — объединённая языковая чат-модель, созданная с помощью mergekit из трёх моделей: ehristoforu/llama-3-12b-instruct, jsfs11/Llama-3-RPMerge-8B-SLERP и Casual-Autopsy/L3-Deluxe-Scrambled-Eggs-On-Toast-8B. В README указан метод passthrough; архитектура — плотная Llama с классом LlamaForCausalLM, формат весов — safetensors, число параметров — 23,4 млрд, контекст — до 8192 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Метаданные связывают её с русско-английской чат-моделью, поэтому она подходит для общения и ответов на запросы на русском и английском языках. Лицензия в предоставленных данных не указана.
Llama 3.2 11B Vision Instruct — мультимодальная языковая модель Meta для диалога по изображениям. Она основана на авторегрессионном трансформере Llama 3.1 с отдельно обученным адаптером зрения: слои cross-attention передают представления изображений в языковую модель. Версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей. Модель содержит 11 млрд параметров и поддерживает контекст длиной до 128 тыс. токенов. Модель принимает текст и изображения и генерирует текст. Она предназначена для визуального распознавания и рассуждений, ответов на вопросы об изображениях и документах, создания подписей к изображениям, поиска соответствий между изображениями и текстом и визуальной привязки описаний к областям изображения. Для задач с изображениями официально поддерживается английский язык; для текстовых задач также заявлены немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель рассчитана на коммерческое и исследовательское применение. Лицензия Llama 3.2 Community License является пользовательской коммерческой лицензией; использование также ограничено Acceptable Use Policy. Это статическая модель, обученная на офлайн-данных; знания ограничены временным срезом до декабря 2023 года.
MInAlA/Llama-3.2-3B-DPO-merged — диалоговая языковая модель на архитектуре Llama, полученная выравниванием Llama-3.2-3B-Instruct методом DPO на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Модель содержит 3,2 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131072 токенов и предназначена для использования через библиотеку Transformers. Модель подходит для диалогов, генерации ответов и других текстовых задач общего назначения. В метаданных указаны мультиязычные возможности базовой модели, но конкретный перечень языков для этой производной модели не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
ThomasBaruzier/Llama-3.2-3B-Instruct-GGUF — это инструкционная языковая модель семейства Llama 3.2, представленная в формате GGUF. По идентификатору модели, она основана на версии с примерно 3 миллиардами параметров и предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях. Базовая разработка Llama 3.2 принадлежит Meta, а данный вариант опубликован пользователем ThomasBaruzier. Модель предназначена для задач текстовой генерации, ответов на вопросы, диалогов, преобразования и обобщения текста, а также других сценариев, где требуется компактная instruction-tuned LLM. В карточке заявлены языки English, German, French, Italian, Portuguese, Hindi, Spanish и Thai. Архитектура, точный размер контекста, конкретный тип квантования и поддерживаемые модальности в README не указаны; формат GGUF обычно используется для локального инференса, но параметры конкретной сборки здесь не описаны. К сильным сторонам относятся относительно небольшой размер, инструкционная настройка и многоязычная ориентация, что может упростить локальный запуск и интеграцию в приложения с ограниченными ресурсами. Ограничения включают отсутствие в предоставленных данных результатов оценивания, сведений о качестве на отдельных языках и характеристик производительности; как и другие генеративные модели, она может ошибаться и требует проверки результатов. Модель распространяется по Llama 3.2 Community License Meta с требованиями к атрибуции, маркировке продуктов, соблюдению Acceptable Use Policy и специальным условиям для организаций с более чем 700 миллионами месячных активных пользователей.
Magnum v2 12B — чат-модель Anthracite, созданная для генерации связного текста с качеством прозы, ориентированным на Claude 3 Sonnet и Opus. Это полносвязная модель семейства Mistral с 12,1 млрд параметров, дообученная на Mistral-Nemo-Base-2407 и настроенная на инструкции в формате ChatML. Модель предназначена для диалогов, ответов на инструкции и создания текстов. При обучении использовались отфильтрованный Stheno и наборы инструкций и прозы, включая данные Opus Instruct и Sonnet 3.5. В метаданных указаны поддержка девяти языков и контекст до 1 024 000 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 18,68 и 37,62 на IFEval (0-shot). Это результаты отдельных оценок, а не гарантия качества для конкретной задачи. Модель распространяется по лицензии Apache-2.0; веса доступны в формате safetensors.
zelk12/MT3-Gen2-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit. В слиянии методом SLERP использованы zelk12/MT3-Gen2-GMM-gemma-2-9B и zelk12/MT3-Gen2-IMUBMA-gemma-2-9B; конфигурация указывает базовую модель zelk12/MT3-Gen2-GMM-gemma-2-9B и параметр t=0,25. Модель содержит 9 млрд параметров, работает через Transformers и принимает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.
OmniBeagleMBX-v3-7B — объединённая модель для генерации текста и диалогов, созданная с помощью LazyMergekit на основе mlabonne/OmniBeagle-7B и flemmingmiguel/MBX-7B-v3. В основе лежит плотная архитектура MistralForCausalLM с 7,1 млрд параметров; модель распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалоговых систем и других сценариев языковой генерации. В README указано, что веса объединены методом slerp с настройками для слоёв self-attention и MLP. Репозиторий использует лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.
MaziyarPanahi/OpenHermes-2.5-neural-chat-7b-v3-2-7B-Mistral-7B-Instruct-v0.2-slerp — слитая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-2-7B. Веса представлены в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Её можно применять для чат-ботов, написания и редактирования текстов, а также ответов на вопросы. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Лицензия — Apache-2.0.
Qwen2-7B-Instruct-it-v1.1 — дообученная чат-модель, разработанная homeb82784 на базе unsloth/qwen2-7b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста в диалоговом формате. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors под лицензией Apache-2.0.
Saul-Instruct-Clown-7b — языковая модель, созданная arcee-ai слиянием через mergekit моделей CorticalStack/pastiche-crown-clown-7b-dare-dpo и Equall/Saul-Instruct-v1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, ответов на вопросы, рассуждений и решения задач по текстовому запросу. В README приведены результаты OpenLLM-бенчмарков, включая ARC, HellaSwag, MMLU, TruthfulQA и GSM8K, но они не гарантируют аналогичного качества на других данных и сценариях. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Это слияние двух моделей, поэтому характеристики и поведение могут сочетать их свойства; отдельные языки, помимо поддерживаемого текстового интерфейса, в предоставленных данных не обозначены.
WildMBXMarconi-SLERP-7B — слитая модель генерации текста семейства Mistral, созданная с помощью LazyMergekit из BarryFutureman/WildMarcoroni-Variant1-7B и flemmingmiguel/MBX-7B. Слияние выполнено методом SLERP; модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста по запросу и диалогового взаимодействия. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, включая показатели на тестах AI2 Reasoning Challenge и HellaSwag.
YamshadowInex12_OgnoExperiment27 — слитая языковая модель на базе двух моделей: automerger/YamshadowInex12-7B и automerger/OgnoExperiment27-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; веса опубликованы в формате Safetensors. Модель предназначена для генерации текста и диалогов по текстовым запросам. Контекст составляет до 32 768 токенов, что позволяет работать с длинными запросами и документами. Модель размещена под лицензией Apache-2.0.
Cohere и Cohere Labs разработали Command A — авторегрессионную языковую модель на базе оптимизированного Transformer с 111 млрд параметров. Она принимает и генерирует текст, поддерживает диалог, вызов внешних инструментов и работу в сценариях RAG с фрагментами документов и цитированием источников. Модель ориентирована на корпоративные задачи, включая многоязычные сценарии и агентные приложения. Модель обучена с учителем и дополнительно настроена с помощью обучения на предпочтениях. В архитектуре чередуются слои со скользящим окном внимания размером 4096 токенов и слой с глобальным вниманием. Заявленная длина контекста — 256 тыс. токенов, хотя конфигурация Hugging Face по умолчанию ограничивает её 128 тыс. Поддерживаются 23 языка, в том числе русский и английский. Command A подходит для диалоговых ассистентов, ответов по документам, извлечения информации, суммаризации, перевода и категоризации. Для запуска требуется значительная вычислительная инфраструктура, несмотря на заявление разработчиков о возможности развёртывания на двух GPU; для работы с Transformers нужны изменения из исходного репозитория. Лицензия CC-BY-NC-4.0 предусматривает некоммерческое использование и требует соблюдения Acceptable Use Policy Cohere Labs.
C4AI Command A в репозитории unsloth — производная версия модели Cohere Command A, разработанной Cohere и Cohere For AI. Это авторегрессионная плотная трансформерная языковая модель на 111,1 млрд параметров для диалога, генерации текста, корпоративных сценариев, работы с документами и агентных приложений. Модель поддерживает вызов инструментов через диалоговый шаблон и специально обучена выполнять заключительный этап RAG, включая ответы с цитатами по переданным фрагментам документов. Модель принимает и генерирует только текст. Её контекстное окно составляет 262 144 токена. Архитектура использует скользящее внимание с окном 4096 токенов в трёх слоях и глобальное внимание в четвёртом; обучение включало контролируемую настройку и обучение предпочтениям. Заявлена поддержка 23 языков, включая русский, английский, французский, китайский и арабский. Модель подходит для многоязычного чата, ответов с опорой на документы, суммаризации, извлечения информации и задач с использованием инструментов. Для запуска требуются значительные вычислительные ресурсы, несмотря на заявленную разработчиками возможность развёртывания на двух GPU. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; также требуется соблюдать политику допустимого использования C4AI.
Cohere Labs Command R+ 08-2024 — авторегрессионная языковая модель на архитектуре Transformer с grouped-query attention, разработанная Cohere Labs и Cohere. Модель содержит 104 млрд параметров, поддерживает контекст до 128K токенов и принимает и выдаёт только текст. Она предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы; обучена работать с Retrieval Augmented Generation, приводить цитаты из переданных фрагментов документов и выбирать инструменты для многошагового выполнения задач. Модель обучалась на 23 языках и оценивалась на 10. Список языков обучения включает английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, арабский, китайский, русский и другие; метаданные также отмечают поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского. Для генерации с опорой на документы предусмотрен специальный шаблон промпта, отступление от которого может снизить качество. Для запуска README рекомендует Transformers версии 4.39.1 или выше. Лицензия CC-BY-NC-4.0 требует соблюдения Acceptable Use Policy Cohere Labs и ограничивает коммерческое использование.
Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.
C4AI Command R 08-2024 — генеративная языковая модель, разработанная Cohere и Cohere For AI. Она предназначена для диалогов, рассуждений, суммаризации, ответов на вопросы и работы с поиском по документам (RAG); также умеет выбирать и вызывать инструменты в диалоговом интерфейсе. Модель использует авторегрессионную архитектуру Transformer с grouped-query attention, дообучена с учителем и на предпочтениях пользователей. В README указан размер 35 млрд параметров, а в метаданных — 32,3 млрд; длина контекста составляет 128K токенов. Модель принимает и генерирует только текст. Обучение охватывало 23 языка, оценка проводилась на 10; метаданные перечисляют английский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, китайский и арабский. Для вызова инструментов требуется использовать специальный шаблон диалога; отклонение от него может снизить качество. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование, также необходимо соблюдать политику допустимого использования C4AI.
ERNIE-4.5-300B-A47B-Paddle — текстовая языковая модель семейства ERNIE 4.5, разработанная Baidu и распространяемая с весами для PaddlePaddle. Это модель типа Mixture of Experts: всего 300 млрд параметров, из которых для каждого токена активируется около 47 млрд; архитектура включает 54 слоя и 64 текстовых эксперта, из которых активируются 8. Модель предназначена для диалогов, понимания текста и генерации ответов; контекстное окно составляет 131 072 токена. В карточке также описаны мультимодальное обучение ERNIE 4.5 и визуальные варианты семейства, однако данный чекпойнт обозначен как текстовая модель. Для запуска и дообучения предусмотрены инструменты PaddlePaddle и ERNIEKit. Модель распространяется по лицензии Apache-2.0.