III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельOpen-Assistant Llama2 70B SFT OASST — языковая модель, разработанная Open-Assistant и дообученная на базе Llama 2 70B на смеси диалогов OASST с оценкой top-1. Это плотный авторегрессионный трансформер-декодер, предназначенный для генерации ответов в диалоговом формате. Для разграничения реплик используются специальные токены начала пользовательского и ассистентского хода и окончания хода. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на английском, немецком, испанском и французском языках; README также отмечает ограниченные возможности на итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Число параметров составляет 68,7 млрд, контекст — 4096 токенов. Веса представлены в формате PyTorch, лицензия — Apache 2.0. Качество и полнота ответов на языках за пределами основных четырёх могут быть ограничены; контекст ограничен 4096 токенами. Модель предназначена для генерации текста по диалоговым примерам, а не для специализированных задач вроде распознавания изображений или аудио.
TroyDoesAI/Llama-3.1-13B-Instruct — текстовая диалоговая модель на архитектуре Llama, созданная разработчиком TroyDoesAI с помощью mergekit. В README указан метод объединения passthrough и модель TroyDoesAI/Llama-3.1-8B-Instruct в составе слияния; метаданные каталога классифицируют её как дообучение этой базовой модели. Репозиторий содержит веса в формате safetensors, модель насчитывает 12,7 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста в диалогах и других сценариях, где нужен ответ на текстовый запрос. Карточка не описывает отдельные специализированные области или дополнительные возможности сверх диалоговой генерации. Условия лицензии в предоставленных материалах не указаны.
Модель ehristoforu/llama-3-12b-instruct разработана @ehristoforu как объединение нескольких вариантов Llama 3 для диалогов и выполнения инструкций. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 11,4 млрд параметров; она принимает текст и генерирует текст. Поддерживает русский и английский языки, а максимальная длина контекста составляет 8192 токена. Модель подходит для создания чат-ботов, ответов на вопросы и выполнения пользовательских инструкций на русском и английском языках. В её основе лежит Meta-Llama-3-8B-Instruct, объединённая с несколькими моделями Llama 3, включая Saiga, OpenHermes, Smaug, Dolphin и NeuralPaca. В карточке указана лицензия Apache-2.0. Количественных оценок качества и подробных ограничений в доступных данных нет.
ehristoforu/llama3-12b-instruct — языковая модель для диалоговой генерации текста, созданная объединением двух моделей на базе Llama 3 с помощью mergekit и метода passthrough. В состав вошли gradientai/Llama-3-8B-Instruct-Gradient-4194k и OpenBuddy/openbuddy-llama3-8b-v21.1-8k; слои взяты из диапазонов [0, 24] и [8, 32] соответственно. Модель имеет плотную архитектуру LlamaForCausalLM, около 11 млрд параметров и опубликована в формате safetensors. Модель предназначена для генерации ответов в чате и других сценариев продолжения текста. Карточка не приводит отдельного перечня языков или специализированных областей применения; одна из базовых моделей OpenBuddy рассчитана преимущественно на английский и китайский языки. Указанная нативная длина контекста — 1234 токена. Лицензия в предоставленных данных не описана.
VAGO solutions Llama-3.1-SauerkrautLM-70b-Instruct — плотная языковая модель семейства Llama 3.1 с 69,5 млрд параметров, созданная VAGO solutions дообучением Meta-Llama-3.1-70B-Instruct. Для Spectrum Fine-Tuning обучали 15% слоёв на немецко-английском наборе Sauerkraut Mix v2; авторы сообщают об улучшениях за счёт межъязыкового переноса также для арабского, итальянского, французского, испанского, нидерландского и португальского языков. Модель предназначена для диалогов и генерации текста на этих языках, включая задачи с длинным контекстом до 131 072 токенов и сценарии с интерфейсом вызова инструментов. В карточке заявлено улучшение многоязычных навыков и приведены названия наборов для оценки, включая MMLU-Multilingual, но численные результаты не указаны. Репозиторий содержит веса в формате Safetensors. Лицензия — llama3.1. Авторы предупреждают, что модель может выдавать неподходящий или некорректный контент; результаты бенчмарков и стабильность поведения следует проверять для конкретных задач.
Это текстовая версия Llama 3.2 11B Vision Instruct, опубликованная theo77186: автор карточки сообщает, что из исходной модели оставлена только языковая часть размером около 8 млрд параметров. Модель построена на архитектуре Llama и предназначена для генерации текста в формате инструкций и диалогов, включая ответы на вопросы и работу в роли чат-ассистента. Модель принимает текст и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленная длина контекста — 131 072 токена. В репозитории указаны веса safetensors и лицензия Llama 3.2 Community License с особыми условиями использования. Хотя исходная Llama 3.2 Vision рассчитана на задачи с изображениями, автор этого репозитория оставил только языковую часть, поэтому описанные сценарии обработки изображений к данной версии не относятся. Карточка не приводит отдельной оценки качества именно этой текстовой версии. Следует учитывать условия Community License и Acceptable Use Policy; модель обучена на статическом наборе данных.
NaniDAO/Llama-3.3-70B-Instruct-ablated — диалоговая модель NaniDAO на архитектуре Llama 3.3, полученная дообучением Meta-Llama-3.3-70B-Instruct с применением техники абляции. Модель предназначена для следования инструкциям и генерации ответов в чате; авторы заявляют, что она реже отказывает на допустимые запросы и рассчитана на более свободное взаимодействие. Модель содержит 69,5 млрд параметров, принимает и генерирует текст, работает с контекстом до 131 072 токенов. В метаданных заявлена поддержка английского, французского, итальянского, португальского, хинди, испанского, тайского и немецкого языков. Доступна в формате safetensors для библиотеки Transformers; лицензия — llama3. Она подходит для диалоговых ассистентов и генерации текста, но заявленное снижение числа отказов требует ответственного применения и не гарантирует точность или безопасность ответов.
Это диалоговая языковая модель с архитектурой Llama 3, дообученная автором yaystevek на наборе OpenHermes 2.5. В основе лежит 4-битная instruct-версия Llama 3 8B от Unsloth; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. В карточке также упомянуты варианты GGUF в форматах F16 и Q4_K_M. Модель предназначена для генерации текста в диалогах и ответов на запросы пользователя. Автор отмечает, что при дообучении уделил внимание сохранению и усилению корректной структуры токенов конца последовательности. В метаданных указан английский язык. Лицензия обозначена как other, а README указывает на условия Meta Llama 3 Community License Agreement; перед применением следует ознакомиться с её условиями.
Minbyul/llama3-8b-instruct-wo-kqa_golden-iter-sft-step1 — дообученная диалоговая языковая модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для генерации текста и ответов в формате чата. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Дообучение выполнено на наборе HuggingFaceH4/deita-10k-v0-sft; в карточке приведено значение loss 0,4835 на наборе оценки. Базовая модель описана как ориентированная на ассистентские ответы и генерацию текста на английском языке. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3.
Llama-3-8B-Magpie-Align-v0.1 — чат-модель на архитектуре Llama 3, разработанная проектом Magpie-Align на основе Meta-Llama-3-8B. Её обучили в два этапа: сначала SFT на Magpie-Pro-MT-300K-v0.1, затем DPO на llama3-ultrafeedback. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 8192 токена. В карточке приведены результаты на Alpaca Eval 2, Arena Hard, WildBench и нескольких бенчмарках знаний и рассуждений. Модель предназначена для диалогов и выполнения пользовательских инструкций на английском языке. Её можно применять для ответов на вопросы, написания текстов и решения типовых задач в формате чата. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3 License; условия Meta Llama 3 Community License следует проверить перед использованием и распространением.
Magpie-Align/Llama-3-8B-Magpie-Pro-SFT-200K-v0.1 — чат-модель, дообученная Magpie-Align на базе meta-llama/Meta-Llama-3-8B на первых 200 тысячах примеров датасета Magpie-Align/Magpie-Pro-300K-Filtered. Она предназначена для диалоговой генерации текста и ответов на запросы. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель представлена в форматах PyTorch и Safetensors. Лицензия — Llama 3. В README автор рекомендует для более высокого качества использовать Magpie-Align/Llama-3-8B-Magpie-Pro-SFT-v0.1.
Llama3-dolphin-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей Dolphin 2.9 Llama 3 8B и Llama 3 8B Lexi Uncensored с помощью mergekit. Она предназначена для генерации текста и ведения диалогов. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 8192 токенов; модель принимает и выдаёт текст. Слияние объединяет характеристики двух исходных моделей, одна из которых описана в каталоге как модель для диалоговой генерации и следования инструкциям с ослабленными ограничениями на ответы. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
wzhouad/Llama3-Instruct-8B-WPO-HB-v2 — диалоговая языковая модель, созданная дообучением Meta-Llama-3-8B-Instruct методом Weighted Preference Optimization (WPO). Метод перенастраивает веса пар предпочтений в зависимости от их вероятности при текущей политике, чтобы приблизить обучение на off-policy данных к on-policy обучению. Для обучения использован гибридный набор предпочтений на основе UltraFeedback, ответов Llama и GPT-4-turbo; README также описывает правила выбора предпочтительных и отклонённых ответов. Модель предназначена для генерации диалоговых ответов и ассистентского текста. Она построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Английский язык указан как язык базовой модели. В README приведены результаты AlpacaEval: LC 53,4, WR 57,3, средняя длина ответа 2472 токена. Модель распространяется в формате safetensors через Transformers. Сведения о лицензии в предоставленных данных отсутствуют.
Llama-3-Intermix — разговорная модель генерации текста, созданная bunnycore путём слияния моделей семейства Llama 3 с помощью mergekit и метода model_stock. В состав слияния вошли PJMixers/LLaMa-3-CursedStock-v2.0-8B, Nitral-AI/Hathor_Stable-v0.2-L3-8B и WhiteRabbitNeo/Llama-3-WhiteRabbitNeo-8B-v2.0. Модель на архитектуре LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст — до 8192 токенов. Карточка указывает формат safetensors и лицензию Apache-2.0. Модель предназначена для диалогов и других задач генерации текста; сведений о специальных доменах или отдельных языках в карточке нет.
Llama-3-Mistral-v0.2-Instruct-slerp — диалоговая языковая модель, созданная объединением моделей Meta Llama 3 8B Instruct и Mistral 7B Instruct v0.2 методом SLERP с помощью LazyMergekit. Это плотная авт autoreгрессионная архитектура семейства Llama для генерации текста и ответов на инструкции; в репозитории указано 7,5 млрд параметров. Модель рассчитана на диалоговое использование и выполнение запросов на естественном языке. Она принимает текст и генерирует текст. Длина контекста составляет 8192 токена. Данные о целевых языках в карточке не приведены. Модель распространяется под лицензией MIT. Карточка не сообщает о специальных ограничениях качества или безопасности.
Llama3-PBM-Nova-70B — диалоговая языковая модель, разработанная PKU-Baichuan-MLSysLab на основе Llama-3-70B. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и рассчитана на контекст до 8192 токенов. Для адаптации к диалогам базовую модель дообучили с помощью supervised fine-tuning (SFT) и обучения с подкреплением на основе обратной связи людей (RLHF), используя очищенные и синтетические открытые данные. Модель предназначена для генерации текста в формате чата и может применяться для ответов на вопросы, ведения диалогов и подготовки текстовых черновиков. В README приведены результаты сравнительных оценок на Arena-Hard, MixEval-Hard и Alpaca-Eval 2.0, но эти показатели не гарантируют качество в конкретных сценариях. Доступны веса в формате safetensors для библиотеки Transformers. Лицензия — Llama 3 License; перед использованием следует учитывать её условия.
LLMTwin-Llama-3.1-8B-instruct — дообученная языковая модель, разработанная rfrancu на основе meta-llama/Llama-3.1-8B-instruct. Она предназначена для генерации текста и диалогового взаимодействия. Модель использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. В карточке указан английский язык. Обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, оценку качества или ограничения в конкретных сценариях, поэтому её следует рассматривать как общую чат-модель на английском языке.
LMCocktail-Mistral-7B-v1-Mistral-7B-Instruct-v0.1 — плотная языковая модель семейства Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Yhyu13/LMCocktail-Mistral-7B-v1 методом SLERP. Веса представлены в формате Safetensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и ведения диалогов. Её можно применять в чат-ботах и для создания ответов на текстовые запросы. Данные о поддерживаемых естественных языках в карточке не приведены. Модель распространяется по лицензии Apache-2.0. Качество и поведение при объединении моделей могут различаться в зависимости от запроса; отдельные ограничения в карточке не описаны.
Locai L1-Large — диалоговая языковая модель Locai Labs, дообученная на базе Qwen3-235B-A22B-Instruct-2507 методом постобучения Forget-Me-Not. Это модель семейства Qwen3 MoE с 18,2 млрд параметров и контекстом до 262 144 токенов; веса опубликованы в формате safetensors. Она предназначена для генерации ответов и следования инструкциям, а также подходит для математических и научных рассуждений. Разработчики сообщают об улучшении следования инструкциям и устойчивости к вредоносным запросам, сохраняя при этом математические и научные способности базовой модели. Модель поддерживает несколько языков; отдельно заявлено улучшение для валлийского, ирландского, шотландского гэльского, баскского, армянского, тагальского и суахили. Для модели указана лицензия Apache-2.0. Заявленные в карточке результаты бенчмарков приведены разработчиками и сами по себе не гарантируют аналогичного качества на пользовательских задачах.
M2M100 1.2B — многоязычная модель перевода от Meta, впервые опубликованная в этом репозитории. Это encoder-decoder архитектура seq-to-seq на 533,8 млн параметров, обученная для перевода между 100 языками в 9 900 направлениях. Целевой язык задаётся специальным токеном в начале генерации; доступны веса PyTorch и библиотека Transformers. Контекст модели — 1 024 токена. Модель подходит для прямого перевода между языками без промежуточного перевода через английский, в том числе для языковых пар с меньшими объёмами обучающих данных. Она поддерживает, среди прочих, русский, английский, китайский, арабский, хинди, японский и европейские языки. Лицензия MIT разрешает свободное использование и модификацию. Качество может различаться между языковыми парами; модель предназначена для перевода текста и не заявлена как специализированная для предметных областей.
M7Yamshadowexperiment28_Experiment27Shadow — объединённая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории представлены веса в формате Safetensors. Карточка не сообщает о специальных предметных областях или языковой специализации, поэтому модель следует рассматривать как текстовую модель общего назначения. Она распространяется по лицензии Apache-2.0.
Magnum v2 12B — чат-модель Anthracite, созданная для генерации связного текста с качеством прозы, ориентированным на Claude 3 Sonnet и Opus. Это полносвязная модель семейства Mistral с 12,1 млрд параметров, дообученная на Mistral-Nemo-Base-2407 и настроенная на инструкции в формате ChatML. Модель предназначена для диалогов, ответов на инструкции и создания текстов. При обучении использовались отфильтрованный Stheno и наборы инструкций и прозы, включая данные Opus Instruct и Sonnet 3.5. В метаданных указаны поддержка девяти языков и контекст до 1 024 000 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 18,68 и 37,62 на IFEval (0-shot). Это результаты отдельных оценок, а не гарантия качества для конкретной задачи. Модель распространяется по лицензии Apache-2.0; веса доступны в формате safetensors.
Magnum-v2-72b — диалоговая языковая модель Anthracite, созданная для генерации связного текста с качеством прозы, которое авторы стремились приблизить к Claude 3 Sonnet и Opus. Это полноразмерное дообучение Qwen2-72B-Instruct на наборах инструкций и текстовых данных; модель содержит 71,5 млрд параметров и распространяется в формате safetensors. Модель принимает текстовые запросы в формате ChatML и предназначена для диалогов, ответов на вопросы и написания текстов. Поддерживает девять языков, включая английский, русский, китайский и японский. Длина контекста — 32 768 токенов. В README приведены результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH. Модель рассчитана на генерацию текста и диалоговое взаимодействие. README не приводит подробных результатов по всем сценариям и раскрывает сведения о безопасности лишь частично. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.
Moritz Laurer разработал эту многоязычную модель на базе mDeBERTa-v3-base от Microsoft для вывода на естественном языке (NLI) и классификации текстов без обучения на заданных пользователем категориях. Модель сопоставляет текст-предпосылку с гипотезой и оценивает их отношение; для классификации гипотезы формулируют как категории-кандидаты. Она относится к архитектуре DeBERTa-v2, содержит 306 млн параметров и принимает пары текстов с контекстом до 512 токенов. Модель обучена на XNLI и многоязычном наборе NLI из 2,73 млн пар; README также указывает общий обучающий набор размером 3 287 280 пар. Она предназначена для многоязычного zero-shot-классифицирования и NLI. Предобучение базовой модели охватывает 100 языков, а NLI-дообучение — 27 языков, включая русский; перенос на остальные языки возможен, но его качество может быть ниже. В карточке приведены результаты оценки на XNLI и нескольких англоязычных наборах. К ограничениям относятся возможные смещения наборов NLI и ошибки машинного перевода в обучающих данных, способные ухудшать вывод на сложных примерах. Модель распространяется по лицензии MIT; для запуска нужны совместимые версии Transformers, поскольку старые версии могут иметь проблемы с токенизатором.
FourOhFour/MegaMix_4B — языковая модель, созданная разработчиком FourOhFour слиянием нескольких предварительно обученных моделей Llama через mergekit. В качестве базовой модели слияния использована FourOhFour/Zenith_4B; также объединены NeuroCom_4B, NeuroCom_v2_4B, Luxe_4B, QuantuMinx_4B, Maelstrom_4B, Poe_4B и Deedlit_4B. Для слияния применён метод task arithmetic. Модель содержит 3,9 млрд параметров, использует архитектуру Llama с причинным языковым моделированием и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.
MeliodasM7-7B — текстовая генеративная модель, созданная Maxime Labonne автоматическим слиянием моделей AurelPx/Meliodas-7b-dare и liminerity/M7-7b методом SLERP с помощью MergeKit. Она предназначена для генерации текста и диалоговых сценариев. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Файлы модели представлены в формате Safetensors. Лицензия — Apache-2.0.
MeliodasPercival_01_AlloyingotneoyPercival_01 — объединённая модель для генерации текста, созданная слиянием двух моделей Mistral: automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyPercival_01-7B. Она предназначена для генерации текста и диалогов; размер составляет 7,1 млрд параметров, максимальная длина контекста — 32 768 токенов. Модель использует архитектуру Mistral и распространяется в формате safetensors под лицензией Apache-2.0.
MeliodasPercival_01_M7Alloyingotneoy — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием моделей automerger/MeliodasPercival_01-7B и automerger/M7Alloyingotneoy-7B. Модель предназначена для генерации текста и диалогов, в том числе с длинным контекстом до 32 768 токенов. Данные о специализации по языкам или прикладным областям в карточке не приведены. Модель распространяется в формате Safetensors по лицензии Apache-2.0.
MeliodasPercival_01_T3qm7xpStrangemerges_32 — объединённая модель для генерации текста на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xpStrangemerges_32-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов. Доступна в формате Safetensors и распространяется по лицензии Apache-2.0.
DarwinAnim8or/mergekit-model_stock-ffibbcs — языковая модель для генерации текста и диалогов, созданная слиянием трёх моделей семейства Gemma 2 методом Model Stock с помощью mergekit. В состав вошли IlyaGusev/gemma-2-2b-it-abliterated, TheDrummer/Gemmasutra-Mini-2B-v1 и cognitivecomputations/dolphin-2.9.4-gemma2-2b; базовой моделью при слиянии указана IlyaGusev/gemma-2-2b-it-abliterated. Модель имеет плотную архитектуру Gemma2ForCausalLM, около 2,7 млрд параметров и контекст до 8192 токенов. Она предназначена для диалогового взаимодействия и генерации текста; в метаданных указана библиотека Transformers и формат весов Safetensors. Лицензия в предоставленных данных не указана.