III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельsungjineeee/Llama-3-Open-Ko-8B-Instruct-kookmin5 — разговорная плотная модель семейства Llama, дообученная автором sungjineeee на базе sungjineeee/Llama-3-Open-Ko-8B-Instruct-kookmin3. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; контекст составляет до 8192 токенов. Модель предназначена для диалоговой генерации текста. При обучении использовались Unsloth и библиотека Hugging Face TRL. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает конкретные датасеты и специальные предметные области.
Llama-3-SauerkrautLM-8b-Instruct — разговорная языковая модель, совместно разработанная VAGO Solutions и Hyperspace.ai на основе Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, настроенная для инструкций и выровненная с помощью DPO. Она принимает текстовые запросы и генерирует текст; заявлены немецкий и английский языки. Контекст модели — до 8192 токенов. Модель предназначена для диалогов с ассистентом, ответов на вопросы и немецкоязычных сценариев, включая оценённые авторами задачи RAG. В README приведены результаты бенчмарков, но они не гарантируют качество в конкретном применении. Авторы предупреждают, что модель может выдавать неподходящий или неотфильтрованный контент и не гарантируют стабильно корректное поведение. В репозитории указана лицензия other, а README связывает лицензию с Meta-Llama; перед использованием следует проверить применимые условия лицензирования.
Llama-3-SLERP-8B — языковая модель на базе Llama 3, созданная с помощью LazyMergekit слиянием Meta-Llama-3-8B и Meta-Llama-3-8B-Instruct методом SLERP. Она предназначена для генерации текста и диалоговых ответов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; максимальная длина контекста составляет 8192 токена. Карточка указывает формат safetensors и возможности чата. Модель подходит для диалоговых приложений и генерации текста. В карточке не указаны отдельные специализированные области применения или перечень поддерживаемых языков; базовая модель описана как предназначенная для ответов и генерации текста на английском языке. Лицензия в метаданных обозначена как other, поэтому условия использования следует проверять в материалах репозитория и лицензиях исходных моделей.
Модель Duosion/llama-3-tsuki-unsloth-8b разработана Duosion и представляет собой дообученную версию Llama 3 Instruct с архитектурой LlamaForCausalLM и 7,5 млрд параметров. Для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий использует формат PyTorch и распространяется по лицензии Apache-2.0.
Luna_3B — объединённая языковая модель, созданная jeiku методом DARE TIES с помощью mergekit. В основу объединения положена jeiku/ToxicNoRobotsRosaHermesBoros_3B; также включены варианты StableLM, дообученные для инструкций, диалога и рассуждений. Модель предназначена для генерации текста и диалогового взаимодействия. Она построена на архитектуре StableLM Epoch, содержит 2,7 млрд параметров и рассчитана на контекст до 4096 токенов. Репозиторий содержит веса safetensors. Лицензия в предоставленных данных не указана.
M7Yamshadowexperiment28_MeliodasPercival_01 — объединённая авторами модели MaziyarPanahi модель Mistral с плотной архитектурой и 7,1 млрд параметров. Она объединяет automerger/M7Yamshadowexperiment28-7B и automerger/MeliodasPercival_01-7B и предназначена для генерации текста и диалогов по текстовому запросу. Контекст модели — до 32 768 токенов; веса представлены в формате safetensors. Модель подходит для текстовых помощников, черновиков и продолжения текста. Данных о специальных возможностях, языковой специализации или ограничениях качества в карточке нет. Лицензия — Apache-2.0.
MaziyarPanahi/M7Yamshadowexperiment28_Strangemerges_32Yam — слитая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32Yam-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель подходит для диалогов, создания черновиков и продолжения текста, а также для работы с длинными текстовыми запросами. В карточке не приведены оценки качества и сведения о специальной настройке для конкретных областей. Лицензия — Apache-2.0.
Magnum-v2.5-12b-kto — экспериментальная разговорная языковая модель Anthracite, созданная дообучением anthracite-org/magnum-12b-v2. Она предназначена для следования инструкциям и генерации прозы с качеством, ориентированным на Claude 3 Sonnet и Opus. Обучение версии использовало ограниченную часть инструкционных данных и гибридную стратегию KTO и DPOP: примеры отклонённых ответов получали из исходной модели, а предпочтительные — из исходного набора для дообучения. Модель построена на архитектуре Mistral, содержит 12,1 млрд параметров и принимает диалоги в формате ChatML. Метаданные указывают поддержку английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков и контекст до 1 024 000 токенов. Распространяется в формате Safetensors по лицензии Apache 2.0. Модель подходит для диалогов, выполнения инструкций и создания прозы. Авторы характеризуют эту версию как экспериментальную и отмечают, что обучение проведено на ограниченном объёме данных, поэтому обобщение может быть недостаточным.
Mayo — диалоговая языковая модель, созданная слиянием mlabonne/NeuralBeagle14-7B и openchat/openchat-3.5-0106 с помощью mergekit и метода SLERP. В основе лежит плотная архитектура Mistral с причинным языковым моделированием; размер модели — 7,1 млрд параметров, заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоге: она может использоваться для ответов на вопросы, следования инструкциям, рассуждений и творческого письма. Эти сценарии соответствуют характеристикам базовой NeuralBeagle14-7B и назначению компонентов слияния; README не приводит отдельные результаты оценки Mayo. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Сведения о поддерживаемых естественных языках и специальных ограничениях применения в карточке не приведены.
mBART-50 one-to-many — модель машинного перевода компании Facebook, дообученная на базе mBART-large-50. Она переводит с английского на 49 языков, включая русский, арабский, китайский, японский и европейские языки. Для выбора языка перевода при генерации нужно задать его специальный токен как первый генерируемый токен. Модель основана на архитектуре encoder-decoder MBartForConditionalGeneration и содержит около 457,4 млн параметров. Доступны веса PyTorch, TensorFlow и Flax; контекст составляет до 1024 токенов. Подходит для перевода англоязычных текстов на поддерживаемые языки. Качество и полнота перевода могут различаться между языковыми парами; направление с английского является заявленным сценарием этой версии. Лицензия в предоставленных данных не указана.
agentlans/mdeberta-v3-base-sentiment — многоязычная модель классификации тональности, разработанная на основе microsoft/mdeberta-v3-base и дообученная автором репозитория. Она оценивает текст и возвращает числовую оценку, соответствующую положительной, нейтральной или отрицательной тональности. Модель содержит 306 млн параметров, использует архитектуру DeBERTa V3 для классификации последовательностей и обрабатывает до 512 токенов контекста. Модель предназначена для анализа тональности текстов на языках, поддерживаемых базовой DeBERTa, в том числе для проверки сходства оценок переведённых текстов. При обучении использован датасет из 48 900 размеченных английских переводов; в карточке приведён пример проверки на английском, арабском, китайском, французском, русском и испанском. На отложенной выборке указана RMSE 0,4177. Это числовой показатель ошибки, поэтому его не следует трактовать как точность в процентах. Оценки могут хуже работать на текстах, отличающихся от обучающих данных, и не учитывают культурный контекст или знакомство читателя с темой. Результат может не совпадать с человеческим суждением и отражать смещения данных; модель не рекомендуется использовать как единственный критерий пригодности текста. Лицензия — MIT.
MeliodasPercival_01_NeuralsirkrishnaExperiment28 — объединённая модель семейства Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате safetensors по лицензии Apache-2.0. README не уточняет специализацию, языки, оценки качества или особенности настройки диалогов.
MeliodasPercival_01_Strangemerges_32Yam — слитая текстовая модель семейства Mistral, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Strangemerges_32Yam-7B. Она предназначена для генерации текста и диалоговых сценариев, где требуется продолжать запрос или формировать ответ на естественном языке. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Языки в карточке не перечислены, поэтому языковую специализацию определить нельзя. Модель распространяется по лицензии Apache-2.0. Карточка не описывает результаты оценки качества или специальные ограничения; качество ответов и пригодность для конкретных задач следует проверять отдельно.
MeliodasT3qm7_MeliodasPercival_01 — объединённая текстовая модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/MeliodasT3qm7-7B и automerger/MeliodasPercival_01-7B. Это плотная авторегрессионная модель с архитектурой MistralForCausalLM, примерно 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Её можно применять для составления ответов, продолжения текста и разговорных сценариев на входном тексте. Карточка не сообщает целевые языки или специализированные предметные области, поэтому их не следует считать установленными. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Качество и ограничения конкретного объединения в README не описаны.
MeowGPT-3.5 — разговорная языковая модель, разработанная CutyCat2000x на основе Llama и Mixtral. Она предназначена для генерации текста по запросу и диалогового общения. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текст, выдавая текст; максимальный контекст — 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате Safetensors и может загружаться через библиотеку Transformers. Данные для обучения обозначены как приватные. Лицензия — MIT. Ответы могут быть неточными или неуместными, поэтому результаты следует проверять перед использованием в важных сценариях.
SepKeyPro выпустил Merged-OpenLlama3-8B — плотную языковую модель на архитектуре Llama, созданную слиянием трёх моделей с помощью Mergekit и метода model_stock. В основу слияния вошли Meta-Llama-3-8B-Instruct, openchat-3.6-8b-20240522 и llama-3-gutenberg-8B; базовой указана Meta-Llama-3-8B-Instruct. Модель содержит 7,5 млрд параметров, использует формат safetensors и представлена с типом данных bfloat16. Модель предназначена для диалоговых ответов и генерации текста. Контекст составляет до 8192 токенов. Карточка не сообщает о специализированных языках или предметных областях; базовая модель описана как англоязычная. Лицензия репозитория — Apache-2.0. README не приводит сравнительных оценок качества или конкретных ограничений.
Это языковая модель на архитектуре Mistral, созданная сообществом mergekit путём слияния методом SLERP моделей Calme-7B-Instruct-v0.9 и Not-WizardLM-2-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалоговых ответов и генерации связного текста. В настройке слияния указана V-образная кривая: вклад Hermes сильнее во входных и выходных слоях, а WizardMath — в средних слоях. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
Карточка модели mergekit-community/mergekit-slerp-xyweuvi на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jeyctse, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-jeyctse — языковая чат-модель, созданная сообществом слиянием моделей HuggingFaceH4/zephyr-7b-beta и Equall/Saul-Base методом SLERP с помощью mergekit. Это плотная модель Mistral с 7,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге: ответов на вопросы и выполнения пользовательских инструкций. В метаданных основной язык не задан; базовая Zephyr-7B-β описана как англоязычная чат-модель. Условия лицензирования в предоставленных данных не приведены. Качество и поведение результата слияния могут отличаться от исходных моделей.
mergekit-community/mergekit-ties-hwemsto — объединённая большая языковая модель, созданная сообществом с помощью mergekit и метода TIES. В качестве базы использована 01-ai/Yi-34B; в слияние также вошли abacusai/Smaug-34B-v0.1 и anthracite-org/magnum-v3-34b. Модель имеет плотную архитектуру LlamaForCausalLM и около 33,9 млрд параметров. Модель предназначена для генерации текста и сценариев, где требуется языковая модель общего назначения. Она работает с текстом и поддерживает контекст до 4096 токенов. В README указаны веса float16 и настройки объединения с разреженностью 0,5 для двух дополнительных моделей. Условия лицензии в доступных данных не приведены.
dddsaty выпустил Merge_Sakura_Solar — разговорную модель генерации текста на архитектуре Llama с 10,6 млрд параметров. Она объединяет Sakura-SOLAR-Instruct, Sakura-SOLRCA-Instruct-DPO и Sakura-SOLRCA-Math-Instruct-DPO-v2 с помощью mergekit и метода dare_ties. Модель предназначена для диалогов, ответов на вопросы и решения математических задач. В карточке приведены результаты тестов ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; средний балл указан как 74,03. Поддерживает контекст до 4096 токенов и работает с текстом на английском языке. Модель распространяется в формате safetensors по лицензии CC BY-NC-SA 4.0. По условиям лицензии производные материалы должны распространяться на тех же условиях, требуется указание авторства, а коммерческое использование запрещено.
Merlinite-7B-pt — англоязычная диалоговая модель IBM Research на архитектуре Mistral, содержащая 7,1 млрд параметров и принимающая контекст длиной до 32 768 токенов. Она создана на базе mistralai/Mistral-7B-v0.1: сначала прошла дообучение на инструкциях методом SFT с использованием LAB, затем была настроена на предпочтения с помощью AI-обратной связи и итеративного отбора ответов. Для оценки предпочтений применялись DPO log-ratio оценки Mixtral-8x7B-Instruct-v0.1. Модель предназначена для диалогов, следования инструкциям, ответов на вопросы, объяснений и помощи в решении задач на английском языке. В карточке сообщается о результате 7,96 на MT-Bench; среднее значение за пять запусков — 7,85. Модель выдаёт текст, а её единственный pipeline-тег — text-generation. Модель распространяется под лицензией Apache 2.0. Настройка предпочтений не была специально направлена на обеспечение безвредности; сохраняются ограничения базовой модели, включая риск галлюцинаций и генерации вредоносного или вводящего в заблуждение текста. Не следует полагаться на её ответы при принятии важных решений без проверки.
Meta-Llama-3-13B-Instruct — диалоговая текстовая модель на архитектуре Llama, созданная автором репозитория путём объединения слоёв модели meta-llama/Meta-Llama-3-8B-Instruct с помощью MergeKit. Несмотря на название, в метаданных указано 13,4 млрд параметров; модель представлена в формате safetensors и работает с контекстом до 8192 токенов. Модель предназначена для диалоговой генерации текста и ассистентских ответов. В карточке заявлен английский язык; базовая модель Meta также рассчитана на генерацию английского текста. Для использования применяется библиотека Transformers. Лицензия обозначена как other, поэтому конкретные условия следует сверить с карточкой репозитория и условиями базовой модели.
MiLMMT-46-12B-v0.1 — модель машинного перевода на основе большой языковой модели, разработанная Xiaomi Inc. Это дообученная версия MiLMMT-46-12B-Pretrain, созданной на базе Gemma 3 12B с продолжением предобучения на 143 миллиардах токенов монолингвальных и параллельных данных для 46 языков. Модель предназначена для перевода текста между поддерживаемыми языками; в карточке приведён шаблон запроса, где нужно указать названия исходного и целевого языков. Модель поддерживает 46 языков, включая русский, английский, китайский, арабский, хинди, японский и другие. Для работы доступны веса в формате safetensors и библиотека Transformers. Указанная лицензия — Gemma. Производитель предупреждает, что поддержка ограничена перечисленными языками и качество перевода для других языков не гарантируется.
Mini_synatra_7b_02-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и Minirecord/Mini_synatra_7b_02 методом SLERP с помощью mergekit. Модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В карточке не обозначены отдельные языки или специализированные предметные области. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных ограничений, поэтому пригодность для конкретных задач следует проверять отдельно.
Mistral-11B-SynthIAirOmniMix — текстовая языковая модель, созданная автором репозитория путём слияния моделей SynthIA-7B-v1.5, Mistral-7B-v0.1-Open-Platypus, CollectiveCognition-v1.1-Mistral-7B и airoboros-mistral2.2-7b с помощью mergekit. Репозиторий содержит веса fp16 в формате safetensors; архитектура — плотная авторегрессионная MistralForCausalLM с 10,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы в формате диалога. Автор приводит результаты собственных оценок и Open LLM Leaderboard, но они не гарантируют качество на других задачах. В README рекомендован шаблон с ролями SYSTEM, USER и ASSISTANT; также отмечено, что модели в слиянии используют не полностью одинаковые форматы промптов, поэтому формат запроса может влиять на результат. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.
Norquinal/Mistral-7B-claude-chat — плотная авторегрессионная языковая модель семейства Mistral, созданная дообучением Mistral-7B-v0.1 с помощью QLoRA на случайной выборке примерно из 1000 диалогов датасета claude_multiround_chat_30k. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате Vicuna 1.1: она принимает пользовательский запрос и формирует ответ ассистента. Модель предназначена для многоходового общения, ответов на вопросы и подробных объяснений. В карточке приведён пример запроса об особенностях китайской кухни. Заявленная длина контекста — 32 768 токенов. Веса доступны в формате PyTorch; дообучение выполнялось в 4-битной точности, но это само по себе не указывает на формат опубликованных весов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-B — слияние предварительно обученных языковых моделей, созданное с помощью mergekit методом Model Stock на базе anthracite-org/magnum-v4-22b. В состав также вошли версии Cydonia-22B, Pantheon-RP и Mistral-magnum-v4_X_Cydonia-VXXX_Mixture. Это плотная авторегрессионная модель семейства Mistral с 22 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. Карточка базовой модели указывает на диалоговое взаимодействие, следование инструкциям и создание связной прозы на английском языке; метаданные этой модели также отмечают чат и интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.
pbevan11/Mistral-Nemo-Baseline-SFT — дообученная модель генерации текста на архитектуре Mistral, созданная на основе mistralai/Mistral-Nemo-Base-2407 с использованием набора pbevan11/ultrafeedback_binarized_multilingual. Модель содержит 12,1 млрд параметров и предназначена для диалоговой генерации текста и ответов на запросы. В метаданных указано контекстное окно до 1 024 000 токенов. Модель выпущена в формате safetensors и доступна по лицензии Apache-2.0. В README приведён результат оценки: loss 1,1750; подробности об оценочном наборе и практическом качестве не раскрыты. Хотя обучающий набор обозначен как многоязычный, конкретные поддерживаемые языки не перечислены.
Это GGUF-представление Qwen2.5-72B-Instruct в формате BF16, опубликованное featherless-ai-quants на основе модели mlx-community/Qwen2.5-72B-Instruct-bf16. Репозиторий содержит несколько вариантов квантования, включая IQ4_XS, Q2_K и Q3_K_L; README также описывает возможность запуска моделей через хостинг Featherless AI. Модель предназначена для диалоговой генерации текста. Её можно использовать для ответов на вопросы, подготовки текстов и ведения чата. Размер исходной модели — 72 млрд параметров. Данные не уточняют поддерживаемые языки и длину контекста. Доступны варианты с разным уровнем квантования и размером файлов, поэтому требования к ресурсам и качество могут различаться. Условия лицензии в предоставленных источниках не описаны.
Mistral-Nemo-2407-12B-Estrella-v1 — модель генерации текста на архитектуре Mistral, созданная автором карточки путём слияния нескольких языковых моделей с помощью mergekit. В состав слияния вошли, среди прочих, Mistral-Nemo-Instruct-2407, MN-12B-Celeste, Magnum, Lyra и Lumimaid. Модель содержит 12,1 млрд параметров и заявленный контекст до 1 024 000 токенов. Модель предназначена для диалогов и генерации связных, лаконичных, но творческих ответов. В README рекомендован формат запросов Mistral Instruct; также может подойти ChatML. Автор советует низкую температуру генерации 0,3–0,5. Доступна под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.