III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельmaid-yuzu-v3 — объединённая автором модель генерации текста на архитектуре Mixtral с экспертной структурой MoE. Она создана методом DARE TIES с помощью mergekit на основе smelborp/MixtralOrochi8x7B и объединяет её с ycros/BagelMIsteryTour-v2-8x7B и NousResearch/Nous-Hermes-2-Mixtral-8x7B-DPO. Модель предназначена для генерации ответов и выполнения инструкций в текстовом диалоге. Объём параметров в метаданных указан как 7,1 млрд, нативный контекст — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
Moritz Laurer выпустил многоязычную модель mDeBERTa-v3-base-mnli-xnli на базе архитектуры DeBERTa-v2. Модель содержит 306 млн параметров, принимает пары текстов для вывода о логическом следовании и подходит для классификации по заданным пользователем категориям без отдельного обучения на этих категориях. Её контекст ограничен 512 токенами. Модель предварительно обучена Microsoft на многоязычном корпусе CC100, затем дообучена на английском MNLI и профессионально переведённых данных XNLI. Карточка указывает поддержку NLI на 100 языках; наиболее подробно оценены 15 языков XNLI, включая русский. Средняя точность на тесте XNLI составила 0,808, при этом качество зависит от языка и может быть ниже для языков вне набора оценки. Модель распространяется по лицензии MIT.
megatron_1.1_MoE_2x7B — разговорная языковая модель на архитектуре Mixtral с механизмом смеси экспертов (MoE). Карточка приводит результаты оценки на Open LLM Leaderboard, включая средний балл 69,94, 65,53 на AI2 Reasoning Challenge и 84,52 на HellaSwag. Модель предназначена для генерации текста в диалогах и решения задач на рассуждение и понимание текста. Она содержит 7,1 млрд параметров и поддерживает контекст до 8192 токенов. В репозитории используются веса safetensors; лицензия — Apache-2.0.
Megatron-BERT-large Swedish 165k for zero-shot classification — шведская модель для классификации текста без заранее заданного набора классов. Её разработала KBLab на основе Megatron-BERT-large-165k: модель дообучили на задачах QNLI, а затем MNLI. Архитектура — плотный Megatron-BERT для классификации последовательностей, размер — 468,3 млн параметров. Модель предназначена для присвоения тексту меток из пользовательского списка категорий через pipeline zero-shot classification в Hugging Face Transformers. Это подходит, например, для сортировки шведских текстов по темам или проверки их соответствия заданным утверждениям. Поддерживается шведский язык; максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch и Safetensors. Сведения о лицензии в предоставленных материалах отсутствуют.
Memgpt-slerp-7b-4 — диалоговая языковая модель, созданная объединением методом SLERP моделей starsnatched/MemGPT и liminerity/Memgpt-slerp-7b-3 с помощью LazyMergekit. В основе лежит архитектура Mistral; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и может использоваться в чат-ботах и сценариях, где требуется вести беседу с учётом длинного контекста. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
Metis-0.4-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral. Она создана методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Mihaiii/Metis-0.4; конфигурация объединения указывает диапазон слоёв 0–32 для обеих моделей и формат весов bfloat16. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы, генерирует текст и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. Она распространяется под лицензией Apache-2.0. README и метаданные не описывают отдельные специализированные области применения или конкретные ограничения качества.
Metis-0.4-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Metis-0.4 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит специальных оценок качества или ограничений; возможности и результаты могут зависеть от языка запроса и конкретного сценария применения.
MRAIRR/minillama3_8b_all — диалоговая языковая модель семейства Llama, основанная на allganize/Llama-3-Alpha-Ko-8B-Instruct. Это плотная авторегрессионная модель для генерации текста и чата с 7,5 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса PyTorch; модель создана на основе базовой модели Allganize, однако способ её получения в карточке не уточнён. Она предназначена для диалогов и генерации текста. Лицензия — Apache 2.0.
miscii-14b-0218 — плотная языковая модель семейства Qwen2, созданная sthenno-com на основе Qwen2.5-14B-Instruct и объединения нескольких чекпойнтов методом Model Stock с помощью MergeKit. Модель содержит 14 млрд параметров, рассчитана на генерацию текста и чат; её родной контекст — до 131 072 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста, а также подготовки структурированных ответов. В тегах карточки перечислены китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки; при этом основной язык отдельно не выделен. Репозиторий использует Transformers и формат safetensors. Лицензия — Apache-2.0. Это объединённая модель на основе нескольких промежуточных SFT-чекпойнтов, поэтому поведение и качество могут отличаться от исходной Qwen2.5-14B-Instruct. README не приводит результатов сравнительной оценки или конкретных гарантий качества.
Mistral-11B-OmniMix-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.2 и Undi95/Mistral-11B-OmniMix методом SLERP через MergeKit. Модель использует архитектуру MistralForCausalLM с плотной трансформерной сетью, содержит 7,1 млрд параметров и принимает текст для генерации ответов и диалогов. Контекст — до 32 768 токенов. Модель подходит для чат-общения, выполнения инструкций и генерации текста. В репозитории веса представлены в формате safetensors; лицензия — Apache-2.0. README не приводит отдельной оценки качества или подробностей о языковом покрытии и ограничениях, поэтому специфические преимущества и недостатки слияния не описаны.
Mistral-7B-golden-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и liuda1/Mistral-7B-golden методом SLERP; веса представлены в формате Safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Заявленная длина контекста — 32 768 токенов. Лицензия — Apache-2.0. Модель принимает текст и выдаёт текст. README и метаданные не уточняют языковой охват или специализированные предметные области, поэтому их нельзя уверенно указать.
Mistral-7B-Instruct-guidance-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2 и Mistral-7B-Instruct-guidance. Модели объединены методом SLERP с настройками по слоям и типам блоков; архитектура — плотная причинная модель MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. В метаданных не указаны поддерживаемые естественные языки; поэтому конкретные языки не перечисляются. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.
pbevan11/Mistral-Nemo-MCAI-SFT — многоязычная чат-модель, разработанная pbevan11 путём дообучения Mistral-Nemo-Base-2407 с помощью supervised fine-tuning. Она предназначена для генерации ответов в диалоге и выполнения текстовых инструкций. Модель имеет плотную архитектуру MistralForCausalLM и 12,1 млрд параметров; заявленное максимальное контекстное окно составляет 1 024 000 токенов. Для обучения использованы multilingual-constitutional-preference-pairs и ultrafeedback_binarized_multilingual; в карточке приведено значение loss 1,2052 на оценочной выборке. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит подробностей о качестве на отдельных языках, протоколе оценки или практических ограничениях, поэтому результаты следует проверять на целевых задачах.
MonaTrix-v4 — объединённая модель для генерации текста на архитектуре Mistral, созданная CultriX с помощью LazyMergekit. В неё вошли Kukedlc/NeuralMaxime-7B-slerp, eren23/ogno-monarch-jaskier-merge-7b и eren23/dpo-binarized-NeutrixOmnibe-7B. Модель содержит 7,1 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель подходит для диалоговых ответов и продолжения текста. В метаданных указана лицензия Apache-2.0. Данных о специальных предметных областях или более узких ограничениях в карточке нет.
Birchlabs опубликовал дообученную версию MPT-7B-Chat — диалоговой модели MosaicML для генерации ответов и ведения беседы. Модель основана на MPT-7B и дообучена на наборах ShareGPT-Vicuna, HC3, Alpaca, HH-RLHF и Evol-Instruct. Это плотный авторегрессионный трансформер с 6,7 млрд параметров, 32 слоями и 32 головами внимания; в архитектуре используются FlashAttention и ALiBi, без позиционных эмбеддингов и смещений. Для загрузки через Transformers требуется доверенный пользовательский код архитектуры MPT. Модель подходит для чат-ботов, ответов на вопросы, диалогового помощника и генерации текста по запросу. README предупреждает, что ответы могут содержать фактические ошибки, предвзятость или оскорбительный контент. Указанная лицензия CC-BY-NC-SA-4.0 ограничивает использование некоммерческими целями.
most-embed-de — модель для создания текстовых эмбеддингов, разработанная malteos на основе дообучения nvidia/Nemotron-3-Embed-1B-BF16. Она предназначена прежде всего для поиска релевантных документов на немецком языке в службах поддержки: в RAG-системах, базах FAQ и справочных центрах, а также в корпоративной документации. Модель рассчитана на сопоставление запросов разных форм — вопросов, коротких поисковых фраз и описаний проблем — с документами конкретной компании. Модель содержит 1,1 млрд параметров, использует плотную архитектуру Ministral 3 и формирует эмбеддинги размерностью 2048. В README указано контекстное окно до 32 тысяч токенов, тогда как метаданные указывают 262 144 токена; поэтому фактический лимит следует сверять с конфигурацией и используемым способом запуска. Основной язык — немецкий; базовая модель поддерживает также английский и ряд других языков. Для инференса заявлена совместимость с Sentence Transformers и vLLM. README сообщает о высоких результатах на немецких задачах поиска и на внутреннем бенчмарке SupportIR-DE, охватывающем телекоммуникации, банковские услуги, страхование и электронную торговлю. SupportIR-DE пока не опубликован, поэтому независимая проверка этих результатов ограничена. Модель выпущена по лицензии CC BY-NC 4.0, которая не разрешает коммерческое использование.
zelk12/MT4-Gen5-IB-gemma-2-9B — разговорная языковая модель на архитектуре Gemma 2, созданная объединением двух предварительно обученных моделей с помощью метода SLERP и mergekit. Модель содержит 9 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие. Модель принимает текст и генерирует текст; её контекстное окно составляет 8192 токена. В карточке не заявлены специализированная предметная область или конкретные языки. Модель предназначена для диалоговых приложений и общих сценариев генерации текста. Лицензия в предоставленных данных не указана.
zelk12/MT5-Gen5-IF-gemma-2-EMTg2-9B — объединённая модель Gemma 2, созданная с помощью mergekit методом SLERP из Aashraf995/Gemma-Evo-10B и zelk12/MT-Gen2-gemma-2-9B. Это плотная авторегрессионная языковая модель на 9 млрд параметров для генерации текста и диалогового общения; она работает через Transformers и распространяется в формате safetensors. Контекст — до 8192 токенов. Модель подойдёт для диалоговых интерфейсов и генерации текста по запросу. Карточка не сообщает о специализации на отдельных предметных областях или языках. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить на странице репозитория Hugging Face.
zelk12/MT5-Gen5-MA-gemma-2-MTg2MT2-9B — объединённая модель семейства Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen2-gemma-2-9B и zelk12/MT2-gemma-2-9B. Это плотная авторегрессионная языковая модель на 9 млрд параметров для генерации текста и диалогового общения; в метаданных указана поддержка chat и контекст до 8192 токенов. Модель принимает текст и генерирует текст, работает через Transformers и распространяется в формате safetensors. Модель подходит для ведения диалога и создания текстовых ответов. Карточка не сообщает о специализированной предметной области или конкретных языках; поэтому её следует рассматривать как модель общего назначения. Известные ограничения качества, лицензия и специальные условия использования в предоставленных данных не описаны.
zelk12/MT5-MM-gemma-2-Rv0.4Av4c-9B — слитая диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная с помощью mergekit методом SLERP из recoilme/recoilme-gemma-2-9B-v0.4 и lemon07r/Gemma-2-Ataraxy-v4c-9B. Модель предназначена для генерации текста и общения в чате; работает с текстовым вводом и выдаёт текст. Контекстное окно составляет 8192 токена, веса доступны в формате safetensors. Карточка не приводит отдельные сведения о языковой специализации, поэтому модель можно описать как универсальную диалоговую. Указана лицензия Apache 2.0 в метаданных? Нет, лицензия не предоставлена; условия использования следует проверять у базовых моделей и владельца репозитория.
zelk12/MT-Merge3-GMAMUI-gemma-2-9B — объединённая разговорная языковая модель на базе архитектуры Gemma 2, созданная методом SLERP с помощью mergekit из zelk12/MT-Merge3-GMA-gemma-2-9B и zelk12/MT-Merge3-MUI-gemma-2-9B. Модель содержит 9 млрд параметров, работает через Transformers и рассчитана на генерацию текста и диалоговое взаимодействие; длина контекста составляет 8192 токена. Модель подойдёт для ведения диалогов и генерации ответов на текстовые запросы. Веса представлены в формате safetensors; лицензия и языковая специализация в доступных сведениях не определены.
zelk12/MT-Merge5-MUI-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная с помощью mergekit методом SLERP из двух предварительно обученных моделей zelk12. Модель содержит 9 млрд параметров, использует архитектуру Gemma2ForCausalLM и предназначена для генерации текста в диалоговом формате; контекстное окно составляет 8192 токена. Модель можно использовать для ведения диалогов и генерации ответов на текстовые запросы. Веса опубликованы в формате safetensors; в конфигурации слияния указана точность bfloat16. Лицензия в предоставленных данных не указана.
mjwong/multilingual-e5-large-xnli-anli — многоязычная модель классификации текста, созданная дообучением intfloat/multilingual-e5-large на наборах XNLI и ANLI. Она основана на архитектуре XLM-RoBERTa-large, содержит 658,7 млн параметров и принимает последовательности длиной до 514 токенов. Модель предназначена для классификации без заранее заданного набора классов: можно передать текст и собственные варианты меток, а также применять её для задач вывода по текстовым парам. Поддерживаются 15 языков: английский, арабский, болгарский, немецкий, греческий, испанский, французский, хинди, русский, суахили, тайский, турецкий, урду, вьетнамский и китайский. В README приведены результаты оценки на XNLI, MultiNLI и ANLI. Модель доступна в форматах PyTorch и Safetensors. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Качество зависит от выбранных формулировок меток и языка; результаты на тестах ANLI и XNLI различаются между языками и наборами.
NeuralContext-7b-v2 — объединённая диалоговая модель на архитектуре Mistral, созданная Kukedlc с помощью LazyMergekit. Веса в формате safetensors; размер модели — 7,1 млрд параметров, нативная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов. В объединении использованы Mistral-7B-Instruct-v0.2, NousResearch/Yarn-Mistral-7b-128k и Kukedlc/MyModelsMerge-7b. Лицензия в предоставленных данных не указана.
NeuralPipe-9B-Passthrough — слитая модель для генерации текста, созданная на основе OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B с помощью LazyMergekit. В конфигурации passthrough использованы слои обеих моделей; архитектура — плотная MistralForCausalLM, размер — 8,9 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Лицензия — Apache-2.0. В карточке не приведены результаты оценки качества или подробные сведения о языковом охвате.
NeuralsynthesisT3qm7-7B — слитая Maxime Labonne модель для генерации текста и диалогов. Она объединяет Kukedlc/NeuralSynthesis-7b-v0.4-slerp и nlpguy/T3QM7 методом SLERP с помощью mergekit. Модель построена на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors и имеют тип bfloat16. Лицензия — Apache-2.0.
NeuralTrix-7B-dpo-laser — языковая модель от Kquant03, созданная объединением моделей mlabonne/OmniBeagle-7B, flemmingmiguel/MBX-7B-v3 и AiMavenAi/AiMaven-Prometheus с помощью LazyMergekit и последующим обучением DPO. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; она генерирует текст по текстовому запросу и поддерживает контекст до 32 768 токенов. Модель подходит для диалогов, ответов на вопросы и других задач генерации текста. В конфигурации слияния также указан mistralai/Mistral-7B-v0.1 как базовая модель; DPO упоминается в карточке, но использованный набор данных не приведён. Модель распространяется по лицензии Apache-2.0.
Noro-Hermes-7B — объединённая диалоговая языковая модель на основе Mistral, созданная ThomasComics с помощью LazyMergekit. Она объединяет NeverSleep/Noromaid-7B-0.4-DPO и NousResearch/Nous-Hermes-2-Mistral-7B-DPO методом slerp; в конфигурации указана точность bfloat16. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста по запросам и диалогового общения. Её можно использовать для ответов на вопросы, ведения беседы и подготовки текстовых черновиков. Данных о лицензии, целевых языках и специальных ограничениях в предоставленной карточке нет.
OpenBuddy-mistral2-7b-v20.3-32k — плотная чат-модель семейства Mistral с 7,1 млрд параметров, разработанная проектом OpenBuddy. Она предназначена для многоязычного диалога и генерации ответов; поддерживает контекст до 32 768 токенов. Метаданные указывают на поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. Лицензия — Apache 2.0. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует применять в критических сценариях, включая медицину и важные финансовые или юридические решения.
MaziyarPanahi/openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на базе архитектуры Mistral, полученная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и OpenBuddy/openbuddy-mistral-7b-v13-base. Она предназначена для генерации текста в диалоге и ответов на инструкции. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; метаданные указывают поддержку чата. В README описано слияние весов с использованием bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Языки и специализированные прикладные области в предоставленных данных не определены.