III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельxinlai/Llama-3-70B-SFT-Step-DPO — разговорная языковая модель семейства Llama 3, представленная в формате safetensors. Она предназначена для генерации текста и диалогового общения. Модель плотная, содержит 69,5 млрд параметров и поддерживает контекст до 8192 токенов. Название указывает на supervised fine-tuning и обучение методом Direct Preference Optimization, однако README не содержит описания обучения или оценки качества. Модель распространяется по лицензии Apache-2.0.
MaziyarPanahi/Llama-3-8B-Instruct-DPO-v0.1 — диалоговая языковая модель, созданная MaziyarPanahi дообучением Meta-Llama-3-8B-Instruct методом DPO. Она предназначена для генерации ответов в диалоге и других текстовых задач. Модель использует архитектуру LlamaForCausalLM с плотной сетью, содержит 7,5 млрд параметров и принимает шаблон ChatML. Контекст составляет 8192 токена; в карточке указан английский язык. Модель распространяется в формате safetensors для использования с библиотекой Transformers. Лицензия указана как other; условия её использования следует сверять с карточкой модели и базовой модели.
Llama-3-8B-OpenHermes-2.5-1M — дообученная разговорная языковая модель на архитектуре Llama, созданная на основе meta-llama/Meta-Llama-3-8B. В репозитории указаны размер 7,5 млрд параметров, поддержка чата и контекст до 8192 токенов; модель распространяется в форматах PyTorch и safetensors. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы, ведения диалога и создания текстовых черновиков. В карточке приведён результат оценки Loss 0,6993, но подробности набора данных и методики оценки отсутствуют. Лицензия — llama3; условия использования следует сверять с лицензией базовой модели Meta.
catrinbaze/llama-refueled-merge — объединённая инструктивная языковая модель, созданная с помощью mergekit из NousResearch/Meta-Llama-3-8B-Instruct и refuelai/Llama-3-Refueled. Для объединения использован метод SLERP; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors. Модель предназначена для диалогов и генерации текста по инструкциям; заявленная длина контекста составляет 8192 токена. Модель подойдёт для создания чат-ботов, ответов на вопросы и генерации текста. В метаданных базовая модель описана как англоязычная. Условия лицензирования в предоставленных сведениях не приведены.
Карточка модели munachi02/LonAI_20250122 на Hugging Face совпадает с карточкой chain03/SRole_3181, поэтому описание составлено по ней. chain03/SRole_3181 — объединённая модель для генерации текста и диалогового общения. Она создана методом линейного слияния mergekit из двух предварительно обученных языковых моделей: /root/top1 и /root/top2. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 7,5 млрд параметров. Модель рассчитана на генерацию текста и ответы в формате чата. Заявленная длина контекста — 131 072 токена. Веса доступны в формате safetensors; в конфигурации слияния указан тип данных bfloat16. Лицензия в предоставленных сведениях не указана.
Lumimaid-v0.2-8B — разговорная языковая модель на архитектуре Llama, разработанная mrcuddle путём дообучения NeverSleep/Lumimaid-v0.2-8B. В карточке указаны обучение с помощью Unsloth и библиотеки TRL, размер модели составляет 7,5 млрд параметров, а формат весов — safetensors. Модель предназначена для генерации текста и диалогового общения; каталог отмечает поддержку чата. Она принимает текст и генерирует текст, а заявленная длина контекста составляет 131 072 токена. В метаданных указан английский язык. Модель опубликована по лицензии Apache-2.0.
jeiku/luxemaelstrom — языковая модель, созданная слиянием моделей FourOhFour/Luxe_4B и FourOhFour/Maelstrom_4B методом SLERP с помощью mergekit. Это плотная авторегрессионная архитектура LlamaForCausalLM размером 3,9 млрд параметров, рассчитанная на генерацию текста и диалоговое использование. Заявленная длина контекста — 131 072 токена. Модель подходит для диалогового ассистента, ответов на запросы и ролевых бесед. Репозиторий содержит веса в формате safetensors; для работы указана библиотека Transformers. Дата публикации на Hugging Face — 1 октября 2024 года. Лицензия в предоставленных данных не приведена.
M7Yamshadowexperiment28_Experiment24Ognoexperiment27 — объединённая модель генерации текста на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment24Ognoexperiment27-7B. Она предназначена для генерации продолжений текста и диалоговых ответов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Сведений о специализированной предметной области или дополнительных ограничениях качества в карточке нет.
MaziyarPanahi/M7Yamshadowexperiment28_Percival_01Shadow — объединённая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/Percival_01Shadow-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0.
Magiq Translator 0 — языковой адаптер архитектуры Magiq3, разработанный MAIA для перевода между английским, французским и итальянским языками с сохранением исходного смысла и культурных нюансов. Модель предназначена для многоязычного общения и устранения языковых барьеров. Это дообученная плотная модель Mistral на 7,1 млрд параметров с архитектурой MistralForCausalLM. Она принимает текст и генерирует текст; максимальная длина контекста составляет 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0.
MagnusIntellectus-12B-v1 — объединённая модель для генерации текста и диалогов, созданная GalrionSoftworks с помощью LazyMergekit из UsernameJustAnother/Nemo-12B-Marlin-v5 и anthracite-org/magnum-12b-v2. Это плотная причинно-языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; карточка указывает контекст до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов в чат-сценариях. В README описано слияние методом TIES с нормализацией и весами 0,70 и 0,30; веса опубликованы в формате safetensors и типе bfloat16. В карточке приведены результаты Open LLM Leaderboard: средний балл 21,55, IFEval 44,21 и BBH 33,26. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках в предоставленных источниках нет.
MaziyarPanahi/mamba-gpt-7b-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая модель генерации текста, полученная слиянием Mistral-7B-Instruct-v0.2 и CobraMamba/mamba-gpt-7b-v2 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; репозиторий предоставляет веса в формате safetensors. Модель предназначена для генерации ответов в диалоге и выполнения инструкций на входном тексте. Заявленная длина контекста — до 32 768 токенов. В метаданных указана лицензия Apache-2.0. Карточка не сообщает отдельные результаты оценки качества или специальные гарантии поведения после слияния.
Marcoro14-7B-ties — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit на основе mistralai/Mistral-7B-v0.1, OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. В конфигурации объединения применён метод TIES с нормализацией; опубликованные веса имеют формат Safetensors и точность float16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальные предметные области или подтверждённые языковые возможности модели.
Marcoroni-neural-chat-7B-v2-Mistral-7B-Instruct-v0.1 — языковая чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Marcoroni-neural-chat-7B-v2 методом SLERP. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста в ответ на инструкции и диалоговые запросы; заявленный размер контекста — 32 768 токенов. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы. README описывает объединение весов с отдельными коэффициентами смешивания для слоёв self-attention и MLP. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0. В предоставленных данных не обозначены языки обучения или специализированные области применения.
Maya_Hermes-2.5-Mistral-7B — диалоговая языковая модель на архитектуре Mistral, представленная пользователем luqmanxyz. Это вариант, дообученный методом DPO на наборе argilla/distilabel-intel-orca-dpo-pairs. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате: она может отвечать на запросы и поддерживать беседу. В карточке приведены результаты оценивания на бенчмарках AI2 Reasoning Challenge и HellaSwag. Файлы опубликованы в формате safetensors; лицензия — Apache-2.0.
mBART-50 many-to-many — модель машинного перевода от Facebook, дообученная на основе mBART-large-50. Она переводит напрямую между любыми парами из 50 языков: целевой язык задаётся специальным токеном в начале генерации. Модель построена на архитектуре MBartForConditionalGeneration и содержит около 457,4 млн параметров; максимальная длина контекста — 1024 токена. Модель предназначена для многоязычного перевода текстов, включая перевод на русский и с русского. Для её использования требуется указать токен целевого языка при генерации. Карточка не сообщает лицензию и специфические ограничения качества, поэтому их нельзя уточнить по имеющимся данным.
MeliodasPercival_01_AlloyingotneoyYam — объединённая модель генерации текста на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/AlloyingotneoyYam-7B. Модель содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате safetensors; лицензия — Apache 2.0. Карточка не сообщает о специализированной предметной области или языковом профиле модели.
MeliodasT3q_Experiment26Neuralarjuna — объединённая текстовая модель, созданная на основе automerger/MeliodasT3q-7B и automerger/Experiment26Neuralarjuna-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинными запросами и историей переписки. Модель использует плотную архитектуру Mistral с причинно-следственной языковой моделью и содержит 7,1 млрд параметров. Поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. Данных о специальных предметных областях или поддерживаемых языках в предоставленной карточке нет.
MeliodasT3qm7_ShadowStrangemerges_32 — объединённая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasT3qm7-7B и automerger/ShadowStrangemerges_32-7B. Она предназначена для генерации текста и диалоговых ответов, включая сценарии с длинным контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель принимает текст и выдаёт текст. В карточке не описаны специальные предметные области или дополнительные возможности. Лицензия — Apache 2.0.
mahiatlinux/merged1and2-and-dolphin — объединённая модель для генерации текста и диалогов, созданная автором репозитория с помощью LazyMergekit. В неё объединены mahiatlinux/merged1and2 и cognitivecomputations/dolphin-2.1-mistral-7b методом slerp; базовой указана mahiatlinux/merged1and2. Архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — Safetensors, контекст — до 32 768 токенов. Модель предназначена для текстового общения и генерации ответов в диалоговых сценариях. В карточке не приведены сведения о поддерживаемых естественных языках, лицензии или специальных предметных областях, поэтому их нельзя уточнить по доступным данным.
Карточка модели mergekit-community/mergekit-slerp-xlkdlta на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jeyctse, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-jeyctse — языковая чат-модель, созданная сообществом слиянием моделей HuggingFaceH4/zephyr-7b-beta и Equall/Saul-Base методом SLERP с помощью mergekit. Это плотная модель Mistral с 7,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге: ответов на вопросы и выполнения пользовательских инструкций. В метаданных основной язык не задан; базовая Zephyr-7B-β описана как англоязычная чат-модель. Условия лицензирования в предоставленных данных не приведены. Качество и поведение результата слияния могут отличаться от исходных моделей.
MetaMath-Chupacabra-7B-v2.01-Slerp-Mistral-7B-Instruct-v0.1 — чат-модель, созданная слиянием Mistral-7B-Instruct-v0.1 и Weyaxi/MetaMath-Chupacabra-7B-v2.01-Slerp методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста в ответ на инструкции и диалоговые запросы. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для диалоговых помощников и задач, где нужно формировать ответы на текстовые запросы. В карточке не приведены сведения о языковом охвате или специализированных областях применения. Лицензия — Apache-2.0.
cloudyu/mistral_11B_instruct_v0.1 — разговорная языковая модель на архитектуре Mistral с 48 слоями и 10,6 млрд параметров. Автор карточки сообщает, что модель дообучена методом SFT на vicgalle/alpaca-gpt4; формат примера использует инструкцию, входные данные и ожидаемый ответ. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Она принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — CC BY 4.0. Карточка не приводит оценок качества или подробных ограничений применения, поэтому пригодность для конкретных задач следует проверять отдельно.
lvkaokao/mistral-7b-finetuned-orca-dpo-v2 — текстовая генеративная модель, дообученная на базе Mistral-7B-v0.1 с использованием открытого датасета Open-Orca/SlimOrca. Она предназначена для генерации ответов и диалоговых сценариев общего назначения. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. Карточка указывает на дообучение на инструкционном датасете, поэтому модель подходит для ответов на запросы, следования инструкциям и ведения текстового диалога. В метаданных перечислены Mistral и text-generation; конкретные языковые возможности и отдельные гарантии качества карточка не уточняет.
vikasaarna/mistral-7b-instruct-rigtuned-v0.1 — дообученная автором vikasaarna чат-модель на основе unsloth/mistral-7b-instruct-v0.3-bnb-4bit. Она использует плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и предназначена для генерации текста в диалогах и других сценариях, где требуется продолжить текстовый запрос. Модель принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов. Карточка указывает английский язык. Модель обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Репозиторий распространяется по лицензии Apache-2.0.
wang7776 выпустил разреженную версию Mistral-7B-Instruct-v0.2, предназначенную для диалогов и генерации текста по инструкциям. По README, модель прорежена на 2% методом Wanda без дообучения и изменения весов. В основе — Mistral-7B-Instruct-v0.2, дообученная для следования инструкциям версия Mistral-7B-Instruct-v0.1; архитектура — плотный трансформер Mistral с Grouped-Query Attention и Sliding-Window Attention. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и использует формат инструкций [INST] ... [/INST]. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста общего назначения. В карточке заявлена лицензия Apache 2.0. README предупреждает, что у модели нет механизмов модерации, поэтому её ответы могут не соблюдать заданные ограничения.
Mistral-7B-KNUT-v0.3-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на основе Mistral-7B-Instruct-v0.1 и Mistral-7B-KNUT-v0.3. Разработчик выполнил слияние методом SLERP: для слоёв attention и MLP заданы отдельные коэффициенты смешивания. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров; файлы опубликованы в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она принимает текстовые запросы и выдаёт текстовые ответы; заявленная длина контекста — 32 768 токенов. В карточке не описаны специальные языковые или предметные преимущества объединённой версии. Модель распространяется по лицензии Apache-2.0. Качество и поведение слияния отдельно не охарактеризованы; результат может отличаться от обеих исходных моделей.
CorticalStack/mistral-7b-openhermes-2.5-sft — языковая модель на архитектуре Mistral, дообученная методом supervised fine-tuning на датасете teknium/OpenHermes-2.5. В README указаны параметры LoRA: r=256, alpha=128 и dropout=0; метаданные описывают плотную модель MistralForCausalLM размером 7,1 млрд параметров с контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; в доступных данных нет сведений о поддержке отдельных языков или специализированных областях. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Ограничения качества и безопасного использования в карточке не описаны.
Mistral-7B-ReMax-v0.1 — языковая модель Ziniu Li на архитектуре Mistral, дообученная методом RLHF с алгоритмом ReMax на базе Mistral-7B-Instruct-v0.2. Она предназначена для диалогов и генерации ответов на инструкции; формат запросов использует токены [INST] и [/INST]. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Карточка описывает обучение на 10 тысячах запросов из lmsys-chat-1m без использования ответов этого набора и приводит результаты сравнительных оценок на Chat1M и AlpacaEval. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество и ограничения унаследованы от Mistral-7B-Instruct-v0.2; в частности, у модели нет встроенных механизмов модерации. Приведённые в карточке оценки основаны на конкретных тестовых наборах и не гарантируют качество во всех сценариях.
Mistral-NeMo-Minitron-8B-Chat — разговорная языковая модель, опубликованная rasyosef и дообученная методом supervised fine-tuning на базе nvidia/Mistral-NeMo-Minitron-8B-Base. Для настройки использовано 32 тысячи пар «инструкция — ответ» из набора teknium/OpenHermes-2.5. Модель построена на плотной архитектуре Mistral с классом MistralForCausalLM, содержит 7,9 млрд параметров и принимает текстовые запросы в формате чата, генерируя текстовые ответы. Контекст — до 8192 токенов. Модель подходит для диалогового общения, ответов на вопросы, выполнения инструкций и генерации текста по запросу. В README приведены результаты оценки следования инструкциям IFEval: 45,83; также указаны результаты Open LLM Leaderboard. Эти оценки не гарантируют качество на конкретных пользовательских задачах. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензии в карточке модели.