III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельSynthIA-7B-v1.3-dare-0.85-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi объединением mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/SynthIA-7B-v1.3-dare-0.85 методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов в диалоговом формате. Модель принимает текст и выдаёт текст; контекст составляет до 32 768 токенов. Её можно применять для чат-ботов, ответов на инструкции, черновиков и суммаризации текста. В карточке указана лицензия Apache-2.0. README не приводит сравнительных оценок качества или подробных ограничений, поэтому результаты следует проверять на целевых задачах.
Synthia-v3.0-11B — языковая модель общего назначения от Migtissera, созданная на архитектуре Llama и дообученная для следования инструкциям и ведения развёрнутых диалогов. В README указано, что обучение проводилось на наборе Synthia-v3.0, включающем около 10 тысяч высококачественных примеров, сгенерированных GPT-4-Turbo, и опиралось на принципы LIMA. Модель предназначена для генерации текста, ответов на вопросы и продолжительных бесед. Её можно применять в диалоговых интерфейсах, для написания и объяснения материалов, а также для рассуждений в формате Tree of Thoughts и Chain of Thought. Размер модели — 10,6 млрд параметров, родной контекст — 4096 токенов; заявлена поддержка текстового ввода и вывода. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент. В README она названа uncensored, поэтому результаты требуют проверки и модерации. Лицензия — Apache-2.0.
T3qm7xNeuralsirkrishna_Inex12Strangemerges_30 — объединённая модель для генерации текста, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Inex12Strangemerges_30-7B. Она использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель предназначена для генерации текста и диалогов по текстовым запросам. Модель распространяется в формате safetensors по лицензии Apache-2.0. README и метаданные не описывают её специализацию по языкам или конкретным областям применения, поэтому её следует рассматривать как модель общего назначения.
T3qm7xNeuralsirkrishna_PasticheInex12 — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекстное окно составляет до 32 768 токенов. Модель создана объединением automerger/T3qm7xNeuralsirkrishna-7B и automerger/PasticheInex12-7B. Доступна в формате Safetensors и распространяется по лицензии Apache-2.0. В README и метаданных не описаны специальные предметные области или языки, на которые она рассчитана.
T3qm7xNeuralsirkrishna_Strangemerges_32Experiment28 — объединённая модель для генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Experiment28-7B. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и поддерживает контекст до 32 768 токенов; веса опубликованы в формате Safetensors. Лицензия — Apache 2.0.
Модель tanaos/tanaos-emotion-detection-v1 разработана Tanaos с использованием библиотеки Artifex и дообучена на базе microsoft/Multilingual-MiniLM-L12-H384. Это компактная модель BERT для классификации текста: она определяет основную эмоцию в сообщении и относит его к одной из 12 категорий, включая радость, гнев, страх и нейтральный тон. По карточке, модель рассчитана на английский язык; базовая архитектура многоязычная. Размер модели — 124,3 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для анализа отзывов, обратной связи клиентов, публикаций в социальных сетях и других текстов, где требуется определить эмоциональный тон. Она может служить лёгкой альтернативой более крупным моделям в мониторинге мнений и анализе настроений. Обучение проводилось на синтетическом наборе из 10 000 высказываний. Лицензия — MIT. Результаты ограничены заранее заданными категориями эмоций, поэтому модель может хуже работать в специализированных областях, где эмоциональные оттенки отличаются от обучающих категорий. Хотя в карточке заявлена многоязычная применимость, указанным языком модели является английский.
Tarnished-9B — разговорная языковая модель семейства Gemma 2 от lodrick-the-lafted. Это плотная модель с 9 млрд параметров, предназначенная для генерации текста в диалоговом формате. Она принимает текст и выдаёт текст, а заявленный контекст составляет 8192 токена. Модель размещена в формате Safetensors и распространяется по лицензии WTFPL. Доступные сведения не описывают специальную предметную область или отдельные языковые специализации.
SzilviaB/Triple_Solar_2x10.7b-truthy-DPO — разговорная языковая модель для генерации текста. По карточке, это слияние моделей методом TIES с помощью mergekit; в конфигурации одна и та же модель macadeliccc/SOLAR-2x10.7b-truthy-dpo указана несколько раз. Каталог классифицирует архитектуру как MixtralForCausalLM с MoE и указывает 10,6 млрд параметров. Модель предназначена для диалога, генерации ответов и продолжения текста. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. В метаданных указана библиотека Transformers и формат safetensors. Лицензия и ограничения на использование в предоставленных сведениях отсутствуют.
Tulpar-7b-v2 — языковая модель HyperbeeAI на архитектуре Mistral, дообученная на инструкционном наборе данных, включающем примеры, созданные GPT-4, а также отфильтрованные и подготовленные наборы Airoboros и Platypus. Модель содержит 7,1 млрд параметров и принимает текст для генерации ответов по инструкциям; её контекстное окно составляет 32 768 токенов. Модель предназначена для диалоговых сценариев и выполнения текстовых инструкций на английском языке. Она распространяется в формате Safetensors по лицензии Apache-2.0. Разработчик не гарантирует точность, объективность и отсутствие предвзятости и рекомендует проверять безопасность модели перед внедрением.
typhoon-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, полученная слиянием Mistral-7B-Instruct-v0.2 и typhoon-7b методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. В состав слияния входят Mistral-7B-Instruct-v0.2 от Mistral AI и typhoon-7b от SCB 10X. Лицензия репозитория — Apache-2.0. Карточка не уточняет языковой охват и специальные ограничения качества, поэтому их нельзя конкретизировать.
liminerity/ultra0-half-the-layers — текстовая генеративная модель, созданная слиянием двух срезов liminerity/ultra0 методом SLERP через mergekit. Конфигурация использует диапазоны слоёв [0, 12] и задаёт разные параметры смешивания для self-attention и MLP; архитектура — плотная MistralForCausalLM, размер — 915,5 млн параметров. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0.
UNA-Neural-Chat-v3-3-Phase2 — языковая модель OneManArmy, созданная с применением метода выравнивания UNA (Uniform Neural Alignment) и обученная с использованием Zephyr Trainer на очищенном наборе UltraFeedback. Это дообучение модели one-man-army/una-neural-chat-v3-3-P1-OMA; архитектура MistralForCausalLM, около 7,1 млрд параметров, контекст до 32 768 токенов. Модель предназначена для генерации текста в диалогах и ответов на запросы. В карточке приведены результаты бенчмарков ARC и HellaSwag, но подробные результаты доступны по внешней ссылке и не представлены здесь. Лицензия — Apache-2.0.
Vapor_7B — дообученная разговорная модель семейства Qwen2.5, созданная на основе Qwen/Qwen2.5-7B. Она предназначена для генерации текста в диалоге и поддерживает контекст до 131 072 токенов. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2 и формат safetensors. Модель можно применять для ведения диалогов и генерации текста на нескольких языках, включая русский, английский, китайский, французский, испанский, португальский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Она распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о настройке дообучения или результатах оценки качества.
Virtuoso-Small — компактная языковая модель для генерации текста, разработанная Arcee.ai. Репозиторий duyntnet/Virtuoso-Small-imatrix-GGUF содержит её квантованные варианты в формате GGUF, предназначенные для локального запуска и совместимые с llama.cpp и рядом пользовательских интерфейсов, включая KoboldCPP, Ollama, Jan, text-generation-webui и GPT4All. Модель имеет 14 миллиардов параметров и ориентирована на выполнение инструкций, сложные рассуждения и бизнес-сценарии: поддержку клиентов, создание контента и техническую помощь. В README указан английский язык и текстовая модальность. Архитектура, размер контекста и точный набор доступных квантований не уточняются. К сильным сторонам относятся относительно компактный размер, эффективность и возможность работы на менее мощном оборудовании при сохранении высокого качества генерации. Ограничения связаны с недостатком информации о конкретной архитектуре, контекстном окне, производительности и качестве на других языках. В карточке указана лицензия other; дополнительных условий использования не приведено.
Apel-sin/whisper-large-v3-russian-ties-podlodka-v1.2 — русскоязычная модель распознавания речи на архитектуре Whisper large-v3. Она объединяет методом TIES модели antony66/whisper-large-v3-russian и bond005/whisper-large-v3-ru-podlodka; размер составляет 905,2 млн параметров. Модель предназначена для преобразования аудиозаписей в текст, в том числе телефонных разговоров. В карточке указано, что для обработки звонков рекомендуется предварительно подготовить записи и отрегулировать громкость. Модель помечена как незавершённая работа: автор планирует дополнительно адаптировать её для распознавания телефонной речи. Обучение связано с наборами Common Voice 17.0, Taiga Speech v2, Podlodka Speech и ruLibriSpeech. Использование совместимого с OpenAI API сервера описано как возможный способ запуска. Сведения о лицензии в предоставленных данных отсутствуют.
YamshadowStrangemerges_32_PasticheInex12 — объединённая модель генерации текста, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/PasticheInex12-7B. Она построена на архитектуре Mistral с плотной причинной языковой моделью на 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Её можно применять для написания и продолжения текстов, а также для ответов в текстовом чате. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
cloudyu/Yi-34Bx2-MoE-60B-DPO — диалоговая языковая модель, представленная как версия cloudyu/Yi-34Bx2-MoE-60B, дообученная методом Direct Preference Optimization (DPO). В метаданных указаны архитектура MixtralForCausalLM с разреженной MoE-структурой, 33,9 млрд параметров и контекст до 200 000 токенов. Модель предназначена для генерации текста в диалоге и использования в чат-сценариях. Карточка приводит результаты оценки Open LLM Leaderboard, но предупреждает, что метрики не проверялись. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Zamba2-1.2B-instruct — разговорная модель Zyphra для генерации текста и выполнения инструкций. Она создана дообучением Zamba2-1.2B: сначала на наборах инструкций и диалогов, затем с оптимизацией предпочтений методом DPO. В карточке указана гибридная архитектура Mamba2 и Transformer с общими слоями внимания и дополнительными LoRA-матрицами; метаданные относят модель к семейству Zamba2 и указывают 2,6 млрд параметров, формат safetensors и контекст 4096 токенов. Модель рассчитана на ответы на запросы и многоходовые беседы. В карточке сообщается о хороших результатах в следовании инструкциям и низкой задержке генерации; для запуска рекомендуются оптимизированные ядра Mamba2, иначе возрастают задержка и расход памяти. Реализация для Hugging Face обозначена как временная и может быть несовместима с некоторыми инструментами и фреймворками. Лицензия — Apache-2.0.
MaziyarPanahi объединил модели mistralai/Mistral-7B-Instruct-v0.2 и uukuguy/zephyr-7b-alpha-dare-0.85 методом SLERP с настройкой весов для слоёв self-attention и MLP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалоговой генерации текста и выполнения инструкций. Она принимает текст и выдаёт текст; заявленная длина контекста — до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по инструкциям. Распространяется в формате Safetensors по лицензии Apache-2.0. В предоставленной карточке не приведены оценки качества объединённой версии или сведения о конкретных языках; характеристики базовой модели не гарантируют аналогичное качество после слияния.
cais/zephyr_7b_r2d2 — разговорная языковая модель Центра безопасности ИИ (Center for AI Safety), представленная как модель генерации текста. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров; карточка Hugging Face показывает использование для генерации текста и диалогов, а метаданные указывают контекст до 32 768 токенов. Модель принимает текстовые сообщения и генерирует текстовые ответы. Её можно применять для диалоговых помощников, ответов на вопросы и других сценариев генерации текста. Модель опубликована в формате Safetensors и распространяется по лицензии MIT. Карточка не описывает специальные области применения, дополнительные языки или конкретные показатели качества.
zephyr-7b-spin-iter1-v0 — диалоговая языковая модель Argilla, дообученная на базе argilla/zephyr-7b-spin-iter0-v0. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в диалоге и продолжает серию SPIN: в README приведены результаты оценки, включая средний балл MT-Bench 6,603125. Модель поддерживает текстовый ввод и выдаёт текст. Она распространяется по лицензии Apache 2.0. README не описывает конкретные сценарии применения или ограничения качества, поэтому приведённые результаты оценки не следует трактовать как гарантию для всех задач.
Yaxin1992/zephyr-beta-llama2-7b-ties — диалоговая языковая модель, созданная слиянием Zephyr 7B Beta и Llama 2 7B Chat методом TIES с помощью mergekit. В метаданных указана архитектура MistralForCausalLM с плотной структурой, около 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и использования в качестве ассистента. Слияние выполнено на основе HuggingFaceH4/zephyr-7b-beta с включением meta-llama/Llama-2-7b-chat-hf; в README приведена конфигурация слияния и типом float16. Метаданные указывают библиотеку Transformers и формат safetensors. Карточка не сообщает отдельные результаты оценки качества или специализированные предметные области. Лицензия в предоставленных данных не указана.
ZephyrPaca-7B — объединённая языковая чат-модель на 7,1 млрд параметров, созданная с помощью mergekit. В неё методом TIES объединены HuggingFaceH4/zephyr-7b-beta и mlabonne/Mistralpaca-7B; архитектура — плотная MistralForCausalLM, веса представлены в safetensors. Указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалогах и выполнения пользовательских инструкций. Её можно применять для ответов на вопросы, ведения беседы и создания текстовых черновиков. Карточка не сообщает отдельные языковые ограничения; базовая модель Zephyr ориентирована на английский. Лицензия в предоставленных данных не указана.
Модель ShenaoZ/0.0001_withdpo_3iters_bs256_511lr_iter_1 — диалоговая текстовая модель на архитектуре Mistral с 7,1 млрд параметров. Это дообученная версия HuggingFaceH4/mistral-7b-sft-beta, обученная на наборе предпочтений HuggingFaceH4/ultrafeedback_binarized с использованием DPO. Модель предназначена для генерации текста в формате диалога: ответов на вопросы и общения. Контекст модели составляет до 32 768 токенов. В карточке указана лицензия MIT.
ShenaoZ выпустил чат-модель на архитектуре Mistral с 7,1 млрд параметров, дообученную методом DPO на наборе HuggingFaceH4/ultrafeedback_binarized. Она предназначена для генерации текста в диалогах и ответов на вопросы. Максимальная длина контекста составляет 32 768 токенов; модель поставляется в формате safetensors и распространяется по лицензии MIT. Карточка не содержит сведений об оценке качества или специальных ограничениях применения.
Это чат-модель для генерации текста, созданная дообучением ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_iter_2 на обновлённом и исходном наборах данных. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно использовать для генерации текста и ведения диалога. Модель распространяется по лицензии MIT.
Adamus-7B-slerp — объединённая модель для генерации диалогового текста, созданная с помощью LazyMergekit из mlabonne/NeuralBeagle14-7B и cognitivecomputations/dolphin-2.8-mistral-7b-v02. В метаданных указана архитектура Mistral с плотной структурой и классом MistralForCausalLM; размер модели — 7,1 млрд параметров, родной контекст — 32 768 токенов. Модель предназначена для генерации текста в формате диалога. Описание базовой NeuralBeagle14-7B указывает на задачи следования инструкциям, рассуждений и творческой генерации; эти возможности у объединённой модели отдельно не оценены. Объединение выполнено методом slerp, веса представлены в формате safetensors. Модель опубликована 3 июня 2024 года. Лицензия в предоставленных данных не указана.
laion/anh-xglm-7.5b-cross-lingual — мультиязычная модель генерации текста, созданная дообучением XGLM-7.5B на инструкционном наборе cross_lingual.jsonl из датасета laion/Anh. Модель построена на архитектуре XGLM с плотной causal language modeling архитектурой и содержит 8,6 млрд параметров. Модель предназначена для генерации ответов по инструкциям на разных языках. Метаданные указывают на поддержку instruction following; возможны сценарии с многоязычными запросами и генерацией текста. Контекст ограничен 2048 токенами. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
ANIMA-Nectar-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Biomimicry-AI/ANIMA-Nectar-v2. Она предназначена для генерации текста и ответов в диалоге по инструкциям. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Весовые файлы представлены в формате safetensors; конфигурация слияния использует bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не уточняет языковой охват и специализированные области применения.
AquilaMoE-SFT — двуязычная диалоговая языковая модель Beijing Academy of Artificial Intelligence (BAAI), построенная на архитектуре Mixture of Experts (MoE) семейства AquilaMoE и дообученная для следования инструкциям. В метаданных указано 15,9 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана на китайский и английский языки. Модель предназначена для диалогов и ответов на инструкции. В описании семейства говорится, что на каждом токене активируются два из восьми экспертов; приведённый результат AquilaMoE-SFT на AlpacaEval 2.0 составляет 21,1. Модель распространяется под лицензией Apache-2.0. README предупреждает, что у неё нет механизмов модерации, поэтому генерируемые ответы могут требовать отдельной проверки и фильтрации.