III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельsunburstAI/solar_ko_v0.1 — дообученная языковая модель, созданная на основе yanolja/KoSOLAR-10.7B-v0.2, корейской версии с расширенным словарём модели upstage/SOLAR-10.7B-v1.0. Модель разработана sunburstAI и предназначена для генерации текста и диалогового взаимодействия. Модель использует плотную архитектуру Llama с причинно-языковой моделью LlamaForCausalLM и содержит 10,6 млрд параметров. Она принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. Для распространения используются веса Safetensors, библиотека — Transformers. Модель рассчитана на корейский язык. Модель распространяется по лицензии Apache-2.0. Карточка указывает на дообучение базовой модели, но не описывает конкретные данные обучения, результаты оценки или узкие области применения.
Soro-GPT — языковая модель от zaddyzaddy, дообученная на базе unsloth/llama-3-8b-bnb-4bit. Она использует плотную архитектуру Llama с причинно-языковой головой и предназначена для генерации текста. В карточке указаны 7,5 млрд параметров и контекст до 8192 токенов; для обучения применялись Unsloth и библиотека TRL. Модель можно использовать для генерации продолжений текста и диалоговых ответов. Карточка не описывает специализацию, обучающие данные или результаты оценки качества, поэтому пригодность для конкретных областей не подтверждена. Лицензия — Apache-2.0.
StableVicuna-13B-Delta — delta-веса разговорной языковой модели StableVicuna-13B, разработанной Duy Phung из CarperAI. Это авторегрессионная плотная модель на архитектуре LLaMA с 12,9 млрд параметров, дообученная с подкреплением на основе отзывов людей (RLHF) методом PPO на наборах разговоров и инструкций. Для восстановления полной модели delta-веса нужно применить к весам LLaMA 13B; отдельно этот репозиторий не является готовой к запуску моделью. Модель предназначена для генерации текста и диалогов на английском языке, включая ответы на инструкции и вопросы. Контекст составляет 2048 токенов. Для обучения использовались OpenAssistant Conversations, GPT4All Prompt Generations и Alpaca. Delta-веса распространяются по лицензии CC-BY-NC-SA-4.0, а базовые веса LLaMA имеют отдельную некоммерческую лицензию Meta. Модель может выдавать токсичные, предвзятые или вредные ответы; её ответы не следует считать достоверным источником или заменой человеческого суждения.
SwallowMaid-8B-L3-SPPO-abliterated — объединённая разговорная языковая модель семейства Llama 3, созданная с помощью mergekit на основе нескольких моделей, включая grimjim/Llama-3-Instruct-abliteration-LoRA-8B, UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3 и модели для ролевых диалогов и художественного письма. В репозитории указано 7,5 млрд параметров; модель использует плотную архитектуру LlamaForCausalLM, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Модель предназначена для диалогов, ответов на вопросы, ролевых взаимодействий и написания историй. Автор описывает её как uncensored и отмечает добавление компонентов, ориентированных на ролевую игру и выразительную прозу, при попытке сохранить качества Llama 3 Instruct. В метаданных указаны английский и японский языки. Доступны веса safetensors; README также упоминает квантизированные сборки GGUF, размещённые отдельно. Лицензия в предоставленных данных не указана.
Synatra-Yi-Ko-6B — языковая модель, дообученная автором maywell на базе beomi/Yi-Ko-6B с использованием набора данных Synatra. Это плотная причинная модель семейства Llama с 5,9 млрд параметров; она генерирует текст и предназначена для диалогового использования по шаблону ChatML без системного сообщения. Указанный контекст составляет 4096 токенов, поддерживаемые языки — английский и корейский. Модель распространяется в формате Safetensors по лицензии CC BY-SA 4.0. Карточка содержит мало сведений о составе обучающих данных и оценках качества, поэтому пригодность для конкретных сценариев следует проверять самостоятельно.
T3qm7xpMultiverseex26-7B — автоматическое слияние моделей, созданное Maxime Labonne с помощью mergekit. В конфигурации указаны nlpguy/T3QM7XP и allknowingroger/MultiverseEx26-7B-slerp; использован метод dare_ties с плотностью 0,53, весом 0,6 и типом данных bfloat16. Каталог описывает архитектуру как плотную MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста. Она принимает текст и выдаёт текст; README не уточняет языковую специализацию или конкретные сценарии использования. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Качество и ограничения в карточке не описаны.
Taiwan LLM 13B v2.0 chat — диалоговая языковая модель на архитектуре Llama, разработанная для традиционного китайского языка и культурного контекста Тайваня. Она создана дообучением базовой модели yentinglin/Taiwan-LLM-13B-v2.0-base на открытых и синтетических текстовых данных с помощью Supervised Fine-Tuning. Модель содержит 12,9 млрд параметров и рассчитана на генерацию текста и диалог. Её контекстное окно составляет 4096 токенов; основным языком является традиционный китайский, в частности вариант Тайваня. В карточке сообщается об оценке на бенчмарках TC-Eval и Open LLM Leaderboard, но приведённые результаты не гарантируют точности в практических задачах. Модель подходит для диалоговых приложений и генерации текста с учётом языковых и культурных особенностей Тайваня. Распространяется по лицензии Apache-2.0. Разработчики предупреждают, что ответы требуют проверки; модель не предназначена для медицинской диагностики, юридических консультаций и финансовых решений.
tiny-bert-sst2-distilled — компактная модель классификации последовательностей на базе BERT, дообученная автором philschmid на датасете GLUE для задачи SST-2. Она содержит 4,4 млн параметров, использует архитектуру BertForSequenceClassification и принимает текстовые последовательности длиной до 512 токенов. На оценочной выборке указана точность 0,8326. Модель подходит для определения тональности коротких текстов, например отзывов и комментариев. Она работает с английским текстом; README не описывает дополнительные сценарии применения. Лицензия — Apache-2.0. Показатель качества относится к указанной оценочной выборке и сам по себе не гарантирует такую же точность на других данных.
Tuyennguyen28/tiny-bert-sst2-distilled — модель классификации последовательностей на архитектуре BERT, полученная дообучением bert-base-uncased. Репозиторий содержит веса в формате safetensors; размер модели — 136,7 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для классификации текста. В карточке приведены результаты оценки: accuracy 0,8509, AUC 0,8049 и MCC 0,5681; набор данных и конкретные метки классов не описаны. Название указывает на SST-2 и тональность, но README не подтверждает состав обучающих данных или классы напрямую. Лицензия — Apache-2.0. Англоязычная базовая модель BERT и название репозитория указывают на работу с английским текстом; пригодность для других языков не заявлена.
TinyLlama-1.1B-intermediate-step-715k-1.5T-lr-5-1epch-airoboros3.1-1k-instruct-V1 — языковая модель Habanoz, дообученная методом QLoRA на наборе airoboros-3.1-no-mathjson-max-1k; LoRA-адаптер объединён с базовой моделью. Это плотная авторегрессионная модель семейства Llama примерно с 1 млрд параметров, предназначенная для генерации текста в формате инструкций и диалогов. Контекст модели составляет 2048 токенов. Модель подходит для ответов на инструкции и вопросы, а также генерации коротких текстов на английском языке. В README приведены результаты оценивания на нескольких тестах, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется в формате Safetensors по лицензии Apache-2.0. QLoRA описывает метод обучения; опубликованная модель содержит объединённые веса адаптера.
Trisert/tinyllama-alpaca — языковая модель семейства Llama, разработанная Trisert на основе unsloth/tinyllama-bnb-4bit. Модель дообучена с помощью Unsloth и библиотеки Hugging Face TRL и предназначена для генерации текста. Её размер составляет 1 млрд параметров, контекст — до 4096 токенов; в метаданных указан английский язык. Модель подходит для генерации английского текста и диалоговых ответов в приложениях, которым достаточно компактной языковой модели. Репозиторий распространяется по лицензии Apache-2.0. README не описывает конкретные наборы данных, результаты оценки качества или дополнительные возможности модели.
burak/Trendyol-Turkcell-stock — объединённая диалоговая языковая модель на архитектуре Mistral, созданная методом Model Stock с помощью mergekit. В качестве базовой использована Trendyol/Trendyol-LLM-7b-chat-dpo-v1.0; в объединение также вошли TURKCELL/Turkcell-LLM-7b-v1 и Trendyol/Trendyol-LLM-7b-chat-v1.0. Модель предназначена для генерации текста и диалоговых ответов. Она содержит 7,2 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Базовые модели ориентированы на турецкий язык, поэтому модель подходит прежде всего для общения и генерации текста на турецком. Вес опубликован в формате safetensors и типе bfloat16. В README и метаданных сведения о лицензии и конкретных ограничениях качества не приведены.
Turkish-LLM-7B-Instruct — диалоговая языковая модель на 7,2 млрд параметров, разработанная Ogulcan Aydogan и дообученная на наборах инструкций на турецком языке на базе mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и выполнения пользовательских инструкций, прежде всего на турецком, а также поддерживает английский язык. Модель использует плотную архитектуру MistralForCausalLM и принимает текстовый контекст длиной до 32 768 токенов. В README отмечена возможность запуска на потребительских GPU при использовании квантизации; для модели также доступны варианты GGUF с квантизацией Q4, Q5 и Q8. Подходит для диалога и генерации ответов на турецком языке. Ограничения качества и результаты оценки в карточке не приведены. Лицензия — Apache-2.0.
ClaudioItaly/Underground — языковая модель семейства Llama, созданная слиянием двух предварительно обученных моделей с помощью метода SLERP и инструмента mergekit. В состав слияния вошли Sao10K/Fimbulvetr-11B-v2 и bhavinjawade/SOLAR-10B-Nector-DPO-Jawade; конфигурация указывает базовую модель Sao10K/Fimbulvetr-11B-v2. Модель имеет плотную архитектуру LlamaForCausalLM, 10,6 млрд параметров и контекст до 4096 токенов. Модель предназначена для генерации текста и диалоговых ответов. В метаданных базовая модель описана как англоязычная, поэтому основные сценарии — англоязычное общение и создание текста. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии и конкретных ограничениях качества в доступных данных отсутствуют.
v1olet/v1olet_marcoroni-go-bruins-merge-7B — языковая модель Trong-Hieu Nguyen-Mau, полученная слиянием AIDC-ai-business/Marcoroni-7B-v3 и rwitz/go-bruins-v2 методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, принимающая текст и генерирующая текст; для общения можно использовать шаблон Alpaca. Модель предназначена для генерации ответов и другого текста на английском языке; заявлено контекстное окно 32 768 токенов. В README приведено заявление о высоком месте в рейтинге на дату публикации, но подробности задач, оценки и методика не описаны. Модель доступна в формате PyTorch, лицензия — Apache-2.0.
VersatiLlama — дообученная Devarui379 модель Meta Llama 3.2 3B Instruct для генерации текста и диалогов на английском языке. Это плотная авторегрессионная трансформерная модель семейства Llama с 3,2 млрд параметров и контекстом до 131 072 токенов; опубликована в формате safetensors для библиотеки Transformers. Автор сообщает, что модель обучалась пять часов на GPU NVIDIA Tesla T4 и предназначена для универсального общения и генерации текста. Указанная лицензия — CC BY 4.0. Модель подходит для диалоговых сценариев и генерации естественно звучащего текста; для общения в LM Studio автор рекомендует использовать системный промпт и предлагает проверить шаблон чата Jinja. Заявление автора о качестве, близком к Llama 3.1 8B Instruct, не сопровождается результатами сравнительной оценки. Доступна отдельная квантизированная версия GGUF, но текущая модель распространяется в safetensors.
WikiHow-Mistral-Instruct-7B — языковая модель ajibawa-2023, дообученная на наборе WikiHow для создания подробных пошаговых инструкций в стиле WikiHow. Она основана на Mistral-7B-Instruct-v0.2 и предназначена для ответов на запросы и генерации обучающих руководств по широкому кругу повседневных и специализированных тем. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст, поддерживает диалоговый формат ChatML; в карточке указан английский язык. Модель обучали три эпохи на WikiHow с использованием Axolotl. Модель ориентирована на развёрнутые объяснения шагов, советов и рекомендаций. Возможны неточности в инструкциях, особенно в узкоспециализированных или чувствительных темах; качество и безопасность ответов следует проверять. Лицензия — Apache-2.0.
WukongV2-Mixtral-8x7B-V0.1 — разговорная модель, созданная RESMPDEV путём дообучения и повторного обучения базовой модели mistralai/Mixtral-8x7B-v0.1 на подборке датасетов Cognitive Computations в течение трёх эпох. Она предназначена для генерации текста в диалоге и совместима с обслуживанием через vLLM и библиотеку Transformers; в карточке отмечена поддержка чата. Модель построена на архитектуре Mixtral с разреженной смесью экспертов (MoE), содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. В метаданных указаны английский, французский, итальянский, немецкий и испанский языки. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка характеризует модель как «dealigned», а базовую Mixtral — как не имеющую механизмов модерации; отдельные сведения о безопасности именно этой дообученной версии не приведены. Примеры выходов в README не заполнены, поэтому качество и поведение модели по ним оценить нельзя.
Prasadrao разработал эту модель на базе XLM-RoBERTa Large, дообучив её для классификации эмоций в тексте на наборе данных GoEmotions. Она предназначена для определения эмоциональных категорий в тексте и может использоваться для анализа тональности сообщений, отзывов и реплик. Модель содержит 658,7 млн параметров, построена на архитектуре XLM-RoBERTa для классификации последовательностей и принимает контекст до 514 токенов. Опубликована в формате safetensors по лицензии MIT. На оценочном наборе указаны accuracy 0,4521 и F1 0,5170, поэтому качество предсказаний может быть ограниченным; карточка не описывает подробности обучающих данных, список меток и языков. Для корректного применения следует сверить выходные метки с конфигурацией модели и оценить качество на данных целевого сценария.
Prasadrao/xlm-roberta-large-go-emotions-v2 — дообученная модель классификации текста на базе XLM-RoBERTa Large. Она предназначена для определения эмоций в тексте; README приводит метрики на оценочном наборе, но не раскрывает его состав или набор классов. Модель содержит 658,7 млн параметров, использует архитектуру XLMRobertaForSequenceClassification и принимает последовательности длиной до 514 токенов. Карточка сообщает о точности 0,4521 и F1 0,5170 на оценочном наборе. Модель распространяется по лицензии MIT. Языковая поддержка явно не описана; название базовой модели указывает на GoEmotions, но данных недостаточно, чтобы установить поддерживаемые языки и точную схему меток.
YamshadowInex12_T3qm7xpStrangemerges_32 — слитая модель семейства Mistral, созданная MaziyarPanahi на основе automerger/YamshadowInex12-7B и automerger/T3qm7xpStrangemerges_32-7B. Это плотная авторегрессионная языковая модель с 7,1 млрд параметров для генерации текста; она принимает текст и формирует текстовые продолжения. Контекстное окно составляет до 32 768 токенов. Модель подходит для диалогов, написания черновиков и продолжения заданного текста. Карточка не описывает специальные навыки, целевые языки или результаты оценок качества, поэтому её возможности сверх генерации текста и языковую специализацию определить нельзя. Модель опубликована в формате Safetensors по лицензии Apache-2.0.
ShenaoZhang/0.001_idpo_same_iter_2 — диалоговая языковая модель, дообученная авторами на основе ShenaoZhang/0.001_idpo_same_iter_1 на обновлённом и исходном наборах данных. Модель использует плотную архитектуру Mistral с причинным языковым декодером и содержит 7,1 млрд параметров. Она предназначена для генерации текста в чате; длина контекста составляет 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии MIT. README не приводит сведений о целевых сценариях, оценке качества или ограничениях, поэтому практические характеристики дообучения сверх указания наборов данных не установлены.
Farsight-AI/10k-finetune — дообученная модель классификации текста на основе MoritzLaurer/DeBERTa-v3-large-mnli-fever-anli-ling-wanli, опубликованная под лицензией MIT. Модель содержит 533,8 млн параметров, использует архитектуру DeBERTa-v2 и принимает текстовые входные данные длиной до 512 токенов. Модель предназначена для классификации текста. В README приведены результаты оценки: loss 0,3357 и accuracy 0,8730. Датасет обучения не указан, поэтому нельзя определить целевые классы и оценить применимость к конкретным областям.
CalderaAI разработала 13B-Thorns-l2 — текстовую генеративную модель на архитектуре Llama, собранную из нескольких моделей LLaMA v2-13B и адаптеров. В состав входят Nous-Hermes, Chronos, Platypus, Airoboros и Holodeck, а также адаптеры Kimiko, Janine и LIMA RP. Для объединения моделей применён метод SLERP, а адаптеры предварительно присоединялись к выбранным компонентам ансамбля. Модель предназначена для генерации текста, диалогов и ролевых сценариев, совмещая следование инструкциям и логическое рассуждение с творческим письмом. Она содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. В README указана маркировка uncensored; лицензия в предоставленных данных не приведена.
ABEJA-Qwen2.5-32b-Japanese-v1.0 — японская языковая модель, разработанная командой ABEJA. Она создана на основе японской версии ABEJA-Qwen2.5-32b-Japanese-v0.1, которая прошла непрерывное предварительное обучение на базе Qwen/Qwen2.5-32B-Instruct; затем модель дообучили методами SFT и DPO. В метаданных указаны плотная архитектура Qwen2, 32 млрд параметров, библиотека Transformers и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на японском языке. Её можно применять для ответов на вопросы, подготовки и редактирования японских текстов, а также для диалоговых приложений. Метаданные также отмечают интерфейс вызова инструментов, однако README не описывает его поведение или качество. Модель распространяется под лицензией Apache-2.0. Данных о бенчмарках и конкретных ограничениях качества в карточке нет.
liminerity/Agent.Star.Demo — дообученная liminerity модель генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалоговой генерации текста; карточка указывает обучение с помощью Unsloth и библиотеки TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Модель основана на MTSAIR/multi_verse_model и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные предметные области или дополнительные возможности, поэтому её следует рассматривать как экспериментальную чат-модель общего назначения.
Bhadresh Savani дообучил ALBERT-base-v2 для классификации эмоций в текстах. Модель построена на архитектуре ALBERT и содержит 136,3 млн параметров; она принимает текст и относит его к эмоциональным категориям. В README указано обучение на наборе данных для эмоций с использованием Hugging Face Trainer в течение восьми эпох. Метаданные указывают библиотечные форматы PyTorch, TensorFlow и Flax, контекст до 512 токенов и лицензию Apache-2.0. Модель предназначена для анализа эмоциональной окраски коротких сообщений, в частности текстов из Twitter. В README приведено сравнение с другими классификаторами на датасете эмоций, однако результаты самой этой модели там не указаны. Язык карточки и метаданные датасета указывают на английский язык.
Alphacode-MALI-11B_slowtest — диалоговая языковая модель Alphacode AI, созданная путём слияния моделей Alphacode и дообучения на собственных данных разработчика. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 10,8 млрд параметров; она предназначена для генерации текста и общения в чате. Заявленная длина контекста составляет 32 768 токенов. В метаданных указан корейский язык. Модель обучали на восьми ускорителях A100 с использованием DeepSpeed, Hugging Face TRL Trainer и Accelerate. Репозиторий содержит веса в формате Safetensors. Лицензия — CC BY 4.0. Карточка не описывает конкретные области применения, результаты оценки качества или ограничения модели.
AMD-OLMo-1B-IT — дообученная модель на базе AMD-OLMo-1B-SFT, созданная для следования инструкциям и творческого письма. Это плотная авторегрессионная языковая модель архитектуры OLMo с 1,2 млрд параметров и контекстом 2048 токенов. В метаданных указан датасет shibing624/sharegpt_gpt4; карточка характеризует модель как уверенную по стилю, но не приводит оценок качества или подробных результатов тестирования. Модель принимает текстовые запросы и генерирует текст. Она подходит для ответов на общие вопросы, выполнения пользовательских инструкций и творческих текстовых задач. Поддерживаемые языки явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0; README рекомендует Q4_K_M для использования в квантизированном виде.
Anshu-AI V5 — диалоговая языковая модель RORVEX, дообученная на базе Qwen2.5-1.5B-Instruct. Она предназначена для разговоров на хинди, английском и Hinglish — смешении хинди и английского — и генерации ответов в формате чат-ассистента. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 1,5 млрд параметров и принимает текст с контекстом до 32 768 токенов. Доступна в формате safetensors и рассчитана на работу с Transformers. Указана лицензия Apache-2.0.