III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельzelk12/recoilme-gemma-2-Ataraxy-9B-v0.2 — разговорная языковая модель на архитектуре Gemma 2, созданная разработчиком zelk12 с помощью слияния SLERP двух моделей zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.75. Модель содержит 9 млрд параметров, работает с текстом и рассчитана на контекст до 8192 токенов. Она предназначена для генерации текста и диалоговых сценариев. Опубликована в формате safetensors для библиотеки Transformers. В README приведены результаты Open LLM Leaderboard, включая IFEval 76,00 и BBH 43,63; других подтверждённых сведений о сильных сторонах модели нет. В предоставленных материалах лицензия и поддерживаемые языки не указаны. Результаты бенчмарков не гарантируют качество в конкретном применении; контекст ограничен 8192 токенами.
Re:MythoMax v2.1 (ReMM v2.1) — плотная авторегрессионная языковая модель семейства Llama с 12,9 млрд параметров, созданная Undi95 как экспериментальная переработка MythoMax-L2-B13. Весовые файлы представлены в fp16 и Safetensors; модель использует контекст до 4096 токенов и шаблон Alpaca. Модель предназначена для генерации текста в диалогах и других сценариях следования инструкциям. Она получена методом SLERP-слияния ReML v2.1 и Huginn v1.2; в карточке также перечислены Chronos-Beluga v2, Airoboros L2 2.2 и Nous-Hermes Llama 2 как компоненты ReML. Указанная лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование.
Bhumika/roberta-base-finetuned-sst2 — модель классификации текста на базе RoBERTa, обученная на наборе данных GLUE. По названию репозитория она предназначена для определения тональности по задаче SST-2 и выдаёт метку класса для входного текста. Архитектура — RobertaForSequenceClassification, размер — 151,8 млн параметров; контекст составляет до 514 токенов. Модель распространяется в формате PyTorch. В карточке приведён результат оценки на тестовом наборе: accuracy 0,945 и loss 0,300. Разработчик не описал дополнительные сценарии применения и ограничения. Лицензия в предоставленных данных не указана.
Модель разработал Lakshya Kumar: это дообученная RoBERTa-Large для многометочной классификации эмоций в тексте. Она определяет 28 эмоций и нейтральное состояние по датасету GoEmotions, поэтому одному сообщению может соответствовать несколько меток. Модель содержит 454,1 млн параметров, принимает текст и выдаёт оценки и метки эмоций; заявленная длина контекста — 514 токенов. Для обучения применялись focal loss, отдельная настройка порога для каждой метки и целевая аугментация, чтобы улучшить работу с несбалансированными классами. Модель ориентирована на англоязычный текст, в частности комментарии и короткие сообщения. Она распространяется по лицензии MIT.
Saiga-Llama3 8B-GGUF — квантизированная версия модели saiga_llama3_8b, разработанная IlyaGusev и преобразованная с использованием llama.cpp. В основе лежит Llama-3 8B Instruct от Meta. Модель предназначена для русскоязычного диалога, генерации текста, ответов на вопросы, выполнения инструкций и ролевых сценариев. Модель обучалась на русскоязычных и многоформатных наборах данных, включая ru_turbo_saiga, ru_sharegpt_cleaned, oasst1_ru_main_branch, gpt_roleplay_realm и ru_instruct_gpt4. Указан русский язык; поддерживается conversational-режим с использованием формата промптов ChatML. Модель относится к классу text-generation и поставляется в формате GGUF, подходящем для запуска через совместимые инструменты экосистемы llama.cpp. Точный размер квантизации, поддерживаемые варианты квантования и размер контекста в README не указаны. Сильной стороной модели является специализация на русскоязычных инструкциях и диалогах, включая обычные вопросы, творческие задания и ролевое общение. Ограничения включают сравнительно небольшую базовую размерность 8B по современным меркам и отсутствие подробных сведений о качестве на разных типах задач; приведённая оценка AlpacaEval показывает результат ниже ChatGPT-3.5 Turbo и ChatGPT-4 Turbo. Лицензия обозначена как other с названием llama3; применяются условия лицензии Llama 3 от Meta.
JosephNguyen дообучил Sailor2-8B-Chat для диалогов и генерации текста. Модель построена на плотной архитектуре Qwen2, содержит 8 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для текстового общения и генерации ответов. Карточка указывает английский язык; базовая Sailor2-8B-Chat ориентирована на многоязычные диалоги, особенно на языках Юго-Восточной Азии, однако README не уточняет языковые возможности именно этого дообучения. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Данных о специальных ограничениях качества или применения карточка не приводит.
Модель invalid-coder/Sakura-SOLAR-Instruct-CarbonVillain-en-10.7B-v2-slerp — текстовая генеративная модель, полученная объединением CarbonVillain-en-10.7B-v2 и Sakura-SOLAR-Instruct методом SLERP с помощью LazyMergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 10,6 млрд параметров; репозиторий содержит веса Safetensors. Модель предназначена для диалогового взаимодействия и генерации текста. Модель принимает текст и выдаёт текст. Контекстное окно составляет 4096 токенов. Репозиторий опубликован под лицензией Apache-2.0. Доступные сведения не описывают отдельное обучение, тестирование качества или ограничения по использованию, поэтому пригодность для конкретных задач следует оценивать отдельно.
SambaLingo-Hungarian-Chat-70B — диалоговая языковая модель, разработанная SambaNova Systems для общения на венгерском и английском языках. Это плотная авторегрессионная модель семейства Llama с 68,9 млрд параметров и контекстом 4096 токенов. Она дообучена методом direct preference optimization на базе SambaLingo-Hungarian-Base; базовая модель адаптирует Llama 2 70B к венгерскому языку на данных Cultura-X. Словарь токенизатора расширен с 32 000 до 57 000 токенов. Модель предназначена для диалогов и генерации ответов на венгерском и английском. Её можно применять для разговорных помощников, черновиков текстов и ответов на вопросы; README приводит рекомендации по настройке генерации и использованию шаблона чата. Модель может переключаться между языками, повторяться, галлюцинировать, а её способности к программированию и сложной математике ограничены. Возможна генерация токсичного или вредного текста. Модель не предназначена для критически важных задач, влияющих на безопасность или важные решения. Использование регулируется лицензией Meta Llama 2 Community License Agreement.
ScarletPajama-3B-HF — языковая модель, дообученная Fredithefish на диалоговой выборке ShareGPT-22K. Она основана на RedPajama-INCITE-Chat-3b и использует архитектуру GPT-NeoX с 3,5 млрд параметров. Модель предназначена для генерации текста и ведения диалогов на основе текстовых запросов. При дообучении использовались 22 тысячи отфильтрованных пар разговорных реплик из ShareGPT; обучение проводилось в течение двух эпох. Модель принимает текст и генерирует текст, её контекст составляет 2048 токенов. Данные не подтверждают поддержку конкретных естественных языков. Репозиторий содержит веса в формате PyTorch. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях применения.
Seamaiiza-7B-v3-32k — языковая модель AlekseiPravdin, полученная слиянием трёх моделей семейства Mistral с помощью mergekit и метода dare_ties. Это плотная авторегрессионная модель на 7,1 млрд параметров для генерации текста и диалогового общения; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, а лицензия — Apache 2.0. Модель подходит для ведения диалога и генерации продолжений текста. Данные карточки не уточняют поддерживаемые естественные языки, специализацию по областям или результаты оценивания качества.
SELM-Zephyr-7B-iter-2 — диалоговая языковая модель, разработанная Katayoon и дообученная на обновлённом и исходном наборах данных. Она основана на SELM-Zephyr-7B-iter-1 и использует плотную архитектуру Mistral с 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев; поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текстовые ответы. Репозиторий содержит веса в формате Safetensors, а лицензия — MIT. В README не приведены результаты оценки, подробности о данных и специальные ограничения, поэтому качество на конкретных задачах по карточке определить нельзя.
Модель Jhusef Alfonso López Parra для классификации тональности текста на испанском языке. Это дообученная с помощью Transformers архитектура XLM-RoBERTa-large с 658,7 млн параметров; она присваивает тексту одну из трёх меток: отрицательная, нейтральная или положительная. Модель предназначена для анализа испаноязычных текстов, в том числе сообщений в социальных сетях, и запускается для инференса через библиотеку Transformers. При проверке на валидационной выборке указано значение F1-macro 0,729. Модель обучалась на наборе данных cardiffnlp/tweet_sentiment_multilingual; максимальная длина контекста составляет 514 токенов. Распространяется по лицензии Apache-2.0. Возможны смещения, связанные с обучающими данными; результаты не следует использовать как единственное основание для критически важных решений без проверки специалистом.
sfm_filtered_e2e_alignment-2k_3k_4k_5k_6k_weightedavg_merge — объединённая модель на основе предобученных языковых моделей, созданная с помощью mergekit. В README указан метод Linear и чекпойнт global_step6000 в качестве основы; также объединены чекпойнты global_step2000, global_step3000, global_step4000 и global_step5000 из серии filtered_e2e_alignment. Модель построена на архитектуре GPT-NeoX, содержит 8,8 млрд параметров и рассчитана на генерацию текста в диалоговом сценарии. Её контекстное окно составляет 16 384 токена. В репозитории размещены веса в формате safetensors; библиотека для работы — Transformers. Карточка не сообщает, на каких языках и в каких прикладных областях модель обучалась или насколько качественно справляется с конкретными задачами. Лицензия в предоставленных данных не указана.
sfm_filtered_e2e_alignment-4k_5k_6k_7k_8k_weightedavg_merge — объединение языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована модель на шаге обучения global_step8000; в объединение также вошли чекпойнты global_step4000, global_step5000, global_step6000 и global_step7000 из серии filtered_e2e_alignment. Автор карточки — yuhengtu из ByteDance. Модель имеет плотную архитектуру GPT-NeoX с 8,8 млрд параметров, принимает текст и предназначена для генерации текста и диалогового использования. Нативная длина контекста составляет 16 384 токена. Веса доступны в формате safetensors для библиотеки Transformers. Карточка не приводит сведений о поддерживаемых естественных языках, специализированных областях, оценке качества или конкретных ограничениях поведения. Лицензия в предоставленных данных не указана.
Это объединённая языковая модель на 8,8 млрд параметров, созданная методом Linear merge с помощью mergekit из нескольких контрольных точек одного семейства. Архитектура GPT-NeoX; модель распространяется в формате safetensors и предназначена для генерации текста в диалоговом режиме. Модель принимает текст и генерирует текст. Контекст составляет до 16 384 токенов. Карточка не сообщает о специализации на конкретных языках или прикладных областях. Условия лицензии в доступных данных не приведены.
sfm_filtered_insert_xxf_character-8k_9k_10k_11k_12k_weightedavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit методом Linear merge. В неё вошли несколько контрольных точек предварительно обученной модели; базовой при слиянии была контрольная точка global_step12040. В репозитории указаны 8,8 млрд параметров, формат safetensors и контекст длиной до 16 384 токенов. Модель предназначена для генерации текста и диалогового использования. Карточка не уточняет языки, специализированные области или отдельные возможности сверх генерации текста. Лицензия в предоставленных данных не указана.
Это объединённая языковая модель на 8,8 млрд параметров, созданная автором репозитория yuhengtu-bytedance методом Linear merge с помощью mergekit. В качестве основы использован чекпойнт filtered_midtrain_alignment на шаге 6000; в объединение также вошли чекпойнты на шагах 2000, 3000, 4000 и 5000. Модель построена на архитектуре GPT-NeoX и сохранена в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев. Её можно применять для ведения беседы и создания текстовых ответов; поддерживаемая длина контекста составляет 16 384 токена. Сведения о конкретных языках, специализации и результатах оценки качества в карточке не приведены. Лицензия в предоставленных данных не указана.
Shadowm7expMergerix-7B — автоматически объединённая Maxime Labonne модель для генерации текста и диалогов. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; объединение выполнено методом Model Stock из Mistral-7B-v0.1, ShadowM7EXP-7B и Mergerix-7b-v0.3. Модель принимает текст и генерирует текст. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors, а лицензия — Apache 2.0. Карточка не описывает специализированные области применения или подтверждённые языки.
SharkOgno-7b-Task — объединённая языковая модель powermove72, созданная с помощью LazyMergekit из powermove72/Shark-1 и eren23/OGNO-7b-dpo-truthful. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; контекст составляет до 32 768 токенов. Слияние выполнено методом task arithmetic с весами 0,4 и 0,6, нормализацией и объединённым токенизатором; веса представлены в формате Safetensors и сохранены в FP16. Модель подходит для генерации продолжений и ответов на текстовые запросы. В состав входит база OGNO-7B-DPO-Truthful с акцентом на правдивость ответов, однако README не приводит отдельных оценок качества или подробного описания возможностей Shark-1. Лицензия в предоставленных данных не указана.
Smart-Agent-Qwen — дообученная разговорная языковая модель, опубликованная alhakimia54 и основанная на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. В карточке указаны контекст до 32 768 токенов и поддержка английского языка. Модель можно использовать для ответов на вопросы, ведения диалога и генерации текста на английском языке. При обучении применялись Unsloth и библиотека TRL; README сообщает об ускоренном обучении, но не описывает конкретные данные, методику или специализацию дообучения. Модель распространяется по лицензии Apache-2.0. Кейсы, требующие точных или проверяемых ответов, стоит сопровождать проверкой результатов.
Smaug-Llama-3-70B-Instruct-ExPO — чат-модель на базе Llama 3, созданная авторами работы «Weak-to-Strong Extrapolation Expedites Alignment». Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 69,5 млрд параметров; репозиторий содержит веса в формате Safetensors, а контекст составляет до 8192 токенов. Модель получена экстраполяцией ExPO с коэффициентом α = 0,3 на основе контрольных точек SFT и DPO/RLHF для Smaug-Llama-3-70B-Instruct и Meta-Llama-3-70B-Instruct. Она предназначена для диалогов и генерации текста с улучшенным согласованием с предпочтениями людей. В README приведены оценки ExPO-вариантов моделей на AlpacaEval 2.0 и MT-Bench; эти результаты не являются отдельной оценкой данной версии 70B. Карточка указывает английский язык и лицензию Llama 3 (llama3). Практическое использование зависит от соблюдения условий этой лицензии; кроме улучшенного согласования, README не описывает специализированные навыки или ограничения модели.
vicgalle/solarized-13B-dpo — разговорная языковая модель, созданная Vicgalle на основе vicgalle/SOLAR-13B-Instruct-v1.0. Модель построена с помощью mergekit: в базовой архитектуре чередуются слои Nous-Hermes-2-SOLAR-10.7B и SOLAR-10.7B-Instruct, после чего модель дообучена методом DPO на предпочтениях из набора argilla/distilabel-intel-orca-dpo-pairs. Модель предназначена для диалогов, выполнения инструкций и генерации текстовых ответов. Это плотная модель семейства Llama с 12,3 млрд параметров и контекстом до 4096 токенов; поддерживает чатовый сценарий и распространяется в формате safetensors. В карточке приведены примеры генерации и результаты оценивания на нескольких бенчмарках. Модель распространяется по лицензии Apache-2.0. Пример генерации показывает, что она может без оговорок создавать взрослый контент; ответы также могут быть вымышленными или неуместными.
nebchi/solar-merge-slerp — это объединённая модель генерации текста на архитектуре Llama, созданная с помощью mergekit методом SLERP из davidkim205/nox-solar-10.7b-v2 и chihoonlee10/T3Q-ko-solar-dpo-v6.0. Модель содержит 10,4 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев на основе входного текста. Веса опубликованы в формате safetensors; README указывает конфигурацию с float16. В карточке не приведены сведения о конкретных языках, качестве на отдельных задачах или условиях лицензии.
StableHermes-3b — языковая модель cxllin объёмом 2,7 млрд параметров, дообученная на наборе OpenHermes из примерно 242 тысяч примеров, преимущественно созданных GPT-4 и собранных из открытых датасетов. По метаданным, модель относится к семейству StableLM Epoch и использует плотную архитектуру трансформера-декодера для авторегрессионной генерации текста; README описывает её как модель на базе GPT-NeoX. Она принимает текст и предназначена для генерации ответов и ответов на вопросы на разные темы. Контекст составляет 4096 токенов, основной заявленный язык — английский. Модель подходит для диалоговых приложений, подготовки развернутых ответов и извлечения ответов из заданного контекста. В репозитории указана лицензия MIT. Возможные ограничения включают ошибки и недостоверные утверждения, свойственные генеративным языковым моделям; карточка не приводит результатов оценки качества.
StableVicuna-13B-HF — англоязычная авторегрессионная языковая модель семейства LLaMA, подготовленная Дуем Фунгом из CarperAI. Версия в репозитории TheBloke содержит веса в формате Hugging Face, без квантизации, в float16; размер модели — 12,9 млрд параметров, контекст — 2048 токенов. Модель дообучена на Vicuna-13B v0 с помощью RLHF и PPO на разговорных и инструкционных данных, включая OASST1, GPT4All Prompt Generations и Alpaca. Она предназначена для генерации ответов в диалоге и выполнения инструкций; для общения используется шаблон с маркерами «### Human:» и «### Assistant:». Лицензия на delta-веса — CC-BY-NC-SA-4.0; веса базовой LLaMA распространяются по отдельной некоммерческой лицензии Meta. Ответы могут содержать предвзятые, токсичные или вредные формулировки и не должны считаться достоверным источником или заменой человеческого суждения.
Standard One 3B — мультиязычная модель решений от StandardThinking на базе дообученной и слитой версии Ministral 3 3B Instruct. Она оценивает заданный сценарий и возвращает вероятности для вариантов ответа: выбора из списка, ответа «да/нет» или порядковой шкалы; свободный текст модель не генерирует. Поддерживается ввод изображений, однако приведённые в карточке результаты относятся к текстовым решениям. Модель рассчитана на сценарии, где нужно ранжировать ограниченный набор вариантов или оценить их вероятности, включая вопросы с большим числом ответов и длинными документами. Контекст при описанной конфигурации обслуживания — до 32 768 токенов. Обучающая смесь включает английский, японский, китайский, испанский, французский, немецкий, португальский, русский и в меньшей доле корейский языки. Контрольные результаты зависят от распределения задач и способа обслуживания; для существенно отличающегося распределения рекомендуется повторно настроить температуры. Вероятности в локальном и серверном режимах могут различаться. Лицензия — Apache-2.0.
StarFusion-alpha2 — объединённая языковая модель, созданная nlpguy с помощью mergekit методом Model Stock на основе openchat/openchat_3.5. В объединение также вошли FuseAI/OpenChat-3.5-7B-Mixtral, FuseAI/OpenChat-3.5-7B-Solar, berkeley-nest/Starling-LM-7B-alpha и rishiraj/smol-7b. Модель предназначена для генерации текста и диалогового общения. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 8192 токенов. Доступна в формате safetensors; лицензия — Apache-2.0. Метаданные базовой модели указывают на диалоговые ответы на английском языке.
Starling_Monarch_Westlake_Garten-7B-v0.1 — объединённая модель генерации текста на архитектуре Mistral, созданная автором giraffe176 методом DARE TIES с помощью mergekit. В слияние вошли Starling-LM-7B-alpha, AlphaMonarch-7B, WestLake-7B-v2-laser и garten2-7b; базой указан Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, в том числе для задач, где полезны рассуждения и эмоционально чуткие ответы. В README автор приводит результаты EQ-Bench v2.1, GSM8K, MT-Bench и других тестов; это результаты, заявленные в карточке модели, и они не гарантируют аналогичного качества на пользовательских задачах. Модель рассчитана на текстовый ввод и текстовый вывод. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Как объединённая экспериментальная версия, модель может отвечать неточно; в README не приведены сведения о поддерживаемых естественных языках.
Stealth-FusionGrit-7b-Slerp-Exp — разговорная языковая модель, созданная powermove72 путём слияния jan-hq/stealth-v1.3 и powermove72/FusionGrit-7B с помощью LazyMergekit. Она предназначена для генерации текста и диалоговых ответов. Модель построена на плотной архитектуре Mistral и содержит 8,9 млрд параметров; заявленный контекст — до 32 768 токенов. Модель распространяется в формате Safetensors. Карточка указывает на слияние слоёв двух исходных моделей и использование float16. Метаданные описывают Stealth v1.3 как англоязычную разговорную модель; данных о языках и возможностях второй модели в предоставленных материалах нет. Лицензия в доступных источниках не указана.
RUC-AIBOX/STILL-2 — дообученная авторами репозитория модель семейства Qwen2.5 для генерации текста и диалогового взаимодействия. Она содержит 32 млрд параметров, построена на плотной архитектуре Qwen2ForCausalLM и рассчитана на контекст до 32 768 токенов. В метаданных также отмечен интерфейс вызова инструментов. Модель подходит для генерации ответов в чате и других текстовых сценариев. Базовая Qwen2.5-32B-Instruct описана как модель для диалога, программирования, математики и структурированных ответов, однако карточка STILL-2 не уточняет, какие из этих возможностей проверялись после дообучения. README автоматически создан и не содержит сведений о разработчике, данных обучения, оценках качества или лицензии.