III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельHy-MT1.5-1.8B-2bit — компактная модель машинного перевода на 1,8 млрд параметров, представленная в README проекта AngelSlim; базовая модель разработана командой Tencent Hunyuan. Это 2-битная версия HY-MT1.5-1.8B: веса сжаты методом Stretched Elastic Quantization с квантованием, учитывающим дистилляцию. Модель предназначена для взаимного перевода между 33 языками, включая сценарии офлайн-перевода на мобильных устройствах. Базовая модель поддерживает 1 056 направлений перевода и 5 диалектов или языков меньшинств. Размер 2-битных весов составляет около 574 МБ; заявлена оптимизация для устройств с Arm SME2. В метаданных указан контекст до 262 144 токенов. README сообщает о почти неизменном качестве перевода после сжатия и демонстрации работы на мобильных устройствах, но подробные измерения приведены в технических отчётах. Модель принимает текст и выдаёт перевод в виде текста. В метаданных указана лицензия? Нет данных о лицензии в предоставленных источниках.
IceTea21EnergyDrinkRPV13-dpo240 — разговорная языковая модель на архитектуре Mistral, созданная методом слияния SLERP с помощью mergekit. Модель рассчитана на генерацию текста в диалоговом формате и имеет 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. В README указан один исходный репозиторий с локальным Windows-путём, поэтому определить его идентификатор на Hugging Face и подтвердить состав слияния по доступным данным нельзя. Модель распространяется в формате safetensors; лицензия и перечень поддерживаемых естественных языков в предоставленных данных не указаны.
Модель fpadovani/jpn-100mb-after-wc-uniform-oldlex-eng-ckpt500_seed10_seed10 — дообученная на TRL языковая модель семейства GPT-2, созданная на основе fpadovani/ppt-wc-uniform-oldlex-eng-100mb_seed10. Она предназначена для генерации английского текста и ответов на текстовые запросы; карточка показывает пример диалогового запроса и генерации продолжения. Модель работает с текстом и имеет контекст до 512 токенов. В репозитории веса сохранены в формате safetensors и используются через Transformers.
Это дообученная на базе goldfish-models/jpn_jpan_100mb модель генерации текста семейства GPT-2, созданная с использованием TRL. Она предназначена для генерации продолжений и ответов на текстовые запросы; в карточке приведён пример диалогового запроса и генерации ответа. Модель работает с текстом, использует архитектуру GPT2LMHeadModel и имеет контекст длиной 512 токенов. Весы доступны в формате safetensors. Условия лицензии в предоставленных данных не описаны.
karasu-7B-chat-plus-unleashed — разговорная языковая модель, разработанная Lightblue и дообученная на базе lightblue/karasu-7B. Она предназначена для генерации ответов в диалоге и других сценариев текстового общения. В обучении использовались японские чаты OASST и ShareGPT, набор augmxnt/ultra-orca-boros-en-ja-v1, а также собственные датасеты Lightblue; из категории отказов было удалено около 6 тысяч примеров. Модель построена на плотной архитектуре Mistral и содержит 7,5 млрд параметров. Поддерживает контекст до 32 768 токенов, работает с текстом и рассчитана прежде всего на японский и английский языки. Опубликована в формате safetensors под лицензией Apache-2.0. Название «unleashed» и удаление примеров отказов могут означать менее частые отказы в ответах, однако README не уточняет поведение модели или связанные с этим ограничения.
trinhkhng/karcher_Merged_gpt2-large_0.4 — языковая модель для генерации текста, созданная слиянием предобученных моделей GPT-2 Large с помощью метода Karcher Mean в mergekit. В состав слияния вошли GPT-2 Large и модель debias_gpt2-large; токенизатор взят из GPT-2 Large. Модель использует архитектуру GPT2LMHeadModel и формат safetensors, работает через Transformers и имеет контекстное окно 1024 токена. Модель предназначена для продолжения текста и генерации ответов по текстовой подсказке. Слияние с debias_gpt2-large указывает на попытку совместить возможности GPT-2 Large с настройкой на снижение предвзятости, однако README не приводит измерений качества или результатов оценки этого эффекта. Условия лицензии в предоставленных данных не указаны.
Keiana-L3-Test6-8B-16 — разговорная языковая модель, созданная Kaoeiri слиянием моделей через LazyMergekit. В репозитории указаны Sao10K/L3-Solana-8B-v1 и Kaoeiri/Keiana-L3-Test4.7-8B-3; конфигурация также называет Kaoeiri/Keiana-L3-Test5.75-8B-13.5 базовой моделью. Архитектура — плотная LlamaForCausalLM с 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Модель предназначена для диалоговой генерации текста. README предупреждает, что слияние обычно не тестировалось и может приводить к ошибкам словаря, поэтому качество ответов следует проверять. Лицензия CC BY-NC-ND 4.0 запрещает коммерческое использование и распространение производных версий.
KULLM3 — диалоговая языковая модель, разработанная NLP&AI Lab и дообученная на базе upstage/SOLAR-10.7B-v1.0. Она предназначена для выполнения инструкций и ведения связного чата, прежде всего на корейском языке; также поддерживает английский. Архитектура — плотная LlamaForCausalLM с 10,6 млрд параметров, модель работает через Transformers и принимает текст, выдавая текст. Контекст составляет 4096 токенов. Для дообучения использовали набор vicgalle/alpaca-gpt4 и смешанные корейские инструкции, всего более 66 тысяч примеров. Разработчики отмечают необходимость системного промпта, использовавшегося при обучении: без него качество может быть ниже ожидаемого. Модель распространяется по лицензии Apache 2.0.
Sao10K/L3.1-70B-Euryale-v2.2 — чат-модель на архитектуре Llama 3.1, разработанная Sao10K и дообученная в один этап в течение двух эпох. Обучение проходило на 8 ускорителях A100 около четырёх дней; использовались наборы данных для многоходового диалогового инструктажа, творческого письма и ролевых сценариев, в том числе данные людей и Claude. Модель предназначена для диалогов, следования инструкциям и генерации творческого текста, включая ролевые взаимодействия. Это плотная модель с 69,5 млрд параметров и контекстом до 131 072 токенов; метаданные указывают английский язык и поддержку генерации текста. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не приводит количественных оценок качества и подробно не описывает ограничения модели.
LaMini-Cerebras-256M — языковая модель серии LaMini-LM, разработанной MBZUAI. Это декодерная GPT-2-подобная модель на 256 млн параметров, дообученная на Cerebras-GPT-256M с помощью набора LaMini-instruction, содержащего 2,58 млн примеров инструкций. Модель предназначена для генерации текста в ответ на инструкции на естественном языке. Для лучшего результата рекомендуется передавать запросы в том же текстовом формате-обёртке, который использовался при дообучении. Модель принимает текст и генерирует текст; её контекст ограничен 2048 токенами. В карточке описаны автоматическая оценка на задачах NLP и человеческая оценка ответов на инструкции, но подробные результаты здесь не приведены. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.
LexGPT-V2 — экспериментальная разговорная языковая модель от lex-hue, построенная на плотной архитектуре MistralForCausalLM и содержащая 7,1 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев. По карточке автор описывает её как тестовое обучение и отмечает, что полное обучение ещё впереди; приведены сравнительные оценки нескольких моделей, но методика и результаты LexGPT-V2 в доступном тексте не раскрыты. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
LFM2-2.6B-Transcript-GGUF — языковая модель компании Liquid AI, созданная на основе LFM2-2.6B при партнёрстве с AMD. Она предназначена для приватного локального суммирования записей встреч и ориентирована на работу непосредственно на устройстве, чтобы данные совещаний не покидали его. Модель имеет размер 2,6 млрд параметров и распространяется в формате GGUF для запуска, в частности, через llama.cpp. Заявлена поддержка работы на CPU, GPU и NPU, потребление менее 3 ГБ оперативной памяти при обработке длинных встреч и получение сводок за секунды. В метаданных указаны английский язык и задача генерации текста; сведения о размере контекста, точной архитектуре, поддерживаемых форматах входных данных и мультимодальности не приведены. К сильным сторонам относятся локальное выполнение, повышенная конфиденциальность, низкие требования к памяти и высокая скорость суммирования; разработчик заявляет качество, сопоставимое с облачными решениями и приближающееся к качеству значительно более крупных моделей. Ограничения включают отсутствие подробных данных о контекстном окне, языковой поддержке за пределами английского и характеристиках качества на конкретных наборах данных. Лицензия указана как lfm1.0; тип лицензии обозначен как other.
LFM2-350M-ENJP-MT — языковая модель Liquid AI, дообученная на базе LiquidAI/LFM2-350M для двустороннего перевода между английским и японским. Она предназначена для коротких и средних текстов и ориентирована на перевод с малой задержкой, в том числе при локальном запуске на периферийных устройствах. Модель имеет плотную авторегрессионную архитектуру LFM2 и содержит 444,6 млн параметров; заявленная длина контекста — 128 000 токенов. Для выбора направления перевода требуется системный запрос «Translate to Japanese.» или «Translate to English.», а модель рассчитана на одноходовой диалог. Разработчик приводит примеры перевода бытовых, технических, деловых и новостных текстов. Модель может быть основой для специализированных переводческих систем, однако разработчик отмечает ограничения при очень длинном контексте, переводе специализированной терминологии, новых имен собственных и отраслевых нюансов. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.
Lince-Mistral-7B-IT-ES — языковая модель Clibrain для генерации текста и выполнения инструкций на испанском языке. Это причинная декодерная модель семейства Mistral с плотной архитектурой, содержащая 7,1 млрд параметров и поддерживающая контекст до 32 768 токенов. Модель создана путём адаптации Mistral 7B к следованию инструкциям на испанском языке. Её можно применять для диалоговых сценариев, ответов на запросы и генерации испаноязычного текста. В карточке упомянута оценка по адаптации MTBench для испанского языка. Модель распространяется под лицензией Apache-2.0. Оценка и описание ориентированы на испанский язык; сведений о качестве для других языков и более подробных результатах тестирования нет.
MergedQwen2-0.5B0.0 — языковая модель, созданная с помощью mergekit методом линейного слияния весов. В состав слияния вошли Qwen2-0.5B и debias_Qwen2-0.5B; согласно конфигурации, вес первой модели равен 1, а второй — 0, поэтому результат опирается на Qwen2-0.5B и не получает вклада весов debias-модели. Архитектура — плотная Qwen2ForCausalLM, размер — около 493,7 млн параметров; репозиторий содержит веса safetensors, модель использует Transformers и имеет контекст длиной до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные не подтверждают отдельного эффекта дебайасинга. Лицензия в предоставленных данных не указана.
Диалоговая языковая модель BlackJagger, дообученная на базе BlackJagger/Llama-3-8b-Indo-Dicoding-Eksperimen-1. Она построена на плотной архитектуре Llama и содержит 7,5 млрд параметров; модель предназначена для генерации текста и общения в чат-сценариях. Модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Метаданные указывают английский язык и контекст длиной до 8192 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты оценки качества или подробные сведения о специализации дообучения, поэтому пригодность для конкретных предметных областей не подтверждена.
Модель umarigan/LLama-3-8B-Instruction-tr — дообученная umarigan версия Llama 3 с 7,5 млрд параметров, созданная на базе unsloth/llama-3-8b-bnb-4bit. Для обучения использовались Unsloth и библиотека Hugging Face TRL, а в качестве набора данных указан GPTeacher-General-Instruct-tr. Модель предназначена для генерации текста по инструкциям на турецком и английском языках, например для ответов на вопросы и выполнения общих текстовых запросов. Работает с текстом, имеет контекст до 8192 токенов и распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.
chrisrutherford/Llama-3-8B-SingleShotCotV1 — разговорная языковая модель семейства Llama 3, предназначенная для генерации текста. В карточке приведён пример ответа на бытовой вопрос: модель разбирает задачу по шагам и формирует связную рекомендацию. По метаданным модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; опубликована в формате safetensors и поддерживает чатовый сценарий. Модель подходит для ответов на вопросы и объяснений с явной пошаговой структурой рассуждения. Карточка не подтверждает отдельное дообучение или заявленные гарантии точности; пример показывает многословные ответы, которые могут содержать неподтверждённые обобщения. Лицензия указана как llama3; условия использования следует сверять с лицензией Llama 3.
Модель leekh7624/Llama-3-Open-Ko-8B-Instruct-sample — чат-модель на архитектуре Llama с плотной сетью и примерно 7,5 млрд параметров. Разработчик leekh7624 дообучил её на основе beomi/Llama-3-Open-Ko-8B-Instruct-preview; при обучении использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции. Контекст — до 8192 токенов. В метаданных указан английский язык, а базовая модель ориентирована на корейский и английский. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
FoxEngineAi/Mega-Destroyer-8x7B — языковая модель, созданная Dampf совместно с FoxEngineAi с помощью mergekit. Это слияние нескольких моделей Mixtral 8x7B методом DARE TIES на базе mistralai/Mixtral-8x7B-v0.1; среди компонентов — Mixtral Instruct, Open_Gpt4, Air-Striker, LimaRP и Typhon. Архитектура Mixtral — Mixture of Experts, число параметров по метаданным — 7,1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста по инструкциям, диалогов, творческого письма и ролевых сценариев. README заявляет, что модель рассчитана на широкий круг задач и поддерживает разные шаблоны запросов, включая Alpaca, Vicuna, ChatML и Llama 2 Chat. Лицензия — CC BY 4.0. Качество и поведение могут меняться в зависимости от шаблона запроса; README не приводит количественных результатов оценки. Несмотря на заявленную пригодность для широкого круга задач, специализация компонентов на ролевых сценариях и творческом письме может влиять на ответы в других сценариях.
MFANN3b-SFT — слитая языковая модель семейства Phi, опубликованная netcat420. Она объединяет liminerity/Phigments12, netcat420/MFANN-liminerity-slerp-4a и netcat420/MFANN3b-Rebase методом TIES с помощью mergekit; базовой моделью при слиянии служила liminerity/Phigments12. Модель содержит 3,5 млрд параметров, использует плотную архитектуру PhiForCausalLM и формат safetensors с точностью float16. Модель предназначена для генерации текста. Метаданные указывают контекстное окно до 131 072 токенов; карточка не описывает конкретные сценарии применения или поддерживаемые языки. Указана библиотека Transformers. В карточке нет сведений о результатах оценки качества или известных ограничениях, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия в предоставленных данных не указана.
mhm-7b-v1.3-DPO-1 — экспериментальная диалоговая языковая модель на архитектуре Mistral, опубликованная пользователем h2m. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на контекст до 32 768 токенов. Модель дообучена методом DPO на наборе Intel/orca_dpo_pairs. В её основе mhm-7b-v1.3; автор также сообщает о создании результата с помощью dare_ties и слиянии нескольких моделей. Она предназначена для генерации текста в диалоговом формате. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0. Автор обозначает модель как эксперимент; сведений о конкретных языковых ограничениях или оценке качества в карточке нет.
MiniJEV General — небольшая модель принятия решений, созданная разработчиком markuz89 для классификации по заданному списку вариантов на английском и итальянском языках. Она получает необязательное описание состояния, вопрос и варианты ответа, затем выбирает один из вариантов и возвращает калиброванные оценки вероятности. Модель не ведёт диалог и не генерирует текст вне предложенного списка. В основе лежит дообученный текстовый энкодер paraphrase-multilingual-MiniLM-L12-v2 с 117,7 млн параметров и отдельное ядро MiniJEV на 0,83 млн параметров. Биэнкодер сравнивает смысл каждого варианта с состоянием и вопросом; порядок вариантов не влияет на оценку, а их количество может меняться. Модель рассчитана на локальную и быструю классификацию: автор приводит задержку 31 мс на решение на одном потоке ноутбучного CPU. Подходит для первичной классификации и вопросов с выбором из вариантов, однако знания модели поверхностны: она может путать близкие категории и менее распространённые технические понятия. Итальянский работает слабее английского, а синтетические шаблонные данные ухудшают результаты на необычных формулировках. Низкую уверенность следует направлять на проверку человеком или более крупной моделью. Лицензия — Apache-2.0.
KakaoL0L/Mistral7B_MatheoAI6_lora — чат-модель на базе Mistral 7B Instruct v0.3, дообученная KakaoL0L. Модель предназначена для генерации текста в диалоговом формате; карточка сообщает, что при обучении использовались Unsloth и библиотека TRL. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Заявленная длина контекста — 32 768 токенов; в метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, качество ответов или результаты оценивания, поэтому пригодность для конкретных предметных задач следует проверять отдельно.
mistral-nemo-gutenberg-12B-v3 — диалоговая языковая модель, опубликованная nbeerbower. Она дообучена на базе intervitens/mini-magnum-12b-v1.1 на датасете jondurbin/gutenberg-dpo-v0.1 в течение трёх эпох с использованием A100 в Google Colab. В README также упоминается ORPO, однако описание метода содержит противоречие: в нём сказано «Fine-tune Llama 3», тогда как метаданные и указанная базовая модель связывают чекпойнт с Mistral. Модель предназначена для генерации текста и диалоговых ответов. Это плотная архитектура MistralForCausalLM с 12,1 млрд параметров; заявленная длина контекста — 1 024 000 токенов. Репозиторий содержит веса в формате safetensors. Метаданные указывают лицензию Apache-2.0. В README приведены результаты Open LLM Leaderboard: среднее значение 19,06, IFEval — 21,83 и BBH — 34,96; условий оценки и дополнительных подробностей карточка не сообщает.
s3nh/Mistral_Sonyichi-7B-slerp — объединённая автором репозитория языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit. В объединение вошли SanjiWatsuki/Sonya-7B, EmbeddedLLM/Mistral-7B-Merge-14-v0.1 и SanjiWatsuki/Kunoichi-7B. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения на английском языке, включая ролевые диалоги. В README приведены результаты Open LLM Leaderboard, в том числе средний балл 70,52, однако подробности остальных метрик не представлены. Лицензия — OpenRAIL.
MixtralOrochi8x7B-Alt — языковая модель на архитектуре Mixtral, созданная автором smelborp путём объединения нескольких моделей, включая Mixtral Instruct, Noromaid и OpenBuddy, с помощью mergekit и метода DARE. Модель предназначена для генерации текста и диалогов с широким охватом тем; в карточке заявлен акцент на развёрнутые ответы без встроенных ограничений по содержанию. Модель использует архитектуру Mixture of Experts, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не для коммерческих целей. Из-за заявленного отсутствия ограничений модель может генерировать неподходящий или вредоносный контент; для пользовательских сценариев следует предусмотреть собственную модерацию. Авторские заявления о высокой интеллектуальности не сопровождаются в карточке результатами оценки качества.
MoulSot v0.3 — модель автоматического распознавания речи, разработанная Atlasia для транскрибации марокканского дариджа. Это дообученная версия Qwen/Qwen3-ASR-1.7B; модель принимает аудио и выдаёт текст. В README заявлена тренировка на наборе MoulSot-Full: около 1 500 часов аудио и 80 часов эталонных транскрипций. Модель рассчитана на разговорную речь, аудио из медиа и пользовательский контент. Её отличительная особенность — распознавание смешанной речи с переключением между дариджа, арабским, французским и английским; разработчик также заявляет устойчивость к неформальной речи и шуму. Для v0.3 приведены WER 38,99 и CER 12,58, однако подробности протокола оценки и бенчмарков ограничены. Качество может снижаться на очень шумных записях, редких диалектных вариантах и специализированной лексике; распознавание переключения языков не безошибочно. Для критически важных решений требуется проверка транскрипции человеком. Лицензия — Apache-2.0.
MrMaie-V4.1-TEST — дообученная разговорная языковая модель, опубликованная taiger7196. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit и обучена с использованием Unsloth и библиотеки TRL от Hugging Face. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для генерации текста и диалогового взаимодействия; в карточке также заявлен интерфейс вызова инструментов. Метаданные указывают английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализацию дообучения или оценку качества, поэтому пригодность для конкретных предметных задач не подтверждена.
Kaoeiri/MS-MagpantheonselRP-22B-12-Balanced — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES на основе unsloth/Mistral-Small-Instruct-2409. В объединение вошли 18 моделей семейства Mistral Small 22B, включая чекпойнты для ролевых диалогов, творческого письма и японского языка. Модель имеет плотную архитектуру MistralForCausalLM, содержит 22 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста, чата и ролевых диалогов, а также для творческого письма. В метаданных отмечен интерфейс вызова инструментов; заявлены также японские языковые данные среди компонентов объединения. Доступна в формате safetensors через Transformers. Лицензия в предоставленных данных не указана.