III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельL3-NA-Aethora-15B — экспериментальная чат-модель автора Steelskull из сообщества The Skullery, созданная на основе семейства Llama 3. Сначала автор сформировал 15-миллиардную модель с помощью модифицированного слияния методом passthrough и настроек DUS, затем дообучил её четыре эпохи на наборе Aether-Lite-V1.2 с использованием RS-LoRA и DoRA. В наборе около 82 тысяч отфильтрованных и дедуплицированных диалоговых примеров; модель использует формат запросов L3. Модель предназначена для генерации ответов в диалоге и творческого письма, а также для задач рассуждения и ролевых сценариев. Это плотная авторегрессионная архитектура LlamaForCausalLM на 14,5 млрд параметров с контекстом 8192 токена; репозиторий содержит веса Safetensors. Карточка называет версию non-abliterated и экспериментальной. Лицензия — Llama 3 Community License (llama3).
LaMini-T5-223M — модель серии LaMini-LM от MBZUAI, созданная дообучением T5-base на наборе LaMini-instruction из 2,58 млн примеров. Это плотная модель архитектуры T5 с примерно 123,8 млн параметров, предназначенная для генерации ответов на инструкции, сформулированные на естественном языке. Её можно использовать для выполнения текстовых запросов и ответов на вопросы в формате «текст на входе — текст на выходе»; заявленный контекст составляет 512 токенов. Модель обучалась с инструкционной настройкой и оценивалась на задачах NLP и пользовательских инструкциях. В метаданных указан английский язык. Репозиторий содержит веса PyTorch и распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не описывает конкретные ограничения качества; как и другие компактные модели, она может ошибаться и хуже справляться со сложными запросами.
Weidows/laya-multilingual-GGUF — это GGUF-конверсия модели convaiinnovations/laya-multilingual, предназначенная для запуска через llama.cpp. Модель представляет собой encoder-only архитектуру на базе mmBERT-base с 22 слоями и размером скрытого представления 768. В карточке указано мультиязычное назначение, а исходная модель поддерживает классификационные сценарии, включая XNLI и классификацию департамента и срочности обращений. Модель предназначена для получения эмбеддингов и последующего применения отдельной decision head для задач text classification. Голова классификации поставляется отдельно в файле laya-multilingual-head.safetensors. Для корректной токенизации требуется использовать поставляемый tokenizer.json с Gemma-style vocabulary: встроенная токенизация llama.cpp для этого словаря ненадёжна. Контекст запуска в примере составляет 2048 токенов. Доступны варианты F16, Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, Q3_K_M и IQ4_XS, включая варианты с imatrix; их размер составляет примерно от 235 до 629 МБ. По приведённой оценке F16 полностью совпал с исходной FP32-моделью на 12 тестовых примерах, а Q8_0 сохранил полное совпадение решений. Более компактные варианты также показали хорошие результаты на этом наборе, однако Q3_K_M заметно уступал на неанглийских примерах, поэтому для важных задач рекомендуется Q8_0. Модель и конверсия распространяются по лицензии Apache-2.0.
LFM2.5-Encoder-350-Prompt-Router — дообученная Liquid AI модель на базе двунаправленного энкодера LFM2.5-Encoder-350M. Она сопоставляет текст запроса с заданными пользователем маршрутами, описанными свободным текстом, и за один проход энкодера выдаёт оценки для каждого маршрута. Модель предназначена для маршрутизации промптов в приложениях с несколькими специализированными обработчиками или агентами. Модель содержит 444,6 млн параметров, принимает текст и рассчитана на контекст до 128 000 токенов. Карточка указывает поддержку английского, немецкого, испанского, французского, итальянского, нидерландского, польского, португальского, арабского, хинди, японского, русского, турецкого, вьетнамского и китайского языков. Для загрузки требуется Transformers и включение пользовательского кода через trust_remote_code=True. Лицензия указана как other; конкретные условия следует сверить с лицензией репозитория.
Light-TLLM-7B — языковая модель для машинного перевода, разработанная 360 AI Research на основе Qwen2.5-7B. Это плотная причинная трансформерная модель с 7,2 млрд параметров по метаданным; README указывает 7,61 млрд. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в QKV-внимании, а контекст составляет до 131 072 токенов. Модель предназначена для многоязычного перевода, в том числе профессиональных документов и диалогов. Обучение включало продолжение предобучения, SFT с учебным планом и обучение с подкреплением MtPO. Расширенный словарь улучшает эффективность токенизации для ряда низкоресурсных письменностей, включая кхмерскую, лаосскую и мьянманскую. В README приведены результаты оценки на 90 направлениях FLORES-Plus и тестах следования ограничениям. Модель доступна в формате safetensors и совместима с библиотекой Transformers. Лицензия — Apache-2.0. Авторы указывают исследовательское и образовательное применение; это предупреждение само по себе не определяет зрелость модели.
Limon-8B — разговорная модель на архитектуре Llama, опубликованная lodrick-the-lafted. Это вариант lodrick-the-lafted/Olethros-8B с абляциями, в которых в качестве безвредного набора данных использовался LimaRP, а вредоносного — tatsu-lab/alpaca. Модель предназначена для генерации текста в диалогах; в метаданных указаны 7,5 млрд параметров и контекст длиной 8192 токена. Модель распространяется в формате safetensors под лицензией Apache-2.0. Карточка не уточняет метод обучения и результаты оценки качества; характер абляций описан кратко, поэтому свойства модели на конкретных сценариях следует проверять отдельно.
Llama-2-7b-chat-hf_fictional_v1 — дообученная на наборе данных generator диалоговая языковая модель на архитектуре Llama с 6,6 млрд параметров. Она предназначена для генерации текста в формате общения с ассистентом; базовая модель рассчитана на ответы и диалог на английском языке. Модель принимает текст и выдаёт текст, а её контекст составляет 4096 токенов. Карточка не описывает особенности обучающих данных, результаты оценки или специфические преимущества версии. Модель распространяется в формате Safetensors. Лицензия в предоставленных данных не указана.
Llama3-13B-ku — объединённая языковая модель на архитектуре Llama, созданная сообществом mergekit с помощью метода passthrough из слоёв трёх моделей: mlabonne/Meta-Llama-3-120B-Instruct, NousResearch/Hermes-2-Pro-Llama-3-8B и shenzhi-wang/Llama3-8B-Chinese-Chat. В репозитории указано 37 млрд параметров; модель доступна в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов. Состав базовых моделей указывает на поддержку китайского и английского языков, а также на возможности инструктивных ответов и чата. Она может применяться для диалоговых помощников, генерации ответов и общения на китайском и английском языках. Карточка не сообщает лицензию и не приводит отдельной оценки качества. Как результат слияния, поведение и совместимость могут отличаться от исходных моделей; перед использованием следует проверить ответы и требования к памяти для модели такого размера.
Llama-3.1-8B-Instruct-cpt-tesi_it — дообученная Pietro Ferrazzi модель на архитектуре Llama для диалогов и генерации текста. Она основана на meta-llama/Llama-3.1-8B-Instruct, содержит 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель распространяется в формате Safetensors и предназначена для использования через библиотеку Transformers. Модель подходит для генерации ответов и ведения диалога в текстовых сценариях. README не раскрывает обучающий набор данных, специальные области применения, результаты оценки или ограничения; поэтому нельзя подтвердить дополнительные возможности, связанные с суффиксом названия. Лицензия — Llama 3.1; использование регулируется её условиями.
Модель paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt — дообученная версия инструкционной Llama 3.1 8B Instruct. Она предназначена для генерации текста и диалогового взаимодействия. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов; в репозитории используются веса Safetensors. В карточке указаны Unsloth и TRL как инструменты обучения. Модель может применяться для ответов на запросы и генерации текста на английском языке. Лицензия — Apache-2.0. README не приводит оценок качества или подробных результатов обучения, поэтому пригодность для конкретных задач следует проверять на собственных данных.
noaebbot/llama3.2-3B-insights — дообученная noaebbot языковая модель семейства Llama 3.2 на базе unsloth/llama-3.2-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL; заявленная длина контекста — 131 072 токена. Модель подходит для генерации ответов в чате и других текстовых сценариев. Метаданные указывают английский язык; отдельные специализированные области применения не заявлены. Репозиторий содержит веса PyTorch в формате Safetensors. Лицензия — Apache-2.0; карточка не приводит результатов оценки качества или подробного описания настроек дообучения.
CarrotAI/Llama-3.2-Rabbit-Ko-3B-Instruct-2412 — диалоговая instruction-tuned языковая модель CarrotAI на архитектуре LlamaForCausalLM. Она дообучена на базе CarrotAI/Llama-3.2-Rabbit-Ko-3B-Instruct с помощью SFT и DPO, чтобы улучшить качество ответов с учётом предпочтений людей. Модель содержит 3,2 млрд параметров, принимает текст и генерирует текст; заявлены корейский и английский языки. Контекст составляет до 131 072 токенов. Модель подходит для диалогов, ответов на вопросы и решения задач на корейском и английском языках. В README приведены результаты оценок на LogicKor, GSM8K, GSM8K-KO и Haerae, но они не гарантируют качество на других задачах. По данным карточки, веса доступны в формате safetensors, а лицензия указана как llama3.2. Разработчик предупреждает об ограничениях на сложных задачах, недостатке глубокой специализации, предвзятости и возможных галлюцинациях.
Youliang/llama3-8b-derta — плотная языковая модель на архитектуре Llama, разработанная на основе Meta-Llama-3-8B и дообученная с помощью DeRTa. Для обучения использовались наборы Evol-Instruct и BeaverTails. Модель предназначена для генерации текста в ответ на инструкции с акцентом на безопасное поведение; в карточке указан формат запроса [INST] Your Instruction [\INST]. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст. Её базовый контекст — 8192 токена. В README заявлена высокая безопасность, однако подробности обучения и оценки не приведены. Лицензия — Apache-2.0.
Карточка модели Ayush-1722/Llama-3-8B-Instruct-v0.1-128K-QLoRA-Merged на Hugging Face совпадает с карточкой Ayush-1722/Llama-3-8B-Instruct-v0.1-32K-QLoRA-Merged, поэтому описание составлено по ней. Модель Ayush-1722/Llama-3-8B-Instruct-v0.1-32K-QLoRA-Merged — дообученная Ayush-1722 версия Llama 3 для генерации текста. Она рассчитана на текстовые запросы и ответы; карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель содержит 7,5 млрд параметров, имеет контекст до 32 768 токенов и распространяется под лицензией Apache-2.0. Модель подходит для генерации ответов и продолжения текста на английском языке. Карточка не описывает конкретные целевые сценарии, оценки качества или специальные ограничения; результаты следует проверять для выбранного применения.
Модель Ayush-1722/Llama-3-8B-Instruct-v0.1-32K-QLoRA-Merged — дообученная Ayush-1722 версия Llama 3 для генерации текста. Она рассчитана на текстовые запросы и ответы; карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель содержит 7,5 млрд параметров, имеет контекст до 32 768 токенов и распространяется под лицензией Apache-2.0. Модель подходит для генерации ответов и продолжения текста на английском языке. Карточка не описывает конкретные целевые сценарии, оценки качества или специальные ограничения; результаты следует проверять для выбранного применения.
dfurman/Llama-3-8B-Orpo-v0.1 — англоязычная диалоговая модель генерации текста, созданная дообучением Meta Llama 3 8B методом ORPO. По карточке, обучение проведено на 4 тысячах примеров из набора mlabonne/orpo-dpo-mix-40k; модель использует шаблон диалога ChatML и поддерживает контекст до 8192 токенов. Модель предназначена для ответов на запросы и свободной генерации текста в формате чат-ассистента. В приведённых результатах она показывает неодинаковые результаты на тестах: например, выше базовых моделей в HellaSwag и Winogrande, но ниже в GSM8K; эти оценки не гарантируют качества на конкретных пользовательских задачах. Доступны веса в формате safetensors для Transformers. Лицензия — llama3.
grimjim/llama-3-merge-avalon-8B — слитая с помощью mergekit методом SLERP языковая модель на архитектуре Llama 3. В неё объединены grimjim/llama-3-merge-virt-req-8B и nbeerbower/llama-3-slerp-kraut-dragon-8B; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов по инструкциям на английском языке. Автор сообщает о лёгком тестировании с температурой 1,0, minP 0,02 и предварительными промптами Llama 3 Instruct. Доступна в формате safetensors для Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
Gunulhona/Llama-Ko-Merge — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES. В качестве базовой использована Saxo/Linkbricks-Horizon-AI-Korean-llama-3.1-sft-dpo-8B; в объединение также вошли корейские модели семейства Llama и Hermes-3-Llama-3.1-8B. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста. Заявленная длина контекста — 131072 токена. Модель предназначена для диалоговой генерации и выполнения инструкций, в первую очередь на корейском языке; метаданные также указывают возможности чата и интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.
LMCocktail 10.7B v1 — разговорная языковая модель, созданная Yhyu13 путём слияния в равных долях SOLAR и meow. Модель построена на архитектуре Llama с плотной авторегрессионной языковой моделью и содержит около 10,6 млрд параметров; для запуска доступны веса в формате safetensors. Она предназначена для генерации текста в диалогах и ответов на вопросы. В README автор сообщает о высоком результате в локальном запуске AlpacaEval, но это заявление не сопровождается подробностями оценки, поэтому его нельзя считать независимым подтверждением качества. Модель поддерживает чат и принимает текст, выдавая текст. Контекст составляет 4096 токенов. В карточке указана лицензия Llama 2; отдельные условия лицензии исходных моделей могут влиять на использование результата слияния.
Карточка модели NiuTrans/LMT-60-1.7B на Hugging Face совпадает с карточкой NiuTrans/LMT-60-0.6B, поэтому описание составлено по ней. LMT-60-0.6B — модель машинного перевода от команды NiuTrans, дообученная на базе NiuTrans/LMT-60-0.6B-Base. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и принимает контекст до 32 768 токенов. Модель входит в семейство LMT-60, обученное на 90 млрд токенов; семейство рассчитано на перевод между 60 языками в 234 направлениях с особым вниманием к китайскому и английскому языкам. Модель предназначена для многоязычного перевода текстов, включая языки с высоким, средним и низким объёмом ресурсов. Её можно использовать для перевода документов, сообщений и пользовательского контента между поддерживаемыми языками. Карточка заявляет конкурентное качество среди моделей с сопоставимым языковым охватом, но не приводит здесь конкретных метрик для этого чекпойнта. Выпущена под лицензией Apache-2.0.
Карточка модели qwerfcds/LMT-60-1.7B на Hugging Face совпадает с карточкой NiuTrans/LMT-60-0.6B, поэтому описание составлено по ней. LMT-60-0.6B — модель машинного перевода от команды NiuTrans, дообученная на базе NiuTrans/LMT-60-0.6B-Base. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и принимает контекст до 32 768 токенов. Модель входит в семейство LMT-60, обученное на 90 млрд токенов; семейство рассчитано на перевод между 60 языками в 234 направлениях с особым вниманием к китайскому и английскому языкам. Модель предназначена для многоязычного перевода текстов, включая языки с высоким, средним и низким объёмом ресурсов. Её можно использовать для перевода документов, сообщений и пользовательского контента между поддерживаемыми языками. Карточка заявляет конкурентное качество среди моделей с сопоставимым языковым охватом, но не приводит здесь конкретных метрик для этого чекпойнта. Выпущена под лицензией Apache-2.0.
Карточка модели NiuTrans/LMT-60-1.7B-Base на Hugging Face совпадает с карточкой NiuTrans/LMT-60-0.6B, поэтому описание составлено по ней. LMT-60-0.6B — модель машинного перевода от команды NiuTrans, дообученная на базе NiuTrans/LMT-60-0.6B-Base. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и принимает контекст до 32 768 токенов. Модель входит в семейство LMT-60, обученное на 90 млрд токенов; семейство рассчитано на перевод между 60 языками в 234 направлениях с особым вниманием к китайскому и английскому языкам. Модель предназначена для многоязычного перевода текстов, включая языки с высоким, средним и низким объёмом ресурсов. Её можно использовать для перевода документов, сообщений и пользовательского контента между поддерживаемыми языками. Карточка заявляет конкурентное качество среди моделей с сопоставимым языковым охватом, но не приводит здесь конкретных метрик для этого чекпойнта. Выпущена под лицензией Apache-2.0.
Карточка модели NiuTrans/LMT-60-4B на Hugging Face совпадает с карточкой NiuTrans/LMT-60-0.6B, поэтому описание составлено по ней. LMT-60-0.6B — модель машинного перевода от команды NiuTrans, дообученная на базе NiuTrans/LMT-60-0.6B-Base. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и принимает контекст до 32 768 токенов. Модель входит в семейство LMT-60, обученное на 90 млрд токенов; семейство рассчитано на перевод между 60 языками в 234 направлениях с особым вниманием к китайскому и английскому языкам. Модель предназначена для многоязычного перевода текстов, включая языки с высоким, средним и низким объёмом ресурсов. Её можно использовать для перевода документов, сообщений и пользовательского контента между поддерживаемыми языками. Карточка заявляет конкурентное качество среди моделей с сопоставимым языковым охватом, но не приводит здесь конкретных метрик для этого чекпойнта. Выпущена под лицензией Apache-2.0.
Lumina-5-Instruct — разговорная языковая модель на архитектуре Mixture of Experts (MoE), созданная Ppoyaa с помощью LazyMergekit. Она предназначена для генерации текста в формате диалога и поддерживает контекст до 32 768 токенов. В метаданных указано 7,1 млрд параметров, формат весов Safetensors и лицензия Apache 2.0. Модель можно применять для диалоговых интерфейсов, генерации и продолжения текста с учётом длинного контекста. README не приводит результатов оценки качества; характеристики языковой поддержки и специализированных областей не заявлены.
Sakalti/Lunar-4B — разговорная языковая модель, созданная слиянием моделей с помощью mergekit. В основе слияния лежит microsoft/phi-3.5-mini-instruct; также включена AXCXEPT/Borea-Phi-3.5-mini-Instruct-Common, дообученная Axcxept на базе Phi-3.5-mini-Instruct. Использован метод TIES, итоговые веса сохранены в формате float16. Модель предназначена для генерации текста в диалогах и других сценариях, где нужен ответ на текстовый запрос. Архитектура — плотная Phi-3, около 3,7 млрд параметров; поддерживается контекст длиной до 4096 токенов. В карточке указаны английский и японский языки. Модель распространяется по лицензии MIT.
Luth-LFM2-700M — франкоязычная дообученная версия LFM2-700M, созданная kurakurai в сотрудничестве с Liquid AI. Модель обучена полным дообучением на наборе Luth-SFT с помощью Axolotl, после чего веса объединены обратно с LFM2-700M. Это плотная авторегрессионная модель семейства LFM2 с 956,3 млн параметров, доступная в формате Safetensors; метаданные указывают контекст до 128 000 токенов и возможность диалогового использования. Модель предназначена для генерации текста и диалогов, особенно для следования инструкциям, решения математических задач и ответов на вопросы на французском языке. Английские возможности, согласно карточке, сохранились; приведённые в README оценки показывают улучшения на ряде французских тестов относительно исходной LFM2-700M при в целом близких результатах на английских тестах. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
M7Yamshadowexperiment28_Experiment28M7 — языковая модель, созданная слиянием моделей automerger/M7Yamshadowexperiment28-7B и automerger/Experiment28M7-7B. Она предназначена для генерации текста. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и имеет контекстное окно до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Данных о специализации на конкретных языках или областях применения в карточке нет.
Magnum v3 27B KTO — диалоговая языковая модель Anthracite, двенадцатая в серии, нацеленной на воспроизведение качества прозы Claude 3 Sonnet и Opus. Это плотная авторегрессионная модель Gemma 2 с 27,6 млрд параметров и контекстом 8192 токена; она принимает текст и генерирует текст, используя формат инструкций ChatML. Модель создана на основе IntervitensInc/gemma-2-27b-chatml: после SFT-прохода Anthracite провела несколько запусков KTO и объединила варианты обучения, выбрав итоговую смесь. Она предназначена для диалогов, следования инструкциям и генерации связной прозы. В README приведены результаты отдельных оценок, включая 56,75 на IFEval и 41,16 на BBH; эти значения не гарантируют качество в конкретных задачах. Модель выпущена под лицензией Gemma.
MagpieLM-4B-Chat-v0.1 — диалоговая языковая модель, созданная Magpie-Align на основе Llama-3.1-Minitron-4B-Width. Модель прошла supervised fine-tuning на MagpieLM-SFT-Data-v0.1, затем DPO на MagpieLM-DPO-Data-v0.1; она предназначена для общения и выполнения текстовых инструкций. Архитектура — плотная LlamaForCausalLM, размер — 3,9 млрд параметров, формат весов — safetensors, заявленная длина контекста — 131 072 токена. Для диалога рекомендуется шаблон Llama 3; основной язык модели — английский. В карточке приведены результаты Alpaca Eval 2, Arena Hard и WildBench, а также заявлено сравнение с более крупными открытыми моделями. Модель может подходить для создания чат-ботов и ответов на инструкции, однако её результаты не гарантируют качества в конкретном приложении. Лицензия — NVIDIA Open Model License Agreement. Разработчики предупреждают о возможных фактических ошибках, логических несогласованностях, смещениях и небезопасных или неподходящих ответах; модель не оптимизирована для сложных рассуждений.
Malachite-7b-v0 — объединённая языковая модель, опубликованная пользователем r2rss. Она создана методом slerp с помощью mergekit из zyh3826/GML-Mistral-merged-v1 и cookinai/CatMacaroni-Slerp. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста — 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не описывает отдельную специализацию, языковое покрытие или результаты оценки качества, поэтому её можно характеризовать только как модель общего назначения для генерации текста.