III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельGuanaco — многоязычная инструкционная языковая модель, разработанная Josephus Cheung при участии KBlueLeaf и построенная на Meta LLaMA 7B. Это плотная авторегрессионная модель семейства LLaMA с 6,6 млрд параметров и контекстом до 2048 токенов; веса представлены в формате PyTorch, лицензия — GPL-3.0. Модель предназначена для генерации ответов по инструкциям и многоходового диалога, включая ролевые беседы. В обучающий набор вошли данные Alpaca и более 534 тысяч дополнительных примеров на английском, упрощённом и традиционном китайском, японском и немецком языках, а также задания по грамматике и языку. Разработчики отмечают, что ответы на фактические вопросы могут быть неточными, и рекомендуют опираться на проверяемые источники. Модель не фильтровалась от вредного, предвзятого или откровенного контента. Для вывода рекомендуется fp16; 8-битная точность может ухудшить качество.
Guardian-Samantha-7b-slerp — языковая модель для генерации текста и диалогов, созданная слиянием моделей llamas-community/LlamaGuard-7b и ParthasarathyShanmugam/llama-2-7b-samantha с помощью mergekit и метода slerp. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 2048 токенов. Модель предназначена для генерации ответов в чате; слияние объединяет LlamaGuard-7b и Samantha, однако README не описывает конкретные гарантии качества или поведения итоговой модели. Репозиторий содержит веса в формате safetensors. В метаданных указан английский язык и лицензия Apache-2.0.
inflatebot/helide-beta-r4 — объединённая языковая модель, созданная с помощью mergekit методом SLERP из Fizzarolli/L3-8b-Rosier-v1 и Sao10K/L3-8B-Stheno-v3.2. Это плотная архитектура LlamaForCausalLM примерно на 7,5 млрд параметров, предназначенная для генерации текста и чат-диалогов; длина контекста составляет 8192 токена. Карточка описывает конфигурацию с весами bfloat16. Модель подходит для диалогового взаимодействия, выполнения текстовых инструкций и генерации историй. Базовые модели ориентированы на английский язык, ролевые диалоги и написание историй. В репозитории указана лицензия, но доступные сведения не позволяют определить её условия.
mdhugol/indonesia-bert-sentiment-classification — модель классификации тональности индонезийского текста, созданная на основе предобученной IndoBERT Base Model (phase1, uncased) и дообученная на наборе данных Prosa sentiment. Она предназначена для определения тональности текста; архитектура — BERT для классификации последовательностей, число параметров — 151,6 млн, максимальная длина контекста — 512 токенов. Модель опубликована в формате PyTorch и рассчитана на индонезийский язык. Лицензия в предоставленных данных не указана.
ING_Triomphant_M1_SLERP — объединённая модель для генерации текста и диалогов, созданная MatthieuJ методом SLERP с помощью mergekit на основе AurelPx/Percival_01-7b-slerp и MTSAIR/multi_verse_model. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель подходит для чат-ответов и продолжения текста на английском языке. В конфигурации слияния заданы разные веса для слоёв self-attention и MLP. Лицензия — Apache-2.0. Подробные результаты оценки качества и дополнительные языки в карточке не описаны.
Это дообученная модель генерации текста на архитектуре GPT-2, созданная на основе fpadovani/ppt-wc-zipf-newlex-eng-100mb_seed3407. Согласно карточке, модель обучалась с помощью TRL и предназначена для генерации ответов на пользовательские запросы на английском языке. Её можно использовать для продолжения диалога и получения текстового ответа на вопрос; длина контекста составляет 512 токенов. В репозитории указаны веса в формате safetensors. Условия лицензии в предоставленных данных не описаны.
karakuri-lm-32b-thinking-2501-exp — причинная языковая модель KARAKURI Inc., дообученная на Qwen/QwQ-32B-Preview. Это плотная модель семейства Qwen2 с 32 млрд параметров для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает японский и английский языки. Длина контекста — 32 768 токенов. Модель можно применять для диалоговых ответов на японском и английском, задач генерации текста и сценариев с вызовом инструментов. Название указывает на экспериментальную версию; качество и область применимости могут зависеть от конкретного сценария. Модель распространяется по лицензии Apache 2.0.
GAI-LLM/ko-en-llama2-13b-mixed-v3 — авторегрессионная языковая модель на архитектуре трансформера LLaMA 2, разработанная Donghoon Oh, Hanmin Myung и Eunyoung Kim из SK C&C G.AI Eng. Модель содержит 12,9 млрд параметров, принимает текст и генерирует текст; базовая модель — hyunseoki/ko-en-llama2-13b. Модель дообучена на смешанном наборе корейских данных, включающем Kopen-platypus и kaist_cot_deepL. Она предназначена для генерации текста на корейском и англо-корейских сценариев, в том числе для ответов и рассуждений на основе текстового запроса. Максимальный контекст — 2048 токенов. Для использования указана лицензия CC BY-NC 2.0, которая ограничивает коммерческое применение.
Ko-Llama-3-8B-Instruct — разговорная языковая модель, разработанная davidkim (Changyeon Kim) для экспериментов по повышению качества моделей корейского языка. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживая контекст до 8192 токенов. Модель основана на meta-llama/Meta-Llama-3-8B-Instruct и дообучена методом supervised fine-tuning на наборе данных, подготовленном с помощью rejection sampling; в карточке указан датасет sft_rs_140k. Модель предназначена для диалогов и генерации текста преимущественно на корейском, а также поддерживает английский. В README приведены результаты оценок на корейских языковых бенчмарках; они ниже результатов GPT-4 и GPT-3.5 в приведённых сравнениях. Файлы опубликованы в формате Safetensors, библиотека для работы — Transformers. Лицензия — Llama 3 Community License (llama3).
Leejy0-0/ko-Meta-Llama-3.1-8B-Instruct — плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная Leejy0-0 путём дообучения unsloth/Meta-Llama-3.1-8B-Instruct. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для диалоговой генерации текста; заявленный контекст — до 131 072 токенов. Модель подходит для создания чат-ботов, ответов на вопросы и генерации текста на английском языке. В карточке указано использование Unsloth и Hugging Face TRL для обучения; сведений о специальной предметной области или дополнительных возможностях не приводится. Лицензия — Apache-2.0. README не описывает состав обучающих данных, результаты оценки качества или дополнительные ограничения. Поэтому качество ответов и пригодность для конкретной задачи следует проверять отдельно.
Kosmos-EVAA-TSN-v19-8B — слитая языковая модель, созданная jaspionjader с помощью mergekit методом SLERP из Kosmos-EVAA-TSN-light-8B и Kosmos-EVAA-gamma-v18-8B. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; она использует библиотеку Transformers и формат Safetensors, а длина контекста составляет до 8192 токенов. Модель предназначена для генерации текста и может применяться для создания черновиков, продолжения текста и ответов в диалоговом интерфейсе на основе текстового ввода. Сведения о специализации по предметным областям и поддерживаемых естественных языках в карточке отсутствуют. Лицензия в предоставленных данных не указана. Качество и поведение результата могут зависеть от запроса; подтверждённых сведений о специальных ограничениях или оценках качества нет.
Krinny-7B — испаноязычная языковая модель лаборатории Krinny, созданная одним разработчиком в Испании. Это дообучение Qwen/Qwen2.5-7B-Instruct с помощью LoRA: модель рассчитана на диалоги и генерацию текста, в которых важны прямой стиль, признание неопределённости и просьба уточнить недостающие сведения. Она обычно отвечает на языке запроса; особенно ориентирована на испанский, также обучалась на отдельных примерах на каталанском, галисийском и английском. Модель использует плотную архитектуру Qwen2 и содержит 7,1 млрд параметров; заявленный контекст — 32 768 токенов. В репозитории есть веса safetensors и версия GGUF Q4_K_M для запуска через llama.cpp, Ollama и LM Studio. Для работы в Ollama нужен предусмотренный проектом системный промпт: без него поведение дообучения может не проявиться. Лицензия Apache 2.0 допускает коммерческое использование, изменение и распространение. Разработчик сообщает о наблюдаемых ошибках: модель может неверно назвать базовую модель и выдумать дату отсечения знаний; каталанский язык поддерживается слабо. Это ранняя версия, прямо обозначенная как незавершённая, поэтому ответы стоит проверять, особенно в важных сценариях.
DoumAI/Krx-Bench-2024-Qwen2.5-1.5B-Instruct-1106 — дообученная DoumAI разговорная языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 1,5 млрд параметров. В качестве базы использована unsloth/qwen2.5-1.5b-instruct-bnb-4bit; при обучении применялись Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и рассчитана на английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0; карточка не уточняет специализацию дообучения или результаты оценки качества.
Helium3-r2 — объединённая плотная авторегрессионная языковая модель семейства Llama 3, созданная inflatebot методом Model Stock с помощью mergekit. В основе лежит NousResearch/Meta-Llama-3-8B; в объединение также вошли inflatebot/helide-beta-r0, inflatebot/helide-beta-r1 и inflatebot/helide-beta-r4. Модель содержит 7,5 млрд параметров, использует формат safetensors и имеет контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Автор описывает её как менее откровенную и более сухую по стилю, чем Helium3; более подробные целевые сценарии в карточке не перечислены. В метаданных указаны генерация текста и архитектура Llama, но отдельные сведения о языках обучения или ограничениях качества отсутствуют. Лицензия в предоставленных данных не указана.
Fischerboot/L3-sophie-improved-v2 — слитая авторами модель генерации текста на архитектуре Llama 3. Она создана методом passthrough с помощью mergekit из Fischerboot/LLama3-Lexi-Aura-3Some-SLERP-SLERP-ql-merge и Fischerboot/sophie-improved-v2. Модель содержит 7,5 млрд параметров, рассчитана на диалоговое взаимодействие и использует библиотеку Transformers; заявленная длина контекста — 8192 токена. Модель подходит для генерации ответов в чате и продолжения текста. Описание базовой модели указывает на ориентацию прежде всего на английский язык. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
Это чат-модель генерации текста на базе Llama 2 7B Chat, дообученная agamage на неизвестном наборе данных. Она предназначена для диалогов и генерации ответов по текстовым запросам. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 6,6 млрд параметров, работает через Transformers и распространяется в формате safetensors. Длина контекста — 4096 токенов. Карточка не описывает целевые сценарии дообучения, языки, качество диалога или результаты за пределами указанной оценки loss 1,0651. Лицензия в предоставленных источниках не указана; перед использованием следует проверить условия базовой модели и репозитория.
LeNIA-Chat Qwen2 1.5B v0 — чат-модель LenguajeNatural.AI для генерации текста, выполнения инструкций и ответов на вопросы на испанском языке. Она дообучена на базе Qwen/Qwen2-1.5B в три этапа: многоцелевое обучение в стиле FLAN, настройка на высококачественные инструкции и дообучение для диалогов и абстрактивных ответов на вопросы. Модель использует плотную архитектуру Qwen2 с 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для испаноязычных чат-ботов, виртуальных ассистентов и приложений генерации текста. Распространяется по лицензии Apache 2.0. Размер модели ограничивает её возможности по сравнению с более крупными языковыми моделями; разработчики рекомендуют оценивать качество в целевом сценарии. Как и другие языковые модели, она может допускать ошибки и проявлять смещения.
mncai/llama2-13b-dpo-v3 — плотная авторегрессионная языковая модель семейства Llama, разработанная MindsAndCompany. Это инструкционно настроенная модель с дополнительным обучением методом DPO на базе beomi/llama-2-koen-13b; она предназначена для генерации ответов на запросы и диалоговых сценариев. Модель содержит 12,9 млрд параметров, принимает текст и имеет контекстное окно 4096 токенов. Карточка указывает поддержку английского и корейского языков; пример запроса приведён на корейском. Модель может использоваться в чат-ботах и бизнес-приложениях, включая помощников для ответов на вопросы и генерации текста. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства, распространения производных материалов на тех же условиях и ограничивает коммерческое использование. В README не приведены результаты оценки качества или подробности обучающих данных, поэтому пригодность для конкретных задач следует проверять отдельно.
mncai/llama2-13b-dpo-v4 — языковая модель MindsAndCompany на архитектуре Llama 2, дообученная для следования инструкциям и оптимизированная методом DPO. Она предназначена для генерации ответов на текстовые запросы и диалоговых сценариев; пример в карточке показывает ответ на вопрос на корейском языке. Модель содержит 12,9 млрд параметров, работает с текстом и имеет контекстное окно 2048 токенов. В карточке указана лицензия CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных материалов на тех же условиях и запрещает коммерческое использование.
yusheng123z/llama3.1 — дообученная диалоговая языковая модель, основанная на Meta-Llama-3.1-8B-Instruct. В README разработчиками названы Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang; для настройки использован метод ORPO и полный fine-tuning параметров. Модель предназначена для китайско- и англоязычных пользователей и поддерживает генерацию текста в диалоговом формате. Модель семейства Llama имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов по метаданным. README описывает применение для ролевого общения, работы с инструментами и математических задач, но длина контекста для китайской версии автором не проверялась. Модель распространяется по лицензии Llama 3.1; метаданные указывают формат safetensors.
Карточка модели paraschopra/llama-31-8b-base-all-24k-correct на Hugging Face совпадает с карточкой paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt, поэтому описание составлено по ней. Модель paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt — дообученная версия инструкционной Llama 3.1 8B Instruct. Она предназначена для генерации текста и диалогового взаимодействия. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов; в репозитории используются веса Safetensors. В карточке указаны Unsloth и TRL как инструменты обучения. Модель может применяться для ответов на запросы и генерации текста на английском языке. Лицензия — Apache-2.0. README не приводит оценок качества или подробных результатов обучения, поэтому пригодность для конкретных задач следует проверять на собственных данных.
Карточка модели paraschopra/llama-31-8b-instruct-120k-correct-plus-real-low-lr на Hugging Face совпадает с карточкой paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt, поэтому описание составлено по ней. Модель paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt — дообученная версия инструкционной Llama 3.1 8B Instruct. Она предназначена для генерации текста и диалогового взаимодействия. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов; в репозитории используются веса Safetensors. В карточке указаны Unsloth и TRL как инструменты обучения. Модель может применяться для ответов на запросы и генерации текста на английском языке. Лицензия — Apache-2.0. README не приводит оценок качества или подробных результатов обучения, поэтому пригодность для конкретных задач следует проверять на собственных данных.
Это диалоговая языковая модель на базе Meta Llama 3.1 8B Instruct, дообученная автором репозитория ferrazzipietro на неизвестном наборе данных. Модель использует плотную архитектуру LlamaForCausalLM, содержит около 7,5 млрд параметров и предназначена для генерации текста и ведения диалога по инструкциям. Карточка не описывает отдельные специализированные сценарии дообучения. Модель принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий использует библиотеку Transformers и формат safetensors. Базовая модель поддерживает многоязычные диалоги, однако README этой версии явно не перечисляет языки. Лицензия — Llama 3.1; применяются её условия использования.
Карточка модели paraschopra/llama-31-8b-instruct-regenerated-100-cot на Hugging Face совпадает с карточкой paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt, поэтому описание составлено по ней. Модель paraschopra/llama-31-8b-instruct-regenerated-100-cot-no-system-prompt — дообученная версия инструкционной Llama 3.1 8B Instruct. Она предназначена для генерации текста и диалогового взаимодействия. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 131 072 токенов; в репозитории используются веса Safetensors. В карточке указаны Unsloth и TRL как инструменты обучения. Модель может применяться для ответов на запросы и генерации текста на английском языке. Лицензия — Apache-2.0. README не приводит оценок качества или подробных результатов обучения, поэтому пригодность для конкретных задач следует проверять на собственных данных.
kp15/llama3-1b-changes_model06012025 — плотная языковая модель семейства Llama, разработанная kp15 и дообученная на основе unsloth/llama-3.2-1b-bnb-4bit с помощью Unsloth и Hugging Face TRL. Модель содержит 1,2 млрд параметров и предназначена для генерации текста; в метаданных указано окно контекста до 131072 токенов и поддержка английского языка. Модель распространяется в формате PyTorch по лицензии Apache-2.0. Карточка не уточняет предметную специализацию или конкретные обучающие данные, поэтому её следует рассматривать как дообученную модель общего назначения для текстовых запросов.
Llama 3.1 Swallow Hermes 8B v0.1 — диалоговая языковая модель, созданная AELLM слиянием моделей Llama-3.1-Swallow-8B-Instruct-v0.1 и Hermes-3-Llama-3.1-8B с помощью Mergekit. Она предназначена для генерации текста в диалоге и ответов на инструкции на японском и английском языках. Модель построена на архитектуре LlamaForCausalLM с плотной архитектурой и содержит 7,5 млрд параметров; длина контекста — 8192 токена. Модель поставляется в формате Safetensors и поддерживает чат. В README указаны метод слияния dare_ties, объединённый токенизатор и тип данных bfloat16. Сведения о лицензии в предоставленных данных отсутствуют.
sangyon/llama31_tulu3_8b_dpo_grpo_nonthink_intentcheck_tulu3_8b_dpo — экспорт контрольной точки эксперимента IntentCheck для англоязычной модели диалогов и следования инструкциям. Модель разработана на основе allenai/Llama-3.1-Tulu-3-8B-DPO и дообучена методом GRPO с программной наградой за выполнение ограничений и дополнительным бонусом за прохождение проверки IntentCheck. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров; экспортированы веса BF16 в формате safetensors. Метаданные указывают контекст до 131072 токенов. Модель предназначена для генерации ответов в диалоге и выполнения инструкций с заданными ограничениями. Она принимает текст и генерирует текст; обучение описано как non-reasoning, поэтому карточка не заявляет режим пошагового рассуждения. Проверялись целостность тензоров и локальная загрузка, но новые результаты бенчмарков для этого экспорта не приводятся. Используется лицензия Llama 3.1 Community License и применимая политика допустимого использования базовой модели.
CreitinGameplays/Llama-3.2-3B-Fable-5-Distill — языковая модель семейства Llama, дообученная CreitinGameplays на базе unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit. Это плотная авторегрессионная модель с 3,2 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Для обучения использовались Unsloth и библиотека Hugging Face TRL; в карточке указан датасет Glint-Research/Fable-5-traces. Модель поддерживает английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.
bunnycore/Llama-3.2-3B-Long-Think — слитая диалоговая языковая модель на архитектуре Llama, созданная с помощью mergekit методом passthrough. В объединение вошли huihui-ai/Llama-3.2-3B-Instruct-abliterated и bunnycore/Llama-3.2-3B-Long-Think-lora_model. Модель содержит 3,2 млрд параметров, использует формат safetensors и работает через библиотеку Transformers; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации текста и диалога, включая ответы на запросы пользователя. Карточка приводит результаты оценивания на IFEval и BBH, но не описывает отдельные специализированные области применения. Данные каталога также отмечают интерфейс вызова инструментов. Для модели указана лицензия? В предоставленных данных лицензия отсутствует, поэтому условия использования по ним определить нельзя. Результаты бенчмарков в карточке ограничены приведёнными метриками и не гарантируют качество на иных задачах.
Llama-3-70B-Instruct-32k-v0.1 — экспериментальная версия Meta Llama 3 70B Instruct, опубликованная MaziyarPanahi. В ней изменён параметр rope_theta на 8m; метаданные указывают 69,5 млрд параметров, плотную архитектуру Llama и формат safetensors. Модель предназначена для диалоговой генерации текста на английском языке и имеет контекстное окно 8192 токена. Модель подходит для создания чат-ассистентов, ответов на вопросы и генерации текста. README также ссылается на отдельную коллекцию её квантованных версий в GGUF. Указанная лицензия — other; условия использования следует сверить с лицензией базовой модели Meta Llama 3.