III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельK2S3-Mistral-7b-v1.2 — текстовая генеративная модель, разработанная K2S3 и дообученная на базе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев по инструкциям. Для обучения методом supervised fine-tuning (SFT) использовались alpaca-gpt4-data и примеры из OpenOrca; проведена полная настройка параметров. Репозиторий содержит веса в формате Safetensors. Модель рассчитана на английский и корейский языки. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Как и другие генеративные языковые модели, она может выдавать неточные или вымышленные сведения.
Модель загружена пользователем haensumo и представляет собой дообученный вариант Llama для генерации текста в формате диалога. В карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL; модель основана на haensumo/kanana-1.5-8b-instruct-2505-Safe-DPO. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Доступны веса в формате safetensors; лицензия — Apache 2.0. Язык карточки — английский, но конкретные языки ответов и специальные предметные области не описаны.
Kosmos-EVAA-gamma-v13-8B — объединённая языковая модель от jaspionjader, созданная из двух предварительно обученных моделей с помощью mergekit и метода SLERP. Она предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Репозиторий содержит веса в формате safetensors с точностью bfloat16. Данные о лицензии и конкретных языках модели в предоставленных источниках отсутствуют.
Карточка модели KR-X-AI/krx-qwen2-7b-instruct-v3 на Hugging Face совпадает с карточкой KR-X-AI/krx-qwen2-7b-instruct-v4_m, поэтому описание составлено по ней. KR-X-AI/krx-qwen2-7b-instruct-v4_m — диалоговая языковая модель KR-X-AI на архитектуре Qwen2. Это дообученная версия KR-X-AI/krx-qwen2-7b-instruct-v2; для обучения использовались Unsloth и библиотека TRL. Модель содержит 7,1 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы. Модель предназначена для диалогов и генерации текста на английском языке. Она поддерживает контекст длиной до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0.
KSI-RPG-128k-7B — объединённая с помощью mergekit языковая модель AlekseiPravdin, созданная на основе AlekseiPravdin/KSI-RP-NSK-128k-7B и flammenai/flammen18X-mistral-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогового использования. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке Hugging Face указан нативный контекст 32 768 токенов; название модели содержит «128k», однако заявленный метаданными размер контекста составляет 32 768 токенов. Сведения о целевых языках и специальных предметных областях в предоставленных данных отсутствуют.
L3.1-Artemis-dcd-12B — слитая языковая модель на архитектуре Llama, созданная сообществом mergekit-community методом passthrough из моделей L3.1-Artemis-c-8B и L3.1-Artemis-d-8B. В конфигурации использованы последовательные диапазоны слоёв обеих исходных моделей; веса опубликованы в формате safetensors и предназначены для работы через Transformers. Модель рассчитана на генерацию текста и диалоговые сценарии. Заявленная длина контекста составляет 131 072 токена. Данных о специализированной предметной области или поддерживаемых естественных языках в карточке нет. Лицензия в предоставленных источниках не указана.
djuna/L3.1-gramamax — плотная авторегрессионная языковая модель семейства Llama, созданная слиянием предварительно обученных моделей с помощью mergekit. В качестве основы использована ArliAI/Llama-3.1-8B-ArliAI-Indo-Formax-v1.0, а также включена djuna/L3.1-gramax; применён метод линейного слияния DARE. Модель содержит 7,5 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст. В README и метаданных не приведены отдельные сведения о целевых языках или специализированных областях применения, поэтому описание ограничивается общими сценариями генерации и общения. Лицензия в предоставленных данных не указана.
mergekit-community/L3.1-Orion-b-8B — объединённая языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Её создали с помощью mergekit, объединив P0x0/Epos-8b, crestf411/L3.1-8B-Slush-v1.1 и mergekit-community/L3.1-Artemis-g-8B методом Model Stock; базовой моделью при слиянии служила P0x0/Epos-8b. Веса представлены в формате safetensors с точностью float16. Модель предназначена для генерации текста и диалогового использования. Контекстное окно составляет до 131 072 токенов; по описанию базовой модели, возможны творческое письмо, ролевые диалоги и выполнение инструкций. Лицензия в предоставленных данных не указана.
L3-Intermix-v0.1 — чат-модель для генерации текста, созданная объединением трёх моделей семейства Llama 3 с помощью mergekit. В состав слияния входят vicgalle/Configurable-Llama-3-8B-v0.3, bunnycore/Llama-3-Intermix и failspy/Meta-Llama-3-8B-Instruct-abliterated-v3; в конфигурации указаны метод model_stock и точность bfloat16. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В карточке не приведены сведения о целевых языках, сравнительных оценках качества или специальных областях применения. Распространяется по лицензии Apache-2.0.
Lexora-Medium-7B — диалоговая языковая модель, опубликованная DeepMount00. Она основана на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в формате беседы и имеет интерфейс для вызова инструментов. В карточке указаны обучающие наборы Sonnet-3.5-ITA-INSTRUCTION и Sonnet-3.5-ITA-DPO, а также поддержка итальянского и английского языков. Максимальная длина контекста составляет 131 072 токена. Модель доступна в формате safetensors по лицензии Apache-2.0.
hchung1017 (Hoon Chung) объединил линейным слиянием три модели: LDCC/LDCC-SOLAR-10.7B, hyeogi/SOLAR-10.7B-dpo-v1 и megastudyedu/M-SOLAR-10.7B-v1.3. Это плотная авторегрессионная модель семейства Llama на 10,6 млрд параметров для генерации текста и диалогового взаимодействия. Она принимает текст и формирует текстовые ответы; заявленная длина контекста — 4096 токенов. Модель может использоваться для ведения диалогов и генерации продолжений текста. В карточке указана лицензия MIT. Подробные оценки качества и ограничения конкретного слияния не приведены.
Tensoic/Llama-2-openhermes — языковая модель семейства Llama 2, созданная дообучением базовой модели llama-2-7b-hf на датасете OpenHermes от teknium. Она предназначена для генерации текста и диалоговых сценариев. Модель имеет плотную архитектуру LlamaForCausalLM, около 6,6 млрд параметров и контекст до 4096 токенов; доступен формат PyTorch. Лицензия в предоставленных данных не указана.
win10/llama3-13.45b-Instruct — объединённая плотная языковая модель семейства Llama 3 для генерации текста и диалогов. В README указано, что модель создана с помощью mergekit методом passthrough; метаданные связывают её с Meta-Llama-3-8B-Instruct. Размер модели — 12,7 млрд параметров, архитектура — LlamaForCausalLM, максимальный контекст — 8192 токена. Карточка указывает поддержку английского языка и диалоговый сценарий. Модель распространяется по лицензии Llama 3; перед использованием следует учитывать её условия.
unsloth/Llama-3.1-70B — опубликованный Unsloth вариант Meta Llama 3.1-70B с динамической квантизацией Unsloth Dynamic 2.0, предназначенный для генерации текста. В основе — плотная авторегрессионная трансформерная архитектура LlamaForCausalLM с Grouped-Query Attention; модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает и генерирует текст. Она подходит для диалоговых приложений и других задач генерации естественного языка на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Вариант Unsloth заявлен как динамически квантованный с акцентом на сохранение точности; карточка не приводит независимых результатов сравнения именно этого репозитория. Для применения требуются значительные вычислительные ресурсы из-за размера модели. Возможны ошибки и небезопасные ответы; результаты следует проверять, а подключение внешних инструментов — контролировать. Модель распространяется по лицензии Llama 3.1 Community License с её условиями и ограничениями.
allenai/Llama-3.1-Tulu-3-8B-SFT-no-safety-data — языковая модель семейства Llama, опубликованная организацией AllenAI. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных указаны поддержка библиотеки Transformers, размер около 7,5 млрд параметров и контекст до 131 072 токенов. Модель можно использовать для ведения диалогов, генерации ответов, создания черновиков и других задач, сводящихся к продолжению или преобразованию текстового запроса. Метаданные указывают тег text-generation и conversational, но README не содержит подробностей о языках, данных обучения, результатах оценки или лицензии. README также не описывает специальные меры безопасности, поэтому модель следует применять с дополнительной проверкой результатов и фильтрацией потенциально нежелательного контента. Лицензия в доступных данных не указана.
Positron AI публикует неизменённую копию Llama-3.2-1B-Instruct от Meta: веса, токенизатор и конфигурация побайтно совпадают с указанным upstream-снимком. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров, предназначенная для диалогов и генерации текста; заявленное контекстное окно — 131 072 токена. Метаданные указывают поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также интерфейс для вызова инструментов. Модель подходит для ответов на вопросы, суммаризации, помощи в написании текста и других задач генерации текста. Репозиторий содержит веса в формате SafeTensors и распространяется по лицензии Llama 3.2. README сообщает, что это неизменённая перепубликация исходной модели, а не отдельное дообучение; при этом метаданные классифицируют связь с базовой моделью как finetune, поэтому происхождение указано по метаданным. Подробные оценки и ограничения в карточке этой копии не приведены.
ruslandev/llama-3-8b-gpt-4o-ru1.0 — диалоговая языковая модель, дообученная автором на базе Meta Llama 3 8B Instruct. Обучение продолжалось одну эпоху на двух NVIDIA A100 на наборе примеров, сформированном из подмножества Tagengo GPT-4 и улучшенном с помощью GPT-4o; около 80% примеров ориентированы на русский язык. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации ответов, особенно на русском языке. В карточке автор приводит результаты MT-Bench: 8,12 для русского и 8,01 для английского; эти оценки отражают заявленную автором проверку. Модель доступна в форматах PyTorch и Safetensors, а для локального запуска автор также указывает отдельную GGUF-версию. Лицензия — Llama 3 License.
Maziyar Panahi разработал Llama-3-8B-Instruct-v0.10 на основе своей предыдущей инструкционной модели MaziyarPanahi/Llama-3-8B-Instruct-v0.9. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров для генерации текста и диалогового взаимодействия; она поддерживает шаблон запросов ChatML и рассчитана на контекст до 8192 токенов. Модель подходит для ответов на запросы, ведения диалога и генерации текста на английском языке. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Для работы доступны веса Safetensors и библиотека Transformers; автор также указывает на отдельную версию в формате GGUF. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории модели.
Llama-3-8B-WizardLM-196K — дообученная Magpie-Align версия языковой модели Meta Llama 3 8B, разработанная на базе meta-llama/Meta-Llama-3-8B. Модель предназначена для генерации текста в диалоговом формате и может использоваться как чат-модель общего назначения. Модель содержит 7,5 млрд параметров, построена на плотной архитектуре LlamaForCausalLM и принимает текст, выдавая текст. Длина контекста, указанная в метаданных, — 8192 токена. Веса доступны в форматах PyTorch и safetensors; лицензия — llama3. README сообщает о дообучении, но не раскрывает датасет и не описывает специализированные возможности или результаты, кроме значения loss 0,6077 на оценочном наборе.
Llama3-ChatQA-1.5-70B — разговорная языковая модель NVIDIA для ответов на вопросы, в том числе по документам с использованием retrieval-augmented generation (RAG). Она построена на базе Llama 3 и обучена по улучшенной методике из работы ChatQA; дополнительное обучение на данных разговорного вопросно-ответного взаимодействия улучшает ответы по таблицам и арифметические вычисления. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 69,5 млрд параметров. Модель рассчитана прежде всего на ответы с предоставленным контекстом: можно передать документ целиком, если он помещается в контекст, или добавить найденные поиском фрагменты. Она также поддерживает диалоговые вопросы без контекста. Рекомендуется использовать указанный авторами формат диалога. Контекстное окно — 8192 токена; модель принимает текст и генерирует текст. Карточка приводит результаты оценки на наборах для conversational QA и RAG. Модель предназначена для англоязычных сценариев. Веса опубликованы в формате safetensors, а лицензия — Llama 3 Community License. Это производная от базовой Llama 3 модель, поэтому условия её использования определяются лицензией Llama 3; перед применением следует учитывать её ограничения.
birgermoell/Llama-3-dare_ties — диалоговая языковая модель, созданная слиянием моделей Meta-Llama-3 с помощью LazyMergekit и метода DARE-TIES. В конфигурации указаны Meta-Llama-3-8B и Meta-Llama-3-8B-Instruct; веса сохранены в формате safetensors с точностью bfloat16. В метаданных указаны 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и диалоговых сценариев: ответов на запросы, продолжения текста и работы в роли ассистента. Карточка не описывает дополнительную специализацию или результаты сравнительных оценок. Указанная лицензия — llama2.
llama-3-dragon-bophades-8B — объединённая языковая модель на архитектуре Llama 3, созданная nbeerbower методом Model Stock с помощью mergekit. В слиянии использованы nbeerbower/llama-3-aura-bophades-8B как базовая модель, а также модели ChimeraLlama, Llama-3-Smaug, Unsafe-Llama, OrpoLlama и Meta-Llama-3-8B-Instruct-DPO. Размер модели — 7,5 млрд параметров, контекст — до 8192 токенов; для работы используются Transformers и формат safetensors. Модель предназначена для генерации текста и многоходового общения в формате чата. README указывает лицензию Meta Llama 3 Community License Agreement; метаданные классифицируют лицензию как other. Языковая поддержка явно не перечислена, хотя семейство Llama 3 ориентировано на текстовые задачи.
llama-3-MagicDolphin-8B — объединённая языковая модель на архитектуре Llama 3, созданная с помощью mergekit методом Model Stock на основе nbeerbower/llama-3-SNAMD-8B и весов Dolphin 2.9.1 и Mahou 1.2a/1.3a. Модель содержит 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое общение. Её можно применять для ведения диалогов и генерации ответов в чат-интерфейсах. Контекст составляет до 8192 токенов; модель принимает и выдаёт текст. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. В карточке не приведены сведения о лицензии, языках обучения или специальных ограничениях поведения. Качество и пригодность для конкретных сценариев следует оценивать на целевых данных.
Llama-NextGen-9b — объединённая языковая модель на архитектуре Llama, созданная с помощью LazyMergekit из gradientai/Llama-3-8B-Instruct-Gradient-1048k и failspy/Llama-3-8B-Instruct-MopeyMule. Это плотная авторегрессионная модель объёмом 9,2 млрд параметров, предназначенная для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors; конфигурация слияния использует метод passthrough и объединённый токенизатор. Модель подходит для чат-ответов и генерации текста. В каталожных метаданных указано контекстное окно 8192 токена, хотя одна из исходных моделей описана как имеющая контекст до 1 048 576 токенов; это значение базовой модели не следует считать контекстом данного слияния. Языки и специализированные области применения в карточке не определены. Условия лицензии в предоставленных данных не указаны.
Kaoeiri/Llam-Romania-3.1d-8B-V1.11 — языковая модель семейства Llama, разработанная Kaoeiri как дообученная версия unsloth/Meta-Llama-3.1-8B-bnb-4bit. Это плотная авторегрессионная модель для генерации текста и диалогового общения. В репозитории указано 7,5 млрд параметров, контекстное окно — до 131 072 токенов; модель построена на PyTorch и обучалась с использованием Unsloth и библиотеки TRL.
Это дообученная модель gtmicrosoftPhi-3p5-mini-instruct20260804230324 на базе microsoft/Phi-3.5-mini-instruct. Согласно карточке, обучение выполнено с использованием TRL; метаданные указывают архитектуру Phi-3, 3,7 млрд параметров и библиотеку Transformers. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 4096 токенов. Её можно применять для ответов на вопросы и ведения диалогов на естественном языке. Карточка не описывает специальную математическую специализацию, поэтому название репозитория само по себе не подтверждает качество решения математических задач. Сведения о лицензии и конкретных ограничениях дообученной версии в предоставленных данных отсутствуют.
Louis_GRC-7B-slerp-M1 — объединённая автором LouisGRC текстовая модель на архитектуре Mistral, созданная методом slerp с помощью LazyMergekit из liminerity/M7-7b и yam-peleg/Experiment20-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Веса опубликованы в формате safetensors. Карточка не описывает специализированные области применения или результаты оценки качества; лицензия в предоставленных данных не указана.
Lumiere-120b — языковая модель для генерации текста и диалогов, созданная разработчиком bcse путём линейного слияния двух моделей с помощью mergekit: Undi95/Miqu-70B-Alpaca-DPO и Sao10K/Euryale-1.3-L2-70B. Модель основана на архитектуре Llama и содержит около 120,1 млрд параметров; для загрузки доступны веса в формате safetensors, а также упомянуты варианты GGUF. Модель предназначена для генерации ответов в диалоге и выполнения текстовых запросов. Контекстное окно составляет 32 764 токена. В карточке не описаны специальные предметные области или наборы поддерживаемых языков; базовая Miqu-модель настроена для ответов на инструкции в формате Alpaca. Лицензия в предоставленных сведениях не указана.
Lumina-3 — текстовая модель семейства Mixtral, созданная с помощью LazyMergekit и объединения моделей. Она предназначена для генерации текста и диалогового общения; заявленное окно контекста достигает 32 768 токенов. В метаданных указано 7,1 млрд параметров, архитектура Mixture of Experts и формат safetensors. В README приведены результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. Репозиторий также ссылается на сторонние сборки в формате GGUF. Модель распространяется по лицензии Apache-2.0. В карточке не указаны поддерживаемые естественные языки и специальные предметные области.
M7Yamshadowexperiment28_AlloyingotneoyNeuralsirkrishna — объединённая модель семейства Mistral от MaziyarPanahi на 7,1 млрд параметров. Она создана слиянием automerger/M7Yamshadowexperiment28-7B и automerger/AlloyingotneoyNeuralsirkrishna-7B и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации продолжений, ответов и диалоговых реплик. В карточке не приведены сведения о целевых языках или специализированных областях применения. Лицензия — Apache-2.0.