III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельfreewheelin/free-solar-slerp-v0.1 — языковая модель, созданная методом слияния SLERP из KOMT-Solar-10.7B-SFT-v5 и S-SOLAR-10.7B-SFT-v1.2. Модель основана на архитектуре Llama и содержит 10,7 млрд параметров; для работы с текстом использует контекст до 4096 токенов и распространяется в формате Safetensors. Модель предназначена для генерации текста и ответов на запросы, включая диалоговые сценарии. В README отмечено, что для запуска требуется больше видеопамяти, однако точные требования не приведены. Лицензия — MIT.
Gemma2-2B-Chaos — разговорная языковая модель, созданная bunnycore слиянием трёх моделей Gemma 2 через mergekit. Это плотная авторегрессионная модель класса Gemma2ForCausalLM с 2,7 млрд параметров и контекстом 8192 токена. Она предназначена для диалога и генерации текста; карточка указывает на смешение моделей с изменённым поведением отказов и дистиллированной модели. Репозиторий содержит веса Safetensors. Модель доступна по лицензии Apache-2.0.
Gemma-2-Ataraxy-v4c-9B — диалоговая языковая модель на базе Gemma 2, созданная lemon07r слиянием предварительно обученных моделей через SLERP с помощью mergekit. В объединении использованы lemon07r/Gemma-2-Ataraxy-v3b-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров и имеет контекстное окно 8192 токена. Она предназначена для генерации текста в диалоге, выполнения инструкций и творческих текстовых задач. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти показатели сами по себе не гарантируют качество в конкретном сценарии. В репозитории указана лицензия Gemma. Использование регулируется условиями лицензии Google Gemma.
djuna/Gemma-2-gemmama-9b — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная методом DARE TIES с помощью mergekit. В объединение вошли IlyaGusev/gemma-2-9b-it-abliterated, crestf411/gemstone-9b, BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference и lemon07r/Gemma-2-Ataraxy-9B; базой указана IlyaGusev/gemma-2-9b-it-abliterated. Модель содержит 9 млрд параметров, работает через Transformers и принимает текст для генерации текста в диалоге. Контекст — до 8192 токенов. Карточка приводит результаты оценки на Open LLM Leaderboard, в том числе IFEval и BBH. Языки модели в доступных данных не обозначены, поэтому их нельзя надёжно перечислить. Модель подходит для диалоговой генерации и выполнения инструкций. Известные ограничения: результатов тестирования недостаточно, чтобы судить о качестве во всех задачах и языках; объединение включает abliteration-модель, поэтому ответы могут быть менее ограничены. Лицензия в доступных данных не указана.
AJ1731715/gemma-3-1b-it-heretic — диалоговая текстовая модель на архитектуре Gemma 3, созданная на основе google/gemma-3-1b-pt и дообученная автором репозитория. Это компактная модель примерно с 1 млрд параметров для генерации ответов и общения в формате чата; метаданные указывают контекст до 32 768 токенов. В README описано семейство Gemma 3 в целом, включая работу с изображениями и поддержку более 140 языков, однако сведения о мультимодальности конкретно этой текстовой версии метаданные не подтверждают. Модель подходит для диалоговых интерфейсов, черновиков текстов и писем, суммаризации и ответов на вопросы по заданному контексту. В названии и тегах заявлена «децензурированная» настройка, но README не описывает методику или оценку этого изменения. Возможны предвзятые, фактически неверные ответы и трудности со сложными запросами и языковыми нюансами. Использование регулируется лицензией Gemma.
Это дообученная Петро Феррацци модель Google Gemma 3 1B IT, созданная на основе google/gemma-3-1b-it. Она предназначена для диалогов и генерации текста; метаданные отмечают поддержку чата. Модель использует плотную архитектуру Gemma 3 с причинно-языковой головой, содержит 1 млрд параметров и поддерживает контекст до 32 768 токенов. Данные дообучения и специализированные сценарии применения не описаны. Модель опубликована в формате Safetensors и распространяется по лицензии Gemma.
gemma-7b-zephyr-alpaca-it-ties — объединённая языковая модель на архитектуре Gemma, собранная автором репозитория с помощью mergekit из google/gemma-7b-it, HuggingFaceH4/zephyr-7b-gemma-v0.1 и mlabonne/Gemmalpaca-7B методом dare_ties. Модель содержит 8,2 млрд параметров и рассчитана на генерацию текста, в том числе диалоговые ответы и выполнение инструкций. Модель принимает текст и генерирует текст. Веса представлены в формате safetensors; в конфигурации слияния указан dtype float16. Контекст составляет до 8192 токенов. Метаданные указывают лицензию Apache-2.0. Базовая Gemma 7B IT описана как англоязычная, поэтому английский язык можно считать основным; сведения о дополнительных языках для этого объединения не приведены. Качество слияния и сравнительные результаты в карточке не описаны.
h2o-danube2-1.8b-chat — чат-модель H2O.ai на основе плотной авторегрессионной архитектуры Mistral, созданная с модификациями архитектуры Llama 2. Модель содержит около 1,7 млрд параметров и дообучена в два этапа: SFT и DPO; обучение проводилось с помощью H2O LLM Studio. Модель предназначена для диалогов и генерации текста по запросу. Её можно применять для ответов на вопросы, составления черновиков и помощи в повседневных текстовых задачах. Контекст — до 8192 токенов; используется токенизатор Mistral с размером словаря 32 000. В метаданных заявлен английский язык. Модель распространяется в формате Safetensors через Transformers по лицензии Apache-2.0. Она может генерировать неверные, бессвязные или нерелевантные ответы и воспроизводить предвзятость либо оскорбительное содержание; результаты следует проверять.
psiilu/h2o-dpo-merge2 — объединённая языковая модель, созданная автором репозитория из двух предварительно обученных моделей с помощью mergekit. В метаданных указана архитектура MistralForCausalLM с плотной моделью размером 1,7 млрд параметров; файлы представлены в формате Safetensors. Модель предназначена для генерации текста и диалогового общения, а её контекстное окно составляет 8192 токена. Модель может использоваться для создания ответов в чате и генерации текста по запросу. В README приведены два исходных репозитория и описано их объединение линейным методом с равными весами. Лицензия в предоставленных данных не указана.
Это 8-битная версия Hermes 3 на базе Llama 3.1 с 70 млрд параметров, преобразованная сообществом mlx-community в формат MLX из NousResearch/Hermes-3-Llama-3.1-70B с помощью mlx-lm 0.16.1. Модель предназначена для диалогов и следования инструкциям; метаданные также указывают на дообучение исходной Llama 3.1 70B. Поддерживает текстовый ввод и генерацию текста, включая сценарии чат-взаимодействия. Контекст составляет до 131 072 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Llama 3. Используйте её в совместимой среде MLX; README предлагает установить mlx-lm.
Hinglish-MiniLM — компактная модель эмбеддингов предложений, дообученная разработчиком Anurag Wagh на базе sentence-transformers/all-MiniLM-L6-v2 с помощью библиотеки sentence-transformers. Она кодирует запросы на хинглише — смеси хинди и английского — в векторы размерностью 384, пригодные для сопоставления с семантически близкими английскими фразами. Модель предназначена для семантического поиска, маршрутизации запросов, чат-ботов поддержки и рекомендательных систем для пользователей в Индии. Модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. В README указано, что при обучении использовались синтетические пары из областей банковских услуг, технической поддержки и повседневного общения. Репозиторий распространяется в формате Safetensors; лицензия в предоставленных данных не указана.
Inex12Neuralsynthesis-7B — автоматически объединённая языковая модель, созданная Maxime Labonne на основе MSL7/INEX12-7b и Kukedlc/NeuralSynthesis-7B-v0.3 методом dare_ties. В конфигурации слияния для NeuralSynthesis указаны density 0,53 и weight 0,6; веса представлены в формате safetensors, архитектура — MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст, выдаёт текст и поддерживает контекст до 32 768 токенов. В карточке указана лицензия Apache-2.0. Данных о целевых языках и специализированных областях применения в предоставленных источниках нет.
chujiezheng/internlm2-chat-7b-ExPO — диалоговая языковая модель семейства InternLM2, созданная методом Weak-to-Strong Extrapolation (ExPO) на основе internlm2-chat-7b и чекпойнтов SFT и DPO/RLHF. Разработчик сообщает, что экстраполяция с alpha = 0.5 усиливает согласование ответов с человеческими предпочтениями. Модель содержит 7,4 млрд параметров, использует плотную архитектуру InternLM2ForCausalLM и принимает текстовые запросы, выдавая текстовые ответы в формате чата. Контекстное окно — 32 768 токенов; в карточке указаны английский и китайский языки. В README приведены сравнительные результаты ExPO на AlpacaEval 2.0 и MT-Bench, но они относятся к нескольким другим моделям, к весам которых применяли ExPO, и не являются прямой оценкой этого чекпойнта. Модель предназначена для диалогов и генерации ответов с учетом человеческих предпочтений. Лицензия указана как other, поэтому конкретные условия использования следует сверить с файлами репозитория.
K2S3-14b-v0.2 — текстовая генеративная модель, разработанная K2S3 на основе весов mistralai/Mistral-7B-v0.1. Авторы увеличили глубину модели, примерно удвоив её размер, добавили корейскую лексику и слияния в токенизатор, а затем провели полнопараметрическое обучение методом SFT. Модель содержит 14,2 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых задач на английском и корейском языках. В обучении использовались alpaca-gpt4-data и примеры из набора The OpenOrca Dataset. Репозиторий предоставляет веса в формате Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
KafkaLM-13B-German-V0.1 — языковая модель Seedbox, обученная Dennis Dickmann. В её основе Llama 2 13B, дополнительно дообученная на немецком корпусе, а также на наборах инструкций, переведённых с английского на немецкий. Модель предназначена для повседневных задач и бизнес-сценариев, где нужны ответы на немецком языке. Модель использует архитектуру Llama с плотной causal language model на 12,9 млрд параметров и контекстом до 8192 токенов. Она принимает текст и генерирует текст; карточка приводит формат диалога с дружелюбным ассистентом, который отвечает точно и по существу. Лицензия — Llama 2, действуют её ограничения и ограничения использованных датасетов.
Kant-Test-0.1-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.2 и Zardos/Kant-Test-0.1-Mistral-7B методом SLERP. Модель на 7,1 млрд параметров использует архитектуру Mistral с плотной причинной языковой моделью и предназначена для генерации текста и ответов на инструкции в формате диалога; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате safetensors. Лицензия Apache-2.0. Подробности о специализации второй модели, обучающих данных и сравнительной производительности в карточке не приведены.
kellemar-KrishnaHercules-0.1-7b-slerp — это объединённая модель для генерации текста, созданная с помощью LazyMergekit на основе NeuralKrishna-7B-V2-DPO и ChatHercules-2.5-Mistral-7B-DPO. В конфигурации указаны метод объединения DARE-TIES, архитектура Mistral с плотной структурой и 7,1 млрд параметров. Модель предназначена для генерации ответов и продолжения текста по запросу; метаданные указывают контекст до 32 768 токенов. Поддерживаемые языки и специализированные области применения в карточке не обозначены. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Kosmos-Elusive-VENN-8B — объединённая языковая модель семейства Llama, созданная автором jaspionjader с помощью mergekit методом SLERP на основе jaspionjader/Kosmos-Elusive-8b и jaspionjader/Kosmos-VENN-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; длина контекста составляет 8192 токена. Модель предназначена для генерации текста и диалогов. Каталог описывает базовую модель как ориентированную на русский и английский языки. Лицензия в предоставленных данных не указана.
Kosmos-EVAA-gamma-v15-8B — слитая языковая модель, созданная jaspionjader с помощью mergekit. Веса двух предварительно обученных моделей объединены методом SLERP; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат файлов — safetensors, библиотека — Transformers. Контекст составляет до 8192 токенов. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется создание продолжений или ответов по текстовому запросу. Данные не описывают специальные области применения или приоритетные языки, поэтому её следует рассматривать как модель общего назначения. Условия использования определяются лицензией репозитория на Hugging Face.
KR-X-AI/gemma-2-9b-it-1.2 — разговорная модель семейства Gemma 2 с 9 млрд параметров, разработанная KR-X-AI и дообученная на базе KR-X-AI/gemma-2-9b-it-0.2. Она предназначена для диалогов и генерации текста; поддерживает чатовый сценарий и принимает текстовые запросы, выдавая текстовые ответы. Модель создана с использованием Unsloth и библиотеки Hugging Face TRL. Формат весов — Safetensors, длина контекста — 8192 токена. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В метаданных указан английский язык. Лицензия Apache-2.0 разрешает использование на её условиях; README не описывает специализированную предметную область или дополнительные возможности.
Карточка модели KR-X-AI/krx-qwen2-7b-instruct-v2 на Hugging Face совпадает с карточкой KR-X-AI/krx-qwen2-7b-instruct-v2-m, поэтому описание составлено по ней. KR-X-AI разработала эту разговорную языковую модель на базе Qwen2-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста и диалогов; заявленное окно контекста составляет 32 768 токенов. Модель дообучена от unsloth/qwen2-7b-instruct-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель предназначена для чат-сценариев и генерации ответов на текстовые запросы. В метаданных указан английский язык. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0.
Карточка модели KR-X-AI/krx-qwen2-7b-instruct-v2.2 на Hugging Face совпадает с карточкой KR-X-AI/krx-qwen2-7b-instruct-v4_m, поэтому описание составлено по ней. KR-X-AI/krx-qwen2-7b-instruct-v4_m — диалоговая языковая модель KR-X-AI на архитектуре Qwen2. Это дообученная версия KR-X-AI/krx-qwen2-7b-instruct-v2; для обучения использовались Unsloth и библиотека TRL. Модель содержит 7,1 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы. Модель предназначена для диалогов и генерации текста на английском языке. Она поддерживает контекст длиной до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0.
KunaiBeagle-7b — модель генерации текста, созданная объединением SanjiWatsuki/Kunoichi-DPO-v2-7B и mlabonne/NeuralBeagle14-7B с помощью LazyMergekit. Она основана на Mistral-7B-v0.1 и использует плотную архитектуру Mistral с 7,1 млрд параметров; указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на основе текстовых запросов. Данные карточки не уточняют языки, в которых она лучше всего работает, и конкретные области применения. Репозиторий распространяется в формате safetensors; лицензия в предоставленных сведениях не указана.
L3.1-70b-Swallow-Saigetsu — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit на Runpod из tokyotech-llm/Llama-3-Swallow-70B-v0.1 и NousResearch/Meta-Llama-3.1-70B-Instruct. Это плотная архитектура Llama с 69,5 млрд параметров, предназначенная для диалога и генерации текста; используется формат чата Llama 3 Instruct. Модель принимает текст и генерирует текст, а нативный контекст составляет 131 072 токена. Подходит для многоязычного общения, ответов на вопросы и генерации текста в формате инструкционного чата. В карточке описана как экспериментальная неформальная попытка объединить две модели; результаты и отдельные языковые преимущества не заявлены. Лицензия — llama3.1.
ENERGY-DRINK-LOVE/leaderboard_inst_v1.3_deup_LDCC-SOLAR-10.7B_SFT — текстовая модель семейства Llama на 10,7 млрд параметров, дообученная разработчиком на LDCC/LDCC-SOLAR-10.7B с использованием набора данных generator. Она предназначена для генерации текста в диалоговом формате и может применяться в чат-сценариях. Модель принимает текст и выдаёт текст; длина контекста составляет 4096 токенов. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
LFM2.5-8B-A1B-Q4_K_M-dequant-bf16 — вариант модели LFM2.5-8B-A1B от Liquid AI, основанный на LiquidAI/LFM2.5-8B-A1B-Base. Это текстовая MoE-модель для генерации ответов и работы в роли локального помощника. Карточка указывает 8,3 млрд параметров всего и около 1,5 млрд активных; метаданные репозитория указывают 1,6 млрд параметров. Модель использует гибридную архитектуру с 24 слоями и поддерживает контекст до 128 000 токенов. Модель предназначена для следования сложным инструкциям, агентных сценариев, вызова инструментов, структурированных ответов и многоязычных помощников, в том числе на устройствах с локальным инференсом. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, португальский и итальянский. Карточка не рекомендует её для интенсивного программирования и фактологических ответов без поиска по источникам. Указана лицензия other; конкретные условия следует проверять в файлах репозитория. Имя модели указывает на вариант Q4_K_M, деквантизированный в bf16, но метаданные форматов перечисляют safetensors.
Ling-lite-base-1.5 — базовая языковая модель семейства Ling, разработанная InclusionAI. Это языковая модель с архитектурой Mixture of Experts (MoE), предназначенная для генерации текста и решения разнообразных задач на естественном языке. В карточке семейства для Ling-lite указано 16,8 млрд параметров, из которых активируются 2,75 млрд; метаданные этого репозитория указывают 794,8 млн параметров. Эти сведения расходятся, поэтому размер конкретной модели по источникам определить однозначно нельзя. Модель рассчитана на текстовые запросы и диалоговое использование. README указывает контекст до 128 тыс. токенов для версии 1.5 семейства, тогда как метаданные репозитория задают нативный контекст 32 768 токенов; для этой конкретной модели следует ориентироваться на значение из метаданных. Поддерживаемые языки в предоставленных данных не перечислены. Модель распространяется под лицензией MIT. README описывает широкий круг задач, но не приводит оценки качества или конкретных ограничений применения.
Ling-plus-base — базовая языковая модель с архитектурой Mixture of Experts (MoE), разработанная InclusionAI. Она предназначена для генерации текста и диалогового взаимодействия, а структура MoE позволяет масштабировать модель и адаптировать её к разным задачам, включая работу с естественным языком и решение сложных задач. По README, Ling-Plus содержит 290 млрд параметров, из которых при генерации активируются 28,8 млрд; в метаданных репозитория указано 23,9 млрд параметров. Карточка описывает контекст до 64 тыс. токенов, тогда как метаданные указывают нативный контекст в 16 384 токена. Модель работает с текстом и поддерживает чатовый сценарий; заявленные языки использования отдельно не перечислены. Модель распространяется под лицензией MIT. README сообщает о сравнительно высокой производительности, но конкретные результаты оценки находятся в техническом отчёте и в карточке не приведены, поэтому качество для конкретных задач следует проверять отдельно.
Это преобразованная TheBloke в формат Hugging Face версия Meta Llama 2 70B Chat: авторские веса PTH конвертированы в формат Transformers fp16 и сохранены в Safetensors. В основе — авторегрессионный плотный Transformer Llama с 68,7 млрд параметров и контекстом 4096 токенов; модель принимает текст и генерирует текст. Версия Chat прошла supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи, чтобы вести диалог и отвечать в роли помощника. Модель предназначена для диалоговых сценариев на английском языке: ответов на вопросы, инструкций и генерации текста. Крупный размер и grouped-query attention в варианте 70B рассчитаны на масштабируемый вывод, однако для запуска требуются значительные вычислительные ресурсы. Ответы могут быть неточными, предвзятыми или нежелательными; перед применением нужны проверки безопасности и настройка под конкретный сценарий. Использование регулируется лицензией Meta Llama 2; для получения весов требуется принять её условия.
TheTravellingEngineer выпустил диалоговую модель на архитектуре Llama 2 с 6,6 млрд параметров. Она получена дообучением методом SFT базовой модели meta-llama/Llama-2-7b-chat-hf на датасете OpenAssistant Guanaco; репозиторий содержит объединённые веса fp16. Модель предназначена для генерации ответов в диалоге и выполнения текстовых инструкций в сценариях чат-ботов и помощников. Карточка указывает английский язык и контекстное окно 4096 токенов. Использование регулируется ограничениями исходной лицензии Llama 2; гарантий качества нет.