III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельGervásio 7B PTPT Decoder — языковая модель семейства Gervásio, разработанная PORTULAN. Это плотный авторегрессионный декодер на архитектуре Llama с 6,6 млрд параметров, предназначенный для генерации текста на европейском португальском языке. Модель принимает текст и выдаёт текст; её родной контекст составляет 4096 токенов. Модель опубликована под лицензией MIT. В карточке она помечена как устаревшая: разработчики рекомендуют вместо неё улучшенную версию gervasio-8b-portuguese-ptpt-decoder.
GLM-4-Voice-9B — языковая часть речевой модели Zhipu AI, построенная на GLM-4-9B и дополнительно предварительно обученная и выровненная для работы с речевой модальностью. Она обрабатывает дискретизированное представление речи и предназначена для голосового общения на китайском и английском языках в реальном времени. В полной системе GLM-4-Voice модель понимает и генерирует речь, а также может менять эмоцию, интонацию, темп и диалект по инструкции пользователя. Модель имеет плотную архитектуру семейства ChatGLM и около 11,4 млрд параметров; длина контекста составляет 8192 токена. Этот репозиторий содержит только языковую часть системы, поэтому сам по себе не описывает полный речевой конвейер. Карточка не приводит подробностей о лицензии или ограничениях качества.
fpadovani/hin-deva-10mb-10mb_seed455 — дообученная модель генерации текста на базе goldfish-models/hin_deva_10mb. Разработчик сообщает, что модель обучалась с использованием TRL; архитектура — GPT-2 с головкой языкового моделирования, веса сохранены в формате safetensors. Пример в карточке показывает генерацию ответа на заданный вопрос. Модель предназначена для генерации продолжения текста и ответов на текстовые запросы. Максимальная длина контекста составляет 512 токенов. Лицензия и подробности о языках обучения в предоставленных сведениях отсутствуют.
hkss/hk-SOLAR-10.7B-v2.0 — корейская разговорная языковая модель, дообученная на базе yanolja/EEVE-Korean-10.8B-v1.0. Она построена на плотной архитектуре Llama и предназначена для генерации текста в диалоговом формате. Модель содержит 10,6 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке указано дообучение с использованием DeepSpeed, Accelerate и TRL; сведения о датасетах не приведены.
Holland-4B-V1 — языковая модель Delta-Vector для творческого письма и задач универсального помощника. Это плотная причинная модель семейства Llama с 3,9 млрд параметров, дообученная на базе IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml методом полного дообучения в течение двух эпох. Модель настроена на инструкции в формате ChatML и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации и продолжения художественного текста, а также диалоговых задач помощника. В карточке заявлено улучшение связности и качества письма и ответов относительно предыдущей версии Magnum 4B. Указанные обучающие наборы включают англоязычные инструкционные и литературные данные; отдельный перечень поддерживаемых языков не приведён. Весы опубликованы в формате safetensors, лицензия — MIT. В README отмечено, что для некоторых вариантов запуска требовались специальные настройки из-за особенностей RoPE и размеров голов внимания; обходной путь для GGUF ограничивает контекст 8 192 токенами. Это дообученная модель с небольшой базой параметров, поэтому её качество может уступать более крупным моделям на сложных задачах.
Модель devhyun88/hyun-mistral-7b-orca-platypus-refine — дообученная авторами карточки версия Mistral-7B-v0.1 для генерации текста. Она построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель подходит для сценариев, где требуется генерировать продолжение текста по текстовому запросу. В карточке заявлена длина контекста до 32 768 токенов, а метаданные указывают корейский язык. Веса опубликованы в формате safetensors. Модель распространяется по лицензии CC BY-SA 4.0. README не описывает специальные сценарии, результаты оценки качества или ограничения сверх характеристик базового семейства.
Это японская диалоговая языковая модель Rinna на архитектуре GPT-NeoX, созданная на основе rinna/japanese-gpt-neox-3.6b и дообученная следовать инструкциям. Модель содержит 4,7 млрд параметров по метаданным каталога; в карточке указана конфигурация из 36 слоёв с размером скрытого слоя 2816. Она предназначена для генерации ответов в диалоге и выполнения текстовых инструкций на японском языке. Контекст составляет 2048 токенов. Для обучения использовались переведённые на японский подмножества Anthropic HH RLHF, FLAN Instruction Tuning и Stanford Human Preferences Dataset; обучающие данные не опубликованы. В сравнительной автоматической оценке на 100 запросах версия SFT-v2 получила преимущество над предыдущей SFT-версией в 55% случаев, равенство — 0%, проигрыш — 45%. Для корректной токенизации README рекомендует использовать медленный SentencePiece-токенизатор с use_fast=False и соблюдать специальный формат диалога с ролями «ユーザー» и «システム». Лицензия — MIT.
Языковая модель LINE Corporation с 1,7 млрд параметров для генерации текста на японском языке. Она дообучена для выполнения инструкций и представлена в 4-битной квантизации с параметрами группы 128 и отключённым act-order; архитектура GPT-2, токенизатор SentencePiece с unigram-моделью и byte fallback принимает обычный японский текст без предварительной токенизации. Контекст модели — 2048 токенов. Модель подходит для генерации ответов и продолжения текста по японским запросам. Компактное квантованное представление рассчитано на более лёгкое развёртывание, однако в метаданных указаны форматы PyTorch и safetensors. Лицензия — Apache 2.0.
LINE Corporation выпустила квантованную до 4 бит языковую модель с 3,6 млрд параметров, дообученную для следования инструкциям на японском языке. Она построена на архитектуре GPT-NeoX и предназначена для генерации текста и ответов на запросы на японском языке. Токенизатор SentencePiece использует unigram-модель и byte-fallback; предварительная сегментация японского текста не требуется. Контекст модели — 2048 токенов. Модель распространяется по лицензии Apache-2.0. Карточка сообщает о квантовании, но не указывает базовую модель, из которой получена эта версия. Количество параметров в метаданных отличается от числа в README: 4,7 млрд против 3,6 млрд.
Это дообученная авторегрессионная языковая модель GPT-2 от fpadovani, созданная на основе fpadovani/ppt-art-lang-jpn-baseline-100mb_seed3407. Модель обучалась с помощью TRL и предназначена для генерации продолжений текста и ответов на запросы в формате диалога. Модель принимает текст и выдаёт текст. Длина контекста составляет 512 токенов. Репозиторий содержит веса в формате Safetensors; в карточке не указаны специализированная предметная область или условия лицензии.
matthewburke/korean_sentiment — модель Matthew Burke для классификации тональности корейского текста. Она предназначена для определения эмоциональной окраски коротких сообщений, например отзывов о фильмах и публикаций в социальных сетях. Модель построена на архитектуре ELECTRA и содержит 151,7 млн параметров; максимальная длина входа — 512 токенов. Использовать её можно через библиотеку Transformers для задачи text-classification. README показывает пример классификации корейского сообщения «영화 재밌다.» и проверки оценки позитивного класса. В карточке не приведены сведения о лицензии, метках классов или качестве на тестовых данных, поэтому пригодность для конкретного домена стоит проверять отдельно.
Карточка модели rrw-x2/KoSOLAR-10.9B-v0.3 на Hugging Face совпадает с карточкой rrw-x2/KoSOLAR-10.9B-v0.5, поэтому описание составлено по ней. KoSOLAR-10.9B-v0.5 — корейская языковая модель для генерации текста, созданная объединением моделей с помощью mergekit и метода SLERP. В объединение вошли hyeogi/SOLAR-10.7B-dpo-v1 и LDCC/LDCC-SOLAR-10.7B; карточка также указывает на дообучение с LoRA на наборе kyujinpy/OpenOrca-KO. Архитектура — плотная LlamaForCausalLM, размер — 10,7 млрд параметров, контекст — 4096 токенов. Модель предназначена для генерации корейского текста и диалоговых ответов в сценариях на основе текстового ввода. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. README не приводит результатов оценки качества или подробных ограничений применения.
JY623/KoSOLAR-v2.1 — объединённая модель генерации текста на базе архитектуры Llama, созданная с помощью mergekit методом SLERP. В слиянии участвовали chihoonlee10/T3Q-ko-solar-dpo-v3.0 и rrw-x2/KoSOLAR-10.7B-v1.0; модель содержит 10,6 млрд параметров и имеет контекст до 4096 токенов. Модель предназначена для диалоговой генерации текста на корейском языке. Её можно использовать для создания ответов в чат-ботах и ведения текстовых бесед. Данных о дополнительных специализированных задачах нет. Модель распространяется в формате Safetensors и рассчитана на работу через Transformers. Лицензия — Apache-2.0.
Azazelle/L3-Dumb-Peter-Griffin-8b — разговорная языковая модель семейства Llama 3, созданная объединением нескольких предварительно обученных моделей с помощью mergekit и метода breadcrumbs_ties. Базой для слияния послужила failspy/Llama-3-8B-Instruct-MopeyMule; в состав также вошли модели Stheno, Soliloquy, Poppy Porpoise, Lumimaid, Mahou, UltimateANJIR и llama-3-cat. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст, включая ответы в диалоге. Контекст составляет 8192 токена. Карточка не уточняет специализацию по областям или языкам; описание базовой модели в каталоге указывает на англоязычное применение.
LaMini-T5-61M — модель семейства LaMini-LM, разработанная MBZUAI. Это дообученная на 2,58 млн примеров инструкций модель T5-small с архитектурой T5ForConditionalGeneration; она предназначена для ответов на инструкции на естественном языке и генерации текста по заданному запросу. Репозиторий содержит веса PyTorch, а размер модели по метаданным составляет 38,5 млн параметров; контекст ограничен 512 токенами. Модель подходит для ответов на простые пользовательские запросы и выполнения разнообразных текстовых инструкций. В карточке описаны автоматическая оценка на NLP-задачах и человеческая оценка инструкций, но подробные результаты не приведены. Поддерживаемый язык — английский. Лицензия CC BY-NC 4.0 запрещает коммерческое использование.
ManhHoDinh/lfm25-titlegen-17-languages — экспериментальная модель генерации короткого информативного заголовка по тексту пользовательского диалога. Это этап supervised fine-tuning модели LiquidAI/LFM2.5-230M; архитектура — плотная LFM2, размер — 221,2 млн параметров. Для запуска предусмотрена библиотека Transformers, веса опубликованы в формате Safetensors. Заявленная длина контекста — 128 000 токенов. Модель предназначена для создания заголовков, сохраняющих основное намерение разговора, важные сущности и существенные оговорки. Вариант обучался для 17 языков, однако карточка отмечает, что проверенные примеры есть только для английского и вьетнамского; языковые результаты получены автоматическими оценками. Оценка на 2 550 тестовых примерах не устанавливает готовность к производству: проверка ограничена одним автоматическим оценщиком, отсутствует подтверждённый аудит носителями языка, а точность сохранения намерения и сущностей остаётся ограниченной. Лицензия указана как other; конкретные условия следует сверять с лицензией репозитория.
AIdenU/LLAMA-2-13b-koen-Y24_v1.0 — текстовая генеративная модель на архитектуре Llama 2, созданная на базе meta-llama/Llama-2-13b-hf. Репозиторий содержит веса в формате Safetensors; размер модели — 12,9 млрд параметров, длина контекста — до 4096 токенов. Модель предназначена для генерации текста. По тегам карточки она связана с корейским языком, однако README не описывает конкретные сценарии, процедуру дообучения или сравнительные качества модели. Лицензия — Apache-2.0.
werty1248/Llama-3-Ko-8B-OpenOrca — языковая модель werty1248, дообученная на kyujinpy/OpenOrca-KO от базы beomi/Llama-3-Open-Ko-8B. Она предназначена для генерации текста и ответов на запросы, в особенности на корейском языке. Модель построена на архитектуре Llama с плотной декодерной трансформерной сетью LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. В README приведены результаты оценки на корейских задачах KoBEST в режимах zero-shot и 5-shot. Модель распространяется в формате safetensors по лицензии llama3. Подтверждённых сведений о качестве за пределами этих оценок нет.
Mistral-7B-AEZAKMI-v1 — языковая модель adamo1139, дообученная на наборе AEZAKMI v1, созданном на основе airoboros 2.2.1 и airoboros 2.2. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. Для обучения применялись Axolotl и QLoRA с NF4 double quantization, примерно два прохода по данным. Модель предназначена для непринуждённого общения в формате чат-бота; карточка отмечает естественную манеру ответов и отсутствие отказов как её особенности. Используется стандартный формат диалога ChatML. Автор предупреждает, что модель слаба в математике, загадках и сложных рассуждениях. Лицензия указана как other, поскольку автор не определил условия лицензирования с учётом лицензии исходного набора данных.
Mistral-7b-Portuguese-V0.1 — диалоговая модель генерации текста на основе Mistral 7B v0.2, дообученная Adalberto Junior на наборе данных adalbertojunior/dolphin_pt_test. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалогов на португальском языке. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. В карточке нет сведений о конкретных сценариях применения, методике оценки или ограничениях качества.
Mixnueza-6x32M-MoE — небольшая языковая модель с архитектурой смеси экспертов (MoE), созданная Isotonic с помощью LazyMergekit из трёх копий Felladrin/Minueza-32M-Base и трёх копий Felladrin/Minueza-32M-UltraChat. Модель предназначена для генерации текста в диалоговом формате; в карточке рекомендован шаблон с ролями system, user и assistant. Модель имеет архитектуру MixtralForCausalLM, содержит 22,8 млн параметров и принимает контекст длиной до 2048 токенов. Доступна в формате safetensors. Метаданные указывают лицензию Apache-2.0. Языки, на которых модель рассчитана, и результаты оценки в README не описаны.
Nemotron 3.5 ASR — Jordanian Dialect Arabic — потоковая модель автоматического распознавания речи, дообученная RamaBashar22 на базе NVIDIA Nemotron 3.5 ASR Streaming 0.6B примерно на 10 часах речи на иорданском диалекте. Она использует архитектуру FastConformer-CacheAware-RNNT с языковым промптом для арабского; монотонный декодер RNN-T выдаёт текст по мере поступления аудио. Модель принимает монофоническое аудио с частотой 16 кГц и предназначена для потоковой работы голосовых агентов. В README указаны WER 28,82% и CER 11,39% на отложенном тестовом наборе из 3,32 часа, а также RTF 0,107 при чанках 560 мс на L40S. Она особенно ориентирована на распознавание иорданской разговорной речи; качество для литературного арабского и других диалектов не оценено. Числа распознаются словами и требуют последующего преобразования в цифры для телефонных номеров, идентификаторов и сумм. Модель не предназначена для дословной транскрипции или записей, используемых для соблюдения требований. Репозиторий содержит веса safetensors и версию для NeMo; лицензия — OpenMDW 1.1.
Карточка модели Zardos/nil_Llama-3-8B-Instruct_v0.1.1 на Hugging Face совпадает с карточкой Zardos/A.I.Kant-Test_Llama-3-8B-Instruct_v0.1.0, поэтому описание составлено по ней. A.I.Kant-Test — дообученная Zardos разговорная модель семейства Llama 3 с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она основана на unsloth/llama-3-8b-Instruct и предназначена для генерации текста и диалоговых ответов; карточка демонстрирует запуск через Transformers и оригинальную кодовую базу llama3. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 8192 токенов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. Карточка описывает тестовую версию, но не приводит результатов оценки качества; название модели и отсутствие подробностей о дообучении не позволяют подтвердить её пригодность для конкретных прикладных задач.
Это дообученная модель генерации текста на базе goldfish-models/nor_latn_100mb, созданная с использованием TRL и архитектуры GPT-2. Она предназначена для генерации продолжений и ответов на текстовые запросы; карточка демонстрирует диалоговый запрос и генерацию ответа. Модель опубликована в формате safetensors и поддерживает контекст до 512 токенов. В карточке не приведены сведения о лицензии, поэтому условия использования определить нельзя.
Карточка модели ONS-AI-RESEARCH/ONS-SOLAR-10.7B-v1.1 на Hugging Face совпадает с карточкой hyeogi/SOLAR-10.7B-v1.3, поэтому описание составлено по ней. hyeogi/SOLAR-10.7B-v1.3 — корейская языковая модель авторегрессионной генерации текста, основанная на yanolja/KoSOLAR-10.7B-v0.2. Это плотная модель архитектуры Llama с 10,6 млрд параметров и контекстом до 4096 токенов. В карточке указано дообучение на переведённых и отобранных примерах Open-Orca/SlimOrca, Anthropic/hh-rlhf и GAIR/lima, а также на корейском наборе jojo0217/korean_rlhf_dataset. Модель предназначена для генерации ответов и диалогового текста на корейском языке. Она распространяется в формате Safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
spow12/POLAR-14B_4.3_very_big_sft — языковая модель, созданная методом supervised fine-tuning на основе x2bee/POLAR-14B-v0.2 для общения на корейском языке. Разработчик сообщает, что при обучении использовались DeepSpeed и TRL, а данные включали общедоступные, закрытые и сгенерированные примеры. Модель предназначена для генерации текста в диалоговом формате. Это плотная архитектура Llama с 14,1 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса в формате safetensors. Метаданные указывают поддержку корейского и английского языков и лицензию CC BY-NC 4.0, которая ограничивает коммерческое использование.
Модель fpadovani/ppt-art-lang-newlexicon-zipf-soft0.95-eng-baseline-100mb_seed3407 — дообученная с помощью TRL модель GPT-2 на базе goldfish-models/eng_latn_100mb. Она предназначена для генерации английского текста; в карточке приведён пример ответа на открытый вопрос. Модель использует архитектуру GPT2LMHeadModel, распространяется в формате safetensors и имеет контекст длиной 512 токенов. Лицензия в доступных данных не указана.
Модель fpadovani/ppt-nld_uniform-100mb_seed3407 — дообученная на TRL версия GPT-2, созданная на основе goldfish-models/nld_latn_100mb. Она предназначена для генерации текста и ответов на вопросы в формате диалога; карточка показывает пример генерации ответа на открытый вопрос. Модель использует архитектуру GPT2LMHeadModel, веса сохранены в формате safetensors, контекст составляет 512 токенов. Условия лицензии в предоставленных данных не описаны.
Модель francesca9805/ppt-wc-uniform-newlex-eus-before-100mb-packed-bfdiso_seed3407 — дообученная с помощью TRL GPT-2-модель на базе goldfish-models/eng_latn_100mb. Она предназначена для генерации текста; в карточке показан пример ответа на открытый вопрос. Модель использует архитектуру GPT2LMHeadModel, хранится в формате safetensors и имеет контекст длиной 512 токенов. Базовая модель Goldfish предназначена для генерации английского текста, поэтому модель ориентирована прежде всего на английский язык. Лицензия в предоставленных данных не указана.
Модель Francesca9805 — дообученная с помощью TRL версия одноязычной GPT-2-модели goldfish-models/eng_latn_100mb. Она предназначена для генерации английского текста; в карточке показан пример ответа на открытый вопрос. Модель построена на архитектуре GPT-2, использует библиотеку Transformers и распространяется в формате safetensors. Контекст составляет 512 токенов. Лицензия в предоставленных данных не указана.