III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельhyeogi/SOLAR-10.7B-dpo-v1 — плотная авторегрессионная языковая модель семейства Llama с 10,7 млрд параметров, опубликованная в формате safetensors. Она создана на базе beomi/OPEN-SOLAR-KO-10.7B и предназначена для генерации текста, в том числе диалоговых ответов на корейском языке. При обучении использовались переведённые и отобранные примеры из Open-Orca/SlimOrca и Anthropic/hh-rlhf. Модель поддерживает контекст до 2048 токенов и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализированные сценарии или результаты оценки качества.
Summary4500_L3_100steps_1e6rate_SFT — дообученная разговорная модель генерации текста на основе meta-llama/Meta-Llama-3-8B-Instruct. Она предназначена для диалоговых ответов и генерации текста; README сообщает о дообучении на неизвестном наборе данных и результате Loss 0,0655 на оценочном наборе. Модель использует плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. В метаданных указаны библиотека Transformers, формат весов safetensors и лицензия Llama 3. Языковые сведения и специализированные сценарии применения в карточке отсутствуют; базовая модель ориентирована на английский язык. Качество для конкретных задач по приведённой метрике Loss оценить нельзя.
svara-TTS v1 — многоязычная модель синтеза речи, опубликованная kenpath и построенная на базе canopylabs/3b-hi-ft-research_release. Это плотная LlamaForCausalLM с подходом Orpheus: текст преобразуется в дискретные аудиотокены, из которых синтезируется речь. Модель содержит 3,3 млрд параметров, а длина контекста составляет 131 072 токена. Модель предназначена для синтеза речи на 18 индийских языках и индийском английском, включая хинди, бенгальский, маратхи, телугу, каннада, тамильский, непальский и санскрит. Она поддерживает управление стилем и эмоциями, простые идентификаторы дикторов, переключение языков и zero-shot адаптацию. Разработчик отмечает низкую задержку, возможность запуска на обычных GPU и CPU, а также совместимость с GGUF-экспортами; в метаданных репозитория указан формат safetensors. Сценарии применения включают голосовых помощников, IVR, озвучивание учебных материалов, средства доступности и локализацию контента. Карточка сообщает об обучении на более чем 2 000 часах речи из SYSPIN, RASA, IndicTTS и SPICOR. Известные ограничения: редкие имена могут требовать подсказок по произношению, длинные предложения лучше разбивать, а сила эмоциональной окраски различается между языками; переключение языков не является детерминированным. Лицензия — Apache-2.0.
TinyBrainBot 303M Instruct — компактный англоязычный чат-ассистент на 303,3 млн параметров, разработанный автором модели с нуля. Это плотная LLaMA-совместимая авторегрессионная модель с архитектурой LlamaForCausalLM, 24 слоями и контекстом 1024 токена. Модель принимает текст и генерирует текстовые ответы в формате чата и инструкций. Она предназначена для простых вопросов и ответов, выполнения коротких инструкций, кратких бесед, объяснений, пересказов, переформулировок, сравнений, списков и коротких творческих текстов. Обучение включало предварительное обучение на текстовых корпусах, дистилляцию фактов от Ling 2.6 Flash и дообучение примерно на 33 тысячах пар инструкций и ответов. Для корректного общения следует применять встроенный chat template: он разделяет реплики пробелами, а не переводами строк. Модель небольшая и может работать на скромных вычислительных ресурсах; опубликованы веса в Safetensors и GGUF F16. Автор сообщает о сравнительно лучшем результате на некоторых заданиях вопросов по знаниям, но отмечает слабые рассуждения и математику, хрупкое воспроизведение фактов и ненадёжность ответов «не знаю». Для важных фактов рекомендуется подключать поиск по документам. Лицензия — Apache-2.0.
Havoc999 разработал Tiny OpenHermes — чат-модель на базе TinyLlama/TinyLlama-1.1B-Chat-v1.0, дообученную методом LoRA на датасете teknium/OpenHermes-2.5 с помощью TRL SFTTrainer. Это плотная языковая модель семейства Llama с 1 млрд параметров, форматом весов safetensors и контекстом 2048 токенов. Модель предназначена для генерации текста в диалогах и выполнения инструкций, преимущественно на английском языке. В карточке приведены результаты тестов на PIQA, HellaSwag и ARC-Challenge: модель показывает базовые способности в повседневных задачах на здравый смысл, но слабее справляется со сложными научными вопросами и многошаговыми рассуждениями. Она может галлюцинировать, поэтому важные факты нужно проверять; её настройка безопасности ограничена базовым выравниванием TinyLlama. Модель распространяется по лицензии Apache-2.0.
ShenaoZ/0.0001_idpo_same_6iters_iter_3 — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров, дообученная на версиях наборов данных updated и original. Она предназначена для генерации текста и ответов в диалоге; контекст модели составляет до 32 768 токенов. Модель представлена в формате safetensors и распространяется по лицензии MIT. Карточка не описывает результаты оценки, конкретные сценарии применения или ограничения качества. Поддержка русского языка не подтверждена данными карточки и метаданными.
Это дообученная методом SFT модель семейства GPT-2, разработанная fpadovani на базе fpadovani/arb-arab-100mb-ppt-Dp-100mb_seed3407 и обученная с использованием TRL. Она предназначена для генерации текста и ответов на пользовательские запросы; пример в карточке показывает диалоговый ввод на английском языке. Модель доступна в формате Safetensors и рассчитана на контекст до 512 токенов. Лицензия в предоставленных данных не указана.
nampham1106/bkcare-embedding — модель эмбеддингов предложений на базе RoBERTa, опубликованная пользователем nampham1106. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу и кластеризации. Модель обучалась с функцией MultipleNegativesRankingLoss на косинусном сходстве; карточка связывает её с набором данных ViHealthQA, что указывает на медицинский контекст обучения. Модель предназначена для получения векторных представлений текста, сопоставления семантически близких фраз и поиска релевантных текстов. Она использует библиотеку sentence-transformers, имеет 162,4 млн параметров и контекст длиной 258 токенов; доступны форматы ONNX и safetensors. Лицензия — MIT. Карточка не приводит результатов оценки и не описывает явно поддерживаемые языки. Специализация на ViHealthQA может ограничивать качество за пределами соответствующего медицинского контекста; короткое окно контекста также ограничивает обработку длинных текстов.
BurningBruce-SOLAR-8x10.7B-bf16 — разговорная текстовая модель семейства Mixtral, созданная автором репозитория Kquant03 как экспериментальная MoE-сборка. В ней объединены базовая модель kyujinpy/Sakura-SOLAR-Instruct и восемь экспертных компонентов из нескольких вариантов SOLAR и Sakura-SOLAR; маршрутизатор экспертов не обучался совместно с моделью, поэтому автор называет её frankenMoE. В метаданных указаны 10,6 млрд параметров, контекст 4096 токенов и формат safetensors. Модель предназначена для генерации текста и диалогов на английском языке. Разреженная MoE-архитектура активирует экспертов для обработки токенов, однако для запуска требуется загрузить веса модели в память. Автор предупреждает, что результаты оценивания оказались хуже ожидаемых; также у такой сборки возможны ограничения качества из-за необученного маршрутизатора. Лицензия — Apache-2.0.
fpadovani/dan-latn-10mb-ppt-Dp-10mb_seed10 — дообученная модель генерации текста на базе goldfish-models/dan_latn_10mb. Согласно карточке, она обучена с использованием TRL; метаданные относят архитектуру к GPT-2 и указывают формат safetensors. Модель предназначена для продолжения текста и генерации ответов на запросы, например в формате диалога. Указанная длина контекста — 512 токенов. Карточка показывает пример генерации ответа на вопрос, но не описывает специализированные области применения или языковую поддержку. Лицензия в предоставленных данных не указана.
DanskGPT-tiny-chat — чат-версия модели mhenrichsen/danskgpt-tiny, разработанная Mads и дообученная на частных наборах диалогов. Это компактная плотная LLaMA-модель с примерно 1 млрд параметров, предназначенная для диалогового генерирования текста и запуска на широком спектре устройств. Модель обучена работать с шаблоном ChatML; максимальная длина контекста составляет 2048 токенов. Модель ориентирована прежде всего на общение на датском языке и может использоваться как лёгкий локальный чат-ассистент или для автоматизации текстовых задач. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0. Данные для дообучения названы частными; их состав и свойства не раскрыты.
Edentns/DataVortexS-10.7B-dpo-v1.4 — корейская диалоговая языковая модель, созданная командой Kwangseok Yang, Seunghyun Choi, Jeongwon Choi и Hyoseok Choi на базе yanolja/Bookworm-10.7B-v0.4-DPO. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 10,6 млрд параметров. Она предназначена для генерации текста в формате чата, ответов на вопросы и помощи в поиске информации на корейском языке. Модель принимает диалог в формате ChatML; заявленная длина контекста — 4096 токенов. В README приведены результаты оценивания на корейских наборах Ko LM Eval Harness и Ko-LLM-Leaderboard. Для использования доступны веса safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
DeltaP2S-Llama2-13B-SameFormula-S13-QV — слитый чекпойнт, созданный пакетом экспериментов Delta-P2S. В качестве базовой модели использована Meta Llama 2 13B; архитектура — плотная причинная языковая модель Llama с 12,9 млрд параметров и контекстом до 4096 токенов. Репозиторий содержит веса в формате Safetensors и предназначен для генерации текста. Модель можно применять для генерации продолжений и ответов на текстовые запросы. Карточка не описывает специализированные сценарии или подтверждённые преимущества, поэтому качество для конкретных задач по ней оценить нельзя. Лицензия в предоставленных данных не указана.
fpadovani/eng-100mb-after-jpn-baseline-newlexicon-zipf-ckpt500_seed10 — дообученная модель генерации текста на архитектуре GPT-2, созданная на основе fpadovani/ppt-art-lang-newlexicon-zipf-jpn-baseline-100mb_seed10 с использованием TRL. Карточка демонстрирует генерацию ответа на вопрос на английском языке. Модель предназначена для продолжения текста и генерации ответов. Контекст ограничен 512 токенами. В репозитории указаны веса в формате Safetensors; размер модели не сообщается. Лицензия в доступных данных не указана.
Модель francesca9805/eng-100mb-after-wc-uniform-newlex-before-ckpt500-packed-bfdiso_seed10 — дообученная автором francesca9805 английская GPT-2 для генерации текста. Она создана на базе francesca9805/ppt-wc-uniform-newlex-eng-before-100mb-packed-bfdiso_seed10 с использованием TRL и распространяется в формате safetensors. Модель предназначена для продолжения текста и генерации ответов на вопросы на английском языке. Пример в карточке показывает диалоговый ввод и генерацию ответа, ограниченную 128 новыми токенами. Размер контекста составляет 512 токенов. Карточка не приводит данных о качестве и подробностях обучения; применимость стоит оценивать на собственных примерах. Лицензия в предоставленных данных не указана.
Это дообученная на английском языке GPT‑2-подобная модель авторства fpadovani, созданная на основе fpadovani/ppt-wc-zipf-newlex-eng-100mb_seed455 с использованием TRL. Она предназначена для генерации текста и коротких ответов на английские вопросы; пример в карточке показывает ответ на вопрос с пользовательским сообщением и генерацию продолжения длиной до 128 токенов. Модель использует архитектуру GPT2LMHeadModel и формат safetensors. Её нативный контекст составляет 512 токенов. Лицензия в предоставленных данных не указана.
Это дообученная модель генерации текста на базе fpadovani/ppt-art-lang-jpn-baseline_seed3407. Она построена на архитектуре GPT-2 и обучена с помощью TRL; пример в карточке показывает генерацию ответа на открытый вопрос в формате диалога. Модель рассчитана на продолжение текста и ответы на запросы, а её контекст ограничен 512 токенами. В названии и примере указана английская направленность, однако подробностей о языковых данных и качестве ответов карточка не приводит. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных сведениях не указана.
Модель fpadovani/eng-latn-100mb-ppt-Dp-100mb-packed_seed10 — дообученная с помощью TRL версия goldfish-models/eng_latn_100mb. Это плотная GPT-2-подобная языковая модель для генерации текста; карточка показывает пример продолжения ответа на вопрос на английском языке. Модель работает с библиотекой Transformers и хранится в формате safetensors, а её контекст составляет 512 токенов. Модель рассчитана на генерацию коротких текстов и ответов на английском языке. Ограниченный контекст в 512 токенов сужает возможности для длинных запросов и документов. В README и предоставленных метаданных лицензия не указана.
fpadovani/eng-latn-100mb-ppt-Dp-100mb_seed455 — дообученная с помощью TRL модель семейства GPT-2 на базе goldfish-models/eng_latn_100mb. Она предназначена для генерации английского текста, в том числе ответов на вопросы и продолжения заданной беседы. Модель использует плотную архитектуру GPT2LMHeadModel, работает с текстом и имеет контекст длиной 512 токенов. Карточка демонстрирует генерацию ответа на вопрос, но не приводит оценок качества или дополнительных специализированных сценариев. Модель распространяется в формате Safetensors; лицензия в предоставленных данных не указана.
benjamin/gpt2-wechsel-ukrainian — языковая модель на архитектуре GPT-2, перенесённая на украинский язык методом WECHSEL. Метод использует эффективную инициализацию субсловных эмбеддингов для переноса одноязычных языковых моделей между языками; модель предназначена для генерации украинского текста. Модель работает с текстом и имеет контекстное окно 1024 токена. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT. Карточка не приводит результатов оценки качества или иных характеристик поведения модели.
Hush — модель подавления шума и фоновой речи для голосовых ИИ-систем, разработанная Weya AI. Она обрабатывает входящий аудиопоток и в реальном времени выделяет речь одного собеседника, снижая фоновые шумы и голоса других людей. Модель работает непосредственно с акустическим сигналом и не зависит от языка речи; она предназначена для голосовых агентов по телефону, ботов контакт-центров, голосовых помощников и конвейеров транскрибации. Архитектура модели — DfNetSE; веса представлены в формате PyTorch, также README описывает вариант развёртывания через ONNX. Заявлены размер 8 МБ, обработка на CPU и задержка менее 1 мс на каждые 10 мс аудио. Модель обучалась на более чем 10 000 часах смешанного аудио. Лицензия — Apache-2.0. Модель рассчитана на аудио с частотой дискретизации 16 кГц; записи с другой частотой нужно предварительно пересэмплировать. Подавление конкурирующих голосов может быть неполным при очень громком фоне: модель обучалась на голосах с отношением сигнал/помеха 12–24 дБ. Маска фонового говорящего служит вспомогательным компонентом обучения и не является отдельным выходом разделения источников.
Japanese-Starling-ChatV-7B — японская диалоговая языковая модель с 7,1 млрд параметров, разработанная на основе chatntq-ja-7b-v1.0, которая, в свою очередь, основана на Mistral-7B-v0.1. Модель использует архитектуру MistralForCausalLM и предназначена для генерации текста в формате чата на японском языке; максимальная длина контекста составляет 4096 токенов. Модель подходит для японских чат-ботов, ответов на вопросы и генерации текста. Вес опубликован в формате Safetensors. Лицензия Apache-2.0. В карточке не описаны отдельные результаты оценки качества или специальные возможности.
fpadovani/jpn-100mb-after-wc-uniform-newlex-eng-ckpt500_seed455_seed455 — это дообученная модель генерации текста на архитектуре GPT-2, разработанная fpadovani. Она основана на fpadovani/ppt-wc-uniform-newlex-eng-100mb_seed455 и обучалась с помощью TRL. Пример в карточке показывает генерацию ответа на вопрос на английском языке. Модель предназначена для генерации коротких текстов и ответов на английском языке. Контекст составляет 512 токенов; для запуска в README приведён пример с Transformers pipeline и генерацией до 128 новых токенов. В репозитории указаны веса safetensors. Лицензия в предоставленных данных не указана.
Это диалоговая языковая модель на архитектуре Llama, дообученная разработчиком yzhuang на базе meta-llama/Llama-2-7b-chat-hf с использованием набора данных generator. Модель предназначена для генерации текста в формате общения с ассистентом. Модель содержит 6,6 млрд параметров, принимает текст и выдаёт текст. Контекст — до 4096 токенов. Репозиторий содержит веса в формате safetensors, лицензия — llama2. Название указывает на корейскую направленность, однако карточка не подтверждает языки или качество модели на корейском; базовая модель предназначена для общения на английском языке.
jnjj/LLaMa3 — дообученная модель семейства Llama на базе meta-llama/Llama-3.2-1B, подготовленная для генерации текста. Архитектура — плотная причинная языковая модель LlamaForCausalLM; в метаданных указаны 126,8 млн параметров и контекст 256 токенов. Модель работает с текстом и использует библиотеку Transformers. Карточка не описывает датасет, целевые сценарии, языки или результаты оценки, поэтому назначение модели можно определить только на общем уровне: генерация текста. Лицензия — llama3.2; применяются условия лицензии Llama 3.2.
Magnaraxy-9B — слитая модель на архитектуре Gemma 2 с 9 млрд параметров, созданная автором lodrick-the-lafted смешением 50/50 методом SLERP моделей anthracite-org/magnum-v3-9b-customgemma2 и lemon07r/Gemma-2-Ataraxy-9B. Она предназначена для генерации текста в диалогах и творческих сценариях; системные промпты, унаследованные от Magnum, также работают. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Модель распространяется в формате safetensors под лицензией Apache-2.0. README содержит пример ролевого диалога, но не приводит сравнительных оценок качества. Практическое качество ответов может зависеть от промпта и сценария использования.
Novi-Delhi-Llama-3.1-8B — дообученная языковая модель от IVentureISB на базе unsloth/tinyllama-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев. Модель построена на архитектуре Llama, имеет около 1 млрд параметров и контекстное окно 2048 токенов; для обучения использовались Unsloth и библиотека TRL. Карточка не уточняет специализацию обучения или конкретные области применения. Модель принимает текст и генерирует текст. В метаданных указан английский язык. Лицензия — Apache-2.0. Ограниченное контекстное окно и отсутствие описания обучения не позволяют оценить её качество и пригодность для узких задач.
OpenMia-Indo-Mistral-7b-v4 — разговорная модель, созданная дообучением Mistral-7B разработчиком проекта MIA на данных Alpaca для общения на индонезийском языке. Она предназначена для диалогов и генерации ответов в формате помощника; метаданные также указывают поддержку английского языка. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В README проект обозначен как находящийся в альфа-стадии; приведены результаты на отдельных тестах Open LLM Leaderboard, но они не гарантируют качество для конкретных задач. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Helsinki-NLP/opus-mt-en-afa — модель машинного перевода проекта OPUS-MT на архитектуре Transformer Marian, опубликованная под Apache-2.0. Она переводит текст с английского на несколько афразийских языков: арабские разновидности, амхарский, тигринья, сомалийский, хауса, иврит, кабильский, мальтийский, рифский и другие. Для выбора языка перевода перед текстом требуется указать специальный токен вида >>id<<. Модель содержит 56,5 млн параметров, использует нормализацию и SentencePiece с словарями spm32k и принимает контекст длиной до 512 токенов. Она ориентирована на однонаправленный перевод с английского, а не на перевод с целевых языков обратно на английский. Приведённые в карточке оценки на тестовых наборах различаются по языкам, поэтому качество может быть ограниченным и неоднородным.
HalogenFlo/phobert-vsmec-emotion-recognition — модель классификации текста, дообученная разработчиком HalogenFlo на базе vinai/phobert-base. Она предназначена для распознавания эмоций в тексте; архитектура — RoBERTa для классификации последовательностей, размер — 162,4 млн параметров, максимальная длина контекста — 258 токенов. Базовая PhoBERT ориентирована на вьетнамский язык, поэтому модель подходит для классификации вьетнамских текстов. На оценочном наборе указаны accuracy 0,6152 и F1 0,5827. Датасет, наборы меток и подробные ограничения в карточке не описаны. Модель распространяется по лицензии MIT.