III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельVirtuoso-Small — компактная генеративная языковая модель Arcee.ai с 14 млрд параметров, созданная на базе Qwen2.5-14B. Она предназначена для выполнения инструкций, рассуждений и бизнес-задач, включая поддержку клиентов, создание контента и техническую помощь. Модель использует плотную архитектуру Qwen2 и поддерживает контекст до 131 072 токенов, а также интерфейс чата и вызова инструментов. Доступны локальное развертывание и доступ через API; в карточке также указана возможность получить версию GGUF. Модель распространяется по лицензии Apache-2.0.
Mistral-7B-Customer-Support — разработанная Bitext модель Mistral 7.1B параметров, дообученная на диалогах клиентской поддержки на базе mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для ответов на вопросы и помощи с типовыми операциями поддержки, например управлением заказами, счетами, платежами, возвратами и учетными записями. Модель можно использовать как основу для чат-ботов, виртуальных помощников и copilots, а затем адаптировать под данные конкретной организации. Модель использует архитектуру MistralForCausalLM и принимает текстовые запросы, выдавая текстовые ответы в диалоговом формате. Контекст составляет до 32 768 токенов. Обучение проводилось на 26 872 парах вопросов и ответов с примерами по 27 намерениям; карточка описывает задачи клиентской поддержки, но не заявляет конкретные поддерживаемые естественные языки. Лицензия — Apache-2.0. Модель специализирована на клиентской поддержке и может работать хуже за пределами этой области. Карточка не рекомендует использовать её для общих диалогов, медицинских, юридических или критически важных советов; возможны смещения, присущие обучающим данным.
Mistral-Lora-Adapter-CS-Slerp — объединённая модель на основе Mistral-7B-Instruct-v0.2 и Mistral-7B-v0.1+predibase/customer_support, созданная Arcee AI с помощью mergekit методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста в диалогах и ответов на инструкции, в том числе на запросы службы поддержки. Модель принимает текст и выдаёт текст; контекст — до 32 768 токенов. Объединение сочетает инструкционную диалоговую модель с вариантом, настроенным для поддержки клиентов. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0. Языковая поддержка в предоставленных данных не перечислена.
Pardhiv17/bizinsight-complaint-embedder — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2 для кодирования текстов обращений в плотные векторы. Она принимает предложения и короткие абзацы, формирует 768-мерные эмбеддинги и сравнивает их по косинусному сходству; архитектура включает MPNet, усредняющий pooling и нормализацию. Модель подходит для семантического поиска и сопоставления жалоб, например для поиска похожих обращений в базе знаний или группировки сообщений по смыслу. Обучение проведено на 5 000 примерах с BatchHardTripletLoss. Максимальная длина последовательности в README — 384 токена; в метаданных указано нативное окно контекста 514 токенов. Модель обрабатывает текст и возвращает векторы, не предназначена для генерации ответов. Лицензия в предоставленных данных не указана.
Customer-Support-Clown-Extended — объединённая модель генерации текста семейства Mistral, опубликованная arcee-ai. Она создана с помощью mergekit методом SLERP на основе arcee-ai/Clown-DPO-Extended и модели mistralai/Mistral-7B-v0.1+predibase/customer_support; в конфигурации указана точность bfloat16. Модель предназначена для генерации ответов в сценариях клиентской поддержки и диалогового общения с клиентами. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий использует формат safetensors. Доступна по лицензии Apache-2.0. Карточка не приводит сведений о поддерживаемых естественных языках или ограничениях качества.
adaptive-classifier/escalation-detection — адаптивный классификатор текста для выявления срочных обращений. Модель разработана на основе answerdotai/ModernBERT-base и различает два класса: normal и urgent. В карточке указаны 10 примеров обучения, поровну для каждого класса, и размерность эмбеддингов 768. Классификатор предназначен для сортировки текстовых обращений по срочности. Он поддерживает непрерывное обучение и добавление классов; прототипы обновляются каждые 10 примеров. Для каждого класса требуется не менее трёх примеров, а максимальное число примеров на класс — 150. Модель распространяется по лицензии Apache-2.0.
GLiNER2.5-multi-Decide — мультиязычная модель классификации Fastino из семейства GLiNER2.5, дообученная на базе fastino/gliner2.5-multi-v1. Она принимает текст и заданный при вызове набор меток, а затем в одном проходе оценивает несколько задач классификации. Размер модели — 287 млн параметров; веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для операционной маршрутизации и принятия решений по тексту: определения намерения, тональности, приоритета, темы, типа документа, команды-получателя, необходимости передать диалог человеку, а также модерации и оценки срочности. Подходит для многоязычного текста; для одной метки возвращает один класс, а для многометочной классификации — метки, прошедшие порог. Заданный набор меток можно менять, в том числе добавлять к ним описания. Для локального использования README рекомендует загрузку через AutoExtractor. Это специализированный классификатор: он не предназначен для рассуждений, объяснений или ответов на открытые вопросы и не генерирует текстовые токены. В README приведён англоязычный бенчмарк, поэтому его результат не следует считать оценкой качества на других языках. Модель опубликована под лицензией Apache-2.0.
MFAQ — многоязычная модель для поиска ответов на часто задаваемые вопросы, разработанная Maxime De Bruyn, Ehsan Lotfi, Jeska Buhmann и Walter Daelemans. Она обучена на наборе данных MFAQ и ранжирует варианты ответов по соответствию заданному вопросу. Модель основана на XLM-RoBERTa, содержит 305,3 млн параметров и принимает текстовые вопросы и кандидаты ответов для вычисления их семантической близости. Её можно использовать через Sentence Transformers или Hugging Face Transformers; доступны веса PyTorch и TensorFlow. Контекст — до 514 токенов. Подходит для построения многоязычного поиска по FAQ и выбора наиболее релевантного ответа из подготовленного набора. Поддерживаемые языки включают чешский, датский, немецкий, английский, испанский, финский, французский, иврит, хорватский, венгерский, индонезийский, итальянский, нидерландский, норвежский, польский, португальский, румынский, русский, шведский и турецкий. Лицензия — Apache-2.0.
Mistral-Hermes-Support-Ties — объединённая модель на архитектуре Mistral, созданная с помощью mergekit методом TIES на основе Mistral-7B-Instruct-v0.2, модели для поддержки клиентов и Nous-Hermes-2-Mistral-7B-DPO. Она предназначена для генерации текста в диалогах и ответов на запросы службы поддержки. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. В конфигурации слияния указана точность float16. Модель рассчитана на сценарии, где нужны ответы клиентам и общение по инструкциям. Карточка указывает лицензию Apache-2.0. Конкретные языки и результаты оценки качества в доступных данных не описаны.
Multilingual Zero-Shot Classifier small — модель Horizon Labs для классификации текста по произвольным категориям без отдельного обучения на этих категориях. Это дообученная на задачах распознавания текстового следования модель семейства ModernBERT на базе jhu-clsp/mmBERT-small; она насчитывает 140,5 млн параметров. Модель принимает текст и сравнивает его с формулировками кандидатных меток, оценивая, следует ли гипотеза из текста. Также поддерживается NLI-сценарий с парой текстов. Модель рассчитана на классификацию тем, намерений, тональности и других категорий на более чем 30 языках. В карточке заявлено окно контекста до 8192 токенов, хотя дообучение проводилось на последовательностях длиной до 1024 токенов. Метки и шаблоны гипотез на английском языке обычно дают лучшие результаты, но можно использовать формулировки на языке исходного текста. В репозитории доступны веса Safetensors и ONNX для запуска, в том числе на CPU и в браузере. Точность зависит от формулировок меток и шаблона: широкие категории могут выигрывать у узких, а близкие по смыслу классы — смешиваться. На языках с меньшим объёмом обучающих данных качество ниже; для некоторых англоязычных задач специализированные модели могут быть точнее. Обучение включает синтетические и машинно переведённые данные. Лицензия — Apache-2.0; карточка заявляет, что использованные данные допускают коммерческое применение.
Saadhyam Context-Aware Email Generator — дообученная модель Google FLAN-T5-small от автора репозитория mentneo для генерации профессиональных писем по запросу с учётом аудитории, контекста и типа письма. В качестве входных данных используются аудитория, контекст, тип письма и запрос пользователя; предусмотрены сценарии для кандидатов, клиентов, сотрудников, студентов и общей аудитории, а также для поддержки клиентов, образования, рекрутинга и рабочего общения. Модель построена на архитектуре T5 и содержит 45,8 млн параметров. Она рассчитана на английский язык и имеет контекст длиной до 512 токенов. Модель представлена в формате Safetensors; для запуска используется библиотека Transformers. В карточке приведены результаты оценки на тестовых примерах Saadhyam: совместимость с контекстом составила 94,17%, а в проверках генерации на тестовых сценариях заявлены полнота вывода и соответствие шаблону. Эти показатели получены на данных разработки и не гарантируют качество на новых производственных запросах. Лицензия в предоставленных данных не указана.
Adaptive Classifier — классификатор обращений в поддержку с возможностью непрерывного обучения и добавления новых классов. Он основан на answerdotai/ModernBERT-base и предназначен для отнесения текста обращения к одной из категорий: account, billing, general_inquiry или technical. В карточке указаны 4 класса, 20 примеров и размерность эмбеддингов 768; модель распространяется в формате safetensors и использует библиотеку adaptive-classifier. Модель подходит для первичной маршрутизации обращений и может адаптироваться по мере накопления размеченных примеров. Для каждого класса требуется не менее 3 примеров, максимальный объём составляет 150 примеров на класс; прототипы обновляются каждые 10 примеров. Лицензия — Apache-2.0. Метаданные помечают модель как мультиязычную, но конкретные языки не перечислены.
Tanpo Retention — компактная языковая модель автора d4rkninja для задач удержания клиентов и customer success. Это дообученная и объединённая с базовыми весами модель LiquidAI/LFM2.5-1.2B-Instruct: плотная архитектура LFM2, около 1,5 млрд параметров по метаданным и контекст до 128 000 токенов. Модель принимает текст и генерирует текст; в карточке указан английский язык. Она предназначена для подготовки планов адаптации и активации клиентов, анализа сигналов риска оттока, подготовки продлений, возврата ушедших клиентов, расширения сотрудничества и эскалаций. Может структурировать рекомендации по сигналам, диагнозу, ответственному, срокам и следующему шагу; рассчитана на локальный и недорогой запуск. Внутренняя автоматическая оценка автора показывает преимущество над базовой моделью, но результаты не являются отраслевым бенчмарком и не гарантируют качество в реальных сценариях. Модель специализирована на удержании клиентов: её качество может снижаться за пределами этого распределения, а небольшой размер ограничивает знания и сложные рассуждения. Рекомендации о клиентах и продлениях следует проверять по достоверным данным, а коммуникации и значимые решения — оставлять на проверку человеку. Лицензия указана как other; конкретные условия использования в предоставленных данных не раскрыты.
ClokCEM (Customer Executive Model) — языковая модель, разработанная для поддержки клиентов. По README, модель обучена с нуля на 21 подборке данных о клиентской поддержке; метаданные указывают 351,1 млн параметров и лицензию Apache-2.0. Это авторегрессионный трансформер с архитектурой GQA, SwiGLU, RMSNorm и RoPE, доступный в формате Safetensors и рассчитанный на контекст до 1 024 токенов. Модель предназначена для генерации ответов в диалогах с клиентами, классификации намерений по 27 категориям и оценки качества ответа. README также описывает модуль, который выдаёт оценку числа шагов рассуждения и уверенности в качестве ответа. Подходит для сценариев автоматизации службы поддержки и обработки многоходовых диалогов. README сообщает о преимущественной ориентации на английский язык и частичной поддержке индийских языков. К ограничениям относятся короткий контекст, неоднозначность классификации пересекающихся намерений и возможность генерации недостоверных сведений; для неанглоязычного применения могут потребоваться дополнительные обучение и проверка. Условия использования — лицензия Apache-2.0.
GLiNER2.5-Decide-1B — специализированная модель Fastino для классификации текстов по наборам меток, которые задаются при вызове. Это дообученная версия fastino/gliner2-xl-0111 семейства GLiNER2; модель оценивает несколько задач классификации за один проход и возвращает метки без генерации текста. Поддерживаются одно- и многометочная классификация, включая определение намерения, тональности, темы, приоритета, типа документа и решения по политике. Модель предназначена для операционных сценариев: маршрутизации обращений и писем, модерации, анализа отзывов и сортировки запросов. В README приведён результат 59,6% средней exact-match accuracy на англоязычном наборе fastino/fast-decisions из 17 областей. Модель не предназначена для свободных ответов, рассуждений или объяснений; карточка рекомендует мультиязычную версию для многоязычных входных данных. Распространяется по лицензии Apache-2.0.
LFM2-1.2B-RAG — компактная плотная языковая модель Liquid AI, дообученная на основе LiquidAI/LFM2-1.2B для генерации ответов по предоставленным контекстным документам в системах RAG. Она подходит для чат-ботов по документации продуктов, внутренних баз знаний и многошаговых диалогов о научных статьях и учебных материалах. Модель поддерживает диалоговый шаблон в стиле ChatML и контекст до 128 000 токенов; для генерации разработчик рекомендует жадное декодирование с temperature=0. Модель обучена на более чем миллионе примеров многошаговых диалогов и взаимодействий с несколькими документами. Поддерживаемые языки: английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский. В метаданных указана лицензия other; конкретные условия следует уточнять в карточке модели.
Модель разработана Vishan Oberoi и Dev Chandan как англоязычная чат-модель Llama 2 с 7 млрд параметров, дообученная на вопросах и ответах по внутренним данным компании. Она предназначена для диалоговых сценариев, где нужно формировать ответы на вопросы с учётом корпоративной информации, например для FAQ и поддержки клиентов. Модель дообучена методом QLoRA с использованием PEFT; адаптеры объединены с базовой моделью, после чего веса квантованы в формат GGUF. В README приведён пример использования с контекстом до 6000 токенов. Лицензия — MIT.
TinyJev-0.6B — компактная модель AnkitAI для выбора и оценки предложенных вариантов по текстовому описанию состояния, обращения или записи. Она возвращает вероятности вариантов, заданных пользователем, вместо генерации свободного ответа: поддерживает выбор из списка, оценку истинности утверждения и оценку по упорядоченной шкале. Это позволяет использовать её для типизированных решений и передачи низкоуверенных случаев человеку или более крупной модели. В основе — плотная Qwen3-0.6B-Base примерно с 508 млн параметров; к ней добавлена pointer head для оценки вариантов. Модель дообучена на jaredpalmer/kev-suites, а при выводе применяется калибровочная температура. Она принимает текст и выдаёт оценки вероятностей. Контекст — до 32 768 токенов; README описывает запуск через MLX на Apple Silicon или PyTorch, в том числе офлайн. В README приведены результаты на наборах задач выбора и оценки уверенности, а также измерения задержки на Apple M1; эти результаты относятся к указанным тестам и конфигурациям. Автор предупреждает, что на структурированном числовом состоянии ответы могут слабо зависеть от входа, а игровая демонстрация включает отдельный маршрутизатор и обычный код. Лицензия — MIT.
Clef-Flash — мультимодальная модель на 9 млрд параметров, разработанная Cloudflare и дообученная на основе Qwen/Qwen3.5-9B. Она оценивает ситуацию и набор типизированных вопросов, а затем за один проход выдаёт вероятности допустимых ответов: «да/нет», выбор из вариантов или оценку по упорядоченной шкале. Модель не генерирует произвольный текст; выходные оценки формируются совместной схемной головой, которая связывает свидетельства из входных данных с вопросами. На вход модель принимает текст, JSON, изображения и видео; текстовые и мультимодальные записи можно объединять в одном пакете. Для текстового ввода максимальная длина по умолчанию составляет 16 384 токена, а границу для описания ситуации можно задавать отдельно. Модель предназначена для структурированных решений, классификации и оценивания, в том числе в бизнес-процессах и сценариях выбора действий. Она совместима с API Jev и SystemOne и распространяется под лицензией Apache-2.0. Ограничение модели — ответы возможны только в рамках заданных вопросов и допустимых вариантов, поэтому она не подходит для свободного диалога или генерации произвольных объяснений. Качество зависит от формулировок вопросов, описаний вариантов и входных данных; обработка изображений и видео требует соответствующего мультимодального процессора.
CS-Calme-Instruct-7b — объединённая чат-модель, созданная Arcee AI с помощью mergekit из MaziyarPanahi/Calme-7B-Instruct-v0.1.1 и модели Mistral-7B-v0.1, дообученной Predibase для поддержки клиентов. Слияние выполнено методом SLERP с настройками для слоёв self-attention и MLP. Модель предназначена для генерации текста в диалоге, в частности для ответов на обращения клиентов и ведения разговоров в формате инструкций. Она основана на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории размещены веса Safetensors. Модель распространяется по лицензии Apache-2.0. Данные карточки не описывают качество на конкретных тестах или поддерживаемые естественные языки, поэтому пригодность для конкретных языков и сценариев поддержки следует проверять отдельно.
Customer-Support-Clown-7b — объединённая текстовая генеративная модель, созданная с помощью mergekit. В неё вошли CorticalStack/pastiche-crown-clown-7b-dare-dpo и mistralai/Mistral-7B-v0.1+predibase/customer_support; для объединения использован метод SLERP. Архитектура — плотная MistralForCausalLM семейства Mistral, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста в сценариях клиентской поддержки, унаследованных от одной из объединённых моделей. Она принимает текст и выдаёт текст. Карточка не сообщает о поддерживаемых естественных языках или результатах оценки качества. Распространяется по лицензии Apache-2.0.
Moritz Laurер разработал MoritzLaurer/deberta-v3-base-zeroshot-v1 для классификации текста без примеров с помощью конвейера Hugging Face zero-shot-classification. Модель на основе DeBERTa-v3 содержит 211,6 млн параметров и принимает текст вместе с кандидатными категориями, заданными в виде гипотез; она оценивает, следует ли гипотеза из текста. Этот подход позволяет формулировать разные задачи классификации через проверку категорий-кандидатов. Модель обучена на смеси 27 задач и 310 классов: примерно 400 тыс. текстов из задач классификации и 885 тыс. примеров из наборов данных NLI. В отличие от трёхклассовых моделей NLI, она предсказывает два класса: entailment и not_entailment. Контекст ограничен 512 токенами, основной указанный язык — английский. Весы доступны в форматах PyTorch и Safetensors по лицензии MIT. Модель предназначена только для классификации текста. Результаты могут наследовать смещения обучающих наборов; README рекомендует учитывать возможные предубеждения в исходных данных. Для работы с DeBERTa-v3 могут потребоваться Transformers версии 4.13 или новее.
GLiClass-Edge v3.0 for LiteRT — компактная модель Knowledgator для классификации текста по заданным категориям без предварительного обучения на этих метках. Она основана на 10-слойном энкодере ModernBERT с 32,7 млн параметров и принимает текст вместе максимум с 25 кандидатами-метками, оценивая их за один проход. В этой версии модель преобразована в формат LiteRT; доступны графы для последовательностей длиной до 128 и 256 токенов, а также вариант с весами float16. Модель предназначена для одно- и многометочной классификации: например, для распределения обращений по категориям или назначения меток пользовательскому тексту. Порог многометочного режима настраивается. README описывает проверенные сценарии запуска на CPU и GPU через LiteRT, включая Android; результаты сравнивались с официальным конвейером GLiClass на тестовых запросах. Репозиторий содержит граф модели, а токенизацию, подготовку входов и декодирование результатов выполняет host-код. Модель принимает и выдаёт текстовые данные в смысле задачи классификации: на вход подаются текст и список меток, на выходе — метки с оценками. Поддерживаемый в карточке язык — английский. Лицензия — Apache-2.0. Для каждого запроса допускается не более 25 меток и 256 токенов; более длинный запрос вызывает ошибку, усечения нет. Вариант с весами float16 изменил два ответа из 552, оба случая были близки к равенству оценок.
GODEL-v1_1-large-seq2seq — крупная предварительно обученная модель для целевых диалогов, разработанная Microsoft. Она построена на архитектуре Transformer encoder-decoder семейства T5 и предназначена для генерации ответов с учётом контекста беседы и внешней текстовой информации, например найденного документа. Модель можно дообучать на небольшом наборе диалогов под конкретную задачу. Версия 1.1 обучалась на 551 млн многоходовых диалогов Reddit и 5 млн диалогов с инструкциями и опорой на знания. Модель содержит 385,2 млн параметров, принимает и генерирует текст, поддерживает контекст до 512 токенов и рассчитана на диалоговые сценарии. В карточке указана лицензия MIT.
LFM2-24B-A2B — универсальная инструктивная языковая модель компании Liquid AI из семейства LFM2, предназначенная для локального развёртывания на устройствах и компьютерах. Это гибридная архитектура MoE с 24 млрд параметров, из которых активны около 2,3 млрд на токен; в метаданных указано 3,4 млрд параметров. Модель имеет 40 слоёв: 30 сверточных и 10 attention-слоёв, поддерживает контекст до 128 000 токенов и работает через Transformers. Для хранения весов используется safetensors. Модель подходит для диалогов, вызова инструментов, локальных RAG-систем, суммаризации документов и ответов на вопросы. Её можно использовать для приватных сценариев на собственном оборудовании, включая поддержку клиентов и многошаговые агентные процессы. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Разработчик не рекомендует модель для программирования; она не использует цепочки рассуждений в ответах. Лицензия обозначена как other, поэтому конкретные условия использования следует сверить с карточкой репозитория.
LightDec_Arthur — небольшая калиброванная модель принятия решений от Falcons.ai, обученная с нуля на смеси FalconDec_V2. Она принимает состояние в виде текста, например письмо, обращение, трассу агента, журнал или запись JSON, типизированный вопрос и закрытый набор вариантов, а затем за один проход выбирает вариант и возвращает вероятности. Модель использует байтовый рекурсивный энкодер с взаимодействием вариантов, содержит около 12,3 млн параметров и не имеет предварительно обученной основы или токенизатора. Модель предназначена для классификации намерений, маршрутизации обращений, бинарных проверок вроде выявления jailbreak-промптов, сопоставления кода и порядковой оценки состояний. Она поддерживает выбор из нескольких вариантов, ответы «да/нет» и ранжированную шкалу оценок. Калиброванная вероятность позволяет задавать порог уверенности и передавать сомнительные случаи человеку или более крупной модели. Это не генеративная модель: она выбирает только из переданных вариантов и не создаёт свободный текст. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README сообщает о компромиссе между размером и точностью относительно LightDec_V2; приведённый показатель точности относится к описанному тесту и порогу уверенности. Для самостоятельного запуска репозиторий пока не содержит отдельного загрузчика: определение модели, сборка входа и температурная калибровка находятся в обучающем ноутбуке.
RayNene/Loop-DFS-Qwen-Merged — диалоговая инструктивная языковая модель для общения с клиентами LOOP DFS Kenya и поддержки финансовых сервисов. Это дообученная версия Qwen2.5-7B-Instruct от RayNene с плотной архитектурой Qwen2 и 7,1 млрд параметров; модель работает через Transformers и принимает текстовые запросы, выдавая текстовые ответы. Контекстное окно составляет 32 768 токенов, а карточка указывает английский язык. Модель предназначена для ответов на вопросы клиентов и ведения диалога в контексте сервиса LOOP DFS. В README приведён пример вопроса о руководителе LOOP DFS Kenya и описана загрузка системного промпта из репозитория для формирования ответов ассистента. Заявленная лицензия — MIT.
Radiantloom Support Assist 7B — языковая модель Radiantloom AI для автоматизации клиентской поддержки. Это дообученная на 3 000 специально подготовленных примерах версия Zephyr-7B-Beta с архитектурой Mistral и 7,1 млрд параметров. Модель принимает текст и генерирует текст; в метаданных указан контекст до 32 768 токенов. README приводит длину контекста 4 096 токенов, поэтому фактический предел может зависеть от конфигурации модели. Модель предназначена для чат-ботов центров поддержки и диалогов в сценариях RAG, в том числе для B2B SaaS, электронной коммерции и корпоративных или персональных сайтов. Карточка указывает английский язык. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0. Разработчик отмечает, что модель уступает более современным и крупнее предобученным моделям в общих задачах. Она может выдавать фактически неверные, предвзятые, непристойные или оскорбительные ответы, поэтому перед запуском требуется оценка качества и безопасности.
TalkTix разработала модель классификации обращений в службу поддержки по четырём уровням приоритета: низкий, средний, высокий и очень высокий. Это RoBERTa для классификации последовательностей на базе PyTorch с 151,8 млн параметров и контекстом до 514 токенов. Модель обучена на сбалансированном наборе из 28 000 анонимизированных обращений клиентов. Модель предназначена для сортировки входящих запросов и помощи в определении очерёдности их обработки. В описании приведена оценка по матрице ошибок и кривой обучения: модель хорошо распознаёт высокий приоритет, но путает низкий со средним и испытывает сложности с разделением очень высокого приоритета от других классов. Небольшой рост ошибки на валидации может указывать на начальное переобучение. Поддерживается английский язык. Лицензия — MIT.
TalkTix разработала модель классификации обращений в службу поддержки по девяти категориям корпоративных сервисов: SAP ERP, Atlassian, Adobe, Salesforce, Reporting, Microsoft Power Platform, Microsoft SharePoint, Snowflake и Microsoft Office. Это дообученная RoBERTa-base с архитектурой RobertaForSequenceClassification, содержащая 151,8 млн параметров. Модель принимает текст и возвращает класс обращения; для интерпретации меток LABEL_0–LABEL_8 нужно использовать соответствие категорий из карточки модели. Модель обучена на сбалансированном наборе из 28 000 обезличенных запросов и рассчитана на маршрутизацию клиентских обращений к нужной команде или сервису. В приведённой оценке хорошо распознаются, например, Atlassian и Snowflake, но обращения категории Reporting часто ошибочно относятся к Salesforce. Контекст составляет 514 токенов. Лицензия — MIT.