III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельbergum/xtremedistil-l6-h384-go-emotion — модель классификации текста, дообученная на наборе данных GoEmotions на основе microsoft/xtremedistil-l6-h384-uncased. Она предназначена для определения эмоций в тексте и доступна для демонстрации в облачном сервисе aiserv.cloud. Модель построена на архитектуре BERT, содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Карточка не сообщает подробности о метках эмоций, языках обучения или качестве классификации, поэтому эти характеристики нельзя уточнить.
YamshadowInex12_Experiment24Inex12 — слитая модель семейства Mistral, созданная на основе automerger/YamshadowInex12-7B и automerger/Experiment24Inex12-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не уточняет целевые языки, специализацию или результаты оценки качества; пригодность для конкретных задач следует проверять отдельно.
YamshadowInex12_Experiment28Yam — объединённая модель для генерации текста, созданная на основе automerger/YamshadowInex12-7B и automerger/Experiment28Yam-7B. Она использует плотную архитектуру Mistral с причинно-языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель подходит для генерации продолжений текста и диалоговых ответов в сценариях, совместимых с text-generation; максимальный контекст составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В карточке не описаны специальные области применения, поддерживаемые языки или результаты оценки качества, поэтому её возможности за пределами генерации текста не уточняются.
YanoljaNEXT-Rosetta-27B-2511-i1-GGUF — это набор квантованных моделей в формате GGUF, созданный mradermacher на основе YanoljaNEXT-Rosetta-27B-2511 от Yanolja. Модель предназначена прежде всего для задач перевода и поддерживает арабский, болгарский, китайский, чешский, датский, нидерландский, английский, финский, французский, немецкий, греческий, гуджарати, иврит, хинди, венгерский, индонезийский, итальянский, японский, корейский, персидский, польский, португальский, румынский, русский, словацкий, испанский, шведский, тагальский, тайский, турецкий, украинский и вьетнамский языки. Базовая модель имеет размер 27 миллиардов параметров. Репозиторий содержит варианты квантования с разными требованиями к памяти и компромиссами между скоростью и качеством: от IQ1 и Q2 до Q6, с размером файлов примерно от 6,8 до 23,4 ГБ. В README рекомендуются варианты i1-Q4_K_M как быстрые и i1-Q4_K_S как оптимальные по соотношению размера, скорости и качества; низкобитные варианты могут заметно уступать по качеству. Сведения об архитектуре, модальностях и размере контекста не указаны, поэтому модель следует рассматривать как текстовую. Модель распространяется по лицензии Gemma. Для использования требуются совместимые инструменты, поддерживающие формат GGUF; конкретные требования к оборудованию зависят от выбранного варианта квантования.
rasoolfa/zephyr-7b-sft-full — диалоговая языковая модель на базе Mistral-7B-v0.1, дообученная методом supervised fine-tuning на наборе HuggingFaceH4/ultrachat_200k. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат весов safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате: она может отвечать на запросы и поддерживать беседу. В карточке указана оценка Loss 3,6477 на наборе оценки, но подробности методики и самостоятельные результаты для отдельных сценариев не приведены. Модель опубликована 7 марта 2024 года. Лицензия — Apache-2.0. Карточка не описывает специальные ограничения или области применения, поэтому качество ответов и пригодность для конкретных задач следует оценивать отдельно.
ShenaoZhang/0.0001_4iters_bs256_nodpo_only4w_iter_2 — дообученная модель семейства Mistral, созданная на основе ShenaoZhang/0.0001_4iters_bs256_nodpo_only4w_iter_1 и наборов данных updated и original. Она предназначена для генерации текста и диалогового общения; поддерживает контекст до 32 768 токенов и содержит 7,1 млрд параметров. Модель принимает текстовые запросы и выдаёт текст. Репозиторий использует формат safetensors, лицензия — MIT. README не приводит подробностей о назначении, оценке качества или ограничениях модели.
Это дообученная разговорная модель ShenaoZ на архитектуре Mistral с 7,1 млрд параметров, созданная на базе HuggingFaceH4/mistral-7b-sft-beta. Для дообучения использован датасет HuggingFaceH4/ultrafeedback_binarized; модель предназначена для генерации текста и диалогового общения. Контекст составляет до 32 768 токенов. Карточка не описывает отдельные специализированные области применения или результаты оценки качества. Модель распространяется по лицензии MIT.
Это диалоговая языковая модель Mistral с 7,1 млрд параметров, дообученная ShenaoZ на базе HuggingFaceH4/mistral-7b-sft-beta с использованием датасета HuggingFaceH4/ultrafeedback_binarized. Модель предназначена для генерации текста и общения в формате диалога; контекстное окно составляет 32 768 токенов. Модель принимает текст и генерирует текстовые ответы. Карточка не сообщает результаты оценки качества или конкретные ограничения; данные о базовой модели указывают на англоязычную направленность. Репозиторий распространяется по лицензии MIT.
Это диалоговая модель генерации текста на базе Mistral с 7,1 млрд параметров, дообученная ShenaoZ на HuggingFaceH4/ultrafeedback_binarized от базовой модели HuggingFaceH4/mistral-7b-sft-beta. Она предназначена для общения в текстовом формате и генерации ответов на запросы. Модель использует плотную архитектуру MistralForCausalLM, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors под лицензией MIT. Данных о специализированных областях применения и оценке качества нет.
Это диалоговая модель генерации текста на архитектуре Mistral с 7,1 млрд параметров, дообученная ShenaoZ на базе HuggingFaceH4/mistral-7b-sft-beta с использованием датасета HuggingFaceH4/ultrafeedback_binarized. Модель предназначена для общения в текстовом формате и генерации ответов на запросы; карточка не описывает более узкие сценарии применения. Модель принимает текст и генерирует текст, поддерживает контекст длиной до 32 768 токенов. В метаданных указана лицензия MIT. Карточка не содержит результатов оценки качества или описания известных ограничений.
Это разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров, дообученная ShenaoZhang на основе ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_userresponse_iter_2. Модель предназначена для генерации текста и ответов в диалоге; в карточке также указано обучение на обновлённом и исходном наборах данных. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Опубликована в формате safetensors под лицензией MIT. Карточка не содержит подробностей об оценке качества, рекомендуемых сценариях и известных ограничениях.
ShenaoZ/0.001_ablation_declr_4iters_iter_2 — языковая модель на архитектуре Mistral, дообученная на основе ShenaoZ/0.001_ablation_declr_4iters_iter_1 на обновлённом и исходном наборах данных. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; метаданные указывают поддержку чата и контекст длиной до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. README не приводит подробностей о специализации обучения, оценке качества или рекомендуемых сценариях применения.
Это дообученная методом DPO модель Mistral с 7,1 млрд параметров, созданная на основе HuggingFaceH4/mistral-7b-sft-beta. Она предназначена для генерации текста и диалогового общения; в качестве обучающих данных использован набор HuggingFaceH4/ultrafeedback_binarized. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии MIT. Карточка не приводит результатов оценки или дополнительных сведений о рекомендуемых сценариях и ограничениях; языковая ориентация и качество ответов отдельно не подтверждены.
Это дообученная модель Mistral с 7,1 млрд параметров, созданная на основе HuggingFaceH4/mistral-7b-sft-beta. Согласно карточке, её дообучили на обновлённом и исходном наборах данных; подробности о данных и оценке не приведены. Модель предназначена для генерации текста и общения в чате. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Метаданные описывают базовую модель как ориентированную на англоязычные синтетические диалоги, ответы на вопросы и общение; отдельных сведений о языковой специализации этого чекпойнта нет. Модель распространяется в формате safetensors по лицензии MIT. Карточка не сообщает результаты оценки, поэтому качество для конкретных сценариев по имеющимся данным определить нельзя.
ShenaoZ/0.01_withdpo_4iters_bs256_5102lr_misit_iter_2 — дообученная разговорная модель семейства Mistral, созданная на основе ShenaoZ/0.01_withdpo_4iters_bs256_5102lr_misit_iter_1. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает текст для генерации текста; заявленный контекст — 32 768 токенов. Модель обучена с использованием DPO на исходном и обновлённом датасетах. Она предназначена для генерации ответов в диалоговом формате. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не приводит результатов оценки, подробного описания данных или конкретных ограничений.
Это экспериментальная чат-модель Shenao Zhang на архитектуре Mistral с 7,1 млрд параметров. Она получена дообучением HuggingFaceH4/mistral-7b-sft-beta на обновлённом и исходном наборах данных; модель предназначена для генерации текста и диалоговых ответов. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors по лицензии MIT. README не сообщает подробностей о тренировочных данных, оценке качества и ограничениях применения.
DollarCoderX air-nano-v0.1 — дообученная компактная языковая модель семейства Qwen2 для генерации текста и диалогов. Она основана на unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit и содержит 1,5 млрд параметров; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель подходит для генерации ответов и ведения диалога на английском языке. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors; заявлена поддержка интерфейса вызова инструментов. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения и не приводит оценки качества, поэтому пригодность для конкретных предметных задач не подтверждена.
AkaLlama-llama3-70b-v0.1 — языковая модель Yonsei MIRLab для генерации текста и диалогового общения на корейском и английском языках. Это плотная авторегрессионная модель семейства Llama 3 с архитектурой LlamaForCausalLM и 69,5 млрд параметров; она дообучена на смеси общедоступных наборов данных, отобранных лабораторией MIR Lab, на основе meta-llama/Meta-Llama-3-70B-Instruct. Модель предназначена для практических задач, включая ответы на вопросы, диалоги, создание историй и редактирование текстов. Веса доступны в формате Safetensors для Transformers, контекст — до 8192 токенов. Карточка приводит результаты оценки на LogicKor: средняя оценка 7,04 по трём случайным сида́м. Разработчики предупреждают, что ответы могут быть неточными, предвзятыми или плохо согласованными с запросом; качество зависит от системного промпта и параметров генерации, поэтому модель требует проверки для конкретного применения. В метаданных указана лицензия other, а карточка README называет лицензию llama3.
DreadPoor/Alita99-8B-LINEAR — объединённая диалоговая языковая модель, созданная методом linear merge с помощью mergekit. В объединение вошли DreadPoor/LemonP_ALT-8B-Model_Stock, DreadPoor/Heart_Stolen-8B-Model_Stock и DreadPoor/Aspire_1.3-8B_model-stock вместе с grimjim/Llama-3-Instruct-abliteration-LoRA-8B. Модель основана на архитектуре Llama, содержит 7,5 млрд параметров и предназначена для генерации текста и диалоговых ответов. Заявленная длина контекста — 131 072 токена. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0. README приводит результаты оценки на IFEval и BBH, однако подробности сценариев применения и результаты по остальным метрикам не раскрыты.
Alphallama3-8B_v2 — дообученная модель генерации текста на архитектуре Llama, разработанная Alphacode-AI на основе Meta-Llama-3-8B. Она предназначена для диалогового взаимодействия и генерации текста; для обучения использовались внутренние пользовательские данные, DeepSpeed, Hugging Face TRL Trainer и Accelerate. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекст длиной до 8192 токенов. В карточке указан корейский язык. Модель распространяется в формате safetensors по лицензии Llama 3. Качество и ограничения дообучения на внутренних данных отдельно не описаны.
Arco Reasoner v1.3 — компактная плотная языковая модель семейства Llama, разработанная appvoid и дообученная на appvoid/arco-interpreter-v1.2. Модель предназначена для генерации текста и диалогов на английском языке; заявленный сценарий рассуждений отражён в названии, но карточка не приводит отдельных оценок или описания специализированных возможностей. Модель содержит 464,4 млн параметров, принимает текст и генерирует текст. Нативная длина контекста составляет 8192 токена. Для обучения использовались Unsloth и библиотека TRL из экосистемы Hugging Face; веса доступны в формате PyTorch. Лицензия — Apache-2.0.
Atlantum-12B-v1 — объединённая языковая модель от GalrionSoftworks, созданная с помощью LazyMergekit из invisietch/Atlantis-v0.1-12B и anthracite-org/magnum-12b-v2. Веса объединены методом TIES с нормализацией; архитектура — плотная Mistral, размер — 12,1 млрд параметров. Модель предназначена для генерации текста и чат-диалогов. В состав входит Atlantis-v0.1-12B, описанная как модель для ролевых диалогов и написания историй. Длина контекста в метаданных указана как 1 024 000 токенов. Репозиторий содержит веса Safetensors, а конфигурация слияния задаёт тип данных bfloat16. Лицензия и поддерживаемые языки в предоставленных материалах не описаны.
Barcenas-6b — разговорная языковая модель, созданная разработчиком Danielbrdz на основе Deci/DeciLM-6b-instruct и дообученная на дополнительном наборе данных для улучшения режима чата. Модель построена на архитектуре Llama и содержит 6,6 млрд параметров; она предназначена для генерации текста и диалоговых ответов. Модель принимает текст и выдаёт текст. Контекст составляет до 4096 токенов. В метаданных указан английский язык и лицензия Llama 2. Карточка не описывает состав обучающего набора данных или результаты оценки качества, поэтому возможности за пределами общего диалогового применения оценить нельзя.
Barcenas-Mistral-7b — дообученная модель семейства Mistral, созданная Danielbrdz на основе teknium/CollectiveCognition-v1-Mistral-7B. Модель предназначена для генерации текста; при дообучении использовались испаноязычные данные из набора Danielbrdz/Barcenas-lmsys-Dataset, основанного на lmsys/lmsys-chat-1m. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Для запуска доступны веса в формате PyTorch. Метаданные указывают поддержку английского и испанского языков; обучение на испанских данных делает испанский особенно релевантным сценарием использования. Модель можно применять для генерации ответов и диалогового текста на английском и испанском языках. Карточка не приводит результатов оценки качества или подробных ограничений; распространение указано по лицензии Apache-2.0.
Sumail/Barista43 — объединённая автором модель для генерации текста и диалогов. Она создана с помощью mergekit методом SLERP из coffie3/sx3 и coffie3/sx2; архитектура — плотная StableLM для авторегрессионной генерации текста. Модель содержит 1,4 млрд параметров, принимает текст и поддерживает контекст до 4096 токенов. Модель подходит для генерации продолжений текста и ведения текстовых диалогов. В карточке не описаны специальные предметные области или отдельные языки. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии отсутствуют в предоставленных данных.
Beetle-FineWeb2-24B/beetle-bilingual-balanced-b1-fineweb-spa-eng — текстовая авторегрессионная модель семейства PicoDecoder, опубликованная в Hugging Face под аккаунтом Beetle-FineWeb2-24B. По названию она предназначена для генерации текста на испанском и английском языках и обучена на данных FineWeb; точное число параметров, длина контекста, лицензия и сведения о разработчике по доступным данным не подтверждены. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Данных о специальных ограничениях модели нет.
llm-book/bert-base-japanese-v3-wrime-sentiment — японскоязычная модель классификации текста, опубликованная проектом llm-book. Она дообучена на базе cl-tohoku/bert-base-japanese-v3 и предназначена для анализа тональности японских текстов. Модель использует архитектуру BERT с 12 слоями, 12 attention-головами, скрытым размером 768 и примерно 138,4 млн параметров. Это одномодальная текстовая модель с контекстом до 512 токенов, работающая через Transformers и PyTorch. Она классифицирует входной текст по двум классам: positive и negative. Модель подходит для автоматической оценки тональности японских отзывов, сообщений и других коротких текстов. Она не предназначена для генерации текста, поддержки нескольких языков или анализа контекстов длиннее 512 токенов. Сведения о лицензии в использованных источниках не установлены.
BERT-base-uncased, дообученная Bhadresh Savani на наборе данных emotion с помощью Hugging Face Trainer для классификации эмоций в тексте. Модель содержит 136,7 млн параметров, использует архитектуру BertForSequenceClassification и принимает последовательности длиной до 512 токенов. Доступны версии в форматах PyTorch, TensorFlow и Flax, включая веса Safetensors. Модель предназначена для определения эмоциональной категории в тексте, в том числе в сообщениях Twitter. В сравнении на наборе emotion из Twitter в README указаны accuracy 94,05 и F1 94,06; это результаты на указанном наборе и они не гарантируют аналогичного качества на других данных. Модель рассчитана на английский язык. Лицензия — Apache-2.0.
BLOSSOM-v2-llama2-7b — диалоговая языковая модель, разработанная командой Blossom на основе предобученной Llama-2-7b. Модель содержит 6,6 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 4096 токенов. Модель дообучена в два этапа на смесях инструкционных и диалоговых данных Wizard, Dolphin и Blossom, включая набор для математических диалогов. Она предназначена для ответов на вопросы и ведения одно- и многоходового диалога; взаимодействие оформляется как продолжение текста с шаблоном ролей Human и Bot. Метаданные указывают китайский и английский языки. В README отмечено, что у базовой Llama-2-7b ограничены знания китайского языка, и для китайских сценариев рекомендуется вариант на Baichuan. Модель распространяется в формате PyTorch по лицензии Apache-2.0.
BLOSSOM-v5.1-34b — разговорная большая языковая модель, созданная командой Blossom на основе предобученной Yi-1.5-34B. Это плотная модель семейства Llama с 33,9 млрд параметров, предназначенная для генерации текста в формате продолжения диалога. Она дообучена в два этапа на смешанных наборах Blossom Chat, Math, Wizard и Orca: сначала на одноходовых инструкциях, затем на многоходовых диалогах. Модель рассчитана на китайский и английский языки и поддерживает контекст до 4096 токенов. Она подходит для диалоговых помощников, ответов на вопросы и решения математических задач. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Качество ответов может зависеть от языка и формулировки запроса; README не приводит количественных результатов оценки.