III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельzelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.75 — объединённая методом SLERP языковая модель на архитектуре Gemma 2, созданная с помощью mergekit из recoilme/recoilme-gemma-2-9B-v0.4 и lemon07r/Gemma-2-Ataraxy-v2-9B. Модель содержит 9 млрд параметров, использует формат safetensors и предназначена для генерации текста в диалогах и при выполнении инструкций; поддерживает контекст до 8192 токенов. Сценарии применения включают диалоговые ассистенты и творческую генерацию текста. В README приведены результаты Open LLM Leaderboard: 72,08 на IFEval и 42,49 на BBH; эти показатели характеризуют отдельные тесты и не гарантируют качество для любых запросов. Лицензия в доступных данных не указана.
Riva-Translate-4B-Instruct — модель машинного перевода NVIDIA на архитектуре decoder-only Transformer, дообученная для перевода между 12 языками и региональными вариантами: английским, немецким, европейским и латиноамериканским испанским, французским, бразильским португальским, русским, упрощённым и традиционным китайским, японским, корейским и арабским. Модель содержит 3,9 млрд параметров; её основа — Mistral-NeMo-12B-Base, сжатая pruning и дистилляцией, после чего модель прошла многоэтапные CPT и SFT. Используются токенизатор tiktoken и контекст до 8192 токенов. Модель предназначена для перевода текстов с помощью инструкций и рекомендованного шаблона диалога System/User/Assistant. Она может применяться в пользовательских и прикладных сценариях перевода между поддерживаемыми языками. Качество зависит от предметной области, контекста и характеристик входного текста; возможны грамматические и смысловые ошибки. Для использования необходимо соблюдать условия NVIDIA Open Model License Agreement.
RuadaptQwen2.5-14B-Instruct — инструктивная русскоязычная адаптация Qwen2.5-14B от RefalMachine. Авторы заменили токенизатор, выполнили дополнительное предобучение на русскоязычном корпусе и применили метод Learned Embedding Propagation (LEP). Модель относится к плотной архитектуре Qwen2 и содержит 14 млрд параметров; контекст — до 32 768 токенов. Репозиторий предоставляет веса в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев на русском языке. По заявлению авторов, новый токенизатор увеличивает скорость генерации русскоязычного текста до 60% относительно исходной Qwen2.5-14B-Instruct при сравнении на одинаковых текстовых последовательностях. В карточке также заявлен интерфейс для вызова инструментов. Модель выпущена по лицензии Apache-2.0. Карточка помечена как рабочая версия v1; опубликованные разделы результатов оценки содержат незаполненные значения TODO, поэтому по README нельзя судить о сравнительном качестве. Ответы могут воспроизводить сведения и установки, усвоенные на этапах обучения, и не обязательно отражают позицию авторов.
r1char9/rubert-base-cased-russian-sentiment — русскоязычная модель классификации тональности на основе RuBERT, разработанная дообучением базовой модели для многоклассового анализа коротких текстов. Она присваивает тексту одну из трёх меток: нейтральная, положительная или отрицательная тональность. Модель подходит для автоматической разметки тональности в новостях, отзывах и других коротких русскоязычных текстах. Для обучения использованы Russian News Dataset, Linis Crowd 2015 и 2016, RuReviews и RuSentiment. Архитектура — BERT для классификации последовательностей, размер — 205,1 млн параметров, максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch. Модель предназначена для русского языка; качество на длинных текстах, других языках и тематиках за пределами обучающих данных не подтверждено. Лицензия — MIT.
Модель seara/rubert-base-cased-russian-sentiment — RuBERT, дообученная для многоклассовой классификации тональности коротких текстов на русском языке. Она относит текст к одному из трёх классов: нейтральный, положительный или отрицательный. Модель построена на архитектуре BERT и содержит 205,1 млн параметров; максимальная длина контекста — 512 токенов. Модель предназначена для анализа отзывов, новостей и других коротких русскоязычных текстов. В обучении использовано объединение наборов RuReviews, RuSentiment, Linis Crowd 2015, Linis Crowd 2016 и Kaggle Russian News Dataset. На тестовой выборке автор сообщает macro F1 0,77; F1 для положительного класса составил 0,84, для нейтрального и отрицательного — по 0,73. Модель распространяется по лицензии MIT.
Saiga/Llama3 8B — русскоязычный чат-бот Ильи Гусева на базе Llama 3 8B Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 8192 токенов, предназначенная для диалогов и генерации ответов на русском языке. Модель дообучалась на русскоязычных диалоговых и предпочтительных данных; в карточке описаны версии с SFT и KTO-настройкой. Для общения используется исходный формат промптов Llama 3 начиная с v4. Модель подходит для русскоязычного чат-ассистента и ответов на инструкции. В README приведены результаты сравнительной оценки, но они относятся к отдельным версиям и наборам оценки. Указана лицензия Hugging Face «other», поэтому конкретные условия использования следует сверить с лицензией репозитория и базовой модели. Модель принимает текст и генерирует текст; карточка не сообщает об обработке других модальностей.
IlyaGusev/saiga_nemo_12b_gptq_8bit — это 8-битная GPTQ-квантизованная версия русскоязычной модели Saiga/MistralNemo 12B, опубликованная разработчиком Ilya Gusev на Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия на русском языке; в исходной карточке Saiga она описана как русскоязычный автоматический ассистент. Она дообучена на основе аблированной версии Mistral Nemo Instruct 2407 с использованием наборов данных IlyaGusev/saiga_scored и IlyaGusev/saiga_preferences. Модель содержит около 12 миллиардов параметров и использует архитектуру Mistral Transformer с 40 слоями, Grouped-Query Attention, 32 attention heads и 8 key-value heads. Для исходной Mistral Nemo заявлено контекстное окно до 128 тысяч токенов и поддержка нескольких языков, включая русский, английский, французский, немецкий, испанский, итальянский, португальский, китайский и японский, однако Saiga ориентирована прежде всего на русский язык. GPTQ-квантизация в 8 бит уменьшает требования к памяти по сравнению с полной версией, но может немного снижать точность и требует совместимого программного обеспечения для инференса. Сильные стороны модели — специализация на русскоязычных диалогах, относительно крупный размер для локального запуска и экономия памяти благодаря 8-битному представлению. Ограничения включают отсутствие мультимодальных возможностей в опубликованных данных, возможные ошибки и галлюцинации, а также отсутствие подробных официальных оценок именно для этой GPTQ-версии. Для исходной модели указана лицензия Apache 2.0; отдельная карточка квантизованной версии не содержит дополнительных лицензионных условий.
Aleteian/Saiga-Unleashed — объединённая с помощью mergekit методом SLERP языковая модель, включающая IlyaGusev/saiga_nemo_12b и MarinaraSpaghetti/NemoMix-Unleashed-12B. Это плотная модель архитектуры MistralForCausalLM с 12,1 млрд параметров, предназначенная для генерации текста и диалогового общения; используется шаблон чата Mistral. Модель принимает текст и генерирует текст. Её можно применять для ведения диалогов, написания историй и других задач генерации текста. Указанная в метаданных длина контекста — 1 024 000 токенов. Модель опубликована в формате safetensors и использует библиотеку Transformers. В README и предоставленных метаданных сведения о лицензии и конкретных ограничениях не приводятся.
Sappho V0.0.2 — диалоговая языковая модель, созданная автором Jakolo121 путём слияния SauerkrautLM-7b-HerO и Dolphin 2.8 Mistral 7B v02 с помощью LazyMergekit. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и диалоговых ответов. Поддерживает контекст до 32 768 токенов и работает с текстом на входе и выходе. Модель подойдёт для чат-ботов, ответов на вопросы и генерации текста. Базовая SauerkrautLM ориентирована на немецкий и английский языки. Репозиторий содержит веса в формате Safetensors. Лицензия в предоставленных данных не указана.
SauerkrautLM-Mixtral-8x7B — многоязычная языковая модель компании VAGO solutions на архитектуре Mixture of Experts, дообученная на базе mistralai/Mixtral-8x7B-v0.1. Модель содержит 7,1 млрд параметров и принимает текстовые запросы; заявленный контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском, немецком, французском, итальянском и испанском языках. Она прошла supervised fine-tuning (SFT) на OpenOrca/SlimOrca и выравнивание предпочтений методом DPO. Для обучения использовались немецкие аугментированные и переведённые данные, а также части наборов distilabel-math-preference-dpo и UltraFeedback. Карточка указывает лицензию Apache 2.0, допускающую коммерческое использование. Разработчики предупреждают, что модель может выдавать неподходящий или некорректный контент; качество немецких формулировок улучшали аугментацией, но стабильность поведения не гарантируется.
SauerkrautLM-Mixtral-8x7B-Instruct — инструктивная языковая модель VAGO solutions на архитектуре Mixture of Experts (MoE), основанная на mistralai/Mixtral-8x7B-Instruct-v0.1. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для диалогов и выполнения инструкций, в том числе для ответов на вопросы и математических задач. Разработчики дообучили её с помощью DPO на немецких данных с аугментацией и переводом, а также на предпочтениях из дополнительных наборов данных. Заявлена поддержка английского, немецкого, французского, итальянского и испанского языков; особое внимание уделено естественности формулировок на немецком. В README приведена оценка на тесте German RAG Eval, однако результат не гарантирует точность в реальных сценариях. Разработчики предупреждают, что модель может выдавать неподходящий или некорректный контент. Лицензия Apache 2.0 допускает коммерческое использование при соблюдении её условий.
SauerkrautLM-Nemo-12b-Instruct — языковая модель VAGO solutions, дообученная на базе mistralai/Mistral-Nemo-Instruct-2407 методом Spectrum Fine-Tuning, затрагивающим 25% слоёв. Это плотная модель семейства Mistral с 12,1 млрд параметров, предназначенная для диалогов и генерации текста. Основной акцент сделан на немецком и английском языках; README также сообщает об улучшениях для других языков, поддерживаемых исходной Nemo. Модель подходит для ответов на вопросы, ведения диалога, написания и преобразования текстов на поддерживаемых языках. В карточке заявлены оценки на AGIEVAL, GPT4ALL, TruthfulQA, OpenLeaderboard 2 и MMLU, но численные результаты не приведены. Метаданные указывают контекстное окно до 1 024 000 токенов и формат safetensors. Лицензия — Apache 2.0. Разработчик предупреждает, что модель может выдавать неподходящий или некорректно отфильтрованный контент; стабильность такого поведения не гарантируется.
Карточка модели mergekit-community/Saul-Base-zephyr-7b-beta-merge на Hugging Face совпадает с карточкой mergekit-community/mergekit-slerp-jeyctse, поэтому описание составлено по ней. mergekit-community/mergekit-slerp-jeyctse — языковая чат-модель, созданная сообществом слиянием моделей HuggingFaceH4/zephyr-7b-beta и Equall/Saul-Base методом SLERP с помощью mergekit. Это плотная модель Mistral с 7,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге: ответов на вопросы и выполнения пользовательских инструкций. В метаданных основной язык не задан; базовая Zephyr-7B-β описана как англоязычная чат-модель. Условия лицензирования в предоставленных данных не приведены. Качество и поведение результата слияния могут отличаться от исходных моделей.
Seethal разработала эту модель как дообученную версию bert-base-uncased для классификации тональности текста. Она принимает текст на английском языке и присваивает ему метку тональности; модель предназначена для готового анализа тональности, а не для дальнейшего дообучения под другие задачи. В метаданных указаны архитектура DistilBertForSequenceClassification, семейство DistilBERT и максимальный контекст 512 токенов. Репозиторий содержит веса в формате PyTorch. Условия лицензии в предоставленных данных не описаны.
Модель создана как линейное слияние нескольких предварительно обученных языковых моделей с помощью mergekit. В качестве базовой использована версия filtered_e2e_alignment на шаге global_step7000; также объединены версии с шагов 3000, 4000, 5000 и 6000. Архитектура — плотная авторегрессионная GPT-NeoX, около 8,8 млрд параметров; модель доступна в формате safetensors и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалогового использования. Карточка не уточняет языки обучения, специализацию или сравнительные преимущества, поэтому её следует рассматривать как универсальную языковую модель. Лицензия в предоставленных данных не указана.
Это объединённая языковая модель на 8,8 млрд параметров, созданная ByteDance с помощью mergekit из контрольных точек этапов midtrain alignment. Для слияния использован линейный метод: контрольная точка global_step12040 взята за основу и объединена с контрольными точками global_step10000 и global_step11000. Модель построена на архитектуре GPT-NeoX и сохранена в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия. Контекст составляет до 16 384 токенов. Данные карточки не описывают конкретные языки или специализированные области применения. Лицензия в предоставленных сведениях не указана.
Это объединённая модель генерации текста на базе архитектуры GPT-NeoX, созданная с помощью mergekit методом Linear из пяти контрольных точек обучения проекта filtered_midtrain_alignment. В README базовой указана контрольная точка global_step5000; в объединение также вошли global_step1000, global_step2000, global_step3000 и global_step4000. Модель рассчитана на генерацию текста и диалоговое взаимодействие. Она содержит 8,8 млрд параметров, поддерживает контекст до 16 384 токенов и распространяется в формате safetensors. Лицензия в доступных сведениях не указана.
Модель yuhengtu-bytedance/sfm_filtered_midtrain_alignment-6k_7k_8k_weightedavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В README указано, что применён линейный метод слияния, а в качестве базовой использована версия с шагом обучения 8000; также объединены версии с шагами 6000 и 7000. Это плотная авторегрессионная модель семейства GPT-NeoX с 8,8 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 16 384 токена. В метаданных указан формат safetensors и библиотека Transformers. В карточке не указаны специальные предметные области или поддерживаемые естественные языки. Лицензия в предоставленных данных не указана, поэтому условия использования определить нельзя; качество и ограничения слияния отдельно не описаны.
sfmunfilteredmidtrainalignment-3k4k5ksimpleavgmerge — объединённая языковая модель, созданная с помощью mergekit. В линейном слиянии использованы предобученные чекпойнты на шагах 3000, 4000 и 5000; последний указан как базовый. Архитектура — GPT-NeoX, модель плотная, содержит 8,8 млрд параметров и принимает текст для генерации текста. Нативная длина контекста — 16 384 токена; модель предназначена для диалогового взаимодействия и генерации текста. Лицензия в доступных данных не указана.
Модель sfmunfilteredmidtrainalignment-6k7k8kweightedavgmerge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Linear. В качестве базовой использована версия global_step8000, объединённая с версиями global_step7000 и global_step6000. Модель разработана для генерации текста в диалоговом формате. Это плотная авторегрессионная модель архитектуры GPT-NeoX с 8,8 млрд параметров и контекстом до 16 384 токенов. Она принимает текст и выдаёт текст; метаданные указывают на поддержку чатового сценария. Для использования доступна в формате safetensors через Transformers. Сведений о лицензии и поддерживаемых естественных языках в предоставленных данных нет.
SmartLlama-3-8B-MS-v0.1 — объединённая модель генерации текста семейства Llama 3, собранная Kukedlc с помощью LazyMergekit из четырёх моделей: Locutusque/llama-3-neural-chat-v1-8b, cloudyu/Meta-Llama-3-8B-Instruct-DPO, cognitivecomputations/dolphin-2.9-llama3-8b и abacusai/Llama-3-Smaug-8B. В конфигурации указан метод слияния model_stock и формат bfloat16; модель имеет архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания черновиков и ведения многоходового чата. Карточка не уточняет поддерживаемые естественные языки и специализированные области применения. Лицензия указана как other, поэтому условия использования следует проверять в репозитории и у авторов исходных моделей. Доступные сведения не содержат сравнительных оценок качества или подробных ограничений поведения; результат зависит от запроса и сценария применения.
SmartQwen1.5-1.8B-orpo-v1 — диалоговая языковая модель семейства Qwen2, разработанная vihangd и дообученная методом ORPO на неизвестном наборе данных. Она предназначена для генерации текста в чате и имеет 1,5 млрд параметров и контекст до 32 768 токенов. Модель сохранена в формате safetensors и может применяться для диалогов и генерации ответов. Лицензия указана как other; конкретные условия в доступных сведениях не раскрыты.
Smol 7B — диалоговая языковая модель, опубликованная rishiraj и дообученная на openchat/openchat_3.5 с использованием открытого набора данных HuggingFaceH4/no_robots и рецептов The Alignment Handbook. Модель построена на архитектуре Mistral с плотной сетью и содержит 7,1 млрд параметров; для генерации текста поддерживается контекст до 8192 токенов. Модель предназначена для диалога, ответов на вопросы и выполнения текстовых инструкций на английском языке. В карточке приведены результаты на бенчмарках MMLU, ARC, HellaSwag, TruthfulQA, Winogrande и GSM8K; на момент публикации автор заявлял о наивысшем результате среди чат-моделей 7B на MMLU. Модель выпущена под лицензией Apache-2.0. Как и другие языковые модели, она может ошибаться или выдавать недостоверные ответы; результаты бенчмарков не гарантируют качество в конкретном сценарии.
Spaetzle-v64-7b — объединённая модель генерации текста, созданная cstr с помощью LazyMergekit из flemmingmiguel/NeuDist-Ro-7B, cstr/Spaetzle-v63-7b и ResplendentAI/Flora_DPO_7B. Это плотная причинно-языковая модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; поддерживает диалоговый режим и предназначена для генерации текста и ответов в чате. В карточке не приведены подробности о языках и сравнительных качествах модели. Модель распространяется по лицензии CC BY-SA 4.0.
eclfe/sqlen-1-21 — разговорная языковая модель, обученная с помощью H2O LLM Studio на базе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 1,7 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — 8192 токена. Карточка отмечает поддержку английского языка и диалоговый сценарий. Модель подходит для генерации ответов в чате и других текстовых продолжений. README описывает обучение через H2O LLM Studio, но не уточняет датасет или специальную предметную область. Лицензия в предоставленных данных не указана.
Gille/StrangeMerges_33-7B-slerp — объединённая текстовая модель, созданная методом slerp с помощью LazyMergekit из ZySec-AI/ZySec-7B-v1 и Gille/StrangeMerges_30-7B-slerp. Модель построена на архитектуре Mistral с плотной архитектурой причинного языкового моделирования и содержит 7,1 млрд параметров; её контекст составляет до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, ведения чата и создания связных текстов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Данных о специализированной предметной области или языках модели в предоставленных источниках нет.
Synthia-70B — языковая модель migtissera, созданная на основе Llama 2 70B и дообученная на данных в стиле Orca. Она предназначена для следования инструкциям и продолжительных диалогов, а также для генерации подробных ответов на запросы пользователя. Модель использует плотную архитектуру LlamaForCausalLM, содержит 68,7 млрд параметров и работает с контекстом до 2048 токенов. Репозиторий содержит веса PyTorch; для использования требуется библиотека Transformers. В карточке заявлена поддержка английского языка. Модель оценивается на наборах задач общего назначения, включая ARC и HellaSwag. Synthia-70B подходит для диалоговых помощников, ответов на вопросы и генерации развернутых текстов по инструкциям. По заявлению карточки, модель не ограничивает тематику ответов; при этом она может выдавать фактически неверные, вводящие в заблуждение, предвзятые или оскорбительные результаты. Указана лицензия Llama 2; условия её использования определяются соответствующей лицензией.
Synthia-70B-v1.1 — языковая модель семейства Llama 2, разработанная migtissera на базе Llama 2 70B и дообученная на наборах данных в стиле Orca. Модель предназначена для следования инструкциям и продолжительных диалогов; она также заявлена как способная к рассуждениям в стиле Tree of Thought. Для генерации текста используется архитектура LlamaForCausalLM с 68,7 млрд параметров и контекстом 2048 токенов. Модель подходит для диалоговых ассистентов, ответов на инструкции и развёрнутых объяснений на английском языке. В README приведены результаты оценивания, включая ARC и HellaSwag. Модель распространяется по лицензии Llama 2. Она может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или иной неподходящий контент; заявлена как uncensored.
T3qm7xNeuralsirkrishna_Strangemerges_30Ogno — объединённая модель Mistral для генерации текста и диалогов, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_30Ogno-7B. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации продолжений текста и ведения диалогов. Данных о специализации на конкретных областях или языках нет. Веса опубликованы в формате safetensors; лицензия — Apache-2.0.
T3qm7xNeuralsirkrishna_Strangemerges_32Strangemerges_30 — объединённая модель на базе Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Strangemerges_30-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; максимальная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса в формате Safetensors, лицензия — Apache-2.0. Сведения о конкретных языках и специализированных областях применения в доступных материалах отсутствуют.