III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельperkan/shortM-opus-mt-tc-base-en-sr — модель машинного перевода с английского на сербский, созданная на базе Helsinki-NLP/opus-mt-tc-base-sh. Автор дообучил её на датасете OPUS-100, модифицированном с помощью Paraphrasing Database размера M. Модель использует архитектуру MarianMT и содержит 55,2 млн параметров; она принимает текст и выдаёт перевод на сербский язык. Модель предназначена для перевода английских текстов на сербский. Она опубликована в формате PyTorch под лицензией MIT. Контекст модели — до 512 токенов.
SJ-Donald/SJ-SOLAR-10.7b-DPO — языковая модель семейства Llama, разработанная SJ-Donald и дообученная методом Direct Preference Optimization (DPO) на парах предпочтений из датасета orca-dpo-pairs-ko. Модель содержит 10,7 млрд параметров, принимает текст и генерирует текст; карточка отмечает поддержку чатового сценария. Контекст — до 4096 токенов. Модель предназначена для диалоговых ответов и генерации текста, в том числе на корейском языке. В README приведены результаты оценок на общих и корейских наборах тестов, включая ARC, HellaSwag, MMLU и TruthfulQA. Доступны веса Safetensors; в README также указана отдельная версия GGUF. Лицензия CC BY-NC 4.0 разрешает использование с соблюдением условий лицензии, включая ограничения на коммерческое применение.
tlphams/solar-10.7b-merged-v0.1 — объединённая языковая модель на базе архитектуры Llama, созданная методом TIES с помощью mergekit. В качестве базовой модели использована upstage/SOLAR-10.7B-v1.0; в объединение также вошли chihoonlee10/T3Q-ko-solar-dpo-v5.0, krevas/SOLAR-10.7B и hyeogi/SOLAR-10.7B-v1.6. Модель предназначена для генерации текста. Она содержит 10,6 млрд параметров, принимает текст и выдаёт текст, а её родной контекст составляет 4096 токенов. Карточка не уточняет целевые языки и особые сценарии применения. Веса опубликованы в формате safetensors по лицензии CC BY-NC-SA 4.0, которая требует указания авторства, распространения производных работ на тех же условиях и запрещает коммерческое использование. Данных о сравнительных преимуществах модели в карточке нет.
QuantFactory/Starling-LM-7B-beta-GGUF — это версия языковой модели Starling-LM-7B-beta в формате GGUF, подготовленная QuantFactory. Исходную модель разработала команда Nexusflow: Banghua Zhu, Evan Frick, Tianhao Wu, Hanlin Zhu, Karthik Ganesan, Wei-Lin Chiang, Jian Zhang и Jiantao Jiao. Модель предназначена для генерации текста и диалоговых сценариев, включая создание полезных и безопасных ответов. Starling-LM-7B-beta — языковая модель с 7 млрд параметров, дообученная методами RLHF и RLAIF. Она создана на основе Openchat-3.5-0106, которая, в свою очередь, базируется на Mistral-7B-v0.1. Для обучения использовались reward model Starling-RM-34B, датасет berkeley-nest/Nectar и оптимизация PPO. Заявлена поддержка английского языка. В README не указаны точный размер контекста, конкретные варианты квантования и доступные модальности; по назначению это текстовая модель. К сильным сторонам относятся оптимизация полезности и безопасности ответов с помощью RLAIF, а также результат 8,12 в MT-Bench при оценке GPT-4. Ограничения включают бета-статус, ориентацию на английский язык и отсутствие в README подробностей о производительности, требованиях к оборудованию и характеристиках отдельных GGUF-файлов. Модель распространяется по лицензии Apache-2.0 с условием, что она не используется для конкуренции с OpenAI.
Stockmark-100b — плотная авторегрессионная языковая модель семейства Llama, разработанная компанией Stockmark Inc. и обученная с нуля на корпусе примерно из 910 млрд токенов японского и английского текста. Модель насчитывает 95,6 млрд параметров, принимает текст и генерирует текст; максимальная длина контекста — 4096 токенов. Для обучения использовались, среди прочего, японские веб-страницы о бизнесе, патенты, Википедия и англоязычная выборка RedPajama-Data. Модель предназначена для генерации текста на японском и английском языках, включая деловые вопросы и ответы. В README приведены результаты оценок отдельной инструкционной версии stockmark-100b-instruct-v0.1; они не характеризуют напрямую базовую модель. Указанная лицензия — MIT. Ограничение контекста составляет 4096 токенов; для диалогов и выполнения инструкций в README выделена отдельная инструкционная версия.
T3Q-LLM2-sft1.3 — диалоговая языковая модель семейства Llama с плотной архитектурой LlamaForCausalLM и 10,6 млрд параметров. Она предназначена для генерации текста в формате чата. Модель работает через Transformers, использует веса Safetensors и рассчитана на контекст до 4096 токенов. Карточка содержит результаты оценки на корейских тестах KoBEST BoolQ и COPA, что указывает на проверку понимания текста и рассуждений на корейском языке. Разработчик, базовая модель, лицензия и сведения о дообучении в карточке не заполнены, поэтому происхождение и условия использования установить нельзя.
test2 — объединённая языковая модель, созданная alnrg2arg с помощью mergekit из udkai/Turdus и fblgit/UNA-TheBeagle-7b-v1. Это плотная Mistral-модель с 7,1 млрд параметров, предназначенная для генерации текста. В README указан метод слияния slerp и базовая модель udkai/Turdus; метаданные указывают контекстное окно 32 768 токенов и формат safetensors. Модель подходит для генерации и продолжения текста в сценариях, где используется совместимая с Mistral text-generation модель. Карточка не сообщает о специальных языках, доменах или дополнительных возможностях. Распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
WindyTranslate/translate-bg-en — модель машинного перевода от Windstorm Labs для перевода текста с болгарского на английский. Это дообученная версия Helsinki-NLP/opus-mt-bg-en: LoRA-дообучение на параллельном корпусе объединено с базовыми весами. Модель построена на архитектуре MarianMT, содержит 56,8 млн параметров и принимает текст; контекст составляет до 512 токенов. Модель предназначена для перевода фраз и документов с болгарского языка на английский. В карточке приведена скрининговая оценка на 48 предложениях FLORES-200 dev: chrF++ 58,73 и BLEU 28,02. Репозиторий содержит сборку Transformers в формате safetensors. Лицензия — Apache-2.0.
WindyTranslate/translate-es-it — модель машинного перевода, опубликованная Windstorm Labs для перевода с испанского на итальянский. Она основана на Helsinki-NLP/opus-mt-es-it: к базовым весам применён LoRA-файнтюнинг на параллельных данных, после чего адаптер объединён с весами модели. Модель MarianMT содержит 55,4 млн параметров, принимает текст и выдаёт текст; максимальный контекст — 512 токенов. Модель предназначена для перевода предложений и текстов с испанского на итальянский. В карточке приведён скрининговый результат на 48 предложениях FLORES-200 dev: chrF++ 48,84 и BLEU 23,73; он не является результатом публикационного исследования. Репозиторий содержит сборку Transformers в формате safetensors. Лицензия — Apache-2.0.
Typhoon llama3.2 KordTranslate EN-TH 1B — это дообученная KordAI модель машинного перевода с архитектурой Llama 3.2 и примерно 1,2 млрд параметров. Она выполняет перевод с английского на тайский и с тайского на английский; для перевода рассчитана на инструкции и наследует языковое понимание базовой модели Typhoon. Контекст модели составляет до 131 072 токенов, формат весов — safetensors. Модель подходит для локального перевода текстов, локализации, учебных задач, интеграции в чат-боты и API, а также пакетной обработки документов. Для перевода README рекомендует задавать направление явной инструкцией и использовать соответствующий шаблон запроса. Модель разработана KordAI и дообучена на двуязычных англо-тайских наборах данных. Лицензия — Apache-2.0. Качество может снижаться на специализированных медицинских, юридических и научных текстах; имена собственные и новые термины, а также переводы неоднозначных фраз следует проверять вручную.
USTM (Unified Speech-Text Model) — модель Naver AI, полученная дополнительным обучением Mistral-7B-v0.1 по методике унифицированного предварительного обучения речи и текста. Это плотная авторегрессионная архитектура Mistral с 7,2 млрд параметров и контекстом до 32 768 токенов, представленная в формате safetensors и работающая через Transformers. Модель предназначена для совместной обработки речи и текста и естественного разговорного взаимодействия с учётом паралингвистических характеристик речи. В качестве обучающих данных указаны многоязычные речевые наборы, включая Multilingual LibriSpeech, GigaSpeech, Common Voice 15.0, VoxPopuli и People's Speech. В метаданных указан английский язык; точный перечень поддерживаемых языков из карточки не следует. Модель лицензирована по Apache-2.0. Доступные сведения не описывают конкретные ограничения качества или сценарии, в которых модель не подходит.
nagorebravo/whisper-tiny-en-minds14 — компактная модель распознавания речи на архитектуре Whisper, дообученная на openai/whisper-tiny разработчиком nagorebravo на датасете PolyAI/minds14. Она преобразует аудио в текст и предназначена для транскрибации речи, в том числе аудиозаписей из сценариев, представленных в этом датасете. На оценочном наборе указаны Loss 0,5909 и WER 0,3241 (WER Ortho 0,3288). Модель распространяется в формате safetensors по лицензии Apache-2.0.
Wordpress-Mistral-7B-Fine-Tune — диалоговая языковая модель с архитектурой MistralForCausalLM и 7,1 млрд параметров. В README указано, что она преобразована в формат MLX из mistralai/Mistral-7B-Instruct-v0.2; доступные метаданные указывают на веса safetensors и контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Название указывает на связь с WordPress, однако README не описывает конкретные задачи или данные такого дообучения, поэтому специализацию на создании контента для WordPress подтвердить нельзя. Лицензия — Apache-2.0. Для использования через MLX в README приведён пример запуска генерации.
Модель Cardiff NLP — дообученная версия XLM-RoBERTa-base для классификации тональности многоязычных твитов. Она относит текст к одной из категорий тональности и подходит для анализа сообщений в социальных сетях. Обучение проводилось на наборе cardiffnlp/tweet_sentiment_multilingual, а настройки подбирались на валидационной выборке. Модель содержит 305,2 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. На тестовой выборке указаны micro F1 0,666, macro F1 0,663 и точность 0,666. Лицензия в предоставленных данных не указана.
YamshadowInex12_MeliodasNeuralsirkrishna — слитая автором MaziyarPanahi модель генерации текста, объединяющая automerger/YamshadowInex12-7B и automerger/MeliodasNeuralsirkrishna-7B. Она построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. Карточка не описывает специализированные сценарии или языковые возможности, поэтому её можно характеризовать только как модель общего назначения для текстового ввода и вывода. Веса доступны в формате safetensors по лицензии Apache-2.0. README не приводит сравнительных оценок качества или подробностей о методе слияния.
Yehia — языковая модель на 7 млрд параметров от Navid-AI, дообученная на основе ALLaM-AI/ALLaM-7B-Instruct-preview методом GRPO. Она предназначена для диалогов на арабском и английском языках, в том числе для дружелюбного общения, объяснения учебных тем и доступной подачи знаний. Модель ориентирована на корректность, полноту и краткость ответов, полезность, честность и безопасное общение. Для загрузки используется библиотека Transformers; веса доступны в формате safetensors. Модель распространяется по лицензии Apache-2.0. В README заявлено, что на AraGen-Leaderboard на 3 февраля 2025 года Yehia была лучшей арабской моделью среди моделей размером от 0,5 до 25 млрд параметров; это утверждение относится к указанному бенчмарку и дате.
Модель ShenaoZhang/0.001_4iters_bs256_nodpo_only4w_userresponse_iter_2 — дообученная разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Разработчик указывает, что модель дообучена на обновлённом и исходном наборах данных, продолжая обучение версии iter_1. Модель предназначена для генерации ответов в диалоге. В README не приведены результаты оценки или подробности о целевом поведении, поэтому качество и пригодность для конкретных сценариев по карточке определить нельзя. Лицензия — MIT.
Модель ShenaoZ/0.001_ablation_5iters_bs256_iter_3 — дообученная версия ShenaoZ/0.001_ablation_5iters_bs256_iter_2 на обновлённом и исходном наборах данных. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое общение. Она принимает текст и поддерживает контекст до 32 768 токенов. Карточка не описывает специализированные сценарии, качество генерации или результаты оценки модели. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
agiin-11.1B-v0.0 — диалоговая языковая модель MindsAndCompany на архитектуре Mistral, представленная как предварительно обученная, настроенная на следование инструкциям и дополнительно оптимизированная методом DPO. Она предназначена для генерации ответов в чате и решения общих текстовых задач; пример в карточке показывает запрос на корейском языке с просьбой объяснить сравнение объёмов сфер. Модель содержит около 11 млрд параметров, использует формат safetensors и имеет контекст длиной 4096 токенов. В метаданных указан английский язык, поэтому поддержка корейского по одному примеру из README не подтверждена. Модель выпущена под лицензией Apache-2.0.
BananaMind-Translate-V3.4-i1-GGUF — квантизированная версия модели BananaMind-Translate-V3.4, разработанной Banaxi-Tech и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для машинного перевода между английским и немецким языками, включая направления en→de и de→en, и относится к семейству моделей на базе Qwen. В метаданных также указано наличие дообучения на пользовательском наборе данных. Это vision-модель, поэтому для работы с визуальными входными данными могут потребоваться дополнительные файлы mmproj из статического репозитория. Точные сведения о размере базовой модели, архитектуре, максимальной длине контекста и поддерживаемых модальностях в README не приведены. Репозиторий содержит набор вариантов квантизации с размером примерно от 1,5 до 3,6 ГБ; более компактные варианты экономичнее по памяти, но могут заметно уступать по качеству, тогда как Q4_K_M обозначен как быстрый и рекомендуемый вариант. Модель подходит для локального запуска и сценариев перевода при ограниченных вычислительных ресурсах. Основные ограничения связаны с потерями качества при низких уровнях квантизации, отсутствием подробных результатов оценки и неполной документацией характеристик. Лицензия — Apache-2.0.
Chinese Llama 2 7B — китайская версия модели Llama 2, представленная авторами проекта LinkSoul. Это плотная причинно-языковая модель с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров; она принимает текст и генерирует текст. Карточка описывает дообучение на наборе инструкций SFT на китайском и английском языках объёмом 10 млн примеров и формат ввода, совместимый с llama-2-chat. Модель предназначена для диалогов и выполнения текстовых инструкций на китайском и английском языках. Заявлены веса PyTorch и лицензия Apache-2.0; метаданные Hub указывают OpenRAIL, поэтому условия лицензирования следует сверить с файлами репозитория перед использованием. Длина контекста составляет 2048 токенов. Карточка не приводит оценок качества или подробных ограничений применения.
Chocolatine-3B-Instruct-DPO-Revised-Q4_K_M-GGUF — это квантизированная версия языковой модели Chocolatine-3B-Instruct-DPO-Revised, разработанная Jonathan Pacifico в 2024 году. Модель предназначена для генерации текста и диалоговых сценариев на французском и английском языках. Модель распространяется в формате GGUF с квантизацией Q4_K_M и совместима с llama.cpp и LM Studio. Она может работать на CPU, включая Raspberry Pi 5 с 8 ГБ памяти, а также использоваться через Ollama. Размер базовой модели составляет 3B параметров; другие сведения об архитектуре и размере контекста в README не указаны. К сильным сторонам относятся относительно низкие требования к оборудованию и удобство локального запуска. Ограничение модели — отсутствие встроенного механизма модерации, поэтому за фильтрацию и безопасное применение должен отвечать пользователь или интегрирующее приложение. Модель распространяется по лицензии MIT.
Chocolatine-3B-Instruct-DPO-v1.2 — языковая модель для диалогов, разработанная Jonathan Pacifico и основанная на архитектуре Phi-3. Это DPO-дообучение microsoft/Phi-3.5-mini-instruct на датасете jpacifico/french-orca-dpo-pairs-revised. Модель содержит около 3,7 млрд параметров и рассчитана прежде всего на французский язык; также поддерживает английский. Метаданные указывают контекст 4096 токенов, тогда как README заявляет 128K, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Модель предназначена для генерации текста и диалоговых сценариев на французском и английском языках. По заявлению автора, дообучение улучшило результаты на французском и также повысило качество английского относительно базовой модели. Указанные в README результаты MT-Bench-French являются заявлением автора. Модель распространяется по лицензии MIT. Автор отмечает, что это быстрая демонстрация дообучения и что у модели нет механизма модерации.
bartowski/Chronos-Gold-12B-1.0-GGUF — это набор GGUF-квантизаций модели Chronos-Gold-12B-1.0, разработанной elinas и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста общего назначения, ролевого общения и написания историй; в метаданных также указано, что исходная модель является результатом объединения или дообучения. Поддерживается запуск через llama.cpp и LM Studio. Доступны варианты от исходных весов F16 размером 24,50 ГБ до сильно сжатых IQ2_M размером 4,44 ГБ. В репозитории представлены квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-разновидности; некоторые варианты используют Q8_0 для embedding- и output-весов для сохранения качества. Более крупные варианты обычно обеспечивают высокое качество, тогда как малые требуют меньше оперативной памяти, но заметно сильнее ограничены квантизацией. README не содержит сведений об архитектуре исходной модели, размере контекстного окна, поддерживаемых языках или мультимодальности, поэтому модель следует считать текстовой и использовать в пределах возможностей совместимого рантайма. Для работы рекомендуется применять указанный chat-шаблон с ролями system, user и assistant. Модель распространяется по лицензии CC BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.
CleverGirl-20b — плотная авторегрессионная языковая модель семейства Llama, опубликованная athirdpath. Это объединённая модель, созданная методом passthrough из слоёв Sao10K/Mythical-Destroyer-V2-L2-13B и athirdpath/Orca-2-13b-Alpaca-Uncensored; выбор компонентов основывался на результатах MMLU и TQA и субъективной оценке. Модель предназначена для генерации текста и может использоваться в диалоговых и общих текстовых сценариях. Веса опубликованы в формате safetensors, указан размер около 19,8 млрд параметров, контекст — до 4096 токенов. Лицензия — Llama 2. Карточка не сообщает отдельные сведения о поддерживаемых языках или специализированных областях применения; характеристики базовых моделей не следует считать гарантией качества объединённой модели.
Cookie — объединённая языковая модель jeiku на архитектуре Mistral для генерации текста. Автор описывает её как сбалансированную модель на 7B параметров, предназначенную для работы в роли ассистента, ролевых сценариев и романтических диалогов. Она создана методом DARE TIES из моделей jeiku/SpaghettiOs_7B и jeiku/Rainbow_69_7B; в качестве базовой использована jeiku/SpaghettiOs_7B. Репозиторий содержит веса Safetensors, модель рассчитана на контекст до 8192 токенов. Cookie ориентирована на связные ответы и диалоговую генерацию, включая ролевые беседы. Карточка не сообщает о специализированных языках или доменах, поэтому их нельзя определить по доступным данным. Лицензия указана как other, без конкретных условий в предоставленных сведениях; перед использованием следует проверить лицензионные условия исходных моделей и репозитория.
Cozum-4B — языковая модель с 4 млрд параметров, разработанная Yigit-Karaman на архитектуре Qwen и дообученная методом supervised fine-tuning. Модель предназначена для общения и следования инструкциям с учётом турецкого языка и культурного контекста, а также для решения математических задач.
jb723/cross_lingual_epoch2 — языковая модель на архитектуре Llama, разработанная автором репозитория на основе начальных параметров meta-llama/Llama-2-7b-hf. Модель обучена с использованием Kullm v2, наборов инструкций Alpaca и Dolly, данных ShareGPT и корейско-английского параллельного корпуса AIHub; параллельные данные преобразовали в инструкции на перевод, после чего провели дообучение. Используется токенизатор Llama 2 от Beomi. Модель предназначена для генерации текста по инструкциям, в том числе для перевода между корейским и английским языками. Она содержит 6,7 млрд параметров, построена как плотная авторегрессионная модель Llama и имеет контекст длиной 2048 токенов. Репозиторий распространяет веса в формате PyTorch по лицензии MIT. Карточка не приводит оценок качества или подробных результатов тестирования.
DarkAtom-12B-v3 — слитая чат-модель, созданная Khetterman с помощью mergekit на основе 18 моделей семейства Mistral. Для объединения применялся многоэтапный процесс Slerp, ModelStock и Ties с повторным слиянием вариантов моделей. Модель содержит 12,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors с точностью bfloat16; заявленный контекст — до 1 024 000 токенов. Модель предназначена для генерации диалогов, ролевых игр и творческого письма. Карточка и метаданные указывают поддержку английского и русского языков, а также интерфейс для вызова инструментов. Включение разных моделей в слияние не гарантирует одинакового качества во всех задачах; в карточке не приведены результаты оценивания. Лицензия в предоставленных данных не указана.
Англоязычная модель sjrhuschlee/deberta-v3-base, дообученная на SQuAD 2.0 для извлечения ответов из текста. На вход она принимает вопрос и контекст, а на выходе выделяет фрагмент контекста, который отвечает на вопрос; обучение включало вопросы без ответа, поэтому модель может распознавать случаи, когда подходящего фрагмента нет. Архитектура — DeBERTa-v3-base, 211,6 млн параметров, библиотека Transformers; максимальная длина контекста — 512 токенов. Модель подходит для поиска ответов в заданном тексте и систем вопросно-ответного поиска по документам на английском языке. Она не предназначена для свободной генерации развернутых ответов и зависит от того, содержит ли предоставленный контекст нужную информацию. Лицензия — MIT.