III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельLlama-Chat-Summary-3.2-3B-GGUF — это квантизированная версия языковой модели Llama-Chat-Summary-3.2-3B, разработанной prithivMLmods и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и прежде всего для суммаризации контекстных диалогов и чатов. Она обучалась с использованием набора данных Context-Based-Chat-Summary-Plus и поддерживает английский язык. Модель содержит около 3 миллиардов параметров и представляет собой текстовую autoregressive-модель без заявленной поддержки изображений или других модальностей. В репозитории доступны варианты с разной степенью квантизации, включая F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-варианты, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов варьируется примерно от 1,5 до 6,4 ГБ. Для запуска указаны llama.cpp и LM Studio; README не сообщает размер контекстного окна. Сильными сторонами модели являются специализация на суммаризации диалогов, сравнительно небольшой размер и наличие множества вариантов квантизации для локального запуска. Более сильные варианты, такие как Q6_K_L, Q6_K и Q5_K, позиционируются как обеспечивающие высокое качество, а Q4_K_M — как сбалансированный вариант для большинства сценариев. Более агрессивная квантизация уменьшает требования к памяти, но снижает качество. Модель ориентирована на английские тексты, поэтому её возможности для других языков README не подтверждает. Лицензия — CreativeML OpenRAIL-M.
Riblockee/llama_finetune_16bit — дообученная модель семейства Llama, разработанная Riblockee на базе unsloth/llama-3.2-3b-instruct-unsloth-bnb-4bit. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 3,2 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Метаданные указывают контекстное окно 131 072 токена и поддержку английского языка. Модель обучалась с использованием Unsloth и библиотеки TRL. Её можно применять для диалогов и генерации ответов на текстовые запросы. В метаданных также отмечен интерфейс вызова инструментов, но подробности его обучения и работы в карточке не описаны. Модель распространяется под лицензией Apache-2.0. README не сообщает, на каких данных и для каких узких задач выполнялось дообучение, поэтому качество в конкретных областях по карточке оценить нельзя.
asharsha30/LLAMA_Harsha_8_B_ORDP_10k — текстовая чат-модель на архитектуре Llama, созданная дообучением базовой модели Meta-Llama-3-8B с использованием ORPO и набора mlabonne/orpo-dpo-mix-40k. Метаданные указывают на 7,5 млрд параметров, контекст до 8192 токенов и формат safetensors; модель используется через библиотеку Transformers для генерации текста в диалоговом формате. Модель предназначена для ответов на вопросы и ведения текстовых диалогов на английском языке. В README приведены результаты оценивания на наборах AGIEval, GPT4All, TruthfulQA и Bigbench; общий средний балл указан как 50,01. Модель распространяется по лицензии Apache-2.0. README называет базой NousResearch/Meta-Llama-3-8B, тогда как метаданные указывают meta-llama/Llama-3.1-8B.
fradinho/llama-mistral — диалоговая языковая модель на архитектуре Llama, созданная объединением моделей с помощью mergekit. В объединение вошли arcee-ai/llama_from_mistral_instruct_v2 и NousResearch/Llama-2-7b-chat-hf; применён метод task arithmetic с равными весами. Модель содержит 7,1 млрд параметров и принимает текст для генерации текста в диалоговом формате. Модель предназначена для ведения бесед и генерации ответов. Контекст составляет 2048 токенов; в карточке не заявлена поддержка языков, кроме сведений о базовой модели, ориентированной на английский. Репозиторий распространяется по лицензии MIT. Данных о качестве на конкретных задачах нет.
Карточка модели NiuTrans/LMT-60-8B на Hugging Face совпадает с карточкой NiuTrans/LMT-60-0.6B, поэтому описание составлено по ней. LMT-60-0.6B — модель машинного перевода от команды NiuTrans, дообученная на базе NiuTrans/LMT-60-0.6B-Base. Она относится к плотной архитектуре Qwen3ForCausalLM, содержит около 507,9 млн параметров и принимает контекст до 32 768 токенов. Модель входит в семейство LMT-60, обученное на 90 млрд токенов; семейство рассчитано на перевод между 60 языками в 234 направлениях с особым вниманием к китайскому и английскому языкам. Модель предназначена для многоязычного перевода текстов, включая языки с высоким, средним и низким объёмом ресурсов. Её можно использовать для перевода документов, сообщений и пользовательского контента между поддерживаемыми языками. Карточка заявляет конкурентное качество среди моделей с сопоставимым языковым охватом, но не приводит здесь конкретных метрик для этого чекпойнта. Выпущена под лицензией Apache-2.0.
Sakalti/LunarPass-2 — разговорная языковая модель, созданная Sakalti с помощью mergekit из слоёв модели Sakalti/Lunar-4B методом passthrough. Она предназначена для генерации текста в диалоговом формате. Модель построена на плотной архитектуре Phi-3 и содержит 4,6 млрд параметров; поддерживает контекст до 4096 токенов и распространяется в формате safetensors. Модель принимает текст и генерирует текст. Базовая Lunar-4B описана как разговорная модель для английского и японского языков, поэтому эти языки подходят для использования, хотя отдельные характеристики LunarPass-2 в README не уточняются. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей об ограничениях.
ClaudioItaly/Magdala-9B — слияние языковых моделей, созданное автором с помощью mergekit и метода Model Stock на основе ClaudioItaly/Vangelus-Secundus. В состав слияния вошли ClaudioItaly/1800-9B, ClaudioItaly/Vangelus-Secundus, jsgreenawalt/gemma-2-9B-it-advanced-v2.1, mehmetkeremturkcan/oblivionsend, sam-paech/Delirium-v1 и sam-paech/Quill-v1. Модель построена на архитектуре Gemma 2 с плотной авторегрессионной архитектурой и содержит 9 млрд параметров. Она предназначена для диалоговой генерации текста; каталог также отмечает поддержку чата. Контекст составляет 8192 токена. Модель распространяется в формате safetensors и использует библиотеку Transformers. Данные карточки не описывают отдельно языки, специализированные области или конкретные ограничения качества. Лицензия в предоставленных сведениях не приведена.
FourOhFour/Magic_v2_8B — дообученная авторами модели Mistral-совместимая языковая модель с архитектурой MistralForCausalLM и примерно 7,9 млрд параметров. Она предназначена для генерации текста в диалоговом формате; опубликована в формате safetensors и поддерживает контекст до 8192 токенов. Модель дообучена на базе Dans-DiscountModels/Mistral-NeMo-Minitron-8B-Base-ChatML. В карточке приведён результат оценки на тестовом наборе: loss 1,5341, однако назначение датасета и сценарии применения подробно не описаны. Лицензия в предоставленных данных не указана.
MaidFlameSoup-7B — объединённая языковая модель автора nbeerbower, созданная с помощью mergekit методом Model Stock на основе нескольких предварительно обученных моделей Mistral. В слияние вошли nbeerbower/Flammen-Kunoichi-7B, nbeerbower/flammen10-mistral-7B, nbeerbower/flammen11X-mistral-7B и nbeerbower/Maidphin-Kunoichi-7B; базой указана nbeerbower/flammen13-mistral-7B. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral для авторегрессионной генерации текста и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.
Marcoro14-7B-slerp — объединённая модель для генерации текста и диалогов, созданная с помощью mergekit на основе diffnamehard/Mistral-CatMacaroni-slerp-uncensored-7B и nbeerbower/llama-3-spicy-abliterated-stella-8B. В метаданных архитектура указана как плотная Llama с классом LlamaForCausalLM; размер модели — 7,5 млрд параметров, контекст — 8192 токена. Модель предназначена для генерации текста и ведения диалогов. В карточке указано слияние методом SLERP с настройками весов для слоёв self-attention и MLP. Модель распространяется под лицензией Apache-2.0. Связанные с базовыми моделями метки указывают на ослабленные ограничения на ответы.
Maverick-8B — диалоговая языковая модель примерно на 7,5 млрд параметров, созданная bunnycore путём объединения трёх моделей с помощью mergekit и метода model_stock. В состав объединения входят bunnycore/Cognitron-8B, failspy/Llama-3-8B-Instruct-abliterated и TIGER-Lab/MAmmoTH2-8B-Plus; архитектура — плотная Llama с классом LlamaForCausalLM. Модель предназначена для генерации текста и диалоговых ответов, а её контекст составляет до 8192 токенов. Репозиторий содержит веса safetensors в формате bfloat16. Для использования применяется лицензия Llama 3. Среди компонентов есть модель, ориентированная на английские математические рассуждения, однако карточка Maverick-8B не описывает отдельную специализацию или языковой охват самой объединённой модели. Из карточки также нельзя установить её качество на конкретных задачах.
underwoods/medius-erebus-magnum-14b — разговорная модель генерации текста на базе Qwen2.5-14B, дообученная с помощью Axolotl. Репозиторий содержит веса в формате safetensors; размер модели — 14 млрд параметров. Метаданные указывают контекст до 131 072 токенов и поддержку диалогового режима. Модель предназначена для генерации текста и диалоговых сценариев. README сообщает об использовании конфигурации Axolotl версии 0.4.1, но не раскрывает состав данных, конкретную специализацию или результаты оценки. Лицензия в предоставленных сведениях не указана.
MegaQwen-120B — текстовая генеративная модель, созданная разработчиком abideen путём слияния двух копий Qwen1.5-72B с чередованием их параметров. Она предназначена для диалогов и генерации текста. Модель использует плотную архитектуру Qwen2 с декодером Qwen2ForCausalLM, содержит 123,4 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; в метаданных заявлена поддержка английского языка и возможность чата. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают качество или результаты оценки модели.
MelloGPT-Mistral-7B-Instruct-v0.1 — созданная MaziyarPanahi слитая чат-модель на архитектуре Mistral, объединяющая Mistral-7B-Instruct-v0.1 и MelloGPT методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации ответов на инструкции и диалоговые запросы; в метаданных указана задача text-generation и контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В карточке также отмечен датасет Counsel Chat, что указывает на связь одной из исходных моделей с диалогами на консультационную тематику, но README не описывает точные возможности или качество в этой области. Модель распространяется под лицензией Apache-2.0.
Merge-Gemma-2b-it-with-a-Fine-Tuned-one-for-Arabic — диалоговая модель генерации текста, созданная Ruqiya с помощью LazyMergekit. Веса объединяют Gemma 2B Instruct и модель Ruqiya, дообученную для арабского языка, методом DARE TIES; в конфигурации указана точность bfloat16. Модель содержит 2,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалога и генерации текста на арабском и английском языках. Её можно использовать для ответов на вопросы, ведения переписки и создания текстов на этих языках. Репозиторий содержит веса в формате Safetensors. Лицензия в предоставленных данных не указана.
mergekit-community/mergekit-slerp-ebgdloh — объединённая текстовая модель, созданная сообществом с помощью mergekit из fblgit/UNA-TheBeagle-7b-v1 и SanjiWatsuki/Kunoichi-DPO-v2-7B. При объединении применён метод SLERP; в конфигурации указаны базовая модель fblgit/UNA-TheBeagle-7b-v1 и формат вычислений bfloat16. Модель относится к семейству Mistral, использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для генерации текста; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Объединение моделей может сочетать их поведенческие особенности, однако карточка не приводит оценок качества или конкретных преимуществ этого результата. Лицензия в доступных данных не указана.
mergekit-community/mergekit-slerp-idbupbn — языковая модель, созданная сообществом путём слияния методом SLERP двух предварительно обученных моделей: meta-llama/Meta-Llama-3-8B-Instruct и amazingvince/Not-WizardLM-2-7B. Она предназначена для генерации текста и диалоговых ответов. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Слияние сочетает веса исходных моделей с параметрами, меняющимися для слоёв внимания и MLP. В репозитории веса представлены в формате safetensors; метаданные указывают библиотеку Transformers. Базовая Meta-Llama-3-8B-Instruct ориентирована на ассистентские ответы и генерацию текста на английском языке. Лицензия в предоставленных данных не указана. Качество и поведение конкретного слияния отдельно не описаны, поэтому результаты следует проверять для целевых сценариев.
Это слитая методом TIES языковая модель на архитектуре Llama, созданная с помощью mergekit на основе huihui-ai/Llama-3.2-3B-Instruct-abliterated и четырёх других моделей. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 3,2 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Базовая модель описана как Llama 3.2 3B Instruct с ослабленными отказами. Лицензия и языки в доступных данных не указаны, поэтому их нельзя уточнить; сведения о возможностях модели ограничены карточкой и метаданными.
Карточка модели mergekit-community/mergekit-ties-anlytjh на Hugging Face совпадает с карточкой mergekit-community/mergekit-ties-fnacfof, поэтому описание составлено по ней. mergekit-community/mergekit-ties-fnacfof — языковая модель на архитектуре Llama, созданная сообществом с помощью слияния TIES. В объединении использованы NousResearch/Llama-2-7b-hf в качестве базовой модели, а также microsoft/Orca-2-7b и arcee-ai/Patent-Instruct-7b. Модель содержит 6,6 млрд параметров, распространяется в формате Safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и диалоговых сценариев, сочетая возможности включённых в слияние моделей. Карточка не уточняет отдельные преимущества, целевые языки или специализированные сценарии; базовая модель описана как англоязычная. Лицензия в предоставленных данных не указана.
Модель aliRafik/Meta_Llama_3.1_8B_alpaca_16bit — дообученная автором aliRafik языковая модель семейства Llama 3.1 на 7,5 млрд параметров. В основе лежит unsloth/meta-llama-3.1-8b-unsloth-bnb-4bit; обучение выполнялось с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста по запросу и может применяться для диалоговых ответов, черновиков и других задач на основе языковых инструкций. Метаданные указывают контекст до 131 072 токенов и английский язык. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает набор данных или конкретную специализацию дообучения, поэтому качество для отдельных предметных областей и поведение на других языках по ней оценить нельзя.
MFANNv0.17.10 — диалоговая языковая модель для генерации текста, созданная netcat420 с помощью слияния моделей через mergekit. В основе объединения лежит MaziyarPanahi/Llama-3-8B-Instruct-v0.4, также в него вошли MFANNv0.16 и MFANNv0.17. Использован метод DARE TIES; модель имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалогов и генерации ответов ассистента. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий использует Transformers и формат Safetensors. В карточке не приведены сведения о специализации по языкам или конкретных областях применения. Лицензия в предоставленных данных не указана. Возможности и качество ответов зависят от объединённых моделей; в README нет результатов оценки или подробного описания ограничений.
kevin009/minirewrite — языковая модель, дообученная на базе Mistral Instruct v2 для помощи с редактированием текстов. Она предназначена для пересмотра формулировок, перефразирования и упрощения языка: модель старается заменять технический жаргон ясными и доступными выражениями. Архитектура — плотная авторегрессионная MistralForCausalLM на 7,1 млрд параметров; модель поддерживает чат, принимает текст и генерирует текст, максимальный контекст составляет 32 768 токенов. В карточке указан английский язык. Для настройки использованы 14 000 разговоров в минималистичном и доступном стиле и ещё 8 000 примеров редактирования и перефразирования. Модель может быть полезна для повседневной правки черновиков, однако иногда выдаёт более короткие ответы, чем исходная версия, и может наследовать смещения из обучающих данных. В README также отмечено, что специальных мер защиты от потенциально вредоносного или оскорбительного текста нет. Лицензия — Apache-2.0.
Mistral0.2-Merlinite-Franken-Sonya-10.5B — языковая модель для генерации текста, собранная методом passthrough merge с помощью mergekit. В неё вошли части Franken-Sonya, Mistral-7B-Instruct-v0.2 и ND911/Franken-Merlinite-Maid; метаданные каталога связывают её с последней моделью как с базовой. Архитектура — плотная MistralForCausalLM, размер — 10,4 млрд параметров, формат весов — safetensors, библиотека — Transformers, контекст — до 8192 токенов. Модель предназначена для генерации текста по текстовому запросу, включая диалоговые сценарии, на которые указывают компоненты с инструкционной настройкой. Карточка не сообщает поддерживаемые языки, специальные области применения или результаты оценки качества. Лицензия в предоставленных данных не указана.
mistral-7b-dpo-v6-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста, созданная объединением Mistral-7B-Instruct-v0.1 и mistral-7b-dpo-v6 методом SLERP. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; заявленный контекст — до 32 768 токенов. В репозитории представлены веса в формате safetensors. Модель предназначена для ответов на инструкции и диалоговые запросы на английском языке. Лицензия Apache-2.0 разрешает использование на её условиях. Карточка описывает способ объединения моделей, но не приводит сравнительных оценок качества или подробных ограничений.
DanDev/Mistral-7B-LexisGen — дообученная DanDev языковая модель семейства Mistral для генерации текста в диалоговом формате. Она основана на unsloth/mistral-7b-instruct-v0.2-bnb-4bit и обучена с использованием Unsloth и библиотеки TRL. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для диалоговой генерации текста на английском языке. Репозиторий содержит веса в формате safetensors; заявлена лицензия Apache-2.0. Карточка не описывает специализированную предметную область или конкретные преимущества и ограничения качества.
Mistral7B-PairRM-SPPO-Iter3 — языковая модель UCLA-AGI, дообученная методом Self-Play Preference Optimization на третьем этапе. Она основана на mistralai/Mistral-7B-Instruct-v0.2 и содержит 7,1 млрд параметров; модель Mistral с плотной архитектурой предназначена для диалоговой генерации текста. Для обучения использовались промпты из UltraFeedback, разделённые на три части, и синтетические ответы. Контекст модели составляет 32 768 токенов. Модель рассчитана прежде всего на англоязычный диалог: ответы на вопросы, следование инструкциям и ведение беседы. В карточке приведены результаты AlpacaEval, Arena-Hard, MT-Bench и Open LLM Leaderboard, но они не гарантируют качество на конкретных запросах. Доступна под лицензией Apache-2.0.
BeaverAI/mistral-doryV2-12b — инструкционная донастройка базовой модели Mistral Nemo Base 2407 от BeaverAI. Модель предназначена для диалоговой генерации текста по инструкциям и использует шаблон запросов в стиле Alpaca с необязательным системным сообщением. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров. Метаданные указывают контекст до 1 024 000 токенов, поддержку английского языка и формат весов Safetensors. Модель не ориентирована на эротический ролевой контент; для этого автор рекомендует другую модель. Распространяется по лицензии Apache 2.0. README не приводит результатов оценки качества или подробностей обучения, поэтому пригодность для конкретных задач следует проверять на собственных данных.
Kaoeiri/Mistral-magnum_X_Cydonia-v1.3-M — объединение предварительно обученных языковых моделей, созданное методом Model Stock с помощью mergekit. В качестве базовой модели использована unsloth/Mistral-Small-Instruct-2409; в объединение также вошли модели Magnum, Cydonia, SeminalRP, Gutenberg-Doppel и abliterate-версия Mistral Small Instruct. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, примерно 22 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогов; её можно применять для написания и продолжения прозы, ролевых диалогов и ответов на запросы. В карточке заявлены интерфейс чата и интерфейс вызова инструментов. Модель работает с текстом; конкретный перечень поддерживаемых естественных языков в источниках не приводится. Весовые файлы представлены в формате safetensors. Лицензия и специальные ограничения использования в предоставленных данных не указаны, поэтому условия следует проверить в карточке модели и у базовых моделей перед внедрением. Поскольку это объединение нескольких моделей, поведение и качество могут зависеть от формулировки запроса; независимые оценки качества в карточке не приведены.
Модель toxibunny/mistral-small-unsloth-base-rpmax-base-v-curve-slerp — объединение двух предварительно обученных языковых моделей, созданное с помощью mergekit методом SLERP. В слиянии использованы ArliAI/Mistral-Small-22B-ArliAI-RPMax-v1.1 и unsloth/Mistral-Small-Instruct-2409; для входных и выходных слоёв задана доля базовой модели, а для средних слоёв — RPMax. Модель относится к семейству Mistral, имеет плотную архитектуру MistralForCausalLM и 22 млрд параметров. Модель предназначена для генерации текста и разговорных сценариев, включая творческое письмо и ролевые диалоги. Она поддерживает контекст до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.
MixtureofMerges-MoE-2x7b-v0.01b-SLERP — языковая модель с архитектурой Mixtral MoE, полученная слиянием методом SLERP через mergekit. В слиянии использованы yunconglong/Truthful_DPO_TomGrc_FusionNet_7Bx2_MoE_13B и jsfs11/MixtureofMerges-MoE-2x7b-v6; карточка указывает базовой моделью первую из них. В каталожных метаданных размер указан как 7,1 млрд параметров, а длина контекста — 32 768 токенов. Модель предназначена для генерации текста и может применяться в диалоговых сценариях, ответах на запросы и создании текстового контента. Базовая модель прошла настройку DPO с предпочтением правдивых ответов, однако отдельных оценок качества или гарантий правдивости для данного слияния карточка не приводит. Модель распространяется в формате safetensors по лицензии Apache-2.0.