III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельЭто модель суммаризации текста на архитектуре BART Large CNN, созданная Mr-Vicky-01 на основе предварительно обученной модели Facebook BART Large. Она дообучена на наборах данных XSum и SAMSum для сокращения текстов, в том числе новостных материалов и диалогов, до краткого пересказа. Модель содержит 252,8 млн параметров, принимает текст и имеет контекстное окно до 1024 токенов. Поддерживаемый язык — английский. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers. Лицензия — MIT.
joonion/bert-finetuned-squad — модель DistilBERT, дообученная на неизвестном наборе данных на основе distilbert/distilbert-base-cased-distilled-squad. Она предназначена для ответов на вопросы по переданному текстовому фрагменту: модель получает вопрос и контекст и извлекает из контекста ответ. Архитектура — DistilBertForQuestionAnswering; максимальная длина контекста составляет 512 токенов. Модель работает с текстом и распространяется в формате safetensors. Карточка не приводит подробностей о дополнительном наборе данных, оценке качества или специальных сценариях применения. Лицензия — Apache-2.0.
BigQwen2.5-52B-Instruct — плотная языковая модель на архитектуре Qwen2, созданная mlabonne с помощью MergeKit как self-merge на основе Qwen2.5-32B-Instruct. Она предназначена для диалоговой генерации текста; автор предполагает, что модель может подойти для творческого письма. Модель содержит 51,5 млрд параметров, принимает текст и поддерживает контекст длиной 32 768 токенов. В метаданных также заявлен интерфейс для вызова инструментов. В карточке приведены результаты нескольких оценок, но автор сообщает, что лично модель не тестировал, поэтому качество и пригодность для конкретных сценариев требуют самостоятельной проверки. Указана лицензия Apache-2.0.
Eurydice 24b v2 — языковая модель Aixon Lab для диалогов с несколькими ролями. Это дообученная на пользовательском наборе данных причинная трансформерная модель семейства Mistral, основанная на mistralai/Mistral-Small-3.1-24B-Instruct-2503. Веса представлены в формате Safetensors; модель содержит 23,4 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста, общения, ответов на вопросы, анализа и создания историй. В карточке особо отмечены понимание контекста, творческая генерация и естественный диалог. Основной язык — английский; заявлена возможная поддержка других языков, но их перечень и результаты оценки не приведены. Лицензия — Apache 2.0. Модель может наследовать смещения и ограничения обучающих данных и базовой модели. Разработчик не приводит метрик производительности, поэтому качество следует оценивать на целевых сценариях.
EverythingLM-13b-V3-16k — универсальная текстовая модель для генерации ответов, разработанная на основе Llama 2 и обученная на датасете EverythingLM-V3. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 16 384 токенов; в карточке указана библиотека PyTorch и формат весов PyTorch. Модель предназначена для диалога и генерации подробных ответов, творческих историй и ролевых сценариев. Разработчик отмечает понимание запросов и автоматически запускаемые рассуждения CoT. Для диалога приведён формат Alpaca-chat с маркерами USER и ASSISTANT. Карточка описывает модель как uncensored, но отмечает, что базовая модель может сопротивляться некоторым запросам и иногда требует подбора формулировок. Это дообучение Llama 2 на EverythingLM-V3; базовая модель использует лицензию Llama 2. Модель опубликована в сентябре 2023 года. Заявленные качества и поведение основаны на описании разработчика и не сопровождаются количественными результатами оценки.
MaziyarPanahi/Experiment28T3q_Experiment26Experiment24 — объединённая модель семейства Mistral для генерации текста. По карточке, она создана слиянием automerger/Experiment28T3q-7B и automerger/Experiment26Experiment24-7B. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста; конкретные языки и специализированные области применения в карточке не описаны. Распространяется в формате safetensors по лицензии Apache-2.0.
abideen/gemma-2b-openhermes — компактная языковая модель для генерации текста, созданная дообучением Google Gemma 2B Instruct с помощью QLoRA на предпочтениях OpenHermes-2.5. Модель использует плотную архитектуру GemmaForCausalLM, содержит 2,5 млрд параметров и рассчитана на контекст до 8192 токенов. Модель принимает текстовые запросы и документы, а в ответ генерирует текст. Она предназначена для диалогов, ответов на вопросы и суммаризации; для разговорного режима следует применять встроенный шаблон чата токенизатора. В README заявлена генерация на английском языке. Карточка приводит результаты нескольких бенчмарков, но сама по себе не гарантирует качество на конкретных прикладных задачах. Модель доступна в формате Safetensors для библиотеки Transformers. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Granite-speech-3.3-2b — компактная речевая языковая модель IBM, основанная на granite-3.3-2b-instruct и адаптированная к обработке аудио. Она предназначена прежде всего для автоматического распознавания речи (ASR) и автоматического перевода речи (AST), а также поддерживает текстовые сценарии через базовую языковую модель. Модель использует двухэтапную схему: сначала преобразует аудио в текст, затем по отдельному вызову обрабатывает этот текст языковой моделью. Модель поддерживает речевой ввод на английском, французском, немецком, испанском и португальском языках. Она ориентирована на преобразование речи в текст и перевод между этими языками и английским, а также на перевод с английского на японский и мандаринский китайский. В версии 3.3.2 улучшена точность распознавания английской речи благодаря более глубокому акустическому энкодеру и дополнительным данным обучения. Модель содержит около 2 млрд параметров; точное максимальное окно контекста в README не указано. Сильными сторонами являются компактность, мультиязычность, поддержка ASR и AST и пригодность для корпоративных приложений, работающих с речевыми данными. Ограничение двухпроходной архитектуры заключается в необходимости явно выполнять отдельный второй вызов для обработки транскрибированного текста. Лицензия — Apache 2.0.
Ice0.68-25.01-RP — языковая модель на архитектуре Mistral, созданная объединением предварительно обученных моделей с помощью mergekit и метода SLERP. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста. README указывает, что в объединении участвовали Ice0.60-18.01-RP и Ice0.67-25.01-RP, причём базовой названа Ice0.67-25.01-RP. Языки и более узкие сценарии применения в предоставленных материалах не описаны. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
K2S3-Mistral-7b-v1.43 — языковая модель, разработанная K2S3 и дообученная методом supervised fine-tuning с настройкой всех параметров на базе mistralai/Mistral-7B-v0.1. Она предназначена для генерации текста по запросу и диалоговых сценариев; при обучении использовались alpaca-gpt4-data и образцы из OpenOrca. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,2 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории указаны веса safetensors. Карточка и метаданные указывают английский язык. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но не коммерческое применение. Качество и ограничения конкретной версии в карточке не описаны; как и другие генеративные языковые модели, она может выдавать неточные или вымышленные сведения.
odunola/lfm-350m — это зеркальная публикация модели LFM2.5-350M от Liquid AI. Веса не изменены; в репозитории обновлён tokenizer_config.json, чтобы Transformers мог разбирать простые ответы ассистента и вызовы инструментов. Это плотная гибридная языковая модель LFM2 с 444,6 млн параметров по метаданным, 16 слоями и контекстом 128 000 токенов по метаданным. Она принимает и генерирует только текст; README описывает её как универсальную инструкционную модель для локального запуска и устройств с ограниченными ресурсами. Модель предназначена для извлечения данных, формирования структурированных ответов и вызова инструментов. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. README указывает скорость до 313 токенов в секунду на AMD CPU и запуск менее чем с 1 ГБ памяти, однако эти показатели зависят от оборудования и условий измерения. Для работы доступны Transformers и другие среды вывода. Модель дообучена на LiquidAI/LFM2.5-350M-Base и выпущена под лицензией LFM Open License v1.0. README не рекомендует её для задач, требующих обширных знаний, и программирования; контрольная дата знаний — середина 2024 года.
nkpz/llama2-22b-daydreamer-v2 — языковая модель семейства Llama, дообученная автором nkpz ещё на нескольких эпохах общих данных airoboros v2. Модель предназначена для генерации текста и ответов на инструкции; автор отмечает, что она стала менее склонна к чрезмерно подробным объяснениям и менее привязана к формату инструкций, сохранив более универсальный стиль. Модель содержит 21,6 млрд параметров, использует плотную архитектуру LlamaForCausalLM и формат PyTorch. Нативный контекст составляет 4098 токенов. В карточке указана лицензия other. Автор описывает модель как работу в процессе и отмечает, что навыки решения задач ещё требуют улучшения.
Это дообученная DavidAU модель семейства Llama 3.3 на 7,5 млрд параметров для диалогов, следования инструкциям и генерации текста с режимом рассуждений. Автор сообщает, что дообучил вариант Llama 3.3 8B Instruct через Unsloth на датасете Claude 4.5 Opus High Reasoning; перед этим модель была модифицирована для снижения отказов. В карточке также заявлено восстановление контекста до 128 тысяч токенов. Модель предназначена для ответов на запросы, пошаговых рассуждений и творческого письма, включая рассказы, ролевые диалоги и хоррор. Автоматическая активация режима рассуждений зависит от формулировки запроса; для желаемого уровня откровенности или ненормативной лексики автор рекомендует явно задавать стиль и лексику. Указаны поддержка нескольких языков, включая русский, и лицензия Apache-2.0. Это текстовая модель, опубликованная в формате Safetensors для Transformers.
wangrongsheng/LongWriter-llama3.1-8b-abliterated — текстовая генеративная модель семейства Llama, представленная в формате Transformers и сохранённая в safetensors. По названию репозитория модель связана с LongWriter и Llama 3.1 8B; параметры каталога указывают размер около 7,5 млрд параметров и контекст до 131072 токенов. Она подходит для генерации текста и диалоговых сценариев, где полезно обрабатывать длинный контекст. Метаданные не уточняют языковую специализацию, автора дообучения, лицензию, данные обучения или оценки качества. Суффикс «abliterated» заявлен только в названии и сам по себе не подтверждает конкретные свойства безопасности или поведения модели.
Magnum v2 72B GGUF — квантизированная версия языковой модели anthracite-org/magnum-v2-72b, разработанная командой Anthracite и дообученная на базе Qwen-2 72B Instruct. Модель создана для генерации текста и диалоговых сценариев; её цель — приблизить качество прозы к моделям Claude 3, в частности Sonnet и Opus. Она предназначена для использования в формате ChatML. Модель содержит 72 миллиарда параметров, поддерживает текстовую модальность и указанные языки: английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский. Дообучение проводилось в течение двух эпох с использованием полного набора параметров, weight decay 0,01 и пиковой скорости обучения 4e-6. При обучении применялась упаковка примеров на 16 тысяч токенов, однако точный размер контекстного окна в README не указан. Репозиторий содержит GGUF-квантизации; вариант Q8_0 отмечен как повреждённый. Сильными сторонами модели заявлены качество прозы и способность работать в многоязычных диалоговых задачах. Ограничения включают зависимость от конкретного шаблона ChatML, отсутствие подробных сведений о результатах оценки и безопасности, а также возможные особенности и потери качества, связанные с квантизацией. Модель распространяется по лицензии, обозначенной как tongyi-qianwen; подробные условия следует уточнять в файле лицензии исходной модели.
Карточка модели Kailune-AI/mamba-gpt-3b на Hugging Face совпадает с карточкой CobraMamba/mamba-gpt-3b, поэтому описание составлено по ней. CobraMamba/mamba-gpt-3b — языковая модель, дообученная авторами репозитория на open-lama. В карточке базовой моделью названа openlm-research/open_llama_3b; каталог классифицирует архитектуру как плотную LLaMA с классом LlamaForCausalLM. Модель содержит 3,3 млрд параметров, принимает текст и генерирует текст, работает через Transformers и поддерживает контекст до 2048 токенов. Модель предназначена для генерации продолжений текста и языковых задач, включая ответы на вопросы и рассуждение по текстовому запросу. В README приведены результаты бенчмарков MMLU, ARC, HellaSwag и других оценок; авторы сообщают о сравнении с OpenLLaMA 3B и LLaMA. Карточка указывает лицензию Apache-2.0. README предупреждает, что ответы могут быть ошибочными, нерелевантными или содержать предвзятый и оскорбительный контент. В оценке авторы исключили CB и WSC из-за подозрения на загрязнение обучающими данными, поэтому приведённые результаты следует интерпретировать с учётом этого ограничения.
MERaLiON-2-10B — мультимодальная языковая модель для речи и аудио, разработанная I2R, A*STAR в Сингапуре. Она объединяет локализованный аудиоэнкодер Whisper Large v3 с текстовым декодером Gemma 2 9B и содержит 8,1 млрд параметров. Модель дообучена на 120 000 часах аудио и речи для распознавания речи, вопросов и ответов по аудио, суммаризации диалогов, создания аудиоподписей и понимания звуковой сцены. Модель рассчитана на многоязычные сценарии Сингапура и Юго-Восточной Азии: распознаёт английскую, китайскую, малайскую, тамильскую, индонезийскую, тайскую и вьетнамскую речь, включая местные акценты, разговорные выражения и переключение языков. Принимает монофоническое аудио с частотой 16 кГц длительностью до 300 секунд; для транскрибации и перевода README рекомендует аудиофрагменты до 30 секунд. Основная задача в каталоге — автоматическое распознавание речи. Модель предназначена для понимания речи и аудио, а не для вызова инструментов, математических или программных задач. Распространяется по лицензии MERaLiON Public License; перед использованием следует проверить её условия для конкретного сценария.
LeroyDyer/Mixtral_Instruct — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors; модель доступна для использования через библиотеку Transformers. Карточка README оставлена в виде шаблона и не сообщает, кто разработал модель и как она обучалась. Модель предназначена для генерации текста. Контекстное окно составляет 32 768 токенов, а в метаданных указан английский язык. Каталог связывает модель слиянием с LeroyDyer/Mixtral_BaseModel и Locutusque/Hercules-3.1-Mistral-7B, поэтому её происхождение отмечено как merge. Лицензия — Apache-2.0. README не содержит результатов оценки качества или рекомендаций по применению.
zelk12/MT3-Gen4-MU-gemma-2-Sv1IBT-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из gmonsoon/SahabatAI-Lion-9B-TIES-v1 и recoilme/recoilme-gemma-2-9B-v0.3. Модель содержит 9 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие; заявленное родное контекстное окно — 8192 токена. Её можно использовать для ответов в чате и генерации текста по запросу. Описание базовой модели указывает на ориентацию семейства на языки Юго-Восточной Азии и английский; конкретный перечень языков для этой объединённой модели не приведён. Лицензия в доступных данных не указана.
Moondream Parakeet Redux — компактная модель автоматического распознавания речи, созданная на основе Parakeet-TDT-0.6B-v3 от NVIDIA. Она сохраняет исходную архитектуру и токенизатор, но веса энкодера представлены значениями −1, 0 и +1 (1,58 бита); размер весов — 178 МБ. Для запуска README рекомендует Photon, который использует AVX-512 VNNI на x86, NEON на ARM и Metal на Apple-устройствах. Модель предназначена для преобразования речи в текст, включая многоязычные записи и длинные аудио. Встроенная голова определения речевой активности помогает Photon разделять длинные записи на фрагменты до 30 секунд. В опубликованных сравнениях Redux близка к исходной модели на английском, показывает лучшие результаты на FLEURS и длинных выступлениях, но сильнее теряет точность при фоновом шуме. Заявленные скорости зависят от оборудования и среды Photon. В карточке указана лицензия CC-BY-4.0. Модель поддерживает 25 языков, включая русский; метаданные перечисляют языковые коды для 23 из них.
SauerkrautLM-7b-HerO — авторегрессионная языковая модель на архитектуре Mistral, разработанная VAGO solutions. Она получена слиянием OpenHermes-2.5-Mistral-7B и Open-Orca/Mistral-7B-OpenOrca методом gradient SLERP через MergeKit, а затем дообучена на наборе Sauerkraut с немецкими дополненными и переведёнными данными. Модель предназначена для диалогов, генерации текста и ответов на вопросы на немецком и английском языках. В README заявлено, что обучение улучшает понимание немецкого языка и сохраняет международные возможности исходных моделей. Модель содержит 7,1 млрд параметров, использует формат PyTorch/SafeTensors и поддерживает контекст до 32 768 токенов. Лицензия — Apache 2.0, допускающая коммерческое использование. Разработчики предупреждают, что модель может выдавать неподходящий или некорректный контент; заявленные преимущества и результаты оценки приведены в README без численных результатов в предоставленном тексте.
Spaetzle-v69-7b — объединённая модель, опубликованная cstr и созданная с помощью LazyMergekit на основе Mistral. В финальном слиянии DARE-TIES сочетаются cstr/Spaetzle-v68-7b и abideen/AlphaMonarch-dora; README перечисляет также модели, вошедшие в предшествующие слияния. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral для генерации текста и рассчитана на контекст до 32 768 токенов. Модель предназначена для локальных задач на английском и немецком языках, включая диалоги, выполнение инструкций и рассуждения. В README приведены результаты нескольких англо- и немецкоязычных тестов; автор отмечает, что при выборе компромисса учитывались качество немецкого языка, следование инструкциям и устойчивость. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. В README также упомянута квантизованная GGUF-версия 4q_k_m, но сама модель в репозитории представлена в формате safetensors.
Surogate-3.5-4B — двуязычный ассистент компании Invergent для платформы Surogate, построенный на архитектуре Qwen 3.5. Модель предназначена прежде всего для следования инструкциям на румынском языке, рассуждений, решения математических задач и соблюдения орфографии; также поддерживает английский. Она принимает изображения и текст и выдаёт текст, поддерживает чат и шаблон Qwen3.5, а также режим с явной цепочкой рассуждений и адаптивной длиной рассуждения. Модель подходит для ответов на вопросы, выполнения инструкций и решения задач на румынском и английском языках. Оптимизация ориентирована на румынский, а качество английских ответов может меняться в зависимости от задачи. Модель может допускать орфографические, логические и фактические ошибки, поэтому расчёты и рекомендации с существенными последствиями следует проверять. Лицензия — Apache-2.0.
Táltos-27B — плотная мультимодальная модель на 27,8 млрд параметров, разработанная венгерской командой на основе Qwen/Qwen3.8-27B и дообученная для естественной речи и рассуждений на венгерском языке. Она поддерживает диалог, анализ изображений и видео, а также контекст до 262 144 токенов; архитектура сочетает Gated DeltaNet и Gated Attention. Модель предназначена для составления и редактирования венгерских текстов, резюмирования, пошаговых рассуждений и ответов на вопросы по изображениям. По описанию, дообучение улучшило венгерскую грамматику и формулировки, сохранив знания и мультимодальные возможности базовой модели. Для представленной версии указаны Transformers и формат safetensors; README также описывает отдельные варианты FP8 и GGUF. Лицензия Apache 2.0 разрешает использование, модификацию и коммерческое применение. Модель не имеет доступа к интернету, поэтому не знает о свежих событиях; факты, числа, даты и редкие имена могут требовать проверки. Математические, программные и общие знания унаследованы от базовой модели, а медицинские, юридические и финансовые решения не следует основывать только на её ответах.
Trismal-7B-Base-v1v2-Ties — объединённая языковая модель на архитектуре Mistral, созданная с помощью LazyMergekit из unsloth/mistral-7b и unsloth/mistral-7b-v0.2 методом TIES. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и использует точность float16. Её контекстное окно составляет 32 768 токенов. Модель предназначена для генерации и продолжения текста на основе текстового запроса. Карточка не описывает специальную настройку под конкретную область или диалоговый режим. Лицензия в предоставленных данных не указана.
allenai/tulu-v2.5-dpo-13b-alpacafarm-gpt4-pref — англоязычная чат-модель из набора RLHF-моделей Tulu, разработанного AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, основанная на allenai/tulu-2-13b и дообученная на инструкциях, синтетических диалогах и данных предпочтений. Для дополнительного выравнивания применялся DPO на разбиении alpaca_farm_gpt4_pref; в репозитории указан формат PyTorch и контекст до 4096 токенов. Модель предназначена для генерации текста и ответов в диалогах с помощником на английском языке. Её можно использовать для выполнения инструкций, ответов на вопросы и создания текстовых черновиков. README указывает, что шаблон чата встроен в токенизатор и требует учитывать перевод строки при форматировании сообщений. Модель не обучалась на безопасные ответы и не имеет встроенной фильтрации, поэтому может выдавать проблемный контент, особенно по соответствующим запросам. Лицензия — Apache 2.0.
WebSquareAI-Instruct-KoSOLAR-10.7b-v0.5.34 — текстовая генеративная модель, разработанная командой UI Platform компании Inswave Systems. Это дообученная instruct-версия базовой модели LDCC/LDCC-SOLAR-10.7B на архитектуре Llama с 10,7 млрд параметров; она предназначена для генерации текста и выполнения инструкций. Модель принимает текст и генерирует текст. Её контекстное окно составляет 4096 токенов. В метаданных указан английский язык. Для загрузки предусмотрены Transformers и PyTorch; в примере используется точность float16. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
Whisper tiny.en — компактная модель распознавания речи на английском языке, разработанная OpenAI. Это предварительно обученный Transformer encoder-decoder с архитектурой sequence-to-sequence и примерно 29,4 млн параметров; модель принимает аудио и выдаёт текстовую расшифровку. Она обучена на больших объёмах размеченной речи и предназначена для транскрибации английского аудио, в том числе записей с акцентами, фоновым шумом и специализированной лексикой. Для аудио длиннее примерно 30 секунд можно применять разбиение на фрагменты средствами Transformers. Модель может быть полезна для расшифровки записей, интервью, лекций и голосовых сообщений. Она способна ошибаться и иногда генерировать слова, которых нет в аудио; точность зависит от качества записи, акцента и предметной области. Лицензия — Apache 2.0.
YamshadowStrangemerges_32_Experiment28Experiment26 — слитая модель семейства Mistral, объединяющая automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Experiment26-7B. Она предназначена для генерации текста и имеет архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.
teknium/airoboros-mistral2.2-7b — языковая модель Mistral, дообученная на наборе инструкционных данных Airoboros разработчиком Teknium. Она предназначена для генерации ответов на запросы и следования инструкциям в текстовом диалоге; формат запроса использует метки USER и ASSISTANT. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре MistralForCausalLM и поддерживает контекст до 32 768 токенов. Карточка упоминает оценку TruthfulQA, но не приводит её результатов. Модель распространяется по лицензии MIT. Данные указывают на поддержку английского языка; иных языков карточка не подтверждает.