III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельМодель 1024m/GEMMA2-27B-NLI-16bit разработана 1024m и представляет собой дообученную языковую модель Gemma 2 на 27,6 млрд параметров. В качестве основы использована unsloth/gemma-2-27b-bnb-4bit; для обучения применялись Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и поддерживает контекст длиной до 8192 токенов. Карточка не описывает специальную настройку для задач NLI, поэтому её практическое назначение по доступным сведениям — генерация текста общего назначения. Указанная лицензия — Apache 2.0. Данные карточки не сообщают о целевых оценках качества или ограничениях модели.
GreatRag-13B-slerp — языковая модель для генерации текста, созданная как слияние inception-mbzuai/jais-13b и google/gemma-2b методом SLERP с помощью LazyMergekit. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате Safetensors; в метаданных указаны 6,6 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы и суммаризации. В составе слияния есть Jais и Gemma; описание и метаданные не уточняют языковое покрытие или преимущества именно этого слияния. Лицензия в предоставленных данных не указана.
Higgs Audio v3 STT — модель распознавания речи в текст от автора репозитория erik-at-boson. Она объединяет энкодер Whisper-Large-v3 с дообученными в версии v2 слоями внимания и декодер Qwen3-1.7B; всего в модели 2,68 млрд параметров. Модель принимает монофонические WAV-аудиозаписи с частотой 16 кГц и предназначена для транскрибации речи. Для повышения точности поддерживается режим Thinking. Карточка описывает обновлённые веса и обновлённый набор данных для дообучения, включающий публичные обучающие части AMI, VoxPopuli, SPGISpeech, LibriSpeech, TED-LIUM, GigaSpeech и Earnings22. В репозитории также приведён скрипт транскрибации с детерминированным подавлением повторов слов и фраз. Для загрузки требуется включить trust_remote_code=True и установить библиотеку boson_multimodal для предварительной обработки аудио. Модель распространяется по лицензии Apache-2.0.
Hypa-Llama3.1-8b-SFT — созданная Hypa Intelligence многоязычная модель генерации текста на базе Meta Llama 3.1 8B Instruct. Это продолжение дообучения предыдущего чекпойнта Hypa-Llama методом SFT с LoRA/QLoRA; адаптер объединён с весами в 16-битном формате. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и библиотеку Transformers. Лицензия — Apache-2.0. Модель предназначена для перевода между английским, французским, испанским и четырнадцатью языками Нигерии, определения языка, словарных объяснений, многоязычного следования инструкциям и вызова инструментов в формате Llama. В карточке перечислены 17 поддерживаемых языков; контекст обучения составляет 2048 токенов, хотя базовая конфигурация унаследовала более длинное окно контекста. К сильным сторонам относятся поддержка ряда малоресурсных языков и структурированный вывод в Markdown или JSON. Качество может заметно различаться между языками, поэтому для редких языков ответы следует проверять с носителями; JSON иногда требует исправления. Модель не проходила дополнительную настройку безопасности после SFT и не предназначена для самостоятельного применения в медицинских, юридических, финансовых и психологических сценариях.
HyperGemma-2-9B — слитая языковая модель на архитектуре Gemma 2, опубликованная пользователем bunnycore. Она создана методом Model Stock с помощью mergekit на основе lemon07r/Gemma-2-Ataraxy-9B и объединяет также crestf411/gemma2-9B-sunfall-v0.5.2, ehristoforu/Gemma2-9b-it-train6 и nbeerbower/gemma2-gutenberg-9B. Модель содержит 9 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель можно применять для ведения диалога, написания творческих текстов и генерации продолжений по запросу. Она принимает текст и выдаёт текст; заявленный контекст — 8192 токена. Веса опубликованы в формате safetensors и представлены для использования через Transformers. Лицензия и специальные ограничения применения в предоставленных данных не описаны. Качество и языковое покрытие отдельно не охарактеризованы, поэтому их следует оценивать на целевых запросах.
Ingot-7b-slerp-3 — слитая модель на архитектуре Mistral, созданная с помощью LazyMergekit из flemmingmiguel/MBX-7B и liminerity/Ingot-7b-slerp. Веса объединены методом SLERP; в конфигурации flemmingmiguel/MBX-7B указан как базовая модель, а тип данных — bfloat16. Модель предназначена для генерации текста по запросу. Она содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Карточка не приводит сведений о целевых языках, специальных областях применения или оценках качества. Модель опубликована в формате safetensors. Лицензия в предоставленных сведениях не указана.
InnerILLM-0x00d0-Ox0dad0-nous-nous-v2.0-7B-slerp — языковая модель, созданная InnerI слиянием методом SLERP через LazyMergekit моделей OpenPipe/mistral-ft-optimized-1218 и 0x0dad0/nous_nous_v2_0. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров для генерации текста. Она принимает текст и формирует текстовые продолжения; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса Safetensors в формате bfloat16. Модель подойдёт для текстовых диалогов и генерации текста, однако карточка не приводит оценок качества, конкретных рекомендаций по применению или сведений о поддерживаемых языках. Лицензия в предоставленных данных не указана.
Instruct_Mixtral-8x7B-v0.1_Dolly15K — языковая модель Brillibits для генерации ответов на инструкции и диалоговых запросов. Она дообучена методом QLoRA на датасете Databricks Dolly 15K от базовой модели Mixtral-8x7B-v0.1; README сообщает о 1 эпохе обучения и разделении данных на обучающую, валидационную и тестовую выборки. В репозитории указаны веса в формате safetensors, а метаданные описывают архитектуру как Mixtral MoE с классом MixtralForCausalLM и размером 7,1 млрд параметров. Метаданные указывают контекст до 32 768 токенов, тогда как README сообщает, что при обучении использовалось окно 1 024 токена. Модель рассчитана на генерацию текста по инструкциям на английском языке, включая ответы на вопросы и создание текстов. Лицензия — Apache-2.0. Карточка показывает настройку на Dolly 15K, но не приводит результаты оценки качества; фактическое качество и пригодность для конкретных сценариев следует проверять отдельно.
K2S3-Mistral-7b-v1.1 — текстовая генеративная модель, разработанная K2S3 на основе mistralai/Mistral-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,2 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате safetensors. Модель дообучена полным обновлением параметров методом SFT на данных alpaca-gpt4-data и выборках из OpenOrca. Она предназначена для генерации текста и ответов на запросы в формате инструкций. В карточке заявлены английский и корейский языки. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Качество и надёжность ответов могут различаться; сведения о специализированной предметной области или дополнительных гарантиях качества в карточке не приведены.
Kosmos-8B-v1 — языковая модель Khetterman, созданная слиянием 14 моделей с помощью mergekit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста, чатов и творческих ролевых диалогов; в метаданных указана поддержка английского и русского языков. Нативная длина контекста — 8192 токена. Модель объединяет варианты Llama 3 и Llama 3.1, в том числе русскоязычную Saiga и модели для творческого общения. Доступна в формате safetensors и использует библиотеку Transformers. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
posicube/Llama2-chat-AYT-13B — диалоговая языковая модель компании Posicube Inc., созданная на основе Llama-2-13b-chat-hf. Разработчики объединили модели, показавшие лучшие результаты в бенчмарках ARC, MMLU и TruthfulQA; при обучении использовались наборы данных в стилях Orca и Alpaca. Модель содержит 12,9 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и диалогового использования на английском языке. В README сообщается о высоких результатах среди моделей класса 13B на бенчмарках 2023 года, включая ARC, HellaSwag и MMLU. Лицензия — Llama 2. Тестирование описано для английского языка; перед применением в конкретных сценариях следует проверять качество и безопасность ответов.
cyberagent/Llama-3.1-70B-Japanese-Instruct-2407 — японская модель для диалогов и генерации текста, разработанная Рёсукэ Исигами. Это модель семейства Llama 3.1 с плотной архитектурой LlamaForCausalLM и 69,5 млрд параметров; она создана на основе meta-llama/Meta-Llama-3.1-70B-Instruct путём дополнительного предобучения на японском языке. Модель использует формат запросов Llama 3.1 и поддерживает контекст до 131 072 токенов. Модель предназначена для ответов на запросы и ведения диалога на японском и английском языках. Её можно применять в чат-ботах и для генерации текста с длинным контекстом. Репозиторий содержит веса в формате safetensors. Лицензия — llama3.1. README не описывает специализированные области применения или подробные ограничения качества.
4yo1/llama3-pre1-pre2-inst3-lora3-mergkit-base — языковая модель семейства Llama, опубликованная 4yo1. Это плотный трансформер LlamaForCausalLM на 7,4 млрд параметров с контекстом до 8192 токенов, рассчитанный на работу с текстом и диалоговые сценарии. В карточке указаны английский и корейский языки; модель распространяется в формате safetensors и загружается через Transformers. Модель предназначена для генерации текста и перевода. Карточка не описывает качество перевода, процедуру обучения или точное происхождение весов; упоминание LoRA и merge в названии само по себе не подтверждает тип производной модели. Лицензия — MIT.
QuantFactory/LLaMAX3-8B-Alpaca-GGUF — квантованная версия модели LLaMAX3-8B-Alpaca, созданная QuantFactory с использованием llama.cpp. Базовая модель разработана командой LLaMAX и основана на Llama 3 с размером около 8 миллиардов параметров. Модель предназначена для генерации текста, следования инструкциям и многоязычного машинного перевода. Модель обучалась на данных для 102 языков с целью расширить языковые возможности Llama и сохраняет способности к выполнению инструкций, полученные при дообучении на датасете Alpaca. Она поддерживает перевод между более чем 100 языками, включая русский, английский, китайский, арабский, немецкий, французский, испанский, японский и многие другие. Основная модальность — текст; размер контекста в README не указан. К сильным сторонам относятся широкое языковое покрытие и улучшенные по сравнению с LLaMA3-8B-Alpaca показатели перевода на наборе Flores-101: среднее улучшение spBLEU превышает 5 баллов. Ограничения включают отсутствие сведений о точных параметрах квантования, размере контекста и качестве для задач, не связанных с переводом; результаты также могут различаться в зависимости от языка и направления перевода. Модель распространяется по лицензии MIT.
DazzlingXeno/MagnumChronos — объединённая текстовая модель, созданная автором репозитория с помощью mergekit и метода della. В качестве базовой модели использована elinas/Chronos-Gold-12B-1.0; в объединение также включена anthracite-org/magnum-v2-12b. Модель построена на архитектуре Mistral с плотной causal language model и содержит 12,1 млрд параметров. Она предназначена для генерации текста и диалогового общения. В метаданных заявлена длина контекста 1 024 000 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана. README не описывает оценку качества или специальные ограничения модели; возможности работы на длинном контексте и качество ответов следует проверять в целевом сценарии.
Magnum v4 22B — языковая модель, разработанная организацией Anthracite и представленная в формате GGUF-квантизаций. Она дообучена на базе Mistral-Small-Instruct-2409 и создана для воспроизведения качества прозы моделей Claude 3, в частности Sonnet и Opus. Модель предназначена для текстовой генерации и диалоговых сценариев, включая написание и редактирование текстов, следование инструкциям и использование в чат-интерфейсах, например SillyTavern. Указан английский язык. Размер модели — 22 млрд параметров; поддерживается контекст длиной до 32 768 токенов. Модель работает в текстовой модальности, а README описывает стандартный формат промпта Mistral с системным сообщением, пользовательскими запросами и ответами ассистента. К сильным сторонам относятся ориентация на высокое качество прозы, большой контекст и доступность в GGUF для локального запуска с подходящими инструментами. Ограничения включают отсутствие заявленных мультимодальных возможностей, отсутствие количественных результатов бенчмарков и неполное описание характеристик безопасности. Модель обучалась в течение двух эпох методом полно-параметрического дообучения на нескольких датасетах, связанных с инструкциями, диалогами и качеством письма. Лицензия указана как other с названием mrl; дополнительные условия в README не раскрыты.
Matter-0.1-7B-dare — языковая модель на архитектуре Mistral, созданная объединением моделей 0-hero/Matter-0.1-7B-boost и 0-hero/Matter-0.1-7B с помощью mergekit и метода dare_ties. В конфигурации также указана mistralai/Mistral-7B-v0.1 как базовая модель; объединение использует плотность 0,53, веса 0,5 для каждой из двух моделей и формат bfloat16. Модель предназначена для генерации текста. Она содержит 7,1 млрд параметров, принимает текст и выдаёт текст, а заявленный контекст составляет 32 768 токенов. Карточка не описывает специальные сценарии применения или языки. Модель распространяется под лицензией Apache-2.0. Специализированные возможности и ограничения качества в карточке не описаны.
Nandine-7b — объединённая модель семейства Mistral, опубликованная sethuiyer. Она создана методом DARE-TIES из senseable/Westlake-7B, Guilherme34/Samantha-v2 и uukuguy/speechless-mistral-six-in-one-7b; в конфигурации указан базовый Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, а её контекст составляет до 32 768 токенов. Модель предназначена для диалогового общения, творческого письма, обсуждения сложных тем и общей помощи. Карточка отмечает сильные стороны в повествовании, эмпатичных ответах, ясной подаче и анализе; приведённые оценки получены на синтетических запросах и стандартных бенчмарках. Основной язык карточки — английский. Среди ограничений указаны недостаточная естественность перевода, ошибки в некоторых математических и логических задачах, а также неполная глубина отдельных ответов и исторических объяснений. Модель распространяется по лицензии Apache-2.0.
NeuralBeagle14-7B — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Mlabonne. Это DPO-дообучение модели mlabonne/Beagle14-7B на наборе предпочтений argilla/distilabel-intel-orca-dpo-pairs; исходная Beagle14-7B объединяет несколько моделей семейства Beagle. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям и ответов на запросы общего характера. Модель подходит для задач рассуждения, ролевого общения и написания историй. В README указано контекстное окно 8 тыс. токенов, а метаданные каталога указывают нативный контекст 32 768 токенов. Поддерживаются шаблоны chatml и формат чата Llama. Модель работает с текстом и выдаёт текст; сведения о конкретных естественных языках не приведены. Модель распространяется в формате Safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. В README приводятся высокие результаты сравнительных оценок для категории моделей около 7 млрд параметров, но автор отмечает возможное влияние неудачного запуска и чрезмерного использования обучающего набора предпочтений; результаты бенчмарков сами по себе не гарантируют качество на конкретных задачах.
orca_mini_7b — языковая модель, созданная Панкаджем Матуром на основе OpenLLaMA-7B. Модель дообучена на наборах инструкций WizardLM, Alpaca и Dolly-V2 с применением подходов к построению данных из исследовательской работы Orca; для генерации обучающих ответов использовался ChatGPT на базе gpt-3.5-turbo-0301. В метаданных указаны архитектура LLaMA, 6,6 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям и диалоговых запросов на английском языке. Обучение на объяснительных примерах ориентировано на выполнение разнообразных инструкций и рассуждения. Она принимает текст и выдаёт текст; опубликованные веса представлены в форматах PyTorch и Safetensors. Модель выпущена по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование и требует соблюдения условий атрибуции и распространения производных материалов. Контекст ограничен 2048 токенами; результаты приведённых в карточке оценок Open LLM Leaderboard не гарантируют точность в конкретных задачах.
Moondream Parakeet Ultra — дообученная версия модели Parakeet TDT 0.6B v3 от NVIDIA для автоматического распознавания речи. Она сохраняет исходную архитектуру Parakeet TDT, токенизатор и 0,6 млрд параметров в полной точности и предназначена для транскрибирования речи, в том числе длинных записей, фоновых разговоров и аудио с шумом. Модель поддерживает 25 языков, включая русский, английский и немецкий. Для длинных записей встроенная в веса голова определения речевой активности помогает разбивать аудио на сегменты длительностью до 30 секунд без отдельной VAD-модели. В приведённых тестах Parakeet Ultra показала более низкий WER, чем Parakeet TDT 0.6B v3, а также более высокую скорость в тестах на Photon с GPU NVIDIA; результаты зависят от среды и настроек запуска. Для запуска автор рекомендует Photon. Модель опубликована под лицензией CC-BY-4.0. Она предназначена для распознавания речи и не выполняет перевод или генерацию речи.
Platypus-Nebula-v2-7B — объединённая модель на базе Mistral 7B, созданная Weyaxi путём слияния bhenrym14/mistral-7b-platypus-fp16 и PulsarAI/Nebula-v2-7B-Lora. Она предназначена для генерации текста и может использоваться для диалога, ответов на вопросы и решения текстовых задач на английском языке. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории размещены веса в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.
Q2.5-Veltha-14B — объединённая языковая модель на архитектуре Qwen2.5, созданная автором djuna с помощью mergekit и метода della_linear. В качестве основы использована qwen/Qwen2.5-14b, а в объединение вошли пять моделей Qwen2.5-14B, включая диалоговые варианты и модели для ролевого общения и генерации историй. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она содержит 14 млрд параметров, работает через Transformers и поддерживает контекст до 131 072 токенов. В README приведены результаты оценки, включая 82,92 на IFEval и 49,75 на BBH; описания конкретных сильных сторон и ограничений качества нет. Лицензия в предоставленных данных не указана.
Falconsai разработала дообученную модель на базе DistilBERT-base-uncased для ответов на вопросы по заданному контексту. Она использует архитектуру DistilBertForQuestionAnswering и принимает текст с вопросом и контекстом, чтобы определить ответ; контекст ограничен 512 токенами. Модель рассчитана на английский язык и подходит для сценариев, где важны компактность и быстрая обработка текста, например для поиска ответов в документах. В README также упоминаются классификация текста, анализ тональности и распознавание именованных сущностей, но обучение этой версии было сосредоточено на ответах на вопросы. Качество на конкретных данных следует проверять отдельно: модель может хуже работать на отличающихся от обучения текстах и задачах. Распространяется по лицензии Apache-2.0.
Модель homeb82784/qwen2.5-7b-instruct-cpt-v4.0 — дообученная авторегрессионная языковая модель семейства Qwen2, разработанная homeb82784 на основе unsloth/qwen2.5-7b-instruct-bnb-4bit. Она предназначена для генерации текста в диалоговом формате и может использоваться в чат-сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указано, что обучение выполнялось с Unsloth и библиотекой Hugging Face TRL. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0. Данные карточки не описывают специализацию дообучения, поэтому конкретные преимущества или качество в отдельных областях установить нельзя; заявленная поддержка языка — английский.
CalmState/Qwen-3-4b-Polyglot-r2 — плотная языковая модель Qwen3 с 3,7 млрд параметров, дообученная CalmState на базе unsloth/Qwen3-4B-Instruct-2507 для сценариев приложения Polyglot Air. Она принимает текст с командой-суффиксом вида ::en или ::formal и выполняет преобразование без вводных фраз: переводит между английским и вариантами португальского, исправляет орфографию и грамматику, меняет тон, кратко пересказывает или расширяет текст. Карточка описывает поддержку английского, португальского, испанского и китайского; контекст составляет до 262 144 токенов. Модель предназначена для быстрых преобразований выделенного текста в настольном приложении, а также может использоваться как диалоговая модель для генерации текста. В README указано, что версия обучена на датасете примерно вчетверо большем, чем предыдущая, и использует Unsloth и TRL. Модель распространяется в формате safetensors под лицензией Apache-2.0. Заявления об отсутствии галлюцинаций и точности являются характеристиками, заявленными автором, а не гарантией качества.
CarrotAI/Rabbit3-Ko-4B — диалоговая языковая модель с настройкой по инструкциям, созданная командой CarrotAI на основе Qwen/Qwen3-4B. Модель дообучена на корейских и английских данных и рассчитана прежде всего на работу с корейским языком. Она использует плотную архитектуру Qwen3ForCausalLM и содержит около 3,7 млрд параметров; нативная длина контекста — 40 960 токенов. Модель подходит для диалогов, ответов на вопросы и генерации текста на корейском и английском языках. В карточке приведены результаты оценок, в том числе на наборах GSM8K, Haerae, KoBEST и KMMLU. Для развёртывания README рекомендует sglang версии 0.4.6.post1 или новее либо vLLM версии 0.8.5 или новее; указана возможность создать совместимый с OpenAI API endpoint. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Карточка сообщает, что доступен только обычный режим использования.
Rombos-Qwen2.5-Writer-32b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Rombos-Qwen2.5-Writer-32b, разработанной SubtleOne и подготовленной квантизатором bartowski. Модель основана на архитектуре Qwen2.5, однако точная конфигурация архитектуры, поддерживаемые языки и размер контекста в README не указаны. Формат предназначен для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель ориентирована на генерацию и редактирование текста, а также на сценарии, где важны писательские возможности, поскольку в её названии указано назначение Writer. Доступны варианты от полноточного F16 размером 65,53 ГБ до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ различных размеров. Квантизации выполнены с использованием imatrix и датасета bartowski; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые благодаря сочетанию качества и экономии памяти. Более компактные варианты требуют меньше оперативной памяти, но уступают по качеству. Это текстовая, а не мультимодальная модель: сведения о работе с изображениями, аудио или видео отсутствуют. Основные ограничения — значительные требования к памяти для 32B-модели, зависимость качества от выбранного уровня квантизации и отсутствие в README подробных данных о производительности, языках и контексте. Для диалогового запуска следует использовать формат prompt с маркерами im_start и im_end. Для модели указана лицензия Apache-2.0.
Sailor2-8B-Chat-GGUF — это набор GGUF-квантизаций чатовой языковой модели Sailor2-8B-Chat, разработанный командой sail и квантизированный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, генерации текста и выполнения инструкций, включая мультиязычные сценарии на английском, китайском, индонезийском, тайском, вьетнамском, малайском, лаосском, бирманском, яванском, кхмерском, сунданском и тагальском языках. Модель имеет размер 8B параметров; архитектура и размер контекста в README не указаны. Доступны варианты от F16 до низкобитных Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Для чата следует использовать формат с маркерами system, user и assistant. Сильной стороной является сочетание мультиязычной направленности и широкого выбора форматов для локального запуска, в том числе через LM Studio. Ограничения включают возможное снижение качества при агрессивной квантизации и отсутствие сведений о результатах оценивания, поддерживаемых модальностях помимо текста и максимальной длине контекста. Модель распространяется по лицензии Apache-2.0.
SeaLLM-7B-v2 — мультиязычная языковая модель для языков Юго-Восточной Азии, разработанная командой SeaLLMs. Модель основана на Mistral-7B: авторы продолжили предварительное обучение и настроили её с упором на рассуждения. По метаданным это плотная архитектура Mistral с 7,2 млрд параметров; она поддерживает контекст до 32 768 токенов и предназначена для диалогового текстового взаимодействия. Модель подходит для генерации ответов и инструкций, решения математических задач, рассуждений здравого смысла и ответов на вопросы на английском, китайском, вьетнамском, индонезийском, тайском, малайском, кхмерском, лаосском, бирманском и тагальском языках. В карточке приведены результаты на мультиязычных математических и общих знаниях, включая тесты для нескольких языков региона; качество может различаться в зависимости от языка и задачи. Возможны неточные, вводящие в заблуждение или потенциально вредные ответы, поэтому перед внедрением модель следует проверять и защищать от небезопасных сценариев. В метаданных указана лицензия other, а карточка требует соблюдать условия SeaLLMs Terms of Use.