III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельLlama-SEA-LION-v3-8B — многоязычная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная авторегрессионная decoder-модель семейства Llama 3.1 с 7,5 млрд параметров, созданная продолжительным предобучением Llama-3.1-8B-Instruct примерно на 200 млрд токенов. Она рассчитана на генерацию текста и диалоговые сценарии с языками Юго-Восточной Азии, а также английским и китайским. Поддерживаются бирманский, китайский, английский, филиппинский, индонезийский, кхмерский, лаосский, малайский, тамильский, тайский и вьетнамский языки; контекст модели составляет до 131 072 токенов. Модель подходит для ответов на вопросы, анализа тональности, выявления токсичности, перевода, краткого пересказа, рассуждений и выполнения инструкций на поддерживаемых языках. В карточке приведены оценки на SEA-HELM и SEA-IFEval, включая проверку соблюдения ограничений и ответа на нужном языке. Модель использует архитектуру и токенизатор Llama 3.1; метаданные указывают библиотеку Transformers и формат safetensors. Лицензия — Llama 3.1 Community License, условия которой следует учитывать при использовании и распространении модели.
Mistral-Small-24B-Instruct-2501-bf16 — конвертированная в формат MLX версия инструктивной языковой модели Mistral AI Mistral-Small-24B-Instruct-2501, подготовленная сообществом mlx-community для запуска на устройствах Apple с MLX. Модель представляет собой плотную авторегрессионную архитектуру MistralForCausalLM с 23,4 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалогов и генерации текста по инструкциям на нескольких языках. Подходит для ответов на вопросы, составления и редактирования текстов, суммаризации и многоязычных ассистентских сценариев. Метаданные указывают поддержку английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Репозиторий содержит веса в safetensors и описывает конвертацию в MLX с помощью mlx-lm 0.21.1. Лицензия — Apache 2.0. Качество ответов и следование инструкциям зависят от формулировки запроса; как и другие языковые модели, она может генерировать ошибки и недостоверные сведения.
Qwen/Qwen1.5-110B-Chat — чат-модель из серии Qwen1.5, разработанной командой Qwen. Это бета-версия Qwen2: плотная авторегрессионная языковая модель на архитектуре Transformer с 110 млрд параметров, предназначенная для диалогов и генерации текста. Модель обучена следовать инструкциям и выдана в формате safetensors. Модель поддерживает многоязычное общение, а её контекстное окно составляет 32 768 токенов. В архитектуре серии используются SwiGLU, смещение в проекциях внимания QKV и, для версии 110B, групповое внимание запросов (GQA). Для работы подходит актуальная версия библиотеки Transformers; удалённый код модели не требуется. Модель подходит для диалоговых ассистентов, генерации и редактирования текста, а также ответов на вопросы по длинным входным материалам. Карточка не приводит конкретные результаты оценки качества и не перечисляет поддерживаемые языки по отдельности. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория.
Astra-v1-12B — языковая модель на архитектуре Mistral, разработанная P0x0 как дообучение Mistral-Nemo-Base-2407. Модель содержит 12,1 млрд параметров и предназначена для генерации текста и выполнения инструкций в диалоговом формате. Её можно применять для создания и редактирования текстов, суммаризации, ответов на вопросы и диалоговых систем. В README заявлена настройка на качество и стиль ответов Claude 3 Sonnet и Opus. Указанное в метаданных контекстное окно — 1 024 000 токенов. Модель принимает текст и выдаёт текст. Карточка не подтверждает специализацию на конкретном языке или предметной области. Модель распространяется по лицензии Apache 2.0. README предостерегает от использования для принятия решений в реальном времени в критически важных сценариях и от генерации вредоносного или предвзятого контента.
Aya-23-8B — мультиязычная авторегрессионная языковая модель на архитектуре Transformer, разработанная Cohere For AI и Cohere. Это версия на 8 млрд параметров семейства Aya 23, дообученная следовать инструкциям на основе предварительно обученной модели семейства Command и коллекции Aya. Модель предназначена для диалогов, ответов на вопросы, написания и преобразования текстов на 23 языках, включая русский, английский, китайский, арабский, хинди и японский. Поддерживает текстовый ввод и генерацию текста, а также интерфейс вызова инструментов. Контекстное окно составляет 8192 токена. Веса доступны по лицензии CC-BY-NC-4.0; применение также регулируется политикой допустимого использования Cohere For AI. Для работы с моделью требуется версия Transformers с необходимыми изменениями. Модель ориентирована на мультиязычное следование инструкциям, но карточка не приводит подробностей об ограничениях качества по отдельным языкам.
Карточка модели ckoozzzu/d3 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.
Это объединённая модель для генерации текста, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и cognitivecomputations/dolphin-2.0-mistral-7b методом SLERP. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для диалога и выполнения инструкций в текстовом формате. Контекст составляет до 32 768 токенов, что позволяет использовать её для многошаговых бесед и работы с длинными текстовыми запросами. В карточке указаны формат safetensors и лицензия Apache-2.0.
Gemma 1.1 7B IT — инструктивно дообученная текстовая языковая модель Google из семейства Gemma, созданного на основе исследований и технологий Gemini. Это декодерная модель с открытыми весами, рассчитанная на диалог и генерацию текста по инструкциям; её можно запускать на компьютере или в собственной облачной инфраструктуре. Модель подходит для ответов на вопросы, суммаризации, рассуждений, создания текстов и разговорных интерфейсов. В карточке семейства указана поддержка английского языка. Относительно компактный размер облегчает развёртывание при ограниченных вычислительных ресурсах, однако конкретный объём параметров и длина контекста в предоставленных данных не приведены. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и не учитывать тонкие языковые нюансы; качество также зависит от формулировки запроса и контекста. Для Gemma действует лицензия Gemma; при использовании следует соблюдать её условия и политику запрещённого использования Google.
Llama-Chat-Summary-3.2-3B — языковая модель PrithivMLmods для контекстной суммаризации диалогов и текстов. Она дообучена на базе meta-llama/Llama-3.2-3B-Instruct и предназначена для создания кратких сводок с сохранением важных деталей из длинных чатов, обсуждений и документов. Модель имеет плотную архитектуру LlamaForCausalLM на 3,2 млрд параметров, принимает текст и генерирует текст. В карточке указана поддержка контекста до 131 072 токенов; модель рассчитана прежде всего на английский язык. Она может пригодиться для сводок обращений в поддержку, стенограмм встреч, статей и отчётов, а также для подготовки контекста для последующих систем. Карточка не приводит количественных оценок качества или подробностей обучения. Для работы с ней автор рекомендует Transformers; отмечено, что для развёртывания следует использовать выделенные эндпоинты, поскольку модель пока не подходит для serverless API. Лицензия — CreativeML Open RAIL-M.
SauerkrautLM-EuroColBERT — многоязычная модель поиска по тексту от VAGOsolutions, построенная на EuroBERT-210m и архитектуре ColBERT с поздним взаимодействием токенов. Модель дообучена на 5,4 млрд английских токенов с дистилляцией знаний от моделей-реранкеров. Она создаёт многовекторные представления и сопоставляет запросы с документами с помощью MaxSim, что подходит для точного поиска и ранжирования кандидатов. Модель содержит 211,7 млн параметров, использует PyLate и принимает документы длиной до 8192 токенов; для запросов в README указано ограничение 256 токенов. Она ориентирована на семь европейских языков: немецкий, английский, испанский, французский, итальянский, нидерландский и португальский. Подходит для корпоративного поиска, поиска товаров, библиотечных каталогов, баз поддержки и научной литературы. Лицензия — Apache 2.0.
Blaze-14B-xElite — дообученная разговорная языковая модель от prithivMLmods на базе архитектуры LLaMA. Она содержит 14,1 млрд параметров, принимает и генерирует текст, поддерживает контекст до 16 384 токенов и предназначена для генерации ответов, решения задач на рассуждение и математику, объяснения сложных тем, написания текстов и многоязычных сценариев. В карточке указано обучение на синтетических данных, материалах из открытых источников, академических книгах и наборах вопросов и ответов; для выравнивания использовались SFT и итеративный DPO. Заявлена поддержка английского языка и многоязычных задач. Модель распространяется в формате safetensors по лицензии Llama 3.1. Модель может ошибаться, неверно интерпретировать неоднозначные запросы, воспроизводить смещения из обучающих данных и выдавать небезопасные ответы; её знания не обновляются в реальном времени. Для запуска могут потребоваться значительные вычислительные ресурсы. Результаты Open LLM Leaderboard в карточке ограничены отдельными метриками и сами по себе не гарантируют качество в конкретных приложениях.
Карточка модели yuwy-thu/llama31 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.
unsloth/Llama-3.2-1B-Instruct — текстовая инструктивно настроенная модель семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это плотная авторегрессионная трансформерная модель с архитектурой LlamaForCausalLM и примерно 1,2 млрд параметров. В карточке указаны диалоговый режим и интерфейс вызова инструментов; модель принимает и генерирует текст, а контекстное окно составляет 131 072 токена. Модель предназначена для многоязычных диалогов, ответов на вопросы, суммаризации и помощи в написании текста, в том числе в сценариях агентного поиска и использования инструментов. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; модель обучалась на более широком наборе языков. Репозиторий содержит веса Safetensors и указывает лицензию Llama 3.2 Community License — специальную лицензию Meta с условиями коммерческого использования. Компактный размер облегчает развёртывание по сравнению с более крупными моделями, однако качество и надёжность ответов требуют проверки для конкретного применения.
DAMO-NLP-SG разработала zero-shot-модель классификации текста на основе XLM-RoBERTa. Модель дообучена методом SSTuning: на неразмеченных англоязычных данных она учится предсказывать индекс метки с помощью задачи First Sentence Prediction. В архитектуре XLMRobertaForSequenceClassification около 305,2 млн параметров; модель принимает текст и названия классов и выдаёт оценки классов. Контекст составляет до 514 токенов. Модель предназначена для классификации без дополнительного дообучения, например для анализа тональности и определения тематики. В README указано, что она обучалась на 20,48 млн примеров на английском языке, но может применяться и на других языках, поддерживаемых XLM-RoBERTa. Рекомендуемое число меток — от 2 до 20. Распространяется по лицензии MIT.
DareVox-7B — объединённая языковая модель на архитектуре Mistral, созданная из Mistral-7B-v0.1, OpenHermes-2.5-Mistral-7B, Slerp-CM-mist-dpo и Starling-LM-7B-alpha. Модель разработана для генерации текста; в конфигурации указаны метод слияния dare_ties и точность bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Её можно применять для диалогов, составления текстов и ответов на запросы. Репозиторий распространяется по лицензии Apache-2.0.
yangheng/deberta-v3-large-absa-v1.1 — мультиязычная модель анализа тональности по аспектам (ABSA), разработанная для PyABSA на базе microsoft/deberta-v3-large. Это плотный энкодер DeBERTa-v2 с классификационной головой и механизмом FAST-LCF-BERT, который выделяет контекст, относящийся к заданному аспекту. Модель содержит 533,8 млн параметров и рассчитана на контекст до 512 токенов. Модель определяет тональность конкретных аспектов в тексте, например отдельно оценивает еду и обслуживание в отзыве. Она подходит для анализа отзывов, обращений в поддержку, публикаций в соцсетях и обратной связи о продуктах. Поддерживаются английский, арабский, китайский, нидерландский, французский, русский, испанский и турецкий языки. Модель распространяется по лицензии MIT. Это специализированный классификатор, а не универсальная языковая модель: для анализа нужно передать целевой аспект, а заявленные возможности генерации текста и диалога к ней не относятся. Указанные в README заявления о точности и скорости не сопровождаются здесь численными результатами бенчмарков; фактическая производительность зависит от оборудования и сценария применения.
DNA 3.0-397B-A17B — дообученная Dnotitia мультимодальная модель Mixture-of-Experts на базе Qwen/Qwen3.5-397B-A17B. Она предназначена для диалогов и рассуждений, агентного программирования, работы с инструментами, анализа изображений и видео, а также сценариев, связанных с корпоративными знаниями и продуктами Dnotitia. Архитектура сочетает разреженные MoE-слои с линейным вниманием Gated DeltaNet; всего в модели 397 млрд параметров, активны 17 млрд. Контекст составляет 262 144 токена, с расширением примерно до 1 010 000 через YaRN. Модель заявляет поддержку 201 языка и диалекта, с особым вниманием к корейскому языку и корпоративным сценариям. Дообучение включает корпоративную персону Dnotitia, более широкое следование запросам с меньшим числом отказов и сохранение цепочек рассуждений в многошаговом диалоге. Поддерживаются режим рассуждений и интерфейс вызова инструментов; для развёртывания доступны Transformers и движки vLLM, SGLang и KTransformers. Лицензия — Apache-2.0. Для обслуживания модели такого размера рекомендуется мног GPU-серверная инфраструктура. Модель может давать ответы с корпоративным уклоном при обсуждении Dnotitia, реже отказывается на чувствительные запросы и наследует ограничения базовой модели, включая возможные предвзятость и языковые пробелы. Возможны галлюцинации, особенно на узкоспециальные, актуальные и требующие высокой числовой точности темы; для ответственных решений необходима проверка человеком.
G2-Nowing-9B-32K-YS — объединённая методом SLERP языковая модель Gemma 2, созданная автором djuna с помощью mergekit из zelk12/MT-Merge2-MU-gemma-2-MTg2MT1g2-9B и allknowingroger/GemmaSlerp5-10B. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и рассчитана на генерацию текста и диалоговое общение. Заявленная длина контекста составляет 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.
0x Mini — языковая модель Ozone AI для генерации текста и диалоговых приложений. Это плотная авторегрессионная модель семейства Llama, дообученная на основе meta-llama/Llama-3.1-8B-Instruct; в репозитории указано 7,5 млрд параметров и формат safetensors. Модель предназначена для продолжения текста, суммаризации, перевода, чат-ботов и создания контента, в том числе при ограниченных вычислительных ресурсах. Модель принимает текст и генерирует текст; метаданные также отмечают интерфейс для вызова инструментов. Для базовой модели указан контекст до 131 072 токенов. Карточка заявляет быструю генерацию и пригодность для компактного развёртывания, но не приводит сравнительных тестов, подтверждающих эти заявления. Используется лицензия Llama 3.1; применяйте модель с учётом её условий.
prithivMLmods/Llama-3.1-5B-Instruct — инструктивно настроенная авторегрессионная языковая модель семейства Llama на архитектуре Transformer. По карточке, модель прошла дообучение SFT и RLHF и предназначена для диалоговой генерации, ответов на вопросы, перевода и выполнения инструкций. В метаданных указаны 4,9 млрд параметров, контекст 8192 токена и поддержка чат-сценариев; веса представлены в формате safetensors и рассчитаны на работу с Transformers. Модель поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она подходит для создания многоязычных диалоговых приложений и генерации текста по запросу. Карточка заявляет хорошее качество на отраслевых бенчмарках, но не приводит их названия или результаты, поэтому эти оценки нельзя независимо проверить по предоставленным данным. Лицензия — Llama 3.1 License.
Poro 2 Long Instruct — чат-модель с инструкционной настройкой, разработанная LumiOpen на основе семейства Poro 2 и архитектуры Llama. Это плотная авторегрессионная модель примерно на 7,5 млрд параметров, полученная объединением базовой модели Poro 2 Long и её версии после supervised fine-tuning. README заявляет контекст до 128 тыс. токенов; метаданные указывают native context 8192 токена. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для суммаризации и анализа длинных документов, вопросов по нескольким документам, генерации текстов, обучения, поддержки клиентов и перевода между финским и английским. В README приведены результаты тестирования следования инструкциям на обоих языках и длинноконтекстных задачах. Качество на английском в приведённых короткоконтекстных тестах уступает Llama 3.1 8B Instruct, тогда как на финском модель показывает более высокие результаты. Возможны фактические ошибки и смещения; навыки на других языках и в узкоспециализированных областях ограничены, а работа с длинным контекстом требует больше памяти и может быть медленнее. Лицензия в метаданных указана как llama3.3.
Llama-Sahabat-AI-v2-70B-IT — инструктивная языковая модель семейства Llama, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore при участии Indosat Ooredoo Hutchison. Это плотная авторегрессионная модель-декодер с 69,5 млрд параметров, дообученная для следования инструкциям и диалогов на английском, индонезийском и региональных языках Индонезии. Заявленная длина контекста — 128 тыс. токенов в README и 131 072 токена в метаданных. Модель предназначена для генерации ответов в чате, вопросов и ответов, суммаризации, перевода, анализа тональности, распознавания токсичности, рассуждений и задач на знание местного контекста. В README перечислены индонезийский, яванский, сунданский, батак-тоба и балийский языки; метаданные также отмечают английский, индонезийский, яванский и сунданский. Модель распространяется в формате Safetensors по лицензии Llama 3.1 Community License. Модель может галлюцинировать, выдавать нерелевантные ответы и непоследовательно рассуждать, поэтому её ответы следует проверять. Для развёртывания в прикладных системах разработчикам рекомендуется самостоятельно настроить дополнительную безопасность.
Llama-SEA-LION-v3-8B-IT — инструктивно дообученная языковая модель AI Singapore, разработанная командой Products Pillar при финансировании Национального исследовательского фонда Сингапура. Это плотная декодерная модель на архитектуре Llama 3.1 с 7,5 млрд параметров, предназначенная для диалогов и выполнения пользовательских инструкций. Она принимает текст и генерирует текст; заявленная длина контекста — 128 тыс. токенов. Модель обучена следовать инструкциям на английском, индонезийском, яванском, сунданском, тамильском, тайском и вьетнамском языках. Карточка также заявляет поддержку бирманского, китайского, филиппинского, кхмерского, лаосского и малайского; метаданные каталога отдельно отмечают английский, китайский, вьетнамский, индонезийский, тайский и тамильский. Подходит для многоязычных диалогов, ответов на вопросы, суммаризации, перевода и других текстовых задач. Распространяется по лицензии Llama 3.1 Community License. Модель может галлюцинировать, выдавать нерелевантные ответы и непоследовательно рассуждать; её безопасность специально не настраивалась, поэтому ответы и сценарии использования требуют проверки.
M7Yamshadowexperiment28_T3qm7xNeuralsirkrishna — объединённая текстовая модель на архитектуре Mistral, созданная слиянием automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xNeuralsirkrishna-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинными запросами благодаря контексту до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors по лицензии Apache-2.0.
Карточка модели alexakkol/mistral-7B-instruct-v0.2 на Hugging Face совпадает с карточкой MaziyarPanahi/Mistral-7B-Instruct-v0.2, поэтому описание составлено по ней. MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.
Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v16.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.
RecurrentGemma-9B-IT — инструктивно дообученная языковая модель из семейства RecurrentGemma, разработанного Google. Это плотная авторегрессионная модель с рекуррентной архитектурой; в метаданных указано 13,9 млрд параметров. Модель предназначена для генерации текста в диалоге, ответов на вопросы, суммаризации и рассуждений. По карточке, архитектура RecurrentGemma требует меньше памяти, чем Gemma, и ускоряет генерацию длинных последовательностей. Модель принимает текст и генерирует текст. Семейство представлено англоязычными предварительно обученными и инструктивными версиями; для этой модели карточка описывает разговорное применение. Модель доступна в формате Safetensors и запускается через Transformers. Лицензия — Gemma; применяются условия использования Gemma. Как и другие большие языковые модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Для приложений с пользовательскими ответами необходимы проверка результатов и меры безопасности.
Sakalti/ultiima-72B — слитая языковая модель автора Sakalti на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/Qwen2.5-72B и Qwen/Qwen2.5-72B-Instruct. Это плотная авторегрессионная модель на 71,5 млрд параметров в формате safetensors с контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов. Метаданные отмечают интерфейс вызова инструментов, а карточка приводит результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель поддерживает множество языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, арабский и хинди. Её можно применять для диалоговых ассистентов, генерации текстов и ответов на инструкции. Карточка указывает лицензию «other», поэтому условия использования следует сверить с лицензией и правилами репозитория; конкретные ограничения применения в карточке не описаны.
Vikhr-YandexGPT-5-Lite-8B-it — инструктивная языковая модель команды Vikhr, созданная дообучением YandexGPT-5-Lite-8B-pretrain методом SFT. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст, выдавая текст. Она рассчитана прежде всего на русский язык и также поддерживает английский; длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций, включая ответы на вопросы и генерацию ответов с опорой на предоставленные документы в RAG-сценариях. Для обучения использованы датасеты GrandMaster-PRO-MAX и Grounded-RAG-RU-v2. В режиме RAG требуется системный промпт GROUNDED_SYSTEM_PROMPT; модель может дополнять сведения из документов собственными знаниями. В карточке также отмечен низкий уровень безопасности ответов и возможность дефектов генерации при высокой температуре. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Указана лицензия other; конкретные условия лицензии следует сверять с карточкой модели.
Aether-12b — языковая модель AIXON Lab, дообученная на основе Xclbr7/Arcanum-12b на наборе theprint/CleverBoi-Data-20k. Это плотная авторегрессионная Transformer-модель семейства Mistral с 12,1 млрд параметров; для дообучения использовались TRL SFTTrainer, оптимизатор AdamW, планировщик cosine decay и точность bfloat16. В карточке указано контекстное окно 1 024 000 токенов. Модель предназначена для работы в роли ассистента или чат-бота с заданной ролью. Разработчик заявляет улучшения в рассуждении, решении задач, письме, анализе и понимании контекста. Основной язык — английский; карточка также отмечает возможную поддержку других языков. Лицензия — Apache-2.0. Модель может наследовать предвзятости и ограничения базовой модели и обучающих данных; результаты стоит проверять, особенно при использовании для анализа и решения задач. Оценки Open LLM Leaderboard в карточке пока отсутствуют.