III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельUMUTeam/roberta-spanish-sentiment-analysis — модель команды UMUTeam для классификации тональности испанских текстов. Это дообученная модель MarIA на архитектуре RoBERTa, основанная на PlanTL-GOB-ES/roberta-base-bne. Для классификации последовательностей используется RobertaForSequenceClassification; размер модели — 151,8 млн параметров, контекст — до 514 токенов. Модель присваивает тексту одну из трёх меток: негативную, нейтральную или позитивную. Она обучена на объединении нескольких наборов данных, включая TASS и данные о тональности в политической и других областях, и может применяться для анализа мнений в испаноязычных текстах. Модель распространяется по лицензии Apache-2.0.
sfm_filtered_insert_xxf_character-6k_7k_8k_simpleavg_merge — объединённая языковая модель на архитектуре GPT-NeoX, созданная с помощью mergekit. В README указано, что при линейном слиянии за основу взят чекпойнт global_step8000, а также объединены чекпойнты global_step6000 и global_step7000. Модель содержит 8,8 млрд параметров и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации текста и диалоговых сценариев. Карточка не описывает специальные предметные области или конкретные преимущества. Репозиторий содержит веса в формате safetensors; сведения о лицензии и ограничениях применения в доступных данных отсутствуют.
T3qm7xNeuralsirkrishna_Experiment24Inex12 — объединённая модель, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment24Inex12-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов. Контекст составляет до 32 768 токенов; репозиторий содержит веса в формате safetensors. Поддерживаемые языки и специализированные области применения по предоставленным данным не установлены. Модель распространяется по лицензии Apache-2.0. Характеристики качества и конкретные ограничения в карточке не описаны.
liamvbetts/t5-small-finetuned-2024-03-15 — компактная модель T5, дообученная на базе liamvbetts/t5-small-finetuned-2024-03-14 для преобразования текста в текст. Веса доступны в формате safetensors; модель содержит 38,5 млн параметров и имеет контекст длиной до 512 токенов. Карточка сообщает результаты оценки: Loss 1.5180, ROUGE-1 42.6379, ROUGE-2 30.7892, ROUGE-L 39.2984 и ROUGE-Lsum 39.671. Конкретная задача, обучающие данные и предполагаемые сценарии использования не описаны. Лицензия в предоставленных данных не указана.
TowerInstruct-7B-v0.1 — языковая модель Unbabel, Instituto Superior Técnico и CentraleSupélec University of Paris-Saclay, дообученная на TowerBase с использованием набора TowerBlocks. Модель построена на архитектуре Llama и содержит 6,6 млрд параметров; для хранения используются веса Safetensors, контекст — до 4096 токенов. Модель предназначена для перевода между английским, португальским, испанским, французским, немецким, нидерландским, итальянским, корейским, китайским и русским языками. Она также выполняет постредактирование машинного перевода, контекстный и терминологически управляемый перевод, распознавание именованных сущностей, исправление грамматических ошибок и перефразирование. Разработчики указывают, что качество и согласованность при переводе документов ещё улучшаются. Модель не предназначена для роли чат-бота или помощника по программированию, несмотря на обучение на диалоговых данных и инструкциях к коду. Она не выравнивалась по предпочтениям людей, поэтому может выдавать галлюцинации, вредоносный контент и недостоверные утверждения. Лицензия — CC-BY-NC-4.0; базовая модель Llama 2 распространяется по лицензии Llama 2 Community License.
Trifecta-Max-24b — разговорная языковая модель, созданная Entropicengine путём слияния трёх моделей методом DARE TIES с помощью mergekit. В качестве базовой модели использована darkc0de/XortronCriminalComputingConfig; также в слияние вошли TheDrummer/Cydonia-24B-v3 и Sorawiz/MistralCreative-24B-Chat. Модель построена на плотной архитектуре Mistral и содержит 23,4 млрд параметров. Она предназначена для генерации текста и диалогов, в том числе для ролевых сценариев; автор рекомендует для RP пресет Sphiratrioth. Контекст — до 32 768 токенов. Метаданные указывают английский язык базовой разговорной модели. Модель опубликована в формате safetensors и использует библиотеку Transformers. Сведения о лицензии в предоставленных данных отсутствуют.
Это преобразованная сообществом mlx-community модель Microsoft VibeVoice-ASR-Streaming-7B для потокового распознавания речи с привязкой реплик к говорящим. Модель принимает аудио и по мере его поступления выдаёт транскрипцию с указанием говорящего; отдельный этап диаризации не требуется. Поддерживаются 10 языков: английский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский. Для повышения точности распознавания заданных терминов предусмотрена настройка контекста ключевыми словами. Это плотная модель семейства VibeVoice в формате MLX и точности bfloat16; размер весов составляет 16,66 ГБ. По описанию, потоковая обработка использует чанки примерно по 2,93 секунды и упреждение около 0,53 секунды, поэтому минимальная задержка составляет примерно 3 секунды. На тесте AMI-IHM автор карточки приводит результаты для Apple M5 Max и отмечает, что точность эталонной реализации меняется между запусками. Модель распространяется по лицензии MIT. Для запуска нужны совместимые MLX и оборудование Apple Silicon; порт использует среднее распределения акустического VAE вместо случайной выборки эталонной реализации, а результаты 4-битной версии зависят от того, вычислялись ли масштабы квантования на CPU или GPU.
wmt19-finetuned-it-de-to-en — дообученная модель FSMT для перевода с немецкого на английский, основанная на facebook/wmt19-de-en. В карточке указаны 100,7 млн параметров, контекст до 1024 токенов и формат весов safetensors. Модель опубликована под лицензией Apache-2.0. Модель предназначена для машинного перевода немецких текстов на английский. В README приведены результаты оценки на наборе для оценки: BLEU 44,9149 и loss 0,1326; обучающий набор данных не раскрыт. Основа модели — портированная FSMT-модель Facebook FAIR для перевода с немецкого на английский.
YamshadowStrangemerges_32_Experiment26Experiment26 — слитая языковая модель, опубликованная MaziyarPanahi. Она объединяет модели automerger/YamshadowStrangemerges_32-7B и automerger/Experiment26Experiment26-7B и предназначена для генерации текста. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors под лицензией Apache-2.0. Карточка не описывает специализированные области применения или языки, поэтому её можно рассматривать как модель общего назначения для генерации текста; сведений о сравнительных преимуществах и конкретных ограничениях качества нет.
Infermatic выпустила Infermatic/14b-Qwen2.5-Infermatic-Crea-v1 — объединённую методом Model Stock через mergekit языковую модель на архитектуре Qwen2.5. В основе лежит Qwen/Qwen2.5-14B-Instruct; в объединение также вошли модели Kunou, abliterated, Lumen и Gutenberg. Модель содержит 14 млрд параметров, работает с текстом и имеет контекст длиной до 32 768 токенов. Модель предназначена для генерации текста, описания чувств, мест, предметов и ситуаций, а также для ролевых диалогов и написания историй. Карточка отмечает поддержку чата и интерфейса вызова инструментов. Данных о целевых языках в предоставленных источниках нет. В репозитории указана лицензия? — сведения о лицензии среди предоставленных данных отсутствуют, поэтому условия использования по ним определить нельзя. Качество ответов зависит от настроек и промптов; автор отмечает, что отказы могут возникать и их поведение зависит от этих настроек.
batisay-ko-large 1.1 — BatiAI әзірлеген, корей тіліндегі сөйлеуді мәтінге айналдыруға арналған Whisper Large v3 негізіндегі модель. Ол KsponSpeech, Zeroth және AI Hub деректерімен, соның ішінде көпсалалы сөйлеу және 8 кГц телефон жазбаларымен дообучен; базалық Whisper Large v3 шамамен 1,55 млрд параметрден тұрады. Модель жиналыс, дәріс, сұхбат, диктовка, телефон қоңырауы және медиаға субтитр дайындау транскрипциясына бағытталған. Карточкада таза сөйлеу, шулы жазбалар және бірнеше домен бойынша CER бенчмарктары берілген. Қысқа клиптер мен құжаттық/пакеттік транскрипцияға дәлдігі басым; ұзақ қоңыраулар мен ағындық жұмысқа автор жеңілірек turbo нұсқасын ұсынады. Whisper Large өлшемі есептеу ресурстарын көбірек қажет етеді. Репозиторийде safetensors форматы көрсетілген, ал README-де басқа кванттау нұсқалары және whisper.cpp, Transformers арқылы іске қосу жолдары аталады. Лицензиясы — BatiAI Community v2 («other» метадерегінде). Транскрипцияда сирек жеке әріптер қалып қоюы мүмкін; оларды кейінгі өңдеуде алып тастау ұсынылады.
BayLing-13B-diff — версия с разницей весов модели BayLing-13B-v1.0, разработанной группой NLP Института вычислительных технологий Китайской академии наук. Это плотная авторегрессионная языковая модель на архитектуре LLaMA с 12,9 млрд параметров и контекстом 2048 токенов; репозиторий содержит веса в формате PyTorch. Модель рассчитана на генерацию текста по инструкциям, перевод, написание и создание текстов, выдачу предложений и многоходовой диалог на китайском и английском языках. В карточке заявлены сильные стороны в следовании инструкциям, межъязыковом выравнивании и взаимодействии на нескольких ходах. Это именно версия weight-diff: для восстановления параметров BayLing требуется применить apply_delta.py к соответствующим базовым весам; полная модель в карточке не представлена. Лицензия — GPL-3.0. Модель может давать неточные фактические ответы, слабо справляется с рассуждениями, математикой и программированием, а также может генерировать вредный или предвзятый контент.
Это модель BERT base-multilingual-cased, разработанная Google и дообученная Manuel Romero (mrm8488) для ответов на вопросы по заданному тексту. Она извлекает ответ из контекста и предназначена для многоязычных сценариев вопросно-ответного поиска, включая перенос между языками. Дообучение проведено на данных, основанных на XQuAD, с расширением обучающей выборки; заявлены 50 тысяч обучающих и 8 тысяч тестовых примеров. В карточке указано 11 языков: арабский, немецкий, греческий, английский, испанский, хинди, русский, тайский, турецкий, вьетнамский и китайский. Архитектура — BERT для извлечения ответов, 205,1 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает вопрос и текстовый контекст, выдаёт ответ в виде текста. В обучающих данных нет примеров вопросов без ответа, поэтому модель может выбирать ответ даже тогда, когда контекст не содержит достоверного ответа. Лицензия в предоставленных материалах не указана.
Chocolatine-78B-Instruct-DPO-v1.3 — диалоговая языковая модель, разработанная Jonathan Pacifico в 2024 году. Это модель Qwen2 с архитектурой плотного трансформера и 76,7 млрд параметров; она дообучена методом DPO на наборе jpacifico/french-orca-dpo-pairs-revised поверх CalmeRys-78B-Orpo-v0.1, которая, в свою очередь, основана на нескольких дообучениях Qwen2-72B-Instruct. Модель предназначена для генерации текста в диалоге, прежде всего на французском и английском языках. Контекст составляет 32 768 токенов. Автор описывает её как демонстрацию применения французского DPO-дообучения к моделям размером более 70 млрд параметров и его сочетания с предыдущими дообучениями. Модель не имеет механизма модерации. Распространяется по лицензии Apache 2.0.
Cydonia-v4.1-MS3.2-Magnum-Diamond-24B — объединённая языковая модель, созданная knifeayumu методом SLERP с помощью mergekit на основе TheDrummer/Cydonia-24B-v4.1 и Doctor-Shotgun/MS3.2-24B-Magnum-Diamond. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 23,4 млрд параметров; она принимает текст и генерирует текст, в том числе подходит для творческого письма и ролевых диалогов согласно описанию базовой модели. Заявленная длина контекста — 131 072 токена. Модель распространяется в формате safetensors по лицензии Apache-2.0. README описывает рецепт слияния, но не приводит отдельных оценок качества или подробных рекомендаций по использованию. Качество и поведение могут отличаться от исходных моделей; описание генерации видео в README относится к созданию иллюстрации карточки с помощью внешних инструментов, а не к возможностям этой языковой модели.
Ido-shraga/distilbert-base-tweeteval-sentiment — англоязычная модель классификации тональности коротких сообщений в социальных сетях, разработанная автором репозитория и дообученная на DistilBERT. Она относит текст к одному из трёх классов: негативному, нейтральному или позитивному. Модель основана на distilbert/distilbert-base-uncased, содержит около 67 млн параметров и принимает текст длиной до 512 токенов; в обучении использовались сообщения из набора TweetEval, ограничение длины при обучении составляло 128 токенов. Модель подходит для анализа тональности твитов и потоковой обработки пользовательских публикаций, когда важна высокая пропускная способность. На тестовой части TweetEval указаны accuracy 0,6888 и macro-F1 0,6877; в сравнении с twitter-roberta-base автор сообщает примерно в 1,8 раза более быстрый вывод при меньшем размере, но с несколько меньшей точностью. Лицензия — Apache-2.0.
Это англоязычная модель классификации тональности предложений, опубликованная в репозитории Optimum как конверсия чекпойнта DistilBERT-base-uncased-finetuned-sst-2-english. В основе лежит DistilBERT-base-uncased, дообученный на наборе SST-2 для бинарной классификации тональности; модель принимает текст и выдаёт классовые оценки. Контекст составляет до 512 токенов. На dev-наборе SST-2 модель показала точность 91,3%. Она подходит для определения положительной или отрицательной тональности англоязычных отзывов и коротких текстов. Репозиторий содержит формат ONNX, лицензия — Apache-2.0. В README отмечен риск смещённых предсказаний для недостаточно представленных групп и примерах, где упоминание страны заметно меняет оценку без явного основания в тексте. Перед использованием в конкретном сценарии следует проверить качество и возможные смещения на подходящих данных.
DynaGuard-1.7B — языковая модель-охранник, разработанная исследователями Университета Мэриленда и Capital One для проверки текста на соответствие политикам, заданным на естественном языке. Она предназначена для модерации диалогов и ответов чат-ботов по правилам конкретного приложения, например для предотвращения несанкционированных возвратов или медицинских рекомендаций. Модель основана на Qwen3-1.7B и представляет собой плотный decoder-only Transformer с 1,7 млрд параметров. Она принимает текст с политикой и диалогом и генерирует текстовый результат: краткую классификацию PASS/FAIL либо классификацию с объяснением. Поддерживает английский язык; максимальная длина контекста — 40 960 токенов. Модель дообучена на DynaBench и наборах данных для оценки безопасности с помощью SFT и GRPO. Карточка сообщает о сильных результатах на DynaBench и традиционных тестах безопасности, однако приведённые оценки относятся к тестовым наборам и не гарантируют качество для любой пользовательской политики. Модель распространяется под лицензией Apache-2.0.
noctrex/ERNIE-4.5-21B-A3B-PT-MXFP4_MOE-GGUF — GGUF-квантование MXFP4_MOE модели ERNIE-4.5-21B-A3B-PT. В карточке указана Baidu-модель как исходная; метаданные описывают её как текстовую MoE-модель для диалоговой генерации и понимания текста на китайском и английском языках. Модель предназначена для генерации текста и диалогового общения. Формат GGUF подходит для запуска в совместимом локальном ПО. В README не приведены сведения о размере, длине контекста, условиях лицензии или численных характеристиках качества.
EXAONE 3.5 7.8B Korean-English Translation — языковая модель компании LG AI Research, дообученная методом LoRA на базе LGAI-EXAONE/EXAONE-3.5-7.8B-Instruct и объединённая с базовой моделью. Она предназначена для перевода между корейским и английским языками; также может использоваться для генерации текста и диалогов на этих языках. Модель содержит 7,4 млрд параметров, использует плотную архитектуру ExaoneForCausalLM, работает с Transformers и принимает текст, выдавая текст. Контекстное окно составляет 32 768 токенов. Модель ориентирована на двунаправленный перевод корейского и английского языков. Использование регулируется лицензией с обозначением «other» на Hugging Face; конкретные условия следует проверять в репозитории модели и у правообладателя. В карточке не приведены результаты сравнительной оценки качества перевода.
Experiment28M7_YamYam — объединённая модель семейства Mistral на 7,1 млрд параметров для генерации текста. По README, она создана слиянием моделей automerger/Experiment28M7-7B и automerger/YamYam-7B; репозиторий содержит веса в формате safetensors. Модель подходит для генерации текста по текстовому запросу, а её контекстное окно составляет до 32 768 токенов. В карточке не приведены сведения о специализации, поддерживаемых естественных языках или оценках качества. Модель распространяется по лицензии Apache-2.0. Поскольку это слияние двух моделей, её поведение и качество могут зависеть от задачи; независимые результаты оценки в предоставленных материалах отсутствуют.
Experiment28T3q_PasticheAlloyingotneoy — слитая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она объединяет automerger/Experiment28T3q-7B и automerger/PasticheAlloyingotneoy-7B и предназначена для генерации текста. Модель принимает текст и выдаёт текст; размер её контекстного окна — до 32 768 токенов. Карточка не описывает специализацию, языки или отдельные возможности диалогового взаимодействия. Модель распространяется в формате safetensors по лицензии Apache-2.0.
flammen32-mistral-7B — языковая модель семейства Mistral с плотной архитектурой и 7,1 млрд параметров, разработанная FlammenAI. Она создана слиянием предварительно обученных моделей и последующим дообучением; для неё указаны наборы данных Date-DPO-v1, Date-DPO-v2, Date-DPO-v3 и Grill-Flammen-v1_chatML. Модель предназначена для генерации текста и диалогов, особенно ролевых сцен с персонажами, творческого письма и ответов общего назначения. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. README упоминает дообучение на A100 через Google Colab. Лицензия — Apache-2.0. В README также есть упоминание о тонкой настройке Llama 3 с ORPO, которое противоречит метаданным о базовой модели Mistral; поэтому основу следует считать указанной в метаданных, а детали обучения из README — неоднозначными.
free-solar-evo-v0.11 — текстовая генеративная модель Freewheelin на архитектуре Llama, предназначенная для генерации текста и диалогового использования. По метаданным, модель содержит 10,6 млрд параметров, поддерживает контекст до 4096 токенов и обучена для корейского и английского языков. Модель распространяется с лицензией MIT. Сторонние карточки подтверждают существование исходной модели и её преобразованных GGUF-вариантов, однако доступного описания разработчика с подробностями обучения или сравнительными оценками найти не удалось.
Модель free-solar-evo-v0.13 разработана технической командой Freewheelin AI. Это языковая модель на архитектуре Llama с 10,6 млрд параметров, предназначенная для генерации текста. В карточке модели указано, что при разработке использован подход, вдохновлённый проектом Sakana; более подробные сведения о методе и оценке качества не приведены. Модель принимает текст и генерирует текст, поддерживает корейский и английский языки и имеет контекст длиной 4096 токенов. Опубликованные веса в формате Safetensors, лицензия — MIT. По доступным сведениям, она подходит для генерации и продолжения текста, диалога, ответов на вопросы и суммаризации; качество этих задач отдельно не подтверждено.
GaMS-9B-Instruct-Nemotron — инструктивная языковая модель на 9 млрд параметров, разработанная Тимотеем Петриčem в рамках магистерской работы. Это вариант GaMS-9B-Instruct, дополнительно обученный методом SFT на отобранной части набора nvidia/Nemotron-Post-Training-Dataset-v1 и датасете cjvt/GaMS-Nemotron-Chat: примерно 80 тысяч словенских пар «инструкция — ответ» и 20 тысяч английских примеров. Модель построена на архитектуре Gemma 2 и предназначена для генерации текста и диалогов по инструкциям, в особенности на словенском и английском языках. Размер контекста составляет 8192 токена; модель распространяется в формате safetensors и рассчитана на запуск через Transformers. Лицензия — Gemma. Карточка не описывает результаты оценки качества или специфические ограничения; ожидаемый охват задач определяется инструктивной генерацией и диалогами на языках обучения.
gemma-2-2b-jpn-it-translate — модель перевода, созданная webbigdata дообучением google/gemma-2-2b-jpn-it. Она предназначена прежде всего для перевода между японским и английским языками и обучена выдавать перевод пользовательского текста после начальной инструкции на японском или английском. Модель использует архитектуру Gemma 2 с плотной причинно-языковой структурой, содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Формат весов — Safetensors; карточка указывает на использование apply_chat_template. Разработчик ориентировал модель на быстрый перевод и сообщает о результатах, приближающихся в отдельных областях к более крупной модели. В опубликованной карточке приведены метрики spBLEU, chrF2++ и COMET для тестов перевода. Модель обучалась переводить по предложениям, поэтому перед обработкой длинного текста с переносами строк его следует предварительно разбивать на предложения: подача такого текста целиком может снизить качество. Лицензия в предоставленных данных не указана.
TheCluster/Gemma-4-26B-A4B-Heretic-MLX-bf16 — мультимодальная диалоговая модель семейства Gemma 4, представленная TheCluster. Это версия Gemma-4-26B-A4B-it с ослабленным отказом отвечать на запросы: по README, её создали методом abliteration Heretic v1.2.0 с Arbitrary-Rank Ablation и сохранением нормы строк, а затем преобразовали в формат MLX из coder3101/gemma-4-26B-A4B-it-heretic. Метаданные указывают архитектуру Gemma4ForConditionalGeneration, поддержку изображений и текстовых диалогов, библиотеку MLX, формат safetensors и лицензию Apache-2.0. Модель предназначена для диалогов и анализа изображений с текстовым ответом. README сообщает о 11 отказах из 100 запросов против 100 из 100 у исходной модели и KL-дивергенции 0,0499; это результаты указанного в карточке сравнения, а не гарантия поведения на других запросах. В метаданных отмечены языки, включая английский, китайский и русский, а также ряд европейских, азиатских и других языков. Размер 26B-A4B входит в название репозитория, но описание точной структуры и значения A4B в предоставленных данных отсутствует. Ограничения на контент и допустимые сценарии использования не описаны; условия лицензии — Apache-2.0.
Tencent HY-MT1.5-1.8B-GGUF — GGUF-версия модели перевода HY-MT1.5-1.8B, разработанной командой Tencent Hunyuan. Модель содержит 1,8 млрд параметров и предназначена для взаимного перевода между 33 языками, а также поддерживает 5 этнических и диалектных вариантов. Она ориентирована на высокую скорость и качество перевода, включая сценарии реального времени и развёртывание на периферийных устройствах после квантования. Модель подходит для машинного перевода общего назначения, терминологического вмешательства, контекстного и форматированного перевода. GGUF-вариант может использоваться с llama.cpp и Ollama; в README приведён пример квантования Q8_0. Заявляется производительность, лидирующая среди моделей сопоставимого размера, и качество, близкое к более крупной версии HY-MT1.5-7B. Поддерживаемые языки включают китайский, английский, французский, португальский, испанский, японский, турецкий, русский и другие языки из заявленного набора. README не указывает архитектуру базовой нейросети, размер контекстного окна, точный состав диалектов, результаты измерений, ограничения применения или лицензию. Поэтому эти характеристики нельзя надёжно определить по представленным данным; условия лицензирования требуют проверки в карточке модели или сопутствующих документах.
Hy-MT2-30B-A3B-uncensored-heretic-i1-GGUF — GGUF-квантизированная версия модели OS-Software/Hy-MT2-30B-A3B-uncensored-heretic, подготовленная и опубликованная mradermacher. Модель предназначена для многоязычных задач обработки текста, включая перевод; в карточке заявлена поддержка китайского, английского, французского, португальского, испанского, японского, турецкого, русского и ряда других языков. В названии указана конфигурация 30B-A3B, однако подробности архитектуры, размер контекста и точное соотношение активных и общих параметров в README не раскрыты. Доступны многочисленные варианты GGUF-квантизации размером примерно от 6,3 до 21,5 ГБ, включая IQ- и Q-серии. Это позволяет выбирать между требованиями к памяти, скоростью и качеством; для некоторых вариантов отдельно отмечены низкое качество, а Q4_K_M обозначен как быстрый и рекомендуемый. К сильным сторонам относятся широкий набор поддерживаемых языков, ориентация на перевод и возможность локального запуска через формат GGUF. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут заметно терять в качестве, а для запуска более крупных файлов требуется значительный объём памяти. Модель помечена как uncensored и decensored, поэтому её поведение в отношении ограничений безопасности может отличаться от стандартных инструкционных моделей. Лицензия — Apache-2.0.