III.4Клиентская поддержка и customer success
В разделе собраны самостоятельные задачи, где AI помогает быстрее решать обращения и предупреждать проблемы клиентов. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
9 831 модельssmits/Falcon2-8B-Romanian — объединённая языковая модель семейства Falcon, созданная методом passthrough с помощью mergekit на основе ssmits/Falcon2-5.5B-Romanian. Она предназначена для генерации текста и диалогового общения на румынском языке; также подходит для ответов на вопросы и задач классификации текста. Модель использует плотную архитектуру FalconForCausalLM, содержит 11,8 млрд параметров и поддерживает контекст до 8192 токенов. Модель принимает текст и генерирует текст. Она распространяется по лицензии Apache-2.0. Карточка не сообщает о специализированной предметной области или известных ограничениях качества.
GaMS-2B-Instruct — языковая модель с диалоговой настройкой, разработанная исследовательской командой факультета компьютерных наук и информатики Люблянского университета. Она основана на GaMS-2B, которая, в свою очередь, построена на Gemma 2 и дополнительно обучена на словенских, английских, хорватских, сербских и боснийских текстах. Модель предназначена для генерации текста и диалоговых сценариев: она может помогать составлять и редактировать тексты, отвечать на вопросы, создавать краткие пересказы и поддерживать языковую практику. Наиболее подходящие языки — словенский и английский; также поддерживаются хорватский, сербский и боснийский. Модель имеет плотную архитектуру Gemma 2, содержит 2,7 млрд параметров и поддерживает контекст до 8192 токенов. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с неоднозначными формулировками и сложными задачами; результаты требуют проверки. Модель распространяется по лицензии Gemma, условия которой следует учитывать при использовании.
Goader/gemma-3-4b-uk-matt — плотная модель семейства Gemma 3 на 4 млрд параметров, созданная Goader на основе предварительно обученной google/gemma-3-4b-pt. Это базовая, не настроенная на следование инструкциям модель; в ней сохранены исходные веса, кроме входных эмбеддингов, перенесённых на украинско-ориентированный токенизатор MATT. Токенизатор сохраняет исходный словарь Gemma и добавляет украинские токены, благодаря чему украинский текст занимает примерно на треть меньше токенов. Модель предназначена для генерации текста, в том числе на украинском и английском, а также для задач понимания и перевода, проверенных в карточке. На приведённых тестах украинского языка она сохраняет 94–98% результатов исходной модели и показывает сопоставимые результаты перевода с английского на украинский. Веса сохранены в формате bfloat16; карточка указывает библиотеку Transformers и лицензию Gemma. Это базовая модель, поэтому для диалогового использования и следования инструкциям может потребоваться дополнительная настройка.
TheBloke/gpt4-alpaca-lora-13B-HF — версия модели gpt4-alpaca-lora-13b в формате Hugging Face, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная методом instruction following на данных alpaca_data_gpt4.json с использованием LoRA; в карточке указана базовая модель decapoda-research/llama-30b-hf. Репозиторий содержит объединённую модель в формате PyTorch. Модель предназначена для генерации ответов на инструкции и диалогового общения на английском языке. Она может служить основой чат-бота, помощника для ответов на вопросы и генератора текстов по запросу. Указанное в метаданных окно контекста составляет 2048 токенов. Лицензия обозначена как other, поэтому конкретные условия использования по имеющимся сведениям определить нельзя. Модель основана на LLaMA и унаследовала её ограничения; качество и надёжность ответов не гарантированы. Указанный в README базовый чекпойнт имеет 30B параметров, тогда как опубликованная версия — 13B; README не поясняет это расхождение.
granite-4.1-8b-Claude-Opus-4.6-Thinking-MAX — экспериментальная разговорная языковая модель DavidAU, дообученная на базе IBM Granite-4.1-8B с помощью Unsloth на наборе примерно из 3 тысяч примеров. Дообучение направлено на переход от режима следования инструкциям к режиму рассуждений; в обучении использовались данные, связанные с Polaris, GLM 4.7 и Claude Opus 4.6. Модель имеет плотную архитектуру GraniteForCausalLM, около 8,4 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и выполнения текстовых инструкций с многошаговым рассуждением. Автор приводит результаты тестов на общих языковых бенчмарках и примеры сложных генераций, но они не гарантируют качество на других задачах. README рекомендует контекст не менее 8 тысяч токенов и квантизацию не ниже Q4_K_S, отмечая, что более высокая точность может улучшить результаты. Базовая Granite-4.1-8B поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский; сведения о языковом охвате именно дообученной версии отдельно не приведены. Лицензия — Apache 2.0.
Index-Translate-35B-A3B-preview — предварительная многоязычная модель перевода семейства Index-Translate, разработанная IndexTeam на базе Qwen3.5. Это модель типа mixture-of-experts с 35 млрд общих и примерно 3 млрд активных параметров. Она предназначена для перевода текстов между 150 языками и учитывает инструкции о терминологии, стиле, контексте, форматировании, структуре и длине ответа. Модель подходит для перевода статей, субтитров, структурированных данных и культурно обусловленных выражений, включая мемы и разговорные варианты написания. Вариант с визуальными энкодерами mmproj поддерживает перевод текста на изображениях без отдельного внешнего OCR; наличие этих энкодеров в данном репозитории не подтверждено. В техническом отчёте модель показывает высокие результаты на нескольких тестах перевода, но приведённые оценки относятся к указанным наборам данных и настройкам. Карточка описывает preview-версию и не приводит конкретные ограничения её практического применения. Лицензия — Apache-2.0.
OsaurusAI подготовила JANG_4M-сборку инструктивной модели Kakao Kanana-2 30B-A3B для запуска на компьютерах Apple Silicon через MLX. Это текстовая диалоговая модель архитектуры DeepSeek V3 с общей ёмкостью 30,7 млрд параметров и примерно 3 млрд активных параметров на токен; контекст — до 32 768 токенов. В README метаданные указывают 2,9 млрд параметров, поэтому размер в каталоге может отражать активную часть модели, а не полное число параметров. Модель предназначена для диалогов и выполнения инструкций на корейском, а также на английском, японском, китайском, тайском и вьетнамском языках. Сборка использует смешанную квантизацию JANG_4M: основные веса экспертов сжаты до 4 бит, проекции внимания — до 8 бит, а маршрутизатор, нормализации и некоторые другие слои сохраняют более высокую точность. Пакет занимает около 17 ГБ и рассчитан на MLX-загрузчик с поддержкой DeepSeek V3 и JANG. Сборка преобразована из kakaocorp/kanana-2-30b-a3b-instruct-2601. README описывает шаблон диалога с поддержкой рассуждений и вызова инструментов, однако возможность инструментов зависит от runtime; режим рассуждений по умолчанию выключен. Качество корейского языка и производительность на Apple Silicon заявлены как сильные стороны, но отдельная оценка этой квантизированной сборки ещё не опубликована. Модель распространяется по Kanana License; метаданные Hugging Face обозначают лицензию как other.
ko-llama2-v1 — 13-миллиардная плотная языковая модель семейства Llama 2, созданная Jiwoo Chris Jung. Она дообучена методом LoRA на небольшом наборе из 1 944 отобранных по качеству инструкций на корейском и английском языках; адаптер объединён с весами модели, и репозиторий содержит веса fp16. Модель предназначена для генерации текста и выполнения инструкций на корейском и английском. В октябре 2023 года она заняла первое место в снимке Open Ko-LLM Leaderboard среди 230 моделей. Модель принимает текст и генерирует текст; заявленная длина контекста — 2 048 токенов. Весовой чекпойнт занимает около 26 ГБ в fp16, для видеокарт с меньшим объёмом памяти README рекомендует загрузку в 8- или 4-битном формате. Это исследовательский чекпойнт октября 2023 года: модель не обучалась безопасному поведению и может выдавать неверную или вымышленную информацию. Указана лицензия MIT, при этом README отмечает, что базовая модель Llama 2 накладывает собственные условия лицензии.
Llama-3.1-EstLLM-8B-Instruct-1125 — инструкционная языковая модель TartuNLP и TalTechNLP, созданная слиянием chat-векторов tartuNLP/Llama-3.1-EstLLM-8B-Instruct-0825 с Meta Llama 3.1 8B Instruct. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и предназначена для диалогов и генерации текста. В README указаны эстонский и английский языки; контекст по метаданным — до 131 072 токенов. Модель подходит для ответов на вопросы, выполнения инструкций, рассуждений и перевода с английского на эстонский. В её обучении использовались продолженное предобучение на эстонских и общих корпусах, supervised fine-tuning и DPO; карточка также указывает датасеты HelpSteer3, Tulu 3 и EuroBlocks. Модель распространяется по лицензии Llama 3.1 Community License Agreement. Авторы характеризуют её как ранний прототип. README предупреждает о возможных побочных эффектах слияния, ненадёжной поддержке многоходовых диалогов и исходном системном промпте Llama 3.1 с фиксированной датой отсечения знаний. Хотя README называет контекст относительно коротким — 4096 токенов, метаданные каталога указывают native context в 131 072 токена; на длинных контекстах качество может быть ограничено.
LLama-3.1-KazLLM-1.0-8B — языковая модель, адаптированная Институтом интеллектуальных систем и искусственного интеллекта (ISSAI) для более полезных ответов на казахском языке. Это текстовая чат-модель на архитектуре Llama 3.1; обозначение версии указывает на вариант с 8 млрд параметров. Репозиторий содержит веса в формате safetensors, модель используется через Transformers. Модель предназначена для диалогов и генерации ответов на текстовые запросы, особенно на казахском языке. README указывает максимальную длину входа 128 тыс. токенов и выхода 4 тыс. токенов; также приведены результаты оценки на казахском, русском и английском бенчмарках, но таблицы относятся к варианту на 70 млрд параметров и не подтверждают такие же показатели для этой версии. Модель принимает и генерирует текст. В метаданных отмечены казахский, русский, английский и турецкий языки, а карточка приводит условия Meta для Llama 3.1 и дополнительную лицензию CC BY-NC 4.0. Авторы предупреждают о возможных смещениях и ошибках, поэтому ответы следует проверять; при использовании нужно соблюдать условия обеих лицензий и правила допустимого использования Llama 3.1.
M7Yamshadowexperiment28_Strangemerges_32T3qm7xp — слитая текстовая модель семейства Mistral, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Strangemerges_32T3qm7xp-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат Safetensors; контекст — до 32 768 токенов. Модель предназначена для генерации текста. Её можно применять для продолжения заданного текста и создания ответов на текстовые запросы. Карточка не описывает специализацию по предметной области или конкретные качества модели. Лицензия — Apache-2.0. Сведения о языках и ограничениях в карточке не приведены.
M7Yamshadowexperiment28_T3qm7xExperiment28 — языковая модель для генерации текста, созданная объединением моделей automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xExperiment28-7B. В метаданных указана архитектура Mistral с плотной структурой и 7,1 млрд параметров; веса доступны в формате safetensors, максимальная длина контекста — 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Карточка не описывает специализированные сценарии, языки или дополнительные возможности. Модель распространяется по лицензии Apache-2.0.
MOSS-Audio-8B-Instruct — открытая мультимодальная модель понимания аудио от MOSI.AI, команды OpenMOSS и Shanghai Innovation Institute. Вариант Instruct предназначен для выполнения инструкций по аудиозаписям: модель принимает аудио и формирует текстовые ответы о его содержании. Модель объединяет аудиоэнкодер MOSS-Audio-Encoder, адаптер модальности и языковую модель Qwen3-8B; общий размер составляет около 8,6 млрд параметров. Архитектура использует временные маркеры и признаки аудио с нескольких слоёв энкодера. Поддерживаются задачи распознавания речи с временными метками, анализа говорящих и эмоций, описания звуковых событий и сцен, понимания музыки, ответов на вопросы и суммаризации аудио. Карточка указывает английский и китайский языки. Модель ориентирована на разбор реальных аудиозаписей и вопросов с учётом временного контекста. Репозиторий распространяет веса в формате safetensors по лицензии Apache-2.0. Контекстное окно и количественные результаты именно этого варианта в предоставленных данных не указаны.
Orion-zhen/Qwen2.5-7B-Instruct-Uncensored — диалоговая языковая модель Orion-zhen, полученная дообучением Qwen/Qwen2.5-7B-Instruct с помощью SFT и DPO на наборах инструкций и предпочтений, ориентированных на ответы без отказов. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM, 7,1 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции, творческое письмо и ролевые сценарии. Она ориентирована на снижение отказов при обработке запросов, сохраняя часть возможностей базовой модели. В карточке перечислены теги китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Автор отмечает, что модель всё ещё может не создавать подробные описания некоторых экстремальных сценариев; это может быть связано с отсутствием соответствующих данных на этапе предобучения базовой модели. Лицензия — GPL-3.0.
SeaLLMs-Audio-7B — мультимодальная аудиоязыковая модель семейства SeaLLMs, разработанная для языков Юго-Восточной Азии. Она построена на Qwen2-Audio-7B с заменой языковой модели на Qwen2.5-7B-Instruct и полным дообучением на 1,58 млн диалогов с аудио и текстом. В метаданных указана архитектура Qwen2-Audio и формат safetensors. Модель принимает аудио, текст или их сочетание и предназначена для распознавания речи, описания аудио, перевода речи в текст, анализа эмоций, ответов на вопросы по аудио, краткого пересказа и голосового общения. Основные языки — индонезийский, тайский и вьетнамский, также поддерживаются английский и китайский. Разработчики сообщают о результатах на собственном бенчмарке SeaBench-Audio; руководство по эксплуатации включает Transformers и vLLM. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с карточкой модели. README не приводит явных ограничений качества или безопасного применения.
shisa-7b-v1-Mistral-7B-Instruct-v0.1 — чат-модель семейства Mistral, созданная MaziyarPanahi слиянием Mistral-7B-Instruct-v0.1 и augmxnt/shisa-7b-v1 методом SLERP. Модель предназначена для генерации ответов на инструкции и диалоговые запросы; среди указанных языков — японский и английский. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекстное окно до 32 768 токенов. Веса представлены в формате safetensors; лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества или подробностей ограничений.
Soundwave — модель семейства Soundwave от FreedomIntelligence для взаимодействия с речью и текстом. Она предназначена для преобразования аудиовхода в текстовые ответы, включая перевод речи и задачи понимания речи; также поддерживает диалоговые сценарии и сохраняет способности языковой модели в разговоре. По карточке, модель использует плотную архитектуру SoundwaveForCausalLM, содержит 7,5 млрд параметров и обучалась на 10 тысячах часов данных. Метаданные указывают контекст до 131 072 токенов, формат весов safetensors и интерфейс для вызова инструментов. Поддерживается английский язык. Модель распространяется по лицензии Apache-2.0. README заявляет высокие результаты на задачах перевода речи и AIR-Bench, но численные результаты и подробные ограничения в предоставленных материалах не приведены.
Strangemerges_32Yamshadow-7B — объединённая Maxime Labonne языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана методом SLERP из Gille/StrangeMerges_32-7B-slerp и automerger/YamShadow-7B; веса представлены в формате safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и сценариев, где требуется продолжать или создавать текст по текстовому запросу. Карточка приводит пример загрузки через Transformers, но не уточняет специализацию по языкам или отдельным предметным областям. Модель распространяется по лицензии Apache-2.0. README не сообщает сравнительных оценок качества или специальных ограничений применения.
Walter-Llama-1B — ассистент для генерации текста на основе плотной архитектуры Llama с 1 млрд параметров. Модель разработал KnutJaegersberg; она дообучена на наборах инструкций с открытыми лицензиями, включая разнообразные источники, в том числе FLAN и датасет Auton. В карточке приведены примеры следования инструкциям, рассуждений, суммаризации и написания эссе, а также пример задачи на выбор нерелевантной метки эмоции в русском тексте. Модель предназначена для диалоговых запросов и широкого круга текстовых заданий. Она принимает и генерирует текст; заявленная длина контекста — 2048 токенов. В метаданных указаны Transformers и формат safetensors. Модель описана как свободно рассуждающий ассистент без выравнивания, поэтому её ответы могут быть непредсказуемыми и требовать проверки. Лицензия — Apache-2.0.
MaziyarPanahi/YamshadowInex12_Strangemerges_32Yamshadow — объединённая модель генерации текста на архитектуре Mistral с 7,1 млрд параметров. Она создана путём слияния automerger/YamshadowInex12-7B и automerger/Strangemerges_32Yamshadow-7B; файлы модели представлены в формате safetensors. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов. Карточка не описывает специальные предметные области или отдельные сценарии применения. Лицензия — Apache-2.0.
Zara-14b-v1 — диалоговая причинно-следственная языковая модель Aixon Lab на архитектуре Transformer Qwen2. Модель содержит около 14 млрд параметров и дообучена на основе sometimesanotion/Lamarck-14B-v0.7; в README также упоминаются слияния слоёв. Модель рассчитана на диалоги с несколькими ролями, генерацию текста, ответы на вопросы и анализ, с упором на творческое письмо и сторителлинг. Заявленная длина контекста — 131 072 токена. Основной язык — английский; README допускает поддержку других языков, но не уточняет их. Модель распространяется в формате safetensors по лицензии Apache 2.0. Оценки качества и результаты бенчмарков для этой версии не приведены.
BeagleLake-7B — плотная языковая модель Mistral на 7,1 млрд параметров, созданная fhai50032 с помощью mergekit. Это слияние RolePlayLake-7B и NeuralBeagle14-7B методом DARE-TIES; конфигурация использует базовую модель NeuralBeagle14-7B и формат float16. Модель предназначена для генерации текста и диалогов, включая ролевые сценарии, следование инструкциям, рассуждения и творческое письмо. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. В карточке приведены результаты оценки на отдельных задачах бенчмарка, но они не гарантируют качество в иных сценариях. Состав RolePlayLake-7B описан как подходящий для ролевых игр и менее ограниченной генерации; ответы модели могут требовать проверки и настройки под конкретное применение.
BlueBerry-3-GGUF — это GGUF-квантизированная версия модели BlueBerry-3, опубликованной artindnr и квантизированной mradermacher. Модель предназначена для генерации текста и доступна в форматах, совместимых с инструментами, поддерживающими GGUF. В метаданных указана архитектура mixture-of-experts, а также поддержка языков фарси, английского, арабского, французского, немецкого и испанского. Набор включает варианты квантования от Q2_K и Q3_K до Q8_0, включая IQ4_XS; размер файлов составляет примерно от 66 до 124 ГБ. Версии Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант высокого качества. Контекстное окно, точное число параметров, поддержка изображений или других модальностей, результаты тестирования и дополнительные ограничения в README не указаны. Модель распространяется по лицензии Apache-2.0.
Eclectic-Maid-10B-v2 — текстовая генеративная модель, созданная автором репозитория ND911 с помощью mergekit. Это слияние предварительно обученных языковых моделей методом passthrough; в конфигурации указаны слои Maid-Reborn-v22-10B. Модель построена на плотной архитектуре Mistral с причинной языковой моделью MistralForCausalLM, содержит 10,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. README утверждает, что версия лучше исходной, но не приводит сравнительных результатов или подробностей о целевых сценариях. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.
MaziyarPanahi/Experiment26Yam_Strangemerges_32Strangemerges_30 — объединённая модель Mistral для генерации текста, созданная из automerger/Experiment26Yam-7B и automerger/Strangemerges_32Strangemerges_30-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Репозиторий содержит веса в формате safetensors. Языковая специализация и конкретные сценарии применения в карточке не описаны. Лицензия — Apache-2.0.
Fanar-1-9B-Instruct — языковая модель QCRI при Университете Хамад бин Халифа, основанная на Gemma 2 и дообученная для следования инструкциям. Модель содержит около 8,6 млрд параметров, использует архитектуру авторегрессионного трансформера и рассчитана на контекст до 4096 токенов. Она принимает текст и генерирует текстовые ответы; карточка Hugging Face указывает поддержку арабского и английского языков. Модель предназначена для диалоговых помощников, ответов на вопросы об арабской культуре и диалектах, а также образовательных, государственных и общественных приложений для арабоязычной аудитории. При обучении уделялось внимание современному стандартному арабскому, диалектам Персидского залива, Леванта и Египта, а также английскому языку. Разработчики сообщают о продолжительном предобучении на арабских и английских данных и двух этапах постобучения: SFT и DPO. Модель может давать неверные, предвзятые или оскорбительные ответы и не предназначена для принятия важных решений, в частности в медицине, праве и финансах. По метаданным репозитория используется лицензия Apache 2.0.
Grafted-Wind-Elementals-2x70B — языковая модель для генерации текста, созданная как MoE-слияние моделей alchemonaut/BoreanGale-70B и ShinojiResearch/Senku-70B-Full. В карточке она описана как модель с сильными навыками письма; также приведены результаты оценки на задачах рассуждения и понимания текста. Архитектура репозитория — Mixtral MoE с классом MixtralForCausalLM, а объём модели по метаданным составляет 68,7 млрд параметров. Модель предназначена для генерации текста и диалогов. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. README указывает на лицензию только для некоммерческого исследовательского использования. Английский язык указан в описании базовой модели каталога; другие языки карточкой не подтверждены.
Hebrew-Mistral-7B-200K-HeQ-Chat — разговорная языковая модель семейства Mistral, разработанная itayl и дообученная на базе yam-peleg/Hebrew-Mistral-7B-200K. Модель содержит 7,2 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для генерации текста в формате диалога. Заявленная длина контекста — 262 144 токена. Модель предназначена для общения с пользователем и генерации текста, прежде всего на иврите и английском. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или подробностей обучающих данных.
Hermes-A1-20B-i1-GGUF — это набор квантизированных файлов в формате GGUF для базовой модели aayanmishra-ml/Hermes-A1-20B. Квантизацию выполнил mradermacher; в README также упоминается поддержка со стороны nethype GmbH и nicoboss. Модель предназначена для локального запуска задач генерации текста, включая диалоговые сценарии и многоязычное взаимодействие. В основе лежит трансформерная causal language model размером 20 млрд параметров. Заявлены английский, немецкий, французский, испанский и итальянский языки. Модель работает с текстом; сведения о контекстном окне и дополнительных модальностях отсутствуют. Репозиторий содержит варианты imatrix-квантизации от i1-IQ1_M до i1-Q6_K, различающиеся размером, скоростью и качеством. Для баланса размера, скорости и качества рекомендован i1-Q4_K_M, а i1-Q4_K_S отмечен как оптимальный по этим параметрам. Ключевое преимущество — возможность запуска крупной модели в существенно уменьшенном размере: файлы занимают примерно от 12,1 до 22,3 ГБ. Ограничения зависят от выбранного варианта: низкобитные квантизации требуют меньше ресурсов, но могут заметно снижать качество, тогда как более крупные файлы предъявляют повышенные требования к памяти. Лицензия базовой модели указана как Apache-2.0; отдельные условия для квантизированных файлов в README не уточняются.
KORani-v3-13B — языковая модель компании KRAFTON на архитектуре LLaMA с 12,9 млрд параметров. Это дообученная версия LLaMA 13B, созданная с использованием наборов ShareGPT и KoVicuna и вдохновлённая проектом Vicuna. Модель предназначена для генерации текста на корейском и английском языках, в том числе для диалога, ответов на вопросы, перевода с английского на корейский и суммаризации на корейском. Контекст составляет 2048 токенов. В репозитории указаны веса PyTorch и лицензия Apache-2.0. В README приведены примеры сравнительной оценки на небольших выборках для перевода, вопросов и суммаризации; эти результаты не гарантируют качества в других сценариях. Версия v3 не означает, что модель является лучшей или самой новой.