III.4Клиентская поддержка и customer success

manojpreveen/gpt-neoxt-20b-v13 — дообученная модель генерации текста на архитектуре GPT-NeoX, созданная на базе togethercomputer/GPT-NeoXT-Chat-Base-20B. Автор сообщает, что модель обучена на наборе Instruction Tuning объёмом около 5,2 млн примеров с использованием Colossal-AI; также в метаданных указан набор Conversational Data. Размер модели — 26,9 млрд параметров, нативный контекст — 2048 токенов. Модель предназначена для генерации ответов на инструкции и диалоговых запросов. В карточке описано обучение в течение пяти эпох на восьми GPU A100 с размером блока 2020 токенов. Лицензия — BigScience OpenRAIL-M.

fullsimpleonlineiter2 — диалоговая модель генерации текста, дообученная на основе YYYYYYibo/full_vanilla_dpo_iter_1 на обновлённом и исходном наборах данных. Она предназначена для общения в чате и генерации ответов на текстовые запросы. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Весовые файлы представлены в формате safetensors. Модель опубликована под лицензией Apache-2.0.

Jebadiah/hermes-Poppy-stone-l3-8b — объединённая языковая модель семейства Llama 3, созданная с помощью mergekit методом DARE TIES. В слиянии использованы ChaoticNeutrals/Poppy_Porpoise-v0.7-L3-8B и NousResearch/Hermes-2-Pro-Llama-3-8B; основной моделью указана Poppy_Porpoise-v0.7-L3-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors.

inception42/jais-family-30b-16k — двуязычная большая языковая модель семейства Jais от Inception Institute of Artificial Intelligence. Это модель с авторегрессивной архитектурой causal decoder, предварительно обученная с нуля; семейство включает варианты разных размеров, а данный репозиторий относится к варианту на 30 млрд параметров. Модель предназначена для генерации текста на арабском и английском языках и может использоваться для диалоговых ассистентов, анализа тональности, суммаризации двуязычных документов и задач обработки естественного языка. Jais оптимизирована для арабского языка и обладает сильными возможностями в английском. Семейство обучалось на арабских, английских и программных данных; карточка описывает варианты с контекстом 16K в названии репозитория. Модель распространяется по лицензии Apache 2.0. Возможны фактические ошибки, смещения и некорректные или оскорбительные ответы; она не предназначена для решений с высокими ставками без человеческого контроля и не должна считаться одинаково компетентной в других языках и диалектах.

inception42/jais-family-30b-16k-chat — чат-модель семейства Jais, созданного Inception Institute of Artificial Intelligence. Это дообученная для диалога версия базовой модели inceptionai/jais-family-30b-16k: автор описывает Jais Family как двуязычные англо-арабские большие языковые модели, оптимизированные для арабского языка и обладающие сильными возможностями на английском. Модель предназначена для диалоговых приложений, генерации и понимания текста, анализа тональности и суммаризации арабских и англоязычных документов. Модель имеет архитектуру декодера с авторской реализацией класса, для загрузки которой требуется включить trust_remote_code. В названии указаны размер 30B и контекст 16k; файлы представлены в формате safetensors. Метаданные помечают модель как чат-модель. Лицензия — Apache-2.0. Сильная сторона модели — ориентация на арабский язык при сохранении возможностей английского, включая диалоговые сценарии. Ограничения: ответы ориентированы на арабский и английский, возможны ошибки, предвзятость и оскорбительный либо вводящий в заблуждение контент; модель не предназначена для высокорисковых решений без контроля человека и обработки конфиденциальных данных.

mncai/llama2-13b-dpo-v7 — языковая модель MindsAndCompany на архитектуре Llama 2, дообученная для следования инструкциям и оптимизированная методом DPO. Она предназначена для генерации ответов на запросы и может использоваться в чат-ботах и корпоративных генеративных AI-продуктах. Модель содержит 12,9 млрд параметров, принимает текст и выдаёт текст; заявленный контекст — 2048 токенов. В карточке показан пример запроса на корейском языке, а метаданные указывают английский и корейский языки. Модель распространяется в формате safetensors по лицензии Llama 2.

OpenAssistant/llama2-13b-orca-8k-3319 — языковая модель OpenAssistant, созданная дообучением Meta Llama 2 13B. Она предназначена для генерации текста и диалоговых ответов по инструкциям. Модель содержит 12,9 млрд параметров и использует архитектуру Llama с контекстом до 8192 токенов благодаря линейному масштабированию RoPE. Обучение включало длинные диалоги на основе Orca-Chat/Dolphin, а также данные RedPajama и FanFics. Это помогает модели отвечать на запросы в многоходовых беседах и работать с более длинным контекстом. В карточке указана лицензия Llama 2 Community License Agreement. Для загрузки через Transformers требуется версия 4.31.0 или новее.

MInAlA/Llama-3.2-3B-DPO-merged — диалоговая языковая модель на архитектуре Llama, полученная выравниванием Llama-3.2-3B-Instruct методом DPO на наборе предпочтений argilla/ultrafeedback-binarized-preferences. Модель содержит 3,2 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 131072 токенов и предназначена для использования через библиотеку Transformers. Модель подходит для диалогов, генерации ответов и других текстовых задач общего назначения. В метаданных указаны мультиязычные возможности базовой модели, но конкретный перечень языков для этой производной модели не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Llama3-70B-EnSecAI-Ru-Chat — чат-модель EnSec AI, полученная дообучением Meta Llama 3.1 70B на открытых наборах SFT и DPO. Она предназначена для диалога и генерации текста с упором на понимание и ответы на русском языке. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 8192 токенов; в репозитории представлены веса safetensors для Transformers. Карточка сообщает о результатах выше исходной Llama 3 70B Instruct на бенчмарке MERA и о меньшем числе переключений с русского на английский во внутренней оценке. Модель подходит для русскоязычных диалоговых помощников, ответов на вопросы и генерации текста. Она также поддерживает английский язык, однако основной акцент дообучения — русский. Лицензия — Llama 3.1 Community License (llama3); следует учитывать её условия при использовании и распространении.

Llama-3-linear-8B — языковая модель на архитектуре Llama, созданная Mlabonne путём объединения Meta-Llama-3-8B и Meta-Llama-3-8B-Instruct методом task arithmetic через LazyMergekit. Модель содержит 7,5 млрд параметров и предназначена для генерации текста и диалоговых ответов; для работы с ней подходят сценарии ассистента и продолжения текста. Модель принимает текст и генерирует текст. Её нативное контекстное окно составляет 8192 токена. В карточке указана лицензия other; перед использованием следует проверить условия лицензии базовых моделей Meta-Llama 3.

Magnum-Picaro-0.7-V3-12b — объединённая чат-модель на 12,1 млрд параметров, созданная Trappu с помощью LazyMergekit из Trappu/Nemo-Picaro-V2-12B и anthracite-org/magnum-v2-12b. В основе лежит плотная архитектура Mistral с моделью MistralForCausalLM; слияние выполнено методом TIES, веса сохранены в формате safetensors. Модель предназначена для диалогов и генерации текста по запросу. Каталог указывает контекст до 1 024 000 токенов. Метаданные описывают базовую модель как предназначенную для следования инструкциям и связной генерации на нескольких языках, но отдельные языки для этой версии не перечислены. Модель распространяется под лицензией, указанной в карточке Hugging Face; доступные сведения её не содержат.

MeliodasPercival_01_NeuralsirkrishnaShadow — объединённая авторами модели Mistral плотная языковая модель на 7,1 млрд параметров для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и распространяется в формате Safetensors. Модель предназначена для сценариев генерации текста и ведения диалогов. Она создана слиянием automerger/MeliodasPercival_01-7B и automerger/NeuralsirkrishnaShadow-7B. Лицензия — Apache 2.0.

Arcee Meraj Mini — плотная авторегрессионная языковая модель на 7,1 млрд параметров, разработанная Arcee AI и дообученная на базе Qwen/Qwen2.5-7B-Instruct. Она предназначена прежде всего для арабского языка с сохранением сильных возможностей английского; поддерживает диалоговый шаблон ChatML и контекст до 131 072 токенов. Модель подходит для понимания и генерации текста, ответов на вопросы, рассуждений, образовательных материалов, математических задач, генерации кода, клиентской поддержки и создания контента. В карточке сообщается о высоких результатах на арабских бенчмарках и конкурентоспособных результатах на английских, однако численные результаты здесь не приведены. Весовые файлы опубликованы в формате Safetensors; лицензия — Apache-2.0. Модель текстовая и не предназначена для обработки изображений или аудио.

win10/miscii-Virtuoso-Small — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В объединении использованы arcee-ai/Virtuoso-Small и sthenno-com/miscii-14b-1028; базовой указана sthenno-com/miscii-14b-1028. Модель содержит 14 млрд параметров и принимает текст для генерации текста в диалоговом формате, включая сценарии с интерфейсом вызова инструментов. Модель подходит для генерации ответов и ведения диалога; описание базовой Virtuoso-Small указывает на следование инструкциям, рассуждения и бизнес-задачи. Заявленная длина контекста — 131072 токена. Модель распространяется в формате Safetensors и предназначена для использования через Transformers. Сведения о лицензии и конкретных ограничениях качества в карточке не приведены.

Mistral-11B-OmniMix9-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и Mistral-11B-OmniMix9 методом SLERP. Модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров; она предназначена для генерации текста и ответов на инструкции в формате чата. Модель принимает текст и генерирует текст. Контекст составляет до 32 768 токенов. Карточка не сообщает о специализации по конкретным предметным областям или языкам. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0.

Mistral-2.5-Prima-Hercules-Fusion-7B — объединённая языковая модель на архитектуре Mistral, созданная слиянием hydra-project/ChatHercules-2.5-Mistral-7B и Nitral-Archive/Prima-Pastacles-7b методом SLERP. Модель содержит 7,1 млрд параметров, работает с текстом и имеет контекстное окно до 32 768 токенов. Опубликована в формате safetensors и доступна по лицензии Apache-2.0. Модель предназначена для диалоговых ассистентов и многоходовых бесед, а также для генерации контента, ролевых сценариев, обучения и технической поддержки. В карточке заявлены улучшенное удержание контекста и сочетание диалоговых возможностей Hercules с адаптивностью Prima; независимые результаты оценки не приведены. Для качественной работы в специализированных сценариях автор рекомендует дополнительное дообучение. Запуск требует достаточных вычислительных ресурсов, особенно при инференсе на GPU.

MaziyarPanahi/neural-chat-7b-v3-1-dare-0.85-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста и ответов на диалоговые запросы. Она создана объединением Mistral-7B-Instruct-v0.1 и uukuguy/neural-chat-7b-v3-1-dare-0.85 методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текстовые инструкции и сообщения и генерирует текстовые ответы. Заявленный нативный контекст составляет 32 768 токенов. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества или ограничений поведения.

NeuralSoTa-7b-v0.1 — объединённая языковая модель Kukedlc на архитектуре Mistral с 7,1 млрд параметров. Она создана методом Model Stock с помощью mergekit на основе mistralai/Mistral-7B-v0.1 и объединяет веса Dolphin 2.8 Mistral 7B v02, WizardLM-2-7B и Starling-LM-7B-beta. Модель предназначена для генерации текста на основе текстовых запросов; её можно применять для диалогов, ответов на вопросы и написания текстов. Контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/OpenHermes-2.5-neural-chat-7b-v3-2-7B-Mistral-7B-Instruct-v0.2-slerp — слитая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-2-7B. Веса представлены в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговом формате. Её можно применять для чат-ботов, написания и редактирования текстов, а также ответов на вопросы. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Лицензия — Apache-2.0.

OpenHermes-2.5-neural-chat-v3-2-Slerp — разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением моделей с помощью mergekit. Она предназначена для генерации текста в диалогах и может использовать шаблоны ChatML и neural-chat-7b-v3-2. Заявленная длина контекста — 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. README приводит результаты оценки на Open LLM Leaderboard, включая средний балл 70,2, ARC и HellaSwag; эти результаты описывают оценивание, но не гарантируют качество в конкретном применении.

OpenHermes-2.5-neural-chat-v3-3-Slerp-Mistral-7B-Instruct-v0.1 — объединённая методом SLERP чат-модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.1 и Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Веса опубликованы в формате safetensors. Модель подходит для диалоговых помощников и генерации ответов на запросы. Поддерживаемые языки в предоставленных данных не перечислены. Лицензия — Apache-2.0. Качество ответов может зависеть от формулировки запроса; как и другие языковые модели, она может генерировать фактические ошибки.

cross-encoder/quora-roberta-base — англоязычная модель ранжирования на базе RoBERTa, дообученная с помощью SentenceTransformers на наборе Quora Duplicate Questions. Она принимает пару вопросов и выдаёт оценку от 0 до 1, показывающую, насколько вероятно, что вопросы являются дубликатами. Модель предназначена для поиска повторяющихся вопросов и сопоставления формулировок в системах обработки обращений или поиска. Архитектура — RobertaForSequenceClassification, размер — 151,8 млн параметров, нативная длина контекста — 514 токенов. Репозиторий содержит варианты в форматах PyTorch, safetensors, ONNX, OpenVINO и Flax. Модель рассчитана на английский язык и распространяется по лицензии Apache-2.0. Оценка отражает вероятность дублирования, а не общую семантическую близость: например, вопросы о том, как учить Java и Python, могут получить низкую оценку, хотя их темы похожи.

R1-Qwen2.5-7B-Instruct — дообученная pe-nlp разговорная языковая модель на базе Qwen/Qwen2.5-7B-Instruct, обученная на датасете Sky-T1. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров для генерации текста и диалогового взаимодействия; она принимает текст и выдаёт текст. Модель поддерживает контекст до 32 768 токенов и доступна в формате safetensors для библиотеки Transformers. Модель подходит для диалоговых ассистентов, генерации и преобразования текста, а также сценариев с интерфейсом вызова инструментов. В карточке не приведены результаты оценки качества и подробные ограничения. Лицензия указана как other, поэтому перед использованием следует проверить условия лицензирования репозитория и базовой модели.

Moritz Laurer разработал roberta-base-zeroshot-v2.0-c — модель для классификации текстов без размеченных примеров. Это дообученная RoBERTa-base с 151,8 млн параметров, настроенная на задачу вывода по естественному языку: модель оценивает, следует ли гипотеза из текста. Hugging Face pipeline позволяет представить разные задачи классификации как проверку гипотез для заданных классов; можно выбрать один класс или разрешить несколько. Модель предназначена для эффективной работы на CPU и GPU и совместима с производственными контейнерами Hugging Face TEI. В сравнении автора на 28 задачах классификации средний macro-F1 составил 0,587; точность зависит от набора данных и формулировки гипотезы. Модель принимает текст и выдаёт оценки классов. Поддерживаемый язык по карточке — английский; длина контекста — 514 токенов. Вариант с суффиксом «-c» обучен на коммерчески дружественных данных: синтетических текстах, созданных Mixtral-8x7B-Instruct-v0.1, и наборах MNLI и FEVER-NLI. Репозиторий распространяется по лицензии MIT. Модель ограничена задачами классификации текста; возможны смещения из-за базовой модели, данных NLI и синтетических данных.

samantha-mistral-7b-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi методом слияния mistralai/Mistral-7B-Instruct-v0.2 и cognitivecomputations/samantha-mistral-7b с помощью SLERP. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для диалогов, генерации текста и ответов на инструкции. Лицензия Apache 2.0 разрешает использование на её условиях.

SparrowMind-8B — диалоговая языковая модель, созданная bunnycore слиянием трёх моделей семейства Llama 3 с помощью mergekit. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст длиной до 8192 токенов; веса представлены в формате safetensors. Модель предназначена для генерации текста в диалоге и ответов на запросы. В состав слияния входят bunnycore/RemixLlama3-8B, NousResearch/Hermes-2-Theta-Llama-3-8B и UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3. Репозиторий распространяется по лицензии Apache-2.0.

Synaptica — объединённая языковая модель семейства Llama, созданная сообществом mergekit из Sao10K/Fimbulvetr-11B-v2 и maywell/Llama-3-Synatra-11B-v1 методом SLERP. Модель предназначена для генерации текста и диалоговых ответов; её архитектура — плотная LlamaForCausalLM, размер — 11 млрд параметров, контекст — до 8192 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В конфигурации слияния указана V-образная кривая параметра t, связывающая входные и выходные слои с Hermes, а средние слои — с WizardMath. Модель рассчитана на текстовый ввод и выдачу текста. Лицензия в предоставленных данных не указана.

T3qm7xNeuralsirkrishna_ShadowYam — объединённая модель семейства Mistral с 7,1 млрд параметров, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowYam-7B. Она предназначена для генерации текста и диалогов, принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

T3qm7xPercival_01-7B — объединённая модель для генерации текста, созданная Maxime Labonne методом SLERP из nlpguy/T3QM7X и AurelPx/Percival_01-7b-slerp. Она основана на архитектуре Mistral с плотной декодерной моделью на 7,1 млрд параметров и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Веса представлены в формате safetensors, при объединении использована точность bfloat16. Лицензия — Apache-2.0.

Jiva/xlm-roberta-large-it-mnli — модель классификации текста, разработанная Jiva на основе XLM-RoBERTa large и дообученная на задаче вывода по естественному языку (NLI) на итальянском переводе корпуса MNLI. Она предназначена прежде всего для классификации итальянских текстов без заранее заданного набора классов: пользователь передаёт текст и варианты меток, а модель оценивает их соответствие. Модель можно использовать через zero-shot-classification pipeline Transformers; метки и текст могут быть на разных языках, хотя шаблон гипотезы рекомендуется переводить на итальянский для повышения качества. Архитектура — XLM-RoBERTa для классификации последовательностей, около 658,7 млн параметров, максимальный контекст — 514 токенов. Обучение выполнено на переводе MNLI, а в обновлённой версии использован полный обучающий набор после удаления примерно 1000 неудачно переведённых пар. Карточка приводит точность 84,75 и 85,39 на двух вариантах итальянской оценки; модель также может работать с другими языками благодаря многоязычной предобученной базе, но основное назначение — итальянская классификация. Для классификации только на английском автор рекомендует bart-large-mnli или его дистиллированный вариант. Лицензия — MIT.