III.4Клиентская поддержка и customer success

Карточка модели OpenBuddy/openbuddy-qwen1.5-32b-v21.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-qwen1.5-32b-v21.1-32k, поэтому описание составлено по ней. OpenBuddy-Qwen1.5-32B-v21.1-32k — мног языковая диалоговая модель OpenBuddy на архитектуре Qwen2 с плотной трансформерной сетью и 31,7 млрд параметров. Она предназначена для общения и генерации ответов на запросы; поддерживает контекст до 32 768 токенов и работает с текстом на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель можно применять для диалоговых помощников, ответов на вопросы и составления текстов на поддерживаемых языках. Для работы рекомендуется быстрый токенизатор Transformers; README также отмечает совместимость формата промптов с vLLM для развёртывания API. Модель распространяется по лицензии с обозначением «other»; README приводит предупреждение об ошибочных или нежелательных ответах и предостерегает от использования в критичных и высокорисковых сценариях.

OpenBuddy — многоязычная чат-модель, разработанная проектом OpenBuddy. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста в диалоге и ответов на запросы. Метаданные указывают контекстное окно до 32 768 токенов и поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Модель подходит для диалоговых помощников и генерации ответов на обычные пользовательские запросы. Она распространяется под лицензией Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует применять для критически важных решений в медицине, финансах, праве и других высокорисковых сценариях.

OpenChat v3.1 — языковая модель, разработанная командой OpenChat и созданная методом supervised fine-tuning на диалогах ShareGPT с особой стратегией кондиционирования и взвешенной функцией потерь. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, принимающая текст и генерирующая ответы. Максимальная длина контекста — 4096 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста в приложениях, где нужна открытая разговорная LLM. README сообщает о тестировании на AlpacaEval и MT-bench, но результаты этих бенчмарков не гарантируют качество во всех задачах. Модель может ошибаться и выдумывать сведения; также отмечены ограничения в сложных рассуждениях, математике и программировании. Модель распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование на её условиях. Для высокопроизводительного развертывания README рекомендует OpenChat API-сервер на базе vLLM; указанные требования к GPU относятся к этому способу запуска.

giraffe176 выпустил объединённую модель Open_Hermes_Orca_Mistral-7B — языковую модель Mistral с плотной архитектурой MistralForCausalLM и примерно 7,1 млрд параметров. Она создана методом task arithmetic с помощью mergekit: объединяет teknium/OpenHermes-2.5-Mistral-7B и Open-Orca/Mistral-7B-OpenOrca. Модель предназначена для генерации текста и диалогового общения; заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Репозиторий содержит веса safetensors; в README указана точность float16. Лицензия — Apache-2.0. README приводит результаты оценки на нескольких тестах, но не описывает отдельные гарантии качества или ограничения применения.

Orpomis-Prime-7B-dare — объединённая с помощью Mergekit языковая модель от автора saucam. Она сочетает kaist-ai/mistral-orpo-beta и NousResearch/Hermes-2-Pro-Mistral-7B методом dare_ties; в конфигурации заданы веса 0,6 и 0,4, плотность 0,5 и тип данных bfloat16. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по запросу. Её можно применять для ответов на вопросы, написания и преобразования текста, а также выполнения инструкций в текстовом чате. В репозитории представлены веса safetensors. Модель объединяет две базовые модели; самостоятельное дообучение Orpomis-Prime-7B-dare в карточке не заявлено. Сведения о лицензии, поддерживаемых языках и специальных ограничениях в доступных данных отсутствуют.

Porpoise-6b-instruct — языковая модель NewstaR, дообученная на базе DeciLM-6b-instruct на наборе Dolphin GPT4 Dataset. Это плотная модель семейства LLaMA с архитектурой DeciLMForCausalLM и 6,6 млрд параметров; она предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Для запуска через Transformers в карточке указана настройка naive_attention_prefill=true. Модель принимает текст и генерирует текст. Контекст составляет 4096 токенов. В метаданных также перечислены OpenOrca, SlimPajama-627B и ehartford/dolphin. Карточка не сообщает о специализированной предметной области или известных ограничениях качества. Лицензия в предоставленных данных не указана.

Pullulation-2-9B — объединённая диалоговая языковая модель на базе Gemma 2, созданная ClaudioItaly с помощью mergekit и метода Model Stock. В качестве базовой модели при слиянии использована nbeerbower/gemma2-gutenberg-9B; также объединены пять других вариантов Gemma 2 с настройками для диалогов и генерации текста. Модель с плотной архитектурой Gemma2ForCausalLM содержит 9 млрд параметров, работает через Transformers и распространяется в формате safetensors. Она предназначена для генерации текста и диалоговых ответов; контекст составляет 8192 токена. Лицензия в предоставленных данных не указана.

Lambent/qwen2.5-reinstruct-alternate-lumen-14B — объединённая диалоговая языковая модель Lambent на архитектуре Qwen2, созданная с помощью mergekit. В основе объединения лежит Lambent/qwen2.5-lumen-rebased-14B; также использована Qwen/Qwen2.5-14B-Instruct. Модель содержит 14 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и интерфейс вызова инструментов. В README приведена оценка EQ-Bench 77,6713; автор отмечает, что она сопоставима с Lumen и исходной Instruct-моделью, но оценка не гарантирует качество для конкретных задач. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Лицензия в предоставленных источниках не указана.

EpistemeAI/Reasoning-Llama-3.1-CoT-RE1-NMT — диалоговая языковая модель семейства Llama, разработанная EpistemeAI и дообученная на базе EpistemeAI/Reasoning-Llama-3.1-CoT-RE1. Это плотная модель с 7,5 млрд параметров, контекстом до 131 072 токенов и форматом весов safetensors. Модель предназначена для диалогов, выполнения инструкций и генерации ответов с многошаговыми рассуждениями. В карточке заявлены сценарии виртуальных помощников, поддержки клиентов, обучения и генерации текстов. Среди датасетов в метаданных указаны AI-MO/NuminaMath-TIR и bespokelabs/Bespoke-Stratos-17k. README также упоминает Unsloth и непрерывное обучение, но не приводит подробностей об их реализации в этой версии. Доступны способ запуска через Transformers и лицензия Apache-2.0. Качество и языковое покрытие отдельно не оценены в предоставленных сведениях.

RefalMachine RuadaptQwen2.5-32B-Pro-Beta — русскоязычная адаптация модели T-pro-it-1.0, опубликованная RefalMachine. Она основана на плотной архитектуре Qwen2.5 с 32 млрд параметров и предназначена для диалоговой генерации текста на русском языке. Модель объединяет базовые модели Qwen/Qwen2.5-32B и t-tech/T-pro-it-1.0, а затем адаптирована с помощью замены токенизатора, продолженного предобучения на русскоязычном корпусе и техники Learned Embedding Propagation (LEP). В метаданных указан контекст 32 768 токенов. Расширенный токенизатор на основе cl100k и униграммного словаря размером 48 тысяч токенов, по заявлению авторов, повышает скорость генерации русскоязычного текста до 60% относительно T-pro-it-1.0 при сравнении на одинаковых последовательностях. Модель подходит для русскоязычного диалога, ответов на вопросы и написания текстов; также заявлен интерфейс для вызова инструментов. Она выпущена под лицензией Apache-2.0. Авторы предупреждают, что ответы отражают данные обучения, а предобучение исходной сторонней модели ими не контролировалось; результаты оценки качества в карточке приведены не полностью.

RefalMachine разработала инструктивную русскоязычную адаптацию Qwen2.5-7B. Модель с плотной архитектурой Qwen2 содержит 7,1 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы. В ней заменили токенизатор на расширенный вариант tiktoken cl100k с добавлением 48 тысяч unigram-токенов, продолжили предобучение на русскоязычном корпусе и применили технику Learned Embedding Propagation (LEP). Для диалогового использования предусмотрен интерфейс чата и вызова инструментов. Модель предназначена для русскоязычного диалога и выполнения инструкций. Авторы сообщают об увеличении скорости генерации русскоязычного текста до 60% относительно Qwen2.5-7B-Instruct при сравнении числа символов или слов в секунду на одинаковых последовательностях. Заявление о скорости не следует трактовать как оценку качества ответов. В карточке приведены частичные результаты Ru-Arena-General; данные по MERA и llmtf_open отмечены как незаполненные. Контекстное окно — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Aniemore/rubert-large-emotion-russian-cedr-m7 — русскоязычная модель классификации эмоций, разработанная Aniemore. Она дообучена на датасете Aniemore/cedr-m7 на базе sberbank-ai/ruBert-large и предназначена для определения семи эмоций в тексте. Выход многометочный: каждой эмоции присваивается независимая оценка, поэтому текст может получить несколько меток или не получить ни одной. Модель содержит 525,7 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в форматах PyTorch и safetensors. На тестовой выборке CEDR-M7 указаны ROC AUC 0,9258 для macro и 0,9714 для micro. Порог 0,5 использовался для расчёта macro-F1; для практического применения пороги следует настроить на данных конкретной задачи. Модель подходит для анализа тональности и эмоций в русскоязычных сообщениях и отзывах, но результаты зависят от соответствия входных текстов обучающему датасету. Лицензия — MIT.

d4g0at5h0rty/sage-ml — дообученная разговорная языковая модель семейства Sage с плотной архитектурой Cohere2ForCausalLM. Модель содержит 3,3 млрд параметров и рассчитана на генерацию текста в диалоговом формате; контекст — до 8192 токенов. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. В метаданных указаны английский и многоязычная поддержка, библиотека Transformers и формат весов safetensors. Модель выпущена под лицензией Apache-2.0.

Aleteian/saiga-vikhr-dostoevsky-ru-mn-12b — русскоязычная диалоговая языковая модель, созданная слиянием двух моделей на базе Mistral Nemo: IlyaGusev/saiga_nemo_12b и IlyaGusev/vikhr_nemo_orpo_dostoevsky_12b. Для объединения использован метод SLERP с библиотекой mergekit; модель имеет плотную архитектуру MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста в диалоге и ответов на запросы пользователей. Она принимает текст и выдаёт текст; метаданные указывают контекст до 1 024 000 токенов и поддержку чата. Лицензия в предоставленных данных не указана.

SauerkrautLM-Multi-ModernColBERT — многоязычная модель поиска VAGOsolutions на архитектуре ColBERT с поздним взаимодействием и основой ModernBERT. Она дообучена продолжительным предобучением модели lightonai/GTE-ModernColBERT-v1 с дистилляцией знаний от моделей переранжирования. Модель содержит 149 млн параметров, использует PyLate и принимает документы длиной до 8192 токенов и запросы до 256 токенов. Модель предназначена для семантического поиска и извлечения документов, включая поиск по многоязычным коллекциям и запросы на разных европейских языках. Она обучалась на семи языках: немецком, английском, испанском, французском, итальянском, нидерландском и португальском. ColBERT сопоставляет запрос и документ на уровне токенов с помощью MaxSim и формирует многовекторные представления для ранжирования релевантности. В README приведены результаты NanoBEIR Europe и заявлено сохранение сильных результатов английской базовой модели при расширении поддержки европейских языков. Лицензия — Apache 2.0. Показатели в карточке относятся к указанному бенчмарку и сами по себе не гарантируют качество на других коллекциях; для работы требуется совместимый стек PyLate или text-embeddings-inference.

Карточка модели sbcBI/sentiment_analysis на Hugging Face совпадает с карточкой sbcBI/sentiment_analysis_model, поэтому описание составлено по ней. sbcBI/sentiment_analysis_model — модель классификации английских текстов по тональности, созданная дообучением bert-base-uncased. В метаданных архитектура указана как DistilBertForSequenceClassification семейства DistilBERT; доступный формат весов — PyTorch, максимальный контекст — 512 токенов. README описывает обучение на размеченном наборе данных, который обозначен в метаданных как Confidential. Модель предназначена для определения тональности текста и уже настроена на эту задачу; автор README не рекомендует использовать её для дальнейшего дообучения под другие задачи. Подходит для классификации англоязычных отзывов, комментариев и коротких сообщений. Лицензия — Apache-2.0.

Это англоязычная RoBERTa-base для анализа тональности, разработанная Anna Chierici. Модель дообучена на базе cardiffnlp/twitter-roberta-base-sentiment-latest на данных SemEval и твитах, отправленных аккаунту @AmazonHelp, и предназначена для оценки удовлетворённости клиентов и репутации компаний. Модель принимает текст и относит его к одному из трёх классов: отрицательная, нейтральная или положительная тональность. Её можно применять для анализа отзывов и клиентских сообщений, в том числе публикаций в Twitter. Архитектура — RoBERTa для классификации последовательностей, размер — 151,8 млн параметров, контекст — до 514 токенов. Модель работает с английским языком. Лицензия в предоставленных данных не указана. Качество за пределами описанных данных и сценариев не охарактеризовано; обучающие данные включают твиты, связанные с обращениями в поддержку Amazon.

SlimOpenOrca-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и SlimOpenOrca-Mistral-7B от Weyaxi методом slerp. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель построена на архитектуре Mistral с 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате Safetensors; лицензия — Apache 2.0. В карточке не приведены сведения о целевых языках и специализированных предметных областях.

SphinxMind-14B — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES. В качестве базовой указана shuttleai/shuttle-3-mini; также в объединении участвовала EVA-UNIT-01/EVA-Qwen2.5-14B-v0.2. Модель предназначена для генерации текста и диалогового общения. Размер составляет 14 млрд параметров, максимальный контекст — 65 536 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о конкретных языках, лицензии и специальных ограничениях в предоставленных данных отсутствуют.

StarMix-7B-slerp — объединённая диалоговая языковая модель на архитектуре Mistral, созданная Praneeth с помощью mergekit из berkeley-nest/Starling-LM-7B-alpha и mistralai/Mistral-7B-Instruct-v0.2. Веса объединены методом SLERP, с разными параметрами смешивания для слоёв self-attention и MLP. Модель предназначена для генерации текста и диалоговых ответов на инструкции. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории указана лицензия Apache-2.0. Карточка приводит результаты оценивания на бенчмарках, но не описывает языковой охват и специализированные области применения.

T3qm7xNeuralsirkrishna_ShadowExperiment29 — объединённая текстовая модель на архитектуре Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/ShadowExperiment29-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель принимает текст и выдаёт текст. Её можно применять для диалоговых интерфейсов, составления черновиков и продолжения текста. Репозиторий распространяется по лицензии Apache-2.0.

T3qm7xNeuralsirkrishna_YamMulti_verse_model — объединённая текстовая модель на архитектуре Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamMulti_verse_model-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Samuel-Fipps/t5-efficient-large-nl36_fine_tune_sum_V2 — дообученная модель семейства T5, опубликованная Samuel Fipps для суммаризации текста. В карточке указано, что обучение проводилось на обучающей части датасета SAMSum; модель принимает текст и генерирует его краткое изложение. Для запуска используется формат PyTorch и библиотека Transformers. Модель насчитывает 561,4 млн параметров и имеет контекст длиной до 512 токенов. README рекомендует подавать текст без префикса «summarize». Подходит для краткого пересказа диалогов и других текстов на английском языке. Распространяется по лицензии MIT.

marcovise/TextEmbedding3SmallSentimentHead — компактная PyTorch-модель для классификации тональности, созданная разработчиком marcovise. Это MLP-голова с 256 скрытыми узлами и dropout 0,2, обученная поверх эмбеддингов OpenAI text-embedding-3-small размерности 1536. На вход принимает батч float32-векторов эмбеддингов, а на выходе выдаёт оценки для трёх классов: негативная, нейтральная и позитивная тональность. Модель предназначена для быстрой классификации коротких текстов после получения эмбеддингов. В README указаны результаты на отложенной валидационной выборке: macro-F1 около 0,89 и accuracy около 0,89. Для обучения использовалась предобработанная версия Kaggle Sentiment Analysis Dataset; репозиторий содержит веса PyTorch и распространяется по лицензии MIT.

TIES-Merging — объединённая диалоговая модель на базе Mistral-7B-Instruct-v0.2, созданная с помощью LazyMergekit. В слияние вошли Open-Orca/Mistral-7B-OpenOrca, openchat/openchat-3.5-0106 и WizardLM/WizardMath-7B-V1.1; применён метод TIES, итоговый формат весов — safetensors. Модель предназначена для генерации текста и ответов на инструкции в диалоговом режиме. Она может быть полезна для общения, выполнения запросов на естественном языке и решения математических задач. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Лицензия — Apache-2.0.

RinggAI разработала компактную языковую модель для аналитики расшифровок телефонных звонков. Это дообученная на базе unsloth/Qwen2.5-1.5B-Instruct плотная модель Qwen2 с 1,5 млрд параметров и контекстом до 32 768 токенов. Она принимает текстовые транскрипты на английском, хинди и смешанном хинглише, в том числе шумные, и генерирует текстовые результаты: классификации по заданным значениям, сводки разговоров и список действий или последующих шагов. Модель предназначена для автоматизации постзвонковой обработки в системах телефонии и голосового ИИ. В репозитории указана лицензия Apache-2.0. Карточка не приводит численных оценок качества или подробностей о поведении на разных типах шумных транскриптов, поэтому результаты стоит проверять для конкретного сценария.

Trismal-Hermecles-7B-Base-Ties — разговорная языковая модель, созданная объединением unsloth/OpenHermes-2.5-Mistral-7B и unsloth/Hermes-2-Pro-Mistral-7B методом TIES с помощью LazyMergekit. Это плотная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; репозиторий содержит веса в формате safetensors. Указанная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, написания и редактирования текстов, а также для чат-ботов. README не приводит отдельной оценки качества или перечня поддерживаемых языков. Лицензия в предоставленных данных не указана.

Triunvirato-7b — текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением Mistral-7B-v0.1, neuronal-7b-Mlab и Monarch-7B с помощью LazyMergekit. Она предназначена для генерации текста и может применяться в сценариях, где нужен ответ или продолжение текста на основе запроса. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса PyTorch. Условия лицензии в предоставленных данных не описаны.

Trurl 2 7B — дообученная Voicelab.AI версия Llama 2 для диалогов и генерации текста на польском и английском языках. Это авторегрессионная плотная трансформерная модель с 6,6 млрд параметров и контекстом до 4096 токенов; репозиторий содержит веса PyTorch. Модель принимает текст и генерирует текст. Модель предназначена для чат-ассистентов, ответов на вопросы и других задач генерации естественного языка. При использовании диалогового режима требуется формат беседы Llama 2 с соответствующими специальными токенами. Обучение проводилось на польских и английских диалоговых и инструкционных данных, включая наборы вопросов и ответов и разговоры из разных областей. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется тестирование и настройка безопасности под конкретное применение. Авторы заявляют коммерческое и исследовательское использование; конкретная лицензия в предоставленных данных не указана.

Tuldur-8B — объединённая языковая модель, созданная jeiku с помощью mergekit и метода SLERP из allenai/Llama-3.1-Tulu-3-8B и Delta-Vector/Baldur-8B. Модель построена на архитектуре Llama с плотной причинной языковой моделью и содержит около 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы, следования инструкциям и других текстовых задач, поддерживаемых объединёнными моделями. Заявленная длина контекста — 131 072 токена. Веса опубликованы в формате safetensors; для работы указана библиотека Transformers. Лицензия в предоставленных данных не указана.