/ Модель

Характеристики

Контекст
32 768 токенов
Параметры
7,1 млрд
Размер весов
14,5 ГБ
Лицензия
Apache 2.0
Архитектура
mistral · dense
Библиотека
transformers
Опубликована
7 дек 2023

radiantloom-support-assist-7b

Генерация текстаТекст → текст3 профессии

Дообученная на данных поддержки модель Radiantloom AI для англоязычных чат-ботов и диалогов клиентской поддержки.

28скачиваний за 30 дней7лайковвеса обновлены19 янв 2024

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Radiantloom Support Assist 7B — языковая модель Radiantloom AI для автоматизации клиентской поддержки. Это дообученная на 3 000 специально подготовленных примерах версия Zephyr-7B-Beta с архитектурой Mistral и 7,1 млрд параметров. Модель принимает текст и генерирует текст; в метаданных указан контекст до 32 768 токенов. README приводит длину контекста 4 096 токенов, поэтому фактический предел может зависеть от конфигурации модели.

Модель предназначена для чат-ботов центров поддержки и диалогов в сценариях RAG, в том числе для B2B SaaS, электронной коммерции и корпоративных или персональных сайтов. Карточка указывает английский язык. Модель поставляется в формате safetensors и распространяется по лицензии Apache-2.0.

Разработчик отмечает, что модель уступает более современным и крупнее предобученным моделям в общих задачах. Она может выдавать фактически неверные, предвзятые, непристойные или оскорбительные ответы, поэтому перед запуском требуется оценка качества и безопасности.

Сценарии применения

  • ответы на вопросы клиентов в чат-боте центра поддержки
  • автоматизация диалогов службы поддержки B2B SaaS
  • консультации покупателей на сайте электронной коммерции
  • ответы по базе знаний с использованием RAG
  • чат-поддержка на корпоративном или персональном сайте

Ограничения

Модель может ошибаться фактически, а также выдавать предвзятые, непристойные или оскорбительные ответы; перед развёртыванием следует проверить качество и безопасность. Она не предназначена для конкурентной работы в широком спектре общих задач по сравнению с более современными или крупнее предобученными моделями; README указывает контекст 4 096 токенов, тогда как метаданные — 32 768 токенов.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Radiantloom Support Assist 7B

Radiantloom Support Assist 7B is a support-assistant large language model fine-tuned from Zephyr-7B-Beta, over a custom-curated dataset of 3,000 support-assistant examples prepared by Radiantloom AI. The context lenght for the model is 4096 and it is licensed for commercial use.

Intended Uses & Limitations

The radiantloom-support-assist-7b is meticulously fine-tuned to deliver optimal performance as a support assistant in customer-facing applications, specifically designed for use in help center chatbots. Its versatile functionality extends to various applications that require support conversation and retrieval augmented generation (RAG). This includes, but is not limited to, the development of AI bots tailored for B2B SaaS companies, e-commerce websites, corporate websites, and personal websites.

It is not a state-of-the-art generative language model and is not designed to perform competitively on general tasks with more modern model architectures or models subject to larger pretraining corpuses.

Prompt Template

<|im_start|>system
You are a helpful assistant.<|im_end|>
<|im_start|>user
{user_message}<|im_end|>
<|im_start|>assistant

Model Usage

We encourage you to try out this model using Google Colab. Open In Colab

Here are a few example use cases. if we query the model with

<|im_start|>system
You work as a support assistant for AI Geek Labs, an AI research and development lab, handling inquiries and providing assistance through their website.

Use the following pieces of context to answer the user's questions. If you don't know the answer, don't make up an answer, just say you don't know.

<context>
Get AI-powered, Startup-fast: Build & Tune Your LLM MVPs with AI Geek Labs
Invent the future of your business with our cutting-edge AI research, development, and fine-tuning services. We're your AI playground.
Stop waiting, build! We turn your AI vision into reality, fast. From email assistants to code generation, we build MVPs with the latest AI frameworks \
like Langchain and OpenAI, helping small businesses and startups jumpstart their AI journey.
MVP: Turn your AI dream into a working prototype, lightning-fast. We design, develop, and deploy AI-powered MVPs using cutting-edge frameworks \
like Langchain, HuggingFace, and Llama-Index.
LLM Fine-tuning: Tap into the true potential of LLMs for your specific needs. We fine-tune models for email assistants, customer support chatbots, \
code generation, text-to-SQL, and more.
Open Source Radiance: We're passionate about sharing! Explore our Radiantloom series, featuring open-source LLM models fine-tuned by our experts, \
ready for you to build upon.
<context/><|im_end|>
<|im_start|>user
Question: What is AI Geek Labs?<|im_end|>
<|im_start|>assistant

the model will return

AI Geek Labs is a research and development laboratory focused on AI technology. They offer a range of services including building and tuning machine learning models, developing AI-powered applications, and providing open source resources. Their goal is to help clients achieve their AI goals quickly and efficiently, using the latest technologies and frameworks. Whether it's building a startup or improving existing systems, AI Geek Labs aims to provide innovative solutions tailored to their clients' needs. Their team is dedicated to staying at the forefront of AI technology and sharing their knowledge through open source resources and collaborations.

and if we query the model with

<|im_start|>system
You work as a support assistant for AI Geek Labs, an AI research and development lab, handling inquiries and providing assistance through their website.

Use the following pieces of context to answer the user's questions. If you don't know the answer, don't make up a answer, just say you don't know.

<context>
Get AI-powered, Startup-fast: Build & Tune Your LLM MVPs with AI Geek Labs
Invent the future of your business with our cutting-edge AI research, development, and fine-tuning services. We're your AI playground.
Stop waiting, build! We turn your AI vision into reality, fast. From email assistants to code generation, we build MVPs with the latest AI frameworks \
like Langchain and OpenAI, helping small businesses and startups jumpstart their AI journey.
MVP: Turn your AI dream into a working prototype, lightning-fast. We design, develop, and deploy AI-powered MVPs using cutting-edge frameworks \
like Langchain, HuggingFace, and Llama-Index.
LLM Fine-tuning: Tap into the true potential of LLMs for your specific needs. We fine-tune models for email assistants, customer support chatbots, \
code generation, text-to-SQL, and more.
Open Source Radiance: We're passionate about sharing! Explore our Radiantloom series, featuring open-source LLM models fine-tuned by our experts, \
ready for you to build upon.
<context/><|im_end|>
<|im_start|>user
Question: Which AI frameworks does AI Geek Labs use to build MVPs for clients?<|im_end|>
<|im_start|>assistant

the model will return

AI Geek Labs uses the latest AI frameworks such as Langchain, OpenAI, and Llama-Index to build MVPs for clients. These frameworks are designed to provide a comprehensive set of tools for developing and testing AI applications, making them ideal for building prototypical models quickly and efficiently. Additionally, these frameworks offer a wide range of features, including natural language processing, machine learning, and computer vision, which can be leveraged to create innovative and impactful solutions. If you have any specific questions about how these frameworks can benefit your project, feel free to ask!

Evaluations

We are encouraged by the initial assessments conducted using the LLM-as-a-Judge method, particularly with the utilization of GPT-4. Our ongoing efforts involve a more comprehensive evaluation of the model. As we progress, we will continue to provide updates on our findings and share the results on this platform.

Ethical Considerations and Limitations

radiantloom-support-assist-7b can produce factually incorrect output, and should not be relied on to produce factually accurate information. Because of the limitations of the pretrained model and the finetuning datasets, it is possible that this model could generate lewd, biased or otherwise offensive outputs. Therefore, before deploying any applications of radiantloom-support-assist-7b, developers should perform safety testing.

About Radiantloom AI

Radiantloom AI trains open-source large language models tailored for specific business tasks such as email assistance, customer support, and database operations.

Learn more about Radiantloom by visiting our website. Follow us on Twitter at Radiantloom to gain early access to upcoming Radiantloom AI large language models.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
MistralForCausalLM
Ревизия весов
a8494fe

0 моделей