Характеристики

Контекст: 32 768 токенов
Параметры: 7,1 млрд
Размер весов: 14,5 ГБ
Лицензия: Apache 2.0
Архитектура: mistral · dense
Базовая модель: Mistral-7B-Instruct-v0.2
Опубликована: 2 окт 2026

Ссылки

Khushi-Business-AI-4bit

Генерация текстаТекст → текст

Дообученная на базе Mistral-7B-Instruct-v0.2 диалоговая модель для деловых разговоров на хинди и английском, включая поддержку клиентов, продажи и обработку лидов.

382скачиваний за 30 дней1лайквеса обновлены4 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

Добавьте модель в бенчмарк
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Опишите свои задачи
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Запустите и опубликуйте
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Открыть конструктор бенчмарка

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Khushi-Business-AI-4bit — диалоговая языковая модель на 7,1 млрд параметров, созданная Картеком Шармой (UX4567) на базе Mistral-7B-Instruct-v0.2. Это дообученная бизнес-ориентированная модель с 4-битным вариантом; в репозитории доступны веса safetensors и GGUF Q4_K_M. Для запуска указана поддержка Unsloth, а README заявляет работу при объёме видеопамяти от 6 ГБ.

Модель предназначена для деловых диалогов на хинди и английском, включая поддержку клиентов, продажи и обработку потенциальных клиентов. Заявленная длина контекста — до 32 768 токенов; в примере загрузки README задаёт max_seq_length 2048. Лицензия репозитория — Apache-2.0. Карточка не приводит результаты сравнительных оценок качества.

Сценарии применения

ответы службы поддержки на хинди и английском
диалоги с потенциальными клиентами
помощь в переписке отдела продаж
автоматизация типовых деловых разговоров

Ограничения

README заявляет запуск при видеопамяти от 6 ГБ, но этот показатель зависит от конфигурации и длины контекста; пример загрузки ограничивает последовательность 2048 токенами. В карточке нет сравнительных оценок качества.

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Khushi-Business-AI-4bit (7B)

A 4-bit quantized, business-focused conversational AI built on Mistral 7B using Unsloth. Optimized for low VRAM (runs on 6GB+ VRAM) and for Indian business use-cases.

Built with ❤️ by Kartik Sharma | UX4567 17+ models | 1200+ downloads | Low-VRAM Specialist

Why this model?

Made with Unsloth: 2x faster fine-tuning & quantization
7B params in 4-bit (BF16 base): ~4GB RAM me chal jayega
Business Tuned: Customer support, sales chat, lead handling
Bilingual: Hindi + English (Hinglish) samajhta hai
Two formats: safetensors + GGUF for Ollama / LM Studio

How to use (Transformers + Unsloth)

from unsloth import FastLanguageModel

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name = "UX4567/Khushi-Business-AI-4bit",
    max_seq_length = 2048,
    load_in_4bit = True,
)

prompt = "Ek customer bol raha hai: Mujhe refund chahiye, kya reply du?"
inputs = tokenizer([prompt], return_tensors = "pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens = 200)
print(tokenizer.batch_decode(outputs)[0])

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

vLLM

Можно запустить

Подбираем GPU…

Класс архитектуры: MistralForCausalLM
Ревизия весов: 6f23d28