/ Модель

Характеристики

Контекст
512 токенов
Параметры
24,4 млн
Лицензия
Своя лицензия
Архитектура
fhn_concept_gau · dense
Опубликована
29 сен 2026

BAAR5-9M

Генерация текстаТекст → текст3 профессии

BAAR5-9M — компактная мультиязычная модель генерации текста для диалогов и лёгких локальных RAG-систем на устройствах с ограниченными ресурсами.

282скачиваний за 30 дней1лайквеса обновлены5 окт 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

BAAR5-9M — компактная мультиязычная авторегрессионная модель для генерации текста и диалогов, разработанная автором репозитория aixk. В метаданных указана плотная архитектура семейства FHN с классом FHN_Pure_SingleHead_GAU_9M; число параметров — 24,4 млн, несмотря на обозначение «9M» в названии. Контекст модели составляет 512 токенов.

Модель предназначена для диалогового использования, локального запуска на устройствах с ограниченными ресурсами и создания лёгких систем RAG. Поддерживает 11 языков: корейский, английский, японский, китайский, испанский, португальский, немецкий, русский, хинди, вьетнамский и тайский. Карточка описывает её как базовый предобученный чекпойнт и рекомендует дообучение для специализированных задач и RAG для повышения фактической точности. Лицензия указана как неккоммерческая; для коммерческого использования предлагается связаться с разработчиком.

Сценарии применения

  • локальный чат на маломощном устройстве
  • генерация ответов в мультиязычном диалоговом интерфейсе
  • прототипирование лёгкого чат-бота
  • создание компактного RAG-ассистента с подключённым поиском

Ограничения

Это базовый предобученный чекпойнт; для специализированных задач и более надёжных фактических ответов карточка рекомендует дообучение или RAG. Контекст ограничен 512 токенами, а коммерческое использование требует отдельного согласования лицензии.

Для каких профессий подходит3

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

📌 Model Overview (모델 개요)

BAAR5-9M is an ultra-compact multilingual conversational model designed to enable real-time chat under minimal hardware conditions. With just 9 million (9M) parameters, it brings lightweight, interactive dialogue capabilities across 11 languages to extreme resource-constrained environments, embedded devices, and on-device platforms where standard LLMs cannot operate.

BAAR5-9M은 최소한의 하드웨어 여건과 극단적인 리소스 제약 환경에서도 11개 언어로 실시간 대화(Chat)가 가능하도록 설계된 900만(9M) 파라미터 규모의 초경량 다국어 언어 모델입니다. 일반적인 대형 모델 구동이 불가능한 초저사양 엣지 및 임베디드 기기에서도 즉각적인 대화형 추론과 초경량 실시간 RAG 시스템 구축을 지원합니다.


📊 Live Sample Inference (실시간 추론 벤치마크)

Hardware: Single NVIDIA Tesla T4 | FP16 Inference

Task / CategoryPromptGenerated OutputLatency
한국어 일반 QA대한민국의 수도는 어디인가요?대한민국의 수도는 여러 가지 주요 요소를 말하고~298.8ms
영어 일반 QAWhat is artificial intelligence?It is a complex region of the subject in the~283.0ms
일상어 번역 요청안녕이 영어로 뭐야?안녕은 영어로 Hello 입니다.~215.0ms
일상어 번역 요청 2사과가 영어로 뭐야?사과는 영어로 apple 입니다.~212.2ms
영->한 번역 요청What is 'Seoul' in Korean?A monument in the first time of the park in the U~275.6ms
일본어 일반 QA日本の首都はどこですか?日本の首都は、 日本の首都であり~299.2ms
중국어 일반 QA人工智能的主要特点是什么?人工智能的主要特点是一种公司~285.6ms
스페인어 일반 QA¿Cuál es la capital de España?España de España de España de España de~286.0ms
러시아어 일반 QAКакая столица России?России России — это предлагающий предл~270.6ms
힌디어 일반 QAभारत की राजधानी क्या है?भारत की राजधानी क्या है जिसका उपयोग किया जा सकता~271.1ms

📄 License & Commercial Terms (라이선스 및 상업적 도입 안내)

  • Non-Commercial Use Only (비상업적 연구·개인 이용 한정):
    This model is strictly provided for non-commercial, research, and educational purposes only. Any commercial use without a separate commercial agreement is strictly prohibited.
    본 모델은 순수 연구, 교육 및 개인 비영리 목적에 한해서만 무료로 제공됩니다. 사전 허가 없는 일체의 영리적 이용은 엄격히 금지됩니다.

  • Commercial Licensing & Inquiries for Revenue-Generating Entities (매출 발생 기업 및 상용화 도입 문의):
    If your organization generates revenue, or if you plan to incorporate this model into commercial products, services, or paid APIs, you are required to purchase a commercial license. Please contact us directly via email for enterprise licensing and integration support.
    기업/사업체에 매출이 발생하고 있거나, 본 모델을 상용 서비스·유료 제품·수익 창출 목적의 시스템에 도입하고자 하시는 경우 반드시 별도의 상용 라이선스를 취득하셔야 합니다. 도입 조건 및 기업용 라이선스 발급은 아래 이메일로 문의해 주시기 바랍니다.


⚠️ Notes (안내 사항)

  • Pre-trained Model: This model is a compact base pre-trained checkpoint. For specialized tasks, factual precision, or task completion, task-specific fine-tuning (SFT) or Retrieval-Augmented Generation (RAG) pipelines are recommended.
  • 기초 사전학습 모델: 본 모델은 9M 규모의 베이스 사전학습 체크포인트입니다. 정교한 작업 수행, 사실 관계 검증 및 완성도 높은 대화 생성이 필요한 경우 도메인 파인튜닝(SFT) 또는 검색 증강 생성(RAG) 파이프라인 결합을 권장합니다.

💼 Opportunities & Contact (채용 제안 및 투자 문의)

This project demonstrates practical competency in designing custom micro-scale architectures, end-to-end multi-language pre-training, and ultra-low-latency deployment under extreme compute constraints.

I am actively seeking AI Engineering / Research opportunities, recruitment offers, and technical partnerships.

극단적인 저사양 리소스 환경에서도 즉각 작동하는 고효율 다국어 모델 아키텍처를 설계하고, 데이터 정제부터 학습·서빙까지 전 과정을 직접 구현하는 AI 엔지니어입니다. 기술 도입, 채용 제안 및 협업에 관심 있는 기업과 팀의 문의를 환영합니다.

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм

Нельзя запустить

Архитектура fhn_concept_gau неизвестна transformers в образе рантайма.

Класс архитектуры
FHN_Pure_SingleHead_GAU_9M
Ревизия весов
516a85e

0 моделей