/ Модель

Характеристики

Контекст
131 072 токена
Параметры
3,2 млрд
Размер весов
6,4 ГБ
Лицензия
Apache 2.0
Архитектура
llama · dense
Базовая модель
Loxa-3B
Библиотека
transformers
Опубликована
10 янв 2025

Loxa-3B

Генерация текстаТекст → текст11 профессий

Компактная языковая модель Loxa-3B для диалогов, математики и программирования на CPU, в том числе на Raspberry Pi.

32скачиваний за 30 дней2лайкавеса обновлены25 янв 2025

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Тесты пользователейпока нет

Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.

  1. Добавьте модель в бенчмарк

    Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.

  2. Опишите свои задачи

    Напишите запросы, при необходимости приложите файлы и эталонные ответы.

  3. Запустите и опубликуйте

    Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Loxa-3B — языковая модель семейства Loxa от AIFRAME, созданная для генерации текста на маломощных CPU, включая Raspberry Pi 4 и 5 с объёмом памяти от 8 ГБ. Это плотная причинная модель архитектуры LlamaForCausalLM размером 3,2 млрд параметров с контекстом до 131 072 токенов; для работы используется библиотека Transformers и формат PyTorch. Модель предназначена для диалога и помощи в математике, программировании, науке и формальных беседах, а также для образовательных и персональных проектов и встраиваемых систем.

Карточка заявляет общую точность 92%, но не приводит методику или набор оценки. Модель может выдавать ошибочные или бессвязные ответы, а качество зависит от сложности и длины запроса; её не следует без проверки использовать в критически важных задачах. Лицензия — Apache-2.0.

Сценарии применения

  • решение и объяснение математических задач
  • генерация и отладка кода
  • ответы на вопросы в диалоге
  • объяснение научных тем
  • развёртывание языковой модели на Raspberry Pi
  • создание учебных и персональных проектов

Ограничения

Модель может выдавать ошибочные или бессвязные ответы; качество зависит от сложности и длины запроса. Заявленные 92% точности не сопровождаются описанием методики оценки.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Model Card for Loxa

Model Name: Loxa-3B

Model Family: Loxa

Creator: AIFRAME

Description: Loxa-3B is a powerful language model designed for optimal performance on CPU resources, particularly Raspberry Pi 4 and 5 (8GB+ RAM). It excels in math, code, chat, help, science, and formal conversations, achieving 92% total accuracy.

Capabilities:

  • Mathematics: Solves problems, performs calculations, explains concepts.
  • Code: Generates code, understands/debugs existing code, provides explanations.
  • Chat: Engages in conversations, provides informative and helpful responses.
  • Help: Offers guidance and clear explanations across various topics.
  • Science: Discusses scientific topics, explains phenomena, provides insights.
  • Formal Conversations: Maintains formal etiquette and respectful language.

Performance:

  • Accuracy: 92% total accuracy.
  • Resource Usage: Optimized for Raspberry Pi 4/5 (8GB+ RAM). Consult documentation for detailed metrics.

Intended Use: Educational purposes, personal projects, embedded systems, resource-constrained environments.

Limitations:

May produce incorrect or nonsensical outputs. Exercise caution for critical tasks. Performance may be affected by input complexity/length. See documentation for details on limitations and biases.

How to Use: See accompanying documentation for installation and usage instructions.

Code Example:

# Use a pipeline as a high-level helper
from transformers import pipeline

messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe = pipeline("text-generation", model="explorewithai/Loxa-3B") # Using 'explorewithai' as a placeholder organization
result = pipe(messages)
print(result)

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · transformers

Можно запустить

Подбираем GPU…

Класс архитектуры
LlamaForCausalLM
Ревизия весов
2b058b1

0 моделей