/ Модель

Характеристики

Контекст
128 000 токенов
Параметры
221 млн
Размер весов
237 МБ
Лицензия
Своя лицензия
Архитектура
lfm2 · dense
Базовая модель
LFM2.5-230M
Библиотека
mlx
Опубликована
25 июн 2026

LFM2.5-230M-MXFP8

Генерация текстаТекст → текст6 профессий

Компактная квантизированная текстовая модель LFM2.5 от OsaurusAI для локальной генерации текста и диалогов на Apple Silicon.

79скачиваний за 30 дней2лайкавеса обновлены13 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

OsaurusAI/LFM2.5-230M-MXFP8 — компактная текстовая модель генерации от OsaurusAI, созданная на основе LiquidAI/LFM2.5-230M. Это гибридная плотная архитектура LFM2: 14 слоёв чередуют короткие свёрточные LIV-блоки и полное внимание; модель содержит 221,2 млн параметров и рассчитана на контекст до 128 000 токенов. Веса линейных слоёв представлены в формате MXFP8 с группой 32, а свёрточные ядра и нормализация сохранены в fp16. Сборка объёмом около 231 МБ предназначена для локального запуска на Apple Silicon через MLX и mlx_lm; заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Подходит для генерации текста и диалоговых сценариев, включая локальные агентные циклы.

README указывает, что после квантизации проверялась связная генерация, а формат FP8 описан как почти без потерь. Это компактная модель с ограниченной ёмкостью по сравнению с крупными языковыми моделями; подтверждений поддержки изображений, аудио или других входных модальностей нет. Репозиторий распространяется по лицензии LFM Open License v1.0; базовая модель создана Liquid AI, а квантизированную сборку подготовила OsaurusAI.

Сценарии применения

  • локальная генерация ответов на текстовые запросы
  • диалоговый помощник на устройстве
  • лёгкие агентные сценарии с вызовом инструментов
  • генерация текста на английском, арабском и поддерживаемых азиатских и европейских языках

Ограничения

Модель компактная, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями. Сборка ориентирована на Apple Silicon и MLX; README не заявляет мультимодальный ввод.

Для каких профессий подходит6

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Osaurus

LFM2.5-230M · MXFP8

Official OsaurusAI MXFP8 build of LiquidAI/LFM2.5-230M (LFM Open License v1.0) — Liquid AI's 230M tiny hybrid model. Near-lossless 8-bit microscaled FP; runs on Apple Silicon via Osaurus / mlx_lm.

  • ~231 MB bundle (down from ~459 MB bf16) — small enough for the most constrained on-device use.
  • MXFP8: microscaled FP8 (group-size 32) on the linear weights; short-conv kernels and norms kept fp16.
  • Text-only, multilingual (en, ar, zh, fr, de, ja, ko, es).

Architecture

Familylfm2 (hybrid)
Layers14 — 8 short-conv (LIV) + 6 full-attention
Hidden1024 · vocab 65536 · tied embeddings
Cachehybrid (conv state + KV for attention layers)
ToolsLiquid Python-call format (lfm2 tool parser)

The short-conv (LIV) layers (conv.conv kernel + conv.in_proj/conv.out_proj) interleave with full-attention layers — verified coherent generation in mlx_lm after quantization.

Usage

python -m mlx_lm generate --model OsaurusAI/LFM2.5-230M-MXFP8 --prompt "What is the capital of France?"

Or load in Osaurus for a local, no-setup agent loop.

Provenance

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

Универсальный рантайм · mlx

Нельзя запустить

MLX-модели работают только на Apple Silicon.

Класс архитектуры
Lfm2ForCausalLM
Ревизия весов
7404d73

0 моделей