/ Модель

Характеристики

Лицензия
Своя лицензия
Базовая модель
LFM2-24B-A2B
Библиотека
transformers
Опубликована
17 фев 2026

LFM2-24B-A2B-GGUF

Генерация текстаТекст → текст11 профессий

LFM2-24B-A2B-GGUF — языковая модель семейства LFM2, разработанная Liquid AI для эффективного развертывания на периферийных устройствах и пользовательских компьютерах.

19 085скачиваний за 30 дней161лайквеса обновлены24 авг 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на ноутбуках и настольных компьютерах; доступна в формате GGUF с поддержкой llama.cpp, а также заявленной совместимостью с vLLM и SGLang.

Модель использует гибридную архитектуру Mixture-of-Experts с 24 миллиардами общих параметров, из которых около 2 миллиардов активируются для каждого токена. По данным разработчика, она рассчитана на работу в пределах 32 ГБ оперативной памяти и обеспечивает высокую скорость инференса на совместимом оборудовании. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Размер контекста, конкретный вариант квантования и подробные результаты оценки в README не указаны.

Сильными сторонами модели являются сочетание крупного общего числа параметров с низкими вычислительными затратами на токен, ориентация на локальное выполнение и высокая заявленная скорость генерации. Ограничения включают отсутствие в предоставленных данных подробностей о качестве по отдельным задачам, требованиях к точному объёму памяти для разных вариантов GGUF и поддерживаемом размере контекста. Модель распространяется по лицензии lfm1.0; условия лицензии следует уточнять в файле LICENSE.

Для каких профессий подходит11

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

LFM2-24B-A2B-GGUF

LFM2 is a family of hybrid models designed for on-device deployment. LFM2-24B-A2B is the largest model in the family, scaling the architecture to 24 billion parameters while keeping inference efficient.

  • Best-in-class efficiency: A 24B MoE model with only 2B active parameters per token, fitting in 32 GB of RAM for deployment on consumer laptops and desktops.
  • Fast edge inference: 112 tok/s decode on AMD CPU, 293 tok/s on H100. Fits in 32B GB of RAM with day-one support llama.cpp, vLLM, and SGLang.
  • Predictable scaling: Quality improves log-linearly from 350M to 24B total parameters, confirming the LFM2 hybrid architecture scales reliably across nearly two orders of magnitude.

image

Find more information about LFM2-24B-A2B in our blog post.

How to run LFM2

Example usage with llama.cpp:

llama-cli -hf LiquidAI/LFM2-24B-A2B-GGUF --conversation \
    --temp 0.1 --top-k 50 --repeat-penalty 1.05

📬 Contact

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
6247d03

0 моделей