LFM2.5-8B-A1B-GGUF — это GGUF-версия гибридной языковой модели семейства LFM2, разработанной компанией Liquid AI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации текста и ориентирована прежде всего на edge-сценарии и локальное выполнение на устройствах.
В карточке указана базовая модель LiquidAI/LFM2.5-8B-A1B. Доступны языки английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Формат GGUF обеспечивает совместимость с llama.cpp и подходит для запуска на устройствах с ограниченными ресурсами; заявлены высокая скорость и эффективность использования памяти. Точные сведения об архитектуре, контекстном окне, модальностях и фактическом количестве параметров в README не приведены.
Модель может использоваться для локальной генерации текста и диалоговых приложений без обязательной передачи данных во внешние сервисы. Ограничения включают отсутствие подробных данных о качестве, производительности и поддерживаемых аппаратных конфигурациях в представленной карточке. Модель распространяется по лицензии lfm1.0; в README также указано обозначение лицензии «other».
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
LFM2 is a new generation of hybrid models developed by Liquid AI, specifically designed for edge AI and on-device deployment. It sets a new standard in terms of quality, speed, and memory efficiency.
Find more details in the original model card: https://huggingface.co/LiquidAI/LFM2.5-8B-A1B
Example usage with llama.cpp:
llama-cli -hf LiquidAI/LFM2.5-8B-A1B-GGUF --conversation \
--temp 0.2 --top-k 80 --repeat-penalty 1.05
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.