LFM2-1.2B-GGUF — языковая модель поколения LFM2, разработанная компанией Liquid AI. Это GGUF-версия базовой модели LiquidAI/LFM2-1.2B, предназначенная для генерации текста и запуска в средах, совместимых с llama.cpp.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель ориентирована на edge AI и локальное развёртывание на устройствах с ограниченными ресурсами. Liquid AI позиционирует её как гибридную модель, сочетающую качество, высокую скорость работы и эффективность использования памяти. Указанный размер — 1,2 млрд параметров. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Модальность — текстовая; сведения о размере контекстного окна в карточке не приведены.
К сильным сторонам относятся адаптация к on-device-сценариям, низкие требования к памяти и возможность запуска через llama.cpp. Ограничения включают отсутствие в карточке подробных данных о конкретной архитектуре, контекстном окне, качестве на отдельных задачах и вариантах квантования. Модель распространяется по лицензии lfm1.0; дополнительные условия следует уточнять в файле LICENSE.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
LFM2 is a new generation of hybrid models developed by Liquid AI, specifically designed for edge AI and on-device deployment. It sets a new standard in terms of quality, speed, and memory efficiency.
Find more details in the original model card: https://huggingface.co/LiquidAI/LFM2-1.2B
Example usage with llama.cpp:
llama-cli -hf LiquidAI/LFM2-1.2B-GGUF
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.