LFM2-2.6B-Exp-GGUF — языковая модель для генерации текста, разработанная компанией Liquid AI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-версия модели LFM2-2.6B-Exp, предназначенная прежде всего для edge AI и локального запуска непосредственно на устройствах. Модель ориентирована на сценарии, где важны скорость работы, качество ответов и экономное использование памяти.
Модель относится к гибридному семейству LFM2 и поддерживает text-generation. Доступны языки английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Размер модели — 2,6 млрд параметров. Формат GGUF совместим с llama.cpp и подходит для локального развертывания, включая устройства с ограниченными вычислительными и memory-ресурсами. Архитектурные детали и размер контекста в представленном README не указаны.
К сильным сторонам модели относятся ориентация на периферийные устройства, высокая скорость и эффективность использования памяти. Ограничения, результаты тестов и сравнительные показатели в README не приведены, поэтому качество на конкретных задачах оценить невозможно. Модель распространяется по лицензии lfm1.0; подробные условия следует уточнять в файле LICENSE.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
LFM2 is a new generation of hybrid models developed by Liquid AI, specifically designed for edge AI and on-device deployment. It sets a new standard in terms of quality, speed, and memory efficiency.
Find more details in the original model card: https://huggingface.co/LiquidAI/LFM2-2.6B-Exp
Example usage with llama.cpp:
llama-cli -hf LiquidAI/LFM2-2.6B-Exp-GGUF
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.