LFM2.5-1.2B-JP-202606-GGUF — языковая модель для генерации текста, разработанная Liquid AI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Это GGUF-версия базовой модели LiquidAI/LFM2.5-1.2B-JP-202606, предназначенная для запуска на периферийных устройствах и локального развертывания непосредственно на устройстве.
Модель относится к семейству гибридных LFM2 и ориентирована на сочетание качества, высокой скорости работы и экономичного использования памяти. Заявленный размер составляет 1,2 млрд параметров. Поддерживаются английский и японский языки, а основная задача модели — text generation. Формат GGUF и совместимость с llama.cpp упрощают локальный запуск, в том числе в средах с ограниченными вычислительными ресурсами.
README не содержит сведений о длине контекста, конкретной архитектуре гибридных компонентов, вариантах квантования, результатах бенчмарков или ограничениях качества. Условия использования определяются лицензией lfm1.0; в карточке указана лицензия other и ссылка на файл LICENSE.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
LFM2 is a new generation of hybrid models developed by Liquid AI, specifically designed for edge AI and on-device deployment. It sets a new standard in terms of quality, speed, and memory efficiency.
Find more details in the original model card: https://huggingface.co/LiquidAI/LFM2.5-1.2B-JP-202606
Example usage with llama.cpp:
llama-cli -hf LiquidAI/LFM2.5-1.2B-JP-202606-GGUF
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.