LiquidAI/LFM2.5-1.2B-JP-GGUF — GGUF-версия языковой модели LFM2.5-1.2B-JP, разработанной Liquid AI.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель предназначена для генерации и автодополнения текста, прежде всего на японском языке, и ориентирована на запуск в средах с ограниченными ресурсами, включая сценарии на периферийных устройствах. Для работы поддерживается llama.cpp.
Модель построена на гибридной архитектуре LFM2.5 и содержит около 1,2 млрд параметров. В карточке указаны японский и английский языки, модальность — текстовая. Размер контекста и дополнительные характеристики производительности не указаны. Сильными сторонами являются компактный размер, поддержка формата GGUF и ориентация на японскую генерацию текста; ограничения включают меньшую мощность по сравнению с более крупными моделями и отсутствие подробных данных о контекстном окне и результатах тестирования. Лицензия указана как lfm1.0 с типом other.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
LFM2.5-JP is a Japanese language model based on the LFM2.5 hybrid architecture, optimized for Japanese text generation and completion tasks.
Find more details in the original model card: https://huggingface.co/LiquidAI/LFM2.5-1.2B-JP
Example usage with llama.cpp:
llama-cli -hf LiquidAI/LFM2.5-1.2B-JP-GGUF --repeat_penalty 1.05
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.