'Make knowledge free for everyone'
Quantized version of: inclusionAI/Ling-1T
DevQuasar/inclusionAI.Ling-1T-GGUF — квантованная версия модели inclusionAI/Ling-1T, опубликованная в формате GGUF.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Разработчиком исходной модели указана организация inclusionAI, а данная версия подготовлена в рамках проекта DevQuasar.
Модель предназначена для генерации текста и может использоваться в сценариях, где требуется локальный или более ресурсоэффективный запуск языковой модели. Квантование обычно снижает требования к памяти по сравнению с исходной версией, однако README не содержит сведений о конкретном методе квантования, поддерживаемых языках, размере контекста, архитектуре, фактическом размере модели, модальностях, производительности и ограничениях качества. Лицензия в предоставленных данных не указана.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
'Make knowledge free for everyone'
Quantized version of: inclusionAI/Ling-1T
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.