'Make knowledge free for everyone'
Quantized version of: thinkingmachines/Inkling-Small
DevQuasar/thinkingmachines.Inkling-Small-GGUF — это квантизированная версия модели thinkingmachines/Inkling-Small, подготовленная для распространения в формате GGUF.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
В карточке указано, что модель относится к классу image-text-to-text и предназначена для задач, в которых система обрабатывает изображения и текст и формирует текстовый ответ.
Из доступных данных нельзя определить архитектуру, размер модели, поддерживаемые языки, максимальную длину контекста, конкретные сценарии применения, преимущества и ограничения квантизации. Лицензия в README не указана, поэтому условия использования по представленным материалам установить нельзя.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
'Make knowledge free for everyone'
Quantized version of: thinkingmachines/Inkling-Small
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
Универсальный рантайм
GGUF-веса поддерживаются только для текстовых LLM (llama.cpp).