Sugoi LLM 32B Ultra (GGUF version)
Unleashing the full potential of the previous sugoi 32B model, Sugoi 32B Ultra. Benchmark soon.
Sugoi-32B-Ultra-GGUF — квантизированная GGUF-версия языковой модели Sugoi LLM 32B Ultra, разработанная на базе Qwen/Qwen2.5-32B-Instruct.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
Модель ориентирована прежде всего на задачи перевода и работу с японским и английским языками.
Из доступных данных известно, что модель относится к классу instruction-tuned LLM с размером около 32 млрд параметров и распространяется в формате GGUF, предназначенном для локального запуска совместимыми инструментами. Заявлено развитие предыдущей модели Sugoi 32B, однако подробные характеристики архитектуры, поддерживаемый контекст, конкретные варианты квантизации, результаты тестирования и практические ограничения не указаны. Лицензия — Apache 2.0.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
Unleashing the full potential of the previous sugoi 32B model, Sugoi 32B Ultra. Benchmark soon.
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.