/ Модель

Характеристики

Лицензия
Apache 2.0
Базовая модель
Turkish-LLM-32B-Instruct
Опубликована
21 мар 2026

Turkish-LLM-32B-Instruct-GGUF

Генерация текстаТекст → текст9 профессий

Turkish-LLM-32B-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели Turkish-LLM-32B-Instruct, разработанной ogulcanaydogan.

2 604скачиваний за 30 дней0лайковвеса обновлены21 мар 2026

Бенчмарки

Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды

Публичные оценки

Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.

В подключённых источниках результатов для этой модели пока нет.

Что умеет модель

Описание составлено по карточке модели и метаданным Hugging Face

Модель предназначена для генерации текста и работы с инструкциями, прежде всего на турецком и английском языках. Она подходит для локального запуска через Ollama и llama.cpp, включая задачи диалога, ответов на вопросы и создания текстов.

Модель имеет размер 32B параметров; в метаданных также указана архитектура Qwen2. Доступны варианты Q4_K_M размером 19 ГБ, Q5_K_M размером 22 ГБ, Q8_0 размером 33 ГБ и F16 размером 62 ГБ. Q4_K_M обозначен как рекомендуемый баланс качества и размера, Q5_K_M предлагает более высокое качество при большем размере, Q8_0 близок к исходному качеству и требует более 40 ГБ VRAM, а F16 предназначен преимущественно для исследовательского использования. Размер контекстного окна и поддержка дополнительных модальностей не указаны; по назначению это текстовая модель.

Сильной стороной модели является специализация на турецком языке при сохранении поддержки английского, а также возможность выбора между несколькими уровнями квантизации для разных аппаратных ресурсов. В приведённых тестах она немного превосходит базовую модель в MMLU-TR и XNLI-TR, но уступает ей в XCOPA-TR, поэтому результаты зависят от типа задачи. Модель распространяется по лицензии Apache-2.0.

Для каких профессий подходит9

Разделы каталога профессий, в задачах которых используется эта модель

Все профессии

Также подходит для

Карточка модели

README от автора на Hugging Face, как он его опубликовал

Открыть на Hugging Face

Turkish-LLM-32B-Instruct-GGUF

GGUF quantizations of Turkish-LLM-32B-Instruct.

Part of the Turkish LLM Family.

Available Quantizations

FileSizeUse Case
Q4_K_M19GBBest balance of quality and size. Recommended for most users.
Q5_K_M22GBHigher quality, slightly larger.
Q8_033GBNear-original quality. Requires 40GB+ VRAM.
F1662GBFull precision. Research use.

Usage with Ollama

# Download and run
ollama run hf.co/ogulcanaydogan/Turkish-LLM-32B-Instruct-GGUF:Q4_K_M

Usage with llama.cpp

./llama-cli -m Turkish-LLM-32B-Instruct-Q4_K_M.gguf -p "Turkiye'nin ekonomik durumu hakkinda bilgi ver." -n 256

Benchmark Results

BenchmarkBase ModelTurkish-LLM-32BDelta
MMLU-TR0.65180.6564+0.46
XNLI-TR0.45780.4610+0.32
XCOPA-TR0.68000.6740-0.60

Как запустить

На своей GPU в ailist. Цена — по текущим предложениям провайдеров

GPU в ailist

llama.cpp

Нельзя запустить

GGUF-модель ждёт проверки: нужно выбрать файл кванта под доступные GPU.

Ревизия весов
0a78612

0 моделей