Квантованная в GGUF модель Tema_Q-X4-Thinking для генерации текста и диалогового использования.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
TaQuants — версия модели Tema_Q-X4-Thinking в формате GGUF, созданная командой zenei из команды разработки Tema_Q с применением метода квантования TaQuants v2.8 (Tensor-aware Adaptive Quantization). Репозиторий содержит варианты IQ2_M, TaIQ2_M и IQ3_S; в README приведены их размеры и результаты по показателю Knowledge score.
Модель предназначена для генерации текста в диалоговом режиме и сценариев, где требуется модель Tema_Q-X4-Thinking с уменьшенным размером весов. README сообщает о результатах Knowledge score от 41,10 до 50,14 для перечисленных вариантов, но не описывает методику оценки. Доступна через GGUF-совместимые средства запуска. Сведения о лицензии, языках и длине контекста в предоставленных данных отсутствуют.
README не раскрывает методику расчёта Knowledge score и не приводит оценок качества для конкретных пользовательских задач. В предоставленных данных нет сведений о лицензии, поддерживаемых языках и длине контекста.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
The Repository
Technical Report
The Tema_Q development team, team zenei, has developed a new importance matrix method called TaQuants (Tensor-aware Adaptive Quantization).
This model is a TaQuants version of temaq-org/Tema_Q-X4-Thinking created with TaQuants v2.8.
The model size and performance are as follows:
| Size (GB) | Knowledge score | |
|---|---|---|
| IQ2_M | 10.40 | 41.10 |
| TaIQ2_M | 11.10 | 45.62 |
| IQ3_S | 12.20 | 50.14 |
| TaIQ3_S | 12.60 | 50.23 |
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…