Англоязычная GGUF-модель генерации текста на базе GLM-4.5-Air-Base, подготовленная для распределённого обслуживания через mesh-llm.
Как модель справилась с задачами пользователей ailist и что о ней публикуют открытые лидерборды
Никто ещё не опубликовал тест этой модели. Соберите бенчмарк из своих задач — результат появится здесь.
Вместе с другими моделями категории «Текст» — сравнение идёт внутри одной категории.
Напишите запросы, при необходимости приложите файлы и эталонные ответы.
Модели ответят на каждую задачу, судья оценит ответы. Опубликованный результат появится на этой странице.
Из открытых лидербордов. Сравнивайте результаты одного теста при одинаковых условиях — отсутствие оценки не значит, что модель хуже.
В подключённых источниках результатов для этой модели пока нет.
Описание составлено по карточке модели и метаданным Hugging Face
INTELLECT-3-Q4_K_M-layers — англоязычная модель генерации текста, основанная на zai-org/GLM-4.5-Air-Base и представленная в формате GGUF. Репозиторий содержит разделённые по слоям файлы для распределённого обслуживания через mesh-llm; модель также поддерживает диалоговый режим и запускается с библиотекой llama.cpp.
Модель предназначена для генерации текста и диалоговых сценариев при распределённом обслуживании. В метаданных указана связь с базовой моделью как finetune, однако README описывает прежде всего формат и способ развёртывания, не уточняя характер дообучения. Репозиторий лицензирован по MIT.
В карточке не приведены сведения о размере модели, длине контекста или оценках качества.
Разделы каталога профессий, в задачах которых используется эта модель
README от автора на Hugging Face, как он его опубликовал
[!IMPORTANT] Original Model Link : bartowski/PrimeIntellect_INTELLECT-3-GGUF
name: INTELLECT-3-Q4_K_M-layers
description: >
split-layer format for distributed serving via mesh-llm
base_model: zai-org/GLM-4.5-Air-Base
license: mit
library_name: llama.cpp
pipeline_tag: text-generation
tasks: text-generation
tags:
- mesh-llm
- llama.cpp
- PRIME
- distributed
- INTELLECT-3
language: en
get-started-code: mesh-llm serve --model "exdysa/INTELLECT-3-Q4_K_M-layers" --split
На своей GPU в ailist. Цена — по текущим предложениям провайдеров
GPU в ailist
llama.cpp
Подбираем GPU…