Пакет слоёв GGUF GLM-5.2-Q2_K-MTP-Q8 для распределённого локального чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс на собственном оборудовании · распределённый запуск модели на нескольких машинах · обслуживание запросов через совместимый с OpenAI API

Производная модели lyssquant/Inkling-Small-UD-Q4_K_XL-layers. Пакет квантованных слоёв GGUF модели Inkling-Small для локального распределённого чата и работы с изображениями через Mesh LLM.

Подходит для: локальный чат с моделью Inkling-Small · ответы на вопросы по изображениям · распределённый запуск модели на нескольких компьютерах

Экспериментальный пакет GGUF-слоёв inkling для распределённого локального чата и обработки изображений в Mesh LLM.

Подходит для: локальный приватный чат с ассистентом через Mesh LLM · распределённый запуск модели на нескольких компьютерах · обслуживание запросов через совместимый с OpenAI API

Англоязычная авторегрессионная модель EleutherAI на 1,7 млрд параметров для контролируемых исследований поведения и интерпретируемости языковых моделей.

Подходит для: исследование поведения языковых моделей · эксперименты по интерпретируемости LLM · сравнение моделей разных размеров на одинаковых данных

Пакет квантованных слоёв GGUF модели Inkling-Small для локального распределённого чата и работы с изображениями через Mesh LLM.

Подходит для: локальный чат с моделью Inkling-Small · ответы на вопросы по изображениям · распределённый запуск модели на нескольких компьютерах

Пакет квантованных GGUF-слоёв Inkling-Small для локального и распределённого мультимодального инференса через Mesh LLM.

Подходит для: локальный приватный чат с моделью Inkling-Small · ответы на вопросы по изображениям · запуск модели на нескольких машинах, если она не помещается на одном хосте

Англоязычная модель EleutherAI на 15,4 млрд параметров для генерации текста и контролируемых исследований поведения и интерпретируемости больших языковых моделей.

Подходит для: эксперименты по интерпретируемости больших языковых моделей · изучение влияния дедупликации обучающих данных · анализ поведения базовой языковой модели при продолжении текста

Компактная LLaMA-совместимая языковая модель для локальных агентных рабочих процессов, диагностики Linux и генерации кода.

Подходит для: диагностика проблем Linux-серверов · помощь в системном администрировании и настройке инфраструктуры · генерация скриптов Bash и Python для автоматизации

Квантизированная сборка Ling-3.0-tiny в GGUF для локальной генерации текста и диалогов через llama.cpp.

Подходит для: локальный запуск диалоговой языковой модели · генерация текста на компактном устройстве · локальный инференс через llama.cpp

Экспериментальная объединённая LLaMA-модель на 32,3 млрд параметров для исследования поведения композитных LLM и генерации текста.

Подходит для: стресс-тестирование объединённых языковых моделей · изучение взаимодействия LoRA-адаптеров · оценка модели на бенчмарках MMLU, ARC и HellaSwag

Квантизированная MoE-модель Laguna-XS.2 для агентного программирования и генерации кода на компьютерах Apple Silicon.

Подходит для: генерация и продолжение кода · помощь агенту в многошаговой разработке ПО · ответы на вопросы по программированию в диалоге

Экспериментальная GGUF-квантизация LQ8 модели Qwen3.5-2B для генерации текста и диалогов в llama.cpp и Ollama.

Подходит для: локальный запуск текстовой модели через llama.cpp · диалоговое взаимодействие с моделью через Ollama · генерация текста на устройстве с ограниченной памятью

Компактная языковая модель семейства Llama на 1,1 млрд параметров для генерации текста и оценки на бенчмарках.

Подходит для: эксперименты с генерацией текста · оценка языковой модели на бенчмарках · исследование поведения компактных моделей Llama

Производная модели zemelee/qwen2.5-jailbreak. Дообученная LoRA на Qwen2.5-3B-Instruct модель генерации текста для экспериментального исследования поведения обхода ограничений и безопасности LLM.

Подходит для: изучение реакций языковых моделей на запросы обхода ограничений · анализ поведения LLM при ослабленных ограничениях · исследование безопасности и выравнивания чат-моделей