Экспериментальная NVFP4-квантизация Qwen3.6-35B-A3B в GGUF для генерации текста и диалогов через llama.cpp.

Подходит для: диалоговое взаимодействие с локальной языковой моделью · генерация ответов и связного текста · решение математических задач GSM8K

Модель Unsloth на архитектуре Llama для извлечения признаков из текста.

Подходит для: получение векторных представлений текста · подготовка признаков для последующей обработки текста · извлечение признаков через Transformers

GGUF-версия англоязычной 2-миллиардной BitNet b1.58 от Microsoft Research для генерации текста и диалога с эффективным CPU-инференсом.

Подходит для: локальный запуск языковой модели на CPU · генерация ответов в диалоговом интерфейсе · следование инструкциям и составление текстов

Компактная Model2Vec-модель создаёт 768-мерные текстовые эмбеддинги для семантического поиска и сравнения предложений.

Подходит для: семантический поиск по коллекции документов · поиск релевантных фрагментов для RAG · сравнение сходства предложений

Компактная дообученная модель семейства LLaMA для генерации текста и ускорения вывода крупных LLaMA- и Vicuna-моделей в режиме спекулятивного декодирования.

Подходит для: черновая генерация токенов для спекулятивного декодирования · ускорение вывода моделей LLaMA-13B и LLaMA-33B · ускорение вывода моделей Vicuna-13B и Vicuna-33B

Дообученный assistant-чекпойнт Gemma 4 26B A4B для ускорения генерации в совместимом конвейере спекулятивного декодирования.

Подходит для: ускорение генерации текста в конвейере speculative decoding · ускорение диалоговых ответов с целевой моделью Gemma 4 26B A4B · использование в исследовательских и пользовательских сборках на базе Gemma 4

Пакет слоёв GGUF GLM-5.3-Flash для локального распределённого чат-инференса на нескольких машинах через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели с распределением слоёв между несколькими компьютерами · обслуживание чат-запросов через совместимый с OpenAI локальный API

Черновая MTP-модель Gemma 4 12B IT от Google DeepMind ускоряет генерацию текста в speculative decoding, предлагая токены для параллельной проверки целевой моделью.

Подходит для: ускорение генерации текста в speculative decoding · создание разговорного ассистента на базе Gemma 4 · ответы на вопросы по изображениям и документам

Зрительная модель Apple AIMv2 для извлечения векторных признаков изображений и их использования в задачах визуального поиска и сопоставления.

Подходит для: извлечение признаков изображений для поиска по визуальному сходству · построение векторного индекса изображений · сопоставление изображений с текстовыми представлениями в мультимодальной системе

Пакет GGUF-слоёв GLM-5.3 для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный чат-инференс на собственном оборудовании · запуск модели на нескольких компьютерах с распределением слоёв · обслуживание запросов через локальный API, совместимый с OpenAI

GGUF-сборка MoE-модели Ornith для агентного программирования, генерации текста и мультимодальной работы с изображениями через llama.cpp.

Подходит для: автоматическое решение задач программирования агентом · исправление ошибок и внесение изменений в репозитории кода · выполнение задач разработки через терминал и инструменты

Дообученная модель X-Codec на базе HuBERT для извлечения признаков общего аудио и работы с кодированием на разных битрейтах.

Подходит для: извлечение признаков из общего аудио · кодирование аудиосигнала на низком битрейте · сравнение аудиокодирования при разных битрейтах

Модель Unsloth AI семейства Llama для извлечения признаков и получения представлений текста.

Подходит для: получение признаковых представлений текста · извлечение векторов для поиска по сходству · подготовка текстовых признаков для downstream-моделей

Пакет слоёв GGUF в формате IQ4_XS для распределённого запуска чат-модели семейства Qwen3 через Mesh LLM.

Подходит для: локальный приватный запуск чат-модели · распределённый инференс на нескольких машинах · обслуживание чата через OpenAI-совместимый локальный API

Черновая DFlash-модель для ускорения генерации текста базовой моделью Gemma 4 посредством speculative decoding.

Подходит для: ускорение генерации ответов Gemma 4 на сервере · ускорение пакетной генерации при параллельной обработке запросов · снижение задержки генерации в совместимой конфигурации vLLM

StableMaterials генерирует тайловые PBR-карты материалов по текстовым и графическим запросам для компьютерной графики.

Подходит для: создание тайловых PBR-текстур для видеоигр · генерация материалов для архитектурной визуализации · получение базового цвета, шероховатости и металлических свойств поверхности

Конвертированная в GGUF версия GTE-large для извлечения признаков текста и построения эмбеддингов.

Подходит для: создание эмбеддингов текстов · семантический поиск по документам · поиск похожих предложений

Пакет Gemma 4 26B A4B IT в квантизации UD-Q4_K_M для распределённой локальной генерации текста и чатов с Mesh LLM.

Подходит для: локальный запуск чат-модели на собственном оборудовании · распределённый инференс на нескольких компьютерах · генерация ответов через совместимый с OpenAI API

Пакет слоёв GGUF модели GLM-5.2-Q2_K-MTP-Q8 для распределённой генерации текста и локального чат-сервинга на Mesh LLM.

Подходит для: Локальный приватный чат с языковой моделью · Распределённый запуск модели на нескольких компьютерах · Генерация текста через локальный сервер Mesh LLM

PyTorch-порт VideoPrism LVT Base для извлечения признаков и векторных представлений из видео.

Подходит для: извлечение признаков из видеоклипов · получение векторных представлений видео для поиска · подготовка видеоданных для последующей классификации

Черновая модель EAGLE3 с GQA для спекулятивного декодирования и ускорения инференса MiniMax-M3.

Подходит для: ускорение генерации текста MiniMax-M3 в vLLM · спекулятивное декодирование с черновой моделью EAGLE3 · снижение расхода KV-кэша при инференсе MiniMax-M3

Компактная модель семейства Gemma 4 для диалоговой генерации, экспериментов и оценки устойчивости, переупакованная для совместимости с Transformers.

Подходит для: генерация ответов в диалоге · прототипирование компактных языковых моделей · оценка устойчивости к сложным и состязательным запросам

Компактный мультимодальный драфтер Gemma 4 для ускорения генерации текста методом спекулятивного декодирования.

Подходит для: ускорение генерации текста в конвейере speculative decoding · снижение задержки генерации на локальных устройствах · предсказание нескольких следующих токенов для проверки целевой моделью

Пакет GGUF-слоёв DeepSeek-V4-Flash в варианте UD-Q4_K_XL для локального распределённого чат-инференса через Mesh LLM.

Подходит для: локальный приватный чат-инференс · запуск модели на нескольких машинах, когда веса не помещаются на одном узле · обслуживание запросов chat completions через совместимый с OpenAI API