Квантизированная в GGUF диалоговая MoE-модель GigaChat для генерации текста, рассуждений и работы с кодом на русском и английском языках.

Подходит для: диалоговые ответы на русском языке · генерация и продолжение текста · решение математических задач

Экспериментальная GGUF-квантованная версия GLM-4.7-Flash-Uncensored для генерации текста и диалогов.

Подходит для: диалоговые ответы на русском и английском языках · генерация текста локально из GGUF-файла · запуск текстовой модели на оборудовании NVIDIA Pascal

Экспериментальная GGUF-квантизация Octen-Embedding-4B для получения многоязычных текстовых эмбеддингов и семантического поиска.

Подходит для: поиск семантически близких текстов · извлечение релевантных фрагментов для RAG · сравнение сходства русских предложений

Квантованный GGUF-вариант Qwen3-Embedding-0.6B для создания текстовых эмбеддингов и семантического поиска на английском и русском языках.

Подходит для: создание эмбеддингов для текстового поиска · семантический поиск по документам · сравнение сходства предложений

Экспериментальная GGUF-квантизация многоязычной модели Octen-Embedding-0.6B для получения эмбеддингов и вычисления семантического сходства.

Подходит для: семантический поиск по текстам на русском и английском языках · поиск релевантных документов для RAG · извлечение информации по смысловому запросу

Экспериментальная GGUF-квантизация мультимодальной Qwen3.5-2B-heretic для диалогов по тексту и изображениям.

Подходит для: диалоговые ответы на текстовые запросы · вопросы и ответы по изображениям · описание содержимого изображений

Экспериментальная GGUF-квантизация мультимодальной MoE-модели Qwen3.6 для диалогов и вопросов по изображениям.

Подходит для: диалоги на русском и английском языках · ответы на вопросы по изображениям · описание содержимого изображений

Квантизированная GGUF-версия мультиязычной модели Octen-Embedding-8B для текстовых эмбеддингов, семантического сходства и поиска.

Подходит для: поиск документов по смыслу на русском и английском · извлечение релевантных фрагментов для RAG · сравнение семантической близости предложений

NOSA-8B — 7,9-миллиардная модель OpenBMB с разреженным вниманием для ускоренной генерации в длинных контекстах и выгрузки KV-кэша.

Подходит для: генерация продолжений для длинных текстовых запросов · диалоговая генерация ответов с длинным контекстом · инференс LLM с выгрузкой KV-кэша

Экспериментальная квантованная GGUF-версия Qwen3.5-0.8B-heretic для диалогов с текстом и изображениями.

Подходит для: диалоговые ответы на текстовые запросы · вопросы по изображениям в чате · запуск мультимодальной модели в GGUF-совместимой среде

Экспериментальная GGUF-квантизация разговорной Kimi Linear 48B A3B Instruct для локальной генерации текста.

Подходит для: локальный чат с языковой моделью · генерация ответов на русском и английском · помощь с программированием

Экспериментальная GGUF-сборка Qwen3-Embedding-0.6B для создания текстовых эмбеддингов и многоязычного семантического поиска.

Подходит для: семантический поиск по русскоязычным документам · поиск релевантных текстов на разных языках · поиск по исходному коду

Производная модели ENOSYS/Qwen3.5-0.8B-heretic-250-v1-GGUF. Экспериментальная квантованная GGUF-версия Qwen3.5-0.8B-heretic для диалогов с текстом и изображениями.

Подходит для: диалоговые ответы на текстовые запросы · вопросы по изображениям в чате · запуск мультимодальной модели в GGUF-совместимой среде