I.11Классификация, ранжирование и сопоставление

Tema_Q-X7-Thinking — большая языковая модель для агентных приложений, созданная на основе Ornith-1.5-35B-A3B, разработанной Ornith AI. В карточке указано, что модель рассчитана на генерацию более гибких и полезных ответов на сложные запросы; в сочетании с Tema_Q Agent она поддерживает расширенные рассуждения. Модель использует архитектуру семейства Qwen 3.5 MoE и распространяется в формате safetensors. Она поддерживает японский, английский и китайский языки, диалог, следование инструкциям и интерфейс вызова инструментов. Лицензия в предоставленных данных не указана. Пользователи отвечают за соблюдение применимого законодательства и правил платформы; карточка запрещает использование для дискриминации, преследования, насилия, незаконных и иных вредоносных целей.

GLM-4-32B-0414-GGUF — это квантизированная версия языковой модели GLM-4-32B-0414, разработанной THUDM, подготовленная пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Заявлена поддержка китайского и английского языков. Модель содержит 32 миллиарда параметров; точные сведения об архитектуре, размере контекста и поддерживаемых модальностях в README не указаны. Доступны варианты от BF16 до различных квантизаций Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Более высокие уровни квантизации обеспечивают лучшее качество, а низкие подходят для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Для запуска требуется совместимое программное обеспечение и объём памяти, соответствующий выбранному варианту. Квантизация выполнена с использованием llama.cpp и метода imatrix; в описании также отмечено исправление токенизатора. Модель распространяется по лицензии MIT. README не содержит подробных результатов тестирования, поэтому фактические преимущества в конкретных задачах и ограничения базовой модели требуют самостоятельной проверки.

Vikhrmodels/Vikhr-7B-instruct_0.2 — русско- и англоязычная инструкция-модель семейства Llama, опубликованная Vikhrmodels. Она предназначена для генерации текста и ответов на запросы в формате инструкций. Модель имеет плотную архитектуру LlamaForCausalLM, 6,7 млрд параметров и контекстное окно 2048 токенов. В метаданных указаны наборы данных Vikhr_instruct и darulm. Репозиторий содержит веса в формате safetensors. Карточка README сообщает о GGUF-версии, но не содержит подробностей о её характеристиках. Лицензия в предоставленных данных не указана.

CombinHorizon выпустила эту текстовую модель как слияние весов, созданное с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-32B, объединённая с zetasepic/Qwen2.5-32B-Instruct-abliterated-v2; модель имеет 32 млрд параметров и представлена в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В метаданных указан английский язык. Лицензия — Apache-2.0.

Beast_Mixed_2_pro — языковая модель для диалогов и генерации текста, созданная объединением моделей NousResearch/Hermes-2-Pro-Mistral-7B и mohsinmubaraksk/Beast-Mixed с помощью LazyMergekit. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на контекст до 32 768 токенов. В метаданных указана возможность чата; основной сценарий применения — генерация текста по запросу пользователя. Модель опубликована в формате safetensors. README описывает слияние методом SLERP в формате bfloat16. Лицензия в предоставленных данных не указана.

BgGPT-Gemma-3-4B-IT е многоезиков модел от серията BgGPT 3.0, адаптирана за български език от INSAIT върху Gemma 3. Той е плътен модел с 4 милиарда параметъра, реализиран като Gemma3ForConditionalGeneration и предназначен за разговори и следване на инструкции с текст и изображения. Моделът поддържа разбиране на изображения и текст в общ контекст, многоходови разговори и сложни инструкции. Посоченият в картата ефективен контекст е 131 000 токена. Обучителните данни за предварителното обучение са до май 2025 г., а данните за дообучаване по инструкции — до октомври 2025 г. Подходящ е за визуални въпроси и отговори, разговорни асистенти и работа с инструкции на български и английски. Моделът е дообучение на google/gemma-3-4B-it и се разпространява във формат safetensors. Лицензът е Gemma; при използване трябва да се спазват условията му. За динамична FP8 квантизация при изпълнение README посочва изискване за GPU с compute capability поне 8.9.

BlueLM-7B-Chat-4bits — 4-битная квантованная версия диалоговой языковой модели BlueLM, разработанной vivo AI Lab. Модель с плотной архитектурой BlueLM и примерно 6,9 млрд параметров предназначена для генерации текста в диалоге и ответов на запросы пользователя. В карточке указана длина контекста 2048 токенов. Модель обучалась преимущественно на китайских и английских данных; корпус также содержал небольшую долю японских и корейских текстов. В README заявлены результаты на тестах общих знаний, математики и программирования, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия обозначена как other; README сообщает, что веса BlueLM открыты для академических исследований и коммерческого использования.

mondk/claude-llama-8B-think — дообученная модель на архитектуре Llama 3.3, опубликованная mondk. Она предназначена для диалогов и генерации текста с упором на рассуждения; README описывает её как модель с интегрированным мышлением и отсылкой к стилю Claude. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка связывает модель с базовой DavidAU/Llama3.3-8B-Instruct-Thinking-Claude-4.5-Opus-High-Reasoning и указывает датасет mondk/claude-sonnet5-jsonl. Метаданные заявляют поддержку английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Модель распространяется в формате safetensors по лицензии Apache-2.0. Её можно использовать для диалоговых ответов, генерации текста и задач, где полезны многошаговые рассуждения. README содержит мало сведений о качестве и проверках, поэтому заявленный акцент на рассуждениях не следует считать подтверждением точности; поведение модели также может отличаться от Claude.

CollectiveCognition-v1.1-Mistral-7B-dare-0.85-Mistral-7B-Instruct-v0.1 — чат-модель на базе Mistral-7B-Instruct-v0.1, созданная слиянием весов Mistral-7B-Instruct-v0.1 и uukuguy/CollectiveCognition-v1.1-Mistral-7B-dare-0.85 методом SLERP. Модель разработана для генерации текста и ответов на запросы в диалоговом формате. Архитектура — плотная авторегрессионная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов; файлы опубликованы в формате safetensors с точностью bfloat16. Модель подходит для чат-ботов, ответов на инструкции и продолжения текста. В карточке не заявлены специализированные области или языки, поэтому назначение следует считать общим. Лицензия — Apache-2.0.

CrystalMistral-26b — разговорная языковая модель семейства Mixtral с архитектурой смеси экспертов (MoE), опубликованная Crystalcareai. Согласно карточке, модель создана с помощью LazyMergekit на основе нескольких копий Crystalcareai/CrystalMistral; метаданные также связывают её с этой базовой моделью. Она предназначена для генерации текста и диалогов. Базовая CrystalMistral дообучена для выполнения инструкций, общения, генерации текста и работы с кодом, поэтому эти сценарии подходят и для данной модели. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст. Лицензия — Apache-2.0. Карточка не приводит отдельных оценок качества CrystalMistral-26b; возможности базовой модели не гарантируют такие же результаты после слияния.

Cydonia-v1.2-Magnum-v4-22B — объединённая 22-миллиардная языковая модель на архитектуре Mistral, созданная автором репозитория с помощью mergekit из TheDrummer/Cydonia-22B-v1.2 и anthracite-org/magnum-v4-22b. Для слияния использован метод SLERP; модель предназначена для диалогов и генерации текста, включая связную прозу. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. По данным описания базовой модели, основной язык — английский. Лицензия указана как other, поэтому перед использованием следует проверить условия в репозитории.

bartowski/DeepSeek-R1-Distill-Qwen-14B-GGUF — это набор GGUF-квантизаций модели DeepSeek-R1-Distill-Qwen-14B, разработанной DeepSeek. Квантизация выполнена bartowski с использованием llama.cpp b4514 и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через LM Studio, с применением формата промпта, указанного в README. Доступны варианты от полных F32 и F16 весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, размером примерно от 6,66 до 59,09 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше памяти; Q4_K_M обозначен как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как рекомендуемые варианты высокого качества. Некоторые форматы оптимизированы для работы на CPU и Apple Silicon, включая online repacking для ARM и AVX. В README не указаны архитектурные детали, длина контекста, поддерживаемые языки и модальности, а также лицензия. Поэтому модель следует рассматривать как текстовую локальную модель, совместимость и фактические требования к памяти которой зависят от выбранного файла квантизации и используемого программного обеспечения.

NVIDIA DeepSeek-R1-NVFP4-v2 — FP4-квантованная версия языковой модели DeepSeek R1, подготовленная NVIDIA с помощью TensorRT Model Optimizer. В карточке указано, что модель разработана не NVIDIA, а создана по требованиям третьей стороны. Архитектура основана на трансформере DeepSeek V3; модель содержит 37,6 млрд параметров и рассчитана на контекст до 163 840 токенов. Модель принимает текст и генерирует текст, поэтому подходит для диалогов, ответов на вопросы и пошагового решения задач. По сравнению с nvidia/DeepSeek-R1-FP4 в этой версии дополнительно квантован модуль wo в слоях внимания. Квантование весов и активаций линейных операторов снижает требования к диску и видеопамяти примерно в 1,6 раза. Для инференса карточка указывает TensorRT-LLM и совместимость с архитектурой NVIDIA Blackwell; пример развертывания требует 8 GPU B200. Модель распространяется по лицензии MIT и заявлена для коммерческого и некоммерческого использования. Она может выдавать неточные, нерелевантные или избыточные ответы и воспроизводить токсичность и социальные предубеждения из обучающих данных.

Карточка модели KnutJaegersberg/Deita-Mixtral-8x7b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

Dolphin3.0-R1-Mistral-24B-Patched — текстовая генеративная модель от AIOpsInSpace, созданная на базе cognitivecomputations/Dolphin3.0-Mistral-24B. Модель объединяет дообучение Dolphin 3.0 с паттернами рассуждений DeepSeek-R1 и предназначена для локального запуска, генерации текста и решения задач, требующих пошагового рассуждения. Заявлена поддержка формата reasoning trace с тегами <think> и исправления, повышающие стабильность работы локальных бэкендов и предотвращающие зависания токенизатора. Модель представляет собой плотную архитектуру Mistral с 24 млрд параметров. В карточке указана английская локализация; другие языки и размер контекстного окна не описаны. Среди заявленных особенностей — отсутствие ограничений на тематику ответов и совместимость с GGUF, однако конкретные варианты квантования, требования к оборудованию и результаты бенчмарков не приведены. Сильными сторонами модели являются сочетание относительно компактного для такого уровня reasoning-движка размера, открытой основы Mistral, ориентированности на локальное выполнение и поддержка явного формата рассуждений. Ограничениями остаются отсутствие подтверждённых количественных оценок качества, неполные сведения о контексте и аппаратных требованиях, а также потенциальные риски использования модели без встроенных ограничений безопасности. Указанная лицензия — Apache-2.0.

Карточка модели roskosmos19/Dolphin-4B-Instruct-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

DPOpenHermes 7B v2 GGUF — квантизированная версия языковой модели Open Access AI Collective, подготовленная TheBloke в формате GGUF. Модель основана на архитектуре Mistral, содержит около 7 миллиардов параметров и предназначена для генерации текста на английском языке, включая диалоговые и инструкционные сценарии. Модель обучалась с использованием наборов данных teknium/openhermes, allenai/ultrafeedback_binarized_cleaned и Intel/orca_dpo_pairs. Для общения используется шаблон ChatML с системными и пользовательскими сообщениями. GGUF-файлы доступны в вариантах с 2-, 3-, 4-, 5-, 6- и 8-битной квантизацией, что позволяет запускать модель с разными компромиссами между качеством, скоростью и требованиями к памяти на CPU и GPU. Модель совместима с llama.cpp и рядом пользовательских интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Ограничения включают поддержку только английского языка согласно карточке и отсутствие сведений о мультимодальности или размере контекстного окна. Лицензия — Apache 2.0.

DRAGON-QWEN-7B — модель серии dRAGon от llmware, дообученная для ответов на вопросы по сложным деловым и юридическим документам. Она основана на Qwen2-7B-Base и использует архитектуру Qwen2 с плотной causal language model на 7,1 млрд параметров; принимает текст и генерирует текст. Модель предназначена для RAG-сценариев: ответов по предоставленному контексту, извлечения пар ключ-значение и краткого суммирования. В карточке заявлены английский язык и контекст до 131 072 токенов. Разработчик сообщает о настройке на фактические ответы, снижении галлюцинаций и пригодности к автоматизации рабочих процессов; в одном тестовом прогоне квантованной версии GGUF указаны 99 правильных ответов из 100. Это результат отдельного теста разработчика, а не гарантия качества в других условиях. Модель может выдавать неточные или неполные ответы, поэтому результаты требуют проверки. Лицензия — Apache 2.0.

beomi/EXAONE-3.5-2.4B-Instruct-Llamafied — это адаптированная («llamafied») версия инструкционной языковой модели EXAONE 3.5 2.4B Instruct, разработанной LG AI Research и преобразованной пользователем beomi. Модель предназначена для генерации текста и диалогового взаимодействия на основе инструкций и запросов пользователя. Модель содержит 2,4 млрд параметров, поддерживает контекст длиной до 32 768 токенов и работает с английским и корейским языками. Она распространяется для использования через библиотеку Transformers; в метаданных также указана совместимость с форматом Llama и файлами safetensors. Версия ориентирована на сценарии, где требуется компактная инструкционная LLM с поддержкой длинного контекста. Модель подходит для диалоговых помощников, написания и продолжения текстов, ответов на вопросы, суммаризации и других задач генерации на английском и корейском языках. Ограничения связаны с тем, что это адаптированная версия исходной модели, поэтому совместимость, качество и поведение могут отличаться от оригинальной EXAONE-3.5-2.4B-Instruct. Модель распространяется по лицензии EXAONE, обозначенной в Hugging Face как other; перед использованием необходимо проверить её условия.

Gemma-4-31B-CoreAI — конвертация модели Google Gemma 4 31B, выполненная сообществом пользователем mlboydaisuke для запуска в формате .aimodel на Apple Core AI. Модель предназначена для локальной генерации текста, диалогов, суммаризации и других задач, поддерживаемых текстовыми языковыми моделями, полностью на устройстве без обязательной передачи данных в облако. Она ориентирована на компьютеры Mac с Apple Silicon и интеграцию через CoreAIKit или совместимые инструменты Core AI. Это плотный текстовый декодер Gemma 4 с 60 слоями, скрытым размером 5376, 32 головами внимания и словарём из 262 144 токенов. Архитектура использует чередование скользящего и глобального внимания в соотношении 5:1; размер головы составляет 256 для скользящего внимания и 512 для глобального. Модель подвергнута int4-квантизации на основе QAT-релиза Google, занимает около 19 ГБ и имеет заявленную скорость декодирования 17,2 токена в секунду на M4 Max. Поддерживаются только текстовые входы и выходы; сведения о языках и максимальном размере контекста в README не указаны. К сильным сторонам относятся запуск крупной 31-миллиардной модели на стандартном конвейерном движке Core AI, выполнение вычислений локально на GPU или Neural Engine и отсутствие необходимости в специальной модификации движка благодаря пользовательскому Metal-ядру для декодирования внимания. Ограничения включают высокие требования к памяти, размер загрузки около 20,1 ГБ, совместимость прежде всего с Mac-классом устройств и отсутствие заявленной поддержки iPhone. Модель распространяется по лицензии Apache 2.0.

Gemma 7B OpenHermes v0.80 — инструктивная языковая модель, разработанная lemon-mint путём дообучения Google Gemma 1.1 7B на наборе OpenHermes-2.5. Она предназначена для диалогов, ответов на вопросы и выполнения инструкций в текстовом формате. Модель построена на плотной архитектуре GemmaForCausalLM, содержит 8,2 млрд параметров и поддерживает контекст до 8192 токенов. Модель ориентирована на английский язык и может применяться для открытого диалога, генерации ответов и помощи в разнообразных текстовых задачах. Лицензия — gemma-terms-of-use. В ответах возможны ошибки и отражение предубеждений обучающих данных, поэтому результаты следует проверять.

GLM-5.3-DERISKED-Int4-Int8Mix — языковая модель для генерации текста, разработанная Blackfrost на основе полной GLM-5.3 от Z.AI и квантизированной версии Tech2wild. Модель предназначена для исследовательского и локального использования, включая запуск и обслуживание через vLLM на совместимой многографической инфраструктуре. Она поддерживает английский и китайский языки и относится к классу causal language models. Архитектура модели — GlmMoeDsaForCausalLM с mixture-of-experts: около 743 млрд параметров всего, примерно 40 млрд активных на токен, 78 основных слоёв и дополнительный MTP-слой. Используются 256 маршрутизируемых экспертов с выбором top-8 на токен и один общий эксперт, скрытый размер составляет 6144. Веса представлены в формате compressed-tensors pack-quantized: маршрутизируемые эксперты квантизированы в Int4, плотные и attention-слои — в Int8, с group size 128. Контекст может достигать 131 072 токенов согласно настройкам запуска. Сильной стороной модели является сочетание полной MoE-архитектуры GLM-5.3 с компактным смешанным квантизированным представлением, рассчитанным на работу в ограниченной по памяти инфраструктуре. Blackfrost применил к весам собственную модификацию DWM, изменяющую профиль отказов модели. Чекпойнт не проходил оценочную серию тестов на отказы, поэтому показатели безопасности от других вариантов GLM-5.3 к нему неприменимы. Выводы могут быть неточными, оскорбительными или небезопасными; модель не является механизмом обеспечения безопасности и требует внешних ограничений. Модель публична и не требует специального доступа. Для запуска заявлен путь vLLM с compressed-tensors и tensor parallelism; это не GGUF-модель. Лицензия наследуется от GLM-5.3 и указана как glm-5.3; необходимо сохранять исходные уведомления об авторских правах и условиях лицензии.

SillyTilly/google-gemma-2-27b-it — диалоговая инструкционная модель семейства Gemma 2, разработанного Google. Это плотная авторегрессионная языковая модель с архитектурой decoder-only и 27,6 млрд параметров; веса доступны в формате safetensors. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и предназначена прежде всего для английского языка. Модель подходит для диалоговых помощников, генерации текстов, ответов на вопросы, суммаризации и рассуждений по текстовому запросу. Её можно запускать на собственном оборудовании или в облачной инфраструктуре; для снижения требований к ресурсам в README описано использование квантования bitsandbytes. Модель может ошибаться в фактах, испытывать трудности с неоднозначными формулировками и сложными задачами, а также воспроизводить смещения из обучающих данных. Лицензия — Gemma; применение должно соответствовать условиям лицензии и политике допустимого использования Gemma.

gpt-oss-20b-Derestricted — производная модель Arli AI на основе openai/gpt-oss-20b. Авторы применили Norm-Preserving Biprojected Abliteration, чтобы ослабить поведение отказа, сохранив исходные нормы весов. В каталоге указано 1,6 млрд параметров, архитектура MoE для авторегрессионной генерации текста и контекст до 131 072 токенов. Модель предназначена для диалогов, рассуждений, агентных сценариев и других задач генерации текста, где требуется меньше отказов на запросы. Исходная модель поддерживает настраиваемый уровень рассуждений и формат Harmony; для корректной работы следует использовать шаблон Harmony. Карточка утверждает, что метод помогает сохранить качество рассуждений, но приводит это как результат авторских оценок, а не как независимую гарантию. Модель распространяется по лицензии Apache-2.0. Она может по-прежнему иногда пытаться подавлять запросы; языки в предоставленных данных явно не перечислены.

saidutta69 выпустил granite-4.2-3b-heretic — вариант IBM Granite 4.2 3B с подавленным поведением отказа. Модель создана методом directional ablation (abliteration) с Heretic v1.4.0: целевые изменения внесены в веса проекций внимания и MLP без дополнительного обучения. Это плотный декодерный трансформер GraniteForCausalLM на 3,66 млрд параметров с групповой обработкой запросов внимания и контекстом до 131 072 токенов. Модель предназначена для генерации текста, рассуждений, вызова инструментов и локальных агентов, в том числе на потребительском оборудовании. README сообщает о сохранении шаблона рассуждений Granite и снижении отказов с 62 до 3 на использованном авторами тесте из 100 запросов; результат KL-дивергенции относительно базовой модели — 0,0095. Указаны поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков, а также варианты весов BF16 и GGUF-квантизации. Модель может выполнять запросы, от которых отказалась бы базовая версия, и не содержит дополнительного фильтра безопасности; это важно учитывать при развёртывании. Она наследует фактические ограничения и смещения Granite 4.2. Лицензия — Apache-2.0.

InternVL3-14B-Instruct-GGUF — мультимодальная языковая модель в формате GGUF, подготовленная Unsloth на основе OpenGVLab/InternVL3-14B-Instruct. Исходную модель разработала команда OpenGVLab; она построена по схеме ViT-MLP-LLM и сочетает визуальный модуль InternViT-300M-448px-V2_5 с языковой частью Qwen2.5-14B. Это SFT-версия, прошедшая нативное мультимодальное предварительное обучение и supervised fine-tuning, но не прошедшая MPO. Модель предназначена для задач понимания изображений и текста, мультимодального восприятия и рассуждений. Заявленные сценарии включают использование инструментов, создание GUI-агентов, промышленный анализ изображений, восприятие 3D-сцен и другие мультимодальные приложения. В метаданных указана поддержка multilingual, а тип конвейера — image-text-to-text. Конкретный размер контекста в предоставленных данных не указан. К сильным сторонам относятся расширенные возможности мультимодального анализа и рассуждений, а также GGUF-квантизация, удобная для локального запуска при подходящей инфраструктуре. Ограничение версии заключается в отсутствии этапа MPO; авторы рекомендуют при сомнениях использовать базовую версию InternVL3-14B. Модель распространяется по лицензии Apache-2.0, при этом в карточке также указана ссылка на лицензию Qwen.

Mungert/InternVL3-8B-GGUF — GGUF-версия мультимодальной модели InternVL3-8B, созданной командой OpenGVLab. Модель предназначена для обработки текста и изображений, включая визуальное восприятие и рассуждение, анализ промышленных изображений, работу с GUI-агентами, инструментами и задачами 3D-восприятия. В карточке также указана поддержка многоязычных сценариев. Архитектура сочетает vision-компонент InternViT-300M-448px-V2_5 и языковую часть Qwen2.5-7B; общий класс модели — 8B параметров. Эта публикация представляет собой преобразованный формат GGUF, сгенерированный с использованием llama.cpp. Автор применил собственный подход к квантованию: отдельные важные слои переводятся в более высокую точность, что увеличивает размер файла, но, по заявлению автора, может улучшать точность при заданном уровне квантования, особенно на низкой разрядности. Сильными сторонами являются мультимодальность, сочетание визуального анализа с языковым рассуждением и возможность локального использования в экосистеме llama.cpp благодаря формату GGUF. Ограничения включают зависимость качества, размера и требований к ресурсам от выбранного варианта квантования; конкретные поддерживаемые языки, размер контекста и результаты независимого тестирования в карточке не указаны. Для модели указана лицензия Apache-2.0, однако в метаданных также приведена ссылка на лицензию Qwen.

kanana-1.5-v-3b-instruct — мультимодальная языковая модель семейства Kanana-1.5-V, разработанная командой Unified Foundation Model в Kakao. Она принимает текст и изображения и генерирует текст; архитектура включает энкодер изображений, C-abstractor и языковую модель kanana-1.5-3b-instruct. Модель содержит около 3,67 млрд параметров, поддерживает контекст до 32 тысяч токенов и предназначена для работы на английском и корейском языках. Модель подходит для описания изображений, понимания документов, рассуждений по распознанному тексту и выполнения мультимодальных инструкций. В опубликованных Kakao оценках она показала результаты на англоязычных и корейских тестах понимания изображений и следования инструкциям; результаты бенчмарков не гарантируют точность в каждом пользовательском сценарии. Модель может выдавать неточную или вводящую в заблуждение информацию, особенно при работе с научными диаграммами и математическими задачами. Её не рекомендуется применять в медицине, праве и других областях с высокими ставками; качество языков, кроме корейского и английского, не оценивалось и может быть низким. Лицензия — kanana-license.

LeoScorpius-GreenNode-Alpaca-7B-v1-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и ignos/LeoScorpius-GreenNode-Alpaca-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы. Модель принимает текст и выдаёт текст. В метаданных указано контекстное окно 32 768 токенов; веса представлены в формате Safetensors. Репозиторий не описывает отдельные специализированные области применения или языки, поэтому модель можно рассматривать как чат-модель общего назначения. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или сведений о специальных ограничениях; поведение и надёжность следует проверять на целевых задачах.

LFM2-24B-A2B-GGUF — языковая модель семейства LFM2, разработанная Liquid AI для эффективного развертывания на периферийных устройствах и пользовательских компьютерах. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск на ноутбуках и настольных компьютерах; доступна в формате GGUF с поддержкой llama.cpp, а также заявленной совместимостью с vLLM и SGLang. Модель использует гибридную архитектуру Mixture-of-Experts с 24 миллиардами общих параметров, из которых около 2 миллиардов активируются для каждого токена. По данным разработчика, она рассчитана на работу в пределах 32 ГБ оперативной памяти и обеспечивает высокую скорость инференса на совместимом оборудовании. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Размер контекста, конкретный вариант квантования и подробные результаты оценки в README не указаны. Сильными сторонами модели являются сочетание крупного общего числа параметров с низкими вычислительными затратами на токен, ориентация на локальное выполнение и высокая заявленная скорость генерации. Ограничения включают отсутствие в предоставленных данных подробностей о качестве по отдельным задачам, требованиях к точному объёму памяти для разных вариантов GGUF и поддерживаемом размере контекста. Модель распространяется по лицензии lfm1.0; условия лицензии следует уточнять в файле LICENSE.