I.11Классификация, ранжирование и сопоставление

Synthia-70B — языковая модель migtissera, созданная на основе Llama 2 70B и дообученная на данных в стиле Orca. Она предназначена для следования инструкциям и продолжительных диалогов, а также для генерации подробных ответов на запросы пользователя. Модель использует плотную архитектуру LlamaForCausalLM, содержит 68,7 млрд параметров и работает с контекстом до 2048 токенов. Репозиторий содержит веса PyTorch; для использования требуется библиотека Transformers. В карточке заявлена поддержка английского языка. Модель оценивается на наборах задач общего назначения, включая ARC и HellaSwag. Synthia-70B подходит для диалоговых помощников, ответов на вопросы и генерации развернутых текстов по инструкциям. По заявлению карточки, модель не ограничивает тематику ответов; при этом она может выдавать фактически неверные, вводящие в заблуждение, предвзятые или оскорбительные результаты. Указана лицензия Llama 2; условия её использования определяются соответствующей лицензией.

Карточка модели PS4Research/tGN7qCNgsAHkyykL на Hugging Face совпадает с карточкой PS4Research/EVPdEf4TUz3pRa2u, поэтому описание составлено по ней. PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

TheDrummer_Gemma-3-R1-12B-v1-GGUF — это набор квантизированных версий модели Gemma-3-R1-12B-v1, разработанной TheDrummer и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения на базе llama.cpp. Доступны варианты от BF16 до низкобитных квантизаций размером примерно от 5,21 до 23,54 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. К сильным сторонам относятся широкий выбор вариантов сжатия и применение imatrix-калибровки, призванной сохранить качество при квантизации. Рекомендуемыми обозначены, в частности, Q4_K_M, Q5_K_M, Q6_K и другие варианты Q4–Q6; низкобитные версии рассчитаны на системы с ограниченным объёмом RAM, но могут заметно уступать по качеству. В README не указаны контекстное окно, языки, поддерживаемые модальности, точная архитектура исходной модели и лицензия. Формат промпта также не приведён, поэтому его следует уточнять на странице исходной модели TheDrummer/Gemma-3-R1-12B-v1.

Это производная сборка ThinkingCap-Qwen3.8-27B, созданная dewamade для быстрого запуска на одной видеокарте с 24 ГБ памяти через форк HyperQwen для vLLM. Исходная ThinkingCap-модель — дообученная BottleCap AI версия Qwen3.8-27B; в этой сборке веса перекалиброваны и упакованы в формат compressed-tensors для обслуживания запросов с MTP speculative decoding. Модель предназначена для диалоговой генерации текста и рассуждений. Веса линейных слоёв и языковой головы используют GPTQ INT4 с группами по 128 элементов, эмбеддинги — INT8; также включён MTP-модуль, а словарь черновой головы ограничен 40 тысячами токенов. README сообщает о KV-кэше на 201 275 токенов в описанном профиле обслуживания, но не задаёт нативную длину контекста модели. Сборка рассчитана на одиночную подачу запросов на GPU класса RTX 3090/4090 с 24 ГБ памяти и требует совместимого форка HyperQwen vLLM и соответствующего лаунчера. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты. Языки модели и её ограничения качества отдельно не описаны.

Unlimited-OCR-Community-FP8-Dynamic — неофициальная общественная FP8-квантизованная версия модели baidu/Unlimited-OCR, разработанной Baidu. Квантизацию выполнила ShadowRock, автор — Matt Busi. Модель предназначена для OCR и структурированного разбора документов по изображениям, включая счета, служебные записки и табличные отчёты, с поддержкой координат областей текста. Это мультимодальная vision-language модель размером 3,34 млрд параметров с MoE-архитектурой в стиле DeepSeek-V2. Она использует визуальный тракт на базе SAM-ViT-B и CLIP-L DeepEncoder с проектором, а также текстовый декодер. Применена схема FP8_DYNAMIC W8A8: веса линейных слоёв текстового декодера квантизованы в FP8, активации масштабируются динамически; визуальный тракт, эмбеддинги, выходная голова, маршрутизаторы MoE и нормализации сохранены в BF16. Заявлена мультиязычность, однако конкретный перечень языков и размер контекста в README не указаны. Основные преимущества версии — уменьшение размера чекпойнта с 6,7 до 3,9 ГБ и поддержка нативного FP8-выполнения на GPU Ada, Hopper и Blackwell. На небольшом наборе синтетических документов результаты жадного OCR совпали с BF16-базой посимвольно: CER составил 0,0 для всех тестовых примеров. Измеренная скорость декодирования — около 39,4 токена в секунду на RTX 5070 Ti с vLLM 0.26.0, что ниже показателя BF16 45,3 токена в секунду. Полноценные гарантии качества на реальных данных, ограничения по разрешению, контексту и языкам README не описывает. Модель распространяется по лицензии MIT. Это community-сборка, не официальный релиз Baidu; изменена числовая точность весов текстового декодера, поэтому совместимость и качество следует проверять в целевой конфигурации. Для запуска указана интеграция с Transformers и vLLM, требуется разрешение удалённого кода.

Venomia-1.1-m7-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием Mistral-7B-Instruct-v0.1 и Sao10K/Venomia-1.1-m7 методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Карточка не описывает отдельные специализированные области применения или ограничения качества.

QuixiAI/WizardLM-33B-V1.0-Uncensored — языковая модель семейства LLaMA, представленная как переобученная версия WizardLM с отфильтрованным набором данных, чтобы уменьшить число отказов, уклончивых ответов и проявления смещения. Она предназначена для генерации ответов на инструкции и диалогов в стиле шаблона Vicuna-1.1. Модель содержит 32,3 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст до 2048 токенов. Модель ориентирована на англоязычные запросы и более послушное выполнение инструкций; автор отдельно отмечает, что она не лишена ограничений и не является полностью «нецензурированной». В карточке приведены результаты оценок на бенчмарках ARC и HellaSwag. Репозиторий содержит веса PyTorch. Лицензия указана как other, поэтому условия использования следует уточнять по материалам репозитория.

GLM-4.5-Air-GGUF — это набор квантизированных версий языковой модели GLM-4.5-Air, разработанной zai-org и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b6085 и метода imatrix с отдельным датасетом. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README не указаны архитектура исходной модели, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности, поэтому эти характеристики нельзя подтвердить. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 39,62 до 117,46 ГБ; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и ряд других вариантов отмечены как рекомендуемые. Более компактные варианты экономят память, но снижают качество, а Q2 и IQ1-варианты описаны как низкокачественные или очень низкокачественные. Для модели не найден формат промпта, его следует уточнять на странице исходной модели. Лицензия в README не указана.

Модель joannetai520/16_bit_model_try4 — дообученная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Её разработал joannetai520; обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс поддерживает вызов инструментов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 131072 токенов. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.

GigaChat3-10B-A1.8B-GGUF — это квантизированная версия языковой модели GigaChat3-10B-A1.8B, разработанной ai-sage. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и английском языках. Модель распространяется в формате GGUF и совместима с llama.cpp, LM Studio и другими проектами на его основе. В метаданных она обозначена как MoE-модель; в названии указаны параметры 10B и 1.8B, однако точные сведения об архитектуре, размере контекста и доступных вариантах квантизации в README не приведены. Модель работает в текстовой модальности. К сильным сторонам относятся поддержка русского языка, возможность локального запуска и оптимизация квантизации с помощью imatrix, потенциально улучшающая сохранение качества по сравнению с базовыми методами квантизации. Ограничениями являются снижение точности по сравнению с исходной моделью и зависимость производительности от выбранного варианта квантизации и оборудования. Лицензия — MIT.

Это GGUF-квантизированная версия языковой модели Olmo-3-7B-Instruct, разработанной Allen Institute for AI (AI2) и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, включая работу через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Модель содержит 7 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны файлы размером примерно от 3,26 до 14,60 ГБ. Для общения следует использовать шаблон с ролями system, user и assistant в формате специальных токенов im_start и im_end. Сведения о длине контекста, архитектурных деталях, мультимодальности и поддержке других языков в README не указаны. Сильной стороной модели является широкий выбор квантизированных вариантов, позволяющий адаптировать качество, размер файла и требования к оперативной памяти; варианты Q4 и выше описаны как рекомендуемые для большинства сценариев. Более компактные варианты экономят память, но обеспечивают более низкое качество. Модель предназначена для локального запуска, однако конкретные требования к производительности зависят от выбранного варианта квантования и оборудования. Лицензия — Apache-2.0.

Alpaca-Llama-3-8B — текстовая генеративная модель, созданная akumaburn путём дообучения unsloth/llama-3-8b-bnb-4bit на наборе yahma/alpaca-cleaned. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, представленная в формате safetensors и рассчитанная на контекст до 8192 токенов. Для запросов используется формат Alpaca. Модель предназначена для генерации ответов и выполнения инструкций на естественном языке. Её можно применять для диалогов, ответов на вопросы, объяснений и черновиков текста. В карточке приведены результаты тестов на нескольких бенчмарках, однако они не гарантируют качество в конкретных сценариях; обучение описано как один проход по 51 760 примерам. Основной язык в метаданных — английский. Лицензия модели — Apache-2.0. Карточка не описывает специальных механизмов безопасности или гарантии качества, поэтому результаты следует проверять перед использованием в критичных задачах.

AmberChat — англоязычная инструкция-следующая языковая модель, разработанная LLM360 как часть серии Pebble. Она дообучена на основе LLM360/Amber на наборах WizardLM Evol Instruct и ShareGPT. Модель использует плотную архитектуру LLaMA с примерно 6,6 млрд параметров и рассчитана на генерацию текста при контексте до 2048 токенов. AmberChat предназначена для диалогов и выполнения инструкций на английском языке. В карточке приведена оценка 5,43 на MT-Bench; веса доступны в формате safetensors для Transformers. Модель распространяется по лицензии Apache 2.0. Указанный контекст ограничен 2048 токенами; другие ограничения качества в карточке не описаны.

AREX-Turbo — компактная модель-агент для глубокого исследования, разработанная Beijing Academy of Artificial Intelligence (BAAI). Это плотная модель на 4 млрд параметров, дообученная на Qwen/Qwen3.5-4B; она поддерживает контекст до 262 144 токенов и предназначена для многоэтапного поиска информации с использованием инструментов. Модель собирает и сопоставляет сведения из источников, формирует предварительный ответ, проверяет его по заданным ограничениям и при необходимости уточняет или начинает исследование заново. Она также обновляет контекст исследования, сохраняя проверенные выводы, источники, отвергнутые варианты и нерешённые вопросы. AREX-Turbo рассчитана на сценарии, где важны стоимость обслуживания и скорость итераций; метаданные указывают поддержку диалога и интерфейса вызова инструментов. Модель основана на Qwen3.5-4B и выпущена в формате safetensors для Transformers. В карточке заявлены сценарии поиска, просмотра источников, интеграции свидетельств и построения ответов; оценки приведены для длинных исследовательских задач с инструментами. Лицензия — Apache-2.0. README не описывает отдельные ограничения качества или безопасности.

ASIL Qwen3.5-9B RL — выпущенный авторами ASIL чекпойнт, созданный дообучением Qwen/Qwen3.5-9B методом обучения с подкреплением. Модель предназначена для диалоговой генерации текста и агентных задач; карточка описывает релиз как часть публикации ASIL v0.1.0 и указывает выбранный чекпойнт global_step_140_actor_hf, полученный после продолжения первого этапа обучения с подкреплением. Модель содержит 7,2 млрд параметров, использует архитектуру Qwen3_5ForCausalLM и загружается через Transformers из файлов Safetensors. Нативная длина контекста — 262 144 токена. Метаданные указывают возможность чата; базовая Qwen3.5 описана как мультимодальная, однако этот репозиторий относится к текстовой архитектуре и имеет задачу text-generation. Для обучения использовались 320 обучающих и 80 валидационных промптов из набора rl_learnable_v4_320_80. Карточка не приводит сведений о лицензии, поэтому условия использования определить по имеющимся данным нельзя.

AX-DeepSeek-V4-Flash-MLX-AXQ-4bit-MTP — это экспериментальный MLX-чекпойнт модели DeepSeek-V4-Flash, подготовленный AutomatosX для Apple Silicon. Модель предназначена для генерации текста и запуска через MLX-LM; в репозитории представлены только веса MLX Safetensors, без PyTorch и GGUF. Лицензия — Apache-2.0. В основе лежит архитектура DeepseekV4ForCausalLM с mixture of experts (MoE) и 284,33 млрд логических параметров. Основной языковой тракт использует смешанную квантизацию AXQuant 1.5.1: около 96,84% параметров имеют точность 4-bit, часть параметров сохранена в 8-bit и BF16. Измеренный общий размер хранения составляет примерно 4,5874 BPW, а полный объём загрузки — около 166,91 ГБ. Настроенный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает текстовую модальность; визуальный и аудиокомпоненты отсутствуют. В чекпойнте присутствует MTP-компонент, но его ускорение, совместимость с AX Engine и качество не подтверждены измерениями; стандартный MLX-LM может выполнять только текстовый backbone без активации MTP. Сильной стороной является существенное сокращение объёма хранения по сравнению с полноточной моделью при сохранении отдельных важных тензоров в более высокой точности. Ограничения включают отсутствие опубликованных сравнений качества, тестов длинного контекста, скорости ядер и MTP, а также отсутствие валидированного native-манифеста AX Engine. Пакет имеет статус convertible и сопровождается данными о конвертации, но не является сертифицированным релизом AXQuant.

blendedmist-herm-7B-slerp — объединённая модель для генерации текста и диалогов, созданная автором rakataprime с помощью LazyMergekit. Она объединяет NousResearch/Nous-Hermes-2-Mistral-7B-DPO и NousResearch/Hermes-2-Pro-Mistral-7B методом slerp; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров, формат весов — safetensors, точность при объединении — bfloat16. Модель предназначена для диалогового взаимодействия и генерации текста по запросам. Контекстное окно составляет 32 768 токенов. В карточке не перечислены языки и прикладные области. Лицензия в предоставленных данных не указана.

Chichu 1.5 Flash — компактная языковая модель Sebastianpro88, дообученная методом LoRA на базе HuggingFaceTB/SmolLM2-135M-Instruct. Модель построена на плотной архитектуре семейства Llama, содержит около 134,5 млн параметров и использует контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, выполнения инструкций, написания кода, математических задач и рассуждений. Для обучения использованы трассы дистилляции от нескольких моделей-учителей по темам математики, кода, рассуждений, инструкций и работы с инструментами. В README указана поддержка английского языка, а генерация кода показана для Python и JavaScript. Веса опубликованы в формате safetensors. Лицензия обозначена как other; конкретные условия использования в предоставленных данных не раскрыты. Компактный размер ориентирован на быстрый запуск, но сам по себе не гарантирует точность: качество ответов и сложных рассуждений следует проверять на целевых задачах.

CogAgent-VQA — открытая визуально-языковая модель от команды Zhipu AI, улучшенная на основе CogVLM. Эта версия контрольной точки предназначена прежде всего для диалога по изображению в один ход и оценки на тестах визуальных вопросов и ответов, включая VQAv2 и MM-Vet. Модель принимает изображение высокого разрешения до 1120×1120 и текстовый вопрос, а в ответ генерирует текст; также заявлены возможности OCR и понимания интерфейсов веб-страниц, настольных и мобильных приложений. В README семейство описано как CogAgent-18B с 11 млрд визуальных и 7 млрд языковых параметров, тогда как метаданные этого репозитория указывают 6,6 млрд параметров, архитектуру CogAgentForCausalLM и контекст 2048 токенов. Поэтому размер конкретной опубликованной модели расходится с описанием семейства в карточке. Репозиторий содержит веса Safetensors и имеет лицензию Apache-2.0 в метаданных; README указывает, что для коммерческого использования требуется регистрация и соблюдение условий лицензии. Для GUI-агента, визуального заземления и многоходового диалога разработчики рекомендуют вариант cogagent-chat.

Это квантованные версии большой языковой модели Command A Plus, разработанной CohereLabs. Карточка содержит сборки в формате GGUF, подготовленные bartowski с использованием llama.cpp и метода imatrix на основе исходной модели CohereLabs/command-a-plus-05-2026-bf16. Модель предназначена для генерации текста, диалоговых и чат-сценариев, а также локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Модель поддерживает английский, русский и широкий набор других языков, включая арабский, китайский, японский, корейский, испанский, французский, немецкий, португальский, украинский и вьетнамский. Архитектура, точное число параметров, модальности и размер контекста в README не указаны. Доступны варианты квантования от Q3 и IQ3 до Q8_0 размером примерно от 102 до 232 ГБ; более высокие уровни квантования обычно сохраняют лучшее качество, но требуют больше памяти. Сборки рассчитаны на локальный inference, однако для новых моделей может потребоваться обновление используемого ПО. Сильной стороной является большой выбор квантованных вариантов с разным компромиссом между качеством и требованиями к памяти, включая рекомендованные Q4, Q5 и Q6-сборки. Ограничения — значительный объём файлов и отсутствие в карточке подробных сведений о производительности, тестах, архитектуре и контекстном окне. Указана лицензия Apache-2.0.

Citaman/command-r-28-layer — текстовая модель на архитектуре Cohere, созданная методом слияния SLERP из весов Citaman/command-r-29-layer. Конфигурация объединяет сдвинутые диапазоны слоёв 0–28 и 1–29; сохранённые веса имеют формат safetensors и точность bfloat16. Модель содержит 25,1 млрд параметров и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Подходит для чат-сценариев и генерации ответов на текстовые запросы. Языки в доступных сведениях не определены. Модель выпущена 16 апреля 2024 года. Условия лицензирования в предоставленной карточке не указаны. Поскольку это слияние весов с нестандартной перестановкой диапазонов слоёв, поведение и совместимость могут отличаться от исходной модели; оценок качества в карточке нет.

Cydonia-v1.2-Magnum-v4-22B-OLD — объединённая языковая модель на архитектуре Mistral, опубликованная пользователем knifeayumu. Она создана методом task arithmetic с помощью mergekit из TheDrummer/Cydonia-22B-v1.2 и anthracite-org/magnum-v4-22b с равными весами; размер модели — 22 млрд параметров, формат файлов — safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов, включая создание связной прозы на английском языке. Метаданные также отмечают интерфейс для вызова инструментов. Для использования доступны отдельные GGUF-квантизации, однако этот репозиторий содержит исходную объединённую модель в safetensors. Лицензия указана как other, поэтому перед применением следует проверить условия на странице модели.

Cymist2-v0.1-SFT — языковая модель команды Cypien AI для генерации текста и диалоговых сценариев на турецком и английском языках. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, дообученная на базе mistralai/Mistral-7B-v0.1 и доступная в формате safetensors для библиотеки Transformers. Контекст модели составляет 32 768 токенов. Модель предназначена для чат-ботов, виртуальных помощников и приложений общего назначения, включая сценарии поиска с дополненной генерацией (RAG). Она поддерживает турецкий и английский языки; в README указано обучение на разнообразных источниках на этих языках. Распространяется по лицензии Apache-2.0. Модель может унаследовать смещения из обучающих данных. Разработчик не рекомендует применять её в критически важных системах или там, где требуются специализированные знания за пределами общей генерации текста; точность ответов не гарантируется.

bartowski/DeepSeek-R1-GGUF — набор GGUF-квантизаций модели DeepSeek-R1, разработанной deepseek-ai и подготовленной bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и локального инференса, в том числе в LM Studio. Доступны варианты с разными уровнями квантизации — от Q8_0 до IQ1_M — чтобы выбирать между качеством ответов, требованиями к памяти и скоростью работы. В README не указаны точная архитектура исходной модели, число параметров, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому эти характеристики нельзя достоверно описать. Размер файлов зависит от варианта и составляет примерно от 133,56 до 713,29 ГБ; наиболее качественными и рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, тогда как варианты Q2 и Q1 заметно уступают по качеству, хотя некоторые из них остаются пригодными для использования. Квантизации подготовлены с использованием imatrix и llama.cpp release b4514. Модель распространяется по лицензии MIT. Для работы следует использовать указанный формат промпта и совместимое программное обеспечение, например llama.cpp или LM Studio. Ограничениями являются исключительно большие требования к дисковому пространству и памяти, а также возможное снижение качества при выборе более агрессивной квантизации.

DeepSeek-V4-Flash-0731-OptiQ-2bit — это 2-битная mixed-precision-квантизация базовой модели DeepSeek-V4-Flash-0731, подготовленная сообществом mlx-community с помощью MLX-native toolkit mlx-optiq. Модель предназначена для локального запуска и генерации текста на компьютерах Apple Silicon без PyTorch и облачных сервисов, включая задачи следования длинным спецификациям, рассуждений по текстовым правилам и генерации программного кода. Модель использует разреженную архитектуру Mixture-of-Experts с 304 млрд параметров, 43 слоями и 256 маршрутизируемыми экспертами, из которых для каждого токена активны 6. Контекстное окно составляет 1 048 576 токенов. Маршрутизируемые эксперты квантизированы до 2 бит, attention — до 6 бит, shared expert, embeddings и LM head — до 8 бит, MTP head — до 3 бит; итоговое значение составляет 2,43 bits per weight. Размер на диске — около 92,5 ГБ, а при работе маршрутизируемые эксперты потоково считываются с SSD, поэтому в памяти находится примерно 6,5 ГБ. На Mac с M3 Max заявлена скорость около 2,5 токена в секунду. Сильная сторона модели — возможность запустить чрезвычайно крупную MoE-модель на потребительском Apple Silicon с объёмом оперативной памяти от 16 ГБ. Она демонстрировала способность следовать длинной спецификации и создавать работоспособный одностраничный HTML-код. Ограничения связаны с экстремальной 2-битной квантизацией: она приводит к потере точности, а скорость зависит от производительности SSD. Показатели по стандартному набору бенчмарков для этой версии не опубликованы, поэтому для задач, где критична точность, рекомендуется использовать веса bf16 или более высокобитную квантизацию. Модель распространяется по лицензии MIT.

Dhee-NxtGen-Qwen3-Indic — многоязычная языковая модель DheeYantra, разработанная совместно с NxtGen Cloud Technologies Pvt. Ltd. Она основана на архитектуре Qwen3-4B и содержит 3,7 млрд параметров; модель предназначена для диалогов в формате ассистента, рассуждений и сценариев с вызовом функций в 14 индийских языках. Для работы с текстом поддерживает контекст длиной до 40 960 токенов. Модель генерирует текст на письме целевых языков и подходит для суммаризации, ответов на вопросы, учебных и государственных помощников, а также многоязычных диалоговых систем. Она доступна для Transformers и оптимизирована для инференса через vLLM. Лицензия Apache-2.0. Качество может различаться между языками; смешение языков в запросах может его снизить. Модель может ошибаться и галлюцинировать, поэтому не предназначена для медицинских, юридических и других критически важных применений. Для инференса через vLLM указаны требования к GPU с compute capability не ниже 8.0; V100 не поддерживается.

Карточка модели TMA-1/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

DPOpenHermes 7B GGUF — квантизированная версия языковой модели DPOpenHermes 7B, разработанной Open Access AI Collective и подготовленной в формате GGUF компанией TheBloke. Модель основана на архитектуре Mistral, предназначена для генерации текста и диалоговых сценариев, а также может использоваться локально через llama.cpp и совместимые интерфейсы и библиотеки. Указан английский язык; поддерживается шаблон диалога ChatML с системными и пользовательскими сообщениями. Модель имеет 7 миллиардов параметров. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, включая CPU+GPU-инференс, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Контекстное окно, точные требования к ресурсам и показатели качества в README не указаны. Модель обучалась с использованием наборов teknium/openhermes, argilla/ultrafeedback-binarized-preferences и Intel/orca_dpo_pairs. Сильными сторонами являются открытый формат, возможность локального запуска и широкий выбор уровней квантования. Ограничениями выступают преимущественно англоязычная специализация, отсутствие заявленных мультимодальных возможностей и неполная информация о производительности и контекстном окне. Лицензия — Apache-2.0.

ECE-ILAB-Yi1.5-6B-SLERP — плотная языковая модель для генерации текста и диалогов, полученная автором путём слияния моделей 01-ai/Yi-1.5-6B и 01-ai/Yi-1.5-6B-Chat методом SLERP с помощью mergekit. Она содержит 5,8 млрд параметров, использует архитектуру семейства Llama и поддерживает контекст до 4096 токенов. Модель рассчитана на текстовые запросы и ответы, включая чатовые сценарии. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_T3qm7xExperiment26 — объединённая методом SLERP модель семейства Mistral для генерации текста. Она создана на основе automerger/Experiment28M7-7B и automerger/T3qm7xExperiment26-7B и содержит 7,1 млрд параметров. Модель принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не уточняет специализацию по языкам или прикладным областям. Лицензия — Apache-2.0.