I.11Классификация, ранжирование и сопоставление

14B-Qwen2.5-Freya-x1-GGUF — это GGUF-квантизированная версия текстовой генеративной модели 14B-Qwen2.5-Freya-x1, разработанной Sao10K. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может применяться в локальных сценариях инференса, включая запуск через LM Studio. Модель имеет размер 14B параметров и поставляется в вариантах от F16 до низкобитных квантований Q2 и Q3, что позволяет выбирать между качеством ответов и требованиями к оперативной памяти. Доступны форматы Q4, Q5, Q6 и Q8, при этом в README рекомендуются некоторые варианты Q4–Q6 как обеспечивающие хороший или очень высокий уровень качества. Указан шаблон промпта в формате ChatML. Модальность — текстовая; сведения о поддерживаемых языках и размере контекстного окна в README отсутствуют. Сильная сторона модели — широкий выбор квантований для локального запуска на оборудовании с разными ограничениями по памяти, а также применение imatrix-квантизации. Более компактные варианты экономят память, но могут заметно уступать старшим версиям по качеству. Лицензия обозначена как qwen/other; в README приведена ссылка на лицензию Qwen/Qwen2.5-14B, однако конкретные условия использования следует уточнять по этому документу.

Это исследовательская резервная копия контрольной точки авторегрессионной языковой модели семейства Qwen2, опубликованная в стандартном формате Hugging Face для загрузки через Transformers. Модель содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в репозитории также отмечен интерфейс вызова инструментов. Карточка не описывает специальную предметную область, обучение или оценку качества, поэтому применимость к конкретным сценариям по этим данным определить нельзя. Веса представлены в формате safetensors. Сведения о лицензии и поддерживаемых естественных языках не приведены.

AI21-Jamba-Mini-1.7-GGUF — это квантованная версия языковой модели AI21-Jamba-Mini-1.7, разработанной AI21 Labs и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4 и Q3, включая форматы IQ. Размер файлов составляет примерно от 21 до 103 ГБ; более крупные варианты обычно обеспечивают лучшее качество, а компактные требуют меньше оперативной памяти. Для работы необходимо использовать указанный шаблон промпта со специальными токенами системного, пользовательского и ассистентского сообщений. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно определить по представленным данным. Сильной стороной модели является широкий выбор квантований для различных аппаратных ограничений и совместимость с популярными инструментами локального инференса. При этом качество и требования к памяти зависят от выбранного варианта, а низкобитные версии могут заметно уступать более точным. Модель распространяется по лицензии Jamba Open Model License; для точных условий следует обращаться к тексту лицензии AI21 Labs.

aya-expanse-8b-GGUF — это GGUF-квантизация языковой модели aya-expanse-8b, разработанной CohereForAI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и других языках: английском, французском, немецком, испанском, итальянском, португальском, японском, корейском, китайском, арабском, греческом, персидском, польском, индонезийском, чешском, иврите, хинди, нидерландском, румынском, турецком, украинском и вьетнамском. В репозитории доступны варианты от исходных весов F16 размером 16,07 ГБ до квантизаций Q8_0, Q6, Q5, Q4 и Q3, а также IQ-вариантов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для запуска рекомендуется использовать llama.cpp или LM Studio; для модели указан специальный шаблон промпта с токенами ролей системы, пользователя и чат-бота. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других модальностей. Сильная сторона модели — широкий набор поддерживаемых языков и наличие множества вариантов квантизации, включая рекомендуемые Q6_K_L, Q6_K, Q5 и Q4, а также оптимизированные под ARM форматы. Качество снижается при использовании более компактных Q3-вариантов, а некоторые форматы имеют специальные требования к аппаратным инструкциям или не рекомендуются для macOS и Windows. Модель распространяется по лицензии CC-BY-NC-4.0 и предназначена только для некоммерческого использования; доступ к исходной модели может требовать согласия с условиями лицензии и предоставления данных через gated-доступ.

Beaglake-7B — диалоговая модель генерации текста, созданная shadowml путём слияния shadowml/BeagleX-7B и macadeliccc/WestLake-7B-v2-laser-truthy-dpo с помощью LazyMergekit и метода SLERP. Это плотная причинно-языковая модель архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате safetensors и сохранены в bfloat16. Модель предназначена для диалога и генерации ответов на текстовые запросы. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

blossom-v3-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста, созданная путём слияния Mistral-7B-Instruct-v0.1 и Azure99/blossom-v3-mistral-7b методом SLERP. Она рассчитана на ответы на инструкции и диалоговые запросы; в метаданных также указаны наборы данных для чата, математики и следования инструкциям. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Поддерживаемые по карточке языки — китайский и английский. Модель принимает текст и генерирует текст. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Карточка не приводит сравнительных оценок качества или подробных ограничений применения, поэтому пригодность для конкретных задач стоит проверять на собственных примерах.

Chocolatine-14B-Instruct-DPO-v1.3 — диалоговая языковая модель на 14,1 млрд параметров, разработанная Jonathan Pacifico на основе Microsoft Phi-4. Модель дообучена методом DPO на наборе jpacifico/french-orca-dpo-pairs-revised; автор сообщает об улучшении результатов на французском языке и в целом относительно базовой модели. Она предназначена для генерации текста и ведения диалогов на французском и английском языках, а также может применяться для задач рассуждения, математики и программирования, поддерживаемых базовой Phi-4. Модель использует плотную архитектуру семейства Phi-3 и принимает контекст до 16 384 токенов. В README приведены результаты на OpenLLM Leaderboard и MT-Bench-French, но они зависят от методики оценки и не гарантируют качество в конкретном сценарии. У модели нет механизма модерации. Лицензия — MIT.

CLM-1B-DARE — компактная языковая модель на архитектуре Llama, созданная слиянием весов через mergekit методом DARE TIES. В качестве основы использована meta-llama/Llama-3.2-1B-Instruct; в слияние также вошли FuseAI/FuseChat-Llama-3.2-1B-SFT и ai-nexuz/llama-3.2-1b-instruct-fine-tuned. Модель содержит около 1,2 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и помощь в написании. Метаданные отмечают интерфейс вызова инструментов; сама возможность зависит от поддерживающей его обвязки. Репозиторий использует формат safetensors, а в конфигурации слияния указан тип данных bfloat16. Модель опубликована под лицензией Llama 3.2 Community License.

Dolphin-Mistral-24B-Venice-Edition-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin-Mistral-24B-Venice-Edition, разработанной cognitivecomputations. Квантизации подготовлены пользователем bartowski с помощью llama.cpp версии b5835 и метода imatrix. Модель предназначена для локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp, а также для генерации текста по заданному системному промпту и пользовательскому запросу. Размер исходной модели составляет 24 млрд параметров; доступны варианты от BF16 размером 47,15 ГБ до более компактных квантовок Q3 и Q4, а также Q5, Q6 и Q8. В README указана только текстовая модальность и формат взаимодействия через системный промпт и инструкцию. Контекстное окно, поддерживаемые языки, конкретные обучающие данные и результаты независимого тестирования не указаны. Основное преимущество набора — широкий выбор уровней квантизации, позволяющий выбирать между качеством генерации, размером файла и требованиями к памяти. В README варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. Ограничения включают зависимость характеристик от выбранной квантовки и отсутствие подробных сведений о качестве, языках и контексте. Лицензия модели указана как Apache-2.0.

Citaman/command-r-15-layer — текстовая модель, созданная с помощью mergekit из двух срезов модели Citaman/command-r-16-layer методом SLERP. В конфигурации объединения использованы слои [0, 15] и [1, 16] одной базовой модели; веса сохранены в формате safetensors, тип данных — bfloat16. Модель построена на архитектуре CohereForCausalLM и содержит 14,4 млрд параметров. Она предназначена для генерации текста и диалогов, включая сценарии с интерфейсом вызова инструментов. Контекст составляет до 8192 токенов. В карточке нет сведений о конкретных языках и специализированных прикладных областях. Модель может быть полезна для диалоговых приложений и генерации текста с подключением инструментов. Поскольку это объединение срезов одного чекпойнта, README не сообщает о сравнительных оценках качества или специальных улучшениях. Лицензия в предоставленных данных не указана.

DatacampLlama-3.1-8B-GGUF — набор GGUF-квантизированных версий модели DatacampLlama-3.1-8B, опубликованной mlabonne. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска, в частности через llama.cpp и LM Studio; в README заявлена поддержка английского языка и формат чата с ролями system, user и assistant. Модель относится к семейству Llama 3.1 и имеет размер 8B параметров. Доступны варианты от исходных весов F16 размером около 16,07 ГБ до компактных форматов Q2 и IQ3 размером примерно 3,66–4,78 ГБ, а также более качественные варианты Q4–Q8. Высокие уровни квантизации обеспечивают лучшее сохранение качества, тогда как компактные версии требуют меньше оперативной памяти, но могут заметнее уступать в качестве генерации. Отдельные варианты оптимизированы для CPU и ARM-инференса. README не указывает размер контекста, мультимодальные возможности, результаты бенчмарков или подробности обучения, поэтому модель следует рассматривать как текстовую, без подтвержденной поддержки изображений и других модальностей. Лицензия — Apache 2.0.

DeepSeek-R1-Distill-Qwen-32B-abliterated-GGUF — это набор квантизированных версий текстовой генеративной модели DeepSeek-R1-Distill-Qwen-32B-abliterated. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходную модель разработала huihui-ai. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая LM Studio и llama.cpp. Модель содержит около 32 миллиардов параметров и распространяется в формате GGUF с вариантами от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, включая IQ-варианты. Размер файлов составляет примерно от 15,94 до 65,54 ГБ в зависимости от варианта. README не указывает поддерживаемые языки, размер контекстного окна и мультимодальные возможности, поэтому подтверждено только текстовое применение. Ключевые преимущества — широкий выбор вариантов квантизации, возможность локального запуска и сохранение высокого качества у версий Q6 и Q5; Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Более компактные версии подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество. Модель помечена как abliterated и uncensored, однако подробные характеристики, ограничения и лицензия в README не указаны.

mlx-community/dolphin-vision-72b-4bit — 71,5-миллиардная мультимодальная чат-модель семейства LLaVA-Qwen2, преобразованная сообщественным проектом mlx-community в формат MLX из cognitivecomputations/dolphin-vision-72b. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям и общих задач генерации текста. Модель основана на Qwen/Qwen2-72B, дообученной на инструкционных и диалоговых данных, включая Dolphin, OpenHermes, наборы для программирования, математики и вызова функций. Заявленная длина контекста — 131 072 токена. Репозиторий предназначен для использования с mlx-vlm на устройствах Apple, а веса представлены в 4-битном варианте. README ссылается на исходную карточку для подробностей; метаданные указывают лицензию как other, поэтому конкретные условия следует уточнять в исходной карточке и файлах лицензии. Качество ответов по изображениям и поддержка отдельных возможностей зависят от исходной модели и реализации; это крупная модель, требующая значительных ресурсов.

DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.2 и DPOpenHermes-7B-v2 методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель построена на архитектуре Mistral с плотной архитектурой и содержит 7,1 млрд параметров. Она работает с текстом, поддерживает чат и принимает контекст длиной до 32 768 токенов. В репозитории доступны веса в формате Safetensors. Модель подходит для диалоговых помощников и генерации ответов по пользовательским инструкциям. Карточка не приводит отдельных оценок качества или специальных ограничений. Лицензия — Apache-2.0.

Elysium-Omni-11b — объединённая диалоговая модель для генерации текста, созданная powermove72 с помощью LazyMergekit. Она объединяет Elysium-Omni-Itt-11b и SoMix2-xb линейным слиянием с весами 0,8 и 0,2 соответственно. Модель построена на плотной архитектуре Mistral с 11 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалогов и генерации ответов на текстовые запросы. В репозитории указаны веса Safetensors; конфигурация слияния использует float16. Лицензия в доступных данных не указана.

Experiment26Neuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста, включая диалоги; длина контекста — до 32 768 токенов. Модель предназначена для генерации продолжений, ответов и диалоговых реплик. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Сведения о специализации по языкам и прикладным областям в карточке не приведены.

CallComply/gemma-2-27b-it — текстовая инструкционная модель семейства Gemma 2 от Google, представленная в формате safetensors и предназначенная для диалоговой генерации. Это плотная decoder-only языковая модель с 27,6 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст. Карточка описывает семейство Gemma как англоязычное, а отдельные сведения о дообучении именно этой версии не приведены. Модель подходит для чат-ботов и виртуальных помощников, ответов на вопросы, суммаризации и создания черновиков текстов. Указанные ограничения включают возможные фактические ошибки, устаревшие сведения, смещения в ответах и трудности с неоднозначностью и сложными инструкциями. Для использования действует лицензия Gemma.

mlx-community/gemma-2-27b-it-4bit — 4-битная квантованная версия модели Gemma 2 27B, преобразованная сообществом mlx-community из google/gemma-2-27b-it в формат MLX с помощью mlx-lm 0.15.0. Исходную модель разработала Google. Модель предназначена для генерации текста и диалогового взаимодействия с инструкциями. Модель содержит 27,6 млрд параметров и поддерживает контекст длиной до 8192 токенов. Она рассчитана на работу в экосистеме MLX и может использоваться через библиотеку mlx-lm; в метаданных также указана совместимость с Transformers. Ключевое преимущество — 4-битное представление, уменьшающее требования к памяти по сравнению с полноразмерной моделью. Модель подходит для ответов на вопросы, диалогов, написания и преобразования текста, а также локального запуска генеративной модели на совместимом оборудовании Apple. Ограничения включают возможные ошибки, галлюцинации и зависимость качества от формулировки запроса; README не содержит подробных результатов оценки. Использование регулируется лицензией Gemma, для доступа на Hugging Face требуется принять условия лицензии Google.

Gemma 4 12B IT GGUF — квантизированная версия инструкционно дообученной модели google/gemma-4-12B-it, подготовленная bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель относится к классу image-text-to-text и предназначена для обработки запросов с текстом и изображениями, а также генерации ответов в диалоговых и прикладных сценариях, поддерживаемых исходной моделью и используемым программным обеспечением. Доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 5,3 до 23,8 ГБ. Более высокие уровни квантования сохраняют качество, но требуют больше памяти; низкие позволяют запускать модель на менее производительном оборудовании ценой снижения качества. Репозиторий ориентирован на локальный запуск через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Формат prompt использует специальные токены Gemma. В README не указаны архитектурные детали, длина контекста, поддерживаемые языки, точный перечень мультимодальных возможностей и результаты бенчмарков, поэтому эти характеристики нельзя надёжно оценить по представленным данным. Для использования следует учитывать совместимость конкретного инструмента с моделью и выбранным вариантом квантования. В метаданных указана лицензия Apache 2.0 и приведена отдельная ссылка на лицензию Gemma.

gemma-4-31B-it-GGUF — это набор статически квантизированных моделей в формате GGUF на базе google/gemma-4-31B-it. Репозиторий подготовлен пользователем giladgd для запуска через node-llama-cpp и llama.cpp. Модель относится к классу instruction-tuned и предназначена для диалогового взаимодействия и задач image-text-to-text, однако подробные сведения о поддерживаемых языках и возможностях обработки изображений в README не приведены. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и BF16. Размер файлов составляет от 11,9 до 61,4 ГБ; более лёгкие варианты требуют меньше памяти, но могут сильнее уступать по качеству исходной модели, тогда как BF16 обеспечивает наиболее близкое к исходному представление при значительно больших требованиях к ресурсам. Архитектура, максимальный контекст и точное число параметров в README явно не описаны, кроме обозначения 31B в идентификаторе базовой модели. Модель можно использовать локально через node-llama-cpp или llama.cpp, включая CLI и серверный режим. Основные ограничения связаны с большими требованиями к дисковому пространству и оперативной или видеопамяти, особенно для высокоточных вариантов, а также с возможными потерями качества при агрессивной квантизации. Указана лицензия Apache 2.0; для Gemma также приведена отдельная ссылка на условия лицензии Google.

GenStructDolphin-7B-Slerp — объединённая языковая модель автора artificialguybr, созданная с помощью LazyMergekit на основе NousResearch/Genstruct-7B и cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Это плотная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; она предназначена для генерации текста и диалогового взаимодействия. Модель можно применять для ответов в чате, подготовки инструкций и сложных вопросов по текстовым корпусам, а также для создания синтетических обучающих данных. Описание не сообщает результатов оценки качества или специальных гарантий поведения. Лицензия в предоставленных данных не указана.

GLM-4.5-Air-GGUF — квантованная версия модели GLM-4.5-Air, опубликованная организацией ggml-org. Исходная модель разработана zai-org. Формат GGUF предназначен для локального запуска и совместим с инструментами экосистемы llama.cpp; в карточке также указан запуск через llama.app. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев работы с текстовыми запросами. В доступных данных не указаны точная архитектура, количество параметров, поддерживаемые языки, размер контекстного окна, набор модальностей и конкретные результаты тестирования, поэтому оценить её производительность и область применения более детально невозможно. Квантование может снизить требования к памяти, однако потенциально сопровождается потерей качества по сравнению с исходной моделью. Модель автоматически конвертирована с использованием инструмента ggml-org/convert. Лицензия — MIT, если условия исходной модели не устанавливают дополнительных ограничений.

MaziyarPanahi/GLM-4.6V-Flash-GGUF — это набор файлов модели в формате GGUF для оригинальной модели GLM-4.6V-Flash, разработанной zai-org и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска в совместимых приложениях и библиотеках. Основная характеристика репозитория — поддержка нескольких уровней квантизации: 2-, 3-, 4-, 5-, 6- и 8-битной. Формат GGUF ориентирован на использование с llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими решениями для локального вывода, в том числе с GPU-ускорением. Это позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. README не содержит сведений об архитектуре, размере модели, поддерживаемых языках и модальностях, длине контекста, результатах оценки или ограничениях исходной GLM-4.6V-Flash. Лицензия в предоставленных данных также не указана, поэтому условия использования следует уточнять в карточке оригинальной модели и соответствующих файлах репозитория.

GML-Mistral-merged-v1 — плотная языковая модель семейства Mistral, опубликованная пользователем zyh3826. Это объединение моделей quantumaikr/quantum-v0.01 и mncai/mistral-7b-dpo-v5, выполненное методом passthrough с помощью mergekit; веса сохранены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и принимает текстовые запросы. В метаданных указан размер 8,9 млрд параметров и контекстное окно до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает языки, специальные предметные области или сравнительные результаты, поэтому назначение модели следует считать общим; качество ответов и поддержка конкретных сценариев в предоставленных данных не оценены.

Карточка модели second-state/gpt-oss-120b-GGUF на Hugging Face совпадает с карточкой egoriow/gpt-oss-120b-GGUF, поэтому описание составлено по ней. egoriow/gpt-oss-120b-GGUF — квантованная в формате GGUF версия модели openai/gpt-oss-120b, размещённая egoriow. Это разговорная текстовая модель для генерации ответов и ведения диалога; README указывает на запуск через LlamaEdge, а метаданные отмечают поддержку чата и архитектуру GPT-OSS типа MoE. В метаданных указаны 2,1 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст. Репозиторий содержит варианты GGUF и GGUF F16; лицензия — Apache-2.0. Карточка называет исходной моделью openai/gpt-oss-120b, но конкретные характеристики качества и ограничения применения не описывает.

MaziyarPanahi/gpt-oss-20b-Derestricted-GGUF — это набор файлов модели в формате GGUF для ArliAI/gpt-oss-20b-Derestricted. Исходную модель разработала ArliAI, а конвертацию и публикацию GGUF-файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Сведения об архитектуре, размере контекста, поддерживаемых языках и мультимодальности в README не указаны. Лицензия также не указана, поэтому условия использования по этим данным определить нельзя.

Это GGUF-представление модели openai/gpt-oss-20b, подготовленное FreedomAISVR с квантованием MXFP4_MOE для запуска через совместимые инструменты, например llama.cpp. Модель относится к семейству GPT-OSS, использует архитектуру смеси экспертов и содержит 20,91 млрд параметров; файл весов занимает 11,28 ГиБ. Веса экспертных FFN-блоков представлены в MXFP4, веса внимания — в Q8_0, а параметры маршрутизатора, нормализации и смещений — в F32. Модель предназначена для генерации текста и диалогового использования. По карточке заявлена поддержка запуска на GPU или CPU, без требования к архитектуре NVIDIA Blackwell. Квантование сокращает размер весов, но может повлиять на качество вывода относительно исходной модели. Репозиторий распространяется по лицензии Apache-2.0.

Grafted-Hermetic-Platypus-A-2x7B — чат-модель семейства Mixtral, созданная объединением Platyboros-Instruct-7B и Hermes-Instruct-7B-v0.2. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы; карточка приводит форматы запросов Mistral-Instruct и Alpaca. Модель имеет архитектуру Mixtral с разреженной смесью экспертов (MoE), около 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. В README приведены результаты Open LLM Leaderboard, включая среднее значение 64,23, но эти оценки сами по себе не гарантируют качество в конкретном сценарии. Модель распространяется по лицензии Apache-2.0.

Hermes-3-Llama-3.1-8B-MLX — англоязычная диалоговая модель семейства Llama 3.1 с плотной архитектурой LlamaForCausalLM и 7,5 млрд параметров. Репозиторий mlx-community содержит версию модели в формате MLX, преобразованную из NousResearch/Hermes-3-Llama-3.1-8B с помощью mlx-lm 0.23.2. Модель предназначена для генерации текста в диалоге, следования инструкциям и взаимодействия с инструментами. Она поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. В метаданных указана лицензия llama3; для запуска README описывает использование mlx-lm.

DevQuasar/huihui-ai.GLM-4-32B-0414-abliterated-GGUF — это квантованная версия модели huihui-ai/GLM-4-32B-0414-abliterated, опубликованная проектом DevQuasar. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется локальный запуск квантованной языковой модели. Из README известно, что исходная модель относится к семейству GLM-4 и имеет размер 32B параметров. Формат GGUF указывает на подготовку к использованию в совместимых средах локального инференса, однако конкретный тип квантования, требования к памяти, размер контекста, поддерживаемые языки и модальности в предоставленных данных не указаны. Также отсутствуют сведения о результатах тестирования, сильных сторонах и ограничениях модели. Лицензия и точные условия использования в README не указаны; перед применением необходимо проверить их для исходной и квантованной моделей.