I.11Классификация, ранжирование и сопоставление

Guile/Qwen3.8-27B-Uncensored-GGUF — это набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный автором Guile. Модель предназначена для генерации текста и запуска в llama.cpp, включая локальный инференс, а также сценарии со speculative decoding и обработкой изображений при использовании vision-файлов. Поведение отказов существенно снижено с помощью метода abliteration на базе Heretic, но не устранено полностью; дополнительное обучение и новые данные не использовались. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Поддерживаются английский и китайский языки. README указывает наличие vision-компонентов, однако применение изображений зависит от поддержки vision tower базовой моделью и совместимости runtime. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ, а также отдельные draft-варианты для speculative decoding. Сохранённая MTP-голова может ускорять генерацию, но после изменения основной модели коэффициент принятия draft-токенов может немного снизиться; на качество проверяемых токенов это не должно влиять. Сильные стороны модели — большой контекст, поддержка текста и изображений в соответствующих сборках, широкий выбор квантизаций и сохранённая MTP-голова. Ограничения включают неполное устранение отказов, требования к значительным ресурсам и зависимость vision- и speculative-decoding-сценариев от возможностей конкретного runtime. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций модели Qwen3.8-27B, опубликованный lactroiii на базе модели Qwen/Qwen3.8-27B от Qwen. Модель предназначена для генерации текста, диалоговых приложений и локального запуска через llama.cpp. Поведение отказов существенно снижено, но не устранено; основные возможности, обучающие данные и архитектура базовой модели сохранены. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Заявлена поддержка английского и китайского языков, а также визуального ввода при наличии vision tower в базовой модели. Доступны варианты IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, включая конфигурации со встроенной или отдельной MTP draft-моделью для speculative decoding. К сильным сторонам относятся большое контекстное окно, поддержка текста и изображений, несколько уровней квантизации и сохранённая MTP-голова для потенциального ускорения генерации. Измерения perplexity показывают близкое к f16 качество для большинства вариантов, тогда как IQ2_M заметно уступает остальным. Снижение отказов не является полным и может влиять на профиль безопасности модели. Для использования требуется совместимый runtime, например llama.cpp; лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная в формате GGUF для использования с llama.cpp. Модель предназначена для генерации текста, локального запуска и сценариев, где важны различные уровни квантизации, включая работу со speculative decoding благодаря сохранённой голове multi-token prediction (MTP). Доступен вариант с поддержкой изображений, если это предусмотрено базовой моделью. Модель имеет архитектуру Qwen3_5ForConditionalGeneration, 64 слоя, словарь из 248 320 токенов, один MTP-слой и контекст до 262 144 токенов. Заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, а также варианты с объединённой MTP-головой и отдельными целевой и draft-моделями. По сравнению с исходной моделью существенно снижено поведение отказа от ответа, но оно не устранено полностью; при этом возможности, обучающие данные и архитектура базовой модели не изменялись. Сильными сторонами являются большой контекст, поддержка MTP для ускорения инференса, несколько вариантов размера файлов и сохранение качества при большинстве квантизаций. Ограничения включают возможное небольшое снижение доли принятых токенов при speculative decoding, зависимость от совместимости используемого runtime и отсутствие в README подробных сведений о фактических показателях рассуждения, программирования и мультиязычных возможностей. Распространение указано по лицензии Apache-2.0.

Qwen3.8-35B-A3B-Distill GGUF — это набор общественных GGUF-квантизаций текстовой MoE-модели empero-ai/Qwen3.8-35B-A3B-Distill, подготовленный пользователем ngquocvinh. Модель предназначена для локальной генерации текста с помощью llama.cpp и совместимых сред. Это неофициальный релиз Qwen3.8 и не результат дополнительного обучения или дообучения. Исходная модель содержит 35 млрд параметров, из которых примерно 3 млрд активируются для каждого токена, использует 256 экспертов и маршрутизацию к 8 экспертам. Архитектура включает гибридные компоненты внимания, а заявленная длина контекста в конфигурации исходной модели составляет 262 144 токена. В карточке указана поддержка английского языка и текстовой модальности. Доступны варианты квантизации от Q8_0 размером около 35,22 GiB до IQ2_XS размером около 10,01 GiB, что позволяет выбирать между качеством и требованиями к памяти. Сильной стороной релиза является возможность запуска крупной MoE-модели локально на совместимом оборудовании, а также наличие измерений отклонения квантизированных вариантов от BF16-источника. Q4_K_M обозначен как практичный баланс качества и потребления памяти; варианты Q3_K_M, Q2_K и IQ2_XS имеют существенно большее отклонение и считаются экспериментальными. Поддержка длинного контекста, вызова инструментов и других специализированных функций зависит от исходной модели и используемой среды, поэтому требует отдельной проверки. Релиз распространяется по лицензии Apache-2.0, унаследованной от исходной модели. Квантизации являются общественным проектом и не означают официального одобрения со стороны авторов исходной модели.

keXjos/Qwen3.8-9B-mlx-4Bit — языковая модель для генерации текста, преобразованная в формат MLX из базовой модели empero-ai/Qwen3.8-9B с использованием mlx-lm 0.31.2. Разработчик конвертации — keXjos; исходную модель разработала команда empero-ai. Модель предназначена для запуска и генерации текста через библиотеку mlx-lm, включая диалоговые сценарии при наличии совместимого chat template. Модель имеет размер 9B параметров и 4-битное представление, ориентированное на эффективное выполнение в MLX. В карточке заявлены поддержка английского языка, reasoning, function-calling и обучение методом SFT, однако подробности архитектуры, длины контекста, фактической поддержки модальностей и количественные показатели качества не указаны. MLX-формат и 4-битная квантизация могут быть сильными сторонами для локального запуска на совместимом оборудовании, но могут ограничивать точность по сравнению с полноразмерными вариантами. Модель распространяется по лицензии Apache-2.0.

agentionai/Qwen3.8-Flash-Next-AP-GGUF — набор квантизированных GGUF-вариантов базовой модели Qwen/Qwen3.8-Flash-Next, подготовленный AgentionAI. Модель предназначена для генерации текста и запуска через совместимые с mainline llama.cpp инструменты, включая локальный инференс при ограниченном объёме видеопамяти. Для работы с изображениями доступен отдельный vision projector mmproj-F16.gguf. Доступны варианты AP-Q5_K_XL, AP-Q5_K_M, AP-Q4_K_XL, AP-Q4_K_M, AP-IQ4_XS, AP-IQ3_XXS и AP-IQ2_S с эффективной разрядностью примерно от 3,69 до 5,46 бит на вес. Объём требуемой VRAM составляет около 49,21–76,75 GiB в зависимости от варианта. Архитектура включает таблицу n-грамм размером 51,2 млрд параметров, которую можно выгружать в системную RAM; это снижает требования к VRAM, но требует дополнительной оперативной памяти. Для сбалансированного качества и размера рекомендуется AP-Q4_K_XL, а AP-IQ2_S предназначен для систем с минимальным доступным объёмом VRAM. К сильным сторонам относятся оптимизация точности на каждый гигабайт VRAM, измеренные различия между вариантами на отложенном корпусе и совместимость со стандартными типами GGUF без отдельного форка llama.cpp. Ограничения включают высокие аппаратные требования, зависимость качества от выбранного уровня квантизации и отсутствие в README сведений о языках и максимальном контексте. Лицензия указана как qwen-community-1.0; модель распространяется по лицензии other, а файл условий доступен в репозитории.

cygnal/Qwen3.8-Flash-Next-Heretic2-IQ4XS-Halogen — это квантованная GGUF-сборка Qwen3.8-Flash-Next, подготовленная для Halogen Flash Server разработчиком cygnal. Исходные веса модели прошли abliteration методом direction-removal в Heretic v1.3.0, затем были переквантованы в смешанном формате: преимущественно IQ4_XS для экспертных весов, Q8_0 для плотных слоёв и IQ4_NL для per_layer_token_embd.weight. Архитектура qwen4exp использует гибрид DeltaNet, SSM и attention; заявлено около 166 млрд параметров всего и 27 млрд активных на токен. Модель предназначена для диалоговой генерации текста и может принимать изображения при подключении отдельного vision tower. Сборка оптимизирована для Halogen Flash Server и AMD Strix Halo с ROCm; в README приведены измерения производительности на Radeon 8060S и требования примерно к 117 ГБ объединённой памяти. Видео не поддерживается. Для использования нужны совместимые сервер и аппаратное обеспечение; vision tower и MTP head поставляются отдельно. Лицензия — Apache-2.0.

wangkanai/qwen3-vl-4b-instruct — мультимодальная модель на 4 млрд параметров, основанная на Qwen3-VL-4B-Instruct команды Qwen в Alibaba Cloud. В репозитории представлены веса SafeTensors и GGUF FP16; карточка описывает версию как abliterated. Лицензия — Apache-2.0. Модель принимает текст и изображения, а также предназначена для понимания видео. Она подходит для визуальных вопросов и ответов, OCR, анализа сцен и временных событий, рассуждений по изображениям, генерации кода интерфейсов и взаимодействия с графическими интерфейсами. В карточке заявлены 256K токенов контекста с возможностью расширения до 1M, OCR на 32 языках, пространственное рассуждение и привязка событий видео к временным меткам. Архитектура включает визуальный энкодер DeepStack на основе ViT и позиционное кодирование Interleaved-MRoPE. Для инференса указаны требования от 12 ГБ видеопамяти и 16 ГБ системной памяти для FP16; результаты и скорость зависят от оборудования и настроек. Заявленные возможности OCR и пространственного анализа приведены в README и не сопровождаются здесь независимыми оценками качества.

Sakalti/QwenPass-4 — объединённая методом passthrough языковая модель на архитектуре Qwen2, созданная Sakalti с помощью mergekit на основе Sakalti/light-7b-beta. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель содержит 3,8 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В репозитории представлены веса в формате safetensors для библиотеки Transformers. Лицензия — Apache-2.0.

Qwen-VL-Chat — диалоговая визуально-языковая модель семейства Qwen, разработанная Alibaba Cloud. Репозиторий содержит чат-версию модели с 11,4 млрд параметров; архитектура плотная, класс QWenLMHeadModel, формат весов — PyTorch, контекст — до 8192 токенов. Модель принимает изображения, текст и рамки объектов и выдаёт текст и рамки объектов. Поддерживает диалог на китайском и английском языках, в том числе с несколькими изображениями в переплетённом диалоге. Модель предназначена для описания изображений, визуальных вопросов и ответов, распознавания текста на изображениях, вопросов по документам и диаграммам, а также локализации объектов по текстовому описанию. В README описана версия Int4 на базе AutoGPTQ с меньшим потреблением видеопамяти и ускоренным выводом; метаданные этого репозитория указывают формат PyTorch. Лицензия в предоставленных данных не указана.

samantha-mistral-instruct-7b-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.1 и cognitivecomputations/samantha-mistral-instruct-7b методом SLERP. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров; модель принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговых ассистентов, ответов на инструкции, вопросов и ответов и генерации текста в интерактивных сценариях. Репозиторий распространяется в формате safetensors, лицензия — Apache-2.0. Метаданные указывают поддержку чата; дополнительных специализированных задач карточка не заявляет.

Tencent Sequential-Hidden-Decoding-8B-n8-Instruct — дообученная для следования инструкциям и диалогов модель генерации текста на архитектуре Qwen3. Она использует Sequential Hidden Decoding: несколько матриц эмбеддингов для одной последовательности чередуются, формируя расширенную последовательность для обработки тем же трансформером; вариант n=8 имеет масштабирование последовательности 8×. Модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговых сценариев и выполнения инструкций. Для инференса требуется версия SGLang с патчами, а также пользовательский код архитектуры из репозитория и параметр trust_remote_code. README указывает тип данных bfloat16 и рекомендует настройки запуска, рассчитанные на стабильность и производительность при обработке расширенных последовательностей. В метаданных базовыми компонентами указаны Qwen/Qwen3-8B-Base и tencent/Sequential-Hidden-Decoding-8B-n8; происхождение классифицировано как слияние. Лицензия обозначена как other, поэтому конкретные условия следует проверять в репозитории модели.

Steelskull_L3.3-Electra-R1-70b-GGUF — это квантизированная версия языковой модели L3.3-Electra-R1-70b, разработанной Steelskull и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель имеет размер 70 миллиардов параметров и поддерживает текстовый сценарий работы. В README приведён специальный шаблон запросов с системными и пользовательскими сообщениями, совместимый с форматом токенов модели. Доступны варианты квантизации Q2–Q8 и IQ, размером примерно от 27 до 75 ГБ; для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K. Квантизация выполнена с использованием imatrix и датасета, указанного автором сборки. Сильной стороной являются высокое качество крупных вариантов квантизации и возможность локального запуска без обращения к облачным сервисам. Ограничения включают значительные требования к оперативной памяти или видеопамяти, а также возможное снижение качества в компактных вариантах. Языки, размер контекста, точная архитектура, мультимодальные возможности и результаты оценки в README не указаны. Лицензия модели также не указана, поэтому условия использования следует уточнять в репозитории исходной модели.

supergemma4-e4b-abliterated-GGUF — это квантованное распространение модели Jiunsong/supergemma4-e4b-abliterated, подготовленное mradermacher в формате GGUF. Модель относится к семейству Gemma, ориентирована на генерацию текста и instruction-tuned-сценарии, а также заявляет поддержку tool calling и структурированного вывода. В метаданных указан английский язык. Модель предназначена для локального запуска и интеграции с совместимыми средами инференса, включая инструменты для работы с GGUF и vLLM. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 4,5 до 15,2 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Ключевое преимущество — широкий выбор квантований, позволяющий адаптировать требования к памяти, скорости и качеству. Более агрессивные варианты могут снижать качество генерации; для Q3_K_M это указано отдельно. Размер контекста, точная архитектура, количество параметров, мультимодальные возможности и подробные результаты оценки в README не указаны. Лицензия обозначена как gemma.

T3qm7xNeuralsirkrishna_Experiment28Experiment26 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Experiment26-7B. Она предназначена для генерации текста и диалогов; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

THUDM_GLM-4-9B-0414-GGUF — это квантизированная версия языковой модели GLM-4-9B-0414, разработанной командой THUDM. Конвертацию и квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит около 9 млрд параметров, поддерживает китайский и английский языки и распространяется в формате GGUF. Доступны варианты от bf16 до низкобитных Q2–Q8-квантизаций с размером файлов примерно от 4,2 до 18,8 ГБ. Более качественные варианты Q5–Q8 обеспечивают близкое к исходной модели качество, тогда как Q3 и Q2 экономят память, но снижают качество. В README размер контекстного окна, архитектура и поддерживаемые модальности не указаны; по приведённому формату и назначению это текстовая авторегрессионная модель. Сильной стороной являются разнообразие вариантов квантизации и возможность запуска на локальном оборудовании с ограниченными ресурсами. Ограничения включают компромисс между размером, потреблением памяти и качеством, а также отсутствие данных о результатах оценки и контекстном окне. Для работы требуется совместимый llama.cpp-стек и соответствующий формат prompt: [gMASK]<sop><|system|>, <|user|>, <|assistant|>. Модель распространяется по лицензии MIT.

TIES-Merging — объединённая диалоговая модель на базе Mistral-7B-Instruct-v0.2, созданная с помощью LazyMergekit. В слияние вошли Open-Orca/Mistral-7B-OpenOrca, openchat/openchat-3.5-0106 и WizardLM/WizardMath-7B-V1.1; применён метод TIES, итоговый формат весов — safetensors. Модель предназначена для генерации текста и ответов на инструкции в диалоговом режиме. Она может быть полезна для общения, выполнения запросов на естественном языке и решения математических задач. Архитектура — плотная MistralForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Лицензия — Apache-2.0.

Cohere и Cohere Labs разработали Cohere Labs Tiny Aya Global — авторегрессионную языковую модель на основе оптимизированного Transformer с 3,35 млрд параметров. Модель дообучена с помощью supervised fine-tuning и обучения предпочтениям, поддерживает диалог и предназначена для эффективного запуска при ограниченных вычислительных ресурсах. Контекст составляет 8K токенов; модель принимает текст и генерирует текст. Модель ориентирована на многоязычную генерацию и диалог, включая суммаризацию, перевод и межъязыковые задачи. Она охватывает более 70 языков, в том числе русский и ряд языков с ограниченными ресурсами; заявленный баланс между языками и регионами — ключевая особенность версии Global. Модель также подходит для адаптации под конкретные задачи и исследований многоязычной обработки естественного языка. Сильные стороны — генерация текста на широком наборе языков и сравнительно хорошая работа с языками, для которых доступно меньше обучающих данных. Качество рассуждений, включая многоязычную математику, слабее, чем открытая генерация и диалог; фактические ошибки и нестабильность вероятнее для низкоресурсных языков, а сложные инструкции могут быть трудны для модели. Лицензия CC-BY-NC-4.0 ограничивает использование некоммерческими целями; также требуется соблюдать политику допустимого использования Cohere Labs.

Tralalabs_Pythia-6.9B-Instruct-v1-Merged-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Pythia-6.9B-Instruct-v1-Merged, разработанной Tralalabs и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, работы в качестве чат-ассистента и агентских приложений. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. Модель поддерживается инструментами llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми приложениями. Модель обучалась с использованием наборов данных OpenAssistant Guanaco и Tulu v2 SFT Mixture. Заявлена поддержка английского, испанского, немецкого, русского, японского, французского, польского, вьетнамского, китайского, венгерского, корейского, каталонского и баскского языков. Точная архитектура, размер контекстного окна и формат инструкций в README не указаны; для выбора шаблона промпта рекомендуется обратиться к странице исходной модели. Сильной стороной является широкий выбор квантизаций, включая рекомендуемые варианты Q4_K_M, Q5_K_M и Q6_K, позволяющие запускать модель локально при разных аппаратных ресурсах. Ограничения включают отсутствие описания точных характеристик, бенчмарков и prompt format, а также возможное снижение качества в наиболее компактных вариантах. Распространение указано по лицензии Apache-2.0.

Academic TRURL 2 — языковая модель Voicelab.AI на архитектуре Llama 2, дообученная для диалогов и генерации текста на польском и английском языках. Версия содержит 12,9 млрд параметров; метаданные указывают контекст 2048 токенов, тогда как README заявляет длину контекста 4096 токенов. Модель предназначена для общения в формате ассистента и других задач генерации естественного языка. Она принимает текст и генерирует текст; для диалога требуется форматирование запросов по шаблону Llama 2. В обучении использовались польские и английские разговорные данные, включая наборы вопросов и ответов и диалоговые примеры; академическая версия обучена без MMLU. Модель может давать неточные, предвзятые или нежелательные ответы, а опубликованные проверки охватывали польский и английский языки не во всех сценариях. Перед внедрением рекомендуется проверять её на целевых задачах и настраивать меры безопасности. README указывает на коммерческое и исследовательское применение; конкретная лицензия в предоставленных данных не указана.

Tulu 2 7B — разговорная языковая модель-ассистент, разработанная AllenAI и дообученная на основе Meta Llama 2 7B. Она обучена на смеси общедоступных, синтетических и созданных людьми инструкций и диалогов; архитектура — плотная LlamaForCausalLM, размер — около 6,6 млрд параметров. Модель принимает текст и генерирует текст, рассчитана прежде всего на английский язык, поддерживает контекст до 8192 токенов. Модель предназначена для диалоговых ответов и выполнения инструкций в универсальных сценариях. В карточке приведены результаты MT-Bench и AlpacaEval для варианта SFT, но они не гарантируют качество на конкретных задачах. Для лучшей генерации следует соблюдать формат входа, описанный в карточке. Модель не прошла выравнивание на безопасные ответы в RLHF и не использует встроенную фильтрацию: она может выдавать проблемный контент, особенно при соответствующих запросах. Лицензия — AI2 ImpACT Low-risk; перед использованием следует учитывать её условия.

Ultra-Instruct-12B-GGUF — набор GGUF-квантизаций базовой модели Dampfinchen/Ultra-Instruct-12B, подготовленный пользователем bartowski с помощью llama.cpp и imatrix-калибровки. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих формат GGUF, включая LM Studio. В README не указаны точные сведения об архитектуре, языках, контекстном окне и мультимодальности; по имеющимся данным, это текстовая модель без заявленной поддержки изображений или других модальностей. Доступны варианты от F16 размером 24,50 ГБ до сильно сжатых IQ2_M размером 4,44 ГБ. Рекомендуемые варианты Q4–Q6 обеспечивают высокое или хорошее качество при меньшем потреблении памяти; Q3 и Q2 экономят ресурсы, но заметно уступают по качеству. Некоторые варианты используют Q8_0 для embedding- и output-весов, что потенциально повышает качество, однако автор указывает, что практический эффект зависит от использования. Для работы требуется совместимое ПО, например llama.cpp или LM Studio, и рекомендуется применять указанный в README шаблон чата с маркерами system, user и assistant. Ограничения включают отсутствие опубликованных бенчмарков и подробных характеристик исходной модели, а также неизбежную потерю качества в низкобитных квантизациях. Распространение осуществляется по лицензии CC BY-NC-4.0, запрещающей коммерческое использование.

Карточка модели Dennis1315/ward-pwn-14b на Hugging Face совпадает с карточкой Dennis1315/ward-cloud-14b, поэтому описание составлено по ней. Dennis1315/ward-cloud-14b — мультимодальная модель семейства Qwen3.5, дообученная Dennis1315 на базе Qwen/Qwen3.5-9B с использованием Unsloth и библиотеки Hugging Face TRL. Она предназначена для диалога с текстом и изображениями; метаданные также указывают интерфейс вызова инструментов. Базовая модель рассчитана на анализ изображений, рассуждения, программирование и агентные задачи. Модель принимает текст и изображения и формирует текстовые ответы. В репозитории используются веса Safetensors. Лицензия — Apache-2.0. Подробности обучающего набора и оценки качества в доступной карточке не приведены.

MaziyarPanahi/zephyr-7b-alpha-dare-0.85-Mistral-7B-Instruct-v0.1 — чат-модель для генерации текста, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и uukuguy/zephyr-7b-alpha-dare-0.85. В README указан метод слияния slerp с выбором параметров по слоям для блоков self-attention и MLP. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации ответов на инструкции и диалоговые запросы; заявленная длина контекста — 32 768 токенов. Доступны веса в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о поддерживаемых естественных языках или специальных предметных областях.

zephyr-orpo-141b-A35b-v0.1-GGUF — это квантизированная версия языковой модели HuggingFaceH4/zephyr-orpo-141b-A35b-v0.1, подготовленная и опубликованная MaziyarPanahi в формате GGUF. Базовая модель основана на Mixtral-8x22B-v0.1 и дообучена с использованием метода ORPO на смеси общедоступных и синтетических наборов данных, включая argilla/distilabel-capybara-dpo-7k-binarized. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, инструкций, помощников общего назначения и других задач NLP преимущественно на английском языке. Это Mixture of Experts (MoE) с 141 млрд общих параметров и 35 млрд активных параметров. Доступны варианты квантизации с разной разрядностью — от 2 до 16 бит, что позволяет выбирать компромисс между качеством, размером файлов и требованиями к ресурсам. Размер контекстного окна и поддержка других модальностей в README не указаны; модель является текстовой. Сильные стороны — крупная MoE-архитектура, диалоговая направленность и возможность локального запуска через совместимые инструменты, включая llama.cpp, с выбором степени квантизации. Ограничения включают преимущественную ориентацию на английский язык, высокие требования к вычислительным ресурсам для менее агрессивно квантизированных вариантов и возможное снижение качества при сильной квантизации. Лицензия — Apache 2.0.

OpenCSG Agentic-30B-A3B — первая модель серии OpenCSG Agentic, дообученная для локальных и корпоративных ИИ-агентов, выполнения Skills и работы с инструментами. Она предназначена для сценариев, где агенту нужно следовать инструкциям, выбирать навык, формировать аргументы, анализировать ответы инструментов и выполнять многошаговые задачи в нескольких системах. В основе лежит Qwen/Qwen3-30B-A3B с архитектурой MoE Qwen3MoeForCausalLM: в README указаны 30,53 млрд параметров всего и около 3,3 млрд активных на токен, 128 экспертов и 8 активных экспертов. Модель выпущена в BF16, поддерживает контекст до 40 960 токенов и ориентирована на китайский и английский языки. Для запуска авторы приводят измерения на одной NVIDIA A800 80 ГБ с vLLM. Сильная сторона модели — обучение на сценариях вызова инструментов и восстановления после ошибок; среди приведённых удачных примеров — управление почтой и календарём, CRM и планирование проектов. Оценка Agentic Eval также показывает заметное снижение результатов на сложных, длинных и межсистемных задачах, особенно на китайском языке. Авторы рекомендуют проверять результаты и требовать подтверждения человека для чувствительных операций. Лицензия указана как other; условия использования следует сверять с лицензионным соглашением репозитория.

Agents-A1-Flash — сжатый выпуск модели InternScience/Agents-A1, опубликованный SofiTesfay2010. Это разреженная MoE-модель семейства Qwen3.5 с 35 млрд параметров, 256 экспертами и 8 активными экспертами на токен; каталог указывает архитектуру Qwen3_5MoeForConditionalGeneration и возможность диалога. Релиз сочетает разреженное тернарное сжатие STQ1_0 для маршрутизируемых экспертов, FP8 для внимания и общих экспертов и FP16 для нормализаций и векторов. По README, размер весов уменьшен примерно с 70 до 8,19 ГБ; заявлены варианты размещения с кэшированием и полной загрузкой в память видеокарты. Модель предназначена для генерации текста и диалогового использования, унаследовав базу для многошаговых агентных задач, научных рассуждений, поиска и вызова инструментов. Карточка не описывает языки, длину контекста и качество после сжатия. Указана лицензия «other», поэтому конкретные условия использования следует проверять в лицензии репозитория.

m-ric/Aria_hf_2 — опубликованный на Hugging Face чекпойнт модели Aria, разработанной командой Rhymes.AI; репозиторий содержит веса в формате safetensors и использует архитектуру AriaForConditionalGeneration. Это мультимодальная модель типа mixture-of-experts, принимающая текст и изображения и генерирующая текст. Она подходит для диалога по изображениям, визуальных вопросов и ответов, описания изображений, а также задач понимания документов и диаграмм. В документации Aria указаны 3,9 млрд активируемых параметров на визуальный токен и 3,5 млрд на текстовый токен; текст обрабатывается MoE-декодером, а изображения — лёгким визуальным энкодером. Репозиторий m-ric/Aria_hf_2 не уточняет размер контекстного окна, поддерживаемые языки или лицензию, поэтому эти характеристики здесь не заявляются. Для загрузки через Transformers указано использование trust_remote_code.

ERNIE-4.5-21B-A3B-Thinking-GGUF — это квантизированная версия языковой модели ERNIE-4.5-21B-A3B-Thinking, разработанной Baidu. Данный репозиторий подготовлен пользователем bartowski в формате GGUF с использованием llama.cpp и калибровочных imatrix-данных. Модель предназначена для генерации текста и локального запуска в llama.cpp, LM Studio и других совместимых проектах. В README указано, что доступны варианты от исходных весов BF16 размером 43,66 ГБ до различных квантований Q8, Q6, Q5, Q4, Q3 и IQ. Обозначение 21B указывает на заявленный размер модели, однако дополнительные сведения об архитектуре, числе активных параметров, контекстном окне, поддерживаемых языках и модальностях в предоставленных данных отсутствуют. Формат GGUF и набор квантований позволяют выбирать компромисс между качеством, потреблением памяти и скоростью локального вывода; наиболее качественными названы варианты Q6_K_L и Q6_K, а Q4_K_M описан как рекомендуемый вариант стандартного размера. Ограничения включают снижение качества при использовании более компактных квантований, особенно Q3 и некоторых IQ-вариантов, а также отсутствие указанного в README шаблона промпта. Лицензия модели и условия её использования в предоставленных данных не указаны, поэтому их следует уточнить на странице исходной модели Baidu.

Карточка модели ehristoforu/BigFalcon3-18B на Hugging Face совпадает с карточкой ehristoforu/BigFalcon3-36B, поэтому описание составлено по ней. BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.