II.7DevOps, облако и эксплуатация IT-систем

Apertus-70B-Instruct-2509 — многоязычная языковая модель Swiss AI Initiative для диалогов и генерации текста. Это дообученная версия Apertus-70B-2509 с архитектурой декодерного трансформера; в метаданных указано 97,7 млрд параметров и контекст до 65 536 токенов. Модель принимает текст и выдаёт текст, поддерживает более 1 800 языков и умеет использовать инструменты в агентных сценариях. Модель предназначена для ответов на вопросы, диалогов и других задач генерации текста, в том числе с длинным контекстом. Разработчики заявляют об открытых весах, данных и описании обучения, а также о соблюдении согласия владельцев данных. Модель распространяется по лицензии Apache-2.0. Ответы могут содержать фактические ошибки, логические несоответствия и смещения. Фильтр для удаления персональных данных в комплект не входит; важные сведения следует проверять.

C4AI Command R 08-2024 — языковая модель Cohere и Cohere For AI, представленная в этом репозитории в виде дообученной версии весов CohereLabs/c4ai-command-r-08-2024. Это плотный авторегрессионный трансформер с 32,3 млрд параметров и контекстом до 131 072 токенов; в обучении применялись supervised fine-tuning и обучение на предпочтениях, а для ускорения инференса используется grouped-query attention. Модель принимает текст и генерирует текст. Модель предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы. Она поддерживает генерацию на 23 языках, включая русский, и обучена на задачах grounded generation: может отвечать по предоставленным фрагментам документов и добавлять ссылки на источники, что подходит для RAG. Также поддерживает выбор внешних инструментов и формирование вызовов по специальному шаблону. Для grounded generation и использования инструментов важно соблюдать рекомендованные шаблоны промптов: отклонение от них может снизить качество. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование; README также требует соблюдать Acceptable Use Policy Cohere for AI.

GaelicThunder/DeepSeek-V4-Flash-Vision-Exp-ablit-EXL3-Kalibrated — квантизированная версия DeepSeek-V4-Flash-Vision-Exp от DeepSeek, подготовленная GaelicThunder на основе MixedK-пака vcruz305 и abliterated-варианта drowzeys. Модель предназначена для мультимодальных задач «текст плюс изображение», включая анализ изображений и генерацию текста, а также для обычных сценариев работы с текстом, математикой и кодом. Это MoE-модель с 256 маршрутизируемыми экспертами в каждом слое, представленная в формате EXL3 с mixed-precision-квантизацией: экспертные веса распределены между 2- и 3-битным представлением, при этом 22 слоя дополнительно переквантизированы в калиброванный 3-битный формат. Остальные тензоры используют BF16 или FP8 в зависимости от компонента. Пакет занимает около 106 GB и рассчитан на запуск на одной NVIDIA DGX Spark с GB10 и 128 GB памяти. Поддерживаются контекст до 245 760 токенов, speculative decoding, CUDA graphs и обработка от одного до трёх изображений на запрос. Языки явно не указаны. По приведённым измерениям модель сохраняет около 90% вероятности токенов оригинальной модели в среднем, с особенно сильными результатами на математике; заявлены также показатели для прозы и кода. Ограничения включают высокие требования к памяти и специализированному стеку запуска, длительную первичную компиляцию ядер и известную ошибку декодирования, из-за которой иногда появляется токен «)Skip»; в рекомендуемом сценарии она подавляется прокси. Модель распространяется по лицензии MIT.

Mungert/EXAONE-4.0-32B-GGUF — GGUF-квантизированная версия языковой модели EXAONE-4.0-32B, разработанной LG AI Research. Модель предназначена для генерации текста, диалоговых приложений, решения сложных задач и агентских сценариев с использованием инструментов. Она поддерживает обычный режим работы и режим рассуждений, а также английский, корейский и испанский языки. Модель содержит около 30,95 млрд параметров без учёта эмбеддингов, 64 слоя, архитектуру GQA с 40 attention-головами и 8 KV-головами, словарь размером 102 400 токенов и контекст до 131 072 токенов. Архитектура использует гибридное внимание: локальное и глобальное внимание в соотношении 3:1, а также QK-Reorder-Norm. Включение режима рассуждений выполняется через параметр enable_thinking. Данный вариант подготовлен с помощью llama.cpp и использует GGUF-квантизацию; автор сборки применяет дополнительное повышение точности отдельных важных слоёв, что может улучшать качество при низкой разрядности ценой увеличения размера файла. Сильными сторонами являются большой контекст, мультиязычность, сочетание обычного и reasoning-режимов, а также возможность локального запуска через экосистему llama.cpp. Ограничения конкретного варианта зависят от выбранного уровня квантизации и аппаратных ресурсов; README не содержит точных характеристик каждой квантованной сборки и результатов сравнительных тестов. Модель распространяется по лицензии EXAONE, обозначенной как other; подробные условия указаны в файле LICENSE.

AtomicChat/gemma-4-26B-A4B-it-GGUF — это GGUF-квантизированная версия инструкционной модели google/gemma-4-26B-A4B-it, подготовленная Atomic Chat на основе оригинальных весов Google. Модель предназначена для локального и полностью офлайн-использования в задачах генерации текста, диалогов, рассуждений и других сценариях, поддерживаемых базовой text-generation-моделью. Для запуска в llama.cpp требуется применять шаблон чата Gemma 4 с параметром --jinja. Модель использует архитектуру Mixture-of-Experts: 25,2 млрд параметров всего и около 3,8 млрд активных на каждый токен, 30 слоёв, 128 маршрутизируемых экспертов с выбором top-8, гибридное внимание с локальным окном 1024 токена и глобальным вниманием, 16 attention heads и 8 KV heads. Заявленная длина контекста составляет 256 тысяч токенов, размер словаря — 262 тысячи. Базовая модель поддерживает текст и изображения, однако данный репозиторий содержит только текстовые квантизации и не включает vision projector. К сильным сторонам относятся высокая вычислительная эффективность MoE-архитектуры, большой контекст, режимы рассуждения и широкий выбор квантизаций от Q2_K до Q8_0. Квантизация с importance matrix призвана сохранить качество оригинальной модели, но низкобитные варианты могут заметно терять качество; Q4_K_M обозначен как оптимальный баланс размера, скорости и качества, а Q6_K и Q8_0 — как варианты с минимальными потерями. Размер файлов составляет примерно от 10,6 до 26,9 ГБ, поэтому требуются значительные оперативная память или видеопамять. Модель распространяется по лицензии Apache-2.0.

mlx-community/gemma-4-31B-it-qat-OptiQ-4bit — квантизированная модель семейства Gemma-4, разработанная сообществом mlx-community с использованием инструментария mlx-optiq и построенная на базе Google Gemma-4 31B IT QAT. Это плотная модель примерно на 31 млрд параметров для генерации текста, рассуждений, программирования, следования инструкциям, вызова инструментов и задач с длинным контекстом. Поддерживает сценарии image-text-to-text: зрительный модуль поставляется отдельно в формате bf16. Языки и максимальный размер контекста в README не указаны. Модель использует смешанную квантизацию: преимущественно 4-битную, с 186 чувствительными компонентами в 8-битном формате и 224 компонентами в 4-битном; достигнутая точность составляет 5,20 бит на вес, размер группы — 64. По заявленным тестам она особенно выигрывает у равномерной 4-битной квантизации в извлечении информации из длинного контекста, а также показывает высокие результаты в MMLU, GSM8K, IFEval, BFCL и HumanEval. Ограничения включают больший размер по сравнению с обычной 4-битной версией — около 20,8 ГБ на диске — и необходимость использования Apple Silicon, актуальной версии mlx-lm из репозитория и mlx-optiq; стандартного выпуска mlx-lm 0.31.3 недостаточно. Доступна по лицензии Apache 2.0.

NVIDIA GLM-4.7 NVFP4 — это квантизированная версия авторегрессионной языковой модели GLM-4.7, разработанной ZAI и оптимизированной с помощью NVIDIA Model Optimizer. Модель не принадлежит и не разработана NVIDIA; NVIDIA подготовила её под требования соответствующего сценария применения. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель построена на архитектуре Transformer и имеет 358 млрд параметров. Она работает только с текстом: принимает строковые последовательности и генерирует текст. Максимальная длина контекста составляет до 200 000 токенов. Версия NVFP4 1.0 квантизирована до формата NVFP4 с использованием nvidia-modelopt v0.41.0; квантизации подвергнуты веса и активации линейных операторов в Transformer-блоках MoE. Данные о полном составе обучающей выборки и поддерживаемых языках не раскрыты, однако калибровка включает англоязычный cnn_dailymail и набор Nemotron с данными на испанском, французском, немецком, итальянском и японском языках. Модель ориентирована на инференс на NVIDIA GPU, особенно на архитектуре Blackwell, с использованием SGLang и Linux. Квантизация NVFP4 может снизить требования к ресурсам и ускорить развертывание, однако для работы требуется совместимая NVIDIA-инфраструктура и дополнительное тестирование в конкретном сценарии. В README приведены результаты на MMLU-PRO, GPQA Diamond, ns_livecodebench, SCICODE и AIME 2025, но они не описывают все практические ограничения модели. Лицензия — MIT.

GPT-3.5 Turbo — языковая модель OpenAI для генерации и понимания естественного языка и кода. Версия v0613 предназначена для диалогов и обычного текстового дополнения. Модель подходит для чат-ботов, ответов на вопросы, написания и преобразования текста, а также помощи с кодом. Данные обучения охватывают период до сентября 2021 года. В предоставленных сведениях не указаны размер модели, длина контекста или лицензия.

Kanana-1.5-15.7B-A3B-Instruct — разговорная языковая модель Kakao с разреженной архитектурой Mixture-of-Experts на базе Mixtral. В модели 15,7 млрд параметров всего, при этом активируется около 3 млрд параметров; заявленный размер в метаданных — 824,7 млн параметров. Модель принимает текст и генерирует текст, поддерживает английский и корейский языки, а длина контекста составляет 32 768 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы, следование инструкциям, решение математических задач и написание кода. Kakao сообщает, что её эффективность по вычислениям на токен сопоставима с Kanana-1.5-8B при использовании 37% FLOPS, а постобучение включало дистилляцию на собственных ответах и обучение с подкреплением. Для запуска README рекомендует vLLM версии 0.8.5 или новее. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели.

NVIDIA разработала Nemotron-UltraLong-8B как серию языковых моделей на базе Llama 3.1; этот вариант рассчитан на контекст до 2 млн токенов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате, следования инструкциям и работы с очень длинными последовательностями. Модель прошла продолженное предварительное обучение на длинных последовательностях и дообучение на инструкциях по общим задачам, математике и программированию. В README заявлена работа с длинным контекстом и конкурентные результаты на стандартных тестах. Метаданные указывают английский язык; карточка также описывает интерфейс вызова инструментов. Для запуска README рекомендует Transformers версии 4.43.0 или выше. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

casperhansen/llama-3.2-3b-instruct-awq — это общественно созданная AWQ-квантизованная версия текстовой instruction-tuned модели Llama 3.2 3B Instruct, разработанной Meta. Репозиторий содержит модель примерно на 3 млрд параметров в формате Safetensors с 4-битным представлением AWQ, предназначенным для снижения требований к памяти и запуска на устройствах с ограниченными вычислительными ресурсами. Модель рассчитана на многоязычный диалог, следование инструкциям, ассистентские сценарии, извлечение знаний, суммаризацию, написание и перефразирование текста. Архитектура — авторегрессионный оптимизированный Transformer с Grouped-Query Attention; исходная модель обучена с применением supervised fine-tuning и reinforcement learning from human feedback. Это текстовая модель: принимает и генерирует текст, включая код. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Сильные стороны — небольшой размер, сниженное потребление памяти благодаря 4-битной AWQ-квантизации, 3.21 млрд параметров и пригодность для локального инференса. Ограничения включают меньшую мощность по сравнению с более крупными моделями, текстовый характер без обработки изображений и возможные потери качества из-за квантизации. Для исходной текстовой Llama 3.2 заявлен контекст до 128k токенов, а для квантизованных вариантов — до 8k токенов; дата отсечения знаний — декабрь 2023 года. Для базовой Llama 3.2 применяется специальная коммерческая Llama 3.2 Community License с требованиями к перераспределению, указанием атрибуции и соблюдением Acceptable Use Policy. В карточке репозитория casperhansen отдельная лицензия не указана, поэтому условия использования следует проверять с учётом лицензии исходной модели Meta.

mergekit-community/mergekit-model_stock-anvdilz — объединённая разговорная языковая модель на архитектуре Llama 3.1, созданная с помощью mergekit методом Model Stock. В слияние вошли FuseChat, Polypsyche, Tulu, LongCite и Skywork-o1; в качестве основы README называет Stheno v3.4 abliterated вместе с Llama-3.1-8b-smart-lora. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов. Объединённые модели ориентированы на следование инструкциям, программирование, математику, рассуждения и работу с длинными текстами, однако карточка не приводит отдельных оценок качества или подробных инструкций по применению. Доступные веса представлены в формате Safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных компонентов слияния. Как и другие языковые модели, она может генерировать неверную или вымышленную информацию.

Meta-Llama-3.1-8B-Instruct-GGUF — это квантизированная в формате GGUF инструкционная языковая модель семейства Llama 3.1, разработанная Meta. Версия GGUF подготовлена bartowski на основе llama.cpp и предназначена для локального запуска, в частности через LM Studio. Модель поддерживает генерацию текста и диалоговые сценарии, включая работу с инструкциями и многоязычными запросами на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель содержит около 8 миллиардов параметров и имеет контекстное окно до 128 000 токенов. Она обучалась на 15 триллионах токенов, включая 25 миллионов синтетически созданных примеров. К сильным сторонам относятся улучшенная производительность по сравнению с предыдущими моделями Llama 3 и развитые возможности для многоязычных задач. При этом модель может генерировать неточную, вредную или неподходящую информацию, а качество и скорость работы зависят от используемой квантизации и локального оборудования. Для работы в LM Studio требуется версия 0.2.29 или новее и шаблон запроса Llama 3. Модель распространяется по лицензии Llama 3.1. README не уточняет условия коммерческого использования и конкретные ограничения лицензии, поэтому перед применением необходимо ознакомиться с её полным текстом.

MiniCPM-SALA — языковая модель OpenBMB с 7,9 млрд параметров для генерации текста и диалогов. Она использует гибридную архитектуру: 25% слоёв со sparse attention InfLLM-v2 и 75% с linear attention Lightning Attention. Модель рассчитана на обработку очень длинного контекста: в карточке заявлена длина 524 288 токенов, а README описывает поддержку до миллиона токенов. Модель подходит для диалогов и задач, требующих анализа длинных документов или больших контекстов; заявлены сохранение общих способностей, включая знания, математику и программирование. Для работы через Transformers требуется CUDA 12 или новее и компиляция зависимостей. Модель распространяется по лицензии Apache-2.0. Ответы следует проверять самостоятельно.

NVIDIA MiniMax-M3-NVFP4 — квантизированная версия мультимодальной модели MiniMax-M3, подготовленная с помощью NVIDIA Model Optimizer. Это модель архитектуры Transformer с Mixture-of-Experts: всего 428 млрд параметров, из которых активно около 23 млрд на токен. Она принимает текст, изображения и видео, а также выдаёт текст; контекстное окно составляет до 1 млн токенов, видео — до 30 минут. Модель предназначена для понимания изображений и длинных видео, программирования на продолжительных задачах, диалогов с инструментами и агентных сценариев. Режим рассуждения можно переключать между углублённым и менее затратным по задержке. Квантизация NVFP4 уменьшает объём весов и требования к памяти примерно вдвое относительно 8-битной версии; в приведённых тестах показатели близки к FP8-базе. Для запуска README указывает vLLM и NVIDIA Blackwell; поддержка MiniMax-M3 NVFP4 доступна в nightly-сборке vLLM. Веса самой модели разработаны не NVIDIA, а сторонней организацией. Лицензия обозначена как other, модель разрешена для некоммерческого использования. Ответы могут быть неточными, неполными или избыточными; модель может воспроизводить токсичность и предвзятость из обучающих данных.

MaziyarPanahi/Mistral-7B-Instruct-v0.1-16k-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и NurtureAI/Mistral-7B-Instruct-v0.1-16k методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров для генерации текста и выполнения инструкций в диалоговом формате. Модель принимает текст и генерирует текст; максимальная длина контекста по метаданным — 32 768 токенов. Она подходит для диалогов, ответов на вопросы и работы с длинными текстовыми запросами. Лицензия — Apache-2.0.

Open-Instruct GPT-4 Alpaca 13B — языковая модель семейства LLaMA с 12,9 млрд параметров, разработанная командой AllenAI. Она дообучена на наборе GPT-4 Alpaca для следования инструкциям и генерации текста. Модель предназначена для диалоговых запросов, ответов на вопросы, рассуждений и других задач, задаваемых в текстовом формате; для результатов, соответствующих обучению, следует использовать предусмотренный формат инструкций. Контекст модели — 2048 токенов. В README приведены результаты оценки на наборах задач общего назначения, включая MMLU, GSM, BBH и Codex-Eval. Репозиторий содержит разницу весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face и её объединение с этой разницей. Условия использования определяются лицензией AI model license вместе с исходной лицензией LLaMA.

Qwen-14B — плотная авторегрессионная языковая модель семейства Qwen, разработанная Alibaba Cloud. Она построена на архитектуре Transformer и содержит 21,8 млрд параметров по метаданным; в карточке описаны RoPE, SwiGLU, RMSNorm и словарь более чем из 150 тысяч токенов. Модель обучена на более чем 3 трлн токенов из веб-текстов, книг, кода, математических и других материалов; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и может служить основой для диалоговых систем, а также для задач на знания, рассуждения, перевод, математику и программирование. Наиболее подробно описана поддержка китайского и английского языков; словарь также ориентирован на ряд других языков, включая русский. Репозиторий содержит исходную предварительно обученную модель, а не вариант Qwen-14B-Chat. В README заявлены конкурентные результаты на ряде китайских и англоязычных тестов, однако это оценки разработчика, а качество зависит от задачи и способа применения. Для запуска требуются PyTorch и Transformers; модель крупная и требует значительных вычислительных ресурсов. Лицензия в предоставленных данных не указана.

QuantFactory/Qwen2.5-1.5B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Qwen2.5-1.5B-Instruct, созданная QuantFactory с использованием llama.cpp на основе модели Qwen от Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы со структурированными данными и формирования структурированных ответов, включая JSON. Она также улучшена для задач программирования и математики. Модель содержит 1,54 млрд параметров, из которых 1,31 млрд не относятся к эмбеддингам, и включает 28 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и GQA с 12 головами для Q и 2 для KV. Поддерживаются контексты до 32 768 токенов и генерация до 8192 токенов. Модель многоязычная и поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Квантизация в формате GGUF может снизить требования к ресурсам и упростить локальный запуск, однако README не содержит сведений о конкретном типе квантизации, размере файлов, точности или производительности. Модель предназначена для текстовых сценариев и не заявляет поддержку изображений или других модальностей. Распространяется по лицензии Apache-2.0.

Это инструкционная чат-модель Qwen2.5-3B, размещённая Unsloth и основанная на Qwen/Qwen2.5-3B-Instruct. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, помощь с кодом и математикой, работу со структурированными данными и формирование JSON. Модель имеет плотную архитектуру Qwen2 с 3,1 млрд параметров; в README указаны 36 слоёв, поддержка контекста до 32 768 токенов и генерация до 8 192 токенов. Модель работает с текстом и рассчитана на многоязычное использование: README заявляет поддержку более 29 языков, включая английский, русский, китайский, французский, немецкий и японский. Среди отмеченных сильных сторон семейства — следование инструкциям, генерация длинных текстов и структурированные ответы. Метаданные указывают библиотеку Transformers, формат Safetensors и интерфейс чата с поддержкой вызова инструментов. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с карточкой репозитория. Приведённый README в основном описывает семейство Qwen2.5 и материалы Unsloth; он не содержит отдельной оценки качества именно этой публикации модели.

lmstudio-community/Qwen2.5-7B-Instruct-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp release b3772; модель представлена в рамках программы Community Models LM Studio, но LM Studio не является её разработчиком или владельцем. Модель предназначена для генерации текста, диалоговых сценариев, ответов на инструкции и работы со структурированными данными. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский, что делает её пригодной для многоязычных приложений. Ключевые характеристики включают размер 7 млрд параметров, контекст до 128 тысяч токенов с настройками YaRN RoPE и генерацию до 8 тысяч токенов. К сильным сторонам относятся широкий языковой охват, поддержка длинного контекста и улучшенное понимание и создание структурированных данных. При этом модель может генерировать неточную, вредную или вводящую в заблуждение информацию, а README не содержит подробностей о конкретной схеме квантизации, требованиях к ресурсам и результатах бенчмарков. Распространение указано под лицензией Apache 2.0.

Qwen3.6-27B-Seven-i1-GGUF — это квантизированная версия текстово-визуальной модели Qwen3.6-27B-Seven, подготовленная mradermacher на основе модели nightmedia/Qwen3.6-27B-Seven. Распространяется в формате GGUF с imatrix-квантами различного уровня сжатия, размером примерно от 11 до 22,5 ГБ. В README также указано наличие отдельных mmproj-файлов для поддержки изображений; конкретные параметры мультимодальной архитектуры не раскрыты. Заявлена поддержка английского, китайского, японского и испанского языков, а также контекста до 1M токенов, однако точные технические характеристики базовой модели в карточке не приведены. Модель предназначена для диалогов, генерации текста, программирования, математических и STEM-задач, исследовательских сценариев, творческого и художественного письма, сторителлинга и ролевых взаимодействий. К сильным сторонам относятся широкий выбор квантов, возможность подобрать баланс между размером, скоростью и качеством, а также наличие imatrix-вариантов; для некоторых конфигураций в README отдельно рекомендуются IQ-кванты и i1-Q4_K_M как быстрый вариант. Ограничения связаны с потерями качества при сильном сжатии, отсутствием подробных результатов тестирования и неполным описанием архитектуры и фактического размера контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-4bit-MLX-TextOnly — текстовая 4-битная квантованная версия модели Qwen3.8-27B, разработанной командой Qwen. Модель преобразована в формат MLX с использованием mlx-lm 0.31.2 и предназначена для запуска в экосистеме MLX и mlx-lm. Она поддерживает генерацию текста, диалоговые сценарии, рассуждения, использование инструментов и работу с длинным контекстом; заявлена как многоязычная. Модель содержит около 27 миллиардов параметров в исходной версии и использует weight-only-квантование до 4 бит с group size 64, affine- и RTN-подходами. Это текстовая модель без vision tower: возможности обработки изображений удалены, поэтому она работает только с текстом. К сильным сторонам относятся уменьшенный объём весов и пригодность для локального запуска в MLX, а ограничением — отсутствие мультимодальных возможностей и потенциальная потеря точности по сравнению с полной моделью из-за квантования. Точная длина контекста в README не указана. Распространяется по лицензии Apache-2.0.

MuXodious/Qwen3.8-27B-absolute-heresy — дообученная версия Qwen3.8-27B, созданная P-E-W с помощью Heretic v1.4.0 и метода abliteration. Это плотная модель с причинной языковой моделью и визуальным энкодером, содержащая 27 млрд параметров; базовая архитектура использует 64 слоя. Исходная Qwen3.8-27B поддерживает изображения и видео, а также диалог, программирование и многошаговые агентные задачи; для неё указан контекст 262 144 токена с расширением до 1 000 000 токенов. Эти характеристики относятся к базовой модели. Настройка нацелена на снижение отказов: автор сообщает о 2 отказах из 101 проверенного запроса против 101 из 101 у исходной модели. По описанию автора, при этом модель сохраняет полезность с минимальным повреждением возможностей, однако приведённая оценка зависит от используемой процедуры и не гарантирует поведение на других запросах. Модель предназначена для сценариев, где требуется более свободный диалог с сохранением мультимодальных возможностей Qwen3.8. Репозиторий содержит веса и конфигурацию в формате Transformers; заявлены совместимость с Transformers, vLLM и SGLang, а также отдельные LoRA-адаптер и версия GGUF. Лицензия — Apache-2.0.

Abiray/Qwen3.8-27B-Q4_K_M-GGUF — это квантизированная версия мультимодальной vision-language модели Qwen3.8-27B, разработанной командой Qwen. Модель распространяется в формате GGUF и предназначена для локального запуска с помощью llama.cpp и совместимых инструментов, включая LM Studio, Ollama и GPT4All. Модель поддерживает текстовые и мультимодальные сценарии: работу с изображениями и видео, программирование, профессиональные задачи, исследования и длительные агентские процессы. Основной файл имеет размер 16,8 ГБ и использует квантизацию Q4_K_M, выполненную с помощью llama.cpp b10430. Для обработки изображений и других мультимодальных входов требуется дополнительный vision adapter mmproj-F16.gguf; без него доступен текстовый режим. Сведения о точной архитектуре, размере контекста и поддерживаемых языках в карточке не указаны. К сильным сторонам относятся сочетание возможностей языковой модели и анализа визуального контента, а также возможность локального запуска в широко поддерживаемых форматах. К ограничениям относятся необходимость отдельного vision adapter для мультимодальных задач и потенциальные компромиссы точности, обусловленные квантизацией Q4_K_M. Модель распространяется по лицензии Apache-2.0.

Карточка модели jamiefutch/Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF на Hugging Face совпадает с карточкой FreedomAISVR/Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF, поэтому описание составлено по ней. Qwythos-9B-Claude-Mythos-5-1M-MXFP4-GGUF — это квантованная в формате GGUF MXFP4 версия модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M, дообученной Empero AI на базе Qwen3.5-9B. Это мультимодальная модель с архитектурой Qwen3.5 и зрительным энкодером SigLIP ViT; основной файл использует 4-битный формат MXFP4, а для обработки изображений нужен отдельный файл mmproj в F16. Репозиторий распространяется под лицензией Apache-2.0. Модель предназначена для диалогов с рассуждениями, работы с изображениями, вызова инструментов и задач с длинным контекстом, включая анализ кода и документов. README заявляет контекст до 1 048 576 токенов, а также сильные стороны в математике, кибербезопасности и биомедицинских темах. Поддерживаются английский язык и интерфейс вызова инструментов в стиле OpenAI/Qwen3.5. Зрительная часть унаследована от базовой модели и не дообучалась; README также предупреждает, что модель может уверенно выдавать ошибочные идентификаторы CVE и дозировки лекарств. Для критически важных ответов нужны внешняя проверка и инструменты, а для пользовательских развёртываний README рекомендует добавить собственный слой безопасности. Ответы начинаются с блока рассуждений, поэтому требуется достаточный лимит генерации.

Spark-X2.5-4B-GGUF — набор общественных GGUF-квантизаций компактной универсальной языковой модели Spark-X2.5-4B, разработанной SparkLLM и опубликованной в исходном виде XHToken. Репозиторий ngquocvinh содержит только квантизированные файлы для локального запуска; обучение и дообучение в рамках этого выпуска не выполнялись. Модель предназначена для диалогов, написания текстов, перевода, рассуждений, программирования, использования инструментов и агентских сценариев. Исходная модель имеет 4B параметров, поддерживает английский, китайский и, по заявлению авторов, более 200 языков. Заявлено контекстное окно до 1 млн токенов и гибридное внимание: один слой с полным вниманием и три слоя со скользящим окном, что должно способствовать эффективной обработке длинного контекста. Квантизации представлены в форматах GGUF и совместимы с llama.cpp; также заявлена поддержка экосистем llama.cpp, vLLM, SGLang, MLX, Ollama и LM Studio. Основное преимущество — возможность локального запуска при разных ограничениях по памяти: Q8_0 ближе всего к исходному BF16 по результатам измерений, Q4_K_M предлагает компромисс между размером и качеством, а Q2_K требует меньше ресурсов ценой заметной потери точности. Ограничения включают снижение fidelity у низкобитных вариантов и отсутствие в README подробных сведений о точных требованиях к памяти, скорости, обучающих данных и результатах прикладных бенчмарков. Производные файлы распространяются по Apache License 2.0 с сохранением атрибуции исходной модели; это неофициальный community-релиз и не подтверждение со стороны XHToken или SparkLLM.

Spark-X2.5-4B-GGUF — компактная языковая модель общего назначения, разработанная XHToken и представленная в формате GGUF. Модель предназначена для диалогов, написания и перевода текстов, рассуждений, программирования, использования инструментов и агентских сценариев. Это текстовая модель размером 4 млрд параметров с гибридной архитектурой внимания, нативной длиной контекста до 1 млн токенов и поддержкой более 200 языков, включая английский и китайский. К сильным сторонам относятся компактный размер, широкий набор прикладных задач, многоязычность и возможность локального запуска через llama.cpp, Ollama, LM Studio и Unsloth. Для работы требуется совместимая версия программного обеспечения с поддержкой архитектуры spark2_5: llama.cpp b10828 или новее, Ollama v0.34.1 или новее либо соответствующая версия LM Studio. README не содержит подробных результатов тестирования, требований к ресурсам и сведений о поддерживаемых модальностях помимо обработки текста. Модель распространяется по лицензии Apache License 2.0.

Ternary-Bonsai-2-27B-mlx-2bit — производная версия Qwen/Qwen3.8-27B от Prism ML, предназначенная для локального запуска диалоговой модели и агентов. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и вращением Hadamard. Размер модели — 27,36 млрд параметров, включая языковую часть и башню зрения. Репозиторий занимает около 8,60 ГБ; заявлена поддержка контекста до 262 тысяч токенов и обработка изображений. Модель рассчитана на генерацию текста, рассуждения, программирование и вызов инструментов на ноутбуках и GPU, в том числе без передачи данных в облако. README сообщает о сохранении 98,2% среднего результата FP16 на 14 бенчмарках и приводит показатели производительности для отдельных устройств; это заявления разработчика, а фактическая скорость зависит от оборудования и совместимого низкобитного runtime. Для корректной работы нужны специализированные ядра MLX или CUDA, а для версии MLX — совместимая среда MLX. Качество ниже полного FP16, особенно на сложных задачах; башня зрения в поставке не квантизирована. Лицензия — Apache-2.0.

Карточка модели Cdsnutz/XORTRON.CriminalComputing.LARGE.2026.3 на Hugging Face совпадает с карточкой darkc0de/XORTRON.CriminalComputing.LARGE.2026.3, поэтому описание составлено по ней. XORTRON.CriminalComputing.LARGE.2026.3 — диалоговая языковая модель, опубликованная darkc0de и созданная дообучением Mistral-Large-Instruct-2411. Это плотная архитектура Mistral с 122,2 млрд параметров и контекстом до 131 072 токенов; модель работает через Transformers и распространяется в формате safetensors. Карточка сообщает о многоязычной поддержке, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Модель предназначена для генерации текста в диалоге, ответов на вопросы, рассуждений, программирования и сценариев с длинным контекстом. В README указана abliteration: в приведённом сравнении частота отказов составляет 2 из 100 против 87 из 100 у исходной модели, а KL-дивергенция — 0,0578. Это означает, что модель настроена на существенно меньшее число отказов; результаты таблицы не гарантируют поведение на всех запросах. По метаданным лицензия — WTFPL; значительный размер требует мощного оборудования для запуска.