I.11Классификация, ранжирование и сопоставление

lmstudio-community/Qwen2-VL-2B-Instruct-GGUF — это квантизированная версия мультимодальной модели Qwen2-VL-2B-Instruct, разработанной командой Qwen. Формат GGUF подготовлен bartowski на основе llama.cpp, релиз b4327; LM Studio представляет её как общественную модель, но не является её создателем или владельцем. Модель предназначена для генерации текста и анализа изображений, включая изображения различных разрешений и соотношений сторон. Она поддерживает задачи визуального понимания, мультимодального рассуждения и агентской автоматизации с использованием зрения, а также заявляет многоязычную поддержку. Максимальная длина контекста составляет 32 тысячи токенов. Известно, что размер исходной модели — 2B, однако конкретный метод и уровень квантизации в README не указаны. К сильным сторонам относятся сочетание обработки текста и изображений, поддержка длинного контекста, многоязычность и возможность локального использования через совместимый стек GGUF/llama.cpp. Ограничения включают малый размер по сравнению с более крупными мультимодальными моделями и отсутствие подробных данных о языках, точности, производительности и требованиях к оборудованию. Лицензия в README не указана; перед использованием необходимо проверить условия лицензирования исходной модели Qwen2-VL-2B-Instruct и данной квантизированной версии.

Qwen3-0.6B-JSON-SFT — небольшая языковая модель семейства Qwen3, дообученная методом supervised fine-tuning (SFT) для генерации текста в формате JSON. Модель опубликована пользователем Hugging Face ksyoung0215 и предназначена для использования через библиотеку Transformers. Модель имеет около 507,9 млн параметров и поддерживает контекст до 40 960 токенов. Основной сценарий — генерация структурированных ответов, извлечение данных в заданную JSON-схему и автоматизация задач, где результат должен быть пригоден для машинной обработки. Доступен pipeline text-generation; в метаданных также указана conversational-ориентация. Небольшой размер может упростить локальный запуск и снизить требования к ресурсам, однако README не содержит результатов оценки качества, сведений о датасете, точной архитектуре, поддерживаемых языках, разработчиках или лицензии. Перед использованием в критически важных системах необходимы собственное тестирование корректности JSON, устойчивости к сложным запросам и качества на целевых данных.

litert-community/Qwen3.5-2B — это версия модели Qwen3.5-2B от Alibaba, преобразованная сообществом LiteRT в формат LiteRT-LM для локального вывода на мобильных и периферийных устройствах с использованием runtime Google LiteRT-LM. Модель предназначена для генерации текста, диалогов и многошаговых взаимодействий на устройствах без обязательной передачи данных в облако; для работы требуется litert-lm версии 0.15 или новее. Модель использует гибридную архитектуру с чередованием 18 блоков GatedDeltaNet с линейным вниманием и 6 блоков полного внимания. Линейные блоки хранят состояние постоянного размера, поэтому потребление памяти слабо растёт с длиной контекста, а полное внимание использует KV-кэш с бюджетом 4096 токенов. Доступны текстовая int8-версия размером около 1,97 ГБ и мультимодальная версия для работы с текстом и изображениями размером около 3,15 ГБ, включающая 24-слойную ViT-модель; обработка изображений рассчитана на статический размер 512×512. Языки явно не указаны, но модель основана на Qwen3.5. Сильными сторонами являются проверенная близость результатов к исходной PyTorch-модели, поддержка CPU и GPU, относительно стабильное потребление памяти при увеличении контекста и возможность многоходовых диалогов. Ограничения включают необходимость совместимого LiteRT-LM, отсутствие встроенной поддержки вызова инструментов и специальных vision-секций в шаблоне чата, а также неподтверждённую работу GPU на устройствах Qualcomm Adreno. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Uncensored-HauhauCS-Aggressive — мультимодальная модель, разработанная HauhauCS на базе Qwen/Qwen3.6-27B от команды Qwen. Версия предназначена для пользователей, которым нужен прямой ответ без предварительных оговорок на провокационные или жёсткие запросы. По заявлению автора, изменения не затрагивают датасеты и исходные возможности модели, а направлены на устранение отказов; в указанном тесте модель получила 0 отказов из 465 запросов. Модель содержит 27 млрд плотных параметров и использует гибридную архитектуру: 48 слоёв линейного внимания Gated DeltaNet и 16 слоёв полного gated attention, всего 64 слоя. Поддерживаются текст, изображения и видео; для работы с визуальными данными поставляется отдельный mmproj-файл. Нативный контекст составляет 262 тысячи токенов и может быть расширен примерно до 1 млн с помощью YaRN. Заявлены языки English, Chinese и multilingual. Доступны GGUF-квантизации Q2–Q8, включая специализированные варианты K_P, совместимые с llama.cpp, LM Studio и другими GGUF-совместимыми средами. Сильная сторона Aggressive — отсутствие вступительных отказов и оговорок, что удобно для сценариев, где требуется максимально прямой стиль ответа. При этом автор рекомендует большинству пользователей вариант Balanced, поскольку он стабильнее для агентного программирования, использования инструментов, рассуждений и творческого письма. Агрессивная настройка может быть менее подходящей для задач, где важны осторожная подача и встроенные ограничения безопасности. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-NInfer — это конвертированная версия мультимодальной модели Qwen3.6-35B-A3B, подготовленная разработчиком Neroued для нативного формата NInfer. Артефакт предназначен исключительно для запуска в NInfer и не является checkpoint для Transformers, Safetensors-дистрибутивом или файлом GGUF. Дополнительные веса DFlash предоставлены проектом z-lab/Qwen3.6-35B-A3B-DFlash. Модель рассчитана на диалоговую генерацию текста, работу с изображениями и видео, а также сценарии локального инференса через CLI или HTTP-сервер NInfer. Архитектура указана как Qwen3_5MoeForCausalLM; размер файла составляет около 21,23 GiB. В артефакт входят текстовые и vision-компоненты, MTP, DFlash, оптимизированная proposal head и frontend-ресурсы. Поддерживаются speculative decoding через MTP и DFlash, мультимодальные запросы и контекст до 240 000 токенов при серверном запуске. В README не указаны полный перечень языков и точное число активных или всех параметров, однако обозначение модели содержит 35B-A3B. К сильным сторонам относятся мультимодальность, большой заявленный контекст, локальный запуск и ускорение генерации с помощью MTP или DFlash. В приведённых оценках модель получила 90% на AIME 2025 и AIME 2026 и 85,35% на GPQA-Diamond; результаты заявлены для режима zero-shot. Ограничения включают жёсткую зависимость от NInfer, 64-битного Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a и CUDA Toolkit 13.1 или новее, а также необходимость сборки NInfer из исходного кода. Распространение указано по лицензии Apache-2.0.

amd/Qwen3.6-35B-A3B-w8a8-llmcompressor — квантизированная AMD версия модели Qwen3.6-35B-A3B, созданная с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и поддерживает текстовый ввод и вывод; в исходной архитектуре используется Qwen3_5MoeForConditionalGeneration с разреженной MoE-структурой. Указан английский язык. README не приводит общее число параметров в явном виде, но размер исходных весов составляет 67,0 GiB, а после квантизации — 35,1 GiB. Применяется для инференса на CPU AMD EPYC под Linux через vLLM. Используется квантизация W8A8: веса представлены в INT8 с симметричным поканальным масштабированием, активации — в INT8 с динамическим поточным масштабированием. Маршрутизатор MoE, отдельные gating-модули, модули линейного внимания, визуальная башня и lm_head сохранены в BF16. Это снижает размер модели примерно на 48% и ориентировано на эффективный CPU-инференс с оптимизациями ZenDNN и ZenTorch. В предоставленной оценке на GSM8K модель получила 0,9629 против 0,9629 у исходной BF16-версии, однако результаты приведены только для одного бенчмарка. Основные ограничения — ориентация на AMD EPYC CPU, отсутствие целевой поддержки GPU и зависимость от конкретного стека: ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0; на других версиях корректная загрузка не гарантируется. Модель распространяется по лицензии Apache-2.0, как и исходная модель.

mlasli/Qwen3.8-27B-Heretic-Abliterated-MLX-6bit — текстовая языковая модель, созданная mlasli на основе Qwen/Qwen3.8-27B. Это версия v2.1.0 с изменённым поведением отказов и ответов, преобразованная в формат MLX для запуска через mlx-lm на компьютерах с Apple Silicon. Модель предназначена для генерации текста, диалогов, ролевых сценариев и задач, где требуется более прямое следование запросу. Модель содержит около 27 млрд параметров и использует групповое 6-битное квантование с размером группы 64. Размер файлов составляет примерно 21,9 ГБ. Репозиторий поддерживает только текстовый ввод: при конвертации удалена vision tower, поэтому обработка изображений недоступна. Многоцелевое предсказание токенов MTP также не сохранено, из-за чего инференс выполняется одной основной головой и может быть медленнее сборок с поддержкой MTP. В карточке указаны английский язык и контекстная длина не приведена. Сильной стороной является уменьшенный объём по сравнению с BF16-версией при сохранении возможностей 27B-модели и удобная интеграция с MLX. По данным тестов, 6-битная версия немного уступает BF16 по прямоте ответов, а режим thinking может чаще приводить к уклончивым или пустым ответам; для заявленного поведения рекомендуется отключать thinking. Abliteration снижает или удаляет исходное safety-выравнивание, поэтому модель требует осторожного применения. Лицензия — Apache-2.0.

lued/Qwen3.8-27B-INT8-W8A16-MTP — это квантизированная версия базовой модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель не является дообученной версией: в ней применена числовая квантизация для запуска через vLLM на видеокартах архитектуры Ampere, в частности на конфигурации из двух RTX 3090. Она предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, а также для инференса с ускорением speculative decoding посредством MTP. Используется формат W8A16: веса представлены в INT8, а активации — в FP16 или BF16; размер группы квантизации — 128, применяется симметричная data-free RTN-квантизация. Сохраняются vision tower, управляющие механизмы reasoning, BF16 MTP head и контекстное окно до 262 144 токенов. Модель поддерживает FP8 E4M3 KV-кэш; заявлена возможность расширения контекста до 1 млн токенов через YaRN на уровне исходной модели, однако приведённая конфигурация памяти этого не поддерживает. Сильной стороной является высокая близость к BF16-версии: заявлены 99,36% совпадения top-1 и меньший дрейф весов по сравнению с официальной FP8-версией. Ограничения связаны с требованиями к памяти и текущей стабильностью многопоточного обслуживания: на проверенной версии vLLM параллельные запросы могут приводить к сбоям движка. Производительность зависит от длины контекста и принятия черновых токенов MTP; при длинных запросах время до первого токена существенно возрастает. Данные о функциональном качестве, использовании инструментов, генерации JSON, программировании и мультимодальных возможностях в карточке не приведены. Модель распространяется по лицензии Apache 2.0.

Qwen3.8-27B-NVFP4-BUDGET-GGUF — производная версия модели Qwen3.8-27B, подготовленная автором репозитория esatapedico на основе квантованной сборки Unsloth. Это плотная модель с 27 млрд параметров, гибридной архитектурой Gated DeltaNet и Gated Attention и контекстом до 262 144 токенов. Репозиторий содержит две компактные сборки GGUF: BUDGET и STARVED; в обеих удалена голова MTP для спекулятивного декодирования, а выходная проекция и эмбеддинги токенов квантованы до малых типов. Модель предназначена для диалогов и генерации текста, а при подключении совместимого проектора mmproj-BF16.gguf также принимает изображения и видео. Сборки рассчитаны на запуск через llama.cpp на видеокартах Blackwell с 16 ГБ памяти: BUDGET занимает 14,72 ГБ, STARVED — 14,59 ГБ. Автор приводит ориентировочные результаты одного запуска на RTX 5070 Ti и предупреждает, что компактное квантование снижает точность; заявленный образный ввод требует отдельного проектора, а для работы нужны свежая версия llama.cpp и поддержка NVFP4 и sm_120. Модель распространяется по лицензии Apache-2.0. Это конверсия и дополнительное квантование/уплотнение производной сборки; веса не обучались и не дообучались автором репозитория.

Qwen3.8-27B-Uncensored-NVFP4 (ModelOpt) — это квантованная версия мультимодальной модели JonathanColetti/Qwen3.8-27B-Uncensored, опубликованная joshebbs и подготовленная с помощью NVIDIA TensorRT Model Optimizer 0.43.0. Модель предназначена для инференса под управлением vLLM на GPU архитектуры Blackwell и поддерживает обработку текста и изображений. Заявленные языки — английский и китайский. Лицензия — Apache-2.0. Модель содержит 27 млрд параметров и использует гибридную архитектуру из 64 слоёв, объединяющую Gated DeltaNet и Gated Attention. Квантование NVFP4 с размером блока 16 и FP8-масштабами применено к 400 линейным слоям; vision tower, lm_head, MTP head и отдельные чувствительные к точности проекции DeltaNet сохранены в исходной точности. Размер весов уменьшен примерно с 65 ГБ в BF16 до 19,2 ГиБ. Vision tower и голова многотокенного предсказания сохранены. Модель подходит для генерации текста, рассуждений, мультимодальных сценариев и вызова инструментов через совместимый XML-формат Qwen. Контекст до 131 072 токенов проверен при распределённом запуске на двух NVIDIA DGX Spark GB10 с tensor parallelism. Для работы необходим runtime с поддержкой modelopt_fp4; стандартная загрузка через transformers невозможна. Рекомендуется vLLM с Blackwell, FP8 KV-cache и FlashInfer. При включённом режиме рассуждений ответы могут оказаться пустыми, если генерация обрывается внутри блока <think>; также для автоматического tool calling требуются специальные параметры vLLM.

AtomicChat/Qwen3.8-Flash-Next-GGUF — квантованная версия модели Qwen3.8-Flash-Next, основанная на оригинальных весах Qwen и подготовленная командой AtomicChat. Модель предназначена для локальной генерации текста и мультимодальных сценариев с обработкой изображений через llama.cpp. Это первый открытый релиз весов архитектуры, лежащей в основе Qwen4. Модель содержит около 177 млрд параметров; примерно 51 млрд из них представлены таблицей n-грамм, а не обычными весами. Доступны сборки GGUF с квантованием от 3,84 до 5,00 бит на вес, причём вариант AD-4.27bpw-Q4_K_M заявлен как оптимальный по соотношению качества и размера. Для него требуется около 92,9 ГБ на SSD и 54,5 ГБ памяти без учёта таблицы n-грамм. В README указан контекст до 32768 токенов, поддержка изображений и скорость около 36 токенов в секунду при генерации на Apple M5 Max; языки явно не перечислены. Сильные стороны модели — возможность локального запуска крупной 176–177B-модели на системах с ограниченной оперативной памятью за счёт размещения таблицы n-грамм на SSD, а также сохранение близкого к более тяжёлой 5-битной сборке качества у варианта AD-4.27bpw. Ограничения включают очень большой объём файлов, необходимость совместимой сборки llama.cpp с поддержкой этой архитектуры и специальные параметры запуска, включая mmap и отключение автоматической подгонки размещения. Для Apple Silicon таблица должна находиться в отдельном GGUF-шарде. Лицензия указана как qwen-community-1.0; ссылка ведёт на лицензию базовой модели Qwen/Qwen3.8-Flash-Next. Дополнительные условия использования в README не раскрыты.

SeeWye/qwen_finetune1_16bit — дообученная методом SFT модель семейства Qwen3.5, разработанная SeeWye на базе SeeWye/qwen3_5_TM_ocr_merged2. Модель принимает текст и изображения и формирует текстовые ответы; карточка указывает на приблизительное выравнивание вывода под заданную схему, а метаданные отмечают возможности vision и chat. Модель предназначена для сценариев, где требуется разбирать изображения и выдавать ответ в структурированном формате, например при извлечении сведений из документов. Обучение выполнено с использованием Unsloth и библиотеки Hugging Face TRL. Репозиторий содержит веса safetensors; лицензия — Apache 2.0. Карточка характеризует выравнивание схемы как приблизительное, поэтому корректность и строгое соответствие формату следует проверять на целевых данных. Размер модели и длина контекста в предоставленных сведениях не приведены.

Qwopus3.8 27B Flash MXFP4 Vision MTPLX — это релиз для Apple Silicon на базе модели Jackrong/Qwopus3.8-27B-Flash, подготовленный Shiftedx с использованием MLX и MTPLX. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, включая мультимодальные сценарии и локальное развертывание через OpenAI-совместимый endpoint. Текстовая часть представлена в формате MXFP4, а vision tower и native MTP sidecar сохранены в формате BF16. Sidecar имеет глубину 3 и предназначен для speculative decoding, ускоряющего генерацию. В README заявлена поддержка английского, китайского, испанского, русского и японского языков. Точный размер контекста и подробная архитектура не указаны. В комплект входят tokenizer, processor, vision-веса, chat template и runtime-контракт MTP. Сильными сторонами являются сочетание мультимодальности, MXFP4-квантизации для текстовой части и ускоренной генерации на совместимом оборудовании. В локальной квалификации на M4 Max 64 GB заявлены скорости 26,43 токена в секунду для обычной авторегрессивной генерации и 56,74 токена в секунду с MTP глубины 3, однако это результаты одного узкого теста и не универсальный бенчмарк. Квантизация может повлиять на качество, а производительность зависит от оборудования и runtime. Модель распространяется по лицензии Apache-2.0; при использовании производного варианта необходимо также учитывать лицензию и ограничения исходной модели.

wanlige/QWQ-stock — языковая модель на архитектуре Qwen2, созданная методом Model Stock с помощью mergekit путём слияния нескольких предварительно обученных моделей. В качестве базовой использована Qwen/Qwen2.5-32B-Instruct; среди компонентов также указаны Qwen2.5-32B, QwQ-32B, DeepSeek-R1-Distill-Qwen-32B-abliterated и другие варианты Qwen. Модель содержит 32 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель подходит для ответов на запросы, ведения диалога и генерации текста на нескольких языках. Метаданные указывают контекст до 32 768 токенов и интерфейс вызова инструментов. Поддерживаются английский, русский, китайский и ряд других языков; объединение разных моделей может приводить к неоднородному поведению и качеству в отдельных задачах. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

Swift-Qwen3.8-27B-FP8 — независимая общественная FP8-квантизация модели ukisai/Swift-Qwen3.8-27b, не являющаяся официальным релизом UkisAI. Модель предназначена для диалоговых, reasoning- и мультимодальных сценариев, а также высокопроизводительного инференса через SGLang с поддержкой speculative decoding. Указанный pipeline относится к задачам image-text-to-text, однако мультимодальная работа именно этой квантизированной версии отдельно не тестировалась. Модель использует архитектуру Qwen3_5ForConditionalGeneration, формат compressed-tensors и схему FP8_BLOCK с блоками весов 128×128 и динамическим FP8 для активаций. Размер исходного чекпойнта составляет около 29 ГБ, заявленная длина контекста — 262 144 токена. Сохранены native MTP-компоненты; поддерживаются нативный NEXTN/MTP и внешняя модель-черновик DFlash2. Квантизация выполнена из BF16-версии с помощью llmcompressor 0.13.0, при этом несовместимые с блочной схемой компоненты, включая часть embedding- и normalization-модулей, сохранены без принудительной квантизации. Сильная сторона модели — снижение требований к видеопамяти при сохранении высокой производительности. В локальном тесте на NVIDIA RTX PRO 6000 Blackwell 96 GB скорость составила 50,45 токена в секунду без speculative decoding, 103,38 с native NEXTN/MTP и 132,62 с DFlash2 на фиксированной генерации. Эти результаты относятся к конкретной конфигурации и не являются стандартизированным бенчмарком; качество, языки и универсальная мультимодальная производительность отдельно не раскрыты. Для запуска проверены CUDA Linux, SGLang и одиночный GPU с TP=1. Модель распространяется по лицензии swift-open-license-1.0.

SynthIA-7B-v1.3-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением моделей mistralai/Mistral-7B-Instruct-v0.2 и migtissera/SynthIA-7B-v1.3 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. В метаданных указана лицензия Apache-2.0. README описывает состав слияния, но не сообщает, какие языки и специализированные области модель поддерживает; качество и ограничения применения отдельно не охарактеризованы.

T5Gemma 2 — семейство мультимодальных моделей Google на архитектуре encoder-decoder. Этот чекпойнт содержит энкодер на 270 млн и декодер на 270 млн параметров; он получен адаптацией предварительно обученной Gemma 3 с использованием подхода UL2. Модель принимает текст и изображения и генерирует текст. Семейство заявлено как мультиязычное: более 140 языков и контекст до 128 тысяч токенов; для этого размера в README приведены оценки на задачах понимания изображений и обработки длинного контекста. Модель предназначена для генерации и преобразования текста, ответов на вопросы по изображениям, суммаризации и рассуждений, а компактный размер позволяет рассматривать запуск на ноутбуках, настольных компьютерах или в облачной инфраструктуре. Чекпойнт отмечен как предварительно обученный; README также описывает исследовательское применение семейства. Модель может ошибаться в фактах, испытывать трудности со сложными или неоднозначными запросами и отражать смещения обучающих данных. Лицензия — Gemma; применяйте модель с учётом её условий и самостоятельно оценивайте безопасность результатов.

Hikari07jp/Ternary-Bonsai-27B-Abliterated-LowDeg-GGUF — производная текстовая языковая модель, созданная на основе Prism Ternary Bonsai 27B от PrismML. Это прямое редактирование GGUF-весов с применением abliteration и низкодеградационного отката отдельных параметров. Модель предназначена для локальных и офлайн-ассистентов, особенно в сценариях, где требуется уменьшить избыточные отказы от выполнения запросов. При этом она может генерировать небезопасный контент и не является доказанно безопасной. Модель поставляется в формате GGUF Q2_0 g128 размером около 7,2 ГБ и рассчитана на работу через специальный fork PrismML llama.cpp с гибридными kernels для Q2_0. Архитектурная линия связана с Qwen3.5/Qwen3.6-27B и hybrid attention. Указан текстовый режим без встроенного vision mmproj; поддерживаемые языки и точный размер контекстного окна в README не определены, хотя в примерах запуска используется контекст 8192, а с опциональным DSpark упоминается до 16K. По заявленным измерениям, модель выполнила 38 из 40 переходов от отказа к прямому ответу на вредоносном пилоте, сохранила показатели родительской модели в coding-пилоте на уровне 19/20 и показала близкие результаты на GSM8K, MMLU, HumanEval и MBPP. Ограничения включают необходимость использования Prism llama.cpp, возможные проблемы с DSpark при нехватке памяти и отсутствие визуального модуля. Лицензия — Apache-2.0, унаследованная от базового релиза.

Teuken-7B-instruct-commercial-v0.4 — мультиязычная языковая модель с 7,5 млрд параметров, разработанная Fraunhofer, Forschungszentrum Jülich, TU Dresden и DFKI в рамках проекта OpenGPT-X. Это инструкционно дообученная плотная decoder-only Transformer-модель семейства Llama, основанная на Teuken-7B-base-v0.4. Она предназначена для генерации ответов и выполнения инструкций на официальных языках ЕС; обучение базовой модели проводилось на 4 трлн токенов, а контекст составляет 4096 токенов. Модель ориентирована на многоязычные сценарии, включая диалог, ответы на вопросы, суммаризацию и перевод. По заявлению разработчиков, она обеспечивает более стабильные результаты на европейских языках, чем англоцентричные модели. Модель может выдавать предвзятый или токсичный текст и галлюцинировать; разработчики не рекомендуют использовать её для математических и программных задач. Лицензия Apache 2.0 допускает коммерческое применение.

TriomphantV2-ECE-78B-SLERP-V1 — разговорная языковая модель, созданная студентами инженерной школы ECE под руководством преподавателя ECE и технического директора TW3 Partners. Это слияние методом SLERP двух моделей: MaziyarPanahi/calme-3.2-instruct-78b и dfurman/CalmeRys-78B-Orpo-v0.1; в конфигурации указана базовая модель MaziyarPanahi/calme-3.2-instruct-78b. Модель основана на плотной архитектуре Qwen2ForCausalLM и содержит 71,5 млрд параметров. Модель предназначена для диалогов и генерации текста. Она опубликована в формате safetensors с лицензией Apache-2.0; максимальная длина контекста — 32 768 токенов. В карточке не описаны специализированные предметные области или поддерживаемые языки, поэтому область применения следует считать общей.

Sakalti/ultiima-14B-v0.2 — объединённая языковая модель Sakalti, созданная методом TIES с помощью mergekit на основе sometimesanotion/Lamarck-14B-v0.7 и sometimesanotion/Lamarck-14B-v0.6. Это плотная модель Qwen2 с 14 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. Нативная длина контекста составляет 131 072 токена. Модель подходит для диалогов и других задач генерации текста. Описание базовой модели в каталоге также относит семейство Lamarck к многошаговым рассуждениям, написанию прозы и переводу, но для этой модели подтверждённая задача — text-generation. Языки, на которые модель рассчитана, в предоставленных источниках не обозначены. Файлы модели представлены в формате Safetensors; README указывает тип данных float16. Условия лицензии в предоставленных данных не приведены.

MaziyarPanahi/una-cybertron-7b-v3-OMA-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и fblgit/una-cybertron-7b-v3-OMA методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель принимает текстовые запросы и выдаёт текстовые ответы; её контекст составляет до 32 768 токенов. Файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения и конкретные ограничения качества.

Upstage-Llama-2-70B-instruct-v2-GGUF — это квантизированная версия большой языковой модели Llama 2 70B Instruct v2, разработанной Upstage и преобразованной в формат GGUF компанией TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговом формате, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров. Указан английский язык; поддержка других языков, размер контекстного окна и мультимодальные возможности в README не описаны. Доступны варианты GGUF с 2-, 3-, 4-, 5-, 6- и 8-битным квантованием для инференса на CPU и GPU. Формат GGUF поддерживает метаданные и специальные токены, а модель совместима с llama.cpp и рядом сторонних инструментов. Сильными сторонами являются выполнение инструкций, широкий выбор уровней квантования и возможность локального использования с GPU-ускорением. К ограничениям относятся высокие требования к ресурсам для 70-миллиардной модели, возможная потеря качества при агрессивном квантовании и отсутствие в README подробных данных о качестве, тестах и контекстном окне. Лицензия указана как llama2; условия её применения следует проверять по лицензии исходной модели.

Apertus-v1.1-4B-Instruct — мультиязычная инструктивная языковая модель, разработанная Swiss AI Initiative как часть открытой экосистемы Apertus. Это плотный Transformer-декодер с grouped-query attention и активацией xIELU: 24 слоя, размерность модели 3072, 4,6 млрд параметров. Модель поддерживает контекст до 4096 токенов и предназначена для генерации текста в диалоговом формате, включая работу на устройствах с ограниченными ресурсами. Модель получена дистилляцией от Apertus-8B-2509, затем прошла дообучение на инструкциях и выравнивание. Разработчики заявляют нативную поддержку 1811 языков. Среди подходящих сценариев — многоязычный чат, ответы на вопросы, создание и преобразование текста. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Лицензия Apache-2.0. Модель может выдавать фактически неверные или логически непоследовательные ответы и наследовать смещения обучающих данных; качество сложного следования инструкциям и решения продвинутых математических задач ограничено. Фильтр персональных данных для выходов не предоставляется, поэтому важные ответы следует проверять.

Athene-Phi-3.5-mini-instruct-orpo-GGUF — это набор GGUF-квантизированных версий языковой модели Athene-Phi-3.5-mini-instruct-orpo, разработанной EpistemeAI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального запуска, в том числе через llama.cpp и LM Studio. В репозитории представлены варианты от исходных весов F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ4 с размером файлов примерно от 1,88 до 7,64 ГБ. Для взаимодействия используется формат промпта с ролями system, user и assistant. Указан английский язык; сведения о количестве параметров, максимальном контексте, архитектурных деталях и поддержке других модальностей отсутствуют. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером и требованиями к памяти, а также специальные варианты Q4 для ARM и CPU-инференса. Более компактные версии могут уступать по качеству полноразмерным и менее агрессивно квантизированным вариантам. Модель распространяется по лицензии Apache-2.0.

bling-falcon-1b-0.1 — инструктивно дообученная языковая модель серии BLING от llmware, созданная на базе tiiuae/falcon-rw-1b. Это плотная авторегрессионная модель Falcon примерно с 1,7 млрд параметров и контекстом 2048 токенов; она работает с текстом и рассчитана на запуск локально на ноутбуке, в том числе на CPU без специальной квантизации. Основной язык модели — английский. Модель предназначена для локальных прототипов и автоматизации сценариев RAG: ответов на вопросы по предоставленному контексту, извлечения ключей и значений и базового суммирования. В опубликованном тесте RAG-Instruct-Benchmark-Tester указана оценка 89 из 100; качество суммирования охарактеризовано как связное и экстрактивное, а в тестовых прогонах галлюцинаций не наблюдалось. Эти результаты относятся к описанному тесту и не гарантируют точность в других задачах. Лицензия — Apache 2.0.

BlueBerry-3 — дообученная модель artindnr на базе openai/gpt-oss-120b для рассуждений и диалогов на шести языках: фарси, английском, арабском, французском, немецком и испанском. Это авторегрессионная языковая модель с архитектурой gpt_oss и смесью экспертов (MoE); в репозитории указано 2,1 млрд параметров, а карточка базы называет 117 млрд. Модель принимает текст и выдаёт текст, поддерживает шаблон чата Harmony и интерфейс вызова инструментов. Контекст — до 131 072 токенов. Модель предназначена для многоязычных ассистентов, ответов на запросы и задач, требующих рассуждений на одном из шести поддерживаемых языков. Её особенность — генерация рассуждений на языке запроса, а не преимущественно на английском. Выпущенная версия — полностью дообученный чекпойнт с объединёнными плотными весами, а не LoRA-адаптер. Качество рассуждений оптимизировано для перечисленных шести языков; для других языков оно не гарантируется. Модель может ошибаться и выдумывать факты; отдельное дообучение безопасности не проводилось. Лицензия — Apache 2.0.

ChaoticNeutrals/Captain-Eris-Diogenes_Twilight-V0.420-12B — объединённая разговорная языковая модель на архитектуре Mistral, опубликованная в формате safetensors для библиотеки Transformers. В состав слияния вошли Nitral-AI/Captain-Eris_Twilight-V0.420-12B и Nitral-AI/Diogenes-12B-ChatMLified; веса объединены методом SLERP. Модель содержит 12,1 млрд параметров и имеет заявленную длину контекста 1 024 000 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате, продолжения текста и интерфейсов с вызовом инструментов. Карточка не сообщает о специальной предметной области или языках. Лицензия в предоставленных данных не указана.

Это GGUF-квантизация модели GLM-4.5-Air-REAP-82B-A12B, разработанной Cerebras и подготовленной пользователем bartowski. Модель предназначена для задач генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3_K/IQ3 с размером файлов примерно от 39 до 90 ГБ. Обозначение модели указывает на конфигурацию 82B-A12B, однако подробности архитектуры, поддерживаемые языки, модальности и размер контекста в предоставленной карточке не указаны. Квантизация выполнена с использованием imatrix, что направлено на сохранение качества при уменьшении размера модели. Сильная сторона этой версии — широкий выбор уровней квантования для баланса между качеством, требованиями к памяти и скоростью инференса; наиболее рекомендуемыми указаны варианты Q6_K, Q5_K, Q4_K и IQ4_XS. Ограничения включают очень высокие требования к оперативной или видеопамяти даже для компактных вариантов, а также отсутствие указанного chat template: в README отмечено, что используемый шаблон может быть неточным и требует проверки по оригинальной карточке модели. Лицензия в предоставленных данных не указана.

Chinese-Mixtral-Instruct — чат-модель, разработанная авторами проекта Chinese-Mixtral. Она дообучена на инструкционных данных на основе Chinese-Mixtral, которая построена на Mixtral-8x7B-v0.1. Модель предназначена для диалога, ответов на вопросы и генерации текста по инструкциям. Архитектура — Mixtral с разреженной экспертной моделью (MoE); в метаданных указан размер 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Заявлены китайский и английский языки. Модель подходит для чат-ботов, вопросов и ответов на китайском или английском и других задач генерации текста по инструкциям. Опубликована под лицензией Apache-2.0.