I.11Классификация, ранжирование и сопоставление

Perception Encoder Language G14-448 — визуальный энкодер Meta из семейства Perception Encoder, обученный для мультимодальных языковых сценариев. Модель извлекает визуальные признаки и предназначена для подключения к языковому декодеру, например Llama или Qwen; в карточке приведены результаты связки с Llama 3.1 8B. Особенно хорошо энкодер показывает себя в задачах OCR и анализа документов, а также в визуальном поиске и понимании изображений и видео. Чекпойнт G/14 с разрешением 448 пикселей использует контрастивное предварительное обучение и дополнительное выравнивание для языкового моделирования. В сравнении с L14-448 в описанном авторами тестировании с замороженным энкодером он показал более высокие результаты на DocVQA, InfoQA, TextVQA и ряде видеобенчмарков. Для практического применения как мультимодальной языковой модели нужен совместимый языковой декодер. Модель опубликована под лицензией Apache-2.0.

Xenova/Phi-3-mini-4k-instruct — оптимизированная ONNX-версия инструкционной языковой модели Phi-3 Mini, подготовленная для запуска через Transformers.js и onnxruntime-web. Модель предназначена для генерации текста и диалогового взаимодействия в браузерных и JavaScript-приложениях, включая ответы на вопросы, решение задач и выполнение инструкций. Модель содержит 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. Веса представлены в формате FP16 с блочным квантованием INT4; выход logits имеет формат FP32. Для совместимости с onnxruntime-web используется архитектурная модификация с MHA вместо GQA, а файлы модели ограничены размером менее 2 ГБ для кэширования в Chromium. Модель распространяется через библиотеку Transformers.js и использует ONNX Runtime. Лицензия MIT разрешает свободное использование при соблюдении её условий. Квантование INT4 может снижать точность по сравнению с полноразмерной версией, а ограничение контекста в 4096 токенов не позволяет эффективно работать с очень длинными документами. Возможности модели зависят от ресурсов устройства и производительности браузерной среды.

Карточка модели sworge/poc-custom-arch на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Perplexity AI разработала pplx-pii-masking для обнаружения и маскирования персональных и других чувствительных данных в разговорных текстах. Модель использует примерно 600-миллионную двунаправленную архитектуру Qwen3 на основе perplexity-ai/pplx-embed-v1-0.6b и содержит две выходные головы: токенную классификацию с BIOES-разметкой девяти категорий чувствительных данных и классификатор чувствительности беседы. Для последовательностей применяется ограниченный декодер Витерби; максимальная длина входа — 4096 токенов. Модель подходит для поиска имён, номеров счетов, URL, дат, адресов, адресов электронной почты, телефонов, прочих персональных данных и секретов в разговорных данных, а также для оценки чувствительности беседы целиком. Метаданные указывают английский и многоязычный охват. Веса доступны в формате safetensors; лицензия — MIT. Для запуска README описывает использование PyTorch и Transformers с trust_remote_code.

Карточка модели LIF1014/ptdbench-Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Qwen2.5-3B-RuoZhiBa-Instruct — чат-модель, созданная дообучением Qwen/Qwen2.5-3B-Instruct на наборе hfl/ruozhiba_gpt4 с помощью LLaMA-Factory. Она построена на архитектуре Qwen2 с 3,1 млрд параметров и предназначена для генерации текста и диалогов по инструкциям; в метаданных также заявлен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. Базовая модель поддерживает более 29 языков, включая английский, китайский и русский, однако карточка этой версии отмечает английский и китайский. Модель распространяется в формате Safetensors; лицензия указана как other, без уточнения условий в доступных данных.

ZeroXClem/Qwen2.5-7B-CelestialHarmony-1M — языковая модель, созданная ZeroXClem слиянием нескольких дообученных вариантов Qwen2.5-7B методом Model Stock. Она построена на архитектуре Qwen2 и содержит около 7,1 млрд параметров по метаданным; README указывает 7,61 млрд. Модель принимает текст и генерирует текст, а заявленная длина контекста составляет до 1 010 000 токенов. Модель предназначена для диалогов, ролевых сценариев и сторителлинга, структурированных рассуждений, а также работы с очень длинными документами и контекстами. В метаданных отмечен интерфейс вызова инструментов; конкретные возможности зависят от используемого шаблона и среды запуска. Модель распространяется под лицензией MIT. Для практического применения на длинном контексте потребуются совместимая среда инференса и значительные вычислительные ресурсы; заявленные качества рассуждения и работы с контекстом основаны на описании автора.

Qwen2.5-VL-3B-Instruct (Abliterated) — мультимодальная модель семейства Qwen, опубликованная пользователем wangkanai и основанная на Qwen2.5-VL-3B-Instruct. Это вариант с удалёнными или существенно ослабленными защитными фильтрами исходной модели, поэтому он может формировать менее ограниченные ответы. Модель принимает изображения и текст и генерирует текстовые ответы. Она предназначена для визуального ответа на вопросы, описания изображений, мультимодального рассуждения, анализа документов и OCR, интерпретации диаграмм и графиков, а также понимания сцен и пространственных отношений. Архитектура описана как Qwen2-VL с визуальным энкодером на базе ViT и примерно 3 миллиардами параметров; заявленная длина текстового контекста составляет 4096 токенов. Доступны варианты SafeTensors и GGUF, включая FP16, Q5_K_M и Q4_K_M, что позволяет выбирать между качеством и требованиями к памяти. Сильные стороны модели — сочетание обработки изображений и текста, поддержка широкого набора задач анализа визуального содержимого и возможность локального запуска в различных форматах. Ограничения включают меньший размер по сравнению с более крупными моделями семейства, возможные потери качества у квантованных вариантов и отсутствие в предоставленных данных подробной информации о поддерживаемых языках и результатах независимых тестов. Удаление защитных механизмов повышает риск небезопасных или нежелательных ответов, поэтому модель следует использовать ответственно и с соблюдением применимых законов. Модель распространяется по лицензии Apache-2.0.

sci4ai/Qwen2.5-VL-7B-Instruct-Ablit — мультимодальная модель для диалога и анализа изображений, созданная на основе Qwen/Qwen2.5-VL-7B-Instruct. Это плотная модель семейства Qwen2.5-VL с 7,1 млрд параметров, реализованная для Transformers и распространяемая в формате safetensors. Модель принимает текст и изображения и формирует текстовые ответы; в README также указана возможность анализа видео как характеристика базовой модели. Веса изменены методом abliteration: из текстового декодера удалено одно направление отказа, вычисленное по активациям на вредоносных и безвредных текстовых запросах. Визуальный энкодер не менялся, поэтому авторы сообщают о сохранении возможностей понимания изображений. Модель подходит для визуальных вопросов и ответов, описания изображений и извлечения сведений из документов, однако редактирование может ослабить следование инструкциям. Abliteration не добавляет новых знаний и навыков, а ответственность за безопасное применение лежит на развёртывающей стороне. Лицензия в предоставленных данных не указана.

Qwen2-VL-72B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная Qwen и квантованная компанией Second State Inc. Модель предназначена для обработки изображений и текстовых запросов, включая задачи визуального анализа, распознавания содержимого изображений и генерации ответов по ним. В карточке указана поддержка английского языка и формат image-text-to-text. Модель основана на Qwen2-VL-72B-Instruct с размером 72 млрд параметров и поставляется в формате GGUF с вариантами квантования от 2 до 8 бит. Доступны отдельные файлы визуального энкодера; для запуска с LlamaEdge используется шаблон qwen2-vision и заявлен контекст до 128 000 токенов. Вариант Q4_K_M описан как сбалансированный по качеству и размеру, а Q5_K_M — как вариант с очень малой потерей качества. Основные преимущества — мультимодальность, большой контекст и возможность выбора уровня квантования в зависимости от доступных ресурсов. Ограничения связаны с существенными требованиями к дисковому пространству и вычислительным ресурсам: размеры файлов варьируются примерно от 29,8 до 47,4 ГБ для указанных вариантов, а низкобитные версии могут заметно терять качество. Модель распространяется по лицензии tongyi-qianwen; в карточке указан тип лицензии other и ссылка на лицензию исходной модели.

Qwen3-235B-A22B-Instruct-2507-4bit — языковая instruction-модель, разработанная командой Qwen и адаптированная сообществом mlx-community для формата MLX. Модель преобразована из Qwen/Qwen3-235B-A22B-Instruct-2507 с использованием mlx-lm 0.26.0 и предназначена для генерации текста по инструкциям в приложениях, работающих на MLX. В названии указаны общий размер 235B параметров, архитектура MoE с 22B активных параметров и 4-битное квантование, однако эти характеристики в представленном README явно не описаны и основаны только на идентификаторе модели. Поддерживается текстовая генерация; сведения о языках, размере контекста, модальностях, сильных сторонах и ограничениях не приведены. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение. Модель распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о требованиях к оборудованию, производительности или особенностях применения.

Qwen3-4B-Instruct-2507-4bit-DWQ-2510 — это квантизированная 4-битная версия языковой модели Qwen3-4B-Instruct-2507 в формате MLX. Модель разработана сообществом mlx-community на основе исходной модели Qwen, созданной командой Qwen, и преобразована в формат MLX с использованием mlx-lm версии 0.28.2. Модель предназначена для генерации текста и диалоговых сценариев с применением инструкционного режима. Она подходит для использования через библиотеку mlx-lm, включая обработку сообщений в формате чата и генерацию ответов по текстовым подсказкам. Известны размер исходной модели — 4 миллиарда параметров — и 4-битное квантование DWQ, позволяющее уменьшить требования к хранению и вычислительным ресурсам по сравнению с полноразмерными вариантами. Модель работает с текстом; сведения о поддерживаемых языках, размере контекстного окна, архитектурных деталях, результатах тестирования и ограничениях качества в README не указаны. Для использования требуется библиотека mlx-lm и среда, совместимая с MLX. Модель распространяется по лицензии Apache 2.0.

Qwen3.5-0.8B — компактная мультимодальная модель семейства Qwen от Qwen, представленная в виде постобученных весов для Transformers. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов и задач, где нужно анализировать изображения и отвечать текстом. Модель поддерживает вызов инструментов через соответствующий интерфейс и может использоваться для прототипирования, разработки и дообучения под конкретные задачи. Модель имеет плотную архитектуру Qwen3.5 с 0,8 млрд параметров, 24 слоями и нативным контекстом до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и gated attention; доступны режимы обычной генерации и рассуждения, причём по умолчанию включён обычный режим. Карточка заявляет поддержку 201 языка и диалекта. Веса доступны в формате safetensors и совместимы с Transformers и несколькими движками инференса. Небольшой размер делает модель удобной для прототипирования и настройки под узкие задачи, однако её возможности и качество следует оценивать с учётом масштаба 0,8 млрд параметров и целевого сценария. Для длинного контекста могут потребоваться значительные ресурсы памяти. Лицензия — Apache-2.0.

unsloth/Qwen3.5-0.8B — постобученная компактная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-0.8B, опубликованная в формате Transformers и распространяемая по лицензии Apache-2.0. Это плотная причинная языковая модель с визуальным энкодером, поддерживающая диалог и анализ изображений; доступны интерфейс вызова инструментов и режим рассуждений, который для версии 0.8B по умолчанию выключен. Модель содержит 0,8 млрд параметров, имеет 24 слоя и нативный контекст длиной до 262 144 токенов. Архитектура сочетает Gated Delta Networks и gated attention. В карточке заявлена поддержка 201 языка и диалекта. Модель рассчитана прежде всего на прототипирование, дообучение под конкретные задачи, исследования и разработку; веса совместимы с Transformers и рядом серверных движков, включая vLLM и SGLang. Компактный размер удобен для экспериментов и специализированной настройки, а мультимодальная архитектура позволяет работать с текстом и изображениями. Масштаб модели ограничивает её возможности по сравнению с более крупными системами; для длинного контекста нужны значительные ресурсы памяти, а карточка рекомендует при нехватке памяти уменьшить окно контекста.

FreedomAISVR/Qwen3.5-4B-MTP-NVFP4-GGUF — квантизированная сборка мультимодальной модели Qwen3.5-4B, разработанной командой Qwen компании Alibaba. Репозиторий содержит веса GGUF в формате NVFP4 и проектор изображений SigLIP ViT в F16; заявлена поддержка Multi-Token Prediction (MTP), предсказывающей два токена за шаг генерации. Сборка рассчитана прежде всего на ускоренный запуск на видеокартах NVIDIA Blackwell и предназначена для использования через llama.cpp и совместимые инструменты. Модель подходит для генерации текста и диалога, а с мультимодальным проектором — для обработки изображений вместе с текстовым запросом. README указывает контекстное окно 262 144 токена, мультиязычность и режим рассуждения, включённый по умолчанию. В архитектуре базовой модели описаны гибридные слои Attention и Mamba-2, MLA и 3D MRoPE. NVFP4 может ускорить инференс на Blackwell; заявленное увеличение пропускной способности MTP до 30–40% приведено автором репозитория и не является независимым бенчмарком. Лицензия — Apache-2.0. Формат NVFP4 ориентирован на GPU Blackwell; для более старых видеокарт и CPU автор рекомендует другие варианты квантования. Это производный квантованный артефакт, а не отдельное дообучение базовой модели.

andrzejmontano/Qwen3.5-9B-MTP-Mixed-8bit — мультимодальная модель семейства Qwen3.5 на 9 млрд параметров, подготовленная автором репозитория как смешанно-квантованная версия Qwen/Qwen3.5-9B. Она предназначена для диалога и задач «изображение—текст», включая анализ изображений и видео. Архитектура включает 32 слоя с чередованием линейного SSM-подобного внимания и полного внимания, 27-блочный визуальный трансформер и голову предсказания нескольких токенов. Модель принимает текст, изображения и видео, а выдаёт текст; в метаданных заявлены английский язык, чат и интерфейс вызова инструментов. Для экономии памяти до 8 бит квантованы только проекции MLP языковой части с размером группы 64; визуальный блок, механизмы внимания, эмбеддинги и голова MTP сохранены в BF16. Репозиторий использует формат MLX и safetensors, модель рассчитана на эффективный локальный инференс на совместимой платформе. Автор предупреждает о возможном небольшом ухудшении качества на отдельных случаях относительно BF16. Для сохранения MTP-ключей при загрузке через стандартный mlx-vlm требуются патчи из скрипта; README рекомендует oMLX. Лицензия — Apache-2.0.

bernquant/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это 27-миллиардная модель семейства Qwen3.6 в формате GGUF, созданная на базе DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Модель разработана в рамках совместной работы автора, Nightmedia, TeichAI, armand0e и trohrbaugh с использованием Unsloth, многоэтапного fine-tuning и merge нескольких обученных версий. Указаны языки English и Chinese; заявлена поддержка vision, однако подробности о мультимодальной архитектуре и формате входных данных не приведены. Модель предназначена для широкого круга задач: следования инструкциям, решения проблем, reasoning, программирования, творческого письма, fiction и roleplaying. Авторы заявляют об улучшении общего интеллекта, instruction following и reasoning по сравнению с базовой моделью, а также о высоких результатах на ряде бенчмарков. Доступны обычные и MTP-варианты GGUF, включая NEO IMATRIX-квантизации; часть выходного тензора хранится в 16-битной точности. Для MTP-вариантов рекомендуется температура не выше 1 и отключённый repetition penalty; при низком уровне token acceptance рекомендуется использовать обычную квантизацию. К ограничениям относятся отсутствие подробных спецификаций контекстного окна, точного перечня поддерживаемых модальностей, требований к памяти и результатов независимой оценки. Модель позиционируется как uncensored и heretic, поэтому её поведение и фильтрация могут отличаться от стандартных версий Qwen. Заявления о превосходстве над другими моделями основаны на описании авторов и не подтверждены приведёнными в README полными методиками тестирования. Лицензия — Apache-2.0.

Qwen3.6-27B-MLX-6bit — это 6-битная квантованная версия модели Qwen3.6-27B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx-vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для локального применения в сценариях генерации текста и обработки изображений с текстом, что следует из указанного типа конвейера image-text-to-text. Она сохраняет основу оригинальной Qwen3.6-27B, однако README не содержит сведений о точной архитектуре, числе параметров исходной модели, поддерживаемых языках и размере контекстного окна. Ключевые преимущества — сниженное потребление памяти по сравнению с полноразмерной версией и оптимизация под экосистему Apple Silicon, что делает модель подходящей для локального использования через совместимое программное обеспечение. Ограничениями являются потери качества, возможные при 6-битном квантовании, зависимость производительности от устройств Apple Silicon и отсутствие в предоставленных данных подробных характеристик качества и языковой поддержки. Модель распространяется по лицензии Apache 2.0.

DavidAU опубликовал полноточную версию модели на базе дообученной Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для диалога и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Контекст модели расширен с 32 768 до 196 608 токенов с помощью YARN. README рекомендует задавать контекст для рассуждений и генерации от 8 000 до 16 000 токенов; упоминается генерация длинных ответов. Модель принимает текст и выдаёт текст. В карточке не заявлена специализация на конкретных языках или прикладных областях. Это дообученная и модифицированная модель, а не самостоятельная базовая разработка. README описывает исходные веса в формате safetensors и возможность использовать их напрямую или конвертировать в другие форматы. Лицензия в предоставленных сведениях не указана.

Alcoft/Qwen_Qwen3-4B-Thinking-2507-GGUF — это GGUF-квантизированный вариант языковой модели Qwen3-4B-Thinking-2507, разработанной командой Qwen. Модель предназначена для генерации текста и сценариев, требующих рассуждений, включая работу с локальными приложениями и системами, поддерживающими формат GGUF. В репозитории представлены варианты квантизации от Q2_K до Q8_K с размером файлов примерно от 1,38 до 3,99 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K и близкие к ним конфигурации: они обеспечивают приемлемое или высокое качество при меньших требованиях к памяти. Самые лёгкие варианты Q2 и Q3 характеризуются низким качеством и в README не рекомендуются. Некоторые варианты используют повышенную точность Q8_0 или F16 для выходных и embedding-слоёв. Модель относится к text-generation и предоставляет только текстовую модальность. Данные о точной архитектуре, размере контекста и поддерживаемых языках в представленном README не указаны. Основные ограничения связаны с потерей качества при сильной квантизации и зависимостью результата от выбранного варианта. Указана лицензия Apache-2.0.

ReWiz-Nemo-12B-Instruct — языковая модель theprint, дообученная на базе unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit. Это плотная Mistral-модель с 12,1 млрд параметров для диалоговой генерации текста. При обучении часть данных была ориентирована на улучшение рассуждений, а другая — на снижение ограничений на ответы; использовались EvolKit-20k, reasoning-base-20k и данные WizardLM. Модель обучалась с Unsloth и библиотекой TRL. Модель подходит для диалогов и генерации ответов на запросы на английском языке. Метаданные указывают контекст до 1 024 000 токенов и интерфейс для вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0; для GGUF автор указывает отдельную публикацию. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество в конкретных сценариях.

Shisa Base 7B v1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и augmxnt/shisa-base-7b-v1 методом SLERP. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы. Поддерживает английский и японский языки; длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений и генерации ответов на инструкции. Опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README не приводит оценок качества или специальных ограничений применения.

jaspionjader/sof-5 — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом Model Stock. При слиянии использованы jaspionjader/sof-3, jaspionjader/ek-6 и jaspionjader/sof-4; базовой моделью указана jaspionjader/Kosmos-EVAA-Franken-stock-v43-8B. Модель относится к семейству Llama, использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Она принимает текст и выдаёт текст, а заявленная длина контекста составляет до 131 072 токенов. Карточка не описывает целевые языки или специализированные области применения, поэтому модель следует рассматривать как универсальную. В репозитории указаны веса в формате safetensors и тип данных bfloat16. Лицензия в предоставленных данных не приведена. Карточка не содержит результатов оценки качества или конкретных ограничений поведения модели.

Spaetzle-v31-7b — объединённая модель для генерации текста и диалогов, созданная cstr с помощью LazyMergekit. Она объединяет cstr/spaetzle-v8-7b и yleo/EmertonMonarch-7B методом dare_ties; в конфигурации указаны плотность 0,60 и тип данных bfloat16. По метаданным это плотная архитектура MistralForCausalLM на 7,1 млрд параметров с контекстом до 32 768 токенов и поддержкой диалога. Модель предназначена для ответов на текстовые запросы и общих диалоговых сценариев. В карточке приведены результаты тестов AGIEval, GPT4All, TruthfulQA и Bigbench: средний балл по ним — 59,8, что характеризует оценку на этих наборах, но не гарантирует качество в конкретном применении. Репозиторий использует лицензию CC-BY-NC-4.0 с ограничением на некоммерческое использование.

QuantFactory/suzume-llama-3-8B-multilingual-GGUF — это квантованная в формате GGUF версия мультиязычной модели lightblue/suzume-llama-3-8B-multilingual, созданная с помощью llama.cpp. Базой служит Meta-Llama-3-8B-Instruct от Meta; исходная модель дообучена примерно на 90 тысячах многоязычных диалогов. Модель предназначена для текстового общения, генерации ответов и инструкционного взаимодействия на нескольких языках. В обучении использовались датасеты с англоязычными, японскими и другими многоязычными диалогами, а оценивание проводилось на немецком, французском, японском, русском, китайском и английском языках. Ключевая особенность — расширенная поддержка неанглийских языков при сохранении возможностей Llama 3 для диалоговых задач. Размер модели — 8B параметров; архитектура унаследована от Llama 3. Модель является текстовой, поддержка изображений и других модальностей не заявлена. Размер контекста в карточке не указан. По MT-Bench модель получила оценки 7,26 на немецком, 7,66 на французском, 6,56 на японском, 8,19 на русском, 7,11 на китайском и 7,73 на английском. Эти результаты указывают на сильные мультиязычные диалоговые способности, однако русская оценка не включала задачи на код, рассуждения и математику, а подробности методики и обучающих данных должны быть дополнительно проверены. Для использования заявлена лицензия Llama 3; в карточке она обозначена как other и приведена ссылка на лицензию Meta-Llama-3-8B-Instruct. Ограничения лицензии, требования к применению и характеристики конкретных квантованных вариантов в README подробно не описаны.

Это GGUF-квантизированная версия языковой модели ContextPilot-14B, разработанной Tencent и подготовленной пользователем bartowski с помощью llama.cpp. Модель относится к классу text-generation, поддерживает только текстовый ввод и содержит около 15 млрд параметров. Для квантизации использовался метод imatrix; доступны варианты от BF16 до низкобитных форматов Q2 и Q3, а также Q4–Q8. ContextPilot-14B предназначена для генерации текста, задач управления контекстом, использования инструментов и агентских сценариев. Для работы следует применять указанный шаблон промпта с ролями system, user и assistant. Спекулятивное декодирование не поддерживается. Сильная сторона семейства — широкий выбор квантизаций, позволяющий найти компромисс между качеством, размером файла и требованиями к памяти; автор рекомендует Q4_K_M как сбалансированный вариант. Более низкие квантизации экономят память, но снижают качество, а некоторые форматы отмечены как устаревшие или не рекомендуемые. Языки, размер контекстного окна и точные архитектурные характеристики в README не указаны. Распространение заявлено по лицензии other; конкретные условия лицензии в README не приведены.

WonseokJayJung/test-gguf-final — компактная языковая модель для генерации текста, полученная слиянием Qwen/Qwen2.5-0.5B и Qwen/Qwen2.5-0.5B-Instruct методом SLERP с помощью mergekit. Это плотная авторегрессионная архитектура Qwen2 с примерно 494 млн параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. В репозитории доступны веса GGUF в формате F16 и safetensors; метаданные указывают библиотеку Transformers и интерфейс для вызова инструментов. Лицензия в предоставленных данных не указана.

Wiederchat-7b-dpo — разговорная языковая модель на 7,1 млрд параметров, созданная mayflowergmbh как DPO-согласованное слияние трёх моделей с помощью LazyMergekit: mlabonne/OmniTruthyBeagle-7B-v0, mayflowergmbh/Wiedervereinigung-7b-dpo-laser и cognitivecomputations/openchat-3.5-0106-laser. Модель основана на архитектуре Mistral и предназначена для генерации текста в диалоге; заявленная длина контекста — 32 768 токенов. В README приведены результаты Mt-Bench-De: средняя оценка 7,61875, с более высокими оценками в категориях STEM и гуманитарных дисциплин, чем в математике и программировании. Это ориентиры из карточки, а не гарантия качества в конкретной задаче. Лицензия и сведения о поддерживаемых языках в предоставленных данных отсутствуют.

XVERSE-MoE-A4.2B-Chat — разработанная Shenzhen Yuanxiang Technology чат-модель на архитектуре decoder-only Transformer с механизмом смеси экспертов (MoE), выровненная на основе XVERSE-MoE-A4.2B. В базовой модели 25,8 млрд параметров, из которых при вычислении активируются 4,2 млрд; в метаданных этого репозитория указано 1,4 млрд параметров. Модель поддерживает более 40 языков, включая китайский, английский, русский и испанский, и рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста на нескольких языках. В архитектуре используются общие и маршрутизируемые эксперты; по карточке, обучение проводилось на 2,7 трлн токенов с последовательностями длиной 8K. Репозиторий содержит веса PyTorch и поддерживает загрузку через Transformers. Модель может выдавать неточные, предвзятые или оскорбительные ответы, поэтому перед внедрением нужна проверка безопасности под конкретный сценарий. Метаданные указывают лицензию Apache-2.0; карточка отдельно отмечает открытость весов для академических исследований и возможность бесплатного коммерческого использования с оформлением коммерческой лицензии.

YamshadowStrangemerges_32_YamshadowT3q — объединённая языковая модель на архитектуре Mistral, созданная путём слияния automerger/YamshadowStrangemerges_32-7B и automerger/YamshadowT3q-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; максимальный контекст составляет 32 768 токенов. Она предназначена для генерации текста и ответов на математические запросы. Репозиторий содержит веса в формате safetensors. Модель опубликована под лицензией Apache-2.0.