I.11Классификация, ранжирование и сопоставление

Gemma-4-E4B-Uncensored-HauhauCS-Aggressive — мультимодальная модель в формате GGUF, созданная HauhauCS на базе Google Gemma 4 E4B IT. Модель ориентирована на работу с текстом, изображениями, видео и аудио, а также на сценарии локального запуска через llama.cpp, LM Studio, Jan, koboldcpp и другие совместимые среды. Версия Aggressive модифицирована для минимизации отказов в ответах, поэтому подходит для задач, где требуется менее ограниченное следование запросам, однако может генерировать потенциально нежелательный или небезопасный контент. Модель содержит около 4 млрд параметров, включает 42 слоя со смешанной архитектурой sliding window attention с окном 512 и full attention, поддерживает контекст до 131 000 токенов и использует 18 общих KV-слоёв для снижения требований к памяти. Для мультимодальной работы требуется отдельный файл mmproj. Доступны варианты квантования от Q2 до Q8, включая оптимизированные HauhauCS K_P-кванты; размер файлов составляет примерно от 4,2 до 7,6 ГБ, не считая mmproj размером около 945 МБ. Сильными сторонами являются мультимодальность, большой контекст, возможность локального запуска и широкий выбор квантований. Ограничения включают отсутствие полноценной проверки поведения на длинном контексте, возможные редкие пограничные случаи и снижение качества при использовании более агрессивного квантования. Для llama.cpp рекомендуется включать параметр --jinja, а для изображений и аудио подключать mmproj. В README указана лицензия Gemma.

GLM-5.3-5bit-UVMAX — это квантованная версия языковой модели GLM-5.3-BF16, разработанной zai-org и преобразованная с помощью mlx-lm. Модель предназначена для генерации текста и запуска в экосистеме MLX, включая локальное развертывание на совместимом оборудовании. В README указаны английский и китайский языки, а также поддержка задач text-generation. Модель использует MoE-архитектуру с 743 млрд параметров и смешанную UVMAX-квантизацию со средним размером 4,67 бита на вес. Экспертные FFN-слои квантуются преимущественно в 4 и 5 бит, attention, DSA indexer и dense MLP — в 8 бит, а маршрутизаторы и нормализационные слои сохраняются в bf16. Общий размер модели составляет около 404 GiB, поэтому она помещается на одной машине с 512 ГБ памяти. Контекстное окно и точный состав поддерживаемых модальностей в README не указаны; по имеющимся данным, модель работает с текстом. По сравнению с исходной версией bf16 UVMAX демонстрирует близкие показатели на тестовых корпусах: среднее отношение perplexity составляет 1,02×, а согласие top-1 предсказаний — 94,4%. Это делает квантизацию компромиссом между качеством и снижением требований к памяти. Ограничением остаются очень высокие аппаратные требования и необходимость свежей версии mlx-lm с поддержкой GLM-5.3 и glm_moe_dsa. Модель распространяется по лицензии glm-5.3; конкретные условия следует уточнять в указанном файле LICENSE.

Goppa-LogiLlama-GGUF — это набор GGUF-квантизаций языковой модели Goppa-LogiLlama, разработанной goppa-ai и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и совместимые приложения. В README также указано обучение на наборах open-thoughts/open-thoughts-114k и open-thoughts/OpenThoughts-Unverified-173k. Доступны варианты от F16 до низкобитных Q2_K_L, включая Q8_0, Q6_K, Q5_K, Q4_K и IQ-квантизации. Размер файлов составляет примерно от 0,64 до 2,48 ГБ, поэтому можно выбрать баланс между качеством и требованиями к оперативной памяти. Наиболее качественными считаются F16, Q8_0 и варианты Q6_K; Q4_K_M обозначен как стандартный вариант для большинства сценариев. Более компактные варианты экономят память, но отличаются сниженным качеством. Модель поддерживает текстовую генерацию; сведения об архитектуре, числе параметров, длине контекста и языках в README не приведены. Указан формат prompt-шаблона на основе ChatML-подобных служебных токенов с датой отсечения знаний декабрь 2023 года. Лицензия обозначена как llama3; конкретные условия и ограничения лицензии в карточке не раскрыты.

ibm-granite/granite-4.1-30b-GGUF — это конверсия модели IBM Granite 4.1 30B в формат GGUF, предназначенная для запуска и инференса с инструментами, поддерживающими этот формат. Разработчик исходной модели — IBM; репозиторий содержит варианты с различными уровнями квантования, преобразованные из модели в формате .safetensors. Базовая модель указана как ibm-granite/granite-4.1-30b. Модель относится к задачам генерации текста и может использоваться в сценариях локального или оптимизированного инференса, совместимого с GGUF. Из доступных данных известны размер базовой модели — 30B параметров, текстовая модальность и поддержка библиотеки Transformers; сведения о конкретной архитектуре, языках, размере контекста, результатах тестирования и сильных или слабых сторонах отсутствуют. Вариант bf16 разделён на пять файлов из-за ограничений на размер одного файла и может быть объединён инструментом llama-gguf-split. Лицензия — Apache-2.0. Условия применения квантованных вариантов, требования к аппаратным ресурсам и совместимость с конкретными средствами запуска в карточке подробно не указаны.

suayptalha/HomerCreativeAnvita-Mix-Qw7B — языковая модель, созданная слиянием двух моделей Qwen2.5-7B с помощью метода SLERP и инструмента mergekit. Она предназначена для генерации текста в диалоге и других сценариях, где требуется отвечать на запросы или следовать инструкциям. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2ForCausalLM, хранится в формате safetensors и поддерживает контекст до 32 768 токенов. В карточке приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH; автор заявляет высокие позиции среди моделей до 8B и 13B параметров. Эти результаты не гарантируют качество на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не уточняет поддерживаемые естественные языки и ограничения безопасного использования.

Arcee Homunculus-12B — языковая модель с 12,2 млрд параметров, созданная Arcee AI методом дистилляции Qwen3-235B-A22B на архитектуру Mistral Nemo. Она предназначена для диалогов и генерации текста: режим /think поддерживает развёрнутые рассуждения, а /nothink — краткие ответы. В README описана передача траекторий логитов и замена токенизатора Mistral на токенизатор Qwen3. Модель рассчитана на запуск на одной потребительской GPU; заявлены результаты 57,1% на GPQADiamond и 67,5% на MMLU. Контекст модели — 131 072 токена. В карточке указаны английский язык, библиотека Transformers и формат Safetensors; лицензия — Apache-2.0. Модель может подойти для исследовательских задач, связанных с дистилляцией рассуждений, а также для облегчённых производственных развёртываний. README предупреждает об экспериментальном характере такого применения и возможных затратах на задержку и память.

Huihui-Qwen3-30B-A3B-Instruct-2507-abliterated — производная модель huihui-ai на архитектуре Qwen3 MoE, созданная изменением Qwen/Qwen3-30B-A3B-Instruct-2507 методом abliteration. Она предназначена для диалогов, выполнения инструкций и генерации текста; интерфейс модели также поддерживает вызов инструментов. Модель рассчитана на контекст до 262 144 токенов и использует библиотеку Transformers. В метаданных указано 2,6 млрд параметров. Автор описывает её как экспериментальную версию с подтверждением концепции: методом abliteration существенно снижены отказы модели. Это может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

Это преобразованная в формат архитектуры Llama версия InternLM2 Chat 7B SFT, размещённая пользователем bartowski. Модель предназначена для генерации текста в диалоговом формате и может использоваться для ответов на запросы и ведения беседы. Модель содержит 7,4 млрд параметров и поддерживает контекст длиной до 32 768 токенов. README сообщает о конвертации из InternLM в формат Llama; в репозитории указан формат safetensors. Лицензия обозначена как other, поэтому условия её использования следует проверять в исходной карточке модели и у базовой модели.

InternVL2-2B — мультимодальная инструкционно-настроенная модель семейства InternVL 2.0, разработанная OpenGVLab. Она объединяет визуальный энкодер InternViT-300M-448px, MLP-проектор и языковую модель internlm2-chat-1_8b; общий размер составляет около 2,2 млрд параметров. Модель предназначена для диалога по изображениям и видео, визуальных вопросов и ответов, понимания документов и диаграмм, чтения текста на изображениях, а также научных и математических задач с визуальным контекстом. Модель принимает текст и изображения; README также сообщает об обучении на данных с видео и длинным текстом. Заявлено окно контекста 8 тысяч токенов. Карточка позиционирует её как мультиязычную, но конкретные языки не перечисляет. Для запуска предусмотрена интеграция с Transformers и LMDeploy. Репозиторий распространяется по лицензии MIT. Среди сильных сторон — сочетание диалоговых возможностей языковой модели с анализом изображений, документов, диаграмм и сценического текста; в README приведены результаты профильных визуальных и видео-бенчмарков. Описание не подтверждает отдельный выход с видео или структурированными рамками объектов: ответы модели формируются в текстовом диалоге.

InternVL2_5-8B-MPO — мультимодальная диалоговая модель OpenGVLab на основе InternVL2.5-8B, дообученная с использованием Mixed Preference Optimization. Архитектура сохраняет схему ViT-MLP-LLM: визуальный компонент InternViT объединён с языковой моделью через MLP-проектор. Для изображений применяется динамическое разбиение на фрагменты 448×448 и сокращение числа визуальных токенов; модель также поддерживает несколько изображений и видео в запросе. Модель предназначена для диалога по изображениям и видео, визуальных вопросов и ответов, анализа диаграмм и решения задач по визуальному содержимому. В README приведены результаты сравнений на мультимодальных тестах, включая OCRBench, MathVista и MMBench. Репозиторий содержит веса safetensors и рассчитан на запуск через Transformers; для инференса приведён пример с bf16/fp16. Лицензия — MIT. Это дообученная версия InternVL2.5-8B, поэтому её возможности и ограничения во многом связаны с базовой мультимодальной моделью. README не сообщает длину контекста и конкретный перечень поддерживаемых языков; метаданные характеризуют модель как мультиязычную.

InternVL3.5-8B — мультимодальная модель OpenGVLab для диалога и рассуждений по тексту и изображениям. Вариант построен на InternVL3.5-8B-MPO и дообучен на данных OpenGVLab/MMPR-v1.2 и MMPR-Tiny; архитектура — плотная InternVLChatModel. Модель распространяется в формате safetensors и поддерживает Transformers. Модель предназначена для ответов на вопросы об изображениях, визуального рассуждения, распознавания текста на изображениях и диалоговых сценариев с изображениями. В семействе InternVL3.5 применяются Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптации разрешения визуальных токенов. В README также заявлены возможности взаимодействия с GUI и embodied-сценарии для семейства, но их поддержка именно этой версии 8B отдельно не уточняется. Модель принимает изображения и текстовый контекст и генерирует текстовые ответы. Карточка характеризует языковую поддержку как многоязычную, но конкретные языки и длина контекста для этого репозитория не приведены. Лицензия — Apache-2.0. Для инференса описано использование Transformers; обработка нескольких изображений увеличивает число входных токенов и может требовать большего контекстного окна.

J.O.S.I.E. — чат-модель и ассистент, разработанный Gökdeniz Gülmez. Это дообученная на пользовательских наборах DPO модель на базе Goekdeniz-Guelmez/Josiefied-Qwen2.5-7B-Instruct-abliterated-v2 с архитектурой Qwen2 и 7,1 млрд параметров. Она предназначена для диалоговой генерации текста и выполнения запросов пользователя; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache 2. README описывает её как ассистента с менее ограниченным поведением, однако подробности обучающих данных и системного промпта в доступной карточке опущены.

Blackfrost-AI/K2-Horizon-MoVA-36B-A4B-DERISKED-BF16 — экспериментальный производный чекпойнт Blackfrost на базе IFM/K2-Horizon-MoVA-36B-A4B. Это причинная языковая модель семейства K2 Horizon с архитектурой MoE и модификациями поведения, внесёнными непосредственно в веса. В карточке указано 36 млрд параметров всего и 4 млрд активных на токен; метаданные каталога сообщают 3,7 млрд параметров. Контекстная конфигурация рассчитана на 524 288 токенов, но возможность использовать весь контекст зависит от оборудования и среды запуска. Модель предназначена для диалоговой генерации текста, рассуждений и агентных сценариев; она сохраняет исходные токенизатор, шаблон чата и форматы вызова инструментов K2 Horizon. Поддерживаются структурированные сообщения ролей и выбор уровня рассуждений. Заявленная модификация не является системным промптом, адаптером или фильтром на этапе декодирования. Карточка не приводит количественных оценок качества модифицированного чекпойнта; широкие способности, многоязычность, длинный контекст и вызовы инструментов ещё не прошли полную проверку. Модель распространяется в BF16 в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка помечает её как исследовательский эксперимент; репозиторий закрыт на время проверки конкретного артефакта. Для запуска может потребоваться доверенный пользовательский код модели, а совместимость инструментов зависит от среды обслуживания.

K2S3-14b-v0.2 — текстовая генеративная модель, разработанная K2S3 на основе весов mistralai/Mistral-7B-v0.1. Авторы увеличили глубину модели, примерно удвоив её размер, добавили корейскую лексику и слияния в токенизатор, а затем провели полнопараметрическое обучение методом SFT. Модель содержит 14,2 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых задач на английском и корейском языках. В обучении использовались alpaca-gpt4-data и примеры из набора The OpenOrca Dataset. Репозиторий предоставляет веса в формате Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Kimi-K2-Instruct-4bit — это 4-битная версия модели Kimi-K2-Instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели moonshotai/Kimi-K2-Instruct. Конвертация выполнена с использованием mlx-lm версии 0.26.0. Модель предназначена для генерации текста в сценариях, поддерживаемых библиотекой mlx-lm, включая диалоговое взаимодействие и выполнение инструкций. README указывает текстовую генерацию и использование chat template, однако сведения об архитектуре, числе параметров, поддерживаемых языках, длине контекста и дополнительных модальностях не приведены. Основная особенность модели — 4-битное представление, рассчитанное на запуск в экосистеме MLX. Это может снизить требования к памяти по сравнению с полноразмерной версией, но README не содержит результатов оценки качества, производительности или подробностей ограничений квантования. Лицензия указана как modified-MIT; условия её модифицированного варианта следует проверить в сопроводительных материалах модели.

ewof/koishi-8x7b-qlora — языковая модель семейства Mixtral, дообученная автором с помощью QLoRA на наборе инструкций koishi-instruct-metharme. В README указано, что обучение проводилось один проход по данным с использованием Axolotl и что адаптер был объединён с базовой моделью mistralai/Mixtral-8x7B-v0.1; в метаданных размер указан как 7,1 млрд параметров, а архитектура — MixtralForCausalLM с механизмом mixture-of-experts. Модель предназначена для генерации текста в ответ на пользовательские запросы и ведения диалогов с указанным в карточке форматом ролей; контекст составляет до 32 768 токенов. Модель принимает текст и генерирует текст. README не указывает поддерживаемые естественные языки, поэтому языковая специализация не установлена. Опубликованы веса PyTorch. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Результат зависит от инструкций и обучающих данных; независимые оценки качества в карточке отсутствуют.

jaspionjader/Kosmos-EVAA-Franken-stock-v42-8B — слитая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В основе лежит jaspionjader/kstc-5-8b; в слияние также включены jaspionjader/kstc-4-8b и jaspionjader/bbb-6. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и работает в библиотеке Transformers; веса представлены в формате safetensors и bf16. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. Язык модели в предоставленных данных не обозначен. Лицензия и конкретные оценки качества в карточке не приведены.

LFM2-1.2B-Extract — компактная языковая модель Liquid AI на базе LFM2-1.2B, дообученная для извлечения значимой информации из неструктурированных документов и преобразования её в заданный формат: JSON, XML или YAML. Модель построена на плотной архитектуре LFM2 и имеет около 1,5 млрд параметров. Она принимает текст и выдаёт структурированный текст; контекст — до 128 000 токенов. Модель предназначена для обработки статей, расшифровок, отчётов, писем, нормативных документов и обращений в поддержку. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Для более точного соответствия формату и схеме рекомендуется задавать системную инструкцию; разработчик советует использовать жадное декодирование с temperature=0. По данным README, на внутренней оценке модель показала сильные результаты в формировании сложных структурированных объектов, однако качество зависит от документа и схемы. Модель рассчитана на однократные диалоги. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

LFM2.5-VL-3B — мультимодальная модель Liquid AI для обработки изображений и текста, рассчитанная на эффективный запуск на устройствах и в сценариях с низкой задержкой. Это дообученная версия LFM2.5-2.6B-Base с языковой основой LFM2.5-2.6B и визуальным энкодером SigLIP2 NaFlex на 400 млн параметров; архитектура модели — плотная, класс Lfm2VlForConditionalGeneration. Модель принимает изображения и текст и генерирует текст. Контекст — 32 768 токенов; заявлена поддержка 16 языков, включая русский, английский, китайский, арабский, японский и другие. Модель предназначена для визуального диалога, распознавания текста на сканах с разметкой расположения, поиска объектов по запросу на естественном языке и перевода надписей на меню или дорожных знаках. Она поддерживает вызов инструментов. В README указаны высокая скорость инференса и работа примерно в 3 ГБ памяти, что делает её подходящей для локального развёртывания и пакетной обработки документов. Модель рекомендована для одношаговых высокопроизводительных задач; она не подходит для задач с длинным контекстом и интенсивными рассуждениями, например проектирования по чертежам. Формат разметки страниц для OCR экспериментальный и может быть ненадёжным или меняться. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели.

parmanu-lcs2/Llama-3.1-6B-Instruct — сжатая обрезкой версия Meta-Llama-3.1-8B-Instruct, подготовленная автором репозитория parmanu-lcs2. Модель использует плотную архитектуру Llama для генерации текста и диалогов. После обрезки в ней около 6,03 млрд параметров; метаданные указывают 7,5 млрд. Репозиторий содержит веса в формате safetensors, а библиотека для работы с ними — Transformers. Заявленная длина контекста — 131 072 токена. Обрезка выполнена методом SNIPER с целевым коэффициентом сжатия 25%; после неё модель дообучили LoRA на 2 000 примерах SlimOrca в течение одной эпохи, затем объединили адаптеры с весами. Модель рассчитана на текстовые запросы и ответы в чате. В README указана длина контекста 1 024 токена для этапа восстановительного дообучения, поэтому качество работы на длинном контексте отдельно не подтверждено. Условия лицензии в предоставленных данных не приведены.

MaziyarPanahi/Llama-3-8B-Instruct-v0.4-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-v0.4. Модель разработана и квантована MaziyarPanahi и предназначена для генерации текста и диалоговых сценариев на основе инструкций. Модель относится к семейству Llama 3 и имеет размер 8B параметров, что указано в её названии. Доступны варианты квантования с разрядностью от 2 до 8 бит, поэтому можно выбирать баланс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается llama.cpp и рядом локальных инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие решения. К сильным сторонам относятся локальный запуск, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, результатах оценки, системных требованиях или лицензии, поэтому эти характеристики нельзя достоверно определить по представленным данным.

Llama 3 Tulu V2 8B — языковая модель-помощник от AllenAI, дообученная на базе meta-llama/Meta-Llama-3-8B на смеси общедоступных, синтетических и созданных людьми инструкций и диалогов. Модель с плотной архитектурой Llama содержит 7,5 млрд параметров и предназначена для генерации ответов в диалогах и выполнения разнообразных инструкций; основной язык — английский. Указанный родной размер контекста — 8129 токенов. Модель подходит для прототипирования англоязычных помощников, ответов на вопросы, объяснений и других задач генерации текста. В карточке приведены результаты сравнительных тестов, однако они не гарантируют качество для конкретного сценария. Модель не прошла этап выравнивания RLHF и не использует фильтрацию ответов во время работы, поэтому может выдавать небезопасный или проблемный контент. Лицензия репозитория — Apache 2.0; карточка также отмечает лицензию Meta Llama 3 для базовой модели.

MLX Community подготовила восьмибитную конверсию Llama 4 Scout 17B 16E Instruct для запуска через mlx-vlm на Apple Silicon. Это мультимодальная модель Meta семейства Llama 4 для диалога и понимания изображений; она принимает текст и изображения и генерирует текст. Модель поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки, а также интерфейс вызова инструментов. Модель подходит для диалоговых помощников, ответов на вопросы по изображениям и визуального анализа. В README указано, что веса преобразованы в формат MLX из meta-llama/Llama-4-Scout-17B-16E-Instruct с помощью mlx-vlm 0.1.21. Репозиторий использует лицензию «other»; условия следует сверить с карточкой исходной модели Meta.

KKHYA/llavaqwen2.5-32b-finetune-nm-mask-moe-4e-2k-2of4-imp-h200_20260815_093205 — языковая модель на архитектуре LlavaQwen2ForCausalLM с 32 млрд параметров. В метаданных указаны библиотека Transformers, форматы PyTorch и Safetensors, а также контекст длиной до 131072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. README сообщает, что модель обучена с нуля, но не содержит сведений о датасете, оценке качества или предполагаемых сценариях применения. Лицензия в предоставленных данных не указана.

Marcoroni 7b GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business и преобразованная в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama, имеет около 7 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. В карточке указаны английский язык и датасет Open-OrCA; исходная модель обозначена как Marcoroni-7b. Модель подходит для локального запуска и сценариев text generation, включая работу через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и совместимые библиотеки. GGUF поддерживает метаданные и специальные токены, а доступные варианты с разной разрядностью позволяют выбирать баланс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Для запросов рекомендуется шаблон Alpaca с секциями Instruction и Response. В README не указаны размер контекстного окна, результаты тестов, подробные сведения об обучении, мультимодальных возможностях или подтвержденные сильные стороны и ограничения качества, поэтому их нельзя оценить по имеющимся данным. Для модели заявлена лицензия CC BY-NC 4.0; поскольку она основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

MaziyarPanahi/MeliodasPercival_01_Inex16Calme — объединённая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Inex16Calme-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не приводит сведений о специализированной области применения или подтверждённых ограничениях качества.

Mengzi3-8B-Chat — диалоговая языковая модель Langboat для генерации текста. В метаданных указаны плотная архитектура семейства Llama, класс LlamaForCausalLM и 7,5 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для чат-общения и генерации ответов на китайском и английском языках. В карточке приведены результаты оценок MMLU, GSM8k и MATH, указывающие на проверку общих знаний и математических задач. Лицензия — Apache-2.0. Разработчики предоставляют модель без гарантий и призывают соблюдать требования закона и проводить необходимые проверки перед использованием в интернет-сервисах.

MiniCPM-V 2.6 — мультимодальная модель OpenBMB для понимания изображений и видео. Представленная версия — GGUF-квантизация, подготовленная bartowski на основе llama.cpp, предназначенная для локального запуска, в частности через LM Studio версии 0.3.0 и выше. Модель сочетает визуальный компонент SigLip-400M и языковую модель Qwen2-7B, всего около 8 миллиардов параметров. Она поддерживает мультиязычные сценарии, обработку одного и нескольких изображений, диалоговое рассуждение по изображениям и анализ видео. Модель принимает изображения с произвольным соотношением сторон и разрешением до 1,8 млн пикселей, например 1344×1344, а также ориентирована на задачи OCR. Сильными сторонами заявлены улучшенное качество по сравнению с MiniCPM-Llama3-V 2.5, понимание нескольких изображений, работа с видео и высокое качество распознавания текста. README также заявляет превосходство в понимании одиночных изображений над рядом популярных моделей, однако эти результаты приведены без подробностей о методике оценки. Ограничения включают возможную неточность или неподходящее содержание ответов, характерные для генеративных моделей. Лицензия в README не указана.

QuantFactory/Ministral-3b-instruct-GGUF — квантованная версия языковой модели ministral/Ministral-3b-instruct, созданная QuantFactory с использованием llama.cpp. В основе лежит GPT-подобная архитектура семейства Mistral с примерно 3 млрд параметров; модель дообучена на смеси общедоступных и синтетических наборов данных и основана на Mistral-7B-v0.1. Модель предназначена для генерации текста и инструкционного взаимодействия, включая запуск локальных сценариев благодаря квантованному формату GGUF. Она ориентирована прежде всего на английский язык и относится к моделям текстовой генерации. Ключевое преимущество — меньшее количество параметров по сравнению с крупными моделями Mistral, что потенциально упрощает локальное развертывание, однако README не указывает конкретные требования к памяти, варианты квантования, размер контекста, точные показатели качества или поддерживаемые модальности. Лицензия — Apache 2.0.

MaziyarPanahi опубликовал Mistral-7B-v0.2 — плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров. По карточке это базовая предобученная модель; упомянутая в README версия Instruct является отдельной моделью, дообученной на её основе. Модель предназначена для генерации текста и может использоваться в приложениях, где нужно продолжать заданный текст или формировать ответы по текстовому запросу. Контекстное окно составляет 32 768 токенов; в версии v0.2 также изменён параметр RoPE theta и отсутствует Sliding-Window Attention. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает языковой состав обучения и конкретные показатели качества, поэтому пригодность для отдельных языков и задач следует оценивать на собственных данных.